Dai primi robot multi-agente degli anni ’90 all’intelligenza artificiale che decide da sola. In questo episodio il Prof. Francesco Amigoni racconta come si è evoluto il rapporto tra AI e robotica, dai sistemi di pianificazione classica al deep learning, fino ai nuovi modelli autonomi capaci di collaborare.
Scopriamo cosa sono davvero gli “agenti”, come imparano, e perché la fiducia resta la chiave per portarli nel mondo reale.
Link utili
Trascrizione
Davide: Ciao a tutti, benvenuti a una nuova puntata di Cantiere AI Podcast. C'è con noi oggi il professor Francesco Amigoni del Politecnico di Milano. Buongiorno e grazie di essere qui!
Francesco Amigoni: Buongiorno, grazie dell'invito.
Davide: Professore, le chiederei di presentarsi brevemente: quali sono i suoi ambiti principali di ricerca e come utilizza l'intelligenza artificiale nei suoi studi?
Francesco Amigoni: Ho cominciato a occuparmi di intelligenza artificiale ai tempi della mia tesi di laurea, nel 1995. Già allora studiavamo aspetti che coniugavano l'AI con la robotica, innestando un terzo tema ai tempi molto innovativo: la moltiplicità dei sistemi intelligenti. Non un solo sistema, ma più sistemi che interagiscono all'interno di uno stesso ambiente. Di questi tre macrotemi (intelligenza artificiale, robotica e sistemi multi-agente) mi occupo ininterrottamente fino ai giorni nostri.
Fabio: Fino a quanti sistemi diversi è riuscito a integrare per lo stesso task?
Francesco Amigoni: In sistemi fisici veri, che funzionano nel mondo reale, arriviamo al massimo a una decina. Nelle simulazioni, invece, si arriva anche a parecchie centinaia. Il problema dei sistemi reali è che ci sono costi: bisogna caricare le batterie, fare manutenzione su tanti dispositivi diversi, e diventa complicato scalare se non si ha un grande apparato industriale alle spalle.
Davide: Nel dettaglio, questi 10 sistemi fisici che citava, in cosa consistono praticamente?
Francesco Amigoni: Li abbiamo applicati a robot mobili, ovvero robot su ruote che si coordinano per svolgere determinate attività all'interno di un ambiente. Oppure ad elettrodomestici; non quelli attualmente in commercio, ma prototipi con un'intelligenza a bordo molto superiore, come lavatrici, lavastoviglie o frigoriferi.
Fabio: Lei ha iniziato nel '95, quindi ha visto parecchie evoluzioni tecnologiche. Potrebbe indicarci un momento di svolta fondamentale, un vero "prima e dopo"?
Francesco Amigoni: Sicuramente l'avvento del Deep Learning. Per inquadrare la situazione: prima del Deep Learning, il progettista forniva al sistema un modello su come funzionava il mondo, e il sistema decideva quali azioni fare per raggiungere l'obiettivo. L'esempio classico è il navigatore GPS dell'auto: il progettista ha inserito la mappa delle strade e i limiti di velocità, e il sistema si limita a calcolare il percorso da A a B. Con l'avvento del Machine Learning e del Deep Learning, favoriti dall'enorme disponibilità di dati e potenza di calcolo, c'è stato un salto concettuale pazzesco. Non è più il progettista a fornire il modello, ma è il sistema stesso che lo apprende esplorando l'ambiente. È come se il navigatore imparasse guidando in giro che passando per via Marconi può arrivare da via Dante a via Garibaldi.
Davide: E il passo successivo sono proprio gli agenti.
Francesco Amigoni: Esatto, è il tema in cui stiamo entrando a livello mainstream oggi. Quando metti 2, 10 o 1000 sistemi intelligenti in un ambiente, devono andare d'accordo. Questo "andare d'accordo" può voler dire ignorarsi, come fa un'auto autonoma che considera le altre auto solo come ostacoli mobili da evitare. Oppure, all'estremo opposto, può significare riconoscere che gli altri agenti sono entità capaci di prendere decisioni e tenerne conto. È quello che succede quando si gioca a scacchi: si attribuiscono intenzioni e capacità razionali all'avversario e si agisce di conseguenza. La grande sfida dei sistemi multi-agente, sia per competere a scacchi che per collaborare spostando pacchi in un magazzino senza scontrarsi, è esattamente questa.
Fabio: Giusto per specificare a chi ci ascolta: la micro-definizione di "agente" è un'AI che può compiere azioni pratiche nell'ambiente?
Francesco Amigoni: Per essere precisi, gli agenti possono fare due cose: percepire l'ambiente e fare delle azioni. Se l'agente è un'auto autonoma, le percezioni arrivano da telecamere e sensori, e le azioni sono frenare, accelerare o svoltare. Ma vale anche per ChatGPT: possiamo vederlo come un agente in cui le percezioni sono il prompt che l'utente inserisce, e l'azione è la risposta di testo che genera.
Davide: Oggi a livello commerciale si tende a dire che tutto è "agente", ma finché diamo un prompt per ricevere un testo e fare un copia-incolla, siamo limitati. Con applicazioni nuove o framework come LangChain e Copilot, stiamo arrivando ad agenti che navigano autonomamente e compiono sequenze di azioni sul computer dell'utente.
Francesco Amigoni: Sì, e questo permetterà di sfruttare la specializzazione di agenti diversi. Potrei avere un'istanza di ChatGPT specializzata a trovare indirizzi email di potenziali clienti e un'altra istanza bravissima a scrivere lettere commerciali convincenti. La prima trova l'indirizzo e lo passa automaticamente alla seconda, che scrive e invia l'email. Come nel mondo reale le aziende assemblano parti diverse per fare un prodotto, avremo agenti specializzati che uniscono le forze per compiti più complessi.
Fabio: Nella sua esperienza, ci sono linee guida su fino a che punto convenga "spezzettare" un task in sotto-task elementari?
Francesco Amigoni: Dipende tantissimo dall'ambito applicativo. La regola di base è fermarsi al livello in cui l'agente è già capace di fare l'azione completa in modo autonomo. Se ho un agente capace di scrivere un'ottima email, non ho bisogno di dividerlo in un agente che scrive l'introduzione e uno che scrive la conclusione. Per i robot fisici è molto più semplice definire queste competenze: un robot su ruote non può manipolare un pezzo meccanico come farebbe un braccio robotico, quindi il limite è fisico ed evidente.
Davide: Nei vostri studi, vi è mai capitato di essere sorpresi dalle soluzioni trovate dai sistemi multi-agente? Si sono mai dimostrati creativi?
Francesco Amigoni: Sulla definizione di "creatività" si entra in una sfera filosofica complessa. Sicuramente ci hanno sorpreso. Vi faccio un esempio concreto: avevamo una simulazione 3D con due mini-robot; uno doveva scappare e l'altro rincorrerlo. Il robot in fuga ha imparato a usare dei blocchi a disposizione per costruirsi un recinto impenetrabile in cui chiudersi dentro. L'ambiente di simulazione, però, aveva un difetto di programmazione (un baco). C'era un blocco statico che, se un agente ci saltava sopra e provava a camminarci, si muoveva. Il robot inseguitore ha scoperto questo errore a furia di tentativi e lo ha sfruttato per "navigare" sul blocco e saltare dentro al recinto chiuso dell'avversario!
Fabio: Incredibile! Sfruttano i glitch del sistema!
Francesco Amigoni: Esatto. In un'altra simulazione, due agenti facevano una gara di corsa di 100 metri. Uno ha scoperto che, uscendo appositamente dalla pista, il simulatore per un baco lo faceva cadere e rotolare in avanti a una velocità molto superiore a quella di chi correva, vincendo così la gara!
Davide: Fa molto ridere, ma mi viene spontaneo domandarmi: finché siamo in simulazione ok, ma se questo robot fosse usato in ambito biomedicale o industriale? C'è il rischio che a causa di questi comportamenti imprevedibili sfugga al controllo e compia dei danni?
Francesco Amigoni: Il rischio c'è, ma la risposta va data su due livelli. Il primo è che questi bachi sono legati ai simulatori, non all'intelligenza dell'agente. Nel mondo reale la forza di gravità è quella, non ci sono "bachi" nella fisica! Il secondo punto è che, proprio per questioni di affidabilità, in applicazioni industriali critiche i sistemi che apprendono probabilisticamente non sono ancora visti benissimo. Spesso è meglio usare l'intelligenza artificiale "vecchio stile" basata sulla pianificazione (come l'esempio del GPS). Se l'AI usa la pianificazione, io garantisco matematicamente all'azienda che il robot arriverà al punto B in sicurezza. Un'azienda non comprerebbe mai un robot logistico se le dicessi "ha un'alta probabilità di arrivare, ma non ne sono sicuro".
Fabio: A proposito di logistica, quali sono i KPI (indicatori di prestazione) che misurate per flotte di robot nei magazzini?
Francesco Amigoni: I dati specifici li tengono le aziende, ma in genere ci sono due tipologie di metriche molto diverse e spesso incommensurabili. Da una parte si misura la strada percorsa, che è direttamente legata al consumo delle batterie. Dall'altra si misura il tempo impiegato o il numero di ordini completati all'ora. Il problema è che massimizzare i pacchi consegnati non corrisponde quasi mai a minimizzare la strada percorsa, sono obiettivi in contrasto tra loro.
Fabio: È il famoso problema di Google Maps che a volte per farti risparmiare 30 secondi ti manda in stradine sterrate impensabili! Ma per quanto riguarda l'impatto sulla società di questi agenti, come possiamo limitarne i rischi e promuoverne uno sviluppo positivo?
Francesco Amigoni: Serve un'azione su due livelli. A livello macro, serve una regolamentazione chiara. Io sono personalmente molto favorevole all'AI Act europeo. Non mi convince la retorica secondo cui le regole bloccano l'innovazione. Pensate ai trasporti o alle auto: sono settori iper-regolati, ma siamo passati dalle carrozze alle auto elettriche, c'è un'innovazione continua.
Davide: È vero, l'esempio perfetto è la Formula 1: è iper-regolamentata, ma i limiti attivano la creatività estrema degli ingegneri!
Francesco Amigoni: Esatto! L'importante è mettere dei paletti entro cui far fiorire l'innovazione in modo opportuno. A livello micro, invece, serve la consapevolezza dei singoli individui. Dobbiamo capire che questi sistemi ci supportano, ma non devono sostituire le nostre competenze.
Fabio: In che senso? Se fanno il lavoro sporco per me, non è meglio delegare?
Francesco Amigoni: Va benissimo farsi scrivere l'email o il contratto dall'AI per risparmiare tempo, ma io devo mantenere la capacità e la competenza di farlo da solo, perché solo così potrò controllare e correggere la macchina se sbaglia. Se per 99 volte il contratto va bene, ma la centesima volta l'AI inserisce una clausola sbagliata e io mi sono fidato ciecamente, nascono problemi enormi. Lo stesso vale se affido il codice software di una centrale nucleare o di un trasporto pubblico a Copilot e nessuno è in grado di verificarne la correttezza. Va benissimo che la calcolatrice ci faccia le somme, ma noi dobbiamo saper contare per avere l'intuizione che un risultato non ha senso.
Davide: Siamo in chiusura! Le faccio una domanda sul futuro. Quali sono i progetti che la entusiasmano di più in vista dei prossimi anni?
Francesco Amigoni: Tra le applicazioni a breve termine c'è il progetto CADRE della NASA: un sistema multi-robot che sperabilmente l'anno prossimo andrà sulla Luna per esplorarla in modo coordinato. Passare da un magazzino strutturato con il Wi-Fi a un ambiente lunare inesplorato è un grandissimo salto tecnologico, e utilizzeranno algoritmi simili ai nostri. Come prospettiva più a lungo termine, mi affascina tantissimo capire come si evolverà la nostra società con la compresenza e l'ibridazione tra esseri umani e sistemi multi-agente che competono o collaborano tra loro.
Fabio: Chiudiamo con il nostro "rito" finale delle tre domande veloci. Qual è il prompt o l'istruzione che usa più spesso in questo periodo?
Francesco Amigoni: In realtà nulla di particolare, uso pochissimo ChatGPT o tool simili in modo generativo. Lo uso per fare qualche controllo, ma preferisco fare le cose a mano!
Davide: Un libro tecnico o divulgativo che ci consiglia per approfondire?
Francesco Amigoni: Se volete un manuale tecnico fenomenale, vi consiglio la "bibbia" dell'ambito accademico: Intelligenza artificiale. Un approccio moderno di Stuart Russell e Peter Norvig. Sono due volumoni grossi ma sono la base.
Fabio: L'ultimissima: un film, una serie TV o un podcast a tema robotico o AI?
Francesco Amigoni: Su questa mi cogliete totalmente impreparato, mi avete affondato!
Davide: Va benissimo, abbiamo già detto tantissime cose interessanti ed è stato utilissimo! Grazie infinite per il suo tempo e per essere stato con noi!
Francesco Amigoni: Grazie mille a voi, buona giornata e arrivederci!