Se l'Intelligenza Artificiale ci rende più pigri e meno capaci, come possiamo gestirla? Il Professor Federico Cabitza, esperto di interazione uomo-macchina (HCI) dell'Università di Milano-Bicocca, smonta le narrazioni più superficiali sul rapporto con l'AI.
Dalla paura del deskilling alla necessità di introdurre un "attrito cognitivo" consapevole, questa intervista è una profonda riflessione su come l'essere umano possa coltivare una nuova "Intelligenza Ibrida" per rimanere sempre in controllo.
Ascolta la lezione di uno dei massimi esperti italiani sull'intersezione tra informatica, psicologia cognitiva e design dell'interazione.
Link utili
Trascrizione
Davide: Ciao a tutti, siamo qui per una nuova puntata di Cantiere AI Podcast con il professor Federico Cabitza dell'Università di Milano-Bicocca. Professore, intanto se si vuole presentare un attimo, spiegando in quali corsi di laurea insegna attualmente.
Federico Cabitza: Sono abbastanza fortunato, perché sono coinvolto in corsi di laurea appena attivati che mostrano una certa vivacità intellettuale. Io insegno praticamente interazione uomo-macchina. Dico "praticamente" perché nei vari corsi di laurea esistono nomi un po' diversi: Human-System Interaction, Human-Computer Interaction. Insegno in un corso triennale dedicato proprio all'Artificial Intelligence e in tre lauree magistrali: uno in informatica, erogato in italiano, e gli altri due in inglese, ovvero Human-Centered AI e AI for Science and Technology. Questi ultimi due fanno parte di un'offerta formativa sviluppata in sinergia da tre atenei: Milano-Bicocca, Statale di Milano e Università di Pavia.
Davide: Lei si è sempre occupato di interazione uomo-macchina, fin dalla sua tesi. Come è cambiato questo mondo con l'arrivo dell'intelligenza artificiale?
Federico Cabitza: In realtà, la ricerca nell'Intelligenza Artificiale corre parallela e con pochi punti di contatto rispetto a quell'altra sottodisciplina che va sotto il nome di Human-Computer Interaction. Nel 2009, l'autore Jonathan Grudin ha però colto un punto di contatto molto importante: entrambe le discipline si occupano dello studio del "nexus", della connessione tra l'informatica e il comportamento intelligente, che può essere esibito tanto dagli esseri umani quanto dalle macchine. L'interazione uomo-macchina riguarda più la progettazione, lo sviluppo e la valutazione delle modalità migliori con cui gli esseri umani interagiscono con i sistemi. Per "interazione" si intende la mutua influenza: noi influenziamo le macchine tramite input (tastiera, mouse), ma le macchine, attraverso il loro output, influenzano il nostro comportamento. L'obiettivo è migliorare la nostra efficacia, l'efficienza e la soddisfazione.
Fabio: Ho letto recentemente di uno studio preliminare del MIT in cui hanno analizzato l'attività cerebrale di vari gruppi, alcuni dei quali utilizzavano ChatGPT e altri no. Sembrava suggerire che l'uso di ChatGPT porti il cervello a essere meno stimolato. È una cosa che ha notato anche lei?
Federico Cabitza: È una congettura sulla quale ci sono evidenze di varia qualità. Quel lavoro non è ancora stato revisionato e, se valutato da persone competenti, ne uscirà molto ridimensionato. Usa metodologie innovative come elettroencefalogrammi non invasivi, ma temo che la domanda di ricerca sia mal formulata: hanno dato un compito di scrittura di 20 minuti, che è pochissimo. Il risultato interessante di quello studio, in realtà, riguarda il gruppo che inizialmente non ha usato lo strumento e che poi, usandolo in un secondo momento, ne ha tratto molto più profitto e coinvolgimento rispetto a chi lo aveva usato fin dall'inizio.
Fabio: Quindi c'è il rischio di spegnere il cervello?
Federico Cabitza: Quando si utilizza uno strumento molto potente, c'è quel fenomeno noto come cognitive offloading, ovvero il trasferimento verso l'esterno di una serie di capacità cognitive. Lo facciamo perché la selezione naturale ci spinge a risparmiare energia. L'offloading è il motivo per cui non ricordiamo più i numeri di telefono a memoria o non facciamo calcoli veloci a mente, perché abbiamo lo smartphone e la calcolatrice. Anche in ambito medico, affidarsi troppo a un sistema di supporto diagnostico può portare a una maggiore difficoltà nel prendere decisioni da soli. Un effetto probabile è il deskilling, l'erosione delle proprie competenze, dovuta proprio alla comodità. Ogni decisione costa fatica, la cosiddetta decision fatigue, quindi le persone tendono ad abusare di queste scorciatoie.
Davide: Questo concetto del deskilling lo vediamo anche a scuola: gli insegnanti dicono "gli studenti copieranno e basta". Esistono strategie o comportamenti più efficaci nell'interazione con la macchina per evitare questa perdita di competenze?
Federico Cabitza: Dobbiamo tendere a sviluppare un'intelligenza ibrida, che emerge dalla combinazione di intelligenza umana e artificiale. Per evitare l'erosione delle competenze e la perdita di "agency" (il senso di controllo sulle nostre decisioni), sto studiando una famiglia di protocolli chiamata Frictional AI. Si tratta di un'intelligenza artificiale che introduce attrito cognitivo, ovvero "un'inefficienza programmata". Invece di offrire scorciatoie troppo facili, il sistema introduce elementi di difficoltà che obbligano l'umano a riflettere e a tenersi in esercizio.
Fabio: Può farci un esempio?
Federico Cabitza: Il protocollo più semplice è l'approccio Human-First: il sistema richiede al decisore di formulare una sua ipotesi preliminare prima di potergli svelare il suggerimento dell'AI. In ambito medico, questo significa formulare una diagnosi da soli, e solo dopo vedere il parere della macchina. Questo tiene in esercizio la mente e introduce un effetto di sottile competizione. Un po' come quando consulti un collega anziano per una second opinion: non vuoi fare brutta figura, quindi prima ci ragioni tu e poi ascolti cosa ne pensa lui.
Davide: Aveva accennato anche alla tecnica dell'"avvocato del diavolo". Come funziona in ambito biomedicale?
Federico Cabitza: Immaginiamo un medico che valuta una risonanza magnetica del ginocchio per identificare delle lesioni e decreta che l'immagine sia "negativa". L'avvocato del diavolo è un sistema che evidenzia con mappe di calore alcune aree del tessuto, insinuando il dubbio che potrebbe esserci una piccola frattura o infiammazione. È una frizione molto forte, perché contesta la prima interpretazione umana, costringendo il medico a ricontrollare quegli aspetti.
Davide: A livello pratico, come avete svolto questa ricerca? Avete usato modelli clinici specifici con dei prompt?
Federico Cabitza: Di solito in questi test non utilizziamo l'intelligenza artificiale generativa, ma usiamo l'approccio "Mago di Oz", o se preferite il "villaggio Potëmkin". All'utente viene presentata un'interfaccia, ma dietro non c'è una vera AI in tempo reale, bensì delle logiche programmate a priori da noi. A noi non interessa testare l'accuratezza clinica del modello, ma vogliamo isolare e studiare l'impatto psicologico dell'interazione. In uno studio su oltre 16.000 diagnosi fatte da più di 330 medici, abbiamo analizzato quanto si fidassero della macchina.
Fabio: E cosa avete scoperto?
Federico Cabitza: Abbiamo isolato due bias enormi. Il primo è l'Automation Bias: il medico indovina la diagnosi giusta, ma la macchina gli dà un suggerimento sbagliato. Il medico ci ricasca, cambia la sua idea corretta e asseconda l'errore della macchina. Il secondo, ed è il peggiore, è il Confirmation Bias (o Conservatism Bias): il medico sbaglia la diagnosi, la macchina gli fornisce il suggerimento corretto, ma lui lo ignora per ostinarsi sulla sua idea sbagliata iniziale. Abbiamo notato che quest'ultimo bias è molto più frequente dell'automation bias. Significa che non hanno sviluppato una fiducia calibrata: questo problema non si risolve migliorando i server, ma formando le persone.
Fabio: È divertente perché sta anticipando molte mie domande. L'interazione uomo-macchina, quindi, ha una forte sovrapposizione con la psicologia cognitiva?
Federico Cabitza: Assolutamente. Io sono un ingegnere informatico, ma mi occupo di ingegneria dei fattori umani. Nel mio gruppo ho assunto praticamente solo psicologhe. Mi occupo da anni di Computer-Supported Cooperative Work (CSCW), studiando l'impatto dei sistemi informatici nei contesti collaborativi e sociali, cercando di mitigare i rischi e ottimizzare i vantaggi.
Davide: Facendo un salto in avanti, parlando di interfacce: Meta spinge per gli occhiali intelligenti, ci sono le spille come Rabbit... la tastiera e il mouse spariranno?
Federico Cabitza: Da appassionato di fantascienza, nessuna interfaccia mi è aliena. C'è un evidente tentativo di superare la tastiera e il multitouch. Le tecnologie speech-to-text e vocali prenderanno sempre più piede. Ma ricordiamoci la regola aurea: anche parlare costa fatica! La tendenza è sempre verso il minor dispendio di energia. Il futuro vero sarà interfacciarsi senza dover nemmeno emettere suoni. Ad esempio, il progetto EGO del MIT rileva i microscopici movimenti muscolari della lingua quando "pensiamo" alle parole, trasformandoli in testo senza bisogno di parlare ad alta voce. La soluzione che vincerà il mercato sarà quella che chiederà meno energia e attenzione all'essere umano, perché per natura siamo cognitivamente avari.
Fabio: Ed è per questo che l'AI sta spopolando così in fretta rispetto al passato: è troppo comoda. Per chiudere, le faccio tre domande veloci. Un libro che ci consiglia?
Federico Cabitza: Sull'AI contemporanea consiglio Co-Intelligence di Ethan Mollick, recentemente tradotto dalla Luiss University Press. Ma per un tocco di "romanticismo", consiglio il libro che mi ha ispirato a occuparmi di questo settore: The Glass Cage (La gabbia di vetro) di Nicholas Carr. Si inserisce in quel filone inaugurato dal bellissimo libro di Edward Tenner, Why Things Bite Back (Quando le cose si ribellano), che parla proprio delle conseguenze inattese della tecnologia.
Fabio: Un prompt o un modello LLM che usa spesso?
Federico Cabitza: Sono un abbonato a ChatGPT, ma uso anche Claude e Gemini. Non ho un prompt magico e non oso definirmi un esperto di prompt engineering. Uso molto la tecnica della "personificazione", chiedendo all'AI di agire come uno specifico professionista. Il vero segreto, come suggerisce Mollick, è trattare l'AI come se fosse un giovane collaboratore: fare il buon manager. Spiegare l'obiettivo, l'output atteso e le aspettative. È una soft skill fondamentale per interagire responsabilmente con questi sistemi.
Davide: Una serie TV o un film?
Federico Cabitza: Essendo appassionato di fantascienza, dico Ex Machina, forse il film più bello sull'AI degli ultimi 15 anni. E per la mia formazione, 2001: Odissea nello spazio, che mi ha affascinato fin dall'adolescenza con la sua intelligenza artificiale evoluta. E ovviamente l'intramontabile Star Trek originale.
Fabio: Grazie mille professore. Sappiamo che sta scrivendo anche il suo secondo libro, giusto?
Federico Cabitza: Sì, lo sto scrivendo insieme a un bravissimo massmediologo per colmare un vuoto letterario in Italia: parlerà proprio di intelligenza ibrida e interazione uomo-macchina. Il mio primo libro ho avuto la grande fortuna di scriverlo a quattro mani con uno dei massimi esperti mondiali di etica dell'AI, il professor Luciano Floridi. Ma scrivere il secondo è sempre più difficile!
Davide: Lo aspetteremo con curiosità. Grazie infinite per il suo tempo e per la splendida chiacchierata!
Federico Cabitza: Grazie a voi, a presto!