Dalla terapia neonatale ai laboratori di moda, il Prof. Emanuele Frontoni racconta casi reali in cui l’AI diventa alleata dell’uomo, migliorando la diagnosi, la qualità del lavoro e la creatività.
Un dialogo profondo su fiducia, trasparenza e limiti dell’intelligenza artificiale, tra human teaming, explainability e nuovi equilibri tra automazione e competenze umane. Un episodio che invita a ripensare cosa significa davvero essere “umani” nell’era dell’AI.
Link utili
Trascrizione
Davide: Ciao, benvenuti a una nuova puntata de Il Cantiere AI Podcast. Siamo qui con Emanuele Frontoni, professore di informatica all'Università di Macerata, esperto di intelligenza artificiale e co-direttore del laboratorio VRAI (Vision Robotics and Artificial Intelligence Lab).
Emanuele Frontoni: Esatto, è un laboratorio diffuso e sparpagliato tra vari atenei.
Davide: Sei anche autore di un libro di recente uscita, AI. L'ultima frontiera. Considerate e apprezzate lo sforzo dell'informatico che scrive in italiano, anche perché hai sottolineato che nessuna parola di quel libro è stata scritta da ChatGPT! Nel testo dai un approccio molto interessante e divulgativo sulle storie di collaborazione fruttuosa tra uomo e macchina. Partirei direttamente da questo: c'è una storia che hai raccontato nel libro che ti ha particolarmente colpito in quest'ottica?
Emanuele Frontoni: Sì, parto da lì con una piccolissima premessa. Tutte le storie che raccontiamo in giro per l'Italia e per l'Europa sono realizzate da ricercatrici e ricercatori nati nei nostri territori, che hanno studiato nelle nostre università e collaborato con imprese europee. Ci tengo a dirlo per ricordarci che tanta intelligenza artificiale nasce in Europa, non esistono solo le Big Tech americane.
La storia che vi racconto è legata alla neonatologia e ai bambini pretermine. È stata la prima volta che abbiamo dialogato approfonditamente con i clinici. Eravamo con il professor Carnielli, primario della terapia intensiva neonatale. Ci raccontò che era fondamentale misurare le asimmetrie di movimento di questi bambini, che essendo prematuri spesso sono grandi come la mia mano e pesano solo 600 o 700 grammi. Dalle asimmetrie di movimento è possibile capire se il cervello ha avuto dei problemi; i prematuri non sanno ancora respirare bene e, arrivando poco ossigeno, il cervello può subire dei micro-ictus, facendo sì che un lato del corpo si muova più dell'altro.
Fabio: E a occhio nudo immagino sia impossibile da notare.
Emanuele Frontoni: Esatto. L'essere umano non è fatto per guardare a occhio un bimbo sedato di 700 grammi e capirne le minime asimmetrie. Lì sono iniziate le nostre prime azioni di collaborazione. Abbiamo installato le nostre telecamere dotate di algoritmi capaci di analizzare questi micro-movimenti. L'algoritmo non fa diagnosi, ma restituisce un suggerimento: "Secondo me c'è qualche anomalia da approfondire". Il clinico, con la sua esperienza e responsabilità, valuta il dato e può somministrare tempestivamente un piccolo farmaco che permette a quel cervello giovanissimo di recuperare l'errore. Così questi bambini vivono, e vivono senza danni permanenti. Nessuno dei due, né l'essere umano da solo né l'intelligenza artificiale da sola, avrebbe potuto risolvere il problema.
Davide: È il concetto che la Commissione Europea chiama Human Teaming, giusto?
Emanuele Frontoni: Esatto, fare squadra con le macchine. Ma per farlo serve consapevolezza. Nelle nostre cene notturne, Carnielli mi chiedeva: "Ma come funziona l'algoritmo? Come faccio a vedere se sta funzionando e a fidarmi?". Questo è il grande tema della Explainability (la X di XAI, eXplainable AI). L'algoritmo deve poter spiegare il suo funzionamento a un essere umano. Senza questa trasparenza, nessun medico si fiderebbe. La fiducia si basa sulle domande: "Come sei stato addestrato? Che dataset hai usato?".
Fabio: A questo proposito, ho due domande pratiche. In un'applicazione così mirata, da dove avete pescato i dati per l'addestramento? E come avete risolto tecnicamente la questione dell'Explainability per convincere il primario?
Emanuele Frontoni: I dati sono arrivati innanzitutto da ore e ore di riprese di bambini in culla, grazie a un protocollo clinico svolto direttamente in reparto. Poi ci siamo chiesti come aumentarli. Abbiamo usato la Data Augmentation basata su AI generativa per creare virtualmente bambini piccoli che si muovono in tutte le posizioni e condizioni possibili. In questo settore la computer grafica del mondo dei videogiochi ci aiuta tantissimo! Per l'Explainability, l'algoritmo sovrappone dei "pallini" virtuali sui nodi del corpo (braccia, gambe, testa). Il clinico guarda lo schermo e verifica se quei punti stanno effettivamente seguendo le articolazioni reali: questa tecnica si chiama explainability by example. Mostri al medico un esempio pratico di come l'algoritmo sta interpretando il dato visivo, e questo genera fiducia.
Davide: Rimanendo sul tema della trasparenza, ho letto che hai sviluppato anche dei sistemi per la copy-move forgery detection, ovvero sistemi che identificano le falsificazioni nelle immagini. Funzionano con una logica simile?
Emanuele Frontoni: Sì, cercano anomalie statistiche invisibili all'occhio nudo in immagini manipolate. Le avevamo iniziate prima del boom dell'AI generativa, ma oggi sono utilissime. Ad esempio, nel mondo della moda, dove si fa moltissima digital production per abbattere i costi, usiamo quegli algoritmi per identificare rapidamente i difetti negli oggetti generati. Per quanto riguarda il testo, mia moglie (che è una prof di lettere) mi prende in giro dicendo che perdiamo tempo a fare questi algoritmi: un testo scritto dall'AI lo si riconosce benissimo! Se ci sono i "punti e virgola" messi in modo perfetto, al 99% è un'intelligenza artificiale!
Fabio: Eppure modelli come Sora per i video o le nuove versioni testuali diventano sempre più performanti e adattabili al contesto.
Emanuele Frontoni: È la classica battaglia tra virus e antivirus. L'AI generativa è ormai estremamente capace, ma mantiene comunque dei bias statistici evidenti. L'essere umano e la natura, invece, sono talmente variabili e pieni di sfumature che abbiamo ancora un buon margine. La sfida non è riconoscere perfettamente il testo AI, ma promuovere la trasparenza. Noi chiediamo ai nostri studenti di essere onesti: se un pezzo della tesi è scritto con Gemini, va evidenziato in nota, scrivendo quale strumento si è usato e quale prompt è stato inserito.
Davide: Ti faccio la domanda che ci pongono sempre nei corsi di formazione aziendale. Un testo o un prodotto creato in parte con l'AI, per te, ha lo stesso valore di uno realizzato in modo puramente "artigianale"?
Emanuele Frontoni: Essendo partito dallo scrivere il mio libro evitando accuratamente questi sistemi, per me l'opera puramente umana ha un valore affettivo e originale più alto. Ma dall'altro lato mi chiedo: quanto c'è di "umano" nel dover compilare l'ennesimo modulo burocratico o nello scrivere l'ennesimo noioso capitolo introduttivo per una tesi? Se riusciamo a delegare all'AI tutto quel lavoro ripetitivo, alienante e puramente compilativo, allora possiamo concentrarci per fare meglio ciò che ci rende davvero umani.
Fabio: E per quanto riguarda il mercato del lavoro? I ragazzi che oggi studiano queste materie, che lavoro andranno a fare?
Emanuele Frontoni: Il mercato del lavoro è già cambiato enormemente. Nelle nostre università l'esame è diventato per il 50% un hackathon pratico. Non ci interessa più valutare la singola nozione mandata a memoria, ma la capacità di usare quelle nozioni (che ormai trovi ovunque) per risolvere problemi reali in gruppo. Se in futuro esisteranno ancora lavori che consistono nel nascondersi dietro un monitor a controllare fatture o fogli Excel, beh... speriamo che scompaiano! Nessuno dei miei figli vorrà fare il lavoro che ho fatto io. Quando mi vedono scrivere codice riga per riga su uno schermo nero, impazzendo se manca un punto e virgola, mi guardano come fossi un minatore dell'Ottocento. I lavori puramente ripetitivi scompariranno perché i ragazzi, davanti a compiti "disumani", scapperanno a gambe levate.
Davide: Mi sembra di capire che anche la figura stessa del programmatore stia mutando.
Emanuele Frontoni: Noi informatici stiamo creando la tecnologia che rimpiazzerà alcune delle nostre stesse mansioni, una sorta di "suicidio di massa" organizzato! Ma scherzi a parte, oggi nessuno sviluppatore scrive codice senza assistenza. Un grande imprenditore italiano mi ha detto che nei colloqui per assumere programmatori la domanda principale è: "Quale strumento AI usi per programmare più velocemente e meglio?". Se il candidato risponde: "Nessuno, il codice me lo scrivo da solo", viene scartato! La produttività europea dipenderà dalla nostra capacità di integrare esseri umani e AI.
Fabio: Ieri sei stato a Lineapelle a parlare dell'integrazione tra l'intelligenza artificiale e il mondo della moda, con casi pratici su prototipazione e analisi della concorrenza. Come marketer, la cosa mi affascina molto.
Emanuele Frontoni: La moda è un settore cruciale per il Made in Italy. Stiamo portando l'AI per sollevare le persone da lavori usuranti. Guardare 80.000 foto su Instagram all'ora per identificare un nuovo trend non è un lavoro per esseri umani. L'AI generativa può analizzare tutto e restituirti una sintesi con le 10 immagini più significative, permettendo all'uomo di usare quelle reference per nutrire la vera creatività artigianale.
Davide: Per chiudere questo argomento: sarà la macchina ad assomigliare all'uomo o l'uomo ad assomigliare alla macchina?
Emanuele Frontoni: È una riflessione bellissima. Non mi occupo del primo aspetto, ma sul secondo faccio un appello a tutti: non umanizziamo la macchina! Dobbiamo smetterla di dire "buongiorno, per favore, grazie" a ChatGPT. Noi non diciamo "per favore" allo spremiagrumi! L'intelligenza artificiale non è umana; i suoi neuroni sono pure funzioni matematiche, quelli biologici sono un'altra cosa. Umanizzandola creiamo distorsioni pericolose, portando i ragazzi a usare i chatbot come confidenti o psicologi sentimentali. La macchina genera testi statisticamente probabili, ma non prova affetto, non conosce il reale contesto umano, non ci vuole bene e non sa chi siamo. È uno strumento formidabile, ma va usata come tale. Quando abbiamo inventato la lavatrice, non lo abbiamo fatto per simulare umanamente qualcuno che sbatteva i panni sulle rocce mille volte!
Fabio: Chiarissimo e sacrosanto! Siamo alle classiche tre domande finali. Partiamo con un consiglio di lettura.
Emanuele Frontoni: Nel mondo tecnologico nessuno ci ha mai insegnato l'etica. Vi consiglio i testi della mia collega Benedetta Giovanola, filosofa ed esperta di etica. In particolare, il libro Etica dell'intelligenza artificiale per le imprese è un compendio fondamentale, specialmente in vista delle regole di compliance introdotte dall'AI Act.
Davide: Un modello o un tool di intelligenza artificiale che usi spesso e che consiglieresti?
Emanuele Frontoni: Sono un grande appassionato dei modelli aperti (open source) e li consiglio caldamente alle aziende che vogliono proteggere i loro dati senza mandarli nei server americani. Modelli come Llama 3 di Meta o i modelli Granite di IBM si possono far girare anche sulle proprie infrastrutture interne, garantendo il pieno controllo sulla privacy aziendale.
Fabio: L'ultimo consiglio: un podcast, un film, una serie TV o un video imperdibile.
Emanuele Frontoni: Vi rimando a Fei-Fei Li, grandissima scienziata di Stanford considerata la "madre" dell'AI moderna, che mi ha fatto l'onore di scrivere la prefazione al mio libro. Andate su YouTube o sul sito TED e cercate il suo ultimo TED Talk. È bellissimo, parla di cosa vedono i nostri occhi e di cosa vedranno le macchine in futuro, aprendo le porte a quella che chiama Spatial Intelligence, l'intelligenza artificiale che si relaziona fisicamente con il nostro mondo.
Davide: Bellissimo consiglio. Grazie mille, Emanuele, e complimenti ancora per il libro e per il tuo lavoro!
Emanuele Frontoni: Grazie a voi, ciao a tutti!