Nel magico mondo dell'IA, dove i sistemi devono elaborare contemporaneamente testi, immagini, suoni e video, esiste da tempo un problema fondamentale: come scegliere l'approccio algoritmico più efficace per ciascun compito specifico. Questa sfida ha rallentato lo sviluppo dell'AI multimodale, costringendo i ricercatori a ricominciare praticamente da zero ogni volta. Ora un gruppo di fisici della Emory University ha sviluppato una struttura matematica unificante che potrebbe cambiare radicalmente questo scenario, pubblicando i risultati sul Journal of Machine Learning Research.
L'intuizione centrale del lavoro riguarda un principio sorprendentemente semplice che accomuna molti dei sistemi di AI multimodale più performanti oggi disponibili. "Abbiamo scoperto che molti dei metodi di AI più efficaci si riducono a un'unica idea elementare: comprimere diverse tipologie di dati quanto basta per mantenere solo gli elementi che predicono davvero ciò che serve", spiega Ilya Nemenman, professore di fisica alla Emory e coordinatore della ricerca. Questo principio ha permesso ai ricercatori di creare quello che definiscono una sorta di tavola periodica dell'intelligenza artificiale, dove i vari metodi occupano celle diverse in base alle informazioni che le loro funzioni di perdita conservano o scartano.
La funzione di perdita rappresenta la regola matematica che un sistema di AI utilizza per valutare l'accuratezza delle proprie previsioni. Durante l'addestramento, il modello modifica continuamente i suoi parametri interni cercando di ridurre gli errori, guidato appunto da questa funzione. Attualmente esistono centinaia di funzioni di perdita diverse concepite per i sistemi di AI multimodale, ciascuna potenzialmente più adatta a specifici contesti. La domanda che si sono posti i ricercatori era se esistesse un metodo più efficiente che evitasse di ricominciare ogni volta da zero.
Il team ha quindi sviluppato un quadro matematico che collega direttamente la progettazione delle funzioni di perdita alle decisioni su quali informazioni preservare e quali eliminare. Hanno chiamato questo approccio Variational Multivariate Information Bottleneck Framework, letteralmente "struttura variazionale del collo di bottiglia informativo multivariato". Michael Martini, coautore del lavoro e all'epoca ricercatore post-dottorato nel gruppo di Nemenman, lo descrive come una manopola di controllo: "Puoi 'girare la manopola' per determinare quali informazioni mantenere per risolvere un problema particolare".
Il percorso verso questa scoperta è stato tutt'altro che lineare. Eslam Abdelaleem, primo autore dell'articolo e all'epoca dottorando in fisica alla Emory, insieme a Martini ha affrontato anni di lavoro, passando ore davanti a una lavagna bianca nell'ufficio di Nemenman. "A volte scrivevo su un foglio con Eslam che guardava oltre la mia spalla", ricorda Martini. Il processo richiedeva di gettare le basi matematiche, discuterle con Nemenman, testare le equazioni al computer, per poi ricominciare dopo aver seguito piste rivelatesi false. Un continuo ritorno alla lavagna, attraverso innumerevoli tentativi ed errori.
Il giorno della svolta finale rimane impresso nella memoria del team. Dopo aver formulato un principio unificante che descriveva il compromesso tra compressione e ricostruzione dei dati, i ricercatori testarono il modello su due dataset di prova, dimostrando che identificava automaticamente caratteristiche importanti condivise tra loro. Quella stessa sera, mentre lasciava il campus dopo l'estenuante ma esaltante giornata, Abdelaleem notò qualcosa di curioso sul suo smartwatch Samsung Galaxy. Il dispositivo utilizza un sistema di AI per monitorare e interpretare dati sanitari come la frequenza cardiaca, ma aveva frainteso completamente il significato del suo battito accelerato. "L'orologio diceva che avevo pedalato per tre ore", racconta Abdelaleem. "È così che ha interpretato il livello di eccitazione che provavo. Ho pensato: 'Incredibile! Evidentemente la scienza può avere questo effetto'".
L'approccio adottato dai ricercatori riflette una prospettiva distintamente fisica applicata a un problema informatico. "La comunità del machine learning si concentra sul raggiungere l'accuratezza in un sistema senza necessariamente comprendere perché funzioni", spiega Abdelaleem, ora ricercatore post-dottorato al Georgia Tech. "Come fisici, invece, vogliamo capire come e perché qualcosa funziona. Quindi ci siamo concentrati sulla ricerca di principi fondamentali unificanti per collegare insieme diversi metodi di AI". Questa filosofia ha guidato l'intero processo di ricerca, spingendo il team a distillare la complessità dei vari metodi fino alla loro essenza attraverso calcoli manuali.
Per verificare l'efficacia del loro framework, i ricercatori lo hanno applicato a dozzine di metodi di AI esistenti. Le dimostrazioni computerizzate hanno confermato che la struttura generale funziona efficacemente con problemi di test su dataset di riferimento standard. "Possiamo derivare più facilmente funzioni di perdita che potrebbero risolvere i problemi che ci interessano con quantità minori di dati di addestramento", sottolinea Nemenman. Questa caratteristica apre prospettive significative anche dal punto di vista ambientale: guidando verso l'approccio di AI più appropriato, il framework aiuta a evitare la codifica di caratteristiche non importanti, riducendo così la potenza computazionale necessaria e l'impatto ecologico dei sistemi.
Gli sviluppatori di sistemi di intelligenza artificiale possono ora utilizzare questo framework per proporre nuovi algoritmi, prevedere quali potrebbero funzionare, stimare i dati necessari per un particolare algoritmo multimodale e anticipare quando potrebbe fallire. "Altrettanto importante", aggiunge Nemenman, "è che potrebbe permetterci di progettare nuovi metodi di AI più accurati, efficienti e affidabili". La riduzione dei dati richiesti potrebbe inoltre aprire la porta a esperimenti pionieristici su problemi attualmente irrisolvibili per mancanza di dati esistenti sufficienti.
Le ambizioni del team guardano già oltre l'applicazione immediata. I ricercatori sono particolarmente interessati a come questo strumento possa aiutare a individuare pattern biologici, portando a intuizioni su processi come la funzione cognitiva. "Voglio capire come il cervello comprima ed elabori simultaneamente multiple fonti di informazione", afferma Abdelaleem. "Possiamo sviluppare un metodo che ci permetta di vedere le somiglianze tra un modello di machine learning e il cervello umano? Questo potrebbe aiutarci a comprendere meglio entrambi i sistemi". L'obiettivo finale è creare un ponte tra intelligenza artificiale e neuroscienze, utilizzando il framework come strumento per decifrare i meccanismi fondamentali dell'elaborazione dell'informazione sia nelle macchine che negli esseri viventi.
.jpg)
