Meta vuole riscrivere le regole dell'open-source. Il motivo? Secondo Joelle Pineau, a capo del centro Fundamental AI Research (FAIR) di Meta, le licenze attuali non sono pensate per software che utilizzano enormi volumi di dati esterni.
Intervistata da The Verge, Pineau ha specificato che la maggior parte delle licenze, sia quelle open-source che quelle proprietarie, prevede "una responsabilità limitata per gli utenti e gli sviluppatori e un indennizzo molto limitato per le violazioni del copyright".
I modelli di intelligenza artificiale come Llama 2 contengono un grande volume di dati di addestramento e gli utenti sono potenzialmente esposti a maggiori responsabilità se producono qualcosa che è considerato una violazione, eventualità che le licenze attuali non coprono.
E in effetti Llama 2 non è mai stato open-source e aperto, anche se Meta lo ha sempre descritto come tale: la licenza per il linguaggio è limitata e non rispetta i requisiti dell'Open Source Initiative (OSI).
Come riportato da Open Source Connections, nel contratto d'utilizzo di Llama 2 Meta specifica che se alla data di rilascio della versione di Llama 2 il numero di utenti attivi mensili dei servizi è a 700 milioni, lo sviluppatore (o l'azienda) deve richiedere una licenza esplicita a Meta che l'azienda può concedergli a sua esclusiva discrezione, e non è autorizzato a esercitare alcuno dei diritti previsti dal contratto.
Ciò si scontra con le indicazioni dell'OSI che non prevedono alcuna restrizione del genere per i prodotti open-source.
Inoltre, Meta nel contratto specifica anche che non è possibile usare gli output di Llama2 per migliorare altri modelli, esclusi lo stesso Llama2 o derivati. In sostanza non è possibile usare il modello di Meta per generare dei dati di training da usare in altri LLM.
È ora di rivedere le licenze open-source?
Pineau è consapevole dei limiti della licenza di Meta nei confronti dell'open source, ma ritiene che sia una scelta necessaria per per bilanciare i benefici della condivisione di informazioni e i potenziali costi per il business dell'azienda.
"Essere open ha cambiato il nostro approccio alla ricerca e ci guida a non rilasciare prodotti che non siano davvero sicuri, rimanendo responsabili fin dall'inizio" ha affermato Pineau, spiegando che scegliere quanta libertà dare agli sviluppatori dipende da diversi fattori, tra i quali la sicurezza del codice nelle mani della community.
L'approccio di Meta al software libero è una novità nel mondo delle grandi compagnie dell'IA e non tutti i competitor sono convinti di questa mossa. La stessa OpenAI, cominciata come un progetto open-source e open-research, è tornata sui suoi passi per problemi sia di competitività che di sicurezza.
Senza dubbio i modelli di IA sono molto diversi dagli altri software e comportano molti più rischi. Stefano Maffulli, direttore esecutivo di OSI, ha confermato a The Verge che l'organizzazione sta lavorando per capire come garantire un accesso sicuro, trasparente e senza restrizioni agli sviluppatori.
"Dobbiamo assolutamente ripensare le licenze in modo da affrontare le reali limitazioni del copyright e delle autorizzazioni nei modelli di IA, pur mantenendo molti dei principi della comunità open source" ha affermato Maffulli.
Modificare standard che delineano da tempo una community solida potrebbe provocare molto scontento nel mondo dell'open-source. Forse basterebbe semplicemente chiamare col nome giusto ciò che si propone.
È chiaro che, nel momento in cui si decide di rendere disponibile un LLM alla comunità, con le eventuali limitazioni del caso, è obbligatorio riconoscere i rischi di questa scelta e adoperarsi per gestirli.