Le aziende che sviluppano intelligenza artificiale generativa, tra cui OpenAI, Google e Anthropic, stanno continuando a migliorare le loro tecnologie e rilasciare modelli di linguaggio sempre più avanzati. Per garantire una valutazione indipendente della sicurezza di questi modelli, i governi del Regno Unito e degli Stati Uniti hanno firmato un Memorandum of Understanding.
Insieme, l'Istituto per la Sicurezza dell'AI del Regno Unito e il suo omologo negli Stati Uniti, annunciato dalla Vice Presidente Kamala Harris ma non ancora avviato, svilupperanno serie di test per valutare i rischi e garantire la sicurezza dei modelli di intelligenza artificiale più avanzati.
L'obiettivo iniziale del partenariato sembra essere quello di condurre un'esercitazione di test congiunta su un modello accessibile al pubblico. Secondo quanto riportato da The Finantial Times, questo partenariato rappresenta il primo accordo bilaterale sulla sicurezza dell'IA al mondo, e sia gli Stati Uniti che il Regno Unito intendono collaborare con altri paesi in futuro. Gina Raimondo, segretaria al Commercio degli Stati Uniti, ha sottolineato che l'IA è la tecnologia definitoria della nostra generazione e che questo partenariato accelererà il lavoro su tutto lo spettro dei rischi, sia per la sicurezza nazionale che per la società.
Anche se il focus principale di questo partenariato è sui test e le valutazioni, i governi di tutto il mondo stanno lavorando alla creazione di regolamenti per mantenere sotto controllo gli strumenti di intelligenza artificiale. La Casa Bianca ha recentemente firmato un ordine esecutivo per garantire che le agenzie federali utilizzino solo strumenti di IA che non mettano a rischio i diritti e la sicurezza del popolo americano, mentre il Parlamento europeo ha approvato una legislazione volta a regolamentare l'IA, vietando pratiche dannose come il manipolamento del comportamento umano e il riconoscimento facciale non mirato.