L'ascesa fulminea di DeepSeek, startup cinese specializzata in intelligenza artificiale, sta scuotendo i mercati globali. Il suo chatbot, basato su un modello linguistico open source e dal costo irrisorio rispetto ai competitor americani, ha fatto tremare persino Nvidia, gigante dei semiconduttori, causandole un crollo di circa 600 miliardi di dollari in borsa. Ma l'impatto di DeepSeek potrebbe estendersi ben oltre la sfera finanziaria, lambendo un ambito ben più delicato: quello della privacy e dei diritti dei cittadini, soprattutto in Europa.
La preoccupazione è legittima, tanto che il Garante Privacy italiano ha avviato un'indagine. L'Autorità ha inviato una richiesta di informazioni a Hangzhou DeepSeek Artificial Intelligence e a Beijing DeepSeek Artificial Intelligence, le società che gestiscono il servizio, chiedendo chiarimenti sulla natura dei dati raccolti, le fonti, le finalità del trattamento, la base giuridica e la localizzazione dei server. Il Garante vuole inoltre sapere quali informazioni vengono utilizzate per addestrare il sistema di intelligenza artificiale e come vengono informati gli utenti, iscritti e non, sul trattamento dei loro dati. Le società hanno 20 giorni di tempo per rispondere.
Il cuore del problema risiede nella gestione dei dati da parte di DeepSeek. Come specificato nella policy, i dati degli utenti vengono ospitati su server in Cina. DeepSeek raccoglie una vasta gamma di informazioni: dai messaggi e contenuti delle interazioni ai dati sul dispositivo utilizzato, come sistema operativo, tipo di dispositivo e indirizzo IP. Non è chiaro se DeepSeek sia conforme al GDPR, il regolamento europeo sulla protezione dei dati che garantisce diritti fondamentali come l'accesso, la rettifica e la cancellazione dei dati.
Un report di Kela Cyber ha ulteriormente alimentato le preoccupazioni. DeepSeek integra meccanismi di censura che limitano la discussione su argomenti sensibili per il governo cinese, come le proteste di Tiananmen del 1989 e la persecuzione degli uiguri. Inoltre, il report solleva dubbi sulla protezione e sull'utilizzo dei dati personali da parte del governo cinese, ipotizzando un potenziale utilizzo di DeepSeek per attività di disinformazione e sorveglianza.
DeepSeek, grazie alla sua natura open source e alle diverse versioni disponibili (da 1,5 a 70 miliardi di parametri), può funzionare anche in locale, adattandosi all'hardware dell'utente. Questo è un vantaggio notevole, ma al contempo, se utilizzato via cloud (modalità più comune per l'utente medio), comporta un rischio significativo per la privacy. La capacità di elaborare vasti set di dati consente a DeepSeek di creare profili dettagliati su individui, aziende e governi, con dati raccolti e conservati in Cina.
DeepSeek afferma di utilizzare i dati per "adempiere ai nostri obblighi legali, o se necessario per svolgere compiti di interesse pubblico, o per proteggere gli interessi vitali dei nostri utenti e di altre persone". Ma le leggi cinesi sulla sicurezza informatica permettono al governo di accedere ai dati delle aziende, sollevando seri dubbi sulla reale protezione della privacy.
DeepSeek è un laboratorio di ricerca sull'IA nato da High-Flyer, una società di hedge fund cinese. Nel 2023, ha reindirizzato le sue risorse verso lo sviluppo di modelli di intelligenza artificiale, lanciando DeepSeek-R1, un modello di ragionamento avanzato che mira a superare i benchmark esistenti. DeepSeek ha reso open source non solo i suoi modelli di punta, ma anche sei varianti più piccole. Questi modelli sono concessi in licenza dal MIT, consentendo a ricercatori e sviluppatori di distillare, perfezionare e commercializzare liberamente il loro lavoro.
La principale differenza con i competitor americani come OpenAI risiede nei costi di addestramento e sviluppo, nettamente inferiori per DeepSeek. Questo mette in discussione la necessità di ingenti spese per l'acquisto degli ultimi acceleratori di intelligenza artificiale.
Liang Wenfeng, fondatore di DeepSeek, avrebbe stretti legami con il Partito Comunista Cinese e il governo, condividendone le linee politiche, comprese quelle relative alla censura. Alcuni test hanno dimostrato che DeepSeek, interrogato su argomenti politicamente sensibili, tende a fornire risposte filtrate dal controllo governativo, distorcendo la verità storica. Questo comportamento suggerisce che gli algoritmi di DeepSeek siano "arricchiti" da meccanismi di censura, in netto contrasto con il principio della libertà di informazione, fondamentale nell'UE.
L'arrivo di DeepSeek pone le aziende europee di fronte a un dilemma. Da un lato, la possibilità di accedere a un modello di intelligenza artificiale potente e a basso costo è estremamente allettante, soprattutto in un contesto di crescente competizione globale. Dall'altro, l'utilizzo di DeepSeek comporta rischi significativi per la privacy e la sicurezza dei dati, con implicazioni legali e reputazionali non trascurabili.
È fondamentale che le aziende valutino attentamente i pro e i contro prima di adottare DeepSeek. È necessario comprendere a fondo le modalità di raccolta, elaborazione e conservazione dei dati, nonché i potenziali rischi di un accesso incontrollato da parte del governo cinese. L'utilizzo della versione in locale di DeepSeek potrebbe mitigare alcuni di questi rischi, ma richiede competenze tecniche avanzate e un hardware adeguato.
In un mondo sempre più digitalizzato, l'intelligenza artificiale sta diventando uno strumento essenziale per le aziende di ogni settore. La capacità di analizzare grandi quantità di dati, automatizzare processi e migliorare l'efficienza operativa è fondamentale per rimanere competitivi. DeepSeek offre un'opportunità unica in questo senso, ma le aziende devono essere consapevoli dei rischi associati.
La protezione dei dati dei clienti e dei dipendenti è una responsabilità fondamentale per ogni azienda. L'utilizzo di una tecnologia che potrebbe compromettere la privacy di questi dati non solo viola le normative come il GDPR, ma può anche danneggiare la reputazione dell'azienda e la fiducia dei clienti.
L'Italia, come membro dell'UE, è fortemente impegnata nella tutela della privacy e dei diritti dei cittadini. L'approvazione dell'AI Act, il regolamento europeo sull'intelligenza artificiale, dimostra la volontà di creare un quadro normativo solido per lo sviluppo e l'utilizzo di questa tecnologia. L'indagine del Garante Privacy su DeepSeek è un segnale forte in questa direzione.
Le aziende italiane devono essere particolarmente attente nell'adottare tecnologie come DeepSeek. La conformità al GDPR e all'AI Act è essenziale, e l'utilizzo di strumenti che potrebbero violare questi regolamenti potrebbe comportare sanzioni significative.
L'approccio europeo all'intelligenza artificiale, sancito dal GDPR e dall'AI Act, pone i diritti dei cittadini al centro. L'UE ha adottato un approccio basato sul rischio, individuando strumenti di IA a rischio inaccettabile, banditi perché contrastanti con i principi fondamentali dell'Unione.
DeepSeek, con la sua gestione dei dati e i suoi legami con il governo cinese, stride fortemente con questo impianto. La raccolta massiccia di dati, la potenziale censura e l'accesso del governo cinese ai dati rappresentano una minaccia concreta ai diritti fondamentali dei cittadini europei. L'Europa, e l'Italia in particolare, devono vigilare attentamente sull'evoluzione di questa tecnologia e garantire che il suo utilizzo sia conforme ai valori e ai principi che la caratterizzano.
