Un'importante falla di sicurezza è stata scoperta nei sistemi dell'azienda cinese di intelligenza artificiale DeepSeek. La società di cybersicurezza Wiz ha rivelato mercoledì che il database contenente le conversazioni degli utenti con il chatbot DeepSeek era accessibile pubblicamente senza alcuna protezione.
La vulnerabilità esposta da Wiz solleva serie preoccupazioni sulla gestione dei dati sensibili da parte di DeepSeek, che sviluppa e distribuisce modelli di AI generativa. Il database non protetto conteneva non solo le chat degli utenti, ma anche informazioni operative riservate come chiavi API e dettagli di backend.
"Abbiamo trovato in pochi minuti un database ClickHouse di DeepSeek completamente aperto e non autenticato, che esponeva dati sensibili", ha dichiarato Wiz nel suo comunicato. L'accesso non autorizzato avrebbe potuto potenzialmente consentire il controllo completo del database e l'escalation dei privilegi nell'ambiente DeepSeek.
Utilizzando l'interfaccia HTTP di ClickHouse, i ricercatori di Wiz sono stati in grado di eseguire query SQL arbitrarie dal browser, ottenendo l'accesso a diverse tabelle di dati sensibili. Una di queste, denominata log_stream, conteneva oltre un milione di voci di log con informazioni come timestamp, endpoint API, cronologia delle chat in chiaro e dettagli operativi.
Secondo Wiz, a seconda della configurazione di ClickHouse, un potenziale attaccante avrebbe potuto recuperare password in chiaro, file locali e dati proprietari semplicemente con il comando SQL appropriato. Gli esperti non hanno però tentato tali azioni durante la loro indagine.
Gal Nagli, ricercatore di sicurezza cloud presso Wiz, ha commentato:
"Mentre molta attenzione sulla sicurezza dell'AI è focalizzata su minacce futuristiche, i pericoli reali derivano spesso da rischi di base, come l'esposizione accidentale di database. Proteggere i dati dei clienti deve rimanere la priorità per i team di sicurezza".
DeepSeek ha prontamente risolto il problema una volta informata. L'azienda offre accesso gratuito via web e app ai suoi modelli di AI, oltre a un'API a pagamento. La sua politica sulla privacy specifica chiaramente che registra e archivia le informazioni di utilizzo complete sui suoi server in Cina.
L'app mobile di DeepSeek non è disponibile in Italia dopo che l'autorità garante della privacy ha sollevato dubbi sull'uso dei dati personali. Anche l'Irlanda sta conducendo un'indagine al riguardo. Inoltre, OpenAI ha,k invece, accusato DeepSeek di aver utilizzato impropriamente i suoi modelli GPT per produrre materiale di addestramento per le proprie reti neurali.
