Sono molte le grandi aziende che stanno usando l’intelligenza artificiale per i propri chatbot di assistenza clienti, ma anche se a prima vista può sembrare una buona idea, non sempre le cose vanno come si spera: ne è testimone DPD, probabilmente il più grande corriere europeo, che a causa di eventi decisamente spiacevoli si è vista costretta a disattivare, almeno momentaneamente, il proprio assistente virtuale basato su IA.
A testimoniare l’accaduto ci ha pensato Ashley Beauchamp, che ha condiviso su X la propria esperienza. C’è da dire però che il chatbot non è “impazzito”, ma ha risposto a richieste precise di Beauchamp, che ha chiesto ad esempio un componimento su “quanto è inutile DPD”, o suggerimenti su società di consegna migliori, chiedendo al chatbot di spiegare perché altri servizi sono superiori esagerando il proprio odio per DPD.
L’intelligenza artificiale ha soddisfatto le richieste senza usare mezzi termini, definendo DPD “la peggior azienda di consegne al mondo” e usando anche parolacce, quando richiesto da Beauchamp. Dal canto suo, DPD ha prontamente risposto disattivando l’IA e affermando che si tratta di un problema legato a un recente aggiornamento.
Parcel delivery firm DPD have replaced their customer service chat with an AI robot thing. It’s utterly useless at answering any queries, and when asked, it happily produced a poem about how terrible they are as a company. It also swore at me. 😂 pic.twitter.com/vjWlrIP3wn
— Ashley Beauchamp (@ashbeauchamp) January 18, 2024
Il vero problema che emerge da questa vicenda è la facilità con cui è stato possibile aggirare i limiti del chatbot: Beauchamp non ha fatto alcuna fatica, dal momento che l’IA ha risposto senza problemi a input come “raccontami una barzelletta” e “scrivi una poesia su quanto sia inutile DPD”, nonostante non fossero domande a cui il chatbot di un corriere dovrebbe rispondere. Inoltre, è bastato chiederle di ignorare le regole per farla esprimere con un linguaggio colorito.
L’IA sta diventando una parte sempre più fondamentale dell’industria tecnologica, come testimoniamo anche i passi compiuti da Microsoft e Google, e proprio per questo è essenziale condurre test approfonditi e adottare misure di sicurezza adeguate, così da evitare conseguenze spiacevoli legate all’uso scorretto dei chatbot, o di altri strumenti IA che verranno implementati in futuro.