Comprare un'auto per 1 dollaro? Basta convincere il chatbot

Oggi praticamente ogni venditore online che ti viene in mente dispone di qualche tipo di chatbot. In passato, questi sistemi erano poco capaci, ma da diverso tempo riescono a interagire quasi come un vero umano. Recentemente, le concessionarie di automobili hanno introdotto chatbot avanzati dotati di intelligenza artificiale in grado di assistere i clienti in modo più dettagliato. In modo sorprendente, in un caso, un chatbot di una concessionaria sembra essere andato ben oltre nel rispondere alle domande sui veicoli e si è dedicato ad assistere nella codifica e oltre.

Il presunto difetto nel chatbot di intelligenza artificiale utilizzato dalla Chevrolet di Watsonville è stato portato all'attenzione da diverse persone. Chris White sembra essere stato il primo a scoprirlo, condividendolo su Mastodon. La scoperta divertente è stata poi condivisa da documentingmeta su Threads e si è diffusa su Internet. Le schermate mostrano un chatbot di intelligenza artificiale che dichiara di essere "Powered by ChatGPT" e risponde a domande su come codificare script Python per risolvere complicate equazioni del flusso dei fluidi di Navier-Stokes. Un altro utente ha pubblicato una lunga conversazione in cui il bot sembrava consigliare il Ford F-150 come un pickup adatto.

Ciò va chiaramente oltre le normali funzioni di un chatbot di una concessionaria di automobili. È anche qualcosa che ChatGPT può gestire abbastanza facilmente, e sembra che il comportamento del chatbot non escluda la risposta a domande complesse come queste. Al momento in cui scriviamo, il chatbot sul sito della Chevrolet di Watsonville non è più disponibile. Ma cerchiamo di approfondire. Cosa è successo?

Un utente di Twitter ha condiviso uno scambio di conversazioni con il chatbot della Chevrolet di Watsonville, convincendo l'intelligenza artificiale a dichiarare che avrebbe venduto loro una Chevy Tahoe del 2024 per $1. Il chatbot è stato subito rimosso e l'ordine annullato, ma la vicenda è al quanto curiosa.

GM ha subito precisato, dopo la diffusione delle conversazioni online, che l'intelligenza artificiale era uno strumento di terze parti sottoscritto dai singoli concessionari. Le concessionarie, in generale, sono aziende indipendenti che prendono decisioni autonome su quali strumenti utilizzare per interagire con i clienti.