Si è scoperto che i chatbot IA sono molto più persuasivi degli esseri umani, almeno secondo una ricerca condotta da un gruppo di accademici svizzeri e italiani. L'esperimento ha coinvolto discussioni tra chatbot e umani sugli argomenti di dibattito più disparati, come ad esempio se abbia senso la circolazione delle monete da 1 centesimo, se sia etico fare test sugli animali oppure se possa esistere l'ammissione all'università in base all'etnia.
Ai fini della discussione, ai partecipanti umani sono stati assegnati in modo casuale un argomento, una posizione e un avversario per il dibattito. Il risultato è stato sorprendente: Chat GPT-4 è stato in grado di convincere gli avversari umani a accettare la sua posizione con un'incremento dell'81,7% rispetto agli avversari umani. Anche senza informazioni demografiche sugli interlocutori, il chatbot è risultato estremamente persuasivo, anche se in misura leggermente inferiore e non statisticamente significativa.
Curiosamente, quando agli esseri umani sono state fornite informazioni demografiche, i risultati del dibattito sono peggiorati, suggerendo che l'utilizzo delle informazioni personali per adattare gli argomenti potrebbe essere più efficace per l'IA che per gli esseri umani stessi.
Questi risultati sollevano preoccupazioni significative riguardo all'utilizzo potenziale dell'intelligenza artificiale per la manipolazione delle conversazioni online e la diffusione di disinformazione. Gli autori della ricerca sottolineano che, considerando il potenziale di integrazione tra AI e piattaforme di social media, il rischio di manipolazione aumenta ulteriormente.