Il mondo della tecnologia e dell'intelligenza artificiale deve fare i conti con la scomparsa di John Searle, filosofo americano venuto a mancare poche settimane fa, la cui eredità intellettuale risulta oggi più attuale che mai. Professore universitario specializzato in filosofia del linguaggio, Searle ha lasciato un'impronta indelebile nel dibattito sulla vera natura della comprensione e dell'intelligenza delle macchine. Il suo contributo più celebre, l'esperimento mentale della "stanza cinese", rappresenta ancora oggi uno strumento fondamentale per comprendere i limiti reali dei sistemi di intelligenza artificiale generativa che utilizziamo quotidianamente.
"Prima di approfondire il suo esperimento più famoso, vale la pena ricordare un'altra intuizione rivoluzionaria di Searle" dice l'esperto di IA, Fabrizio Degni, "l'idea che parlare significa compiere azioni. Quando promettiamo qualcosa a qualcuno, non stiamo semplicemente emettendo suoni o scrivendo parole, ma stiamo letteralmente facendo qualcosa, compiendo un atto che ha conseguenze nel mondo reale. Questo concetto, apparentemente semplice, ha aperto nuovi orizzonti nella comprensione del linguaggio umano e delle sue implicazioni pratiche".
"Diversi ambiti, settori vari ma al centro abbiamo sempre l'IA. Oggi la usiamo come se fosse la normalità ma con il rischio di perdere l'aspetto critico e le domande che Searle ha insegnato a porci".
La stanza cinese
L'esperimento della stanza cinese si basa su uno scenario apparentemente paradossale. Immaginiamo una persona che non conosce affatto il cinese, chiusa in una stanza con un manuale dettagliatissimo nella sua lingua madre. Questo manuale spiega minuziosamente come combinare gli ideogrammi cinesi tra loro, senza però mai spiegarne il significato. Quando qualcuno dall'esterno passa sotto la porta un foglietto con una domanda scritta in cinese, la persona all'interno consulta il manuale e compone una risposta seguendo pedissequamente le istruzioni, quindi fa uscire il foglio con la risposta.
Chi riceve la risposta dall'altra parte, essendo un parlante nativo di cinese, la leggerà e la troverà perfettamente sensata e corretta. Dall'esterno sembrerebbe quindi che nella stanza ci sia qualcuno che comprende veramente il cinese. Ma sappiamo che non è così: la persona all'interno sta semplicemente manipolando simboli secondo regole formali, senza capirne minimamente il contenuto. Ecco il punto cruciale dell'esperimento di Searle: la distinzione tra manipolazione di simboli e vera comprensione.
L'IA come estensione di semiotica e semantica
Questa separazione tra significante e significato, tra segno e contenuto, appartiene alla tradizione della semiotica e della semantica, ma Searle l'ha applicata brillantemente al dibattito sull'intelligenza artificiale. L'analogia con i moderni sistemi di natural language processing è immediata e inquietante: proprio come l'uomo nella stanza cinese, ChatGPT e altri sistemi simili manipolano pattern linguistici senza possedere una reale comprensione di ciò che stanno "dicendo". Sono, come ormai si dice comunemente, dei "pappagalli stocastici" estremamente sofisticati.
L'eredità di Searle risulta particolarmente preziosa in un momento storico in cui l'intelligenza artificiale è diventata una presenza costante nelle nostre vite. La utilizziamo sul computer, sullo smartphone, al lavoro, e rischiamo di perdere quell'atteggiamento critico necessario per comprenderne le reali capacità e i limiti. Alcuni utenti arrivano persino a sviluppare legami emotivi con questi sistemi, convinti che "li capiscano davvero", con conseguenze talvolta drammatiche.
Il filosofo americano aveva anche criticato apertamente il celebre test di Turing, sostenendo che non misura affatto la presenza di vera intelligenza, ma semplicemente la capacità di creare un'illusione di intelligenza. D'altronde, il test si chiama proprio "gioco dell'imitazione": se la copia è abbastanza convincente, nella percezione dell'osservatore può diventare indistinguibile dall'originale, ma questo non la rende reale.
https://www.youtube.com/watch?v=il-lMnYIN2w&t=2s
Le implicazioni pratiche di queste riflessioni filosofiche sono oggi sempre più evidenti. "Mentre il CEO di Perplexity invita apertamente i dirigenti aziendali a valutare se il loro nuovo browser IA possa sostituire dipendenti umani prima di assumere nuovo personale", continua Degni, "emerge chiaramente quanto sia urgente recuperare quella capacità di riflessione critica che Searle ci ha insegnato. Il lavoro non è solo un'attività economica, ma rappresenta dignità umana e un diritto fondamentale sancito dalle costituzioni democratiche".
I dubbi sollevati da tecnologia e cultura
Naturalmente l'esperimento della stanza cinese ha sollevato numerosissime obiezioni nel corso degli anni. Alcuni critici hanno sostenuto che la comprensione non risieda necessariamente nell'individuo che manipola i simboli, ma nell'intero sistema composto da persona, manuale e regole. Altri hanno cercato di dimostrare che, con un manuale sufficientemente complesso, potrebbe emergere una forma di comprensione. Il dibattito rimane aperto e complesso, toccando questioni filosofiche profonde sulla natura stessa della mente e della coscienza.
Definire con precisione cosa significhi "capire veramente" o cosa costituisca l'intelligenza autentica resta una sfida formidabile, forse irrisolvibile. Questa difficoltà concettuale apre inevitabilmente spazi per chi sostiene che i sistemi AI possiedano forme genuine di intelligenza. Tuttavia, l'eredità di Searle ci fornisce strumenti concettuali preziosi per navigare questo territorio scivoloso, ricordandoci di mantenere la distinzione tra performance e comprensione, tra simulazione e realtà.
In un'epoca in cui quella che doveva essere una "bolla" dell'intelligenza artificiale continua invece a espandersi, influenzando meccanismi finanziari ed economici globali, il pensiero di Searle ci invita a rallentare e riflettere. Continuare a utilizzare e promuovere acriticamente questi prodotti significa alimentare un sistema che potrebbe avere conseguenze profonde sulle nostre vite e sul futuro delle nuove generazioni. L'invito è quindi a prendersi il tempo necessario per unire i puntini e chiedersi se il disegno che emerge sia davvero quello che vogliamo, o qualcosa che ci viene imposto dall'esterno.
