Ormai non c'è riunione senza un sistema AI che prenda appunti e generi poi un resoconto. Lo amiamo tutti, moltissimo, ma forse c'è un problema. Questo strumento determina - da solo - quali informazioni finiscono nel verbale ufficiale, quali compiti vengono assegnati e quali punti vengono considerati rilevanti quando in futuro sarà necessario ricostruire quanto discusso.
In poche parole, potreste avere un collega furbetto, o più di uno, che durante la riunione dice e fa certe cose perché sa che poi il report automatico avrà una forma vantaggiosa per lui. Oppure sei tu quel collega e ti stai chiedendo se questo articolo metterà fine al tuo giochino. Tranquillo, probabilmente no, ma comunque non durerà ancora a lungo.
Solo che non è neutrale in queste azioni, e sopratutto è possibile manipolarlo. Sta iniziando a succedere, infatti, che qualcuno ha capito come funziona questo prendiappunti automatico e cerca di sfruttarne i meccanismi. Non è difficile infatti sviluppare strategie comunicative specificamente orientate a influenzare gli algoritmi piuttosto che i colleghi in carne e ossa. È nato così quello che gli esperti definiscono AI summarization optimization, o AISO: l'arte di manipolare i riassunti generati dall'intelligenza artificiale.
Le tecniche utilizzate sono sorprendentemente efficaci nella loro semplicità. Chi padroneggia questa nuova disciplina utilizza espressioni come "il punto chiave è", "l'elemento decisivo riguarda" oppure "ciò che conta davvero in questa situazione". Mantiene le frasi brevi e chiare, ripete concetti strategici in momenti diversi della conversazione, e interviene all'inizio della riunione o durante i passaggi tra un argomento e l'altro, sfruttando il fatto che i modelli di sintesi tendono a dare maggior peso ai contenuti posizionati all'inizio o alla fine delle trascrizioni.
Il fenomeno ricorda da vicino quanto accaduto con la search engine optimization, la disciplina che ha rivoluzionato il web spingendo chi crea contenuti a scrivere pensando simultaneamente a due pubblici: i lettori umani e gli algoritmi dei motori di ricerca. L'industria SEO vale oggi 75 miliardi di dollari e le sue tecniche vengono condivise come segreti commerciali. Allo stesso modo, l'AISO rappresenta l'evoluzione di questa logica applicata alle conversazioni aziendali.
La ricerca scientifica conferma la vulnerabilità di questi sistemi. Studi recenti dimostrano che i modelli di sintesi sovrastimano sistematicamente i contenuti formulati con uno stile simile a quello dei riassunti. Inoltre, tendono a privilegiare le affermazioni poste all'inizio o alla conclusione di una trascrizione, sottovalutando quanto viene detto nella parte centrale. Un'ulteriore debolezza emersa riguarda l'incapacità di distinguere istruzioni mascherate da contenuto ordinario, specialmente quando la formulazione imita segnali ritenuti rilevanti dal sistema.
Le contromisure stanno già emergendo su tre livelli distinti. Il primo è sociale: quando alcuni ricercatori introdussero segretamente bot di intelligenza artificiale nella community Reddit r/changemyview, utenti e moderatori reagirono definendolo "manipolazione psicologica". Chi utilizza frasi troppo palesemente orientate a ingannare l'algoritmo rischia di subire una disapprovazione simile dai colleghi.
Il secondo livello di difesa è organizzativo. Le aziende stanno iniziando a governare i comportamenti durante le riunioni attraverso sistemi di rilevamento automatico delle tecniche AISO, valutazioni dei rischi prima degli incontri e processi di verifica successivi. L'intelligenza artificiale viene quindi utilizzata per contrastare gli abusi della stessa tecnologia.
Il terzo fronte riguarda i miglioramenti tecnici dei sistemi di sintesi. L'azienda di sicurezza informatica CloudSEK raccomanda la sanitizzazione dei contenuti per eliminare input sospetti, il filtraggio per identificare meta-istruzioni e ripetizioni eccessive, il bilanciamento per ridurre il peso dei contenuti ripetuti, e avvisi agli utenti sulla provenienza delle informazioni.
Approcci più sofisticati includono l'identificazione di pattern pericolosi, meccanismi di consenso che richiedono soglie di coerenza, tecniche di auto-riflessione per individuare contenuti manipolativi e protocolli di supervisione umana per decisioni critiche.
Le implicazioni di questa evoluzione sono profonde e inaspettate. Il più fondamentale rituale collaborativo dell'umanità viene silenziosamente ridisegnato da chi comprende le preferenze algoritmiche. Il pensiero antagonistico sta diventando routine, incorporato nelle pratiche lavorative quotidiane. Man mano che l'intelligenza artificiale si integra nella vita organizzativa, la capacità di interagire strategicamente con sistemi di registrazione e sintesi potrebbe diventare una competenza dirigenziale necessaria per navigare la cultura aziendale contemporanea.
