Meta si trova al centro di una nuova controversia legata all'uso dell'intelligenza artificiale su Instagram. La piattaforma sta generando automaticamente titoli e descrizioni ottimizzate per i motori di ricerca sui contenuti pubblicati dagli utenti, senza informarli né richiedere il loro consenso esplicito. Il sistema, scoperto da 404 Media e confermato anche da redattori di Engadget, sembra progettato per migliorare il posizionamento dei post di Instagram nei risultati di ricerca di Google, ma solleva questioni significative sulla proprietà dei contenuti e sull'accuratezza delle informazioni generate dall'AI.
Il meccanismo funziona in modo subdolo: i titoli e le descrizioni generate non sono visibili agli utenti sulla piattaforma stessa, ma vengono inseriti nel codice sorgente delle pagine, precisamente nei tag HTML riservati ai metadati. Questi elementi diventano visibili soltanto quando i post appaiono nei risultati di ricerca, dove possono influenzare significativamente il modo in cui i contenuti vengono percepiti e indicizzati dai motori di ricerca. Si tratta di una strategia SEO aggressiva che utilizza gli utenti come strumenti inconsapevoli per aumentare la visibilità della piattaforma.
I problemi non si limitano alla mancanza di trasparenza. Sam Chapman, redattore di Engadget, ha scoperto che un suo post su Bloomhunter, un gioco da tavolo di sua creazione, aveva ricevuto una descrizione completamente errata. Il testo generato automaticamente descriveva invece Floramino, un puzzle game disponibile su Steam: "Floramino è un puzzle game accogliente dove arrangi giardini nei panni di un fiorista viaggiante. La demo sembra divertente, con visual affascinanti ed elementi strategici". Un errore fattuale che dimostra i limiti evidenti dei sistemi di generazione automatica basati su modelli linguistici di grandi dimensioni.
Altri casi documentati mostrano pattern tipici dei contenuti generati da LLM. L'autore Jeff VanderMeer ha visto un suo video senza titolo di un coniglio che mangia una banana ricevere l'intestazione "Incontra il Coniglio Che Ama Mangiare Banane, Uno Snack Nutriente Per Il Tuo Animale Domestico". Una biblioteca del Massachusetts che promuoveva la lettura di un libro di VanderMeer si è ritrovata con il titolo "Unisciti a Jeff VanderMeer in una Emozionante Avventura sulla Spiaggia con Mesta...". Lo stile generico e ridondante tradisce chiaramente l'origine automatizzata di questi testi.
La community dei cosplayer si è dimostrata particolarmente critica verso questa pratica. Brian Dang, cosplayer che ha riscontrato il problema sui propri contenuti, ha dichiarato a 404 Media: "Non scriverei mai un testo mediocre del genere, e suona come se fosse stato auto-generato su larga scala con un LLM. Questo diventa problematico quando il titolo o la descrizione pubblicizza qualcuno in un modo che non corrisponde a come quella persona descriverebbe sé stessa".
L'analisi tecnica conferma la presenza di questi elementi manipolati. Utilizzando lo strumento Rich Result Test di Google, è possibile verificare come i titoli appaiano nei tag