Il mercato nero della pedopornografia sintetica ha trovato nelle tecnologie di intelligenza artificiale una fonte di profitto che attira sempre più l'attenzione della criminalità organizzata transnazionale. Come sottolinea un'indagine di Agenda Digitale, questi gruppi criminali hanno trasformato la produzione di contenuti illegali attraverso deepfake e altre tecniche di AI generativa in un vero e proprio business strutturato, venduto tramite abbonamenti pagati in criptovalute sui canali del dark web. Il fenomeno si è intensificato proprio mentre entrava in vigore il 10 ottobre la nuova Legge sull'AI, che introduce specifici reati per contrastare la diffusione e detenzione di deepfake illeciti.
Una crescita esponenziale che preoccupa gli esperti
Nicoletta Pisanu riporta i numeri dell'Internet Watch Foundation dipingono un quadro allarmante dell'evoluzione di questo mercato criminale. Le segnalazioni di immagini pedopornografiche generate con intelligenza artificiale sono schizzate dalle 51 del 2023 alle 245 del 2024, registrando un incremento del 380 per cento. Questa escalation non rappresenta soltanto una questione di quantità, ma rivela una sofisticazione crescente nelle tecniche utilizzate dai criminali.
La scoperta più inquietante è avvenuta a settembre 2025, quando la stessa fondazione ha individuato per la prima volta contenuti di abusi su minori generati con AI collegati a chatbot presenti su siti del web tradizionale. Questi servizi si presentavano inizialmente come normali AI companion per conversazioni innocue, ma nascondevano percorsi che conducevano a interazioni con chatbot progettati per simulare scenari sessuali che coinvolgevano bambini anche di soli sette anni.
L'anatomia di un business criminale globale
Ad Agenda Digitale, il professor Arije Antinori dell'Università La Sapienza di Roma, ha spiegato come la criminalità organizzata stia strutturando mercati scalabili a basso costo attraverso modelli AI locali o open-source. Questi gruppi producono contenuti pedopornografici sia completamente sintetici che parzialmente manipolati, distribuendoli tramite abbonamenti pagati prevalentemente in criptovalute su dark web e piattaforme crittografate end-to-end.
La geografia di questo fenomeno criminale emerge dall'analisi delle 181.112 URL individuate dall'IWF. Il 61% dei server che ospitavano pagine web criminali si trovava in Paesi membri dell'Unione Europea, con i Paesi Bassi in testa con 83.037 URL, seguiti da Bulgaria, Romania, Lituania e Polonia.
Le reti criminali del nuovo millennio
Contrariamente alle aspettative, le organizzazioni coinvolte non sono le tradizionali mafie territoriali come Cosa Nostra, Camorra o 'ndrangheta. Si tratta invece di reti criminali transnazionali altamente flessibili e adattabili, senza radici geografiche specifiche ma capaci di modificare rapidamente strategie e obiettivi in base alle innovazioni tecnologiche disponibili.
Queste organizzazioni dimostrano una particolare attenzione alle tendenze criminali di mercato e una capacità impressionante di monetizzare materiale illecito. Il fenomeno si trova ancora in una fase di pre-sistemizzazione, ma l'interesse già manifestato dalla criminalità organizzata indica chiaramente l'esistenza di una domanda consistente per questi contenuti.
Tre modalità per creare l'orrore digitale
Gli analisti hanno identificato tre tecniche principali utilizzate per produrre contenuti pedopornografici basati su AI. La prima è l'AI-assistita, dove foto o video acquisiti legalmente o illegalmente vengono alterati attraverso tecniche di compositing, spesso utilizzando immagini di vittime minori già note nelle comunità pedopornografiche.
La seconda modalità sfrutta il deepfake attraverso face o body swap, sostituzioni di volto e corpo, o tecniche di "undressing" sintetico ottenute tramite app e strumenti facilmente reperibili online senza particolari competenze tecniche. La terza e più preoccupante modalità consiste nella creazione completamente sintetica di contenuti generati dall'AI senza alcuna fonte di partenza reale.
Il quadro normativo italiano e le sue criticità
Sempre su Agenda Digitale, l'avvocato Fulvio Sarzana chiarisce che già prima della Legge sull'IA il codice penale italiano puniva la pedopornografia virtuale attraverso gli articoli 600 ter, 600 quater e 600 quater 1. Quest'ultimo specifica che le disposizioni si applicano anche al materiale pornografico che rappresenta immagini virtuali di minori, sebbene con pena diminuita di un terzo.
La nuova Legge sull'AI introduce l'articolo 612 quater che punisce specificamente la diffusione illecita di contenuti generati o manipolati artificialmente. Tuttavia, alcuni giuristi criticano il fatto che si configuri come reato di danno piuttosto che di pericolo, rendendo necessario provare l'esistenza di un danno effettivo e complicando i processi di incriminazione.