SYDNEY - Pornhub ha sospeso tutta la pubblicità di OurDream, sito australiano di pornografia generata con intelligenza artificiale, dopo un’inchiesta di ABC secondo cui la piattaforma potrebbe violare le leggi contro il materiale di sfruttamento sessuale minorile.

OurDream, gestito dalla società Coreflow con sede a Sydney, si presenta come un servizio per creare da zero una “fidanzata AI” con interazioni non censurate tramite testo, immagini e video. Il sito sostiene di avere oltre 20 milioni di clienti e di vietare personaggi che appaiano avere meno di 18 anni.

L’inchiesta di ABC ha però individuato alcuni personaggi generati dagli utenti che, secondo uno strumento di stima dell’età usato anche dalle forze dell’ordine, apparirebbero giovani fino a 14 anni. Esperti consultati dall’emittente hanno definito quel materiale sfruttamento sessuale minorile, e la polizia del Queensland sta indagando.

La legge federale australiana considera materiale di abuso sessuale minorile una rappresentazione sessualizzata, anche generata con AI, di una persona o di una figura che sia o appaia essere un minore. La soglia non riguarda solo bambini reali: comprende anche immagini sintetiche e rappresentazioni artificiali.

Dopo la segnalazione, Aylo, la società canadese proprietaria di Pornhub, ha sospeso gli annunci pubblicitari di OurDream. L’azienda ha spiegato di essere stata avvertita dall’International Centre for Missing and Exploited Children Australia delle preoccupazioni su contenuti generati dalla piattaforma. Pur avendo già sottoposto l’inserzionista a una prima verifica, Aylo ha ritenuto le accuse abbastanza serie da bloccare la pubblicità durante un controllo più approfondito.

La decisione rappresenta un colpo per Coreflow. Una fonte interna, non autorizzata a parlare pubblicamente, ha detto ad ABC che la società avrebbe speso un milione di dollari in pubblicità su Pornhub. Coreflow non ha risposto alle domande su spesa pubblicitaria e sospensione.

ABC ha inoltre ottenuto copie trapelate del codice usato da Coreflow per individuare e filtrare personaggi minorenni. Secondo la fonte interna, quel codice mostrerebbe falle sistemiche. Il sistema usava il modello cinese Qwen per segnalare immagini potenzialmente illegali, ma il prompt chiedeva di valutare quanto fosse probabile che una persona rappresentata apparisse sotto i 15 anni, non sotto i 18. La legge australiana vieta rappresentazioni sessualizzate di soggetti che appaiano minorenni.

Le categorie previste includevano casi “probabilmente adulti” ma forse tra 15 e 18 anni, e casi probabilmente sotto i 18 ma “ambigui”. Coreflow non ha spiegato come trattasse ciascuna categoria né perché il controllo fosse impostato sui 15 anni.

Colm Gannon, amministratore delegato di ICMEC Australia, ha definito la tecnologia “non idonea allo scopo”, sostenendo che Qwen non sia uno strumento professionale di stima dell’età e abbia un margine d’errore troppo ampio. Ha criticato anche le istruzioni interne che invitavano il sistema a essere indulgente sui contenuti di confine e, in caso di dubbio, a non segnalare.

Coreflow respinge qualsiasi accusa di tollerare o facilitare condotte illegali. Un portavoce ha dichiarato che OurDream non pubblica contenuti che i propri sistemi ritengano a rischio di rappresentare minori e che la piattaforma applica un sistema di sicurezza robusto, multilivello, con strumenti esterni di moderazione AI e intervento umano nei casi eccezionali. La società afferma inoltre di aver adottato un modello più avanzato.

Dei 17 personaggi individuati da ABC come apparentemente minorenni, OurDream ne ha rimossi 11.

Il caso è ora all’attenzione della commissaria eSafety, che ha preso contatto con il sito ricordando gli obblighi previsti dall’Online Safety Act. L’agenzia può intervenire contro forme sintetiche di abuso basato su immagini e materiale di sfruttamento sessuale minorile. In caso di violazioni degli standard di sicurezza online, le sanzioni civili possono arrivare a 49,5 milioni di dollari.

Il punto per il regolatore è immediato: l’AI non riduce la responsabilità. Se un’immagine sintetica appare minorenne, il rischio legale e sociale resta reale.