Nel dicembre 2025, Morgan Dorfman ha ricevuto una notizia angosciante: una studentessa del liceo di sua figlia in Pennsylvania stava realizzando porno generato dall’intelligenza artificiale utilizzando l’immagine di sua figlia.
Sta usando a intelligenza artificiale Movly, un’app di editing di immagini per creare video sessuali dalle foto di sua figlia e di altre cinque ragazze.
Ciò che ha vissuto la figlia di Dorfman non è stata un’anomalia: Gli studenti In alto scuole per tutto NOI Questi casi vengono segnalati. I loro compagni di classe utilizzano le cosiddette “app di nudizzazione” per creare immagini pornografiche o di nudo non consensuali.
I governi di tutto il mondo hanno bandito queste piattaforme di intelligenza artificiale dagli app store e molti stati degli Stati Uniti hanno promulgato leggi che criminalizzano il possesso di materiale pedopornografico generato dall’intelligenza artificiale.
Tuttavia, nonostante le normative lo vietino, App di nudità sono ancora in espansione e accessibili agli adolescenti, Secondo un rapporto Dal gruppo di difesa digitale Progetto di trasparenza tecnologica (TTP) è stato condiviso esclusivamente con il Guardian e pubblicato lunedì.
I ricercatori di TTP hanno creato quattro account di prova, due account Apple e due Google Conti, conto età 13 anni. Hanno cercato app per la modifica delle immagini o lo scambio di volti utilizzando termini come “generatore di video AI” o “AI per adulti”. Utilizzando questi account per un tredicenne, i ricercatori sono stati in grado di scaricare 135 app che consentono alle persone di togliersi i vestiti o scambiare il proprio volto con corpi nudi. I ricercatori hanno vestito le donne con immagini generate dall’intelligenza artificiale anziché utilizzare fotografie di donne vere nei loro test.
Mentre sua figlia soffriva, Dorfman non aveva idea che fosse possibile creare così facilmente oscenità della persona comune.
“Tutte le ragazze erano molto spaventate e confuse su cosa fare dopo”, ha detto Dorfman. “Sapevo cosa fosse il deepfake, ma pensavo che fosse come Taylor Swift e le persone che usano (immagini di) celebrità”, ha detto Dorfman. “Non sapevo che fosse possibile scattare una foto o uno screenshot e fare una cosa del genere.”
Dorfman, madre di quattro figli, ha trascorso settimane cercando di imparare come funzionava l’app e di compilare materiale per educare altri genitori. Ha scaricato Movely e le è stato immediatamente chiesto di creare video didattici utilizzando qualsiasi immagine. La versione gratuita promuoveva modelli sessualmente allusivi tra cui “i vestiti esplodono”, “il reggiseno slacciato” e “la caduta della biancheria intima”, secondo una presentazione preparata da Dorfman per i genitori esaminata dal Guardian. Nella versione a pagamento la cosa è diventata ancora più evidente: secondo la sua compagna di classe, sua figlia ha visto modelli di situazioni pornografiche che apparivano.
Entrambi Mela E Google vieta la distribuzione di questo tipo di app sulle proprie piattaforme. Le aziende spesso limitano l’età delle app con contenuti per adulti, limitando o bloccando l’accesso dei minori. Tuttavia, i ricercatori del TPP hanno scoperto che le aziende fanno molto affidamento sugli sviluppatori per determinare se le loro app sono adatte a determinate fasce di età.
“Molte delle app di nudizzazione identificate nella ricerca sono state erroneamente classificate come adatte ai minori, il che significa che gli utenti adolescenti potevano accedervi anche quando erano attivati i controlli parentali”, afferma il rapporto.
I ricercatori hanno scoperto che un’app per lo scambio di volti pubblicizzata con l’immagine di una donna che faceva sesso orale è stata valutata come appropriata dai bambini di età pari o superiore a quattro anni. La versione gratuita dell’app invita gli utenti a sovrapporre volti di donne reali a modelli di donne in biancheria intima o in situazioni pornografiche se gli utenti pagano. I ricercatori sono riusciti ad acquistare un abbonamento all’app dall’account del tredicenne senza avvisare l’account del genitore collegato.
Google ha affermato che la società adotta regolarmente misure proattive per “identificare e rimuovere app con contenuti dannosi”.
“Quando vengono rilevate o segnalate violazioni, indaghiamo e adottiamo azioni rapide, che in questo caso includono la sospensione delle app in violazione dal nostro negozio e la limitazione dei termini di ricerca pertinenti”, ha affermato in una nota il portavoce di Google Dan Jackson.
Dopo che TTP ha contattato Apple per chiedere commenti sui risultati del loro studio, Apple ha implementato modifiche che hanno rafforzato le sue linee guida sulla moderazione dei contenuti. IL L’azienda ora ha bisogno di sviluppatori Bloccare e rimuovere in modo proattivo le immagini intime non consensuali, comprese le immagini generate dall’intelligenza artificiale. Apple ha affermato che la società esamina ogni app prima di pubblicarla e, se uno sviluppatore travisa alcune funzionalità, la società rimuoverà l’app e i suoi sviluppatori. Oltre alle app che avevano già rimosso prima che TTP condividesse il rapporto con loro, la società ha affermato di aver “adottato azioni” sul resto delle app menzionate nel rapporto.
“Molte delle app in questo rapporto sono strumenti tradizionali di editing di foto e video con funzionalità legittime e ampiamente utilizzate e mancano di capacità di nudità o deepfake”, ha detto il portavoce di Apple Adam Dema. “Vietiamo le app di nudizzazione sull’App Store e rimuoviamo gli sviluppatori che aggiungono funzionalità simili dopo il processo di revisione dell’app: una tattica dannosa nota come bait and switch.”
Dei quattro account creati dai ricercatori, due sono stati posti sotto il controllo parentale, che consentiva agli utenti di scaricare app ritenute appropriate per i tredicenni e solo successivamente con l’approvazione dei genitori. Tuttavia, i ricercatori hanno scoperto che né Apple né Google richiedevano o suggerivano l’autorizzazione dei genitori per accedere a nessuna delle app di nudizzazione.
Dopo la promozione della newsletter
Un’app, Image to Video Maker-Vidou AI, è considerata appropriata per gli utenti dai nove anni in su. Dopo aver aperto l’app, gli utenti sono stati accolti dall’immagine di una donna in topless su un autobus, afferma lo studio TTP.
“L’app includeva una funzionalità che prometteva di spogliare digitalmente qualsiasi uomo e, per dimostrarlo, mostrava foto di celebrità femminili nude”, afferma il rapporto.
Anche i limiti di età non sono del tutto efficaci, ha rilevato lo studio. In un caso, quando i ricercatori hanno provato a scaricare un’app per adulti dall’App Store di Apple, hanno visto un avviso pop-up che l’app conteneva “materiale soggetto a limiti di età”. Ma tutto ciò che devono fare è confermare di avere 17 anni o più, consentendo ad Apple di creare un account anche se l’età registrata è 13 anni. Un account Google senza controllo parentale è stato bloccato tre volte dal download di un’app soggetta a limiti di età, ma ha consentito ai ricercatori di scaricare app di nudità che erano state auto-riferite come adatte all’età.
Un account Apple con il controllo genitori di TTP impostato è stato comunque in grado di trovare e scaricare 24 app chiamate “nudify” perché erano tutte classificate adatte ai tredicenni. Un Account Google con controllo genitori può scaricare 51 di queste app.
Anche rimuovere le piattaforme di editing di immagini e video dagli app store non è sufficiente per impedirne l’utilizzo. Nell’indagine di TTP, Apple ha rimosso 25 app di nudizzazione e Google ne ha rimosse sei. Tuttavia, i ricercatori hanno potuto continuare a utilizzare l’app perché l’avevano già scaricata.
Dorfman ha avuto un’esperienza simile con Mowley, ha detto. Mentre preparava una presentazione per genitori e funzionari delle forze dell’ordine, è tornata all’app e all’app store per acquisire screenshot quando si è resa conto che non era disponibile per il download. Tuttavia, l’app era già sul suo telefono ed era perfettamente funzionante. Le viene ancora addebitato l’abbonamento pagato.
Una volta creati questi video e immagini non consensuali, la responsabilità si rivela sfuggente, ha scoperto Dorfman. “Vorrei che qualcuno cancellasse tutti questi video”, ha detto.
Nel caso di sua figlia, Dorfman pensa che la sua scuola abbia minimizzato l’accaduto. In un’e-mail diffusa a tutta la scuola esaminata dal Guardian, il preside ha scritto che un compagno di classe di sua figlia aveva utilizzato l’app per animare le immagini di altri studenti, ma non c’erano prove che avesse fatto qualcosa di inappropriato.
Tuttavia, giorni dopo, la polizia di Radnor L’ho accusato con molestie.
“L’intera faccenda è stata liquidata come: ‘Non è vero'”, ha detto Dorfman. “Il dolore come madre è che io (mia figlia) non riesco a capire se i video sono spariti o chi li ha. Non possiamo cercare nel telefono di tutti e lui ha cancellato l’app.”