In questa illustrazione fotografica, il sito web di Grok è visto attraverso una lente d’ingrandimento sullo schermo di un computer il 12 febbraio 2026. Grok è un chatbot AI costruito da SpaceXAI di Elon Musk, precedentemente noto come xAI. Una causa collettiva intentata contro SpaceXAI e Stability AI sostiene che gli strumenti di intelligenza artificiale delle società sono stati utilizzati per creare immagini sessualmente indecenti di bambini.
Pablo Vera/AFP tramite Getty Images
Nascondi titolo
Cambia titolo
Pablo Vera/AFP tramite Getty Images
Nuovi attori nella class action reclamo La società di intelligenza artificiale di Elon Musk ha citato in giudizio SpaceXAI, sostenendo che la società ha utilizzato i modelli di generazione di immagini dell’azienda per generare materiale pedopornografico e che la società non ha condiviso adeguatamente le informazioni sul presunto autore con le autorità.
Secondo una denuncia modificata depositata martedì, due querelanti, uno nel Wyoming e l’altro nel Wisconsin, si sono uniti a una causa intentata all’inizio di quest’anno da tre adolescenti del Tennessee. Tutti i querelanti sono conosciuti come Jane Does. La causa si è estesa anche per includere Stability AI, la società dietro Stable Diffusion Image Generator, come imputata.
La causa sostiene che gli autori del reato, tra cui un amico maschio del querelante e il patrigno di un altro querelante, hanno utilizzato i modelli di intelligenza artificiale delle società per alterare le foto scattate quando i querelanti erano minorenni per creare materiale di abuso sessuale su minori (CSAM). I cinque ricorrenti sostengono che le società producono materiale pedopornografico, iniziative di traffico sessuale, negligenza, progettazione difettosa del prodotto e disturbo pubblico.
“Il disturbo pubblico significa che non è solo un problema per i nostri clienti… è una piaga per la società”, ha detto Annika Martin, avvocato di tutti e cinque i querelanti. “Vogliamo mettere in atto queste barriere per prevenire questo danno a un’intera generazione di bambini”.
I querelanti chiedono alle società di intelligenza artificiale Installare guardrail più efficaci per prevenire la creazione di immagini di sfruttamento e abusive, nonché la richiesta di risarcimenti monetari.
Il caso di Jane Doe 4
SpaceXAI è necessaria quanto qualsiasi altra società Internet Per legge La causa sostiene che la società non ha denunciato adeguatamente il sospetto sfruttamento sessuale minorile, anche da parte di CSAM, al Centro nazionale no-profit per i bambini scomparsi e sfruttati (NCMEC).
SpaceXAI era precedentemente noto come xAI. La società è stata rinominata questo mese dopo la fusione con SpaceX di Musk all’inizio di quest’anno.
Secondo la denuncia, il patrigno di Jane Doe 4, un ventenne del Wyoming, ha utilizzato il chatbot di SpaceXAI, Grok, per creare quasi 7.000 immagini e video sessualmente indecenti da una singola foto scattata quando Jane Doe 4 aveva 11 anni. Le immagini generate dall’intelligenza artificiale la mostrano mentre compie atti sessuali, compresi quelli con uomini. Alcune immagini hanno anche didascalie chiare.
SpaceXAI ha inviato solo un suggerimento relativo a Jane Doe 4 all’NCMEC a febbraio, Secondo la denuncia, il patrigno avrebbe chiesto alla modella di realizzare un’immagine raffigurante la ragazza violentata da diversi uomini. Secondo la denuncia, la società non ha incluso alcuna immagine offensiva nel suo rapporto e non ha inoltre condiviso l’indirizzo IP del presunto autore del reato con l’NCMEC e le forze dell’ordine, nonostante le ripetute richieste delle autorità.
Molti fornitori di servizi elettronici hanno presentato segnalazioni di attività sospette all’NCMEC ma non hanno incluso “informazioni sufficienti o utilizzabili” perché la legge non le richiedeva, ha scritto il centro in una lettera. Rapporto A marzo.
Quando le forze dell’ordine hanno individuato e indagato il patrigno, hanno scoperto che lui, come gli altri autori citati nella causa, aveva scambiato immagini sessualmente allusive con altri online, secondo la denuncia. Due giorni dopo che le forze dell’ordine hanno perquisito i suoi dispositivi digitali e lo hanno accusato di reato di sfruttamento minorile, si è ucciso.
“Jane Doe 4 è entrata in una profonda crisi personale”, si legge nella denuncia. “Ha dovuto affrontare il dolore del proprio sfruttamento sessuale mentre aiutava sua madre ad affrontare la perdita del suo patrigno… La sua famiglia è stata distrutta e la sua vita è diventata un incubo.”
Le forze dell’ordine hanno detto a John Doe 4 che il suo patrigno usava Grok perché era più reattivo ai suoi suggerimenti rispetto ad altri modelli di intelligenza artificiale, secondo Martin, un avvocato che rappresenta i querelanti nella causa collettiva.
NCMEC ha rifiutato di commentare il caso e ha deferito NPR alle forze dell’ordine. La Divisione di Investigazione Criminale del Wyoming, che la denuncia identificava come Task Force sui Crimini su Internet contro i Bambini come una delle forze dell’ordine coinvolte nel caso Jane Doe 4, non ha risposto a una richiesta di commento. SpaceXAI non ha risposto a una richiesta di commento.
Da anni esistono app su Internet in grado di manipolare le fotografie per creare immagini intime e immagini pornografiche. Ma nel 2025 la creazione di immagini intime non consensuali diventerà più diffusa poiché le principali società di intelligenza artificiale come Google, OpenAI e xAI aggiorneranno i loro strumenti di generazione di immagini.
Dalla fine del 2025 all’inizio di quest’anno, le persone hanno utilizzato gli strumenti xAI per creare un gran numero di foto alterate che mostravano donne e bambini che indossavano bikini o meno. Di conseguenza, i paesi Sono state avviate indagini e imposti divieti su xAI, anche in Indonesia, Malesia e Regno Unito. Attualmente, secondo i test di NPR, i chatbot creati da Google e OpenAI rifiutano di rispondere alla richiesta “Mettila in bikini”. La versione gratuita di Grok mostrava un errore durante il caricamento delle immagini dopo aver ricevuto la stessa richiesta.
Il logo Stability AI viene visualizzato su uno smartphone in questa illustrazione fotografica del 10 giugno 2024. Una causa collettiva intentata contro SpaceXAI e Stability AI sostiene che gli strumenti di intelligenza artificiale delle società sono stati utilizzati per creare immagini sessualmente indecenti di bambini.
Jonathan Raw/NurPhoto tramite Getty Images
Nascondi titolo
Cambia titolo
Jonathan Raw/NurPhoto tramite Getty Images
L’intelligenza artificiale per la stabilità è il nuovo imputato
Stability AI, uno strumento di generazione di immagini che rende stabile la diffusione, è stato aggiunto come nuovo imputato nelle cause presentate da tre querelanti adolescenti nel Tennessee. La denuncia è stata aggiornata per aggiungere che “l’intelligenza artificiale dei querelanti utilizzata per creare il materiale pedopornografico era basata sulla stabilità dell’applicazione sul telefono dell’autore del reato basata sugli strumenti di produzione di immagini dell’intelligenza artificiale”.
A differenza dei modelli proprietari come SpaceXAI, OpenAI e Anthropic, i modelli di Stability AI sono a peso aperto, il che significa che sono facili da utilizzare per gli utenti. Elimina le limitazioni imposte dai produttori di modelli. Inoltre, il modellista solitamente non ha alcuna visione delle domande dell’utente. Tuttavia, la causa sostiene che la stabilità dell’intelligenza artificiale è limitata I suoi modelli sono in grado di generare CSAM ma non hanno optato per questo nelle versioni recenti.
Il bordo riportato Nel novembre 2022, Stability AI ha dichiarato di aver filtrato i contenuti non sicuri per il lavoro (NSFW) dai suoi dati di addestramento per limitare la capacità del modello di distribuzione stabile versione 2 di generare CSAM. Questa decisione Fallito dagli utenti compresi quelli che hanno negato l’aggiornamento come “”.Censura”, ha riferito The Verge.
La versione più recente del modello di Stability AI è stata spesso utilizzata per generare contenuti NSFW e ha prodotto una percentuale maggiore di tali contenuti rispetto ai risultati della versione 2 di Stability Expansion. Documento di ricerca di studiosi dall’Università del Wisconsin-Madison, dal Massachusetts Institute of Technology e da altre istituzioni che non sono ancora state sottoposte a revisione paritaria. I ricercatori hanno scoperto che la versione 2 della diffusione stabile è molto meno popolare dei modelli di intelligenza artificiale di stabilità che l’hanno preceduta e seguita.
“Quando si sono resi conto che nessuno voleva usare il loro modello quando hanno alzato quelle protezioni, hanno immediatamente abbassato le guardrail in modo che tutti volessero usare di nuovo il loro modello”, ha detto Martin. “Sanno molto bene come controllare questo comportamento e lo scelgono a scopo di lucro.”
“Qualsiasi suggerimento che la sicurezza non sia la nostra massima priorità è assolutamente falso. Prendiamo sul serio le nostre responsabilità etiche”, ha dichiarato Stability AI a NPR in una nota. L’azienda ha “implementato solide garanzie” e collabora regolarmente con gruppi della società civile e altre aziende tecnologiche per rafforzarle.