La startup di intelligenza artificiale xAI di Elon Musk ha citato in giudizio un uomo della Carolina del Sud arrestato all’inizio di quest’anno con l’accusa di sfruttamento sessuale di minori, sostenendo di aver abusato del sistema di intelligenza artificiale Grok della società per creare abusi sessuali su minori.
In una causa intentata martedì presso un tribunale federale del Texas, xAI sostiene che Terry Harwood abbia violato i termini di servizio dell’azienda. Questo è uno dei primi casi intentati da una società di intelligenza artificiale contro uno dei suoi utenti per il presunto utilizzo di un sistema di intelligenza artificiale per generare materiale pedopornografico.
Mercoledì i rappresentanti di xAI non hanno risposto immediatamente a una richiesta di commento. La causa dell’azienda contro Harwood arriva dopo un intenso esame globale di xAI sulle accuse secondo cui Grok avrebbe consentito agli utenti di creare deepfake sessuali non consensuali o video dall’aspetto realistico generati dall’intelligenza artificiale. Le informazioni di contatto di Harwood, arrestato a febbraio, non erano immediatamente disponibili. ,
Dopo la promozione della newsletter
Secondo la denuncia di xAI, la società “applica le sue regole contro i trasgressori attraverso la sospensione e la chiusura degli account e la segnalazione di materiale sospetto di abuso sessuale su minori al Centro nazionale per i bambini scomparsi e sfruttati”.
xAI sostiene che Harwood abbia caricato su Grok immagini non sessuali di adulti e minori e abbia tentato di utilizzare il sistema per creare deepfake sessualmente allusivi basati su di essi. La denuncia sostiene che avrebbe creato immagini sessuali non consensuali di adulti.
L’azienda chiede alla corte un non meglio specificato risarcimento del danno monetario e un’ingiunzione che impedisca permanentemente ad Harwood di utilizzare Grok.
“Le azioni dell’imputato sono uno schema calcolato per utilizzare come arma lo strumento del querelante per scopi criminali, esponendo le vittime reali a danni profondi e duraturi, esponendo al tempo stesso il querelante a sostanziali rischi legali e danni alla reputazione”, ha affermato xAI nella causa.