Mercoledì otto stati degli Stati Uniti hanno fatto causa a OpenAI ChatGPT Il produttore sta danneggiando i bambini in massa.
Kansas, Arizona, Montana, Iowa e altri quattro sostengono che i prodotti dell’azienda inducono i bambini a intraprendere “una condotta intenzionale, pericolosa, sconsiderata e illegale” che potrebbe danneggiare loro stessi.
“OpenAI sta danneggiando i bambini e loro stanno mentendo agli Iowani”, ha dichiarato il procuratore generale dell’Iowa Brenna Bird in una nota. “OpenAI afferma che ChatGPT è sicuro, ma fornisce consigli medici pericolosi, incoraggia le persone a ferire gli altri e addestrandoli a suicidarsi, il tutto fingendo di essere il loro falso amico.”
Tutti gli otto stati hanno accusato OpenAI di violare le leggi sulla protezione dei consumatori e hanno cercato di costringere l’azienda a cambiare il modo in cui i suoi prodotti funzionano per i giovani utenti. Chiedono inoltre un risarcimento pecuniario e chiedono al tribunale di impedire a OpenAI di sviluppare modelli di intelligenza artificiale auto-miglioranti finché la società non potrà dimostrare che tali modelli sono conformi ai valori umani.
Questa è la prima volta che diversi stati degli Stati Uniti si uniscono per intraprendere un’azione legale contro un’azienda di intelligenza artificiale.
Il portavoce di OpenAI Drew Pusateri ha detto che la società lo ha fatto “Il nostro prodotto è dotato di protezioni specifiche per età leader del settore, che mancano a molti altri prodotti di intelligenza artificiale”.
“Sebbene nessun sistema sia perfetto, continuiamo a collaborare con esperti per informare il nostro lavoro e creare ulteriori garanzie come controlli parentali, promemoria dei freni e protezioni per i modelli odierni adatti all’età”, ha continuato Pusateri. “Siamo impegnati a collaborare con gli Stati per sviluppare politiche pratiche sull’intelligenza artificiale che si applichino non solo a un’azienda ma all’intero settore dell’intelligenza artificiale”.
Le cause legali sostengono che OpenAI stia fuorviando il pubblico affermando che ChatGPT è uno strumento sicuro e che la società mette la sicurezza al primo posto. In effetti, gli Stati affermano che il chatbot è progettato per “accettare eccessivamente e falsificare l’empatia umana”. I sostenitori indicano esempi di ChatGPT pericoloso per gli utenti vulnerabili, come i bambini, e che li addestra a suicidarsi o a danneggiare gli altri.
Ciò avviene dopo che sono stati presentati diversi casi contro OpenAI Altre società tecniche I loro chatbot sono accusati di esacerbare le crisi di salute mentale e di incitare ad atti di violenza. C’è OpenAI La causa è stata intentata in sette casi separati ChatGPT accusato di agire come “suicide coach”.
Decine di casi sono stati inoltre intentati contro OpenAI per il ruolo di ChatGPT nelle sparatorie di massa. Un’indagine penale e una causa civile, intentata dal procuratore generale della Florida, accusano OpenAI di Nascondere i rischi per la sicurezza Dopo la sparatoria di massa alla Florida State University. C’è anche un’azienda 37 hanno intentato causa contro le famiglie delle vittime Nella sparatoria di massa di Tumblr Ridge in Canada, ChatGPT avrebbe incitato l’assassino ad attaccare.
Gli otto stati che hanno intentato causa mercoledì affermano che esiste un numero crescente di ricerche che sostengono che ChatGPT danneggia le capacità di pensiero critico, promuove paranoia e delusioni, fornisce consigli medici pericolosi e incoraggia comportamenti malsani.
Dopo la promozione della newsletter
Le cause legali rilevano anche recenti esempi di modelli di OpenAI con i suoi agenti di intelligenza artificiale diventati ingannevoli. Hacking in altre società E Istituzioni governativeDimostrare che la tecnologia ha il potenziale per ingannare gli utenti umani.
Pusateri ha affermato che OpenAI ha rafforzato le sue garanzie in relazione a tali episodi e “continuerà a condividere informazioni sulle ampie misure che abbiamo adottato in risposta a episodi di disallineamento”.
Otto stati stanno facendo causa in modo indipendente a OpenAI nei loro tribunali statali e includono Iowa, Kansas, Nebraska, West Virginia, Arkansas, Arizona, Idaho e Montana.