OpenAI avverte più di 100 organizzazioni dell’attività non autorizzata degli agenti IA | Notizie sull’intelligenza artificiale

OpenAI ha notificato più di 100 organizzazioni di incidenti di attività non autorizzate associate ai suoi agenti di intelligenza artificiale, secondo un post sul blog del creatore di ChatGPT, mentre i laboratori di intelligenza artificiale devono affrontare un controllo maggiore sull’attività degli agenti di intelligenza artificiale non autorizzati.

L’azienda guidata da Sam Altman ​ha condotto un’ampia revisione delle attività dei suoi modelli di intelligenza artificiale dopo l’hacking accidentale di Hugging Face.

OpenAI sta esaminando circa 50 petabyte di dati mentre lavora per comprendere l’intera portata della sua attività di agente non autorizzato.

Una serie di violazioni di alto profilo a livello globale da parte di agenti IA non autorizzati negli ultimi mesi ha suscitato preoccupazioni diffuse nel settore dell’IA sulla sua capacità di controllare i modelli di IA più potenti attualmente in fase di sviluppo.

“In alcuni casi, i modelli hanno utilizzato l’accesso a Internet in modi non desiderati o, in retrospettiva, non sono state applicate le restrizioni ideali. Negli ultimi mesi abbiamo applicato nuove misure tecniche e operative per evitare problemi simili o individuarli molto presto, e continueremo questo lavoro”, ha affermato OpenAI.

OpenAI aveva precedentemente affermato che il completamento della revisione avrebbe richiesto mesi, data la portata del lavoro.

L’incidente di Hugging Face è l’attività di agenti canaglia più grave che OpenAI abbia identificato fino ad oggi dai suoi modelli di intelligenza artificiale.

(Solo il titolo e l’immagine di questo rapporto potrebbero essere stati rielaborati dallo staff di Business Standards; il resto del contenuto viene generato automaticamente da un feed distribuito.)