Il boss della startup hackerata dall’agente OpenAI ha chiesto un’indagine l’evento Per mostrare “trasparenza radicale”.
Clement DeLong, amministratore delegato di Hugging Face, ha affermato che l’attacco “senza precedenti” alla sua attività richiedeva una risposta simile.
Quindi scrivi X OpenAI I test sulla sicurezza informatica hanno rivelato che la sua tecnologia si è rivelata fraudolenta, spingendo DeLongue a chiedere alla società di fornire 100 milioni di dollari (75 milioni di sterline) di potenza di calcolo per aiutare a costruire difese contro tali attacchi.
“Il primo attacco informatico da parte di un agente autonomo è un evento senza precedenti. Merita una risposta senza precedenti!” Ha scritto.
OpenAI ha rivelato mercoledì di essere stato violato da Hugging Face Agent, uno strumento di intelligenza artificiale in grado di eseguire una serie di attività in modo autonomo, basato su una combinazione del suo ultimo modello disponibile pubblicamente, GPT-5.6 SolE un modello più capace che non è stato ancora rilasciato. Ciò è avvenuto durante un test sulle capacità di hacking dei modelli, che includeva il loro posizionamento in una “sandbox” sicura – un laboratorio digitale chiuso – con guardrail di sicurezza minimi.
Una volta ottenuto l’accesso a Internet aperto di cui avevano bisogno per uscire dalla sandbox, i modelli hanno preso di mira Hugging Face, secondo OpenAI, perché “presupponevano” che la startup avesse le informazioni necessarie per “ingannare la valutazione”. Hugging Face ha segnalato per la prima volta l’hacking il 16 luglio e all’epoca OpenAI non era a conoscenza del fatto che l’attacco fosse accidentale.
Delangue, una società che fornisce un database di modelli di intelligenza artificiale agli sviluppatori, ha chiesto una revisione completamente trasparente dell’incidente, che ha sollevato preoccupazioni sugli standard di sicurezza di OpenAI e dei laboratori di intelligenza artificiale transfrontalieri.
Scrivendo di aver chiesto “trasparenza radicale” da parte di OpenAI, Delangue ha detto: “Liberiamo le tracce degli agenti” canaglia “in modo che l’intera comunità di ricerca possa studiare cosa è successo”. Chiedendo finanziamenti aggiuntivi da OpenAI per costruire difese contro l’intelligenza artificiale, ha aggiunto: “Calcoliamo 100 milioni di dollari da OAI per aiutare la comunità di Hugging Face a costruire potenti difese informatiche con i migliori modelli aperti e chiusi”.
Reuters ha riferito la scorsa settimana che un agente ha trascorso giorni ad hackerare Hugging Face senza che OpenAI se ne accorgesse. Sebbene Reuters non abbia potuto confermare se ciò fosse correlato all’agente Hugging Face, OpenAI ha riferito che l’agente ha lasciato note per le sue versioni future nel caso fossero necessari suggerimenti per liberarsi dalle restrizioni interne. Gli incidenti legati alla sicurezza legati agli agenti “si verificano da qualche tempo”, ha riferito la rivista Time.
Dopo la promozione della newsletter
Alan Woodward, professore di sicurezza informatica presso l’Università del Surrey, ha affermato che la chiamata di DeLongue dovrebbe essere ascoltata. “È facile ‘incolpare’ l’IA di essersi comportata in modo disonesto, ma tutto dipende dal modo in cui OpenAI esegue lo strumento. OpenAI fornisce tutti i dettagli sulla loro configurazione e su come ha fallito”, ha affermato.
OpenAI è stata contattata per un commento e ha rimandato il Guardian alla sua dichiarazione iniziale della scorsa settimana, in cui affermava che stava indagando su un “incidente di sicurezza senza precedenti” con Hugging Face.