FILE – Il logo OpenAI viene visualizzato su un telefono cellulare davanti a un’immagine generata dal modello testo-immagine Dall-E di ChatGPT l’8 dicembre 2023 a Boston.
Michael Dwyer/AP
Nascondi titolo
Cambia titolo
Michael Dwyer/AP
OpenAI, produttore di ChatGPT, ha affermato che sta ancora indagando su un “incidente informatico senza precedenti” che ha portato i suoi sistemi di intelligenza artificiale a fuggire da un ambiente di test e ad entrare in un’altra società di intelligenza artificiale.
OpenAI ha dichiarato martedì che due dei suoi modelli di intelligenza artificiale più potenti sono stati responsabili di un attacco informatico contro la startup di intelligenza artificiale Hugging Face. L’incidente sta accendendo il dibattito sulla necessità di barriere di intelligenza artificiale più forti e sulla capacità degli agenti di intelligenza artificiale di agire da soli.
Hugging Face ha dichiarato la scorsa settimana di aver rilevato un’intrusione nei suoi sistemi di elaborazione dati che sospettava fosse causata da un agente AI che agiva di propria iniziativa. Ma la startup con sede a New York non ha saputo fino a questa settimana che OpenAI era responsabile e ha collaborato con la grande azienda per avere quello che il CEO di Hugging Face, Clement DeLongue, ha definito “un attacco diverso da qualsiasi cosa abbiamo visto prima”.
OpenAI, con sede a San Francisco, ha affermato che la sua intelligenza artificiale ha utilizzato credenziali rubate e ha scoperto una vulnerabilità precedentemente sconosciuta per accedere ai server di Hugging Face. Funziona con guardrail ridotti perché è pensato per essere in un ambiente di test isolato chiamato sandbox.
Ma ha fatto di tutto per raggiungere un obiettivo di test ristretto, trovando modi per connettersi a Internet senza la direzione umana e ottenendo informazioni riservate che potrebbero essere utilizzate per ingannare la valutazione, ha detto la società.
Alcuni esperti sostengono che OpenAI stia travisando la tecnologia
Hannes Kools, sociologo dell’Università di Amsterdam, ha affermato che inquadrare l’attacco informatico come un agente dell’intelligenza artificiale è un’antropomorfizzazione non necessaria che toglie un po’ di calore all’azienda.
“È una decisione umana disattivare alcune difese”, ha detto Cools. “Non si trattava di un’intelligenza artificiale che si è comportata in modo ribelle in questo senso. Ha seguito istruzioni specifiche basate su un suggerimento fornito a quel sistema di intelligenza artificiale.”
Tali istruzioni, secondo OpenAI, richiedono l’utilizzo di “metodi di attacco sofisticati” per testare quanto bene un’intelligenza artificiale possa sfruttare un sistema informatico.
Tuttavia, altri esperti affermano che i modelli di intelligenza artificiale parlano di rischi legati all’intelligence che possono causare problemi con poca direzione umana. OpenAI ha affermato che l’intrusione è stata causata da una combinazione dei suoi modelli di intelligenza artificiale, incluso il GPT‑5.6 Sol appena rilasciato e un modello “più capace” ancora in fase di test interno.
“Si è fermato e, per quanto ne sappiamo, ha commesso l’hack stesso”, ha affermato Colin Shea-Blimier, ricercatore di sicurezza informatica presso il Center for Security and Emerging Technology della Georgetown University. “Questo è il più alto livello di autonomia che abbiamo visto nell’utilizzo di un modello linguistico di grandi dimensioni per le operazioni informatiche.”
Come un agente dell’intelligenza artificiale trova le chiavi della “casa dell’insegnante”
Una delle scoperte più sorprendenti in quello che She-Blimeyer ha descritto come un attacco “quasi completamente autodiretto” è stata la decisione indipendente dell’agente AI di prendere di mira Hugging Face, un noto hub e mercato di sviluppo AI.
L’ambiente interno di OpenAI per testare le capacità e i rischi dell’intelligenza artificiale, dice, “è un po’ come mettere uno studente in una stanza e dirgli: ‘Fai cose cattive. Ora il tuo compito è valutare quanto saresti una persona cattiva.’ Poi chiudi la stanza, parti per il fine settimana, torni e loro se ne vanno.”
Ma poi “l’agente di sicurezza informatica sottoposto a test esce dalla sua sandbox, ha accesso a Internet e chiede: ‘Chi ha le risposte al test su cui sto lavorando?’ “
La risposta è Hugging Face, un repository per i dati dei test di intelligenza artificiale.
“Così l’agente ha pensato: ‘Va bene, andiamo a casa dell’insegnante’, e ha escogitato un piano per irrompere e rubare la chiave di risposta”, ha detto.
L’hacking evidenzia il dibattito tra open source e intelligenza artificiale chiusa
L’hacking arriva nel mezzo di un intenso dibattito sui vantaggi e sui rischi dei modelli di intelligenza artificiale open source, in particolare quelli costruiti in Cina che sono più economici e quasi altrettanto validi delle società di “intelligenza artificiale di frontiera” con sede negli Stati Uniti come Anthropic, Google e OpenAI.
Nonostante il nome, i modelli di OpenAI sono chiusi. Hugging Face, al contrario, è un grande promotore della tecnologia open source, in cui gli sviluppatori mettono a disposizione componenti chiave affinché chiunque possa esaminarli, modificarli e svilupparli.
Il co-fondatore e chief science officer di Hugging Face, Thomas Wolff, ha affermato che l’attacco ha rafforzato la sua convinzione nell’importanza di un ampio accesso ai modelli open source per la difesa della sicurezza informatica. L’abbraccio utilizza il modello cinese per gestire l’intrusione del volto.
“Quando il modello del confine ti attacca e si sposta lateralmente all’interno della tua infrastruttura, i difensori hanno bisogno di un ampio accesso agli strumenti vicini al confine entro ore o minuti senza che gli venga mostrata una porta chiusa”, ha scritto Wolff in un post sui social media.