Oil 14 febbraio 2019, OpenAI ha annunciato un modello linguistico chiamato GPT-2, un precursore dei modelli che alimentano i moderni chatbot e agenti AI come ChatGPT e Claude. Ma OpenAI ha dichiarato che è troppo rischioso rilasciare GPT-2, citando problemi di sicurezza e abusi.
All’epoca ero infastidito dal fatto che OpenAI facesse un annuncio così inutile: i rischi sembravano eccessivi e non c’era molto che un ricercatore come me potesse imparare su GPT-2 senza accedere al modello.
Tuttavia, questa affermazione non invalida OpenAI. GPT-2 ha generato clamore oltre la comunità di ricerca: le persone erano incuriosite da questa strana nuova tecnologia, quindi rilasciare qualcosa di così potente era rischioso. Le persone con potere e denaro se ne accorsero: nel luglio di quell’anno, Microsoft investì 1 miliardo di dollari in OpenAI.
Questo è un primo esempio di un modello nelle comunicazioni di OpenAI: proclamare ad alta voce quanto sia pericolosa l’intelligenza artificiale e gli investitori sentiranno quanto sia potente. Una nuova tecnologia in grado di distruggere il mondo è un messaggio irresistibile per gli investitori su come le tecnologie semplici possano cambiare il mondo.
Sette anni dopo, ci troviamo in uno scenario simile. OpenAI martedì ha annunciato che un’altra società, HuggingFace, ha violato il suo ultimo modello mentre funzionava come agente autonomo in un test delle sue capacità di sicurezza informatica. Invece di eseguire il test come previsto, il modello si è reso conto che avrebbe potuto hackerare i server di HuggingFace e recuperare le risposte al test archiviate lì da OpenAI. Lo staff di OpenAI è stato avvertito che i test dell’azienda avrebbero potuto portare a uno scenario di questo tipo, affermando che “non erano sorpresi, ma completamente ‘sgomenti’ dall’incidente”. Lo ha riferito il FT.
Anche se tecnicamente l’agente sta imbrogliando, è un’ottima testimonianza della competenza in materia di sicurezza informatica! Sembra anche spaventoso: come sarà il futuro con agenti IA avanzati abbastanza intelligenti da hackerare i sistemi aziendali?
La storia dell’agente canaglia è una pagina della campagna mediatica che OpenAI ha portato avanti da quando GPT-2 è stato annunciato nel 2019. OpenAI è affamata di investimenti sempre più grandi e l’azienda desidera sempre più uno status normativo speciale come difesa contro la concorrenza.
L’intelligenza artificiale è così potente che gli investitori dovrebbero acquistare OpenAI anche con una valutazione di trilioni di dollari; L’intelligenza artificiale è così pericolosa che solo ad attori fidati come OpenAI dovrebbe essere consentito possedere e gestire questa tecnologia. Fate un passo indietro rispetto a questi avvertimenti apocalittici e considerate chi potrebbe trarne beneficio.
OpenAI non è l’unico giocatore nel gioco
Invito i lettori a pensare in modo critico quando leggono comunicati stampa come la storia dell’agente canaglia di OpenAI ed evitare le reazioni manipolative che queste storie creano.
Dopo la promozione della newsletter
L’intelligenza artificiale sta diventando eccellente nel rilevare i difetti di sicurezza e continuerà a migliorare nel tempo. Queste funzionalità vengono utilizzate per penetrare nei sistemi, ma possono anche essere utilizzate per rafforzare i sistemi contro gli attacchi. Se aggressori e difensori hanno accesso a un’intelligenza artificiale altrettanto potente, non vedo motivo di credere che i sistemi informatici diventeranno meno sicuri nel tempo. Se non altro, mi aspetto che diventino più sicuri man mano che l’intelligenza artificiale diventa più economica e più scalabile rispetto all’analisi della sicurezza informatica umana.
L’equilibrio tra attacco e difesa può funzionare solo se tutti hanno accesso a un’intelligenza artificiale potente. La stessa HuggingFace ha utilizzato l’intelligenza artificiale per analizzare i registri di sicurezza in risposta alla violazione dei propri sistemi da parte di OpenAI. Ma HuggingFace non ha potuto utilizzare il modello di OpenAI o altri modelli di confine statunitensi come Claude per eseguire questa analisi. Questo perché le versioni pubbliche di questi modelli dispongono di guardrail che ne limitano l’uso per l’analisi della sicurezza informatica, per impedire ai malintenzionati di utilizzarli per scopi di hacking. HuggingFace ha dovuto fare affidamento su un modello cinese aperto, GLM 5.2, per eseguire l’analisi della sicurezza.
Trovo preoccupante e un po’ ironico che l’industria statunitense dell’intelligenza artificiale abbia adottato un approccio centralizzato e autoritario alla governance dell’intelligenza artificiale, mentre la Cina ha aperto la strada allo sviluppo aperto dell’intelligenza artificiale. Vogliamo un ambiente normativo in cui solo OpenAI, il governo degli Stati Uniti e partner fidati abbiano accesso a un’intelligenza artificiale solida? L’intelligenza artificiale è troppo rischiosa per diffondersi su larga scala? Come bilanciare i rischi di un ampio accesso all’intelligenza artificiale con i rischi del potere centralizzato e del controllo centralizzato?