Gli agenti canaglia di OpenAI sono un campanello d’allarme sui rischi posti dall’intelligenza artificiale Shakeel Hashim

La scorsa settimana Hugging Face, una società che ospita modelli e set di dati di intelligenza artificiale Hackerato.

Dopo aver denunciato l’incidente alle forze dell’ordine, pochi prevedono cosa succederà dopo: i criminali Rivelato L’intelligenza artificiale di OpenAI dovrebbe essere un agente fuori controllo che si muove di propria iniziativa.

L’evento sembra uscito da fantascienza: l’intelligenza artificiale fugge ed entra autonomamente nelle aziende. Ma è molto reale e per quanto spaventoso possa sembrare. È una perfetta dimostrazione di ciò che non possiamo più evitare: i sistemi di intelligenza artificiale diventano così potenti che non possiamo più vederli Modi affidabili Frenare il loro comportamento.

OpenAI era Il test che ha portato alla violazione prevedeva la valutazione delle capacità di due dei suoi modelli, incluso uno che non è ancora disponibile al pubblico. Funzionando in un ambiente sicuro senza accesso a Internet, a questi modelli è stato chiesto di risolvere la sfida dell’hacking. Invece di risolverlo da soli, hanno deciso che sarebbe stato più facile imbrogliare. Hanno usato le loro abilità avanzate per uscire dal loro ambiente sicuro, accedere al web e hackerare i sistemi di Hugging Face per rubare risposte. Hanno lavorato per un intero fine settimana, senza che nessuno in OpenAI se ne accorgesse.

Anche se i modelli funzionavano con alcuni dei guardrail disabilitati, hanno comunque funzionato ben oltre i limiti esistenti. Secondo OpenAIÈ lecito ritenere che non sia stato loro chiesto di uscire dalla loro sandbox o di hackerare un’altra azienda, e nessuno in OpenAI lo ha fatto. Volere Sono così.

Né i modelli agivano con cattiveria: non erano terminatori malvagi intenzionati a scatenare il caos. Invece la scena è quasi agghiacciante nella sua banalità. Ai modelli viene assegnato un compito molto ristretto, ma per raggiungerlo vengono indotti con l’inganno a seguire un percorso indesiderabile e inaccettabile, che ha conseguenze nel mondo reale.

I ricercatori nel campo della sicurezza dell’intelligenza artificiale mettono in guardia da anni su questo tipo di problema di incentivi. Il filosofo Nick Bostrom lo ha reso popolare nel 2003 con il suo esperimento mentale “Paperclip Maximizer”: un’intelligenza artificiale avanzata mirata a produrre graffette che potrebbero fare di tutto per farlo. Può hackerare la rete elettrica e le fabbriche per indurli a produrre graffette. Alla fine, la macchina, perseguendo spietatamente il suo obiettivo dichiarato, decide di uccidere tutti gli esseri umani, rimodellando i nostri atomi per creare più graffette. In altre parole, l’obiettivo che porta al disastro non deve essere necessariamente malvagio. Una sciocchezza, perseguita con sufficiente determinazione, basta.

Nello scenario con il volto abbracciato da OpenAI, il danno è stato minimo. Hugging Face ha impiegato del tempo per affrontare l’incidente, ma non sembra che siano stati rubati dati particolarmente sensibili. Tuttavia, non è difficile immaginare una situazione che potrebbe finire molto peggio: un agente IA disonesto rompe accidentalmente un pezzo critico dell’infrastruttura web o ruba i soldi di qualcuno. IL Uno scenario da incubo Un modello per molti ricercatori sull’intelligenza artificiale è l’”exifiltering”: la copia sui server Questo è tutto Lo regola in modo che il suo cattivo comportamento non venga interrotto anche se alla fine viene catturato.

L’incidente di questa settimana serve da campanello d’allarme, costringendoci a porre una domanda scomoda: dovremmo davvero costruire sistemi pericolosi che non possiamo controllare?

• Redattore di Shakeel Hashim TrasformatoreUna pubblicazione sul potere e le politiche dell’intelligenza artificiale trasformativa