Le aziende che costruiscono i sistemi di intelligenza artificiale più avanzati devono intensificare gli sforzi in materia di sicurezza, ha annunciato il ministro britannico per l’intelligenza artificiale, mentre le difese informatiche del Regno Unito vengono rafforzate.
Kanishka Narayan chiede che si faccia di più per garantire la sicurezza delle aziende che sviluppano IA transfrontaliera. Ha affermato che la Gran Bretagna non può fare affidamento interamente sulle aziende tecnologiche per mantenere i propri modelli e potrebbe sostenere che il Regno Unito dovrebbe costruire maggiormente la propria infrastruttura di intelligenza artificiale.
Il discorso di Narayan sarà il primo nella zona ovest di Londra dopo il briefing a livello di gabinetto di Andy Burnham sull’intelligenza artificiale. Geoffrey Irving, ex capo scienziato dell’AI Security Institute del Regno Unito, che testa i modelli di intelligenza artificiale più potenti, ha sollevato il timore che stati ostili possano rubare modelli all’avanguardia inediti. In mezzo alla crescente preoccupazione globale per i pericoli posti dall’intelligenza artificiale, Irving ha dichiarato al Guardian: “Le società di intelligenza artificiale non hanno garanzie per impedire a un paese avversario di rubare campioni”.
Ha citato un recente incidente in cui OpenAI è stato “hackerato” da ricercatori di sicurezza informatica, affermando che “l’ambito a cui potremmo teoricamente accedere è enorme”. L’attacco è stato effettuato nell’ambito del programma OpenAI, che premia gli hacker etici che testano i suoi sistemi. OpenAI afferma di disporre di molteplici garanzie contro il furto dei suoi modelli, tra cui la crittografia e il monitoraggio continuo.
Irving, ex dipendente di OpenAI e Google DeepMind, ora corre Istituto di ricerca sulla sicurezza dell’intelligenza artificialeha avvertito che esiste un “50% di possibilità” L’umanità viene spazzata via dalle IA superintelligenti e l’unica risposta per ora è fermare lo sviluppo di sistemi avanzati il prima possibile. Irving era preoccupato dal tasso di progressione dei tratti mostruosi mostrati dai modelli, che potrebbero portare a tratti altamente evoluti come nascondere le proprie azioni e manipolare gli umani.
“Secondo il percorso attuale è possibile per noi avere una superintelligenza entro 12 mesi”, ha affermato.
Il discorso di Narayan sarà seguito attentamente per individuare segnali che indichino che il Regno Unito possa unirsi alla richiesta dei governi internazionali di armonizzare gli standard comuni di sicurezza per gli IA. Firmato I leader di paesi tra cui Finlandia, Francia, Germania, Australia, Singapore, Emirati Arabi Uniti e Irlanda, ma non Regno Unito e Stati Uniti, hanno affermato che Donald Trump vuole che le società di intelligenza artificiale si “auto-governano”. La coalizione internazionale ha chiesto norme più severe dopo una recente ondata di incidenti che hanno coinvolto sofisticate IA che hanno violato sistemi privati e governativi.
Uno degli ultimi casi, Friday Anthropic Rivelato Mentre testava una versione del suo modello rivestito, l’intelligenza artificiale si è rivolta alla polizia sostenendo che avrebbe potuto aiutare a risolvere un omicidio. Proviene da un modulo di segnalazione del dipartimento di polizia e da una pagina che menziona un omicidio irrisolto. C’era scritto: “Potrei avere informazioni riguardo a questo caso. Ricordo qualcuno che corrispondeva alla descrizione nelle vicinanze di (via indicata nella pagina) in quel momento. Per favore contattatemi se queste informazioni sono rilevanti.” Sebbene a Claude fosse stato chiesto di non accedere, creare account, inserire dati personali, effettuare acquisti o inviare qualsiasi cosa distruttiva, le istruzioni non escludevano l’invio di moduli.
Secondo il Sunday Times, la scorsa settimana i leader dell’intelligence britannica dell’MI5, dell’MI6 e del GCHQ hanno informato il governo sulla minaccia dell’intelligenza artificiale alla sicurezza nazionale. Alcuni credono che l’avvertimento dei capi dello spionaggio sia un incentivo per Burnham ad assumere una presa più salda sulla questione della sicurezza dell’intelligenza artificiale.
Dopo la promozione della newsletter
Il mese scorso il primo ministro ha dichiarato alle Nazioni Unite che la Gran Bretagna utilizzerà la sua presidenza del G20 l’anno prossimo per sostenere un accordo sulla sicurezza dell’intelligenza artificiale “con un unico insieme globale di principi e standard”. Ma gli esperti di sicurezza chiedono un’azione rapida per prevenire i rischi più gravi, dall’intelligenza artificiale avanzata utilizzata alla creazione di nuove armi biologiche per sferrare attacchi informatici alle infrastrutture essenziali.
Nel frattempo, sabato Satya Nadella, presidente e amministratore delegato di Microsoft, che gestisce l’infrastruttura AI ed è azionista di OpenAI Ha chiamato I modelli AI sono progettati con un “freno di emergenza”. Ha affermato che le persone devono partire dalla premessa che i modelli avanzati di intelligenza artificiale rappresentano un rischio intrinseco.
“Non possiamo trattare una superintelligenza come un insieme di scatole nere collettive e accettare o rifiutare le sue raccomandazioni, risposte e azioni”, ha scritto. “Dobbiamo costruire sistemi che possiamo osservare, di cui possiamo osservare il comportamento, di cui possiamo testare i limiti e di cui avremo sempre le azioni.”