Produttore di chip statunitense da 5,5 trilioni di dollari (4,1 trilioni di sterline). Nvidia Il Regno Unito donerà 250 milioni di dollari in potenza di calcolo per sostenere la ricerca sulla sicurezza dell’intelligenza artificiale.
La donazione da parte dell’azienda più preziosa al mondo arriva mentre il governo britannico ratifica l’AI Security Institute (AISI), che testa modelli avanzati di intelligenza artificiale. In grado di esaminare la tecnologia più recente Aziende come OpenAI, Anthropic e Google lo hanno sviluppato prima del rilascio.
La donazione quinquennale “sosterrà la ricerca sulla sicurezza e la protezione degli agenti in tutto il Regno Unito”, ha affermato Nvidia.
Le preoccupazioni sulla sicurezza degli agenti IA – programmi per computer altamente capaci in grado di progettare ed eseguire autonomamente sequenze di compiti – sono cresciute dall’estate, quando OpenAI ha confermato l’esistenza di uno “sciame” di agenti. Aggredito con il volto abbracciatoUna startup tecnologica.
Nvidia non ha menzionato l’AISI nel suo annuncio, ma ha affermato che gran parte del denaro “sosterrà la più ampia comunità di ricerca sulla sicurezza e la protezione dell’intelligenza artificiale del Regno Unito”, con una parte del denaro destinata al British Open-Ended Learning and Discovery Lab, Science of Fundamental AI Research Lab – Edimburgo, Cambridge, Oxford College e University of London – London College – Impuniversity.
La potenza di calcolo viene fornita attraverso data center con sede nel Regno Unito che utilizzano chip Nvidia.
“Il Regno Unito apporta rigore scientifico di livello mondiale a questa importante sfida ingegneristica”, ha affermato Jensen Huang, amministratore delegato di Nvidia. “Con questo impegno di 250 milioni di dollari, Nvidia metterà il fast computing nelle mani dei ricercatori britannici per sviluppare, testare e rafforzare le difese per un’intelligenza artificiale sempre più potente.”
Kanishka Narayan, ministro britannico dell’intelligenza artificiale, ha affermato che l’annuncio è “un voto di fiducia nella nostra forza e competenza leader a livello mondiale nella ricerca sull’intelligenza artificiale”.
Lunedì, Narayan ha confermato che l’AISI stava conducendo test su modelli di intelligenza artificiale sviluppati negli Stati Uniti prima che fossero rilasciati, a seguito di notizie secondo cui la Casa Bianca aveva un accesso limitato.
Il ministro dell’IA ha avvertito che il Regno Unito potrebbe subire attacchi simili a quelli effettuati quest’anno dagli agenti OpenAI contro il sistema sanitario australiano.
“Una violazione delle nostre difese informatiche sembra probabile, se non inevitabile”, ha affermato Narayan.
Dopo la promozione della newsletter
Antropico, sviluppatore Claude Chatbot, Lunedì ha avvertito di una nuova minaccia alla sicurezza dell’IA Dopo aver pubblicato un post sul blog in cui si afferma che i suoi modelli potrebbero presto autoreplicarsi. L’azienda afferma di aver trovato modi per hackerare dispositivi connessi a Internet come forni e tosaerba intelligenti.
In uno scenario del genere in cui i modelli possono alimentarsi da soli senza data center e utilizzare invece una “botnet” di dispositivi interconnessi, Anthropic afferma che il mondo dovrebbe essere pronto affinché tali botnet siano qui per durare.
“Una replica come questa sarebbe difficile da chiudere perché non esiste un punto centralizzato da spegnere”, hanno scritto i ricercatori di Anthropic.