“Ho la sensazione che entro pochi mesi qualcuno parlerà di intelligenza artificiale”, ha detto minacciosamente un ministro.
Questo è lavoro La conferenza, dai ministri agli attivisti, incoraggia la presa del potere di Andy Burnham e si è ripresa nei sondaggi dopo il cambio di leader.
Ma molte figure di spicco del partito laburista hanno iniziato a citare in privato il potere dell’intelligenza artificiale come una questione di grande preoccupazione, insieme alle pressioni immediate sul costo della vita e ad un’economia debole.
Un ministro del governo – per un breve periodo estraneo alla tecnologia – ha detto al Guardian che l’intelligenza artificiale pericolosa e incontrollata è un problema che li tiene svegli la notte, preoccupati per la minaccia all’umanità. Non sono i “robot assassini” a preoccupare, hanno spiegato, ma la possibilità che grandi quantità di potere centralizzato e super-intelligente cadano nelle mani di cattivi attori.
Un altro ha espresso preoccupazione per il fatto che il governo “sta restando indietro rispetto al pubblico” quando si tratta di preoccupazioni sulla sicurezza dell’IA – e che deve recuperare rapidamente il ritardo.
Nel suo discorso alla conferenza, Ed Milliband Così severi riguardo ai “terribili” pericoli dell’intelligenza artificiale, i politici non possono e non vogliono permettere che i profitti delle aziende tecnologiche “a scapito dei nostri figli o addirittura dell’umanità”.
E non c’è voluto molto perché questi campanelli d’allarme suonassero ancora più forte, con gli ultimi sette giorni che sembravano una settimana in cui Westminster era stata completamente svegliata dagli avvertimenti.
L’attività è iniziata lunedì quando Kanishka Narayan, il ministro dell’AI, ha detto di sì “probabile, se non inevitabile” Agenti disonesti affermano di aver hackerato lo stato britannico e il Regno Unito sta cercando di rafforzare la sua imminente legislazione sulla sicurezza informatica.
È stato un argomento chiave di discussione nel Gabinetto martedì, ed è stato seguito dal capo dell’MI5 Ken McCallum che ha avvertito che l’intelligenza artificiale sta “potenziando la competizione sulla sicurezza informatica tra aggressori e difensori”. Ha detto La minaccia più grande sono i gruppi terroristici Usare la tecnologia per liberare armi biologiche: tossine che causano morte e malattie.
Liam Byrne, presidente del comitato affari, innovazione, scienza e commercio, ha affermato che il passaggio del governo da Keir Stormer a Burnham è in parte alla base della maggiore attenzione alla protezione del Regno Unito dalle minacce dell’intelligenza artificiale, ma c’è ancora molto da fare. “La realtà è che l’amministrazione Stormer è molto vicina alle grandi aziende tecnologiche”, ha affermato Byrne. “E Burnham chiaramente non lo era, quindi c’è stato un cambiamento di postura. Quelle cose e i servizi di sicurezza che hanno lanciato il loro avvertimento, hanno cambiato l’atmosfera.”
Una figura di spicco del governo laburista ha ammesso che il governo di Burnham sta prendendo più seriamente gli avvertimenti sulla sicurezza dell’IA. “Penso che ci sia stato un cambiamento. In passato, molti di loro bevevano il Kool-Aid del tech-bro,” ha detto.
Questa settimana il Comitato Byrne ha tenuto una sessione di prove con leader della pubblica amministrazione e dirigenti di aziende chiave responsabili della sicurezza dell’IA – antropicoOpenAI, DeepMind e Meta – con una divisione tra se la sperimentazione governativa di nuovi modelli debba essere obbligatoria.
Ha detto che il suo comitato sta “illuminando” la questione della collaborazione con gli Stati Uniti per regolamentare e monitorare i nuovi modelli. Secondo quanto riferito, l’amministrazione di Donald Trump ha chiesto alle società di intelligenza artificiale di non condividere i test con l’istituto all’avanguardia per la sicurezza dell’intelligenza artificiale del Regno Unito, anche se Narayan ha confermato questa settimana di aver mantenuto la cooperazione.
Ma il governo ora deve cogliere l’attimo e assumere un ruolo guida nella nuova regolamentazione, soprattutto se i repubblicani di Trump perderanno il controllo del Congresso nelle elezioni di medio termine a favore dei democratici, ha detto Byrne.
“Come mantenere l’accesso al modello, come mantenere un presidente americano capriccioso e penso che le garanzie che l’industria sta dicendo ora siano molto necessarie. È tempo di prendere una decisione, direi”, ha detto Byrne.
“Le aziende vogliono collaborare… non è nel loro interesse commerciale lanciare modelli letali. Ora devono anche destreggiarsi alla Casa Bianca. Quindi penso che sia davvero necessario farlo nel modo giusto per il Paese perché il Congresso cambierà le dinamiche negli Stati Uniti.”
L’imminente presidenza del G20 del Regno Unito rappresenta un momento chiave per promuovere un’azione internazionale per la regolamentazione dell’intelligenza artificiale. Geoffrey Irving, ex capo scienziato dell’AISI Ha parlato in un’audizione parlamentare questa settimanaWhitehall ritiene che le preoccupazioni siano giustificate. La tecnologia di OpenAI e Anthropic ha già dimostrato le sue capacità di hacking, ma i loro prototipi vengono rilasciati con protezioni di sicurezza che riducono almeno la minaccia di comportamenti dannosi.
Dopo la promozione della newsletter
Tuttavia, i cosiddetti modelli di intelligenza artificiale open source sono disponibili gratuitamente e possono essere adattati. In genere, raggiungono modelli come OpenAI per il pagamento entro un anno, ma Irving afferma che possono già essere dirompenti.
“È probabile che i modelli open source esistano già Abbastanza potente da causare seri danni”, ha detto Irving al Guardian, aggiungendo che si aspetta che la tecnologia open source “presto” raggiunga le capacità dei prodotti OpenAI e Anthropic. Le barriere di sicurezza sono “assenti o rimosse a malincuore” dai modelli open source, ha aggiunto.
Il Comitato Affari ha ascoltato questa settimana Armi biologiche abilitate all’intelligenza artificiale Nel contesto della sicurezza informatica, i modelli diventeranno più potenti e quindi capaci di generare nuovi bio-danni, anche se gli esperti suggeriscono che esiste un divario tra la progettazione di agenti patogeni pericolosi e il loro utilizzo come arma.
Le preoccupazioni sulla sicurezza informatica e sulle armi biologiche crescono rapidamente con il timore che l’intelligenza artificiale possa spazzare via l’umanità in vari casi – una preoccupazione diffusa nella comunità dell’intelligenza artificiale e condivisa da Irving.
Tuttavia, alcuni esperti sostengono che il governo dovrebbe concentrarsi sui rischi immediati derivanti dall’intelligenza artificiale. La professoressa Elena Simperl, co-direttrice dell’Istituto per l’intelligenza artificiale del King’s College di Londra, ha affermato che l’argomento del rischio esistenziale “non ha alcun fondamento” ed è una “teoria” piuttosto che una minaccia credibile.
“Ci sono rischi più grandi e più immediati che la tecnologia dell’intelligenza artificiale si trova ad affrontare, e cose come l’hacking e i social media basati sull’intelligenza artificiale hanno dimostrato di essere codici che creano dipendenza”, ha affermato Simperl.
In assenza di una regolamentazione internazionale dell’IA, alcuni a Whitehall si chiedono se il Regno Unito sia adeguatamente preparato a difendersi dalla guerra e dagli attacchi dell’IA.
Fonti della difesa hanno affermato che l’eliminazione, avvenuta lo scorso anno, del programma di intelligenza artificiale presso il Laboratorio di scienza e tecnologia della difesa (DSTL) del governo a Porton Down è stata miope perché era necessaria una ricerca all’avanguardia per sviluppare le capacità della nazione e difendersi dalle sue minacce.
Ciò è stato ribattuto da un portavoce del Ministero della Difesa, il quale ha affermato che l’intelligenza artificiale sta “spostando la difesa dall’industria al campo di battaglia e svolgerà un ruolo decisivo nel modo in cui combattiamo e difendiamo” e che dovrebbe essere “integrata in tutti i flussi di lavoro piuttosto che in un programma autonomo”. Hanno suggerito di investire 400 milioni di sterline in capacità focalizzate sull’intelligenza artificiale nei prossimi quattro anni per “preparare il Regno Unito per il futuro”.
Altri a Whitehall hanno la preoccupazione opposta: le preoccupazioni sulla sicurezza potrebbero diventare troppo diffuse e impedire al governo di adottare strumenti di trasformazione per la produttività e di affrontare i problemi a lungo termine nei servizi pubblici, dall’assistenza medica alla riduzione delle liste di attesa.
L’ex segretario di gabinetto Gus O’Donnell ha detto al Guardian che quando si tratta di intelligenza artificiale, i ministri devono essere consapevoli del “pericolo di ripiegare” sulla necessità di guardrail.
O’Donnell, che ha lanciato il rapporto del Global Government Forum sull’intelligenza artificiale con la società tecnologica Cognizant, ha dichiarato al Guardian: “Ha bisogno di essere migliorato e portato avanti davvero. Sono davvero ottimista, ma la sfida per noi, ovviamente, è gestire i rischi lungo il percorso in modo da non commettere errori, il che mina la fiducia del pubblico”.