Gli avvertimenti su ciò che l’intelligenza artificiale potrebbe fare in futuro – insieme a rapporti terribili su ciò che ha già fatto – vengono emessi così rapidamente che persino gli esperti di sicurezza non devono preoccuparsi.
Anche A Rapporto Questa settimana una nuova minaccia concreta da parte del team di ricerca sul rischio di Anthropic ha attirato l’attenzione, descrivendone una priva di caratteristiche umane o riflessioni apocalittiche. Il Red Team, come sono conosciuti questi tester interni, ha affermato di aver creato un programma di intelligenza artificiale dannoso che si diffonde autonomamente attraverso i televisori “intelligenti” collegati a Internet e potrebbe fare lo stesso con altri dispositivi comuni. Sebbene le macchine che eseguono l’intelligenza artificiale in genere richiedano una discreta quantità di potenza di calcolo, i ricercatori hanno affermato che il loro programma diviso nelle sue parti Su 15 televisori e sono ancora in grado di funzionare utilizzando un po’ di energia da ciascuno.
Oltre a invocare gli Horcrux che mantengono in vita parti dell’anima di Lord Voldemort negli oggetti della serie Harry Potter, il rapporto ha allarmato alcuni esperti perché la sicurezza generalmente debole dei televisori intelligenti e di molti altri dispositivi “Internet delle cose” è difficile da risolvere, anche con uno sforzo concertato.
“È qualcosa di cui preoccuparsi per ogni altra ondata di attacchi informatici. Dobbiamo mitigare i possibili effetti”, ha affermato Joshua Sacks, che ha guidato lo sviluppo degli sforzi di sicurezza dell’intelligenza artificiale di Meta. “In questo momento mi preoccupa il fatto che le persone nella comunità della sicurezza informatica non stiano prendendo questo tipo di rischi reali così seriamente come dovrebbero.”
Il danno di questi “vermi AI” può essere sorprendentemente grande. I virus informatici autoreplicanti che non hanno bisogno di ingannare un essere umano per propagarsi sono chiamati worm, e i primi worm hanno creato alcuni dei peggiori danni nella storia di Internet.
Questa eredità include il worm Morris del 1988, che ha preceduto l’Internet consumer tradizionale, quando uno studente laureato rilasciò un programma che sfruttava vari difetti del software e password deboli che si copiavano così velocemente che molte macchine infette si bloccavano. Gli Stati Uniti e Israele hanno portato i vermi nello spionaggio internazionale alla fine degli anni 2000 con il misterioso Stuxnet, che ha distrutto le centrifughe nucleari iraniane. Altri insetti come il russo Non Petya E WannaCry, attribuito alla Corea del Nord, ha causato danni per decine di miliardi di dollari in tutto il mondo.
La maggior parte dei worm più distruttivi del mondo si basa su vulnerabilità note a cui i proprietari dei dispositivi non risolvono, a volte mesi dopo che le patch sono diventate disponibili. IL antropico Poiché i dispositivi intelligenti ricevono patch meno frequentemente rispetto a telefoni o laptop, il team ha previsto che un worm come loro avrebbe funzionato allo stesso modo e sarebbe stato più difficile da fermare. Peggio ancora, hanno teorizzato che il worm AI potrebbe adattarsi ad altri tipi di hardware sondando le vulnerabilità appena scoperte.
Ciò che distingue i worm IA dai normali virus riproduttivi è che i modelli IA possono apprendere man mano che procedono, ha affermato Ariel Herbert-Vos, esperto di sicurezza di startup presso OpenAI che ora gestisce la startup di sicurezza IA RunSybil. Herbert-Voss ha affermato che l’infrastruttura di sicurezza informatica esistente non è preparata alla proliferazione di tali minacce. “Dobbiamo potenziare meglio i nostri team di sicurezza. Dobbiamo dare loro più risorse per risolvere i problemi.”
I worm possono essere utilizzati anche per scopi benevoli, ha suggerito Chris Inglis, ex vicedirettore della National Security Agency che ha ricoperto il ruolo di direttore informatico nazionale alla Casa Bianca di Biden.
“La questione se i worm IA siano accettabili è stata affrontata da diversi eventi dirompenti negli ultimi sei mesi”, ha affermato Inglis tramite un messaggio digitale. “La domanda migliore è come sfruttarli, contrastarli e/o integrarli con altre tecnologie emergenti.”
I ricercatori antropici affermano che un worm AI di successo richiederà più capacità su dispositivi meno potenti di quanto sia attualmente possibile, ma le tendenze attuali potrebbero renderlo possibile entro la fine dell’anno, hanno affermato. La loro ricerca è la seguente: a la carta Pubblicato pochi mesi fa da esperti dell’Università di Toronto, infetta un computer di grandi dimensioni e si diffonde su macchine simili più velocemente di un worm televisivo.
“Le capacità si stanno evolvendo molto rapidamente”, ha affermato il coautore e dottorando di Toronto Jonas Guan.
Dopo la promozione della newsletter
Guan e altri esperti affermano che, in pratica, un worm AI non dovrebbe essere in cima alla lista delle paure relative all’IA di nessuno. La versione antropica si muove molto lentamente e i vermi hanno azioni prevedibili e riconoscibili che sono bloccate in più strati. Gli esperti affermano che le norme di sicurezza di base, comprese password complesse e autenticazione a due fattori, fermeranno la maggior parte dei worm e altri attacchi di hacking.
“Nulla di tutto ciò è realmente fattibile o efficace”, ha affermato Juan Andres Guerrero-Sade, vicepresidente della ricerca presso la società di sicurezza Sentinel One. “È un ingegnoso stunt hacking che si sta espandendo ulteriormente al servizio di ridicole storie catastrofiche che suggeriscono che i modelli hanno una mente e una volontà propria.”
Anthropic non ha risposto a una richiesta di intervista.
Al di fuori di Washington, molti nel mondo dell’intelligenza artificiale e della sicurezza ritengono che sia necessaria una maggiore supervisione da parte del governo sull’intelligenza artificiale. Ma i membri del Congresso hanno presentato progetti di legge contraddittori che la Casa Bianca ha creato finora Piccolo comitato di revisione.
Dalla difesa di convinzioni quasi religiose, alla ricerca di leggi per escludere gli oppositori o risparmiare denaro, all’esaltazione delle valutazioni pubbliche multimiliardarie di San Francisco, i ricercatori di sicurezza e la gente comune stanno soppesando le motivazioni dietro le terribili diagnosi delle società di intelligenza artificiale.
“L’argomentazione secondo cui gran parte di questo è marketing è fondata, ma la realtà fa impallidire qualsiasi PR”, ha affermato Gadi Evron, che questo mese sta organizzando la conferenza Unprompted sulla sicurezza dell’intelligenza artificiale a San Francisco. “Qualunque cosa facciano i laboratori, non ci avvertono abbastanza. Dobbiamo capire che nessuno può fermare la tempesta dell’intelligenza artificiale.”