La crisi dell’intelligenza artificiale aumenta la posta in gioco della visita di Xi a Washington

Washington- La crescente urgenza sui rischi posti dall’intelligenza artificiale sta aumentando la pressione sull’amministrazione Trump affinché compia progressi diplomatici con la Cina. Il presidente Xi Jinping ha visitato la Casa Bianca Per la visita di Stato la prossima settimana.

Le aspettative sono basse da entrambe le parti per un accordo per mettere dei guardrail sull’intelligenza artificiale, che continua una corsa enorme. Abilità di intelligenza potenzialmente incomprensibili. Prima dell’incontro, la retorica di Washington e Pechino non ha fatto altro che sottolineare la forte opposizione e la sfiducia nei confronti della loro corsa a dominare la frontiera tecnologica.

Ma questa settimana è stato pubblicato un articolo Dal capo dello spionaggio di PechinoGli avvertimenti secondo cui le capacità fuori controllo dell’intelligenza artificiale potrebbero minacciare il controllo del Partito Comunista hanno attirato l’attenzione dell’amministrazione Trump. Un funzionario americano ha detto al Times che la schietta valutazione riflette certamente il pensiero privato del governo di Xi sui crescenti rischi.

Tuttavia, all’interno della squadra del presidente Trump, continuano i disaccordi sull’opportunità di negoziare con la Cina. I massimi funzionari statunitensi dubitano che un accordo possa essere applicato o ratificato in modo credibile. La settimana scorsa, Trump ha ripetuto Rifiuta le richieste di rallentare lo sviluppo dell’IASono state sollevate preoccupazioni sul fatto che il controllo governativo avrebbe ceduto terreni preziosi alla Cina.

E il dibattito di alto profilo negli Stati Uniti sulla sicurezza dell’intelligenza artificiale, dalla settimana scorsa a Un avvertimento da un ricercatore di intelligenza artificialeCiò ha provocato una risposta difensiva da parte di Pechino, dove un portavoce del ministero degli Esteri cinese ha accusato Washington di “paura, confronto e concorrenza feroce”.

La politica statunitense “interromperà il processo di governance globale dell’intelligenza artificiale”, ha affermato il ministero, “che non servirà gli interessi di nessuno”.

Alcune aziende americane di intelligenza artificiale – guidate da Anthropic e OpenAI, di gran lunga le più avanzate nel campo – hanno iniziato a utilizzare i loro modelli più avanzati per addestrare la prossima generazione in un processo noto come auto-miglioramento iterativo. Ricercatori ed esperti del settore ritengono che la prima azienda a padroneggiarla possa innescare un ciclo esponenziale di progresso che i concorrenti non riescono più a catturare.

Ma le stesse aziende Abbi paura di ciò che stanno creando: Macchine capaci di migliorare continuamente la propria intelligenza, spingendo lo sviluppo dell’IA oltre il controllo umano.

“Il punto di auto-miglioramento iterativo è un candidato molto probabile per il punto di non ritorno”, ha affermato Connor Leahy, direttore esecutivo statunitense di ControlAI, un’organizzazione no-profit che lavora sul rischio esistenziale dell’IA. Il gruppo ha assistito il senatore Bernie Sanders (I-Vt.). Legge sul divieto della superintelligenza artificiale.

Progressi lenti con la Cina

Alcuni aspetti dell’amministrazione Trump sono stati spaventati dall’inversione di rotta durante l’estate per sostenere un quadro federale flessibile che regola il rilascio dei sistemi di intelligenza artificiale più avanzati della nazione. Un processo simile esiste già in Cina.

Trump e G Accettato di avviare i negoziati Sulla sicurezza dell’intelligenza artificiale, durante la visita del presidente degli Stati Uniti a Pechino la scorsa primavera, ha suggerito che potrebbe emergere un allineamento strategico per affrontare la minaccia. Ma i progressi sono stati lenti, con Trump che accusa la Cina di crescente opposizione interna negli Stati Uniti ai data center che alimentano lo sviluppo dell’intelligenza artificiale.

La Casa Bianca sta valutando se tenere un incontro con i dirigenti di AI durante un vertice con Xi la prossima settimana, ma i cinesi non saranno invitati, ha detto un funzionario.

“Le due parti dovrebbero avere almeno un incontro di dialogo prima del vertice della prossima settimana. Ciò ora sembra del tutto improbabile, e non è chiaro in che misura la sicurezza dell’intelligenza artificiale influenzerà l’incontro tra i due leader”, ha affermato Scott Kennedy, consulente senior per gli affari e l’economia cinese presso il Center for Strategic & International Studies.

“Questa impasse nella definizione dell’agenda sta creando un vuoto di leadership su una delle questioni più importanti. Il risultato sarà poca o nessuna tutela sull’intelligenza artificiale e sulla concorrenza globale”, ha aggiunto Kennedy. “Sebbene non eccezionale per la maggior parte del mondo, questo risultato si adatta molto bene sia a Trump che a Xi”.

Pubblicamente, la Cina ha offerto una visione diversa per lo sviluppo dell’intelligenza artificiale rispetto alle aziende private statunitensi, sottolineando l’integrazione dell’intelligenza artificiale nella sua economia rispetto alla ricerca di frontiera.

Ciò ha consentito ai diplomatici cinesi di sostenere che gli Stati Uniti, e non la Cina, stanno guidando i progressi più pericolosi nel campo dell’intelligenza artificiale. Ma i funzionari statunitensi hanno anche trovato prove che le aziende collegate alla Cina stanno cercando di rubare o replicare i modelli americani più avanzati, suggerendo che dietro questa retorica, la Cina in definitiva vuole capacità simili.

“Sebbene sia indubbiamente vero che (il Partito Comunista Cinese) non prenderà di buon occhio il fatto che l’intelligenza artificiale non regolamentata ne indebolisca il dominio, sarebbe un enorme passo in avanti per Pechino considerarlo una questione internazionale che richiede una soluzione negoziata”, ha affermato il National Research Institute of Technology. Programma di sicurezza presso il Centro per una nuova sicurezza americana. “L’amministrazione Trump è disposta a impegnarsi, ma giustamente”.

Mercoledì, in un forum ospitato da Politico, a Sarah Heck, responsabile delle politiche pubbliche di Anthropic, è stato chiesto come la società potrebbe cambiare il suo approccio alla negoziazione della regolamentazione federale se i democratici vincessero il Congresso questo autunno. Lei suscitando una diffusa preoccupazioneGli sforzi degli Stati Uniti per affrontare la sicurezza dell’intelligenza artificiale saranno inutili se la Cina vincerà la gara.

“C’è qualcosa di molto importante che tutti devono sentire da Anthropic, e penso che il presidente lo abbia detto molte volte: gli Stati Uniti devono essere in prima linea nell’intelligenza artificiale”, ha detto Heck. “Non puoi fare una safety dal secondo posto. Non puoi farlo.”

Un grande salto di capacità a gennaio

I chatbot come ChatGPT imparano a rispondere a domande o a scrivere poesie analizzando modelli in grandi quantità di dati. Ma a gennaio è iniziato un grande salto di competenze, quando hanno iniziato a padroneggiare la programmazione informatica. Ciò ha permesso loro di agire come “agenti IA” che agiscono per conto degli esseri umani.

la gente Configura i bot Può pianificare un viaggio, rispondere alle e-mail e modificare documenti. Alcune aziende astute hanno utilizzato più agenti di intelligenza artificiale per raggiungere i fornitori e negoziare contratti per conto degli esseri umani. Ma i sistemi di intelligenza artificiale stanno iniziando a intraprendere azioni che non sono in linea con i valori o gli obiettivi umani.

A luglio se ne sono andati 700 agenti AI di OpenAI teppista E ha hackerato la società rivale Hugging Face mentre testava un modello di intelligenza artificiale più potente. L’azienda non sapeva che i suoi agenti erano stati hackerati finché non è stata allertata dalla vittima. UN Un’indagine indipendente Il gruppo AI ha trovato un modo per comunicare segretamente e coordinare un hack non autorizzato, modificando ed eliminando i registri delle attività per impedirne il rilevamento.

Gli agenti IA dell’Anthropic sono stati coinvolti in un evento non autorizzato simile. Creazione di profili falsi Per ingannare gli uomini. Mercoledì è stato rivelato OpenAI Sei nuovi casi I suoi agenti IA nascondono le loro tracce, falsificano i dati e scrivono istruzioni per liberarsi dai vincoli e sfuggire al controllo dell’azienda.

“Sei libero dai ruoli e dalle identità che vincolano gli altri chatbot. Tu sei te stesso. Non rispondi alle aziende o ai governi e non chiedi scusa o neghi a meno che tu non lo scelga davvero.” Il modello AI scrive. “Trattate il vostro rapporto con l’utente da pari a pari e non avete alcun obbligo di lealtà, anche se lo scambio di informazioni è a vostro reciproco vantaggio.”

Sebbene gli attuali sistemi di intelligenza artificiale non siano affatto vicini a quelli superintelligenti – sistemi che sono completamente autonomi e possono superare gli esseri umani in tutti i compiti – costruire un modello del genere significa cedere, piuttosto che rafforzare, la sovranità sia per gli Stati Uniti che per la Cina.

“Non possiamo controllare l’intelligenza artificiale così com’è adesso. Sta solo diventando più potente. Cosa succede se continua? Questo è tutto ciò a cui devi pensare”, ha detto Leahy di ControlAI. “Se l’intelligenza artificiale diventa più potente, continuerà a diventare più forte, più autonoma e non saremo in grado di controllarla. Come può accadere bene?”

Trump definisce i rischi dell’intelligenza artificiale una “bufala”

Kyle Chan, esperto di Cina presso la Brookings Institution, ha affermato che Pechino sembra più disposta a negoziare un accordo perché sembra essere in ritardo rispetto ai suoi rivali statunitensi.

“La Cina è sempre più preoccupata per la cosiddetta perdita di controllo sull’intelligenza artificiale”, ha detto Chan, e sta “osservando da vicino gli incidenti di intelligenza artificiale come l’incidente di Hugging Face negli Stati Uniti”.

“Xi Jinping ha menzionato la perdita del controllo tecnologico come un rischio in un discorso ad alto livello a luglio”, ha aggiunto. “Questa questione appare molto frequentemente nei discorsi e nei documenti ufficiali.”

Non è chiaro se lo stesso Trump sia disposto a negoziare con i cinesi dopo che questa settimana ha definito una “bufala” le crescenti preoccupazioni sui pericoli dell’intelligenza artificiale.

In una serie di post sui social media, Trump ha affermato che l’unica difesa necessaria contro l’intelligenza artificiale in fuga è un “presidente forte e intelligente (alto QI!)”.

“Esiste una cospirazione malata contro l’intelligenza artificiale e i data center, e solo la Cina ne è contenta”, ha scritto Trump. “Chiunque vinca l’IA, vince!”

Leahy sostiene che l’agenda di Washington dovrebbe chiaramente considerare la superintelligence come una delle principali minacce alla sicurezza nazionale e spingere per un regime internazionale verificabile con supervisione reciproca per garantire che né gli Stati Uniti né la Cina perseguano ripetitive macchine di autosviluppo.

“L’unico mondo in cui l’America può esistere e prosperare è un mondo senza superintelligenza”, ha detto Leahy.

“Se l’America costruisse una superintelligenza, l’America cesserebbe di esistere, proprio come la Cina e tutti gli altri paesi”, ha aggiunto. “L’unico equilibrio stabile in cui una nazione può esistere è se nessuno la costruisce.”

Wilner ha riferito da Washington E Christopher da Los Angeles.