I timori per i progressi dell’intelligenza artificiale costringono Stati Uniti e Cina a dialogare

Chongqing, Cina – Tre anni fa, nella città di Woodside, a sud di San Francisco, gli Stati Uniti e la Cina hanno tenuto i primi colloqui ad alto livello. Pericoli dell’intelligenza artificiale. Il presidente Xi Jinping e il suo ministro degli Esteri di lunga data sono apparsi seriamente intenzionati a creare un canale tra Pechino e Washington: un telefono rosso per l’intelligenza artificiale in caso di emergenza.

Hanno autorizzato l’inizio di uno sforzo diplomatico in Svizzera nel 2024, mesi prima delle elezioni presidenziali americane. Una numerosa delegazione americana è arrivata con grandi speranze, secondo quattro fonti presenti ai colloqui. Il team cinese ha liquidato le preoccupazioni americane sull’IA in fuga come accademiche, quasi teoriche, spostando rapidamente la conversazione su ciò che Pechino vede come un altro tentativo degli Stati Uniti di respingere i controlli sulle esportazioni cinesi.

Jake Sullivan, consigliere per la sicurezza nazionale degli Stati Uniti sotto la presidenza Biden, ha affermato in un’intervista che “le iniziative diplomatiche americane sono naturalmente limitate o ristrette a un gusto o all’altro.

Nonostante la sfiducia – e la perdita della Casa Bianca da parte dei democratici a favore di Donald Trump – nel novembre dello stesso anno in Perù fu raggiunto un accordo in cui entrambe le parti concordarono di mantenere l’intelligenza artificiale fuori dal controllo e il controllo delle armi nucleari.

“Si tratta di sfatare il mito secondo cui possiamo effettivamente fare qualsiasi cosa sull’intelligenza artificiale”, ha detto Sullivan. “Durante la transizione, ho detto al team Trump entrante che volevano davvero avere quel dialogo. Ma il punto di vista dell’amministrazione Trump era molto più laissez-faire, e loro non erano particolarmente interessati a questo.”

“Tutto è cambiato nelle ultime settimane”, ha aggiunto.

L’amministrazione Trump, un tempo desiderosa di puntare alla supremazia tecnologica, ora, per la prima volta, sta facendo i conti con il potere che l’intelligenza artificiale può scatenare se lasciata senza controllo.

Con una sorprendente inversione di tendenza, i colloqui tranquilli hanno avuto luogo prima del viaggio del presidente Trump in Cina questa settimana per esplorare i colloqui di rinnovo sul canale di emergenza, hanno detto funzionari al Times in mezzo all’allarme condiviso a Pechino e Washington per il lancio di Mythos, il nuovo potente modello di Anthropic.

Un alto funzionario dell’amministrazione ha detto domenica ai giornalisti che la Casa Bianca sta cercando di creare un canale di comunicazione per l’intelligenza artificiale, come altri, in “una serie di aree in cui gli Stati Uniti e la Cina nutrono serie preoccupazioni”.

“Penso che quale sarà questo canale di comunicazione, la sua formalità e come sarà non è stato ancora deciso”, ha detto il funzionario, “ma vogliamo sfruttare questa opportunità durante l’incontro dei leader per aprire il dialogo. Dobbiamo stabilire un canale di comunicazione su questo.”

Le capacità di Mythos sono visibili nell’industria e nel governo Un’arma informatica senza precedentiI sistemi di comunicazione digitale possono essere infiltrati e sfruttati – compresi i database governativi, le istituzioni finanziarie e i programmi sanitari – con conseguenze indicibili.

Non è ancora chiaro se l’annuncio si concretizzerà questa settimana. Qualsiasi dialogo tra Stati Uniti e Cina sui termini dell’intelligenza artificiale – creando una sorta di trattato sul controllo degli armamenti che regolerebbe l’uso della tecnologia che nessuna delle due parti comprende o controlla pienamente – è carico di sospetti, incomprensioni e rischi, dicono gli esperti.

“Attualmente, non c’è quasi alcun sostegno da parte dei politici statunitensi per impegnarsi in discussioni formali sulla governance dell’IA con la Cina”, ha affermato Alok Mehta, direttore del Wadhwani AI Center presso il Centro per gli studi strategici e internazionali.

“La logica è che è una corsa per vincere tutto, ed è imperativo che gli Stati Uniti accelerino il progresso dell’intelligenza artificiale per vincere quella corsa”, ha detto Mehta.

America al top

La Cina entra in queste discussioni con la forte argomentazione secondo cui la leadership statunitense nel campo dell’intelligenza artificiale – e la strategia dominante delle società americane di intelligenza artificiale – stanno portando il mondo verso una frontiera completa.

Tutti i principali attori statunitensi nell’arena – OpenAI, Google, Anthropic, Microsoft e Meta Platforms – stanno correndo per essere i primi a costruire un modello capace. Intelligenza generale artificiale o AGIUna soglia senza una definizione comune, ma la maggior parte concorda sul fatto che un modello è necessario per svolgere qualsiasi compito intellettuale umano.

La teoria prevalente è che la prima persona a raggiungere l’AGI raccoglierà una ricompensa automoltiplicante: autoformazione, intelligenza ripetibile, crescita esponenziale e lasciando tutti i concorrenti nei guai.

Le aziende cinesi, al contrario, seguono una strategia sanzionata dallo stato Focalizzato sull’integrazione dell’intelligenza artificiale nelle industrie in compartimenti stagni e sistemi, modelli formativi per migliorare i compiti individuali e accelerare la crescita in modo più adattivo.

“I cinesi credono che non esista un’unica razza, ma molteplici razze”, ha affermato Scott Kennedy, consulente senior per gli affari e l’economia cinese presso il Center for Strategic & International Studies. “Gli Stati Uniti sono concentrati sul raggiungimento dell’AGI, mentre la Cina è focalizzata sull’implementazione e sulle applicazioni dell’intelligenza artificiale in tutti gli aspetti del resto della loro economia: produzione, robotica umanoide, Internet delle cose”.

Studiosi cinesi, addetti ai lavori del settore dell’intelligenza artificiale e le successive amministrazioni hanno messo in dubbio il pensiero strategico e la sincerità di Pechino.

“Qui nella comunità c’è così tanto entusiasmo per il potenziale di trasformazione dell’AGI che la gente non riesce a credere che la Cina non si concentri su di essa”, ha affermato Matt Sheehan, uno studioso di questioni tecnologiche globali presso il Carnegie Endowment for International Peace che si concentra sulla Cina. “Dice che si concentra sulle applicazioni, ma è un falso per un programma AGI nascosto da qualche parte tra le montagne?”

Ma molti addetti ai lavori ritengono che le linee guida di Pechino nei confronti delle aziende cinesi rivelino le sue vere intenzioni.

“Non erano solo AGI come lo erano gli Stati Uniti, e penso che sia così ancora oggi, quindi hanno trattato gran parte della conversazione negli Stati Uniti sul rischio estremo alle frontiere – disallineamento e perdita di controllo – come un po’ astratto e non correlato a ciò che vedevano nell’espansione dell’IA in Cina”, ha detto Sullivan.

Anche se i progressi della Cina hanno superato le aspettative degli Stati Uniti, soprattutto da allora Deepseek ha rilasciato il suo modello Un anno fa, lo stato ha concentrato la potenza informatica su applicazioni specifiche piuttosto che sulla strategia più ampia necessaria per sviluppare modelli più potenti in grado di avanzare verso l’AGI.

“Non sono solo patatine. Sono soldi”, ha aggiunto Sheehan. “Le principali società cinesi sono più vincolate dal punto di vista finanziario rispetto alle società statunitensi. C’è preoccupazione per una bolla qui, ma OpenAI è valutata a circa 800 miliardi di dollari. Le principali società cinesi che sono diventate pubbliche sono valutate a 20 miliardi di dollari. C’è solo un divario di ordini di grandezza nei finanziamenti disponibili. “

Tuttavia, alcuni nel governo degli Stati Uniti temono che la Cina non avrà bisogno di una potenza di calcolo paragonabile se rubasse la tecnologia su larga scala.

Non è facile farlo. Ma il mese scorso, l’Ufficio per le politiche scientifiche e tecnologiche della Casa Bianca ha accusato gli attori cinesi in una nota di “campagne su scala industriale per distillare i sistemi di intelligenza artificiale di frontiera degli Stati Uniti”, con il risultato di “una frazione del costo” di replicare le prestazioni di modelli esistenti e più avanzati. La nota non accusava Pechino di approvare le attività.

Nel processo, aggiunge la nota, i protocolli di sicurezza attentamente costruiti vengono deliberatamente rimossi.

Il vantaggio negoziale della Cina

Qualunque sia il suo calcolo strategico, la Cina negozierà con l’amministrazione Trump, che è in ritardo nella corsa, pur non essendo d’accordo sulla natura del traguardo.

L’AGI potrebbe, in teoria, raggiungere uno stadio di autosviluppo iterativo che comporterebbe una perdita di consapevolezza o controllo umano. Ma se sono solo gli americani, e non i cinesi, a tentare di raggiungere quel limite, chi è responsabile di fermarlo?

Daniel Remler, che ha guidato la politica sull’IA presso il Dipartimento di Stato durante l’amministrazione Biden e ha partecipato ai colloqui di Ginevra, mette in dubbio le affermazioni della Cina di disinteresse per l’AGI e di ignoranza dei suoi rischi. Ha detto che il ritardo della Cina nella corsa non è un disegno strategico.

“I tecnologi cinesi sono attenti osservatori dell’ecosistema dell’intelligenza artificiale statunitense e talvolta dicono quello che pensano”, ha detto Remler. “Molti sono irrimediabilmente impressionati dal modello (Mythos). I leader dei principali laboratori di intelligenza artificiale cinesi hanno espresso apertamente negli ultimi mesi, anche prima di Mythos, quanto siano limitati i limiti di calcolo alla frontiera. Alcuni dicono che non riusciranno mai a raggiungere i loro concorrenti americani.”

È probabile che i negoziati a questo punto della corsa seguano uno schema familiare nella storia recente della diplomazia USA-Cina, in cui Pechino afferma di essere in ritardo rispetto agli Stati Uniti nello sviluppo, ottenendo alla fine handicap e maggiori concessioni al tavolo delle trattative.

In altri ambiti di concorrenza – come l’ingresso della Cina nell’Organizzazione mondiale del commercio e i negoziati sulla sicurezza informatica tra Pechino e l’amministrazione Obama – gli accordi alla fine considerati affidabili da Washington hanno seguito le aziende americane.

L’amministrazione Trump, ha aggiunto Remler, “deve avvicinarsi alla diplomazia dell’intelligenza artificiale con la Cina con aspettative lungimiranti ancorate ai nostri interessi nazionali”.

La Silicon Valley è divisa sulla regolamentazione dell’intelligenza artificiale. Basandosi sulla preoccupazione che altre società di intelligenza artificiale non riescano a prendere sul serio le questioni di sicurezza e allineamento, Anthropic ha lanciato allarmi sul proprio modello, Mythos, per l’amministrazione Trump, riflettendosi nel migliore dei modi alla Casa Bianca.

Dopo aver incontrato i leader delle principali banche americane sulle loro vulnerabilità, il segretario al Tesoro Scott Besant ha consigliato al governo degli Stati Uniti di rivedere internamente i futuri modelli rilasciati – una pratica già in atto in Cina, dove i parametri di formazione per i modelli, chiamati “pesi”, vengono rilasciati pubblicamente.

L’ipotesi di una supervisione da parte del governo ha suscitato reazioni negative anche nella Silicon Valley. La settimana scorsa, la Casa Bianca ha inviato una nota per rassicurare gli alleati del settore sul fatto che la presentazione di nuovi modelli per la revisione federale sarebbe strettamente volontaria.

Gli esperti ritengono che se i colloqui tra Washington e Pechino sull’intelligenza artificiale alla fine dovessero riprendere, i negoziati saranno più complicati a causa dei trattati sul controllo degli armamenti dell’era della Guerra Fredda che regolano le armi nucleari.

Le superpotenze discutono non solo delle minacce di destabilizzazione per l’economia globale, ma anche dei timori di proliferazione: strumenti avanzati di intelligenza artificiale che cadono nelle mani di malintenzionati interessati a utilizzare armi biologiche o informatiche contro entrambi i paesi.

E alla fine dovranno decidere se discutere della regolamentazione dell’integrazione dell’intelligenza artificiale negli eserciti cinese e statunitense, un obiettivo quasi sfuggente tra i maggiori nemici del mondo, dove la fiducia è bassa e la verifica è difficile.

Quelli del settore che temono ciò che la superintelligenza artificiale potrebbe portare hanno detto all’amministrazione Trump che i colloqui con la Cina sono una necessità esistenziale.

Ma anche con una spinta antropica alla diplomazia, si teme che Pechino possa sfruttare il suo attuale svantaggio per intrappolare l’industria americana in prima linea nella sua corsa alla corona.

Esperti del settore stanno consigliando all’amministrazione di perseguire accordi mirati con Pechino per mitigare rischi specifici, come un accordo sul comando e controllo nucleare, hanno affermato due fonti del settore.

Individualmente, sia Xi che il ministro degli Esteri cinese Wang Yi sembravano capire che la gravità della tecnologia emergente davanti a loro richiedeva una qualche forma di cooperazione, ha detto Sullivan.

“A livello concettuale, credo che ci credano e ne traggano potere, ma credo che il loro livello di urgenza sia molto inferiore al nostro, e penso che sia un processo a lungo termine che avviene nel tempo”, ha detto Sullivan.

“Il loro livello di urgenza e il loro interesse in essa sono aumentati”, ha aggiunto.