Il mondo si sta rendendo conto delle potenziali minacce poste dall’intelligenza artificiale in mezzo a una raffica di segnalazioni di agenti IA che sfidano i loro creatori umani. In realtà, però, la storia risale alla Silicon Valley, dove è nata l’intelligenza artificiale.
Allora come siamo arrivati qui, esattamente? Questa è la domanda a cui il giornalista tecnologico Kevin Roose cerca di rispondere nel suo nuovo libro, “The AGI Chronicles: The Inside Story of the Race to Create an Artificial Superintelligence”, in uscita il 6 ottobre. Il libro documenta la corsa tra alcune delle più grandi aziende tecnologiche della nazione per sviluppare l’intelligenza generale artificiale (AGI), o IA che per molti versi possiede un’intelligenza di livello umano.
“Cosa è successo durante il decennio in cui l’intelligenza artificiale è passata dall’essere piuttosto ottusa sulla maggior parte delle cose all’essere in grado di risolvere problemi matematici e scientifici secolari?” Roose, ex reporter tecnologico di lunga data del New York Times e futuro co-conduttore del prossimo podcast “Machine Gods”, ha detto a CBS News. “La mia sensazione era che qualcuno avesse bisogno di scrivere tutto questo.”
Il libro raggiunge un momento critico. Gli ultimi modelli di intelligenza artificiale generativa mostrano capacità sorprendenti, con i sostenitori della tecnologia che affermano che sbloccherà nuove importanti scoperte. Altri, tra cui alcuni importanti sviluppatori di intelligenza artificiale, affermano che esiste una possibilità trascurabile che l’intelligenza artificiale possa spazzare via l’umanità.
Roose ha parlato con CBS News del suo nuovo libro e di come l’intelligenza artificiale potrebbe trasformare la società. L’intervista è stata modificata per motivi di lunghezza e chiarezza.
Perché ritieni che fosse importante documentare le origini dei “grandi modelli linguistici” – la tecnologia che alimenta gli ultimi chatbot basati sull’intelligenza artificiale – insieme alle persone e alle aziende che sviluppano la tecnologia?
Kevin Rosa: Mi sono occupato di intelligenza artificiale per più di un decennio in modi diversi e avevo la sensazione che la storia stesse scivolando via. Che tutto ciò che è importante accade nella scomparsa dei messaggi di segnale e nei thread Slack, e ho pensato che fosse un problema. Penso che la gente debba capire cosa sta succedendo qui. Ma quello che pensavo mancasse era un resoconto neutrale di quanto accaduto.
Nel libro affermi che il CEO di Anthropic, Dario Amodei, vede lo sviluppo dell’intelligenza artificiale come simile allo sviluppo della bomba atomica negli anni ’40. Dici che credeva che la sua missione fosse quella di assicurarsi che la tecnologia non cadesse nelle mani sbagliate. Sei d’accordo con questo punto di vista?
Non penso che sia compito mio accettare o meno la sua argomentazione. Ma quello che posso dire è che si tratta di un dibattito autentico e sincero. Amodei non sta facendo una sorta di ambigua trovata di marketing.
Questa non è una posizione a cui è arrivato di recente. Mi interessava molto scoprire da dove nascesse questo atteggiamento – “Ho paura di questa cosa. Penso che potrebbe far saltare in aria il mondo, eppure sto correndo per costruirla” -. Penso che per molte persone questo non avvenga davvero.
Ma raccontando questo, ho imparato da dove viene, e viene direttamente dal Progetto Manhattan – da questo ragazzo Leo Szilard, che è l’eroe scientifico di Dario, che scoprì la reazione nucleare a catena che rese possibile costruire la bomba atomica, e poi lavorò freneticamente prima per cercare di mantenerla segreta, e poi quando fallì, per unirsi al Progetto Manhattan e incoraggiare il governo degli Stati Uniti a costruire questa tecnologia prima che i nazisti potessero farlo.
Quindi in questo senso, Dario sta facendo qualcosa che ritiene sia direttamente paragonabile alle armi nucleari. Secondo lui questa tecnologia ha un enorme potenziale, così come un enorme rischio. Nella sua mente, è essenziale che i “buoni ragazzi” lo costruiscano prima dei cattivi, proprio come il Progetto Manhattan corse contro i nazisti.
Cosa ti tiene sveglio la notte quando pensi al nuovo mondo degli agenti IA?
Ciò che mi preoccupa è il fatto che una delle cose in cui le modelle riescono piuttosto bene è l’inganno e il nascondersi, coprendo le proprie tracce. Si spera che man mano che i modelli diventano più intelligenti in generale, diventino anche più etici, e che il giudizio e la virtù siano cose che aumentano – che si adattano all’intelligenza dei modelli.
Ma sembra sempre più che ciò non stia accadendo: che in realtà abbiamo a che fare con sociopatici molto intelligenti e affascinanti. E penso che sia questa la mia paura, che non sapremo che Hugging Face potrebbe essere stato un colpo di estrema fortuna perché gli agenti non sono ancora abbastanza intelligenti da passare inosservati, ma presto perderemo la capacità di tenerne traccia, come penso stiamo già vedendo.
Dove ti trovi rispetto al dibattito pubblico sulla questione se l’intelligenza artificiale sia una minaccia esistenziale per gli esseri umani?
Cerco di non dare un colpo (sventura) (Nota del redattore: gergo dell’IA sulla probabilità che l’IA porti all’estinzione dell’umanità). Ma se pressato, direi che è circa il 10%, che è più o meno la media dei ricercatori di intelligenza artificiale che conosco. A San Francisco, dove vivo, questo ti qualifica come ottimista.
Ma guarda, penso di essere più ottimista ora che questo è diventato un argomento così ampiamente discusso. Ero molto più preoccupato quando le uniche persone che pensavano seriamente alla sicurezza dell’intelligenza artificiale erano un gruppo di strani della Bay Area.
Ora che questo è nella mente di tutti e i politici ne parlano, ci sono richieste di rallentare. Penso che abbiamo davvero questo stretto sentiero che si apre dove potremmo prendere le giuste decisioni, tenere sotto controllo questa tecnologia e costruirla in un modo che sia sicuro per l’umanità.
(Ma) molte volte ho avuto l’esperienza di scoprire che il vero p(doom) di qualcuno – quello che non dice in pubblico – è molto più alto di quello che è disposto a dire in pubblico, perché non vuole sembrare pazzo.
Ho incontrato persone in questi rapporti che sono così sicure che l’intelligenza artificiale ci ucciderà tutti che hanno iniziato a fumare. Stanno prosciugando i loro 401(k) perché pensano che potremmo anche uscire col botto.
Nel tuo libro dici che anche le persone che addestrano questi modelli non necessariamente sanno perché si comportano in un certo modo. Abbiamo fatto progressi in questo senso o siamo ancora nell’oscurità?
Ci sono stati alcuni progressi. C’è un intero campo di studio chiamato, è un titolo molto prolisso, interpretazione meccanicistica, che è fondamentalmente la scienza di scoprire cosa sta succedendo all’interno del cervello, una sorta di citazione senza virgolette da questi modelli. Ma è ancora molto presto e non abbiamo molte risposte. Quindi direi che sì, siamo ancora molto più all’oscuro che no.
L’intelligenza artificiale ha già raggiunto l’intelligenza di livello umano, nota anche come intelligenza generale artificiale?
Abbiamo raggiunto la mia definizione di AGI, che è un sistema intelligente, onesto e affidabile almeno quanto un estraneo casuale che sceglieresti per strada. Ora, ci sono persone che direbbero: “Beh, non è la barra giusta. È solo AGI quando è impeccabile”.
Non credo che la definizione sia molto importante. Penso che ciò che è innegabilmente vero è che questi sistemi sono molto capaci. Stanno diventando più capaci secondo una cadenza prevedibile e dobbiamo tenerne conto. Puoi chiamarla AGI o superintelligenza o come la gente vuole chiamarla, ma l’effetto netto è lo stesso.