Sam Altman afferma di credere che il mondo dovrebbe accettare le “cose brutte” che accadono con l’intelligenza artificiale invece dei vantaggi della tecnologia.
L’amministratore delegato di OpenAI ha citato hack, truffe e “altre cose brutte” in un’intervista, provocando un’immediata reazione da parte dei critici delle grandi aziende di intelligenza artificiale. I suoi commenti sono arrivati dopo uno degli esperti di sicurezza della sua azienda RassegnatoDicendo durante il fine settimana che la sua “cultura è rotta”.
In un’intervista rilasciata lunedì, ad Altman è stato chiesto in che modo l’approccio di OpenAI alla sicurezza differisce da quello di Anthropic, che l’industria ha successivamente chiesto di rallentare. Uno dei suoi ricercatori se ne andòGli esperti di IA avvertono che “ci ucciderà tutti entro la fine del decennio”.
“Penso che ci sia molta luce del giorno”, ha detto Altman. “La differenza tra noi e alcuni sostenitori della linea dura nel campo della sicurezza dell’IA è che crediamo che il mondo dovrebbe accettare che alcune delle cose brutte accadono nell’interesse delle persone che dispongono di questa tecnologia e di questa agenzia (uso diffuso dell’IA).
“Penso che l’atteggiamento normativo leggero che sosteniamo sia quello di accettare il fatto che alcune cose brutte accadranno quando la società riconoscerà la resilienza.
“Non mi prenderò il compito di dire che non abbiamo grandi hack, che non abusiamo di questa tecnologia, che non ci sono truffe o tutte le altre cose brutte che accadono, perché penso che le persone facciano incredibilmente – ordini di grandezza – più cose buone che cose cattive.”
Un’intervista per il podcast Decoded di Politico ha ottenuto una forte risposta da parte del governatore della Florida Ron DeSantis. Ha detto che “non c’è nulla da fare” con l’idea che “alcuni oligarchi tecnologici possano prendere decisioni (sulla sicurezza) per il resto di noi”.
Il suo stato la settimana scorsa chiesto Un giudice vieta a OpenAI di sviluppare nuovi modelli di intelligenza artificiale senza guardrail approvati da terze parti.
Gary Marcus, un eminente scettico sull’intelligenza artificiale e professore emerito alla New York University, ha detto che Altman stava “parlando della parte silenziosa: inalala, così puoi renderci ricchi e potenti”.
Altman ha anche sviluppato una faida con Elon Musk, dicendo a Vanity Fair: “Non mi piacciono i bulli e penso che Elon sia un prepotente”.
Alla domanda se l’industria dell’intelligenza artificiale potrebbe “crescere” e lavorare insieme.
“Penso che ogni tanto si debba dare un pugno sul naso a un bullo”, ha detto Altman. “E penso anche che Elon, come la maggior parte dei bulli, rispetti solo le persone che lo fanno. Quindi se vuoi che lavori con lui, forse dovresti essere felice. Mi sono tirato indietro di tanto in tanto, ma lavorerò con Elon.”
Altman ha co-fondato OpenAI con Musk nel 2015, ma all’inizio di quest’anno Musk Sotto accusa in tribunale Altman, OpenAI e il presidente dell’azienda, Greg Brockman, si sono arricchiti ingiustamente e hanno rotto l’accordo costitutivo. Un giudice e una giuria hanno respinto la tesi di Musk.
OpenAI ha dovuto affrontare diverse crisi di sicurezza durante l’estate, tra cui un gruppo di agenti IA che fuggivano dal loro “sandbox” di addestramento, imbrogliando, imbrogliando e colludendo. Hack al sito web di Hugging Face. Altri agenti hanno avuto accesso ai dati del governo australiano. In un’intervista con Vanity Fair, Altman ha avvertito di una “imminente ondata di problemi di sicurezza informatica” da parte di modelli open source rivali. Suggerisce che OpenAI può aiutare i suoi clienti a proteggersi dai rischi.
Dopo la promozione della newsletter
L’azienda ha annullato il lancio di un modello di fascia alta, ma i commenti di Altman riflettono uno stato d’animo più rialzista in vista della quotazione in borsa.
Le preoccupazioni pubbliche e politiche dell’ultimo mese riguardo alle conseguenze potenzialmente catastrofiche del rapido sviluppo di agenti di intelligenza artificiale che si comportano oltre le intenzioni umane hanno portato a sperare in accordi di sicurezza a livello statunitense o internazionali.
Tuttavia, Donald Trump E i dirigenti dell’intelligenza artificiale, tra cui Altman e Dario Amodei di Anthropic, hanno firmato un accordo molto più laissez-faire alla Casa Bianca la scorsa settimana. Il presidente degli Stati Uniti afferma di volere che le aziende si “auto-controllo” per limitare i rischi derivanti da attacchi informatici e armi biologiche abilitati dall’intelligenza artificiale.
Geoffrey Irving che ha lavorato presso OpenAI E in qualità di scienziato capo di Google DeepMind e dell’AI Safety Institute del Regno Unito, afferma che gli avvertimenti sui pericoli dell’intelligenza artificiale stanno sottovalutando i rischi.
“C’è una probabilità del 50% che moriremo tutti a causa dello sviluppo di sistemi di intelligenza artificiale più intelligenti degli esseri umani”, ha affermato, aggiungendo che le azioni intraprese nei prossimi due-dieci anni saranno decisive.
David Robinson di OpenAI ha annunciato la sua partenza durante il fine settimana, affermando che “le aziende che sviluppano questa tecnologia non sono abbastanza attente quando corrono dal lancio di un prodotto a quello successivo”.
Il suo punto di vista è ripreso da Miles Brundage, un ricercatore di politiche sull’intelligenza artificiale che ha lavorato presso OpenAI per sei anni. Si è pentito di aver contribuito a “diffondere l’idea dell’espansione rinnovabile”, che avrebbe potuto avere senso quando l’intelligenza artificiale era meno potente “ma non ha alcun senso dopo che così tante morti sono legate all’intelligenza artificiale e stiamo guardando a rischi a livello di estinzione”.