Guidate da Nvidia, molte aziende di intelligenza artificiale e tecnologia hanno firmato una lettera in cui spiegano perché i modelli aperti, in particolare quelli chiamati open mass, sono importanti in questo campo, in un momento in cui i funzionari americani minacciano di restrizioni gli ultimi modelli cinesi.
I modelli di intelligenza artificiale dovrebbero essere aperti o chiusi? È un argomento che divide da anni il settore dell’intelligenza artificiale ed è tornato alla ribalta negli ultimi giorni. Il CEO di Nvidia, Jensen Huang, gli ha addirittura dedicato il suo primo libro sul social media X.
“I modelli aperti rafforzano la sicurezza e la sicurezza informatica, accelerano l’innovazione e la diffusione della tecnologia e promuovono la sovranità. Il mondo ha bisogno sia di modelli chiusi di alta qualità che di modelli aperti di alta qualità”, ha affermato nel suo messaggio, dove ha condiviso una lettera firmata dalla sua azienda e da molti altri tra cui Google, Microsoft, Meta, OpenAI, Mistral e SpaceX.
Spiegano perché i modelli a peso aperto sono importanti. Questo termine viene utilizzato per qualificare un modello di cui si conoscono solo i parametri, dove un modello si dice open source o aperto dove il suo codice di programmazione è accessibile a tutti e quindi può essere dimostrato e modificato.
“La nostra leadership non sarà giudicata da un unico modello di intelligenza artificiale di alto livello, ma dalla capacità degli Stati Uniti di costruire un ecosistema forte e aperto che brilla in tutti i settori. Ciò è importante per creare opportunità di innovazione e prosperità in tutto il Paese”, sostengono i firmatari nella loro lettera, condivisa anche dai dirigenti di Microsoft, Satya Nadella, e SpaceX, Elon Musk.
Modelli chiave per innovazione e sicurezza
Considerano i modelli a peso aperto importanti a questo scopo perché “rendono l’intelligenza artificiale di alto livello accessibile, flessibile e ampiamente disponibile”. Anche se si conoscono solo i loro parametri, è davvero possibile scaricarli, testarli, modificarli e implementarli nella propria infrastruttura.
Non solo danno maggiore controllo agli utenti rispetto ai modelli chiusi, ma aumentano anche la concorrenza, impedendo all’intelligenza artificiale di avvantaggiare solo poche aziende. “I modelli ponderati aperti sono essenziali per un ecosistema di intelligenza artificiale sano”, ha confermato Satya Nadella a X.
“Vediamo un sentimento crescente e negativo nei confronti dei modelli aperti. È importante capire che i modelli aperti sono importanti per la sicurezza, la protezione, la sicurezza informatica e l’innovazione”, ha affermato Jensen Huang in un’intervista a Bloomberg per giustificare l’uscita del libro.
“Sono necessari nelle startup e nella governance, sia essa aziendale o più ampia”, ha aggiunto il CEO di Nvidia, affermando che è importante che i modelli di intelligenza artificiale siano il più aperti possibile.
Una visione non condivisa da tutte le aziende del settore. Anthropic, nota per il suo chatbot Claude, ritiene che questi programmi chatbot siano troppo pericolosi da aprire e dovrebbero essere controllati dalle aziende per motivi di sicurezza. Questo è anche il caso di OpenAI, che ha firmato la lettera.
La loro idea è legata anche alla concorrenza cinese. Le due startup hanno recentemente condiviso le loro preoccupazioni sui modelli open source di Pechino con le autorità di regolamentazione americane, ha riferito il New York Times. Nelle ultime settimane diverse aziende cinesi, come Moonshot AI, hanno presentato modelli che impressionano per le loro capacità e minacciano gli Stati Uniti in un momento in cui il Paese vuole vincere la corsa all’intelligenza artificiale contro la Cina.
Anthropic e OpenAI accusano queste aziende di costruire i loro modelli utilizzando i loro dati. Un processo noto come “distillazione”. Accuse avanzate dal segretario al Tesoro americano, Scott Bessent, e dal consigliere scientifico e tecnologico di Donald Trump, Michael Kratsios, che ritengono che ciò equivalga a un furto di proprietà intellettuale.
“Noi sosteniamo l’intelligenza artificiale open source e l’innovazione aperta. Ma open source non significa che la proprietà intellettuale americana sia disponibile per tutti. Quando le aziende cinesi effettueranno attacchi di ‘distillazione’ su scala industriale che superano la linea rossa del furto di proprietà intellettuale, verranno prese in considerazione sanzioni e elenchi di entità”, ha minacciato Scott Bessent in X. È in questo contesto che le aziende si sono unite per proteggere i modelli aperti.
Chi dice che modello chiuso non significa necessariamente sicurezza
Queste preoccupazioni sull’open source non hanno impedito a Nvidia e Microsoft di fare affidamento su modelli open source per alimentare i propri servizi e chip di cloud computing. Per queste aziende e altre che hanno firmato questa lettera, questi marchi e quelli chiamati openweight consentono, per loro stessa natura, a più persone di verificare la propria sicurezza.
“In un mondo in cui gli aggressori informatici utilizzano l’intelligenza artificiale avanzata, i difensori devono avere accesso a modelli con capacità simili per identificare, simulare e contrastare le minacce emergenti. I modelli aperti rafforzano le capacità di difesa, aumentano la visibilità e consentono a più team di rilevare e rimediare alle vulnerabilità”, sostengono.
Rendendosi conto che questi comportano rischi relativi, poiché lo sviluppatore originale non può più controllarli, evidenziano il fatto che i modelli chiusi non sono esenti da rischi.
“Possono essere compromessi, abusati o rivelare fallimenti che non sono visibili agli estranei”, sottolineano i firmatari.
L’hacking di Hugging Face da parte di due modelli OpenAI ne è la prova, ha detto Jensen Huang a Bloomberg. Quando il creatore di ChatGPT ha voluto mettere alla prova le proprie capacità di hacking in un ambiente isolato, è riuscito a rompere i lucchetti e connettersi a Internet per hackerare la popolare piattaforma di programmatori.
“Il fatto che il sistema sia chiuso non lo rende sicuro o protetto (…) I singoli punti di fallimento sono il nostro rischio più grande. Come industria e comunità globale, non possiamo avere un singolo punto di fallimento. Dobbiamo avere sistemi di difesa altamente distribuiti”, ha sottolineato il CEO di Nvidia.
L’hack di Hugging Face mostra quanto sia importante avere modelli aperti per un altro motivo, insiste. Il forum, che ha scoperto l’incidente prima di OpenAI ma all’insaputa dell’autore, è riuscito a difendersi grazie al modello open source della startup cinese Z.ai. Ciò ha permesso loro di trovare la posizione della violazione della sicurezza e del punto di ingresso e di fermare l’attacco.
Dopo l’incontro con OpenAI, il CEO di Hugging Face, Clément Delague, ha rivelato ciò che aveva richiesto all’azienda. A partire dalla “trasparenza radicale”. Ha esortato i fondatori a rivelare le “tracce dei beneficiari” in modo che l’intera comunità di ricerca possa conoscere quanto accaduto.”
“Il primo attacco informatico da parte di un agente privato è un evento senza precedenti. Merita una risposta senza precedenti”, ha affermato il gestore della piattaforma.