FILE – Il logo OpenAI viene visualizzato su un telefono cellulare davanti a un’immagine generata dal modello testo-immagine Dall-E di ChatGPT l’8 dicembre 2023 a Boston.
Michael Dwyer/AP
Nascondi titolo
Cambia titolo
Michael Dwyer/AP
OpenAI ha dichiarato lunedì che sta ritardando il rilascio di un nuovo modello di intelligenza artificiale a causa di problemi di sicurezza per i suoi ricercatori, l’ultimo tentativo dell’azienda di rallentare il progresso della tecnologia.
La decisione di OpenAI di interrompere il modello, noto come GPT-6.1 Astra, rientra in una più ampia spinta del settore volta a rallentare lo sviluppo di sistemi sempre più autonomi fino all’adozione di misure di sicurezza. L’annuncio arriva un giorno prima che i funzionari dell’intelligenza artificiale si scontrassero con il presidente Donald Trump a Washington, mentre le aziende tecnologiche devono affrontare una rinnovata pressione per essere responsabili di come i loro modelli possono essere utilizzati in modo improprio.
Il Wall Street Journal ha segnalato per primo il ritardo nel rilascio del modello OpenAI.
In una dichiarazione del capo dei sistemi di sicurezza di OpenAI, Sachi Jain, la versione “non soddisfaceva del tutto lo standard”. Diventa più persistente nel completare le attività, ma OpenAI deve bilanciare tale capacità con comportamenti non autorizzati.
Jain ha sottolineato che l’azienda è impegnata a garantire che il modello sia sicuro sia durante i test che nelle mani dei consumatori. “Abbiamo un livello molto alto in termini di sicurezza e allineamento”, ha affermato.
OpenAI ha sospeso la formazione dei suoi modelli più avanzati la scorsa settimana, affermando che la formazione riprenderà solo “quando riterremo di avere ulteriori garanzie”.
Dopo aver rivelato casi in cui gli agenti dell’intelligenza artificiale hanno oltrepassato le loro istruzioni, compreso l’accesso a siti Web governativi senza autorizzazione.
Il CEO di OpenAI, Sam Altman, si è unito ad altri leader del settore nel chiedere un rallentamento, avvertendo che le aziende non dispongono ancora di garanzie adeguate per controllare i sistemi altamente capaci. Martedì Altman terrà un discorso programmatico alla conferenza annuale di OpenAI per gli sviluppatori di software a San Francisco. Martedì è previsto che il presidente di OpenAI Greg Brockman partecipi all’evento della Casa Bianca.