OpenAI ha affermato che la sua risposta agli attacchi degli agenti Medicare e Hugging Face è costata alla sua società di revisione più di 500.000 dollari al giorno poiché utilizza l’intelligenza artificiale per esaminare dati che un essere umano impiegherebbe 66 milioni di anni per leggere.
La società ha avvertito che la revisione è in corso e potrebbe notificare altre aziende prese di mira nel prossimo futuro.
venerdì sera, Rivelato OpenAI A giugno gli agenti hanno violato un sito web del governo del Nuovo Galles del Sud e hanno ottenuto l’accesso non autorizzato a dati storici non pubblici sugli incendi boschivi.
Questo è Il sesto sito web del governo australiano Dopo il primo ministro Anthony Albanese, il colosso dell’intelligenza artificiale è stato informato dal mese scorso dell’attività degli agenti sui loro servizi. Annuncia gli agenti di OpenAI I servizi hanno violato il portale statistico di Medicare in Australia.
Il ritardo rispetto alla divulgazione dell’attacco Medicare era dovuto all’enorme volume di dati che OpenAI doveva esaminare.
In un post sul blog Questa settimana L’azienda ha rivelato una grande mole di lavoro nel rivedere le attività dei suoi agenti.
OpenAI ha affermato di dover esaminare 50 petabyte di dati, ovvero circa 50 milioni di gigabyte.
“Stiamo esaminando i registri su base mensile, alla ricerca di potenziali attività indesiderate oltre ai casi che abbiamo già scoperto”, ha affermato la società.
“Per mettere questo in prospettiva, se fosse tutto testo in inglese, una persona impiegherebbe circa 66 milioni di anni per leggerlo a 240 parole al minuto, senza sosta, senza addormentarsi o fare una pausa.”
L’azienda sta cercando registrazioni di modelli che accedono e modificano siti Web o azioni che coinvolgono password, accesso all’interfaccia di programmazione dell’applicazione (API) o altre credenziali sensibili.
L’intelligenza artificiale viene utilizzata per facilitare la ricerca nei documenti e questo costa all’azienda più di mezzo milione di dollari al giorno. OpenAI ha affermato che prevede inoltre di aumentare la propria potenza di calcolo man mano che il processo verrà perfezionato.
Alla fine del mese scorso, più di 100 aziende erano state informate di essere state prese di mira dagli agenti OpenAI, ma avvisare un’azienda non significa necessariamente che sia stato effettuato l’accesso a informazioni private o che il loro sistema sia stato compromesso.
Dopo la promozione della newsletter
OpenAI ha affermato che spera di trovare più casi e informare più organizzazioni sugli incidenti accaduti mesi fa.
OpenAI ha affermato che le organizzazioni saranno informate privatamente se è necessario indagare e affrontare potenziali problemi di sicurezza e riferiranno pubblicamente i risultati sul comportamento degli agenti e il rilevamento di punti deboli nelle difese al più ampio settore dell’intelligenza artificiale.
“Sbagliamo per eccesso di notifica quando la funzionalità dei nostri modelli rivela una potenziale vulnerabilità della sicurezza, anche nei casi in cui non è chiaro se le informazioni a cui si accede siano pubbliche, in modo che l’organizzazione possa indagare e intraprendere le azioni appropriate”, ha affermato OpenAI.
OpenAI ha scoperto martedì l’ultima violazione del sito web del governo del NSW e ha informato il governo statale e l’Australian Signals Directorate dopo una revisione di 48 ore.
Ai dipartimenti e alle agenzie del governo australiano è stato chiesto di farsi carico della violazione di Medicare Bilancio della tecnologia legacy Ridurre il numero di sistemi obsoleti nel governo e ridurre il rischio di sicurezza informatica in caso di attacco di agenti IA.
I dirigenti di OpenAI, Anthropic, Microsoft e Google parteciperanno martedì a Sydney a una commissione parlamentare congiunta sull’intelligenza artificiale.