All’OpenAI DevDay di quest’anno, il CEO Sam Altman ha presentato il nuovo agente AI dell’azienda, Dots, e ha detto al pubblico che l’azienda vuole “stabilire un nuovo standard per la privacy nell’intelligenza artificiale di frontiera”. OpenAI passa tutto il giorno a sparare velatamente al suo principale concorrente, Meta’s Muse, per non aver protetto i dati degli utenti. Tuttavia, qualche mese prima Muse aveva lanciato anche un’alternativa sicura al suo predecessore, OpenClaw, con il CEO Mark Zuckerberg. promessa È “costruito da zero per la privacy e la sicurezza”.
In un’epoca in cui le aziende accumulano i dati personali dei clienti e gli attacchi informatici sono una dozzina, i laboratori di intelligenza artificiale stanno cercando di convincere i consumatori a condividere più informazioni con i loro agenti. La loro ultima strategia per il successo è quella di superare la concorrenza promettendo che, a differenza dei loro rivali, manterranno i dati degli utenti lontano da occhi indiscreti. La domanda è se le aziende riusciranno a mantenere queste promesse.
Nat Friedman, capo del prodotto presso Meta Superintelligence Labs, l’ha scritto In X “l’obiettivo dell’azienda con Muse è quello di costruire qualcosa come OpenClaw che possiamo rendere sicuro, protetto, facile da usare e scalabile per miliardi di persone”. I dati dell’utente vengono archiviati in una VM sicura, che Zuckerberg descrive come “un computer Linux isolato con browser, CPU, memoria e spazio di archiviazione”. Azienda Disse Gran parte della costruzione del Muse riguardava “un’attenta progettazione e ingegneria per renderla più sicura da utilizzare”. Il post sul blog di Meta continua: “Muse può e continua a commettere errori, ma pensiamo che accadranno molto meno spesso e causeranno molti meno danni grazie ai sistemi di sicurezza che abbiamo integrato.”
Nonostante Muse sia in cima alle classifiche dell’App Store e abbia accumulato 600.000 utenti attivi giornalieri negli Stati Uniti in poche settimane, secondo Apptopia, le promesse di Meta sembrano essere state deluse. Sebbene i dati siano isolati da altri utenti e Piani organizzativi Entro la fine dell’anno, per introdurre un modo per “impedire in modo crittografico e verificabile a Meta di accedere ai dati sulla tua VM”, anche Meta sarà in grado di accedere ai dati. Diventa rapidamente un ricercatore di sicurezza esposto Una vulnerabilità zero-day (che da allora è stata risolta) che permetteva a chiunque di prendere il controllo di Muse fa temere attacchi esterni. Sono stati segnalati diversi gravi problemi di sicurezza Nell’ultimo minuto prima del lancioUno di questi potrebbe aver consentito agli utenti di accedere ai database interni di Meta 404 mezzi.
Muse raccoglie anche generosamente (e in alcuni casi distribuisce) dati. Sebbene sia possibile disabilitarlo, l’impostazione predefinita è consentire a Meta di addestrare i modelli su ciò che gli utenti inseriscono in esso. UN Inc. Il giornalista si è lamentato del fatto che Muse lo avesse caricato Leggi i suoi messaggi privati Ha detto che non l’ha chiesto e glielo ha dato uno YouTuber Rivolgersi a uno sconosciuto Per Marketplace: in entrambi i casi, Muse funzionava chiaramente come previsto, ma l’utente non si rendeva conto di quanto lontano sarebbe arrivato. palcoscenico crea Come “profili dettagliati di tutti i tuoi amici e familiari”. Cablato riportato. Niente di tutto ciò è necessariamente inaspettato da Meta, ma certamente non supporta l’idea che Muse sia particolarmente attento alla privacy o alla sicurezza.
OpenAI ha colto questo fatto quando ha annunciato Dots a fine settembre. Alexander Embirikos, responsabile del prodotto Codex presso OpenAI, Ha detto sul palco Al DevDay, OpenAI si è concentrata sull’avere un “assistente altamente affidabile, sicuro e protetto” e il CEO Sam Altman ha dimostrato come le persone possono avere il controllo sui propri acquisti personali, ad esempio rendendo una regola non acquistare più di un certo importo in dollari. “Penso che siamo in una posizione diversa rispetto a Meta perché non abbiamo un prodotto AI che abbia 1,2 miliardi di utenti.” Disse Glenn Coates, capo della piattaforma app di OpenAI, ha dichiarato: “Abilitare cose del genere è qualcosa che cerchiamo di prendere precauzioni per evitare”.
Anche lo stesso Altman ha spinto L’aspetto privacy A Devde. Per corteggiare i clienti aziendali, i dirigenti hanno presentato un quadro che consentirebbe alle aziende di avere “controlli più forti” sui propri dati e zero opzioni di politica di conservazione dei dati (il che significa che nessun dato viene archiviato sui server OpenAI). In effetti, finora, non ci sono stati molti scandali sulla privacy con Dots, perché è disponibile solo nei livelli di abbonamento ChatGPT da $ 100 in su, quindi poche persone lo usano.
Le persone potrebbero ancora non sentirsi a proprio agio nel fornire a OpenAI i propri dati personali, qualcosa di cui gli agenti di intelligenza artificiale hanno un disperato bisogno. Per esempio, Il bordoAllison Johnson Si sentiva a disagio nel digitare i suoi dati bancari Quando richiesto da un bot come parte di un’attività correlata (Muse ha l’integrazione con Stripe per occuparsene).
Non tutte le aziende fanno promesse sulla privacy. C’era una tendenza Criticato apertamente fornito accesso illimitato ai dati per i termini di servizio ad ampio raggio segnalati; Da allora, l’azienda sembra essere Fatto aggiustamenti. Per ora, i laboratori di intelligenza artificiale sembrano prendere in considerazione un triplice approccio per rendere popolare l’uso degli agenti di intelligenza artificiale per il grande pubblico: renderli utili, renderli carini e disarmanti per contribuire a ridurre l’inquietudine e fare promesse sulla privacy – e le mantengono.