La startup di intelligenza artificiale Pangram con sede a New York è in missione per combattere l’infezione artificiale diffusa su Internet e ha appena raccolto 9 milioni di dollari, che alimenteranno la domanda di strumenti che distinguano i contenuti generati dall’uomo dal testo generato dall’intelligenza artificiale.
La raccolta fondi di Pangram, guidata da Menlo Ventures con la partecipazione di Haystack, ScOp, Script Capital e Cadenza, arriva mentre la startup lancia anche un modello di riconoscimento del testo AI di prossima generazione, Pangram 4, e un modello di riconoscimento delle immagini AI, Pangram Image.
Pangram afferma che il suo nuovo modello di riconoscimento del testo è accurato oltre il 99% nel trovare la scrittura basata sull’intelligenza artificiale e i contenuti misti umani-intelligenza artificiale e può rilevare più facilmente i programmi di intelligenza artificiale umanizzanti. Il rilevatore di immagini AI è attualmente disponibile solo tramite l’anteprima della ricerca; Pangram prevede di rilasciarlo su più larga scala nelle prossime settimane.
Max Spero e Bradley Amy, studenti di intelligenza artificiale e machine learning di Stanford, hanno fondato Pangram quasi due anni fa, dopo che ChatGPT ha lanciato le porte per un Internet pieno di bot, contenuti SEO generati dall’intelligenza artificiale e ciò che Spero chiama “campagne di disinformazione russe guidate da LLM e campagne Twitter influenzate dagli Emirati Arabi Uniti”.
“Penso che sia incredibilmente prezioso sapere se ciò che stai vedendo è generato o meno dall’intelligenza artificiale”, ha detto Spero a TechCrunch. “Soprattutto il testo che stai leggendo, perché cambia il modo in cui le persone si relazionano al testo. È qualcosa che dovrei avere allucinazioni e a cui dovrei aggrapparmi con sospetto, o è qualcosa che sono sicuro sia stato studiato da un vero giornalista?”
Il sistema di riconoscimento AI di Pangram è essenzialmente un grande modello di apprendimento automatico addestrato su decine di milioni di documenti umani conosciuti. La startup ha quindi creato uno “specchio sintetico” per ogni documento che replica l’oggetto, la lunghezza e il tono di voce, ma scritto da un LLM borderline.
“Il nostro modello apprende le differenze stilistiche e le scelte che l’intelligenza artificiale fa costantemente e può usarle per capire che qualcosa è generato dall’intelligenza artificiale con elevata sicurezza”, ha detto Spero, aggiungendo che il rilevatore di intelligenza artificiale non si basa su metadati copia-incolla o filigrane nascoste.
Per Pangram, il rilevamento dell’intelligenza artificiale non riguarda solo il fatto che una parte di testo sia scritta interamente da un’intelligenza artificiale o meno. Riguarda anche la differenza tra il livello di assistenza dell’IA, come qualcuno che scrive qualcosa da solo, ma poi chiede all’IA di modificarlo o ripulirlo. Spero ritiene che l’assistenza dell’intelligenza artificiale possa essere accettabile purché chi scrive ne divulghi l’uso.
L’emergere di Pangram arriva in un momento in cui l’uso dell’intelligenza artificiale sta diventando più comune. In alcuni casi, come nel caso del politico canadese che ha letto ad alta voce il manuale dell’intelligenza artificiale in un discorso ai legislatori, gli errori portano al ridicolo. In altri casi, come nel caso di alcuni avvocati che utilizzano citazioni false create da ChatGPT, le conseguenze possono essere sanzioni e multe.
Questa risposta non solo mette in imbarazzo o punisce gli individui, ma si manifesta anche nelle regole istituzionali.
L’archivio aperto arXiv ha introdotto quest’anno una nuova politica di applicazione che stabilisce che le proposte contenenti prove che gli autori non hanno esaminato i risultati LLM (come riferimenti allucinatori o meta commenti come “Vuoi che apporti qualche modifica?”) potrebbero comportare un divieto di un anno sulla presentazione.
Pangram non è l’unica scommessa che la scoperta dell’intelligenza artificiale sta cercando di più. Concorrenti come Winston AI, Originality.ai, Copyleaks e GPTZero seguono lo stesso requisito, costruendo ciascuno il proprio rilevatore.
La tecnologia di Pangram, sebbene non perfetta, può aiutare a contrastare l’accettazione dei contenuti generati dall’intelligenza artificiale che popolano il web, i tribunali e i documenti accademici.
Gli utenti possono accedere a Pangram tramite un abbonamento online da $ 20 al mese o scaricare un’estensione di Chrome che visualizza automaticamente i post in tempo reale su X, LinkedIn, Substack, Reddit e Medium. Fornisce inoltre un punteggio sulla salute alimentare con una ripartizione percentuale dei contenuti umani e di intelligenza artificiale sullo schermo.
Pangram offre la sua tecnologia anche tramite un’API. In particolare, Substack ha recentemente aggiunto la tecnologia Pangram alla sua piattaforma per mostrare ai lettori quali dei loro autori preferiti stanno scrivendo le loro newsletter utilizzando l’intelligenza artificiale. Altri clienti API includono Quora, scuole e università, editori, agenti e reclutatori, incluso Spero.
Pangram funziona?
Spero ha affermato che circa un documento umano su 10.000 è stato etichettato erroneamente come AI dal modello Pangram, quindi ho deciso di metterlo alla prova. Il modello di riconoscimento del testo era davvero impressionante, ma non perfetto. Segnalava facilmente gli articoli di notizie generati dall’intelligenza artificiale scritti sia da ChatGPT che da Claude e raramente veniva ingannato dai miei tentativi di modificare il testo generato dall’intelligenza artificiale per sembrare più umano. Allo stesso tempo, Pangram ha eseguito le frasi di segnalazione, che ho riscritto completamente come AI. Inoltre, Pangram non si è lasciato ingannare dal mio tentativo di sfidare ChatGPT e Claude a eludere i rilevatori di intelligenza artificiale durante la generazione di contenuti.
Ho anche dato a ChatGPT e Claude uno dei miei articoli e ho chiesto loro di perfezionarlo. Pangram gli ha assegnato un punteggio assistito dall’intelligenza artificiale del 13%, probabilmente vicino all’accuratezza, ma il modello è stato in grado di rilevare sottili cambiamenti nella scelta delle parole in alcune frasi e non li ha rilevati in altre. Mostrava anche alcune frasi così come erano state scritte dall’IA. È stato interessante perché quando ho dato a Pangram lo stesso articolo nella sua interezza mentre lo avevo scritto, ha ottenuto il 100% di punteggio umano.
Forse il problema era che gli articoli di notizie possono essere un po’ aridi e facilmente percepibili dall’intelligenza artificiale. Quindi ho provato un’altra tattica. Ho provato Pangram sui contenuti più vocali e personali della newsletter Substack, ho incollato la prima metà del testo in Pangram e poi ho chiesto a ChatGPT e Claude di copiare il mio stile e scrivere la seconda metà. Nella maggior parte dei casi, Pangram identificava facilmente il testo scritto dall’uomo rispetto al testo scritto dall’intelligenza artificiale.
I miei test limitati sul nuovo modello di riconoscimento delle immagini di Pangram sono stati altrettanto impressionanti.
Il sistema di riconoscimento delle immagini AI di Pangram promette di identificare le immagini generate dall’intelligenza artificiale nei modelli AI, a differenza dei test watermark basati su OpenAI o Google DeepMind, che ne identificano principalmente l’output. Funziona sulla segmentazione a livello di pixel, apprendendo le sottili differenze statistiche tra foto reali e immagini generate dall’intelligenza artificiale. Spero afferma che il modello può persino identificare un’immagine AI che appare all’interno di una foto reale.
Nei miei test, il modello ha identificato facilmente le immagini generate dall’intelligenza artificiale, siano esse fotorealistiche o fumettistiche. Posso anche confermare che il modello è in grado di rilevare un’immagine AI che appare in una foto reale (una mappa termica Pangram evidenzia la parte superiore dell’immagine), sebbene in un caso abbia etichettato erroneamente l’immagine generata dall’IA come contenuto umano.
Spero dice che non vuole che la sua tecnologia alimenti una caccia alle streghe contro le persone che usano l’intelligenza artificiale per scrivere, ma deve esserci una sorta di meccanismo per contrastare la ricaduta.
“Il futuro che vedo è che i contenuti dell’intelligenza artificiale continueranno a crescere”, ha affermato Spero. “Stiamo ottenendo nuove GPU più velocemente di quanto nascano nuove persone. Se non discriminiamo a favore dei contenuti umani, vedremo sempre più intelligenza artificiale e questa soffocherà qualsiasi segnale umano che abbiamo.”
Quando effettui un acquisto tramite i link presenti nei nostri articoli, potremmo guadagnare una piccola commissione. Ciò non pregiudica la nostra indipendenza editoriale.