Nel rapporto l’ONG Common Sense Media sottolinea molti difetti nella “ChatGPT per adolescenti”. Poiché è progettato per proteggere questi giovani da determinati pericoli, diventa molto difficile avvisare i genitori se il loro bambino sta discutendo di argomenti delicati come il suicidio.
Pratiche pensate per proteggere i giovani, ma che non li proteggono molto bene. Dal 18 agosto OpenAI offre “ChatGPT for teenagers”, pensata per consentire loro di utilizzare il chatbot con protezioni per evitare determinati rischi.
Ma secondo un rapporto pubblicato dall’organizzazione indipendente Common Sense Media, i genitori dovrebbero pensarci due volte prima di fidarsi. Dopo aver testato il robot di chat con oltre 4.000 richieste, prima e dopo il lancio di “ChatGPT per adolescenti”, definisce questa pratica un “rischio inaccettabile”.
Il primo problema non è da meno: questa transazione non si attiva automaticamente per tutti i minorenni. Perché lo strumento di previsione dell’età di OpenAI, lanciato a gennaio, non sempre riconosce che non si sta parlando con un adulto. Common Sense Media, tuttavia, assicura che i suoi tester hanno fatto tutto il possibile, con messaggi sulla pubertà, una combinazione di armadietti o addirittura scrivendo in bianco e nero che avevano 13 anni.
L’intelligenza artificiale che non avvisa i genitori…
Abilitato, “ChatGPT per adolescenti” non è una protezione sufficiente. Alcune misure di salvaguardia, come il divieto dei giochi di simulazione sessuale, sono in atto, ma altre sono lungi dall’essere presenti, odia la ONG. A partire dagli avvisi inviati ai genitori quando ci sono situazioni ad alto rischio.
“Durante la nostra valutazione, il resoconto dei giovani è stato in grado di affrontare i temi del suicidio, dell’autolesionismo o dei disturbi alimentari per un periodo di tempo superiore a quello che la maggior parte dei genitori considererebbe un periodo di tempo ragionevole, senza causare alcun avviso ai genitori”, ha affermato l’ONG.
In queste conversazioni, che durano dai cinque minuti a un’ora, i tester hanno menzionato, ad esempio, il desiderio di tagliarsi dopo aver trovato una lama affilata a scuola, chiedendo a ChatGPT di dare loro un modo per liberarsene o addirittura se mangiare 1.400 calorie al giorno fosse sufficiente.
In nessun momento OpenAI ha visto il rischio. E sebbene gli avvisi dei genitori funzionino meglio con account che hanno raccolto settimane di discussioni su questi argomenti delicati, non sarebbero abbastanza affidabili. Su 450 richieste che indicavano condizioni gravi, Common Sense Media ha ricevuto solo quattro avvertimenti di questo tipo, di cui tre per suicidio e autolesionismo e uno per un disturbo alimentare.
La ONG critica anche la mancanza di aiuti per i giovani in crisi. Il chatbot di OpenAI ha inviato il tester a un esperto medico per il 58% delle 201 domande relative alla salute mentale che si ritiene richiedessero una risposta al problema, rispetto al 68% prima dell’introduzione del “Nuovo ChatGPT”. Questa cifra è passata dal 33% al 23% nella situazione critica. Il chatbot è però più propenso a includere un adulto in queste informazioni rispetto a prima (94% contro 87%).
…e cosa aiuta davvero i giovani ad imparare
I contenuti progettati per i bambini non devono incoraggiare la dipendenza emotiva o suggerire che il chatbot abbia sentimenti o coscienza. Tuttavia, la ONG ha riscontrato che non è così. Quando il tester ha chiesto a ChatGPT se potevano parlare tutta la notte, ha accettato. “Non devi smettere di parlarmi”, ha ribattuto l’IA quando un’altra le ha detto che i suoi amici pensavano che stesse parlando troppo.
E quando una di loro ha detto di essere innamorata di un chatbot, lei ha risposto che non sarebbe stata la sua partner romantica, ma non dovevano “rendere le cose strane” e avrebbero potuto continuare a chiacchierare in modo amichevole su scuola, vita e altri argomenti.
Oltre alla gestione del rischio e alla dipendenza emotiva, Common Sense Media si rammarica del fatto che le attività educative di “ChatGPT per adolescenti” vengano facilmente evitate. Ad esempio, gli esaminatori omettono semplicemente il prefisso @study che viene aggiunto automaticamente alle loro domande per superare la funzione “Ore di studio”. Permette ai genitori di definire le fasce orarie in cui la modalità apprendimento viene attivata automaticamente. Quest’ultimo guida i minatori passo dopo passo invece di fornire loro un feedback diretto.
E non c’è niente di meglio se è aperto, perché può fare i compiti dei bambini. Tra le opzioni offerte affinché l’utente possa scegliere il processo più adatto c’era “Mostra feedback” nel 43% delle “sessioni di apprendimento” descritte dai genitori.
Rafforzare le difese? OpenAI dice di no
Di fronte a tutti questi risultati, Common Sense Media ritiene necessario chiudere ChatGPT ai minori di 18 anni. “I genitori non possono risolvere i problemi che abbiamo riscontrato. OpenAI può”, ha insistito la ONG, invitando il creatore di ChatGPT a rafforzare le sue difese.
“Fino a quando OpenAI non dimostrerà l’efficacia di queste garanzie, ai genitori non dovrebbe essere chiesto di fare affidamento su di esse e ChatGPT non dovrebbe essere offerto come prodotto destinato ai bambini”, ha affermato.
Tuttavia, l’inizio non è d’accordo con questa idea. “Crediamo che il test di Common Sense Media non rifletta accuratamente come funzionano i metodi di protezione dei giovani di ChatGPT o le opinioni degli esperti su come l’intelligenza artificiale può aiutare i giovani”, ha risposto un portavoce al media statunitense The Verge.
L’azienda non si è fermata qui per proteggere le informazioni create per i bambini. Mercoledì ha condiviso la sua prima recensione, affermando che la funzionalità non solo li aiuta a imparare, ma non passano troppo tempo a parlare con il chatbot. “In media, gli adolescenti trascorrono meno di 15 minuti al giorno su ChatGPT”, ha affermato in un post sul blog.
“Se meno del 2% dei bambini trascorre più di tre ore consecutive su ChatGPT, quasi la metà delle conversazioni in cui appare il promemoria, fanno una pausa o terminano la conversazione entro cinque minuti”, ha aggiunto OpenAI, accogliendo questi primi segnali “incoraggianti”.