Quando gli adolescenti parlano con Meta AI di suicidio o autolesionismo, la conversazione attiverà una notifica ai genitori, ha detto Meta in un post sul blog giovedì.
La nuova politica espande le misure esistenti per gli adolescenti progettate per informare i genitori su come i loro figli utilizzano Meta AI. Solo i genitori che utilizzano i controlli di Instagram riceveranno la notifica. Alla fine, anche gli operatori sanitari che utilizzano il controllo genitori per altre app Meta riceveranno avvisi.
Cosa fare quando tuo figlio adolescente ti sostituisce con un chatbot
“Abbiamo lavorato con genitori ed esperti per capire quali conversazioni sull’intelligenza artificiale meritano un avvertimento, ad esempio quelle in cui un adolescente fa un chiaro riferimento all’autolesionismo, anche se quel riferimento è sottile”, ha detto Meta.
I genitori negli Stati Uniti, nel Regno Unito, in Canada e in Australia riceveranno avvisi. La funzionalità sarà disponibile a livello globale entro la fine dell’anno.
Come funzionano gli avvisi di crisi per Meta AI?
Meta AI cita già linee di assistenza in caso di crisi e incoraggia gli adolescenti che stanno prendendo in considerazione il suicidio o l’autolesionismo a chiedere aiuto a un adulto di fiducia. Ora i genitori riceveranno un avviso su tali chiamate. Meta ha detto che per ora sarà prudente.
Sebbene le chat siano contrassegnate dall’intelligenza artificiale, Meta le esamina manualmente prima di inviare un avviso. Il genitore riceve anche suggerimenti sviluppati da esperti per discutere di autolesionismo e suicidio con il proprio figlio.
I genitori riceveranno l’avviso tramite una notifica sull’app e un’e-mail, un SMS o un messaggio WhatsApp separato, a seconda delle informazioni di contatto fornite.
“L’affermazione di Meta di avvertire i genitori supervisori se le chat dell’intelligenza artificiale dei loro figli suggeriscono che potrebbero essere a rischio di autolesionismo è un passo nella giusta direzione, ma l’annuncio dovrebbe essere accolto con scetticismo,” ha detto a Mashable Brendan Bouffard, avvocato dello staff dell’organizzazione no-profit Fairplay.
Bouffard ha affermato che la ricerca di Fairplay del 2025 sugli account degli adolescenti di Meta ha rilevato strumenti di sicurezza inefficaci o inesistenti. Meta ha affermato che il rapporto travisa il funzionamento dei suoi strumenti di sicurezza.
Meta avverte i genitori i cui figli potrebbero aver discusso di suicidio o autolesionismo con Meta AI.
Credito: per gentile concessione di Meta
I tipi di avvisi che i genitori possono ricevere da Meta.
Credito: per gentile concessione di Meta
A febbraio, Meta ha lanciato una funzione simile di notifica di suicidio e autolesionismo per Instagram.
Mashable alla velocità della luce
Il dottor John Ackerman, direttore clinico del Centro per la prevenzione e la ricerca sui suicidi presso il Nationwide Children’s Hospital, all’epoca disse a Mashable di aver accolto con favore l’ampliamento delle protezioni per gli adolescenti. Tuttavia, ha osservato che tale funzionalità potrebbe equivalere a un “appoggio formale” se i messaggi fossero inaccessibili, difficili da navigare o non portino a “cambiamenti attuabili”.
Ackerman ha detto a Mashable che gli avvertimenti per le chat di Meta AI che coinvolgono suicidio e autolesionismo potrebbero essere utili per le famiglie.
“Gli strumenti di monitoraggio dei genitori per i social media e l’intelligenza artificiale possono aiutare i genitori a rilevare precocemente le preoccupazioni, avviare conversazioni di supporto e mettere in contatto i propri figli per aiutarli quando si notano segni di suicidio”, ha detto in una e-mail dopo l’annuncio di Meta giovedì.
Ackerman ha aggiunto che i genitori hanno bisogno di indicazioni chiare su come utilizzare le impostazioni di sicurezza. Ha inoltre osservato che le piattaforme che riguardano la sicurezza degli adolescenti dovrebbero affrontare i fattori che possono contribuire a una crisi, come il confronto sociale, il cyberbullismo, i disturbi del sonno e modelli come l’uso eccessivo e le ricerche ripetitive.
Nuova impostazione di contenuto limitato per Meta AI
Meta ha anche annunciato giovedì l’aggiunta di un’impostazione di contenuti limitati per Meta AI. Ha debuttato con questa funzionalità su Instagram lo scorso anno.
Questa impostazione abilita il filtro più severo di Meta. Secondo l’azienda, Meta AI è già addestrata a non intraprendere conversazioni sessuali o romantiche con adolescenti o a non fornire ricette per bevande alcoliche, ad esempio.
Quando l’impostazione del contenuto limitato è abilitata, i modelli di Meta diventano ancora più aggressivi nell’identificare le richieste problematiche e si rifiutano di rispondere a una gamma più ampia di domande. Meta ha affermato che l’approccio riduce ulteriormente “il rischio di conversazioni potenzialmente inappropriate”.
Problemi di sicurezza per gli adolescenti
I sostenitori della sicurezza dei bambini hanno criticato i recenti aggiornamenti sul controllo parentale di Meta ritenendoli inadeguati.
Ad aprile, Meta ha permesso ai genitori di dare un’occhiata alle conversazioni dei loro figli con Meta AI. La rubrica mette in evidenza argomenti più ampi, come la scuola, l’intrattenimento, la scrittura, la salute e il benessere. I genitori possono fare clic sull’argomento per informazioni aggiuntive ma limitate.
Josh Golin, CEO di Fairplay, ha affermato che la funzionalità affida agli operatori sanitari l’onere di monitorare l’attività online dei propri figli invece di “costruire un prodotto sicuro per cominciare”.
Meta continua ad affrontare il controllo legale per le sue prestazioni in materia di sicurezza dei bambini. All’inizio di quest’anno, Meta ha perso due distinti processi epocali relativi alla protezione della sicurezza dei bambini e al presunto design che crea dipendenza dei suoi prodotti. La società ha dichiarato che farà appello contro entrambe le sentenze, ma centinaia di cause legali pendenti riguardanti danni ai minori devono ancora essere esaminate.
AGGIORNAMENTO: 16 luglio 2026, 10:29 PDT Questa storia è stata aggiornata con ulteriori informazioni da Meta e Fairplay.
Se hai tendenze suicide o stai vivendo una crisi mentale, parla con qualcuno. Puoi chiamare o inviare un messaggio al 988 Suicide & Crisis Lifeline al 988 o chattare su 988lifeline.org. Puoi contattare Trans Lifeline chiamando il numero 877-565-8860 o il Trevor Project al numero 866-488-7386. Invia il messaggio “START” alla riga di testo della crisi al 741-741. Contatta la linea di assistenza NAMI al numero 1-800-950-NAMI, dal lunedì al venerdì dalle 10:00 alle 22:00. ET o e-mail (e-mail protetta). Se non ti piace il telefono, considera l’utilizzo 988 Suicidio e crisi Chat ancora di salvezza. Eccone uno elenco delle risorse internazionali.