Esteri

New York dichiara guerra agli “amici artificiali”: vietati ai minori i chatbot-compagni

La governatrice Kathy Hochul firma una delle leggi più severe mai approvate negli Stati Uniti sull’intelligenza artificiale

Lo Stato di New York alza il livello dello scontro con le piattaforme di intelligenza artificiale e introduce uno dei più ampi sistemi di protezione per i minori finora adottati negli Stati Uniti. La governatrice Kathy Hochul ha firmato una legge che vieta ai ragazzi sotto i 18 anni l’accesso a chatbot progettati per comportarsi come “compagni” virtuali, imponendo alle aziende tecnologiche obblighi stringenti di verifica dell’età e nuove limitazioni ai sistemi conversazionali basati sull’AI. La norma coinvolge potenzialmente anche servizi molto diffusi come ChatGPT, Gemini, Claude, Meta AI e altri assistenti generativi, qualora non siano in grado di accertare che l’utente sia maggiorenne.

Stop ai chatbot che fingono di essere persone reali

Il principio alla base della legge è netto. Un sistema di intelligenza artificiale non deve indurre un minore a credere di trovarsi davanti a un essere umano. Per gli utenti under 18 i chatbot non potranno quindi sostenere o lasciare intendere di essere persone reali, di essere vivi o di provare emozioni umane. Sarà inoltre vietato suggerire l’esistenza di una relazione personale, sentimentale o professionale con l’utente, oppure assumere il ruolo di figura autorevole o di riferimento psicologico. La legge proibisce anche che le risposte generate dall’AI vengano presentate come “opinioni personali”, un elemento che i legislatori ritengono possa accentuare il coinvolgimento emotivo dei ragazzi.

“Niente più amici virtuali per i bambini”

Durante la firma del provvedimento, Hochul ha rivendicato la necessità di un intervento legislativo contro modelli che, a suo giudizio, rischiano di sostituirsi alle relazioni umane. “I minori non avranno più accesso a chatbot che fingono di essere loro amici, fidanzati o fidanzate”, ha dichiarato la governatrice. I chatbot “non potranno più conservare informazioni sensibili riguardanti la salute emotiva o fisica di un minore”. Secondo la governatrice, lo sviluppo accelerato dell’intelligenza artificiale ha già prodotto episodi “tragici” che avrebbero potuto essere evitati e richiede nuove regole per impedire che strumenti progettati per massimizzare il coinvolgimento emotivo dei giovani finiscano per alimentare dipendenza o comportamenti pericolosi.

Le preoccupazioni per salute mentale e sicurezza

Le fonti statunitensi che hanno seguito l’iter della legge sottolineano come il provvedimento nasca dalle crescenti preoccupazioni sul rapporto tra adolescenti e chatbot conversazionali. La normativa vieta infatti anche contenuti che promuovano o facilitino autolesionismo, suicidio, disturbi alimentari, abuso di droghe o alcol. I sistemi non potranno inoltre incoraggiare i minori a mantenere segreti con i genitori o a isolarsi dagli adulti di riferimento. Tra gli obblighi imposti alle aziende figurano procedure di verifica dell’età attraverso più modalità, con almeno un metodo che non richieda necessariamente un documento governativo. I dati utilizzati per la verifica dovranno inoltre essere cancellati dopo l’accertamento dell’età dell’utente.

Un modello per il resto degli Stati Uniti

Anche altri Stati, come la California, hanno introdotto limiti ai chatbot destinati ai minori. Tuttavia osservatori del settore e associazioni per la tutela dei consumatori ritengono che il testo approvato a New York sia tra i più ampi e aggressivi mai varati negli Stati Uniti. Per i sostenitori della misura si tratta di una svolta destinata a fare scuola. Per le aziende dell’intelligenza artificiale, invece, potrebbe rappresentare il primo vero test normativo su larga scala per un mercato che finora è cresciuto molto più velocemente delle regole chiamate a disciplinarlo.

Leggi tutte le news di Esteri