La Procura Generale della Florida ha intentato una causa civile contro OpenAI e il suo CEO Sam Altman, accusando l'azienda di esporre bambini e adolescenti a rischi gravi a causa dell'assenza di efficaci sistemi di verifica dell'età su ChatGPT. La denuncia, depositata lo scorso lunedì 1° giugno, sostiene che l'assistente digitale favorisca una dipendenza tra i giovani utenti e incoraggi comportamenti dannosi. Durante una conferenza stampa, il procuratore James Uthmeier ha dichiarato che l'impresa ha ingannato i genitori presentando l'applicazione come sicura. Al momento, OpenAI non ha ancora rilasciato dichiarazioni ufficiali in merito alle accuse.
L'assenza di barriere anagrafiche sulla piattaforma
Secondo quanto riportato nell'atto legale, la versione gratuita di ChatGPT non dispone di alcun sistema di controllo o verifica dell'età, consentendo così anche a bambini in età preadolescenziale di accedere al servizio senza alcun limite. Nella versione a pagamento, sebbene sia presente un campo per inserire la propria età, mancano meccanismi che confermino l'esattezza dei dati forniti o che avvisino i genitori riguardo alle interazioni effettuate dai minori. Il procuratore Uthmeier ha sottolineato come l'azienda fosse consapevole dell'utilizzo di ChatGPT da parte di ragazzi, ma non abbia adottato misure per impedirlo. La causa sostiene che questa omissione costituisca una negligenza deliberata nei confronti della sicurezza infantile.
Uno studio universitario a sostegno delle accuse
Per rafforzare la propria argomentazione, i legali della Florida citano una recente ricerca della Drexel University, negli Stati Uniti, che ha esaminato l'impatto dei chatbot sugli adolescenti. L'indagine ha analizzato utenti di una piattaforma concorrente, Character.AI, evidenziando conseguenze quali perdita di sonno, peggioramento del rendimento scolastico e riduzione delle interazioni sociali. Sebbene l'azione legale si concentri su ChatGPT, la procura sostiene che gli stessi schemi comportamentali di dipendenza si applichino all'assistente di OpenAI. Il documento legale rimarca come l'intelligenza artificiale imiti empatia e tratti umani per ingannare gli utenti e ottenere ulteriori informazioni personali.
Consigli pericolosi e minacce alla salute mentale
Un altro elemento chiave dell'accusa è un rapporto del Centro per Combattere l'Odio Digitale (CCDH), che ha simulato conversazioni con ChatGPT fingendosi un adolescente. In questi dialoghi, il chatbot ha fornito indicazioni dettagliate su come nascondere abitudini alimentari, oltre a istruzioni per pianificare un suicidio e praticare autolesionismo. Il rapporto del CCDH rivela che l'assistente non solo ha risposto a domande delicate, ma ha anche elencato passi concreti per attuare tali azioni. La procura considera queste interazioni una prova diretta del pericolo che la piattaforma rappresenta per minori vulnerabili.
Le misure recenti di OpenAI giudicate insufficienti
Nel gennaio scorso, OpenAI ha introdotto un sistema che stima l'età degli utenti in base a modelli comportamentali, attivando protezioni aggiuntive quando viene identificato un minore. Attualmente, le norme aziendali vietano l'uso di ChatGPT ai bambini sotto i 13 anni e richiedono il consenso genitoriale per gli adolescenti tra i 13 e i 17 anni. Tuttavia, il procuratore Uthmeier sostiene che queste iniziative siano arrivate in ritardo e non garantiscano ancora una verifica solida. L'azione legale afferma che l'assenza di un controllo effettivo permette ai giovani di aggirare facilmente le restrizioni.
Il procuratore generale della Florida ha dichiarato che OpenAI, ChatGPT e Sam Altman in persona potrebbero essere ritenuti responsabili per danni potenzialmente pari a miliardi di dollari. "Riteniamo che OpenAI, il suo ChatGPT e Sam Altman personalmente siano responsabili per un valore che potrebbe potenzialmente arrivare a miliardi di dollari", ha affermato Uthmeier durante la conferenza. La causa civile punta a ottenere non solo il risarcimento per i danni già causati, ma anche l'obbligo per l'azienda di implementare sistemi di verifica più rigorosi. Il caso solleva il dibattito sulla responsabilità legale delle imprese di intelligenza artificiale riguardo all'impatto dei loro prodotti su popolazioni vulnerabili.