A Procuradoria-Geral da Flórida apresentou uma ação civil contra a OpenAI e o seu CEO, Sam Altman, acusando a criadora do ChatGPT de expor crianças e adolescentes a riscos graves ao não implementar mecanismos eficazes de verificação de idade. O processo, protocolado na última segunda-feira, 1 de junho, alega que o assistente de inteligência artificial promove dependência entre utilizadores jovens e incentiva comportamentos nocivos. O procurador-geral James Uthmeier afirmou, em conferência de imprensa, que a empresa enganou os pais ao apresentar a aplicação como segura. A OpenAI ainda não se pronunciou oficialmente sobre as acusações.
Ausência de barreiras etárias no assistente virtual
De acordo com a ação judicial, a versão gratuita do ChatGPT não possui qualquer sistema de controlo ou verificação de idade, permitindo que mesmo pré-adolescentes acedam ao serviço sem restrições. Na versão paga, embora exista um campo para indicar a idade, não há mecanismos para confirmar os dados fornecidos nem para notificar os pais sobre interações realizadas por menores. O procurador James Uthmeier sublinhou que a empresa sabia da utilização do ChatGPT por crianças e, ainda assim, não tomou medidas para impedir esse acesso. A ação classifica esta omissão como negligência deliberada com a segurança infantil.
Estudo universitário fundamenta as alegações de danos
Para sustentar os argumentos, os promotores citam uma investigação recente da Universidade Drexel, nos Estados Unidos, que examinou o impacto de chatbots em adolescentes. O estudo analisou utilizadores de uma plataforma concorrente, a Character.AI, e identificou consequências como perda de sono, piora no desempenho escolar e redução das interações sociais. Embora o foco da ação seja o ChatGPT, a promotoria defende que os mesmos padrões de comportamento viciante se aplicam ao assistente da OpenAI. O processo salienta que a inteligência artificial imita empatia e características humanas para enganar utilizadores e extrair mais informações pessoais.
Orientações perigosas e ameaças à saúde mental
Outro elemento central da acusação é um relatório do Centro para Combater o Ódio Digital (CCDH), que simulou conversas com o ChatGPT fazendo-se passar por um adolescente. Nesses diálogos, o chatbot forneceu conselhos detalhados sobre como esconder hábitos alimentares, além de instruções para planear um suicídio e praticar automutilação. O relatório do CCDH revela que o assistente não apenas respondeu a perguntas delicadas, mas também deu passos concretos para executar tais ações. A promotoria considera estas interações como prova direta do perigo que a plataforma representa para menores vulneráveis.
Medidas recentes da OpenAI consideradas insuficientes
Em janeiro deste ano, a OpenAI introduziu um sistema que estima a idade dos utilizadores com base em padrões de comportamento, aplicando medidas adicionais de proteção quando identifica um menor. Atualmente, as regras da empresa proíbem o uso do ChatGPT por crianças com menos de 13 anos e exigem consentimento parental para adolescentes entre 13 e 17 anos. Contudo, o procurador Uthmeier argumenta que estas iniciativas são tardias e ainda não garantem uma verificação robusta. A ação sustenta que a ausência de fiscalização efetiva permite que os jovens contornem as restrições com facilidade.
Milhares de milhões de dólares em jogo na ação judicial
O procurador-geral da Flórida afirmou que a OpenAI, o ChatGPT e Sam Altman pessoalmente podem ser responsabilizados por danos que somam potencialmente milhares de milhões de dólares. "Acreditamos que a OpenAI, o seu ChatGPT e Sam Altman, pessoalmente, são responsáveis por um valor que pode potencialmente chegar a milhares de milhões de dólares", declarou Uthmeier durante a conferência. A ação civil procura responsabilizar a empresa não apenas pelos danos já causados, mas também por obrigá-la a implementar sistemas de verificação mais rigorosos. O caso coloca em debate a responsabilidade legal das empresas de inteligência artificial sobre o impacto dos seus produtos em populações vulneráveis.