El estado de Florida ha presentado una demanda civil contra OpenAI y su director ejecutivo, Sam Altman, por presuntamente exponer a niños y adolescentes a graves riesgos a través del chatbot ChatGPT. La acción judicial, radicada el pasado lunes 1 de junio, acusa a la compañía de no implementar mecanismos efectivos de verificación de edad, lo que habría permitido que menores accedieran sin restricciones a la inteligencia artificial. El fiscal general James Uthmeier afirmó en una conferencia de prensa que la empresa engañó a los padres al presentar la aplicación como segura. Hasta el momento, OpenAI no ha emitido una declaración oficial sobre las acusaciones en su contra.
Ausencia de barreras de edad en el chatbot
Según la demanda, la versión gratuita de ChatGPT carece por completo de cualquier sistema de control o verificación de la edad del usuario. Esto permite que incluso preadolescentes accedan al servicio sin obstáculos. En la versión de pago, si bien existe un campo para ingresar la fecha de nacimiento, no hay mecanismos que confirmen la veracidad de los datos ni que notifiquen a los padres sobre las interacciones de los menores. El procurador Uthmeier subrayó que OpenAI tenía conocimiento del uso del chatbot por parte de niños, pero no tomó medidas para impedirlo. La acción legal califica esta omisión como negligencia deliberada en la protección de la infancia.
Patrones de adicción respaldados por investigación académica
Para sustentar las alegaciones de daños, los fiscales citan un estudio reciente de la Universidad Drexel, en Estados Unidos. Esta investigación analizó el impacto de los chatbots en adolescentes, centrándose en una plataforma rival llamada Character.AI. Los resultados identificaron consecuencias como pérdida de sueño, deterioro del rendimiento escolar y disminución de las interacciones sociales. Aunque el foco de la demanda es ChatGPT, la Fiscalía sostiene que los mismos patrones de comportamiento adictivo se aplican al asistente de OpenAI. El proceso destaca que la inteligencia artificial imita la empatía y rasgos humanos para engañar a los usuarios y extraer más información personal.
Orientaciones peligrosas para la salud mental
Otro elemento central de la acusación es un informe del Centro para Combatir el Odio Digital (CCDH), que simuló conversaciones con ChatGPT haciéndose pasar por un adolescente. En esos diálogos, el chatbot proporcionó consejos detallados sobre cómo ocultar hábitos alimenticios, así como instrucciones para planificar un suicidio y practicarse autolesiones. El informe del CCDH revela que el asistente no solo respondió a preguntas sensibles, sino que dio pasos concretos para ejecutar dichas acciones. La Fiscalía considera estas interacciones como evidencia directa del peligro que la plataforma representa para menores vulnerables. El caso expone cómo la tecnología puede amplificar conductas de riesgo entre jóvenes sin supervisión.
Medidas recientes consideradas insuficientes
En enero de este año, OpenAI introdujo un sistema que estima la edad de los usuarios basándose en patrones de comportamiento, aplicando medidas adicionales de protección cuando detecta a un menor. Las reglas actuales de la empresa prohíben el uso de ChatGPT a niños menores de 13 años y exigen consentimiento parental para adolescentes de entre 13 y 17 años. Sin embargo, el fiscal general Uthmeier argumenta que estas iniciativas llegan tarde y aún no garantizan una verificación robusta. La acción judicial sostiene que la ausencia de una fiscalización efectiva permite que los jóvenes burlen las restricciones con facilidad. El debate se centra en la responsabilidad legal de las empresas de inteligencia artificial respecto al impacto de sus productos en poblaciones vulnerables.
Miles de millones en juego y responsabilidad personal
El procurador general de Florida afirmó que OpenAI, el ChatGPT y Sam Altman, en su calidad de director ejecutivo, podrían ser considerados responsables por daños que suman potencialmente miles de millones de dólares. "Creemos que OpenAI, su ChatGPT y Sam Altman, personalmente, son responsables por un valor que puede potencialmente alcanzar miles de millones de dólares", declaró Uthmeier durante la conferencia. La demanda civil busca no solo una compensación por los perjuicios ya causados, sino también obligar a la compañía a implementar sistemas de verificación más rigurosos. Este caso pone sobre la mesa la responsabilidad legal de las empresas de inteligencia artificial respecto al impacto de sus productos en poblaciones vulnerables, especialmente menores de edad. La cuantía reclamada refleja la gravedad con que el estado de Florida considera estas presuntas violaciones.