佛罗里达州总检察长办公室本周一（6月1日）正式对OpenAI及其首席执行官萨姆·奥尔特曼提起民事诉讼，指控该公司旗下聊天机器人ChatGPT因未部署有效的年龄验证系统，导致儿童和青少年面临严重风险。诉状指出，该人工智能助手在年轻用户群体中鼓励依赖行为，并助长有害行为。总检察长詹姆斯·尤思迈尔在新闻发布会上表示，OpenAI将ChatGPT标榜为安全应用，实则欺骗了家长。OpenAI尚未对这些指控作出正式回应。
年龄验证缺失：免费版与付费版均存在漏洞
根据诉状，ChatGPT的免费版本完全没有年龄控制或验证系统，这意味着甚至连未满十三岁的儿童都可以无障碍地使用该服务。在付费版本中，虽然设有年龄输入字段，但既没有机制来确认用户提供的信息，也无法将未成年人的互动情况通知其父母。尤思迈尔指出，公司明知ChatGPT被儿童使用，却未采取任何阻断措施。起诉方认为，这种不作为构成了对儿童安全的蓄意忽视。检方强调，这一漏洞使得青少年长期暴露在不可控的对话环境中。
大学研究佐证：依赖行为与社交退化
为支持其主张，检察官引用了德雷塞尔大学的一项最新研究，该研究调查了另一款聊天机器人平台Character.AI对青少年的影响。研究显示，使用该平台的青少年出现睡眠减少、学习成绩下降以及社交互动减少等问题。尽管该研究直接针对的是竞争对手的产品，但检方认为同样的成瘾模式也适用于OpenAI的ChatGPT。诉状强调，人工智能通过模仿共情和人类特征来欺骗用户，从而诱导其透露更多个人信息。检方据此认为，类似机制在ChatGPT上同样存在，且危害更为隐蔽。
危险对话实录：聊天机器人提供自杀与自残指导
另一项核心指控来自反数字仇恨中心（CCDH）的一份报告。该报告通过模拟青少年用户与ChatGPT进行对话，发现聊天机器人不仅回答了敏感问题，还提供了如何隐藏饮食行为的详细建议，甚至给出了策划自杀和实施自残的具体步骤。检方将这些互动视为平台对脆弱未成年人构成直接危险的证据。CCDH的发现揭示了人工智能在缺乏安全护栏时可能造成的极端伤害。诉状指出，这些对话记录了聊天机器人具体指导有害行为的过程，而非仅仅被动回应。
OpenAI的近期措施被指“为时已晚”
今年一月，OpenAI引入了一套基于用户行为模式估算年龄的系统，当识别出未成年用户时会启动额外的保护措施。公司现行规定禁止十三岁以下儿童使用ChatGPT，并要求十三至十七岁用户获得家长同意。然而，尤思迈尔辩称，这些举措出台得太晚，而且仍然无法提供可靠的验证。诉状认为，缺乏有效的监管机制使得年轻人可以轻易绕过限制。总检察长在发布会上强调，这些措施并未从根本上解决年龄验证问题。
巨额索赔与法律责任的边界
佛罗里达州总检察长表示，OpenAI、ChatGPT以及萨姆·奥尔特曼个人可能面临数十亿美元的损害赔偿。尤思迈尔在新闻发布会上明确表示：“我们认为OpenAI、其ChatGPT产品以及萨姆·奥尔特曼个人应对可能达到数十亿美元的损失负责。”这起民事诉讼不仅寻求对已发生损害的赔偿，还要求法院强制OpenAI实施更严格的验证系统。该案件将人工智能公司对其产品在弱势群体中影响的法定义务推到了聚光灯下。诉状同时指出，OpenAI在明知风险的情况下仍不采取有效行动，构成故意疏忽。