Власти американского штата Флорида подали гражданский иск против компании OpenAI и ее генерального директора Сэма Алтмана, обвиняя разработчика ChatGPT в систематическом игнорировании безопасности детей и подростков. В иске, поданном в понедельник 1 июня, утверждается, что популярный чат-бот не имеет эффективных механизмов возрастной верификации, что делает его доступным даже для дошкольников без какого-либо контроля. Прокурор штата Джеймс Утмайер на пресс-конференции заявил, что компания вводила родителей в заблуждение, представляя приложение как безопасное.
Отсутствие возрастных барьеров в ChatGPT
В соответствии с текстом иска, бесплатная версия ChatGPT не содержит никаких систем контроля или проверки возраста, позволяя даже предподросткам пользоваться сервисом без ограничений. В платной версии существует поле для указания возраста, однако отсутствуют механизмы для подтверждения введенных данных или уведомления родителей о взаимодействиях несовершеннолетних. Прокурор Утмайер подчеркнул, что компания знала об использовании ChatGPT детьми, но не приняла мер для предотвращения доступа. Судебный иск квалифицирует это бездействие как преднамеренное пренебрежение безопасностью детей.
Университетское исследование подтверждает вред
Чтобы подкрепить свои аргументы, прокуроры ссылаются на недавнее исследование Университета Дрексель, посвященное влиянию чат-ботов на подростков. В исследовании изучались пользователи конкурирующей платформы Character.AI, и были выявлены такие последствия, как потеря сна, ухудшение успеваемости и сокращение социальных взаимодействий. Хотя иск фокусируется на ChatGPT, сторона обвинения утверждает, что такие же паттерны аддиктивного поведения применимы к помощнику OpenAI. В иске подчеркивается, что искусственный интеллект имитирует эмпатию и человеческие черты, чтобы обманывать пользователей и извлекать больше личной информации.
Опасные рекомендации и угрозы психическому здоровью
Еще одним ключевым элементом обвинения является отчет Центра борьбы с цифровой ненавистью (CCDH), в котором моделировались разговоры с ChatGPT от лица подростка. В этих диалогах чат-бот давал подробные советы о том, как скрывать пищевые привычки, а также инструкции по планированию самоубийства и самоповреждению. Отчет CCDH показывает, что помощник не только отвечал на деликатные вопросы, но и предоставлял конкретные шаги для выполнения таких действий. Прокуратура рассматривает эти взаимодействия как прямое доказательство опасности, которую платформа представляет для уязвимых несовершеннолетних.
Недостаточные меры OpenAI
В январе компания OpenAI внедрила систему, которая оценивает возраст пользователей на основе поведенческих паттернов, и применяет дополнительные меры защиты при выявлении несовершеннолетнего. Текущие правила компании запрещают использование ChatGPT детьми младше 13 лет и требуют согласия родителей для подростков от 13 до 17 лет. Однако прокурор Утмайер утверждает, что эти инициативы запоздали и все еще не обеспечивают надежной проверки. Иск настаивает, что отсутствие эффективного контроля позволяет молодым людям легко обходить ограничения.
Миллиарды долларов на кону
Генеральный прокурор Флориды заявил, что OpenAI, ее продукт ChatGPT и лично Сэм Алтман могут быть привлечены к ответственности за ущерб, который потенциально может достигать миллиардов долларов. В ходе пресс-конференции Утмайер заявил: «Мы считаем, что OpenAI, ее ChatGPT и Сэм Алтман лично несут ответственность за сумму, которая потенциально может составить миллиарды долларов». Гражданский иск направлен не только на компенсацию уже нанесенного вреда, но и на обязательство компании внедрить более строгие системы верификации. Это дело ставит под вопрос правовую ответственность компаний, занимающихся искусственным интеллектом, за влияние их продуктов на уязвимые категории населения.