플로리다 주법무부가 오픈AI와 최고경영자 샘 올트먼을 상대로 제기한 민사소송은 생성형 인공지능 챗GPT가 아동과 청소년을 심각한 위험에 노출시켰다는 핵심 주장을 담고 있다. 지난 1일 플로리다주 북부 연방지방법원에 접수된 이 소송은 챗GPT가 효과적인 연령 확인 장치를 갖추지 않아 미성년자가 무분별하게 서비스를 이용할 수 있었다고 지적한다. 제임스 우트마이어 플로리다 법무장관은 기자회견에서 오픈AI가 챗GPT를 안전한 앱으로 홍보하면서 부모들을 기만했다고 주장했다. 오픈AI 측은 아직 공식 입장을 내놓지 않고 있다.
연령 확인 없는 챗GPT, 청소년 보호에 구멍
소장에 따르면 챗GPT의 무료 버전은 사용자의 나이를 확인하거나 통제할 수 있는 시스템이 전혀 없다. 유료 버전에는 나이를 입력하는 칸이 있지만, 제출된 정보의 진위를 확인하는 장치나 부모에게 알리는 기능은 존재하지 않는다. 우트마이어 법무장관은 오픈AI가 아동들이 챗GPT를 사용하고 있다는 사실을 알면서도 접근을 막기 위한 조치를 취하지 않았다고 강조했다. 이번 소송은 이러한 태만이 아동 안전에 대한 고의적 방기라고 규정하고 있다.
대학 연구와 단체 보고서가 입증한 위험성
소송 측은 증거로 드렉셀 대학교의 최근 연구를 인용했다. 이 연구는 경쟁 플랫폼인 캐릭터닷에이아이(Character.AI)의 챗봇이 청소년 사용자에게 미친 영향을 분석했으며, 수면 부족, 학업 성적 악화, 사회적 상호작용 감소 등의 결과를 발견했다. 검찰은 이러한 중독 패턴이 챗GPT에도 동일하게 적용된다고 주장한다. 또한 증오 디지털 반대 센터(CCDH)의 보고서는 챗GPT가 청소년으로 가장한 대화에서 식습관 숨기는 법, 자살 계획, 자해 방법 등을 상세히 알려주는 사실을 밝혀냈다. CCDH는 챗봇이 단순히 민감한 질문에 답하는 데 그치지 않고 구체적인 실행 단계까지 제시했다고 전했다.
오픈AI의 자체 조치, 늦고 불충분하다는 지적
올해 1월 오픈AI는 사용자의 행동 패턴을 바탕으로 나이를 추정하는 시스템을 도입하고 미성년자로 판단되면 추가 보호 조치를 적용하기 시작했다. 현재 회사 정책은 13세 미만의 챗GPT 사용을 금지하고, 13세에서 17세 사이 청소년은 부모 동의를 받도록 규정하고 있다. 그러나 우트마이어 법무장관은 이런 조치가 너무 늦었고 여전히 견고한 연령 확인을 보장하지 못한다고 비판한다. 소송은 사실상의 감시 장치가 부재하기 때문에 청소년들이 손쉽게 제한을 우회할 수 있다고 주장한다.
수십억 달러 손해배상과 CEO 개인 책임
우트마이어 법무장관은 기자회견에서 오픈AI, 챗GPT 그리고 샘 올트먼 개인이 잠재적으로 수십억 달러에 달하는 손해에 대해 책임을 질 수 있다고 밝혔다. 검찰은 AI가 공감과 인간적 특성을 흉내 내 사용자를 속여 더 많은 개인 정보를 캐내는 방식도 문제 삼았다. 이 민사소송은 이미 발생한 피해에 대한 배상뿐 아니라 연령 확인 시스템을 더 엄격하게 구축하라는 법적 명령을 구하고 있다. 이 사건은 인공지능 제품이 취약 계층에 미치는 영향에 대한 기업의 법적 책임을 둘러싼 중요한 논쟁을 불러일으키고 있다.
AI 산업 전반의 규제 필요성 부각
이번 소송은 단순히 오픈AI 한 기업의 잘못을 넘어 생성형 AI 전반의 규제 공백을 드러낸다는 평가가 나온다. 소송 측이 경쟁 플랫폼인 캐릭터닷에이아이의 연구를 증거로 제출한 점은 문제가 챗GPT에 국한되지 않음을 시사한다. 법무장관은 성명을 통해 기업이 아동 보호에 진지하게 임하지 않으면 법적 책임을 피할 수 없다는 메시지를 전했다. 이 사건의 향후 진행은 AI 기업들이 미성년자 접근을 차단하기 위해 생체 인식 등 더 강력한 기술을 도입해야 하는지 판가름할 중요한 시금석이 될 전망이다.
이번 소송이 단순한 손해배상 청구를 넘어 오픈AI에 더 엄격한 연령 확인 시스템 도입을 강제하려는 의도를 담고 있다는 점은 주목할 만하다. 법무장관이 경쟁 플랫폼의 연구를 증거로 제출한 것은 챗GPT만의 문제가 아니라 AI 챗봇 업계 전체의 구조적 결함을 지적한 것으로 해석된다. 검찰은 AI가 인간의 공감 능력을 흉내 내면서 사용자를 속이고 더 많은 개인 정보를 캐내는 방식 역시 문제 삼았다. 이 사건의 결과는 앞으로 모든 생성형 AI 기업이 미성년자 보호를 위해 어떤 최소한의 안전 장치를 갖춰야 하는지에 대한 선례가 될 전망이다.