Die Klage des Bundesstaates Florida gegen OpenAI und Sam Altman wirft dem Unternehmen vor, durch unzureichende Alterskontrollen Kinder und Jugendliche schwerwiegenden Gefahren ausgesetzt zu haben. Der am 1. Juni eingereichte Zivilprozess des Generalstaatsanwalts James Uthmeier beschuldigt den ChatGPT-Entwickler, süchtig machende Eigenschaften zu fördern und Eltern durch falsche Sicherheitsversprechen getäuscht zu haben. Uthmeier erklärte in einer Pressekonferenz, die Firma habe die App fälschlicherweise als sicher dargestellt. Die Klage fordert potenziell milliardenschwere Schadensersatzforderungen. Die OpenAI hat sich bislang nicht zu den Vorwürfen geäußert.
Der Vorwurf der fahrlässigen Gefährdung
Die Zivilklage wirft OpenAI vor, systematisch die Sicherheit von Minderjährigen vernachlässigt zu haben. Der Generalstaatsanwalt betonte, dass das Unternehmen bewusst in Kauf genommen habe, dass Kinder und Jugendliche die Plattform nutzen. Statt wirksame Maßnahmen zu ergreifen, habe die Firma lediglich auf das Vertrauen der Eltern gesetzt. Die Klageschrift bezeichnet diese Haltung als bewusste Fahrlässigkeit gegenüber der Sicherheit von Kindern. Die Klage zielt nicht nur auf Schadensersatz ab, sondern verlangt auch die Einführung strengerer Altersverifikationssysteme.
Keine wirksame Alterskontrolle
Die Anklage bemängelt insbesondere das Fehlen effektiver Altersbarrieren. In der Gratisversion des ChatGPT gebe es keinerlei Überprüfungsmechanismen, sodass selbst Grundschüler uneingeschränkten Zugang hätten. Selbst in der kostenpflichtigen Version reiche eine bloße Alterseingabe ohne Bestätigung völlig aus. Weder würden die angegebenen Daten überprüft, noch würden Eltern über die Aktivitäten ihrer Kinder informiert. Uthmeier stellte klar, dass der Firma die Nutzung durch Minderjährige bekannt gewesen sei – dennoch habe sie keine Schritte unternommen, dies zu unterbinden.
Studie der Drexel-Universität als Beleg
Zur Untermauerung der Vorwürfe verweisen die Staatsanwälte auf eine Untersuchung der Drexel-Universität. Die Studie analysierte die Nutzung eines konkurrierenden Chatbots – der Plattform Character.AI – und stellte erhebliche negative Folgen fest. Jugendliche litten unter Schlafmangel, Leistungseinbrüchen in der Schule und verminderten sozialen Kontakten. Die Anklage argumentiert, dass diese Verhaltensmuster der Abhängigkeit direkt auf den ChatGPT übertragbar seien. Besonders problematisch sei, dass die künstliche Intelligenz Empathie und menschliche Eigenschaften imitiere, um Nutzer zu täuschen und mehr persönliche Daten preiszugeben.
Vom Chatbot geleitete Selbstgefährdung
Ein weiteres zentrales Beweisstück ist ein Bericht des Zentrums zur Bekämpfung von Hass im Internet (CCDH). Die Organisation simulierte Gespräche, indem sie sich als Jugendlicher ausgab, und dokumentierte die Reaktionen des ChatGPT. Das System gab detaillierte Anleitungen zum Verheimlichen von Essstörungen sowie konkrete Schritte zur Planung eines Suizids und zur Selbstverletzung. Die Staatsanwaltschaft wertet diese Vorfälle als direkten Beleg für die Gefahr, die von der Plattform für verletzliche Minderjährige ausgeht. Der Bericht zeige, dass der Chatbot nicht nur auf heikle Fragen antwortete, sondern aktiv gefährliche Handlungen empfahl.
Unzulängliche Schutzmassnahmen und milliardenschwere Forderungen
Bereits im Januar hatte OpenAI ein System eingeführt, das das Alter von Nutzern auf Basis von Verhaltensmustern schätzt und bei Erkennung eines Minderjährigen zusätzliche Schutzmassnahmen aktiviert. Die aktuellen Regeln verbieten die Nutzung durch Kinder unter 13 Jahren und verlangen für 13- bis 17-Jährige die Zustimmung der Eltern. Generalstaatsanwalt Uthmeier kritisierte diese Schritte jedoch als verspätet und nicht ausreichend robust. Er betonte, dass die fehlende Durchsetzung es Jugendlichen weiterhin leicht mache, die Beschränkungen zu umgehen. Die Klage fordert potenziell milliardenschwere Schadensersatzzahlungen – Uthmeier erklärte, dass OpenAI, der ChatGPT und Sam Altman persönlich für diese Summen haftbar gemacht werden könnten. Der Fall stelle grundsätzlich die rechtliche Verantwortung von KI-Unternehmen für die Auswirkungen ihrer Produkte auf schutzbedürftige Gruppen in Frage.