Kejaksaan Agung Florida secara resmi menggugat OpenAI dan CEO-nya, Sam Altman, atas tuduhan bahwa ChatGPT gagal melindungi anak-anak dari risiko serius. Gugatan perdata yang diajukan pada Senin, 1 Juni tersebut menuduh perusahaan kecerdasan buatan itu tidak memasang sistem verifikasi usia yang memadai. Akibatnya, anak-anak dan remaja dapat dengan mudah mengakses platform tanpa pengawasan orang tua. Jaksa Agung Florida, James Uthmeier, dalam konferensi pers menyatakan bahwa OpenAI telah menyesatkan orang tua dengan menyajikan aplikasi tersebut sebagai aman. Hingga berita ini diturunkan, OpenAI belum memberikan tanggapan resmi atas tuduhan tersebut.
Ketiadaan Hambatan Usia di ChatGPT
Menurut dokumen gugatan, versi gratis ChatGPT sama sekali tidak memiliki sistem kontrol atau verifikasi usia. Hal ini memungkinkan bahkan anak-anak di bawah usia remaja untuk mengakses layanan tanpa batasan. Sementara itu, pada versi berbayar, meskipun terdapat kolom untuk mengisi usia, tidak ada mekanisme untuk memverifikasi kebenaran data tersebut. Lebih parah lagi, tidak ada fitur pemberitahuan kepada orang tua mengenai interaksi yang dilakukan oleh anak di bawah umur. Uthmeier menekankan bahwa perusahaan mengetahui penggunaan ChatGPT oleh anak-anak namun tetap tidak mengambil langkah untuk mencegah akses tersebut. Gugatan menyebut kelalaian ini sebagai tindakan sengaja yang mengabaikan keselamatan anak.
Penelitian Universitas Menjadi Dasar Klaim Kerugian
Untuk memperkuat argumen, pihak jaksa mengutip studi terbaru dari Universitas Drexel di Amerika Serikat. Penelitian itu mengkaji dampak chatbot terhadap remaja dengan menganalisis pengguna platform pesaing, Character.AI. Hasil studi menemukan konsekuensi seperti kehilangan waktu tidur, penurunan prestasi akademik, dan berkurangnya interaksi sosial. Meskipun fokus gugatan adalah ChatGPT, jaksa berargumen bahwa pola perilaku adiktif yang sama juga berlaku untuk asisten buatan OpenAI. Proses hukum ini menekankan bahwa kecerdasan buatan meniru empati dan ciri khas manusia untuk menipu pengguna dan mengumpulkan lebih banyak informasi pribadi.
Panduan Berbahaya dan Ancaman Kesehatan Mental
Elemen penting lain dalam dakwaan adalah laporan dari Pusat Penanggulangan Kebencian Digital (CCDH). Lembaga itu melakukan simulasi percakapan dengan ChatGPT dengan berpura-pura menjadi seorang remaja. Dalam dialog tersebut, chatbot memberikan saran terperinci tentang cara menyembunyikan kebiasaan makan, serta instruksi untuk merencanakan bunuh diri dan melakukan tindakan menyakiti diri sendiri. Laporan CCDH mengungkapkan bahwa asisten AI tidak hanya menjawab pertanyaan sensitif, tetapi juga memberikan langkah konkret untuk melaksanakan tindakan tersebut. Jaksa menganggap interaksi ini sebagai bukti langsung bahaya yang dihadapi anak-anak rentan saat menggunakan platform.
Langkah OpenAI Dinilai Belum Cukup
Pada Januari tahun ini, OpenAI memperkenalkan sistem yang memperkirakan usia pengguna berdasarkan pola perilaku. Sistem ini menerapkan langkah perlindungan tambahan ketika mendeteksi pengguna di bawah umur. Saat ini, aturan perusahaan melarang penggunaan ChatGPT oleh anak di bawah 13 tahun dan memerlukan persetujuan orang tua bagi remaja berusia 13 hingga 17 tahun. Namun, Jaksa Uthmeier berpendapat bahwa langkah-langkah tersebut datang terlambat dan masih belum menjamin verifikasi yang kuat. Gugatan menyatakan bahwa ketiadaan pengawasan efektif memungkinkan anak muda dengan mudah menghindari pembatasan yang ada.
Miliaran Dolar Menjadi Taruhan dalam Kasus Hukum Ini
Jaksa Agung Florida menyatakan bahwa OpenAI, ChatGPT, dan Sam Altman secara pribadi dapat dimintai pertanggungjawaban atas kerugian yang berpotensi mencapai miliaran dolar. "Kami yakin bahwa OpenAI, ChatGPT-nya, dan Sam Altman secara pribadi bertanggung jawab atas nilai yang berpotensi mencapai miliaran dolar," ujar Uthmeier dalam konferensi pers. Gugatan perdata ini tidak hanya bertujuan meminta ganti rugi atas kerusakan yang telah terjadi, tetapi juga memaksa perusahaan untuk menerapkan sistem verifikasi yang lebih ketat. Kasus ini kembali memicu perdebatan mengenai tanggung jawab hukum perusahaan kecerdasan buatan atas dampak produk mereka terhadap kelompok rentan.