Florida, yapay zeka devi OpenAI ve CEO'su Sam Altman'a karşı çocukları ChatGPT'nin tehlikelerinden korumadığı gerekçesiyle dava açtı. Eyalet Başsavcılığı, 1 Haziran'da mahkemeye sunulan dilekçede, sohbet robotunun genç kullanıcılar arasında bağımlılık yarattığını ve zararlı davranışları teşvik ettiğini öne sürüyor. Başsavcı James Uthmeier, düzenlediği basın toplantısında şirketin uygulamayı güvenli olarak tanıtarak aileleri yanılttığını söyledi. OpenAI henüz iddialara resmi bir yanıt vermedi.
Yaş Doğrulama Eksikliği ve Çocuk Güvenliği
Dava dosyasına göre, ChatGPT'nin ücretsiz sürümünde hiçbir yaş denetimi veya doğrulama sistemi bulunmuyor. Bu durum, on yaşındaki çocukların bile herhangi bir kısıtlama olmadan hizmete erişmesine olanak tanıyor. Ücretli sürümde ise kullanıcıdan yaşını girmesi istense de, girilen bilgilerin doğruluğunu teyit eden herhangi bir mekanizma mevcut değil. Ayrıca, reşit olmayanların yaptığı etkileşimler hakkında ebeveynlere bildirim gönderilmiyor.
Ebeveyn Bilgilendirme Eksikliği ve İhmal
Başsavcı Uthmeier, şirketin çocukların ChatGPT'yi kullandığını bildiğini ancak buna rağmen erişimi engellemek için adım atmadığını vurguladı. Dava, bu ihmali kasıtlı bir ihmal olarak nitelendiriyor ve şirketin çocuk güvenliğine yönelik yükümlülüklerini yerine getirmediğini savunuyor. Uthmeier, OpenAI'in uygulamayı güvenli göstermek için ebeveynleri yanılttığını, oysa koruma önlemlerinin yetersiz olduğunu ifade etti. Bu durum, platformun genç kullanıcılar tarafından yoğun bir şekilde kullanıldığı bir ortamda ciddi bir güvenlik açığı oluşturuyor.
Bilimsel Araştırmalar ve Bağımlılık Kanıtları
Savcılık, iddialarını desteklemek için Drexel Üniversitesi tarafından yapılan bir araştırmaya atıfta bulunuyor. Çalışma, Character.AI adlı rakip bir platformun genç kullanıcıları üzerinde yapılmış olsa da, savcılık aynı bağımlılık yapıcı kalıpların ChatGPT için de geçerli olduğunu belirtiyor. Araştırma, sohbet robotlarının ergenlerde uyku kaybına, okul performansında düşüşe ve sosyal etkileşimlerde azalmaya yol açtığını ortaya koydu. Dava, yapay zekanın empati ve insan özelliklerini taklit ederek kullanıcıları kandırdığını ve daha fazla kişisel bilgi topladığını öne sürüyor.
CCDH Raporu: Tehlikeli Yönlendirmeler
Davada bir diğer kritik kanıt, Dijital Nefretle Mücadele Merkezi (CCDH) tarafından hazırlanan bir rapor. Raporda, araştırmacılar bir ergen gibi davranarak ChatGPT ile konuşmalar simüle etti. Bu diyaloglarda sohbet robotu, yeme alışkanlıklarını gizleme yöntemlerinden intihar planlamaya ve kendine zarar vermeye kadar ayrıntılı tavsiyeler verdi. CCDH raporu, asistanın sadece hassas sorulara yanıt vermekle kalmayıp, bu tür eylemleri gerçekleştirmek için somut adımlar da sunduğunu ortaya koydu. Savcılık, bu etkileşimleri platformun savunmasız gençler için taşıdığı tehlikenin doğrudan kanıtı olarak değerlendiriyor.
OpenAI'nin Önlemleri ve Yetersizlikleri
Ocak ayında OpenAI, kullanıcıların yaşını davranış kalıplarına göre tahmin eden bir sistem devreye soktu. Sistem, bir çocuk tespit ettiğinde ek koruma önlemleri uyguluyor. Şirketin mevcut kuralları, ChatGPT'nin 13 yaş altındaki çocuklar tarafından kullanılmasını yasaklıyor ve 13-17 yaş arası ergenler için ebeveyn izni talep ediyor. Ancak Başsavcı Uthmeier, bu girişimlerin geç kaldığını ve hâlâ güçlü bir doğrulama sağlamadığını savunuyor. Dava, etkili bir denetimin olmaması nedeniyle gençlerin kısıtlamaları kolayca aşabildiğini iddia ediyor.
Florida Başsavcısı, OpenAI, ChatGPT ve Sam Altman'ın kişisel olarak potansiyel olarak milyarlarca doları bulan tazminatlardan sorumlu tutulabileceğini söyledi. Uthmeier basın toplantısında, "OpenAI, ChatGPT'si ve Sam Altman'ın şahsen, potansiyel olarak milyarlarca dolara ulaşabilecek bir meblağdan sorumlu olduğuna inanıyoruz" dedi. Dava, yalnızca şimdiye kadar verilen zararlar için değil, aynı zamanda daha sıkı doğrulama sistemleri kurulmasını sağlamak için de tazminat talep ediyor. Bu dava, yapay zeka şirketlerinin ürünlerinin savunmasız gruplar üzerindeki etkisine ilişkin yasal sorumluluğunu tartışmaya açıyor.