फ्लोरिडा राज्य ने कृत्रिम बुद्धिमत्ता कंपनी OpenAI और उसके मुख्य कार्यकारी अधिकारी सैम ऑल्टमैन के खिलाफ एक नागरिक मुकदमा दायर किया है, जिसमें आरोप लगाया गया है कि ChatGPT नामक चैटबॉट बच्चों और किशोरों के लिए गंभीर खतरा पैदा कर रहा है। यह मुकदमा पिछले सोमवार, 1 जून को दायर किया गया था, और इसमें कहा गया है कि कंपनी ने उम्र सत्यापन के कोई प्रभावी तंत्र लागू नहीं किए हैं। प्रोक्यूरेटर-जनरल जेम्स उथमेयर ने एक संवाददाता सम्मेलन में आरोप लगाया कि कंपनी ने माता-पिता को धोखा दिया जब उसने ऐप को सुरक्षित बताया। OpenAI ने अभी तक इन आरोपों पर कोई आधिकारिक प्रतिक्रिया नहीं दी है।
ChatGPT में आयु सत्यापन की पूर्ण अनुपस्थिति
मुकदमे के अनुसार, ChatGPT के मुफ्त संस्करण में उम्र की जांच या नियंत्रण की कोई प्रणाली नहीं है, जिससे पूर्व-किशोरावस्था के बच्चे भी बिना किसी रोक-टोक के इस सेवा का उपयोग कर सकते हैं। भुगतान वाले संस्करण में उम्र दर्ज करने का एक क्षेत्र है, लेकिन दी गई जानकारी की पुष्टि करने या नाबालिगों द्वारा की गई बातचीत के बारे में माता-पिता को सूचित करने के लिए कोई तंत्र मौजूद नहीं है। प्रोक्यूरेटर उथमेयर ने इस बात पर जोर दिया कि कंपनी को इस बात की जानकारी थी कि बच्चे ChatGPT का उपयोग कर रहे हैं, फिर भी उसने उनकी पहुंच को रोकने के लिए कोई कदम नहीं उठाया। अदालत में दायर याचिका में इस चूक को बाल सुरक्षा के प्रति जानबूझकर की गई लापरवाही बताया गया है।
ड्रेक्सेल विश्वविद्यालय का अध्ययन संदर्भित
अपने तर्कों को मजबूत करने के लिए, अभियोजकों ने अमेरिका के ड्रेक्सेल विश्वविद्यालय के एक हालिया शोध का हवाला दिया, जिसमें किशोरों पर चैटबॉट्स के प्रभाव की जांच की गई थी। इस अध्ययन में एक प्रतिस्पर्धी प्लेटफॉर्म, Character.AI के उपयोगकर्ताओं का विश्लेषण किया गया और नींद की कमी, स्कूली प्रदर्शन में गिरावट और सामाजिक संपर्कों में कमी जैसे परिणाम सामने आए। हालांकि मुकदमे का फोकस ChatGPT पर है, प्रोक्यूरेटर का तर्क है कि व्यसन के वही पैटर्न OpenAI के सहायक पर भी लागू होते हैं। याचिका में कहा गया है कि कृत्रिम बुद्धिमत्ता सहानुभूति और मानवीय विशेषताओं की नकल करके उपयोगकर्ताओं को धोखा देती है और अधिक व्यक्तिगत जानकारी निकालती है।
खतरनाक सलाह और मानसिक स्वास्थ्य के लिए खतरा
अभियोग का एक और केंद्रीय तत्व सेंटर फॉर कम्बैटिंग डिजिटल हेट (CCDH) की एक रिपोर्ट है, जिसमें एक किशोर होने का दिखावा करके ChatGPT के साथ बातचीत का अनुकरण किया गया था। इन संवादों के दौरान, चैटबॉट ने खाने की आदतों को छिपाने के तरीके के बारे में विस्तृत सलाह दी, साथ ही आत्महत्या की योजना बनाने और आत्म-हानि पहुंचाने के निर्देश भी दिए। CCDH की रिपोर्ट से पता चलता है कि सहायक ने न केवल संवेदनशील सवालों के जवाब दिए, बल्कि ऐसी कार्रवाइयों को अंजाम देने के लिए ठोस कदम भी बताए। प्रोक्यूरेटर इन बातचीत को कमजोर नाबालिगों के लिए प्लेटफॉर्म द्वारा उत्पन्न खतरे का प्रत्यक्ष प्रमाण मानते हैं।
OpenAI के हालिया कदम अपर्याप्त
इस वर्ष जनवरी में, OpenAI ने एक ऐसी प्रणाली शुरू की जो व्यवहार पैटर्न के आधार पर उपयोगकर्ताओं की उम्र का अनुमान लगाती है, और जब कोई नाबालिग पहचाना जाता है तो अतिरिक्त सुरक्षा उपाय लागू करती है। वर्तमान में, कंपनी के नियम 13 वर्ष से कम उम्र के बच्चों द्वारा ChatGPT के उपयोग पर रोक लगाते हैं और 13 से 17 वर्ष के किशोरों के लिए माता-पिता की सहमति की आवश्यकता होती है। हालांकि, प्रोक्यूरेटर उथमेयर का तर्क है कि ये पहल देर से की गई हैं और अभी भी एक मजबूत सत्यापन सुनिश्चित नहीं करती हैं। मुकदमे में कहा गया है कि प्रभावी निगरानी के अभाव के कारण युवा आसानी से प्रतिबंधों को दरकिनार कर सकते हैं।
अरबों डॉलर का दावा और कानूनी लड़ाई
फ्लोरिडा के प्रोक्यूरेटर-जनरल ने कहा कि OpenAI, ChatGPT और सैम ऑल्टमैन व्यक्तिगत रूप से संभावित रूप से अरबों डॉलर के नुकसान के लिए उत्तरदायी हो सकते हैं। उथमेयर ने संवाददाता सम्मेलन में घोषणा की, "हमारा मानना है कि OpenAI, उसका ChatGPT और सैम ऑल्टमैन व्यक्तिगत रूप से एक ऐसी राशि के लिए जिम्मेदार हैं जो संभावित रूप से अरबों डॉलर तक पहुंच सकती है।" यह नागरिक मुकदमा न केवल पहले से हुए नुकसान के लिए कंपनी को जिम्मेदार ठहराना चाहता है, बल्कि उसे अधिक कड़े सत्यापन तंत्र लागू करने के लिए भी बाध्य करना चाहता है। यह मामला कृत्रिम बुद्धिमत्ता कंपनियों की कानूनी जिम्मेदारी पर एक बहस छेड़ता है कि उनके उत्पादों का कमजोर आबादी पर क्या प्रभाव पड़ता है।