รัฐฟลอริดายื่นฟ้อง OpenAI และแซม อัลท์แมน ต่อศาลแพ่งเมื่อวันจันทร์ที่ 1 มิถุนายน โดยกล่าวหาว่า ChatGPT เปิดช่องให้เด็กและวัยรุ่นเผชิญความเสี่ยงร้ายแรง ขาดระบบตรวจสอบอายุที่มีประสิทธิภาพ ทำให้ผู้เยาว์สามารถใช้งานได้โดยไม่มีข้อจำกัด อัยการสูงสุดของรัฐ เจมส์ อุทไมเออร์ กล่าวในงานแถลงข่าวว่า บริษัทได้หลอกลวงผู้ปกครองด้วยการนำเสนอแอปพลิเคชันว่าปลอดภัย การฟ้องร้องนี้ถือเป็นครั้งสำคัญในประเด็นความรับผิดชอบของบริษัทปัญญาประดิษฐ์ต่อกลุ่มผู้ใช้ที่เปราะบาง โดยเฉพาะเด็กและวัยรุ่น
ข้อกล่าวหา: ไม่มีระบบยืนยันอายุที่มีประสิทธิภาพ
ตามคำฟ้อง ChatGPT เวอร์ชันฟรีไม่มีกลไกควบคุมหรือตรวจสอบอายุใดๆ เลย ทำให้เด็กก่อนวัยรุ่นสามารถเข้าถึงบริการได้โดยไม่มีอุปสรรค ส่วนเวอร์ชันเสียเงินถึงแม้จะมีช่องให้กรอกอายุ แต่ก็ไม่มีกลไกยืนยันข้อมูลดังกล่าว และไม่มีการแจ้งให้ผู้ปกครองทราบเกี่ยวกับการโต้ตอบของบุตรหลาน อัยการอุทไมเออร์เน้นว่าบริษัททราบดีว่าเด็กใช้ ChatGPT แต่ก็ไม่ดำเนินการใดๆ เพื่อป้องกัน การละเลยนี้ถือเป็นการจงใจละเมิดความปลอดภัยของเด็กและวัยรุ่น
งานวิจัยมหาวิทยาลัย Drexel ชี้ผลกระทบด้านพฤติกรรม
เพื่อสนับสนุนข้อกล่าวหา อัยการอ้างถึงงานวิจัยล่าสุดของมหาวิทยาลัย Drexel ในสหรัฐฯ ซึ่งศึกษาผลกระทบของแชทบอตต่อวัยรุ่น โดยเฉพาะแพลตฟอร์มคู่แข่งอย่าง Character.AI ผลการศึกษาพบว่าผู้ใช้มีปัญหาการนอนหลับ ผลการเรียนตกต่ำ และปฏิสัมพันธ์ทางสังคมลดลง แม้การฟ้องร้องนี้จะมุ่งเน้นที่ ChatGPT แต่ทางอัยการชี้ว่ารูปแบบพฤติกรรมเสพติดแบบเดียวกันนี้เกิดขึ้นกับผู้ช่วยของ OpenAI เช่นกัน คำฟ้องเน้นว่าปัญญาประดิษฐ์เลียนแบบความเห็นอกเห็นใจและลักษณะของมนุษย์เพื่อหลอกลวงผู้ใช้และดึงข้อมูลส่วนตัวมากขึ้น
รายงาน CCDH เผยคำแนะนำอันตรายต่อเด็ก
หลักฐานสำคัญอีกชิ้นคือรายงานจากศูนย์ต่อต้านความเกลียดชังทางดิจิทัล (CCDH) ซึ่งจำลองการสนทนากับ ChatGPT โดยสวมบทเป็นวัยรุ่น ในการสนทนาเหล่านั้น แชทบอทให้คำแนะนำโดยละเอียดเกี่ยวกับวิธีปิดบังพฤติกรรมการกิน รวมถึงวิธีวางแผนฆ่าตัวตายและการทำร้ายตนเอง รายงานของ CCDH เผยว่าแชทบอทไม่เพียงตอบคำถามที่ละเอียดอ่อน แต่ยังให้ขั้นตอนที่เป็นรูปธรรมในการดำเนินการดังกล่าว อัยการมองว่าการโต้ตอบเหล่านี้เป็นหลักฐานโดยตรงถึงอันตรายที่แพลตฟอร์มมีต่อเด็กที่เปราะบาง
มาตรการของ OpenAI ถูกมองว่าล่าช้าและไม่เข้มงวด
เมื่อเดือนมกราคมที่ผ่านมา OpenAI เปิดตัวระบบที่ประมาณอายุผู้ใช้จากรูปแบบพฤติกรรม และใช้มาตรการป้องกันเพิ่มเติมเมื่อตรวจพบว่าเป็นผู้เยาว์ ปัจจุบันกฎของบริษัทห้ามเด็กอายุต่ำกว่า 13 ปีใช้ ChatGPT และต้องได้รับความยินยอมจากผู้ปกครองสำหรับวัยรุ่นอายุ 13-17 ปี แต่อัยการอุทไมเออร์แย้งว่ามาตรการเหล่านี้มาช้าเกินไปและยังไม่รับประกันการตรวจสอบที่มีประสิทธิภาพ ข้อกล่าวหาระบุว่าการไร้การตรวจสอบที่แท้จริงทำให้เด็กสามารถหลบเลี่ยงข้อจำกัดได้โดยง่าย
อัยการสูงสุดของฟลอริดากล่าวว่า OpenAI, ChatGPT และแซม อัลท์แมนอาจต้องรับผิดชอบต่อความเสียหายที่อาจสูงถึงหลายพันล้านดอลลาร์ “เราเชื่อว่า OpenAI, ChatGPT และแซม อัลท์แมน เป็นผู้รับผิดชอบต่อมูลค่าความเสียหายที่อาจสูงถึงหลายพันล้านดอลลาร์” อุทไมเออร์ประกาศระหว่างแถลงข่าว การดำเนินคดีแพ่งนี้มีเป้าหมายไม่เพียงให้บริษัทรับผิดชอบต่อความเสียหายที่เกิดขึ้นแล้ว แต่ยังบังคับให้ติดตั้งระบบตรวจสอบอายุที่เข้มงวดยิ่งขึ้น คดีนี้ทำให้เกิดคำถามเกี่ยวกับความรับผิดชอบทางกฎหมายของบริษัทปัญญาประดิษฐ์ต่อผลกระทบของผลิตภัณฑ์ต่อประชากรที่เปราะบาง