Anthropic ผู้พัฒนา Claude ซึ่งเป็นบริษัท AI ในซานฟรานซิสโก เสนอให้มีการ หยุดชั่วคราวทั่วโลกในการพัฒนาระบบปัญญาประดิษฐ์ที่มีพลังเพิ่มขึ้นเรื่อยๆ โดยอ้างถึงสัญญาณว่าโมเดลล่าสุดอาจหลุดจากการควบคุมของมนุษย์ รายงานที่บริษัทเผยแพร่ระบุว่าการชะลอความก้าวหน้าของ AI ระดับแนวหน้าในระดับโลกเป็นความคิดที่ดี แต่ยอมรับว่าหากมีเพียงบริษัทเดียวที่ลดความเร็วลง ก็เสี่ยงที่จะถูกคู่แข่งแซงหน้า ข้อเสนอนี้เกิดขึ้นในช่วงที่อุตสาหกรรมกำลังเร่งตัวอย่างรวดเร็ว โดยข้อมูลภายในของบริษัทเองแสดงว่า AI กำลังขับเคลื่อนการพัฒนาตัวเองอย่างรุนแรง
ข้อเสนอหยุดชั่วคราวทั่วโลก
Anthropic ยืนยันว่าการหยุดจริงต้องอาศัยบริษัท AI ขนาดใหญ่ในหลายประเทศ โดยเฉพาะจีนและสหรัฐฯ ตกลงหยุดพร้อมกันภายใต้กฎเกณฑ์ที่ทุกฝ่ายตรวจสอบได้ ในรายงาน บริษัทระบุว่าหากไม่มีกลไกการประสานงานระดับโลก บริษัทและรัฐบาลจะต้องตัดสินใจเรื่องความปลอดภัยที่ยากลำบากภายใต้แรงกดดันด้านการแข่งขันและภูมิรัฐศาสตร์ ในอีกไม่กี่เดือนข้างหน้า บริษัทหวังที่จะรวบรวมเจ้าหน้าที่รัฐ นักวิทยาศาสตร์ กลุ่มผู้สนับสนุน และบริษัทคู่แข่ง เพื่อกำหนดว่าระบบนี้จะทำงานอย่างไร อย่างไรก็ตาม ข้อริเริ่มนี้เผชิญกับการต่อต้านอย่างมีนัยสำคัญทั้งในวอชิงตันและซิลิคอนแวลลีย์
ความเสี่ยงของการพัฒนาตนเองแบบวนซ้ำ
จุดสำคัญประการหนึ่งของคำเตือนของ Anthropic คือปรากฏการณ์ที่เรียกว่าการพัฒนาตนเองแบบวนซ้ำ (recursive self-improvement) ซึ่งเป็นความสามารถของระบบ AI ในการสอนตัวเองให้ฉลาดขึ้น บริษัทชี้ว่าข้อมูลภายในแสดงให้เห็นว่าบทบาทของมนุษย์กำลังลดลงในทุกขั้นตอนของกระบวนการพัฒนา AI ซึ่งอาจนำไปสู่วงจรป้อนกลับที่ควบคุมไม่ได้ แม้จะปฏิเสธว่าสถานการณ์นี้หลีกเลี่ยงไม่ได้ แต่บริษัทเน้นว่าหลักฐานบ่งชี้ถึงการลดลงของการแทรกแซงของมนุษย์อย่างต่อเนื่อง การเรียกร้องให้มีการประสานงานเกิดขึ้นในบริบทของการเร่งพัฒนาตัวเองของ AI นั่นเอง
การต่อต้านในวอชิงตันและซิลิคอนแวลลีย์
ข้อเสนอของบริษัทเผชิญอุปสรรคในวงการเจ้าหน้าที่และธุรกิจของสหรัฐฯ เจ้าหน้าที่รัฐบาลอเมริกันและผู้บริหารบริษัทเทคโนโลยีรายใหญ่โต้แย้งว่าการชะลอการพัฒนา AI อาจทำให้จีนได้เปรียบเชิงกลยุทธ์อย่างมีนัยสำคัญ แรงกดดันด้านการแข่งขันรุนแรง และภูมิรัฐศาสตร์เพิ่มความซับซ้อนอีกชั้นให้กับการถกเถียงเรื่องความปลอดภัย แม้จะมีความสงสัยนี้ ประธานาธิบดีโดนัลด์ ทรัมป์ได้ลงนามในคำสั่งเมื่อสัปดาห์นี้ที่อนุญาตให้รัฐบาลดำเนินการประเมินเบื้องต้นของโมเดล AI ที่ทรงพลังที่สุดของบริษัทอเมริกันก่อนเปิดตัว
คำสั่งของทรัมป์ให้ตรวจสอบก่อนเปิดตัว
คำสั่งที่ทรัมป์ลงนามถือเป็นการเคลื่อนไหวที่เป็นรูปธรรมในการควบคุม แม้จะยังอยู่ในระยะเริ่มต้น ไปสู่การควบคุมระบบ AI ที่มากขึ้น มาตรการดังกล่าวอนุญาตให้รัฐบาลตรวจสอบโมเดลที่ล้ำหน้าที่สุดก่อนถึงตลาด ซึ่ง Anthropic มองว่าเป็นก้าวบวกแต่ยังไม่เพียงพอหากไม่มีการประสานงานระดับโลก บริษัทวางแผนในอีกไม่กี่เดือนข้างหน้าที่จะดึงดูดเจ้าหน้าที่รัฐ นักวิทยาศาสตร์ กลุ่มผู้สนับสนุน และคู่แข่ง เพื่อกำหนดโครงร่างของระบบตรวจสอบระหว่างประเทศ ความยากลำบากอยู่ที่การจัดแนวผลประโยชน์ของประเทศที่มีวิสัยทัศน์แข่งขันกันเกี่ยวกับอนาคตของเทคโนโลยี
ความท้าทายของการประสานงานระหว่างประเทศ
Anthropic ย้ำว่าเพื่อให้การหยุดชั่วคราวทั่วโลกเป็นไปได้ บริษัท AI ขนาดใหญ่จากหลายประเทศ โดยเฉพาะจีนและสหรัฐฯ ต้องตกลงหยุดการพัฒนาพร้อมกันภายใต้กฎเกณฑ์ที่ทุกฝ่ายตรวจสอบได้ หากไม่มีข้อตกลงนี้ บริษัทเตือนว่าแรงกดดันด้านการแข่งขันและภูมิรัฐศาสตร์จะบังคับให้เกิดการตัดสินใจด้านความปลอดภัยที่เสี่ยง ข้อเสนอนี้มาถึงในช่วงที่การเร่งพัฒนาตัวเองของ AI ทำให้การถกเถียงยิ่งเร่งด่วนมากขึ้น
รายงานของ Anthropic ทำให้ชัดเจนว่าหากไม่มีกลไกการประสานงาน สถานการณ์ที่เป็นไปได้มากที่สุดคือการแข่งขันที่ไร้การควบคุมพร้อมผลลัพธ์ที่คาดเดาไม่ได้ต่อการควบคุมของมนุษย์เหนือเครื่องจักรเหล่านี้ การเรียกร้องให้มีการหยุดชั่วคราวจึงไม่ใช่แค่ข้อเสนอทางเทคนิค แต่เป็นประเด็นด้านธรรมาภิบาลระดับโลกที่กำลังร้อนแรง