دعوة عالمية لوقف تطوير أنظمة الذكاء الاصطناعي الأكثر تقدماً أطلقتها شركة أنثروبيك، مطورة نموذج كلود، محذرة من أن أحدث النماذج قد تفلت من السيطرة البشرية. الشركة التي تتخذ من سان فرانسيسكو مقراً لها أصدرت تقريراً تؤكد فيه أن إبطاء وتيرة التقدم في هذا المجال على نطاق عالمي فكرة جيدة، لكنها تعترف بأن أي شركة تبطئ وتيرتها منفردة تخاطر بتجاوز المنافسين لها. التقرير يدعو إلى فرض فترة توقف منسقة تمنح الوقت للهياكل الاجتماعية وأبحاث التوافق لمواكبة التطور التكنولوجي. هذه الدعوة تأتي في وقت يشهد تسارعاً هائلاً في القطاع، حيث تظهر بيانات داخلية من أنثروبيك أن الذكاء الاصطناعي أصبح يدفع عجلة تطوره بنفسه بشكل دراماتيكي.
دعوة إلى وقف دولي منسق
ترى أنثروبيك أن تحقيق وقف حقيقي يتطلب موافقة شركات الذكاء الاصطناعي الكبرى في دول متعددة، خاصة الصين والولايات المتحدة، على التوقف في آن واحد تحت قواعد يمكن لجميع الأطراف التحقق منها. في تقريرها، تؤكد الشركة أنه بدون آلية تنسيق عالمي، ستضطر الشركات والحكومات إلى اتخاذ قرارات صعبة تتعلق بالسلامة في ظل ضغوط تنافسية وجيوسياسية. تأمل أنثروبيك في جمع مسؤولين حكوميين وعلماء ومجموعات دفاعية وشركات منافسة خلال الأشهر المقبلة لتحديد كيفية عمل هذا النظام. لكن المبادرة تواجه مقاومة كبيرة سواء في واشنطن أو في وادي السيليكون.
خطر التحسين الذاتي المتكرر
أحد النقاط المحورية في تحذير أنثروبيك هو ظاهرة التحسين الذاتي المتكرر — أي قدرة نظام الذكاء الاصطناعي على تعليم نفسه ليصبح أكثر ذكاءً. الشركة تشير إلى أن بيانات داخلية تُظهر أن الدور البشري يتضاءل في كل خطوة من عملية تطوير الذكاء الاصطناعي، مما قد يؤدي إلى حلقة تغذية مرتدة غير مسيطر عليها. ورغم نفيها أن يكون هذا السيناريو حتمياً، فإن أنثروبيك تؤكد أن الأدلة تشير إلى تراجع تدريجي في التدخل البشري. الدعوة إلى التنسيق تأتي تحديداً في هذا السياق من تسارع التطور الذاتي للذكاء الاصطناعي.
معارضة في واشنطن ووادي السيليكون
تواجه مقترح أنثروبيك معركة شاقة في الأوساط الرسمية والتجارية الأمريكية. مسؤولون في الحكومة الأمريكية ومديرون تنفيذيون لشركات تكنولوجيا كبرى يقولون إن إبطاء تطوير الذكاء الاصطناعي قد يمنح الصين ميزة استراتيجية كبيرة. الضغط التنافسي شديد، والجغرافيا السياسية تضيف طبقة إضافية من التعقيد إلى النقاش حول السلامة. رغم هذا التشكك، وقع الرئيس دونالد ترامب هذا الأسبوع مرسوماً يسمح للحكومة بإجراء تقييمات أولية لأقوى نماذج الذكاء الاصطناعي لدى الشركات الأمريكية قبل إطلاقها.
مبادرة ترامب: مرسوم التقييم المسبق
يمثل المرسوم الذي وقعه ترامب خطوة تنظيمية ملموسة، وإن كانت أولية، نحو فرض رقابة أكبر على أنظمة الذكاء الاصطناعي. القرار يخول الحكومة فحص النماذج الأكثر تقدماً قبل وصولها إلى السوق، وهو ما تراه أنثروبيك خطوة إيجابية لكنها غير كافية دون تنسيق عالمي. تخطط الشركة في الأشهر المقبلة لإشراك مسؤولين حكوميين وعلماء ومجموعات دفاعية ومنافسين لتحديد ملامح نظام تحقق دولي. لكن الصعوبة تكمن في مواءمة مصالح دول ذات رؤى متضاربة بشأن مستقبل التكنولوجيا.
تحدي التنسيق الدولي
لكي يكون الوقف العالمي ممكناً، تدعو أنثروبيك إلى اتفاق شركات الذكاء الاصطناعي الكبرى في دول عدة، خاصة الصين والولايات المتحدة، على إيقاف التطوير في وقت واحد تحت قواعد يمكن للجميع التحقق منها. بدون هذا الاتفاق، تحذر الشركة من أن الضغوط التنافسية والجيوسياسية ستفرض قرارات سلامة محفوفة بالمخاطر. الاقتراح يأتي في وقت يجعل فيه تسارع التطور الذاتي للذكاء الاصطناعي النقاش أكثر إلحاحاً. تقرير أنثروبيك يوضح أنه بدون آلية تنسيق، فإن السيناريو الأكثر ترجيحاً هو سباق جامح بعواقب غير متوقعة على السيطرة البشرية على هذه الآلات.