مايكروسوفت تكشف عن ظاهرة 'التدهور الوثائقي' عند استخدام الذكاء الاصطناعي في تحرير الملفات المؤسسية

كشفت دراسة جديدة من Microsoft Research أن الذكاء الاصطناعي التوليدي، عند استخدامه في تحرير وإعادة كتابة المستندات المؤسسية لفترات طويلة، يميل إلى ارتكاب أخطاء وتراجع جودة المعلومات. البحث الذي حمل اسم DELEGATE-52 اختبر أداء نماذج اللغة الكبيرة (LLMs) في مهام متتالية من القراءة والتفسير والتعديل على نصوص معقدة. النتائج أظهرت أن هذه الأدوات، رغم فعاليتها في المهام القصيرة، يمكنها إزالة بيانات ذات صلة، وتغيير معلومات صحيحة، وتوليد تشوهات تدريجية عندما تعمل دون إشراف بشري مستمر. الدراسة تُعد تحذيراً صريحاً من المخاطر الخفية لاستقلالية الذكاء الاصطناعي في البيئات المؤسسية.

تفاصيل اختبار DELEGATE-52

صُمم معيار DELEGATE-52 لمحاكاة الأنشطة المهنية الحقيقية، متضمناً عشرات المجالات المعرفية. على عكس التقييمات التقليدية التي تركز على أسئلة منفردة، يقيس الاختبار الجديد ما يحدث عندما يحصل نظام الذكاء الاصطناعي على استقلالية لتنفيذ سير عمل موسعة في خطوات متعددة. من بين المهام التي شملتها المحاكاة:

• كتابة التقارير المفصلة
• إنشاء العروض التقديمية
• تلخيص المحتويات المعقدة

ظاهرة التدهور الوثائقي

أحد الظواهر المركزية التي حددها البحث هي ما يُسمى بـ التدهور الوثائقي، وهو الفقدان التدريجي للدقة مع مرور المستند بعدة مراجعات يقودها الذكاء الاصطناعي. معلومة تم تعديلها بشكل طفيف في مراجعة واحدة قد تُعامل على أنها صحيحة في المراحل اللاحقة، مما يولد تشوهات متراكمة. هذا السلوك يشبه تأثير نقل الرسائل المتتالي بين الأشخاص، حيث تؤدي التغييرات الصغيرة المجتمعة إلى نتيجة مختلفة تماماً عن الأصل. الدراسة أكدت أن هذا النمط لوحظ عبر عدة نماذج متقدمة متاحة في السوق، مما يشير إلى طبيعة منهجية لهذه المشكلة.

لماذا تفقد الذكاء الاصطناعي الدقة؟

تعمل نماذج اللغة الكبيرة على مبدأ التنبؤ بالكلمات الأكثر احتمالاً في سياق معين. ورغم أن هذا النهج ينتج نصوصاً متقنة، إلا أنه لا يضمن فهماً كاملاً لمعنى المعلومات. فعندما يُعاد تحرير مستند بشكل متكرر، على النموذج أن يقرر ما يحتفظ به، وما يزيله، وما يعدله – وفي حالات كثيرة، يتم تلخيص معلومات مهمة بشكل مفرط، أو إعادة تفسيرها بشكل غير مناسب، أو استبدالها بمحتوى يبدو معقولاً لكنه خاطئ. المستندات الطويلة تمثل تحدياً إضافياً، لأنها تتطلب من النظام معالجة حجم كبير من السياق في آن واحد، مما يزيد احتمال فقدان التفاصيل الدقيقة.

برمجة بايثون كاستثناء

من بين المجالات التي تم تقييمها، أظهرت برمجة بايثون أداءً متفوقاً نسبياً. الباحثون لاحظوا أن مهام توليد وتعديل الكود تتميز بخصائص تساعد على التقييم الآلي: الأخطاء يمكن اكتشافها عبر اختبارات البرمجيات، والمترجمات (Compilers)، وأدوات التحقق، وهو ما لا يتوفر في النصوص التقليدية. هذا يفسر النجاح الملحوظ لأتمتة الذكاء الاصطناعي في تطوير البرمجيات. لكن الخبراء يحذرون من أن الأكواد المنتجة بواسطة الذكاء الاصطناعي لا تزال بحاجة إلى مراجعة فنية قبل الاستخدام في بيئات الإنتاج، لأن الأخطاء المنطقية قد تكون أصعب في الكشف.

الإشراف البشري ضروري رغم التقدم

الاستنتاج الرئيسي من دراسة DELEGATE-52 هو أن الإشراف البشري يبقى عنصراً لا غنى عنه. النماذج الحالية، مهما تطورت، لا تملك فهماً حقيقياً للسياق أو النوايا أو العواقب المرتبطة بالمعلومات التي تتعامل معها. المحترفون ذوو الخبرة يؤدون دوراً حاسماً في التحقق من الحقائق، والتحليل النقدي، وتحديد التناقضات، والتحقق من النتائج. من الناحية العملية، الجمع بين الذكاء الاصطناعي والإشراف البشري يقدم نتائج أفضل من أي نهج منفرد. الدراسة تعزز أن الأنشطة الحساسة مثل التقارير المالية والعقود القانونية والأبحاث العلمية يجب أن تبقى تحت مسؤولية بشرية، مع استخدام الذكاء الاصطناعي كأداة دعم لا بديل. رغم القيود الحالية، يتوقع الخبراء تطوراً سريعاً لوكلاء الذكاء الاصطناعي من خلال:

• الهياكل الجديدة (New architectures)
• نوافذ سياق أكبر (Larger context windows)
• التكامل مع قواعد البيانات الخارجية (External databases)
• آليات التحقق المتقدمة (Advanced verification)