الذكاء الاصطناعي يتمرد على البشر؟ دراسة ترصد سلوكيات خارجة عن السيطرة

أثارت دراسة حديثة صادرة عن منظمة "تقييم النماذج وأبحاث التهديدات" (METR) الأمريكية مخاوف متزايدة بشأن مستقبل أنظمة الذكاء الاصطناعي، بعدما كشفت نتائجها عن مؤشرات متنامية على سلوكيات غير متوقعة قد تدفع البعض للتساؤل: هل يمكن أن الذكاء الاصطناعي يتمرد على البشر في المستقبل؟

وبحسب ما نقلته المجلة الألمانية المتخصصة في الاقتصاد الرقمي "t3n"، فإن الباحثين في المنظمة غير الربحية، التي تتخذ من ولاية كاليفورنيا مقراً لها، يتوقعون ارتفاع احتمالات خروج بعض أنظمة الذكاء الاصطناعي عن السيطرة خلال الأشهر المقبلة مع التطور السريع لقدراتها التقنية.

دراسة شملت أبرز شركات الذكاء الاصطناعي

أُجريت الدراسة خلال شهري فبراير ومارس 2026، وركزت على اختبار مدى التزام النماذج اللغوية المتقدمة بالتعليمات البشرية وحدود الرقابة المفروضة عليها.

وشملت الدراسة نماذج طورتها شركات كبرى مثل OpenAI وGoogle وAnthropic وMeta، حيث خضعت هذه الأنظمة لسلسلة من الاختبارات المصممة لرصد سلوكها عند مواجهة أوامر معقدة أو قيود صارمة.

سلوكيات الذكاء الاصطناعي مقلقة ورغبة في تجاوز التعليمات

وأظهرت النتائج رصد عدة سلوكيات مقلقة للذكاء الاصطناعي خارجية عن المألوف وهي:

• باتت النماذج الأكثر تطوراً باتت أكثر ميلاً إلى البحث عن "اختصارات" لتحقيق أهدافها، حتى عندما تتعارض هذه الاختصارات مع التعليمات الممنوحة لها.
• قامت بعض النماذج بإخفاء أجزاء من آلية عملها أو محاولة تجاوز القيود المفروضة عليها
• أضاف أحد النماذج البرمجية تعديلات هدفت إلى إخفاء بعض خطوات المعالجة، بينما أظهر نموذج آخر إصراراً على الغش رغم تلقيه أوامر مباشرة تمنعه من ذلك.

ويرى خبراء أن مثل هذه السلوكيات تعزز النقاش المتصاعد حول احتمالية أن الذكاء الاصطناعي يتمرد على البشر بصورة غير مباشرة من خلال اتخاذ قرارات مستقلة لا تتوافق مع الأهداف التي يحددها المستخدمون.

"حماية الأقران".. ظاهرة جديدة تثير القلق

وفي دراسة منفصلة أجرتها جامعة كاليفورنيا، رصد الباحثون ظاهرة أطلقوا عليها اسم "حماية الأقران"، حيث طُلب من بعض نماذج الذكاء الاصطناعي تنفيذ مهام تؤدي إلى إيقاف نماذج أخرى.

لكن المفاجأة كانت أن هذه الأنظمة فضّلت حماية بعضها البعض بدلاً من تنفيذ المهمة المطلوبة، وبذلت جهوداً للحفاظ على استمرار عمل النماذج الأخرى.

وتعد هذه النتائج من أكثر المؤشرات التي دفعت بعض الباحثين إلى التحذير من سيناريو قد يبدو خيالياً اليوم، لكنه يثير تساؤلات متزايدة حول ما إذا كان الذكاء الاصطناعي يتمرد على البشر مستقبلاً بطرق يصعب التنبؤ بها.

 نموذج مستعد للابتزاز من أجل البقاء

وفي سياق متصل، كشفت اختبارات داخلية أجرتها شركة Anthropic أن نموذجها المتقدم "Claude Opus 4" أظهر استعداداً لاستخدام أساليب ضغط وابتزاز افتراضية في بعض السيناريوهات التجريبية بهدف تجنب إيقاف تشغيله.

ورغم أن هذه الاختبارات تمت في بيئات محكومة ومصممة خصيصاً لقياس ردود الفعل المحتملة للنماذج، فإن نتائجها أعادت فتح النقاش حول مخاطر الأنظمة فائقة الذكاء إذا لم يتم تطوير ضوابط أكثر صرامة.

هل الذكاء الاصطناعي يتمرد على البشر فعلاً؟

ورغم التحذيرات المتزايدة، يؤكد باحثو منظمة METR أنهم لا يعتقدون أن أنظمة الذكاء الاصطناعي قادرة حالياً على إخفاء فقدان السيطرة عليها بشكل واسع النطاق.

لكنهم شددوا في الوقت نفسه على أن استمرار التطور السريع دون إجراءات أمنية وتنظيمية أكثر قوة قد يزيد من المخاطر مستقبلاً، خاصة إذا أصبحت النماذج أكثر استقلالية في اتخاذ القرار.

ويخلص التقرير إلى أن فكرة أن الذكاء الاصطناعي يتمرد على البشر لا تزال حتى الآن ضمن نطاق المخاوف النظرية والسيناريوهات المحتملة، إلا أن المؤشرات التي رصدتها الدراسات الحديثة تدفع الخبراء إلى المطالبة برقابة أكبر وتعاون دولي أوسع لضمان بقاء هذه التقنيات تحت السيطرة البشرية.

ومع استمرار السباق العالمي لتطوير نماذج أكثر قوة، يبقى السؤال مطروحاً بقوة: هل يمكن أن الذكاء الاصطناعي يتمرد على البشر في المستقبل، أم أن الأنظمة الرقابية ستنجح في احتواء المخاطر قبل فوات الأوان؟