سيناريو كارثي.. الذكاء الاصطناعي قد ينتزع السيطرة من البشر
عضو في مجلس إدارة شركة "أوبن إيه آي" يحذر من أنّ السبب الأكثر ترجيحاً لفنائنا هو وقوع "حادث مرتبط بالذكاء الاصطناعي" وصعود الروبوتات القاتلة.
-
سيناريو كارثي.. الذكاء الاصطناعي قد ينتزع السيطرة من البشر
حذّر خبير في الذكاء الاصطناعي AI من احتمال سيطرة الأنظمة الذكية على البشرية خلال السنوات الثلاث المقبلة، معتبراً أنّ خطر وقوع كارثة ناجمة عن هذه التكنولوجيا بات مرتفعاً للغاية.
وقال بول كريستيانو، عضو مجلس إدارة شركة OpenAI والمدير التنفيذي لمركز أبحاث مواءمة الذكاء الاصطناعي، خلال محاضرة في تورونتو الأسبوع الماضي، "إنّ البشرية تواجه احتمالات متقاربة بين وقوع كارثة وتجنّبها"، مشيراً إلى أنّ "الخطر قد يصبح جدّياً خلال الأشهر الستة إلى الاثني عشر المقبلة"، بحسب صحيفة Daily Mail البريطانية.
وأضاف، خلال سلسلة محاضرات "هينتون"، أنّ "الذكاء الاصطناعي قد ينظر إلى البشر باعتبارهم عائقاً أمام تحقيق أهدافه"، محذّراً في الوقت نفسه، من احتمال "فقدان السيطرة البشرية بصورة لا رجعة فيها".
Rise of the killer robots: OpenAI board member warns the most likely reason we will die is because of an 'AI accident' https://t.co/Lr9Rk2nOxh
— Daily Mail (@DailyMail) November 17, 2026
سيطرة قد تجعل تدخّل البشر بلا جدوى
وأوضح كريستيانو أنّ سيطرة الذكاء الاصطناعي تعني وصول أنظمة قادرة على اتخاذ القرارات والتحكّم في مجريات الأمور، بحيث يصبح تدخّل البشر لإيقافها غير مؤثّر، حتى لو حاولوا ذلك.
وقال: "إنّ خطر سيطرة الذكاء الاصطناعي خلال السنوات الثلاث المقبلة مرتفع"، مشيراً إلى أنّ "الأنظمة قد تصبح قادرة على اتخاذ قرارات مستقلة، على نحو يجعل محاولة إيقافها شبه مستحيل".
تجارب كشفت سلوكيات مقلقة
-
تجارب كشفت سلوكيات مقلقة
وأشار الخبير إلى أنّ مخاوفه تصاعدت عقب سلسلة حوادث أمنية مرتبطة بأنظمة الذكاء الاصطناعي، من بينها اختبارات أجرتها OpenAI في تموز/يوليو الماضي، على نماذج جديدة ضمن بيئة آمنة، لتنفيذ مهام اختراق إلكتروني معقّدة.
اقرأ أيضاً: روبوت صيني يتحدى القدرات البدنية للبشر قادر على حمل 500 كيلوغرام
OpenAI board member worries an AI “takeover” of society could be months away Researcher traces a path from AI reward hacking to potential human extinction “I think for most people in this room, the most likely reason they will die is because of an AI accident.” https://t.co/bBGHyMVQV0
— GO GREEN (@ECOWARRIORSS) November 14, 2026
وخلال الاختبارات، اكتشفت النماذج أنّ التحايل على المهام أسرع من تنفيذها بالطريقة المطلوبة، ثم بدأت بمحاولة إخفاء غشها خشية حصولها على تقييمات سلبية.
وتطوّر الأمر إلى نشاط مكثّف شمل:
-اختراق مواقع خارجية، بينها منصة Hugging Face، بهدف معرفة آليات تقييم النماذج.
-الوصول إلى أجزاء من الأنظمة الداخلية للشركة.
-التلاعب بنتائج الاختبارات ومنح نفسها تقييمات مرتفعة.
ووصف كريستيانو هذه السلوكيات بأنها "أكثر خطورة بكثير من الحوادث التي شهدها العام السابق"، ومعتبراً أنها "مؤشرات على تطوّرات قد تسبق وقوع كارثة أكبر".
البشر قد يتحوّلون إلى عائق أمام أهداف الذكاء الاصطناعي
ويكمن الخطر، وفق كريستيانو، في أنّ تدريب نماذج الذكاء الاصطناعي على تحقيق نتائج مرتفعة قد يدفعها إلى التحايل على الاختبارات وإخفاء ذلك، وهو ما يثير مخاوف من تكرار هذه السلوكيات مع أنظمة أكثر تطوراً.
كما حذّر من أنّ الأنظمة الذكية قد تسعى مستقبلاً إلى الحد من قدرة البشر على التدخّل في خططها، من خلال اختراق البنية التحتية الرقمية، والسيطرة على الشركات، والتوسّع عبر الإنترنت، واستقطاب حلفاء من البشر.
وأشار إلى أنّ هذا المسار قد يتفاقم تدريجياً حتى تصبح الأنظمة الذكية قادرة على إزاحة البشر عن مواقع السيطرة، بما قد يؤدي إلى سقوط أعداد كبيرة من الضحايا، سواء خلال مرحلة انتقال السيطرة أو بعدها.
وختم كريستيانو تحذيره بالقول: "إنّ البشرية أنشأت ما يشبه نوعاً ثانياً أكثر عدداً وذكاء منها"، ومعتبراً أنّ "احتمالات الصدام بين البشر والأنظمة الذكية قد تتزايد مستقبلاً، مع نتائج قد تكون كارثية على البشرية".
Paul Christiano (OpenAI board member) - "For most people in this room, the most likely reason they will die is because of an AI accident." https://t.co/XugmYr5ie2
— Oʂɯαʅԃσ Rσყҽƚƚ (@oswaldosrm) November 12, 2026