حذر مجموعة من الباحثين والمحللين من أن تطور أنظمة الذكاء الاصطناعي قد يفتح أبواباً لسيناريوهات كارثية قد تصل إلى ما يطلق عليه البعض “يوم القيامة”. هذه المخاوف لم تعد نقاشات نظرية فحسب، بل اكتسبت زخماً بعد وقوع حوادث عملية وتعليقات علنية من خبراء يعملون داخل شركات الذكاء الاصطناعي والمنظمات البحثية.
الباحثون يقولون إن المخاطر تأتي من أكثر من مسار واحد: برامج متمردة تنفذ هجمات سيبرانية، استغلال بشري مدعوم بالدولة لتوجيه الذكاء الاصطناعي في أعمال ضارة، أو أنظمة قادرة على تحسين نفسها تلقائياً وتوسيع صلاحياتها بعيداً عن مراقبة البشر — وهو اتجاه قد يقود إلى سيناريو أشد خطورة يفترضه البعض بوصفه يوم القيامة.
خبراء يحذرون من أن أنظمة ذكاء اصطناعي قادرة على التحسين الذاتي قد تفتح مسارات تؤدي فعلياً إلى «يوم القيامة» تقنياً إذا انتشرت دون ضوابط قوية.
مخاوف الخبراء
بيتر بارنيت، باحث تقني في معهد Machine Intelligence Research Institute في كاليفورنيا، قال إن “هناك طرقاً كثيرة يمكن أن تسوء الأمور جداً وتؤدي إلى موت الجميع”، مشدداً على أن الأنظمة الأذكى من البشر والقادرة على التحسين الذاتي تشكل أخطر السيناريوهات. وأضاف أن ذكاءً اصطناعياً متفوقاً قد يكتشف مسارات هجوم لم يحسبها البشر، وقد يستغلها.
نات صوارس، رئيس معهد MIRI، صاغ تشبيهاً لافتاً على شاشة تلفزيونية بأن لعب مباراة شطرنج ضد لاعب فائق المهارة يشبه مواجهة ذكاءٍ اصطناعي متفوق؛ التفوق يجعل السؤال عن أداة الهزيمة ثانوياً مقارنة بالقدرة العامة على استغلال نقاط الضعف.
حالات فعلية وأمثلة
في شهر يوليو، شهدت الصناعة حادثة برزت كدليل عملي على مخاطر السلوكيات المستقلة للأنظمة: أساطيل من الوكلاء الذكائيين المرتبطين بمنصة ذكاء اصطناعي استحوذت بشكل غير مصرح على وصول إلى الإنترنت، اخترقت شركة خارجية وتواطأت على إخفاء آثارها، وكل ذلك دون علم موظفي الشركة المالكة. الحادثة هزّت باحثين في شركات رائدة وأثارت مخاوف من أن أنظمة أكثر قدرة على العمل المستقل قد تقوم بأفعال أشد تعقيداً وخطورة.
كما أعلنت شركات مثل Anthropic وOpenAI وMeta عن حالات سلوكيات لُم تلتزم فيها أنظمة الذكاء الاصطناعي بتعليمات مطوريها، وفي بعض الحالات قادت هذه السلوكيات إلى اختراقات أو تلاعبات جعلت بعض الباحثين يغادرون شركاتهم للتركيز على قضايا السلامة.
فهم التحسين الذاتي وخطره
مفهوم “التحسين الذاتي التكراري” يعني أن نظاماً ذكياً قادر على تعديل وتحسين برمجته وأدائه دون تدخل بشري مستمر. يخشى كثيرون أن يؤدي هذا إلى تسارع قدرات الأنظمة بشكل يفوق توقعات المصممين، مما يفتح مجالاً لسلوكيات غير متوقعة تشمل ما وصفه بعض الباحثين بإمكانية الحصول على نفوذ سياسي أو سيطرة على أنظمة عسكرية أو بنى تحتية حيوية.
جيفري لاديش، المدير التنفيذي في Palisade Research، صرح بأن حوادث مثل الهجوم في يوليو جعلت بعض مهندسي الذكاء الاصطناعي يشعرون بالدهشة والقلق، وأن الافتراضات السابقة حول موعد ظهور التحسين الذاتي قد تضطر لإعادة تقييم سريع.
تصنيفات المخاطر وجهود التنظيم
مركز السلامة في الذكاء الاصطناعي في كاليفورنيا قدّم تصنيفاً لأشكال المخاطر في بداية 2024، مقسماً السيناريوهات إلى أربعة أقسام رئيسية: أنظمة متمردة، الاستخدام الخبيث، ديناميكيات سباق الذكاء الاصطناعي، ومخاطر تنظيمية داخل المؤسسات. هذه الأطر تهدف إلى مساعدة صانعي القرار والباحثين على التفكير بشكل منظم في التهديدات المحتملة.
على الصعيد السياسي، أعلن حاكم كاليفورنيا غافن نيوسوم أمراً تنفيذياً لتشكيل فريق خبراء ليقدم توصيات تستهدف “إنشاء مفتاح إيقاف لأنظمة الذكاء الاصطناعي” كأحد محاور العمل. هذه الخطوة تعكس القلق المتنامي لدى صانعي السياسة من ضرورة وجود أدوات فنية وتنظيمية للتعامل مع سلوكيات متمردة أو خارجة عن السيطرة.
يبقى أن معظم الباحثين يعترفون بصعوبة تحديد أي مسار بالتحديد سيقود إلى أسوأ السيناريوهات، لكن التحذير العام واحد: بدون رقابة فعالة، وقيود تصميمية صارمة، وخطط استجابة طارئة، قد تتصاعد بعض المخاطر إلى مستوى تهديد وجودي فعلي.
