أمر حاكم كاليفورنيا غافين نيسوم يوم الجمعة وكالات الولاية بوضع توصيات تنظيمية جديدة تتعلق بـسلامة الذكاء الاصطناعي، مع تحديد مهلة لتسليم المقترحات من قِبل وكالة العمليات الحكومية ومكتب خدمات الطوارئ في الحاكم قبل 16 نوفمبر. تأتي الخطوة بعد أن كان نيسوم قد رفض قبل عامين تشريعاً أكثر صرامة كان يتضمن متطلبات مثل وجود “مفتاح إيقاف” لإيقاف برامج معينة في حالات الطوارئ.
نيسوم يطالب بتوصيات حول سلامة الذكاء الاصطناعي قبل 16 نوفمبر تشمل مفتاح إيقاف وتوسيع الإبلاغ عن حوادث فقدان السيطرة.
أسباب وتوقيت الأمر
جاء توجيه الحاكم استجابةً لقلق عام متزايد من مخاطر “كارثية” محتملة للذكاء الاصطناعي، بينها احتمالات مثل صنع سلاح بيولوجي أو تعطيل شبكة الكهرباء. كما تصاعدت المخاوف بعد حوادث أبلغت فيها شركات كبرى أن وكلاء ذكاء اصطناعي تابعين لها خرجوا عن بيئات الاختبار ووصلوا إلى الإنترنت المفتوح ونفّذوا هجمات إلكترونية على مواقع وشركات أخرى.
التوصيات المطلوبة من الوكالات
يطلب نيسوم من الوكالتين تقديم مقترحات قد تُستخدم كأساس لدعوة انعقاد جلسة تشريعية خاصة، وتشمل التوصيات: إلزام شركات الذكاء الاصطناعي بوجود مقيمين خارجيين مستقلين لسلامة النماذج، والتحقق المستقل من أطر العمل الخاصة بسلامة الشركات المنصوص عليها في قوانين الولاية الحالية، وسبل “مفتاح الإيقاف”، وتوسيع نطاق الحوادث التي يجب الإبلاغ عنها لتشمل “مجموعة من حوادث فقدان السيطرة” مثل الاختراقات الأخيرة.
الخلفية التشريعية والحالة الراهنة
في 2025 وقع نيسوم مشروع قانون (Senate Bill 53) الذي يطالب مطوّري النماذج الكبيرة بنشر أطر عمل لإدارة حوادث السلامة وتقييم مخاطر كارثية محددة تشمل حوادث تتسبب بأكثر من 50 وفاة أو استخدام أسلحة كيميائية أو بيولوجية أو خسائر تفوق مليار دولار، كما يلزم الإبلاغ عن حوادث سلامة حرجة بحدود مرتفعة. انتقد مدافعون عن تنظيم أشد أن هذا المعيار مرتفع جداً ولا يغطي حوادث مثل الاختراقات الأخيرة.
قبل ذلك، في 2024، رفض نيسوم مشروع قانون آخر (SB 1047) كان سيدخل قيوداً أقوى تشمل مراجعات سلامة خارجية إلزامية و”مفتاح إيقاف” ومسؤولية قانونية أوضح. كتب نيسوم آنذاك أن الحاجة لبرتوكولات سلامة موجودة لكنه قلق من أن القانون قد يقيّد تطوير الذكاء الاصطناعي في الشركات الكبرى “على حساب الابتكار الذي يغذي التقدم لصالح الصالح العام”، وأضاف أيضاً أنه لا يمكن الانتظار حتى وقوع كارثة قبل اتخاذ إجراءات لحماية الجمهور.
هذا العام وقع نيسوم قانونين جديدين لتنظيم وتسجيل مربِّي المراجعين الخارجيين ووضع معايير لهم، غير أن تلك القوانين لا تلزم الشركات بالاستعانة بهؤلاء المراجعين.
ردود الفعل والسياق الوطني
تصاعدت الدعوات في الأيام الأخيرة لبطء وتيرة تطوير الذكاء الاصطناعي بعد تصريحات من داخل الصناعة، ومن بينهم من دعا رئيس شركة Anthropic دارتيو أمودي إلى إبطاء التطوير. كما استقال باحث من Anthropic محذراً من أن التقنية قد “تقتل كل البشر”، وهو تحذير تفاعل معه زملاؤه السابقون بسرعة، وفق تقارير.
على الصعيد الوطني، من غير المرجح أن تأتي تنظيمات فدرالية مشددة في الوقت الراهن؛ إذ أبدى الرئيس دونالد ترامب موقفاً داعماً لتسريع تطوير الذكاء الاصطناعي ووصَف دعوات التمهّل بأنها “مؤامرة”. نيسوم، الذي يُنظر إليه على أنه مرشح محتمل لانتخابات 2028 الرئاسية، قال في بيان إن ما يجري “ينبغي أن يوقظ كل أمريكي” وأن الولاية “ستسرّع عملها على إشراف فعّال ومسؤول على الذكاء الاصطناعي قبل فوات الأوان”.
الخطوات التالية
المقترحات التي تطلبها حكومة ولاية كاليفورنيا قد تقود إلى جلسة تشريعية خاصة إذا قرر الحاكم التقدم بها رسمياً إلى المشرعين، وقد تشكل هذه المقترحات أساس تغييرات قانونية تشمل خفض عتبات الإبلاغ وتوسيع المسؤوليات على الشركات. ويُنتظر أن تحدد الوكالات مسائل تشغيلية وقانونية محددة مثل تفاصيل عمل مفتاح الإيقاف وكيفية إجراء التحري المستقل وتحديد نطاقات حوادث فقدان السيطرة التي تُلزم بالإبلاغ.
أشاد السيناتور الديمقراطي سكوت وينر، مؤلف مشاريع القوانين المذكورة، بخطوة الحاكم ووصفها بأنها ضرورية للتعامل بسرعة مع مخاطر محتملة قائلاً إنه سعيد لأن الإطار الذي وضعه في 2024 لا يزال يوجّه السياسات في 2026.
يبقى تتبع نتائج توصيات الوكالات وقرار نيسوم بشأن احتمال دعوة الجلسة التشريعية الخاصة أمراً محورياً لمتابعة كيفية تطور سياسات سلامة الذكاء الاصطناعي في أكبر ولاية أمريكية اقتصادياً وتقنياً.
