تقود ولاية كاليفورنيا جهوداً تشريعية لتنظيم دور مقيّمين الذكاء الاصطناعي عبر قوانين جديدة تهدف إلى وضع معايير لمؤسسات التحقق المستقلة وإنشاء سجل للمقيّمين. وفي الوقت نفسه، يثير هذا التحرك مخاوف تتعلق بتضارب المصالح وصعوبة تدقيق تقنيات ذكاء اصطناعي عامة النطاق.
وقع الحاكم Gavin Newsom في الشهر الماضي على قانونين؛ الأول يحدد معايير لـ”منظمات التحقق المستقلة” التي قد توظف مقيّمين الذكاء الاصطناعي، والثاني ينشئ سجلاً للمقيّمين. كما جمع خبراءً مطالبين بتقرير في نوفمبر يتضمن توصيات حول ما إذا كان ينبغي إلزام مقيّمين الذكاء الاصطناعي بالعمل داخل الشركات المطورة للأنظمة الأقوى وما تقترحه المعايير اللازمة لتدقيق كافٍ.
قوانين كاليفورنيا تنشئ معايير وسجلات لمقيّمين الذكاء الاصطناعي لكنها تواجه مخاطر تضارب المصالح وصعوبات تدقيق التكنولوجيا العامة.
معالم القوانين والجهود الدولية
القانونان اللذان وقعهما الحاكم يضعان كاليفورنيا في طليعة الولايات التي تعتمد مقيّمين مستقلين لتدقيق أنظمة الذكاء الاصطناعي. مجموعات دولية وحكومات أكثر من 30 دولة عبرت عن دعمها لبيانات تدعو إلى تقييمات مستقلة، وفق وزارة الخارجية الفنلندية. كما وقع أكثر من 200 باحث ومقيّم على خطاب يدعم وضع معايير للمقيّمين المستقلين، ومن بين الموقعين موظف سابق في OpenAI ورئيس هيئة علمية مستقلة تابعة للأمم المتحدة.
تولى السيناتور Jerry McNerney، مؤلف قانون معايير التحقق، إلقاء كلمة ختامية في حدث إطلاق مجموعة جديدة تركز على تقييم الذكاء الاصطناعي بحضور مسؤولين من الأمم المتحدة، داعياً شركات متقدمة مثل Anthropic وGoogle والدول إلى تشكيل لجان معيارية لضمان قدرة المقيّمين على أداء مهمتهم.
مخاطر تضارب المصالح والأداء الشكلاني
أبرزت Assemblymember Rebbecca Bauer-Kahan قلقها من أن المقيّمين المستقلين يوقعون عقوداً مع الشركات نفسها التي يقيمون منتجاتها، مما يفتح باب تضارب المصالح. نقلت قولها: “أسمع من المقيّمين: ‘يجب أن نكون حذرين، لأننا نريد أن يسمحوا لنا بالدخول مرة أخرى’… فماذا تتجنب قوله من أجل الاستمرار في الحصول على الوصول والعقود؟”
Caroline Siegel-Singh من معهد Federation of American Scientists شبهت نظام تدقيق الذكاء الاصطناعي بخطأ تقييم السندات قبل أزمة 2008، حين كان بائعو السندات يستطيعون عملياً اختيار التقييم الذي يريدونه. اقترحت Siegel-Singh وآخرون فكرة أن تجمع الشركات والحكومات الأموال لدفع أجور المقيّمين بدلاً من اعتماد المعاملات المباشرة مع مختبرات الذكاء الاصطناعي، وهي فكرة لاقت تأييداً من شركة Anthropic.
معايير فنية وبشرية لتدقيق شامل
تحذّرات أخرى أشار إليها خبراء من أن تقييم نماذج الذكاء الاصطناعي يتطلب مجموعة واسعة من المهارات، تشمل الخصوصية، والصحة العقلية، والأمن السيبراني، والانحياز، والسلامة المادية. كما يجب أن تتجاوز المراجعة التقنية لتشمل هياكل الحوافز داخل الشركات، يقول Matt O’Shaughnessy من Center for Democracy and Technology.
وأضاف O’Shaughnessy تحذيراً من أن القيود القانونية قد تدفع الجهات إلى الاكتفاء بالحد الأدنى للامتثال: “عندما يُجرى التقييم لمجرد تلبية مطلب قانوني، يكون من المرجح أن تقوم المنظمات بما هو الحد الأدنى فقط”، ما قد يصعّب على المقيّمين دفع تغييرات أعمق داخل الشركات.
الشفافية والتعاون بين المقيّمين
يحث الباحثون الذين وقعوا على خطاب الدعوة إلى معايير على أن يحتفظ المقيّمون بسلطة تحريرية كاملة وأن يعلنوا عن تضارب المصالح بوضوح وأن يوفّروا إمكانات وصول متساوية لمجموعات تقييم متعددة. وترى Siegel-Singh أن نشر نتائج التقييم يسمح لمقيّمين آخرين بتقييم جودة العمل ويشجع على مراجعة أعمق.
كما تُناقش فكرة التعاون الدولي: دُعِي ممثلون عن دول متوسطة الحجم للعمل مع كاليفورنيا لزيادة النفوذ الاقتصادي على الشركات الكبرى لدفعها لالتزام معايير السلامة. قال السفير الكندي لدى الأمم المتحدة David Lametti إن ائتلاف دولي مع كاليفورنيا قد يساعد في الضغط على الشركات المتقدمة. ورأى Pasi Rajala من فنلندا أن تعاون كاليفورنيا مع دول صغيرة “يمكن أن يلعب دوراً رئيسياً” في مواجهة مخاطر الذكاء الاصطناعي المتسارعة.
إمكانية امتداد التجربة إلى المستوى الاتحادي
في الكونغرس، يناقش مشروع قانون Frontier AI Act متطلبات اختبار اتحادية للنماذج المتقدمة ويحظى بدعم أعضاء من كاليفورنيا مثل Rep. Jay Olbernolte وTed Lieu من مجلس النواب، ما يفتح احتمال أن تؤثر خطوات الولاية في تشريعات على المستوى الوطني.
بينما تواصل كاليفورنيا تطوير أطرها التنظيمية وتبادل الخبرات مع شركاء دوليين، يبقى تحدي ضمان استقلالية مقيّمين الذكاء الاصطناعي وتوفير موارد ومهارات كافية لتدقيق فعلي وليس شكلاني محور النقاش العام والتشريعي على حد سواء.
