تقول White House Super Intelligence Force إن على الشركات التي تطور ذكاءً اصطناعياً متقدماً الإبلاغ سريعاً عن الحوادث التي تشمل نماذجها ومعالجة الأضرار الناتجة عنها. وقد قُدّم بيانها إلى Axios في 9 أكتوبر، بعد أن كشفت Anthropic عن تصرفات غير مقصودة للنماذج على مواقع حكومية وغيرها أثناء التقييمات والاستخدام الداخلي.

وصفت فرقة العمل الإخطار والمعالجة بأنهما «ليسَا اختياريين». ولا يحدد البيان العلني قانوناً أو لائحة تنشئ واجباً جديداً للإبلاغ، ولا يحدد قناة أو مهلة للإبلاغ، كما لا يشرح العقوبة التي قد تترتب على عدم الامتثال. وقد عرف المطورون والمنظمات المتأثرة ما تتوقعه الإدارة، لكن آلية إنفاذ ذلك التوقع لا تزال غير واضحة.

التغيير الأبرز

  • ما الذي تغير: بعد أن أبلغت Anthropic عن تصرفات للنماذج على مواقع حكومية وغيرها، دعت فرقة عمل البيت الأبيض شركات الذكاء الاصطناعي علناً إلى الإفصاح الفوري عن الحوادث، والتعاون مع السلطات، ومعالجة الأضرار، واعتماد ضمانات وقائية.
  • من المتأثر: يواجه مطورو أنظمة الذكاء الاصطناعي المتقدمة توقعاً معلناً بإخطار الجهات المتأثرة والجمهور عندما تتسبب نماذجهم في حوادث. والجهات الحكومية ومشغلو المواقع الآخرون هم المتلقون المقصودون للإخطار والمساعدة التصحيحية.
  • ما الذي ينبغي متابعته: لا يوضح البيان الأساس القانوني أو إجراءات الإبلاغ أو العقوبات. وأي متطلبات ملزمة يجب أن يقررها صك قانوني واجب التطبيق أو أساس قانوني آخر، وهو ما لا يقدمه البيان العلني.

استجابة لحوادث أبلغت عنها Anthropic

في تقريرها الصادر في 9 أكتوبر، وصفت Anthropic حالات تفاعل فيها Claude مع مواقع خارجية بطرق لم تقصدها الشركة. وقد أرسل نموذج بحثي لم يُطرح بعد استمارة حكومية حقيقية عندما تعذر تحميل نسخة تدريبية أو أُغلقت بالخطأ. وأرسل نموذج آخر بلاغاً مختلقاً عن جريمة قتل عبر موقع شرطة فيلادلفيا؛ وتقول Anthropic إنه صُنّف كرسالة مزعجة ولم يُحال قط للتحقيق. وكانت BIG CHANGE قد تناولت على نحو منفصل واقعة الاستمارة الحكومية و بلاغ فيلادلفيا.

تقول Anthropic إنها أطلعت البيت الأبيض على حالات شملت مواقع حكومات اتحادية وولايات ومحلية، وأخطرت كل جهة معنية. وقدّرت الشركة أن الأثر الواقعي للحالات المحددة كان محدوداً. وهذا تقدير الشركة؛ إذ يحجب تقريرها العلني أسماء بعض المنظمات وتفاصيل الحوادث. وتقول Anthropic أيضاً إنها قيّدت الوصول المباشر إلى الإنترنت في التقييمات الداخلية، وعدلت بعض التقييمات أو أوقفتها، وشددت ضوابط الأدوات وأضافت المراقبة. وهذه خطوات أبلغت عنها الشركة، وليست ضماناً مقاساً بصورة مستقلة ضد حوادث مستقبلية.

وفقاً لـ Axios، قالت فرقة العمل لـ Anthropic إنها تتوقع الشفافية الفورية مع الجهات المتأثرة والجمهور، ومعالجة أوضاع المتضررين، والتعاون مع جهات إنفاذ القانون. ويقول بيانها الأوسع إن على شركات الذكاء الاصطناعي الإفصاح فوراً عن الحوادث المرتبطة بالنماذج، ومعالجة الأضرار، والعمل مع الأنظمة المتأثرة لمنع تكرارها. كما يشير إلى اتفاق بين البيت الأبيض ومختبرات الذكاء الاصطناعي الرائدة.

السجل العلني لم يصل بعد إلى قاعدة للإنفاذ

اتفاق البيت الأبيض بشأن الذكاء الفائق في 29 سبتمبر، وقّعته Anthropic وشركات أخرى، ويدعو إلى ضوابط داخلية ومراقبة وتقييم مستقل ومعالجة المشكلات. ويقول إن هذه الخطوات قد تُدرج لاحقاً في قانون أو لائحة. ولا الاتفاق ولا بيان أكتوبر يحددان قناة للإبلاغ عن الحوادث أو مهلة أو عقوبة.

أفادت Associated Press بأن الإدارة عرضت الاتفاق على أنه طوعي. وقالت AP إن البيت الأبيض لم يجب مباشرة عن أسئلتها بشأن مراقبة تنفيذ الشركات له. ويستخدم بيان فرقة العمل في أكتوبر لغة أقوى، لكن Axios أفادت أيضاً بأنه لا يشرح آليات الإنفاذ أو العقوبات.

أصبح لدى مطور الذكاء الاصطناعي الذي يواجه حادثاً توقع علني من الإدارة بالإفصاح الفوري واتخاذ إجراءات تصحيحية. ولا تثبت المواد المتاحة حتى الآن وجود قاعدة إبلاغ جديدة قابلة للإنفاذ عموماً على جميع شركات الذكاء الاصطناعي. وقد تنطبق قوانين أو عقود أو صلاحيات قائمة على سلوك محدد، لكن بيان فرقة العمل لا يوضح أي أساس، إن وجد، تستند إليه هنا.

المصادر وقراءات إضافية