تقول Anthropic إنها بدأت تمنح ستة موظفين من المنظمة غير الربحية METR إمكانية الوصول إلى أنظمتها الداخلية لتقييم مخاطر الذكاء الاصطناعي. ويتيح هذا الترتيب لفريق خارجي صغير الاطلاع على أعمال الشركة عن قرب أكثر مما يتيحه إصدار نموذج للعامة أو تقرير عن المخاطر. ولا تزال Anthropic تتحكم في المعلومات التي يتلقاها الفريق، ويمكنها أن تطلب حذف مواد محددة من التحليل الذي تنشره METR.

أعلنت Anthropic عن التعاون في 15 أكتوبر، ثم حدّثت بيانها في 16 أكتوبر لتوضيح شروط النشر الحالية. ويصف الإعلان ترتيبًا للوصول، وليس تقييمًا مكتملًا من METR لمخاطر Anthropic. وستتوقف قيمته للقراء على ما تستطيع METR فحصه وما يمكن أن يوضحه تقريرها المرتقب بشأن أي قيود.

التغيير الكبير

  • ما الذي تغيّر: تقول Anthropic إن ستة من موظفي METR حصلوا على أجهزة من الشركة ومساحة مكتبية وإمكانية الوصول إلى الأدوات الداخلية على نحو يقارب ما يتاح لفرق تقييم المخاطر التابعة لها. ومن المتوقع أن تنشر METR تحليلات لمستويات المخاطر لدى Anthropic أو الحوادث أو الممارسات فيها.
  • لماذا يهم ذلك: قد تتمكن جهة تقييم خارجية من فحص أدلة داخلية لا يستطيع الجمهور الاطلاع عليها. وقد يصف عرض METR المرتقب أيضًا القيود الجوهرية على وصولها والمعلومات المحجوبة، بما يساعد القراء على تقدير وزن الاستنتاجات.
  • ما الذي ينبغي متابعته: تقول Anthropic إنها لا تستطيع منع METR من النشر، لكنها تستطيع طلب حجب معلومات تندرج ضمن فئات محددة مسبقًا، وهي التي تقرر في النهاية ما يقع ضمن هذه الفئات. ولا يثبت الإعلان أي نتيجة لتقييم ناشئ عن هذا الترتيب الذي يدمج الفريق في بيئة عمل الشركة.

ما الذي يمكن للمُقيّمين الستة الوصول إليه

تقول Anthropic إنها ضمّت ستة من موظفي METR إلى بيئة عملها، وزودتهم بأجهزة من الشركة ومساحة مكتبية وإمكانية الوصول إلى الأدوات والأنظمة الداخلية «على قدم المساواة تقريبًا» مع فرق تقييم المخاطر التابعة لها. وتشجع موظفيها على مشاركة المعلومات ذات الصلة معهم كما يفعلون مع زميل يعمل على مخاطر مواءمة الذكاء الاصطناعي. وتذكر الشركة بيانات العملاء والمعلومات المحمية بسرية العلاقة بين المحامي وموكله وبُنى النماذج أمثلةً على الفئات المستثناة. وتقول إن المعلومات المتعلقة بالبُنى يمكن أحيانًا مشاركتها عندما تكون شديدة الصلة، بشرط الحصول على موافقات داخلية صريحة.

هذا وصف واسع لإمكانية الوصول، لكنه ليس قائمة بكل مجموعة بيانات أو نظام أو مقابلة استخدمها الفريق فعلًا. ويقول بيان Anthropic إن الفريق يعمل بموجب اتفاقيات قابلة للإنفاذ، وإن موظفي METR الآخرين، بمن فيهم باحثون يعملون في مشروعات أخرى مع Anthropic، معزولون عن عمله. وقد راجعت BIG CHANGE البيانات العامة؛ ولم نطّلع على الاتفاقية أو الأنظمة الداخلية.

يوضح مقترح METR الصادر في 14 أكتوبر لتقييمات فقدان السيطرة نوع الأدلة التي تريد الحصول عليها من مطوري النماذج الرائدة. ويحدد ثلاثة أسئلة: هل يمكن لوكلاء الذكاء الاصطناعي الداخليين اتخاذ إجراءات تسبب أضرارًا جسيمة، وهل ستكشفهم أنظمة المراقبة وتوقفهم، وهل يمكن للأبحاث المدفوعة بالذكاء الاصطناعي أن تُسرّع تطور القدرات بما يفوق قدرة الضمانات الوقائية على مواكبتها؟ وللإجابة عن هذه الأسئلة، تصف METR إمكانية الوصول إلى نقاط حفظ النماذج، والسجلات النصية الداخلية، وأنظمة المراقبة، ومقاييس تقدم الأبحاث. وهذه الوثيقة مقترح موجه إلى مطورين متعددين، وليست جردًا لما قدمته Anthropic في إطار هذا التعاون.

حقوق النشر وحدودها

تقول Anthropic إن METR تستطيع نشر تحليلات لمستويات المخاطر أو الحوادث أو ممارسات الشركة من دون أن يكون لـAnthropic حق منعها. ويمكن للشركة أن تطلب حجب معلومات تندرج ضمن فئات محددة مسبقًا. ويضيف توضيحها الصادر في 16 أكتوبر أن Anthropic هي التي تقرر في النهاية ما إذا كانت المعلومات تقع ضمن هذه الفئات، بينما تحتفظ METR بحق الإدلاء ببيانات معينة بشأن الوصول والمعلومات اللذين حصلت عليهما. وبالتالي، يتعايش الحق في نشر النتائج مع تحكم الشركة في التفاصيل الحساسة.

تقول سياسة METR بشأن العمل مع شركات الذكاء الاصطناعي إن تقاريرها ينبغي أن تكشف نطاق العمل ومدته، وقيود الوصول التي تؤثر في الاستنتاجات، والمعلومات المهمة المحجوبة، والضغوط التي قد تشكل النتيجة. وتقول METR إنها تهدف إلى إعداد ملخص للمعلومات المحجوبة عندما تحذف شركة معلومات مهمة لاستنتاجاتها. وهذه هي الممارسات والأهداف التي تعلنها METR؛ ولا يستطيع الجمهور بعد التحقق من كيفية تطبيقها في تقرير صادر عن هذا الفريق الجديد الذي يعمل داخل بيئة الشركة.

وتقر METR أيضًا بأن التقييمات الطوعية تعتمد على منح الشركات إمكانية الوصول وسماحها بالنشر. وتقول إن الشركات تستطيع الامتناع عن منح الوصول أو حجب مواد بطرق تؤثر في الأدلة التي يتلقاها الجمهور. ويقول مقترح 14 أكتوبر إن العملية ستركز على الأسئلة التقنية المتعلقة بفقدان السيطرة، ولن تُعد تدقيقًا في الأمن أو حوكمة المؤسسة أو الامتثال. وتقول METR إن الأسس العلمية لا تستطيع بعد تقديم ضمانات موثوقة بأن التطوير آمن.

وتصف Anthropic نهجًا من ثلاثة مستويات للجهات المُقيّمة الأخرى. ويقع ترتيبها مع METR في المستوى الثالث، مع وصول شبيه بوصول الموظفين وحقوق للنشر. وتتيح المستويات السابقة تحقيقات أضيق نطاقًا أو حقوقًا أكثر تقييدًا للنشر. وهذه الأوصاف للمستويات هي خطط Anthropic وشروط التعاون الحالية، وليست دليلًا على أن كل شريك يتمتع بإمكانية الوصول نفسها التي تتمتع بها METR.

وسيكون الاختبار العلني لهذا الترتيب هو تقارير METR: أسئلة المخاطر التي بحثتها، والأدلة الداخلية التي استطاعت فحصها، والقيود أو المعلومات المحجوبة التي تستطيع وصفها. وتثبت البيانات الحالية الشروط التي أعلنتها Anthropic والنهج الذي نشرته METR. لكنها لا تثبت أي استنتاج بشأن سلامة Anthropic أو فعالية التقييم الذي يجريه الفريق ضمن بيئة عمل الشركة.

المصادر وقراءات إضافية