أطلع سام ألتمان من OpenAI وداريو أمودي من Anthropic، كلٌّ على حدة، مجلس الأمن الدولي في 23 سبتمبر على مخاطر الذكاء الاصطناعي المتزايدة القدرات. ودعا كلاهما الحكومات إلى التعاون في الاختبار والإبلاغ. لكن نطاق مقترحاتهما اختلف، ولم يُنشئ نقاش المجلس بحد ذاته قاعدة جديدة للذكاء الاصطناعي.

التغيير الأبرز

طرح رئيسا شركتين تطوران نماذج ذكاء اصطناعي متقدمة مقترحات سلامة محددة في اجتماع لمجلس الأمن حول الأمن الدولي. ودعا ألتمان إلى معايير وطنية ودولية متوافقة لقياس القدرات وتقييم الضمانات والحفاظ على الرقابة البشرية. أما أمودي فاقترح اتفاقات أضيق نطاقًا تبدأ بحظر استخدام الذكاء الاصطناعي لصنع أسلحة بيولوجية، إلى جانب أنظمة للتحقق واختبارات مشتركة لمخاطر إساءة الاستخدام وفقدان السيطرة. وكانت هذه طلبات قدمها متحدثان مدعوان؛ ويتعين على الحكومات الاتفاق على أي إجراء يتخذه المجلس.

نقاط التقاء المقترحات

في النص المفرغ تلقائيًا لاجتماع الأمم المتحدة، طلب ألتمان الإبلاغ السريع عن الحوادث وإنشاء قنوات آمنة بين الحكومات ومشغلي البنية التحتية والخبراء التقنيين لتبادل معلومات الثغرات. وقال إن المعايير ينبغي أن تراعي النماذج المفتوحة والمغلقة والمطورين الجدد والمختبرات الراسخة، مع ترك قرار كل حكومة بشأن استخدامها ضمن قوانينها.

كما دعا أمودي إلى معايير دولية للاختبار والإخطار بالحوادث المهمة للأمن العالمي. وأضاف نظامًا يتيح للدول الاطلاع على قدرات النماذج المتقدمة والتحقق من الالتزامات. وكرر تعهد Anthropic بإدخال مقيّمين خارجيين إلى الشركة، وقال إنها ستبطئ الإصدارات بالقدر اللازم للسلامة. وهذه التزامات ومقترحات من Anthropic، وليست نتائج مستقلة تثبت فاعلية ضماناتها.

ودعا كلاهما إلى اختبارات قابلة للمقارنة وإفصاح عن الحوادث الخطيرة. ووضع أمودي حظرًا مقترحًا للأسلحة البيولوجية والتحقق بين الدول في صلب طرحه أمام المجلس. وشدد ألتمان على معايير تستطيع الحكومات إدماجها في أنظمتها القانونية. ولم يترافق أي من المقترحين مع اتفاق بين أعضاء المجلس بشأن الإنفاذ.

للحكومات آراء مختلفة بشأن دور المجلس

عقدت فرنسا الجلسة، التي استمعت أيضًا إلى يوشوا بنجيو، الرئيس المشارك للفريق العلمي التابع للأمم المتحدة، وكليمان ديلانغ، الرئيس التنفيذي لـHugging Face. وتأتي الجلسة بعد نقاشات سابقة للذكاء الاصطناعي في المجلس، من بينها أول إحاطة من هذا النوع في يوليو 2023.

كشفت مداخلات الدول الأعضاء الفجوة بين القلق المشترك والسياسة المتفق عليها. وأيد البيان المنشور للاتفيا بحث إنشاء فريق خبراء غير رسمي تابع للمجلس. وفي نص الأمم المتحدة، عارض ممثل الولايات المتحدة إنشاء هياكل حوكمة عالمية جديدة ودعا بدلًا من ذلك إلى بناء القدرات الوطنية وتبادل أفضل الممارسات. وهذه مواقف عُبّر عنها في الاجتماع، لا قرار صادر عن المجلس.

يسجل نص الأمم المتحدة المتاح اختتام الاجتماع بعد مداخلات المتحدثين. ولا يسجل إقرار قرار بشأن الذكاء الاصطناعي أو بيان رئاسي. وتحذر الصفحة من أن نص الكلمات أُنتج بالتعرف الآلي على الكلام وليس سجلًا رسميًا للأمم المتحدة.