قبل اختيار أداة ذكاء اصطناعي، دوّن العمل الذي تتحكم فيه فعلًا. قد تنتج المهمة جوابًا يسهل فحصه، لكنها تتضمن بيانات خاصة أو إجراءً لا رجعة فيه أو حكمًا يعود إلى إنسان. يساعدك هذا الدليل على إنشاء خريطة قرارات مؤرخة لمهامك. النتيجة النهائية هي اقتراح اختبار أول واحد، أو قرار موثق بأن لا مهمة جاهزة. لا تحتاج إلى تشغيل الذكاء الاصطناعي لإكمالها.
تأتي الفكرة الأولية من مقال Andrej Karpathy عن قابلية التحقق في نوفمبر 2025. يرى أن البيئة تكون أكثر قابلية للتحسين بالذكاء الاصطناعي عندما يمكن إعادة المحاولات إلى البداية وتكرارها بكفاءة ومنحها إشارة مكافأة موثوقة. هذه أسئلة للبحث، لا قاعدة موافقة في مكان العمل. سجل المهمة أدناه ورقة عمل من إعدادنا. وهو يضيف الأشخاص والأذونات والعواقب التي يجب أن يحددها المسؤول في عملية حقيقية. إطار NIST الطوعي لإدارة مخاطر الذكاء الاصطناعي يدعو أيضًا إلى السياق والإشراف والقياس عند نظر المنظمات في أنظمة الذكاء الاصطناعي؛ ولا يؤيد هذه الورقة أو يصادق على أي مهمة.
ما تحتاج إليه
تحتاج إلى الوصول إلى سجلات حقيقية لعمل تملك مسؤوليته أو يُسمح لك بتقييمه: سجل مهام أو تقويم أو إجراء أو قائمة طلبات أو الأشخاص المسؤولين عن العمل. وتحتاج إلى مكان خاص لحفظ الخريطة وروابط الأدلة، ومسؤول محدد للعملية، وشخص آخر مخول بالاعتراض على القرار. بيّن الفريق أو العملية والتواريخ التي يغطيها الحصر. لا تضع مواد مصدرية سرية في خدمة ذكاء اصطناعي لإنشاء هذه الخريطة.
احسب الوقت اللازم للعثور على السجلات ومراجعتها. الخريطة نفسها لا تحتاج إلى حساب ذكاء اصطناعي أو API مدفوع أو شراء برنامج. قد يحتاج اختبار لاحق إلى إذن منفصل ورسوم أدوات ووقت مراجعة للموظفين وميزانية للأخطاء.
1. احصر العمل كما يُنفّذ فعلًا
حدّد فترة الحصر ونطاقه قبل إدراج المهام. سجّل مصدر كل صف ليتمكن قارئ ثانٍ من العثور عليه. لكل مهمة متكررة، اذكر المحفّز والمدخل الفعلي والمنفّذ الحالي والمخرج المطلوب والمتلقي والموافقة الموجودة. اطلب من المسؤول تأكيد ما تغفله السجلات. علّم التفصيل غير المتحقق منه بأنه غير معروف.
قسّم سير العمل عندما يتغير المخرج أو الإذن أو العاقبة. قد تخفي التسمية الواسعة تسليمًا يتطلب سلطة مختلفة. اجعل عدد الصفوف مطابقًا للعمل؛ لا يوجد عدد مستهدف. دوّن الفرق أو الفترات المستبعدة حتى يكتشف المراجع مهمة مفقودة دون أن يخلط بينها وبين مرشح غير مناسب.
تحقق: هل يستطيع المراجع اتباع رابط الدليل وتحديد مسؤول المهمة وبيان ما يجب تسليمه وإلى من؟ إذا كان الحصر ناقصًا، فعد إلى سجلات المسؤول قبل ترتيب أي شيء.
2. صف الفحص قبل الأداة
لكل مخرج، اسأل عمّا سيفحصه شخص غير من أنتجه. حدّد المصدر المرجعي وقاعدة النجاح الدقيقة وأي حكم مطلوب. كيف يكتشف المراجع إغفالًا أو جوابًا مقنعًا لكنه خاطئ؟ هل يتطلب الفحص جهدًا يقارب تنفيذ المهمة؟ سجّل من يستطيع الفحص ومقدار جهد المراجعة المعروف أو الذي ما زال مجهولًا.
صنّف آلية الفحص بأنها موجودة أو مقترحة أو غير معروفة. تعني «موجودة» أن في العملية الحالية فحصًا مع دليل على استخدامه. وتعني «مقترحة» أنك كتبت قاعدة محتملة دون إثبات أنها تلتقط الأخطاء ذات الصلة. لا يثبت أي وصف أن مخرج الذكاء الاصطناعي سينجح. تحتاج المهمة التي لا تملك مصدر حقيقة أو قاعدة نجاح عملية إلى إعداد قبل أن تصبح مرشح الاختبار الأول.
اطرح الآن ثلاثة أسئلة منفصلة مقتبسة بتصرف من مقال Karpathy: هل يمكن إعادة المحاولة الفاشلة إلى البداية دون ضرر مستمر؟ هل يمكن إجراء محاولات مأذون بها بعدد كافٍ ضمن وقت وتكلفة معقولين؟ هل يمكن فحص كل محاولة بصورة موثوقة؟ اكتب نعم أو لا أو غير معروف مع أدلة محلية لكل سؤال. يستخدم Karpathy هذه الخصائص لمناقشة تحسين الذكاء الاصطناعي؛ ولا تحدد إجاباتك ما إذا كان الاستخدام في العمل مسموحًا.
3. سجّل السلطة وتكاليف الفشل
قابلية الفحص جزء واحد من القرار. سجّل من يتحكم في بيانات الإدخال، وهل الاستخدام المقترح للذكاء الاصطناعي وأي إفصاح مسموحان، ومن قد يتأثر. حدّد ما يمكن لأداة مستقبلية قراءته وكتابته ومن يملك وحده الموافقة على إجراء. اذكر أي خطوة لاحقة لا يسهل التراجع عنها. ضع التكلفة المحتملة للقبول الخاطئ بجانب تكلفة الفحص البشري وإعادة العمل؛ واستخدم غير معروف عندما لا تستطيع دعم تقدير.
دوّن السياق الذي قد يغفله فاحص المخرج: القواعد غير المكتوبة والاستثناءات وتغير المصادر أو قرار يتطلب حكمًا بشريًا مسؤولًا. المطالبة التي تطلب من الأداة استئذانك ليست بذاتها إذنًا أو تحكمًا في الوصول. إرشادات MAP من NIST تطلب دراسة سياق الاستخدام والأشخاص المتأثرين والبيانات والإشراف؛ أما إرشادات MEASURE فتتناول طرق الاختبار وحدودها. كلاهما إرشادات طوعية وليسا ختم موافقة على صفك.
تحقق: إذا كانت الحقوق أو الإفصاح أو من يوافق على الإجراء أو مسار تعافٍ موثوق غير واضحة، فاحتفظ بعدم اليقين في السجل. الفحص المنظم لا يحل ذلك.
4. صنّف كل صف واختر مرشحًا أولًا واحدًا على الأكثر
استخدم فئات ورقة العمل التحريرية هذه، مع سبب ورابط دليل لكل صف:
- مرشح لاختبار محدود: يمكن تحديد المخرج والفحص ومسار الإعادة والسلطة لاختبار يُعتمد بصورة منفصلة. إنه مرشح للتحري وليس إذنًا بالأتمتة.
- إعداد الفحص: المهمة موصوفة لكن قاعدة نجاحها أو مصدر الحقيقة أو الفاحص ما زال يحتاج إلى تعريف أو تحقق من الصلاحية.
- مساعدة الإنسان فقط: قد تساعد صياغة أو تحليلات محدودة، مع احتفاظ شخص محدد بالحكم ذي العواقب والموافقة. أي استخدام فعلي ما زال يحتاج إلى إذن.
- تعليق: الحقوق أو السياق أو عاقبة الفشل أو التعافي أو غيرها من الأدلة اللازمة لم تُحسم.
لا تفرض درجة رقمية على المجهولات. قارن فقط الصفوف التي قد تتأهل لاختبار محدود. سجّل سبب تقدم أحدها، بما يشمل عبء المراجعة والضرر من القبول الخاطئ. اختيار لا شيء بعد قرار كامل إذا كان لكل صف شرط مسبق غير محسوم. اذكر الشخص والدليل اللازمين لإعادة النظر.
5. اقترح خطة قبول ثم احصل على مراجعة للخريطة
للمرشح الأول، عرّف الاختبار المستقبلي دون تنفيذه. حدّد العينة المسموح بها وحدود الإدخال ومسار العمل الحالي المرجعي والمخرج المراد وقاعدة نجاح أو فشل دقيقة والفاحص والمراجع البشري. اقترح حدود المحاولات والوقت ورسوم الأدوات وجهد المراجعة. بيّن متى تتوقف وكيف تعود للعملية الحالية ومن قد يأذن باختبار لاحق وما سيُسجّل: النجاحات والإغفالات والإخفاقات وإعادة المحاولات ووقت المراجعة والتكاليف الكاملة. اترك الإذن والنتائج المرصودة فارغين حتى يوجدا. إذا كان المخرج قد يطلق إجراءً خارجيًا، فأبقِ الإجراء خلف موافقة الشخص المحدد.
اطلب من مسؤول العملية ومراجع ثانٍ مخول فحص الحصر الكامل. عليهما الاعتراض على العمل المفقود ودقة المصادر وجدوى الفحص والحقوق ومبرر المرشح أو عدم اختيار أحد. سجّل قرار كل شخص الفعلي وتاريخه، بما في ذلك الخلاف والأدلة التي تحسمه. قبول الخريطة لا يأذن بتجربة منتج. إذا تغيرت المهمة أو البيانات أو الحقوق أو الفحص أو العواقب، فأرّخ قرارًا جديدًا للصف واحتفظ بالسجل السابق.
إذا أُجيز اختبار أداة لاحقًا، فإن دليلنا المنفصل لاختيار أداة ذكاء اصطناعي أو رفضها لمهمة واحدة في مشروع صغير يبدأ من المهمة المختارة. هذه الخريطة تتوقف قبل اختيار المنتجات واختبارها.
ورقة عمل فارغة لخريطة القرار
انسخ الحقول إلى مستند أو جدول خاص. أضف صفًا لكل مهمة حقيقية، وأبقِ الحقائق المجهولة ظاهرة. لا تملأ الفراغات بعمل متخيل.
رأس الحصر
- العملية والنطاق: ____
- التواريخ المشمولة / العمل المستبعد: ____
- مسؤول العملية / مسؤول قرار الخريطة: ____
- موقع الأدلة وقواعد الوصول: ____
- تاريخ الخريطة وإصدارها: ____
كرّر لكل صف مهمة
- معرّف المهمة / المسؤول / رابط الدليل والتاريخ: ____
- المحفز الفعلي والمدخل والمصدر المرجعي: ____
- المنفّذ الحالي والطريقة والموافقة: ____
- المخرج المطلوب والمتلقي: ____
- قاعدة النجاح والاستثناءات ومصدر الفحص: ____
- الفاحص المستقل والحالة (موجود / مقترح / غير معروف): ____
- ما قد يغفله الفحص / وقت الفحص: ____
- إعادة المحاولة الفاشلة أو التراجع عنها / التكرارات المأذون بها وتكاليفها: ____
- عاقبة القبول الخاطئ / الإجراء اللاحق / حكم الإنسان وحده: ____
- حقوق البيانات والخصوصية وإذن الإفصاح: ____
- القراءة والكتابة المسموحتان / الموافق البشري وسلطة الإيقاف: ____
- الفئة والسبب والأدلة المفقودة والمسؤول أو الإجراء التالي: ____
- تاريخ القرار / الحدث الذي يستلزم المراجعة: ____
قرار المرشح الأول والاختبار المقترح
- معرّف المرشح أو «لا شيء بعد» وسببه: ____
- سبب أولوية هذا الصف على المؤهل التالي: ____
- العينة والمدخل المأذون بهما وحدود الأداة أو الإجراء المقترحة: ____
- مرجع المسار الحالي والمخرج وقاعدة النجاح أو الفشل الدقيقة: ____
- الفاحص والمراجع والاستثناءات وفحص القبول الخاطئ: ____
- حدود المحاولات والوقت والرسوم والمراجعة المقترحة: ____
- قاعدة التوقف والإعادة والعودة للعملية الحالية: ____
- مجيز التجربة اللاحقة / قرار الإذن وتاريخه: ____
- المحاولات والنتائج والتكاليف الفعلية (اتركها فارغة حتى تُرصد): ____
- قرار مسؤول العملية وتاريخه: ____
- قرار المراجع الثاني وتاريخه والاعتراضات وحلها: ____
التغيير الكبير
يسهّل المخرج القابل للفحص تقييم المهمة، لكنه لا يجعل العمل المحيط مناسبًا لذكاء اصطناعي دون إشراف. القرار الأول المفيد هو خريطة قابلة للتتبع للعمل الذي تتحكم فيه: ما يجب تسليمه وكيف ستكتشف الأخطاء وهل يمكن احتواء المحاولات الفاشلة ومن يحق له إجازة اختبار. قد يكون الجواب مرشحًا محدودًا واحدًا أو لا شيء بعد. يقترح هذا الإجراء سجل القرار هذا؛ ولم تختبره BIG CHANGE داخل منظمة أو تقس فائدة في الوقت أو الجودة أو التكلفة.
المصادر وقراءات إضافية
- Andrej Karpathy، «Verifiability» (17 نوفمبر 2025) — الحجة حول البيئات القابلة للإعادة والكفؤة والتي يمكن منحها إشارة مكافأة. لا يقدم ورقة العمل هذه ولا يجيز أتمتة مهمة.
- NIST AI Risk Management Framework 1.0 Core — السياق والإشراف والقياس وتأطير القرار في الإطار الطوعي؛ وظائفه ليست قائمة تحقق مرتبة.
- NIST AI RMF Playbook: MAP — أسئلة طوعية عن سياق الاستخدام والأشخاص والبيانات والتأثيرات والأدوار البشرية.
- NIST AI RMF Playbook: MEASURE — إرشادات طوعية عن طرق الاختبار والحدود والتقييم المستقل والمراجعة المستمرة.
