برٹش کولمبیا نے 21 ستمبر 2026 کو Tumbler Ridge اسکول فائرنگ کے بعد Peace River South اسکول بورڈ کے ساتھ مل کر OpenAI کے خلاف مقدمے کا اعلان کیا۔ صوبہ کمیونٹی کی بحالی کی ذمہ داری اور مضبوط حفاظتی اقدامات کا مطالبہ کررہا ہے۔ اس کے اعلان میں حکومت کا مؤقف بیان ہوا ہے؛ اس سے کمپنی کی قانونی ذمہ داری ثابت نہیں ہوتی۔ صوبائی بیان
AI کی حفاظت جانچنے والے قارئین کے لیے مفید سوال یہ ہے کہ کوئی ادارہ اس معلومات سے کیا کرتا ہے جس پر وہ پہلے ہی نشان لگا چکا ہو۔ ماڈل تشویش ناک مواد پہچان سکتا ہے، مگر خدمت چلانے والوں کو پھر بھی طے کرنا ہوتا ہے کہ اس کا مطلب کیا ہے، کون سا اقدام جائز ہے اور اسے کرنے کا اختیار کس کے پاس ہے۔ ماڈل کے جوابات کے ساتھ ان فیصلوں کی بھی جانچ ہونی چاہیے۔
بڑی تبدیلی
- کیا بدلا: ایک صوبہ اور اسکول بورڈ نئے دیوانی مقدمے میں ہرجانے اور OpenAI کے حفاظتی طریقوں میں تبدیلیاں مانگ رہے ہیں۔
- یہ کیوں اہم ہے: تشویش ناک سرگرمی کا پتا چلنے کے بعد انسانی جائزے، رسائی جاری رکھنے اور حکام کو اطلاع دینے کے اہم فیصلے باقی رہتے ہیں۔ ہر فیصلے کے لیے واضح ذمہ دار اور قابلِدفاع وجہ درکار ہے۔
- کس بات پر نظر رکھیں: ان فیصلوں کے شواہد، عدالت کا دعووں سے معاملہ، اور آیا مجوزہ نگرانی خطرے کے نظرانداز ہونے کا جائزہ لیتے ہوئے لوگوں کو بلاجواز مداخلت سے بھی بچا سکتی ہے۔
دستاویزات کیا ثابت کرتی ہیں
شمالی کیلیفورنیا کی وفاقی عدالت میں دائر مقدمے میں صوبے اور School District No. 59 کے بورڈ کو مدعی، جبکہ Sam Altman اور OpenAI کی کمپنیوں کو مدعا علیہ نامزد کیا گیا ہے۔ اس میں خطرے کی اطلاع دینے اور مصنوعات کی حفاظت میں ناکامی کا الزام لگاتے ہوئے ہرجانہ اور عدالتی حکم مانگا گیا ہے۔ حاشیہ 2 کہتا ہے کہ chat logs ابھی فراہم کیے جانے باقی ہیں۔ اس لیے اندرونی فیصلوں اور قابلِتدارک ہونے سے متعلق الزامات کے لیے شواہد درکار ہیں؛ یہ شکایت عدالتی فیصلہ نہیں۔ دائر کردہ شکایت
OpenAI کا اس سے پہلے کا بیان ایک الگ، تاریخ شدہ حوالہ فراہم کرتا ہے۔ کمپنی نے 26 فروری کو کینیڈا کے AI وزیر کو لکھے خط میں کہا کہ خودکار شناخت اور انسانی جائزے کے بعد اس نے جون 2025 میں ایک اکاؤنٹ پر پابندی لگائی تھی۔ کمپنی کے مطابق اس وقت دستیاب معلومات قانون نافذ کرنے والے اداروں کو اطلاع دینے کی حد تک نہیں پہنچتی تھیں۔ خط میں کہا گیا کہ بعد میں مضبوط کیے گئے طریقۂ کار کے تحت اسی اکاؤنٹ کی اطلاع دی جاتی، اور یہ بھی تسلیم کیا کہ حملہ آور کی شناخت عوامی ہونے کے بعد ایک دوسرا اکاؤنٹ ملا تھا۔ یہ کمپنی کے بیانات ہیں، اس کی اصلاحات کی افادیت کے آزادانہ طور پر تصدیق شدہ نتائج نہیں۔ فروری کا خط
Reuters کے مطابق OpenAI نے حکام کے ساتھ تعاون اور حفاظتی کام جاری رکھنے کے عزم کا اعادہ کیا۔ Reuters
فروری کا بیان نئے مقدمے سے پہلے کا ہے۔ اسے اس کے دعووں کے مفصل جواب کا متبادل نہیں سمجھنا چاہیے۔ اسی طرح، یہ کہنا کہ بعد کے طریقۂ کار سے فیصلہ مختلف ہوتا، یہ ثابت نہیں کرسکتا کہ اس فیصلے کے بعد کیا ہوتا۔ ذمہ داری جانچنے کے لیے اس وقت دستیاب شواہد اور موجود انتخاب کے نتائج دیکھنا ضروری ہے۔
شناخت، اکاؤنٹ پر کارروائی اور اطلاع الگ سوالوں کا جواب دیتی ہیں
OpenAI کا 28 اپریل کا کمیونٹی سیفٹی بیان خودکار شناخت کے بعد سیاق و سباق پر مبنی انسانی جائزہ بیان کرتا ہے۔ ممکنہ نتائج میں معاملہ خارج کرنا، مزید تحقیق اور اکاؤنٹ پر پابندی شامل ہیں۔ اس میں اپیل اور بار بار اکاؤنٹ بنانے کے خلاف اقدامات بھی بیان ہوئے ہیں۔ صفحے کے مطابق دوسروں کو نقصان پہنچنے کے فوری اور قابلِاعتبار خطرے کی نشاندہی کرنے والی گفتگو پر قانون نافذ کرنے والے اداروں کو اطلاع دی جاتی ہے۔ یہ کمپنی کا شائع کردہ طریقۂ کار ہے، کسی مخصوص معاملے میں اس پر عمل ہونے کا ثبوت نہیں۔ کمیونٹی سیفٹی پالیسی
ان مراحل کو الگ رکھنے سے مفید شواہد کی نشاندہی ہوتی ہے۔ شناختی نظام ابتدائی جانچ کا سوال حل کرتا ہے: کیا اس مواد پر توجہ دینی چاہیے؟ اس کا نتیجہ بذاتِ خود کسی شخص کے بارے میں فیصلہ نہیں کرسکتا۔ انسانی جائزے میں سیاق اور غیر یقینی کو دیکھنا چاہیے، اور ابتدائی نشان کو چیلنج کرنے کے لیے کافی وقت اور اختیار ہونا چاہیے۔ ریکارڈ میں یہ محفوظ رہے کہ جائزہ کیوں بدلا، بشمول یہ کہ اضافی معلومات سے بظاہر سنگین اشارہ کم تشویش ناک کیوں لگا۔
اکاؤنٹ پر کارروائی کا تعلق خدمت تک رسائی سے ہے۔ رسائی معطل کرنے کا فیصلہ یہ طے نہیں کرتا کہ معلومات کمپنی سے باہر جانی چاہییں یا نہیں۔ اسی طرح، بیرونی اطلاع دینے کی بنیاد نہ ہونے سے خدمت کے قواعد کے تحت رسائی جاری رکھنا لازماً جائز نہیں ہوجاتا۔ انہیں الگ فیصلے سمجھنے سے ہر ایک کے اپنے شواہد اور جواز ہوسکتے ہیں۔
ایک فرضی جائزہ لیں جس میں عملہ متفق ہو کہ اکاؤنٹ نے خدمت کا اصول توڑا ہے، مگر اس پر اختلاف کرے کہ بیرونی دنیا کو حقیقی خطرہ ہے یا نہیں۔ مفید ریکارڈ میں اختلاف، اسے حل کرنے والے شخص اور اختیار کردہ دلیل کی وضاحت ہوگی۔ “کارروائی ہوئی” جیسا ایک لیبل آڈیٹر کے لیے جانچنے والی زیادہ تر معلومات چھپا دے گا۔
اطلاع میں ایک اور ادارہ شامل ہوتا ہے، جس کے اپنے اختیارات اور ذمہ داریاں ہیں۔ کمپنی کو بتانے کے قابل ہونا چاہیے کہ اس نے کون سی معلومات کیوں ظاہر کیں اور یہ کیسے تصدیق کی کہ وہ مناسب وصول کنندہ تک پہنچیں۔ معلومات بھیجنا کسی مخصوص جواب یا نتیجے سے بچاؤ کی ضمانت نہیں۔ اداروں کے درمیان حوالگی جانچتے وقت ان حدود کو واضح رکھنا ہوگا۔
ایک مرحلے میں بہتری سے دوسرا مسئلہ حل نہ ہو
آڈٹ کے لیے فیصلوں اور ان کے نتائج تک رسائی درکار ہے
شکایت میں قابلِآڈٹ حفاظتی کنٹرول اور ایک آزاد نگران کی جانب سے سہ ماہی تعمیل آڈٹ مانگے گئے ہیں۔ یہ مجوزہ تدارکی اقدامات ہیں، عدالت کے حکم سے کی گئی تبدیلیاں نہیں۔ مطلوبہ عدالتی اقدام، صفحہ 38
NIST کا 2023 کا رضاکارانہ AI Risk Management Framework فیصلوں کی ذمہ داریوں اور ابلاغ کو دستاویزی شکل دینے، خطرے سے متعلق فیصلوں کی انتظامی جواب دہی اور انسانی نگرانی کے متعین کرداروں کا تقاضا کرتا ہے۔ اس کی پیمائش سے متعلق دفعات میں عملی ترقیاتی ٹیم سے باہر کے افراد کا جائزہ اور کنٹرول کی مسلسل افادیت دیکھنا شامل ہے۔ یہ رہنمائی ہے، اس مقدمے کا عدالتی فیصلہ یا کسی کمپنی کی توثیق نہیں۔ NIST کا AI رسک مینجمنٹ فریم ورک
ہمارے خیال میں مؤثر آڈٹ کو جائزے کی درخواست سے اس کے حل تک پورا راستہ دیکھنا ہوگا۔ اس میں تاخیر، حل طلب اختلافات اور کارروائی کے بغیر بند کیے گئے معاملات شامل ہیں۔ صرف مکمل شدہ اطلاعات کا جائزہ ان فیصلوں کو نظرانداز کردے گا جنہوں نے معلومات کمپنی کے اندر رکھیں۔ صرف نقصان کے بعد دریافت ہونے والی ناکامیوں کو دیکھنا روزمرہ فیصلوں کی مسخ شدہ تصویر دے گا۔
آڈیٹر کو اس وقت نافذ قواعد اور بعد کی ترامیم میں بھی فرق کرنا ہوگا۔ ورنہ نئی پالیسی شائع ہونے سے کمپنی بظاہر ضابطے کی پابند نظر آسکتی ہے، بغیر یہ دکھائے کہ عملے کو تربیت ملی، ضروری آلات موجود تھے یا کسی نے تبدیلی کی افادیت جانچی۔ مفید پیروی میں شناخت شدہ مسئلہ حل ہونے کے تاریخ شدہ شواہد مانگے جاتے ہیں۔
جائزے کے نتائج سے غیر واضح ہدایات یا عملے کی کمی سامنے آسکتی ہے جنہیں اگلے مشکل معاملے سے پہلے درست کیا جاسکے۔ وہ یہ بھی ثابت کرسکتے ہیں کہ ملازمین نے غیر یقینی صورت میں معقول فیصلہ کیا۔ نگرانی تب زیادہ معتبر ہوتی ہے جب وہ دونوں میں سے کوئی نتیجہ نکال سکے اور اس کے پیچھے شواہد سمجھا سکے۔
آزادی کے لیے عملی اختیار درکار ہے۔ صرف منتخب مثالیں یا مجموعی اعداد دیکھنے والا جائزہ کار متنازع فیصلوں کی پوری صورت دوبارہ نہیں بنا سکتا۔ متعلقہ ریکارڈ تک رسائی، حل طلب خدشات بتانے کی صلاحیت اور اصلاحی کارروائی کا واضح راستہ نمایاں عہدے سے زیادہ اہم ہوگا۔ ان انتظامات میں بھی رازداری کا تحفظ اور حساس ریکارڈ کے استعمال کی حدود درکار ہوں گی۔
زیادہ رپورٹنگ سے حفاظت کا ایک مختلف مسئلہ پیدا ہوسکتا ہے
اگر شناخت کا نظام زیادہ اطلاعات بھیجنے پر انعام پائے تو اعداد بہتر کرنے کا ایک واضح طریقہ ہے: زیادہ لوگوں کی اطلاع دینا۔ اس سے غیر ضروری انکشاف ہوسکتے ہیں اور توجہ مضبوط اشاروں سے ہٹ سکتی ہے۔ اطلاعات کی گنتی سرگرمی ناپتی ہے؛ ان کے معیار کو سمجھنے کے لیے یہ شواہد درکار ہیں کہ وہ کیوں بھیجی گئیں اور بعد میں کون سی غلطیاں سامنے آئیں۔
اس کے برعکس ہدف بھی گمراہ کرسکتا ہے۔ الٹ دیے گئے فیصلوں کی کم شرح درست فیصلوں کی علامت ہوسکتی ہے، یا اس کا مطلب یہ کہ لوگ انہیں مؤثر طور پر چیلنج نہیں کرسکتے۔ جائزے کے اوسط وقت کا مختصر ہونا غیر معمولی تاخیر والے چند معاملات چھپا سکتا ہے۔ مینیجر اور بیرونی جائزہ لینے والے حفاظت کے ثبوت کے طور پر ہر پیمانے کو اپنانے سے پہلے پوچھیں کہ وہ کیا نہیں دکھاتا۔
رازداری بھی اس جائزے کا حصہ ہے۔ ریکارڈ میں ایسے شخص کے بارے میں نہایت نجی معلومات ہوسکتی ہیں جو آخرکار متعلقہ خطرہ ثابت نہ ہو۔ فیصلے کی جانچ کے لیے کافی شواہد محفوظ رکھنے کا مطلب یہ نہیں کہ ہر ملازم کو رسائی دی جائے یا ہر متعلقہ گفتگو غیر معینہ مدت تک رکھی جائے۔ ریکارڈ کا مقصد، مجاز رسائی اور محفوظ رکھنے کی مدت واضح ہو، اور جہاں قانونی ذمہ داری ہو وہاں مناسب طور پر محفوظ بھی کیا جائے۔
عوام کو نظام سمجھانا اور کسی فرد کا ریکارڈ ظاہر کرنا الگ باتیں ہیں۔ جائزے کی تاخیر، درست کیے گئے فیصلوں اور پالیسی میں تبدیلی کے مجموعی اعداد عوامی جانچ میں مدد دے سکتے ہیں۔ تفصیلی رسائی مجاز جائزہ کاروں تک محدود رکھی جاسکتی ہے۔ کم تعداد والے گروہوں یا غیر معمولی حالات میں کسی کی شناخت ظاہر ہوسکتی ہو تو مجموعی رپورٹنگ میں بھی احتیاط لازم ہے۔
ہم یہ بھی چاہیں گے کہ نگرانی مختلف گروہوں میں غلطیوں کے فرق دیکھے۔ اگر ملتا جلتا مواد زبان یا سیاق کے لحاظ سے مختلف انداز میں برتا جائے تو مجموعی درستگی کا نمایاں عدد مسئلہ چھپا سکتا ہے۔ یہ مجوزہ جائزہ سوال ہے، اس دعوے کا بیان نہیں کہ اس مقدمے میں ایسا فرق ثابت ہوچکا ہے۔
ایک معتبر اگلا قدم کیسا ہوگا
مقدمے کے معاملے میں قارئین کو نئے الزامات، پیش کیے گئے شواہد اور عدالت کے اصل فیصلوں میں فرق کرنا چاہیے۔ حفاظتی اقدام کی درخواست ہمیں بتاتی ہے کہ مدعی کیا چاہتا ہے۔ آیا وہ اقدام جائز، کافی حد تک واضح یا قانوناً لازم ہے، یہ الگ سوال ہے۔
صنعت کے لیے مفید پیش رفت طریقۂ کار میں تاریخ سمیت تبدیلیوں، مشکل فیصلوں کی واضح ذمہ داری اور اصلاحات روزمرہ عمل تک پہنچنے کے شواہد میں نظر آئے گی۔ کمپنیوں کو کسی بھی آزادانہ جائزے کا دائرہ اور اس کی حدود واضح کرنی چاہییں۔ پالیسی سازوں کو ضرورت سے زیادہ مداخلت کے اخراجات اور اقدام نہ کرنے کے نتائج، دونوں دیکھنے چاہییں۔
موقع یہ ہے کہ حفاظتی کام کا معائنہ اور اصلاح آسان ہو۔ خطرہ یہ ہے کہ عوامی دباؤ سے بہتر فیصلوں کے بغیر وسیع نگرانی یا مزید کاغذی کارروائی پیدا ہوجائے۔ قارئین ہر وعدہ کردہ اصلاح کے بارے میں ایک ٹھوس سوال پوچھ سکتے ہیں: کون سا ثبوت دکھائے گا کہ اس سے فیصلہ سازی بہتر ہوئی، بشمول ان صورتوں کے جہاں احتیاطاً اقدام نہ کرنا درست ہو؟
