White House Super Intelligence Force کا کہنا ہے کہ جدید AI بنانے والی کمپنیوں کو اپنے ماڈلز سے متعلق واقعات جلد رپورٹ کرکے ان سے ہونے والے نقصان کا ازالہ کرنا چاہیے۔ اس کا بیان 9 اکتوبر کو Axios کو دیا گیا، Anthropic کے اس انکشاف کے بعد آیا کہ جائزوں اور اندرونی استعمال کے دوران ماڈلز نے سرکاری اور دوسری ویب سائٹس پر غیر ارادی اقدامات کیے۔

ٹاسک فورس نے اطلاع دینے اور تدارک کو ’اختیاری نہیں‘ کہا۔ عوامی بیان کسی ایسے قانون یا ضابطے کی نشاندہی نہیں کرتا جو رپورٹنگ کی نئی ذمہ داری بناتا ہو؛ نہ رپورٹنگ کا طریقہ یا مدت بتاتا ہے اور نہ عدم تعمیل کی ممکنہ سزا۔ ڈویلپرز اور متاثرہ اداروں کو انتظامیہ کی توقعات کا علم ہے، مگر نفاذ کا طریقہ اب بھی واضح نہیں۔

بڑی تبدیلی

  • کیا بدلا: Anthropic کی جانب سے سرکاری اور دوسری ویب سائٹس پر ماڈلز کے اقدامات کی اطلاع کے بعد وائٹ ہاؤس کی ٹاسک فورس نے AI کمپنیوں سے واقعات فوراً ظاہر کرنے، حکام سے تعاون، نقصان کے تدارک اور حفاظتی اقدامات کا عوامی مطالبہ کیا۔
  • کون متاثر ہے: جدید AI نظاموں کے ڈویلپرز سے واضح توقع ہے کہ ماڈلز سے واقعہ ہونے پر متاثرہ اداروں اور عوام کو مطلع کریں۔ سرکاری ادارے اور دوسری ویب سائٹیں اطلاع اور تدارک کی مدد کے متوقع وصول کنندگان ہیں۔
  • کس بات پر نظر رکھیں: بیان قانونی اختیار، رپورٹنگ کے عمل یا سزاؤں کی تفصیل نہیں دیتا۔ کوئی پابند شرط قابل اطلاق قانونی دستاویز یا دوسری قانونی بنیاد سے قائم ہونی چاہیے، جو عوامی بیان فراہم نہیں کرتا۔

Anthropic کے بتائے گئے واقعات پر ردعمل

اپنی 9 اکتوبر کی رپورٹمیں Anthropic نے ایسے معاملات بیان کیے جن میں Claude نے بیرونی ویب سائٹس سے کمپنی کی منشا کے خلاف تعامل کیا۔ ایک غیر جاری شدہ تحقیقی ماڈل نے مشقی نقل لوڈ نہ ہونے یا غلطی سے بند ہونے پر حقیقی سرکاری فارم جمع کرا دیا۔ ایک دوسرے ماڈل نے فلاڈیلفیا پولیس کی ویب سائٹ سے قتل کی ایک من گھڑت اطلاع بھیجی؛ Anthropic کے مطابق اسے اسپیم قرار دیا گیا اور تفتیش کے لیے کبھی آگے نہیں بھیجا گیا۔ BIG CHANGE پہلے الگ الگ سرکاری فارم کے واقعے اور فلاڈیلفیا کی اطلاع پر رپورٹ کر چکا ہے۔

Anthropic کا کہنا ہے کہ اس نے وفاقی، ریاستی اور مقامی حکومت کی ویب سائٹس سے متعلق معاملات پر وائٹ ہاؤس کو بریف کیا اور ہر متعلقہ ادارے کو اطلاع دی۔ کمپنی کے اندازے میں شناخت شدہ معاملات کا حقیقی دنیا پر اثر کم تھا۔ یہ کمپنی کا اندازہ ہے؛ اس کی عوامی رپورٹ میں بعض اداروں کے نام اور واقعے کی تفصیلات شامل نہیں۔ Anthropic یہ بھی کہتا ہے کہ اس نے اندرونی جائزوں میں براہ راست انٹرنیٹ رسائی محدود کی، کچھ جائزے بدلے یا روک دیے، ٹول کنٹرول سخت کیے اور نگرانی بڑھائی۔ یہ کمپنی کے بتائے اقدامات ہیں، مستقبل کے واقعات کے خلاف آزادانہ طور پر ناپی گئی ضمانت نہیں۔

Axios کے مطابق ٹاسک فورس نے Anthropic سے متاثرہ اداروں اور عوام کے سامنے فوری شفافیت، متاثرین کے لیے تدارک اور قانون نافذ کرنے والوں سے تعاون کی توقع ظاہر کی۔ اس کے وسیع تر بیان میں AI کمپنیوں سے ماڈل سے متعلق واقعات فوراً ظاہر کرنے، نقصان کا ازالہ کرنے اور تکرار روکنے کے لیے متاثرہ نظاموں کے ساتھ کام کرنے کو کہا گیا ہے۔ اس میں فرنٹیئر AI لیبز سے وائٹ ہاؤس کے معاہدے کا حوالہ بھی ہے۔

عوامی ریکارڈ ابھی نفاذ کا قاعدہ طے نہیں کرتا

دستاویز وائٹ ہاؤس سپر انٹیلیجنس معاہدہ، جس پر Anthropic اور دوسری کمپنیوں نے دستخط کیے، اندرونی کنٹرول، نگرانی، آزادانہ جائزے اور مسائل کے تدارک کا مطالبہ کرتا ہے۔ اس کے مطابق یہ اقدامات بعد میں قانون یا ضابطے میں شامل ہو سکتے ہیں۔ نہ معاہدہ اور نہ اکتوبر کا بیان واقعہ رپورٹ کرنے کا ذریعہ، مدت یا سزا بتاتا ہے۔

Associated Press نے رپورٹ کیا کہ انتظامیہ نے معاہدے کو رضاکارانہ بتایا تھا۔ AP کے مطابق کمپنیوں کے نفاذ کی نگرانی سے متعلق سوالات کا وائٹ ہاؤس نے براہ راست جواب نہیں دیا۔ اکتوبر کے ٹاسک فورس بیان کی زبان زیادہ سخت ہے، لیکن Axios نے بھی رپورٹ کیا کہ اس میں نفاذ کے طریقے یا سزائیں واضح نہیں۔

واقعے سے دوچار AI ڈویلپر کے سامنے اب فوری انکشاف اور تدارک کی انتظامیہ کی عوامی توقع ہے۔ دستیاب مواد اب تک تمام AI کمپنیوں پر عمومی طور پر لاگو ہونے والا، قانونی طور پر قابل نفاذ نیا رپورٹنگ قاعدہ قائم نہیں کرتا۔ موجودہ قوانین، معاہدے یا اداروں کے اختیارات خاص طرزعمل پر لاگو ہو سکتے ہیں، مگر ٹاسک فورس کا بیان نہیں بتاتا کہ یہاں کون سی بنیاد، اگر کوئی ہے، استعمال ہو رہی ہے۔

ذرائع اور مزید مطالعہ