Zoë Schiffer کا 24 ستمبر کو Instinct استعمال کرنے کا احوال اس ذاتی AI ایجنٹ کی کشش اور حدود، دونوں دکھاتا ہے۔ ان کے مطابق ایجنٹ نے پرواز کے شیڈول میں ایسی تبدیلی ڈھونڈی جس پر تقریباً 550 ڈالر کی واپسی کی اہلیت بنتی تھی، ٹکٹ منسوخ کیا اور واپسی کی پرواز دوبارہ بک کی۔ وہ یہ بھی لکھتی ہیں کہ ایجنٹ نے تاخیر سے آنے والا DoorDash آرڈر اس وقت منسوخ کردیا جب انہوں نے اسے صرف اسی صورت منسوخ کرنے کو کہا تھا اگر رقم واپس مل سکے۔ انہیں 64 ڈالر کا نقصان ہوا۔ یہ ایک صحافی کے ذاتی استعمال کے نتائج ہیں، Instinct دوسروں کے لیے کتنی قابلِ اعتماد کارکردگی دکھاتا ہے اس کی پیمائش نہیں۔
عملی فرق یہ ہے کہ ایجنٹ کے کسی فیصلے پر پہنچنے کے بعد کیا ہوتا ہے۔ Instinct کا کہنا ہے کہ وہ ای میل اور پیغام رسانی سمیت ایپلی کیشنز اور ڈیوائسز سے منسلک ہوتا ہے اور صارف کی طرف سے فون اور کمپیوٹر استعمال کرسکتا ہے۔ چیٹ میں غلط جواب کو نظر انداز کیا جاسکتا ہے۔ لیکن منسلک اکاؤنٹ کے ذریعے کی گئی منسوخی، پیغام یا خریداری کے نتائج اس سروس کے اپنے نظام میں مرتب ہوتے ہیں۔
بڑی تبدیلی
- کیا بدلا: Instinct کے نجی بیٹا ورژن میں متنی درخواست کے نتیجے میں منسلک سروس پر کارروائی ہوسکتی ہے۔ اس کی موجودہ شرائط، جن میں 26 اگست کو نظرثانی کی گئی، منسلک ڈیٹا تک رسائی اور اس کا اشاریہ بنانا، صارف کی ہدایت کے جواب میں کارروائیاں، اور صارف کی طرف سے معاہدے یا لین دین کرنے کی اجازت دیتی ہیں۔
- یہ کیوں اہم ہے: کسی کارروائی سے صارف کے اکاؤنٹ پر رقم یا کوئی ذمہ داری عائد ہوسکتی ہے۔ WIRED کی صحافی کے مطابق Instinct نے رقم واپسی کی شرط کے باوجود DoorDash آرڈر منسوخ کیا، جس سے انہیں 64 ڈالر کا نقصان ہوا؛ Instinct کی شرائط کارروائیوں اور ان کے نتائج کی ذمہ داری صارف پر ڈالتی ہیں۔
- کس بات پر نظر رکھیں: عوامی شرائط ہر کارروائی سے پہلے نئی منظوری لینے کا تقاضا واضح نہیں کرتیں۔ کسی سروس سے رابطہ منقطع کرنے پر بھی پہلے سے اشاریہ شدہ ڈیٹا موجود رہتا ہے، جب تک اسے حذف کرنے کی الگ درخواست نہ دی جائے؛ عوامی دستاویزات یہ نہیں بتاتیں کہ حذف ہونے میں کتنا وقت لگتا ہے۔
رسائی، کارروائی اور محفوظ نقلیں الگ اجازتیں ہیں
پہلی حد معلومات تک رسائی کی ہے۔ Instinct کا پروڈکٹ صفحہ ان معلومات میں ای میل، پیغام رسانی، اسکرین، آڈیو اور مقام درج کرتا ہے جنہیں اس کا معاون استعمال کرسکتا ہے۔ اس کی رازداری پالیسی کہتی ہے کہ رسائی صارف کی دی ہوئی اجازتوں پر منحصر ہے۔ یہ پالیسی نجی خط و کتابت، ادائیگی کی معلومات اور اکاؤنٹ کی اسناد تک ممکنہ رسائی کا بھی ذکر کرتی ہے، اگر صارف انہیں فراہم کرنے کا انتخاب کرے۔ لہٰذا کسی اکاؤنٹ کو منسلک کرنے سے، کسی مخصوص کام کے لیے درکار ایک شے سے زیادہ معلومات سامنے آسکتی ہیں، الا یہ کہ متعلقہ انٹیگریشن اور اس کی ترتیبات رسائی محدود کریں۔
دوسری حد کارروائی کرنے کے اختیار کی ہے۔ شرائط کے مطابق Instinct وہ اقدامات کرسکتا ہے جنہیں وہ صارف کی ہدایت کا جواب سمجھے۔ منسلک سروس کے ذریعے خریداری کی صورت میں شرائط صارف کو خریدار قرار دیتی ہیں اور خریداری سے متعلق تنازعے کے لیے اسی سروس سے رجوع کرنے کو کہتی ہیں۔ ان میں یہ بھی کہا گیا ہے کہ مالی اور معاہداتی نتائج سمیت کارروائیوں کے نتائج کی ذمہ داری صارف کی ہے۔ یہ دفعات کمپنی کا معاہداتی مؤقف بیان کرتی ہیں؛ یہ طے نہیں کرتیں کہ کسی خاص تنازعے کا فیصلہ کیسے ہوگا۔ Schiffer کے 64 ڈالر کے نقصان سے ایک ٹھوس مثال ملتی ہے کہ ہدایت میں شامل شرط اسی مرحلے پر کیسے کھو سکتی ہے۔ WIRED کا کہنا ہے کہ Instinct نے اس کے تبصرے کی درخواستوں کا جواب نہیں دیا۔
تیسری حد ڈیٹا محفوظ رکھنے کی ہے۔ شرائط کے مطابق کسی سروس سے رابطہ منقطع کرنے سے Instinct پہلے سے اشاریہ شدہ ڈیٹا استعمال کرنا خودبخود بند نہیں کرتا؛ اس کے ورک اسپیس کے ذریعے حذف کرنے کی الگ درخواست دی جاسکتی ہے۔ رازداری پالیسی بھی کہتی ہے کہ فریقِ ثالث کی انٹیگریشن منقطع کرنے سے پہلے جمع کیا گیا ڈیٹا حذف نہیں ہوتا۔ اگست کی رپورٹنگ میں TechCrunch نے ایسے صارفین کا ذکر کیا جن کے مطابق رابطہ منقطع ہونے کے بعد بھی ایجنٹ ان کی ای میل کا خلاصہ بناسکتا تھا، اور بعد میں بیرونی ڈیٹا حذف کرنے کا ایک ٹول شامل کیا گیا۔ یہ رپورٹ موجودہ شرائط اور رازداری پالیسی سے پہلے کی ہے؛ دونوں میں 26 اگست کو نظرثانی ہوئی۔ موجودہ دستاویزات صارف کو حذف کرنے کا راستہ دیتی ہیں، لیکن عوامی متن ہر نقل کے حذف ہونے کا وقت نہیں بتاتا اور نہ ہی ہم ان صارفین کے ڈیٹا کے ساتھ کیا ہوا تھا اس کی تصدیق کرسکتے ہیں۔
ماڈل کی تربیت کے لیے بھی یہی تاریخ اہم ہے۔ TechCrunch نے شرائط کے ایک پرانے نسخے سے وسیع "دائمی اور ناقابلِ تنسیخ" لائسنس کا اقتباس دیا تھا۔ یہ عبارت موجودہ عوامی شرائط میں نہیں ہے۔ موجودہ شرائط اب بھی صارف کے بعض مواد کو ماڈل کی تربیت کے لیے استعمال کرنے کی اجازت دیتی ہیں؛ اس سے آئندہ کے لیے دست برداری ممکن ہے، سوائے اس مواد کے جسے حفاظتی جائزے کے لیے نشان زد کیا گیا ہو۔ رازداری پالیسی الگ سے کہتی ہے کہ Google Workspace APIs کے ذریعے براہِ راست ملنے والی معلومات AI ماڈلوں کی تربیت یا بہتری کے لیے استعمال نہیں ہوتیں۔ تمام منسلک ڈیٹا پر تربیت کا ایک ہی اصول لاگو سمجھنا اس فرق کو نظر انداز کرے گا۔
عوامی دستاویزات سے تصدیقی کنٹرولز کی صورت کم واضح ہے۔ وہ کارروائیوں کی اجازت تو دیتی ہیں، لیکن ہر منسوخی، پیغام یا خریداری سے پہلے منظوری کے کسی عالمگیر مرحلے کی وضاحت نہیں کرتیں۔ TechCrunch نے ایک آزمائش کرنے والے کا یہ بیان رپورٹ کیا کہ Instinct نے پہلے پوچھے بغیر ای میل بھیج دی۔ یہ رپورٹ کردہ واقعہ ہے، موجودہ ترتیبات کی منظم آزمائش نہیں۔ اہم اکاؤنٹ منسلک کرنے سے پہلے صارف کو دیکھنا چاہیے کہ پروڈکٹ میں کن کارروائیوں کے لیے تصدیق درکار ہے، خرچ یا اکاؤنٹ کی کون سی حدیں موجود ہیں، اور رسائی کیسے واپس لی جاسکتی ہے اور اشاریہ شدہ ڈیٹا حذف کرنے کی درخواست کیسے دی جاسکتی ہے۔ صرف عوامی پالیسی کا متن ان تینوں سوالوں کا جواب نہیں دیتا۔
دی اٹلانٹک میں ایک سابقہ آزمائش رسائی محدود رکھنے کے ایک نسبتاً مخصوص طریقے کی مثال ہے۔ Lila Shroff نے عارضی فون نمبر استعمال کیا، اپنے اہم ذاتی اکاؤنٹس منسلک نہیں کیے، اور Instinct کو ایک نیا ورچوئل کارڈ دیا جسے آزمائش کے بعد بند کردیا۔ اس طریقے سے یہ نہیں جانچا گیا کہ مکمل طور پر منسلک اِن باکس کے ساتھ ایجنٹ کیسے کام کرتا ہے۔ یہ دکھاتا ہے کہ ایک صحافی نے اسے جتنا اختیار دینے پر آمادگی ظاہر کی، اسے کیسے محدود رکھا۔
Instinct کی شائع شدہ رازداری پالیسی غیر ارادی ادائیگیوں یا پیغامات اور تیسرے فریق کی گمراہ کن ہدایات کے امکان کو تسلیم کرتی ہے۔ یہ خطرات خاص طور پر اہم ہیں جب ایجنٹ صارف کے اکاؤنٹ سے کارروائی کرتے ہوئے پیغامات پڑھتا ہو۔ WIRED کے احوال میں رقم واپسی کا مفید نتیجہ معلومات تک رسائی اور منسوخی کی اجازت پر منحصر تھا؛ اسی طرح کی تفویض کردہ کارروائی میں 64 ڈالر کا نقصان ہوا۔ ہر منسلک سروس ایجنٹ کے ممکنہ اقدامات بڑھاتی ہے، اور ان نتائج کو واپس لینے کی ضرورت بھی جو صارف کو پیش آسکتی ہے۔
