تتضمن رواية Zoë Schiffer في 24 سبتمبر عن استخدامها Instinct جانبي جاذبية الوكيل الشخصي للذكاء الاصطناعي وحدوده. وتقول إن الأداة عثرت على تغيير في موعد رحلة جعلها مؤهلة لاسترداد نحو 550 دولاراً، فألغت التذكرة وأعادت حجز رحلة العودة. وتذكر أيضاً أنها ألغت طلباً متأخراً من DoorDash بعد أن طلبت منها فعل ذلك فقط إذا أمكن استرداد المبلغ؛ لكنها خسرت 64 دولاراً. هذه نتائج تجربة صحفية واحدة للخدمة، وليست مقياساً لموثوقية أداء Instinct لدى الآخرين.

ويتضح الفارق العملي مما يحدث بعد أن يتخذ الوكيل قراراً. تقول Instinct إنها تتصل بالتطبيقات والأجهزة، بما فيها البريد الإلكتروني والرسائل، ويمكنها استخدام الهاتف والحاسوب نيابةً عن المستخدم. ويمكن تجاهل إجابة خاطئة في محادثة. أما الإلغاء أو الرسالة أو الشراء المنفذ عبر حساب متصل، فتترتب عليه نتائج في نظام تلك الخدمة نفسها.

التغيير الأبرز

  • ما الذي تغيّر: في النسخة التجريبية الخاصة من Instinct، يمكن لطلب نصي أن يؤدي إلى إجراء في خدمة متصلة. وتجيز الشروط الحالية، التي نُقحت في 26 أغسطس، الوصول إلى البيانات المتصلة وفهرستها، واتخاذ إجراءات استجابةً لمدخلات المستخدم، وإبرام اتفاقات أو معاملات نيابةً عنه.
  • لماذا يهم ذلك: قد يترتب على الإجراء رسم أو التزام في حساب المستخدم. وتقول صحفية WIRED إن Instinct ألغى طلب DoorDash رغم اشتراطها استرداد المبلغ، ما كلفها 64 دولاراً؛ فيما تحمل شروط Instinct المستخدم مسؤولية الأفعال وعواقبها.
  • ما الذي ينبغي متابعته: لا تنص الشروط العامة على موافقة جديدة لكل إجراء. كما أن فصل الخدمة لا يزيل البيانات المفهرسة إلا بعد تقديم طلب حذف منفصل، ولا تحدد الوثائق العامة متى يكتمل هذا الحذف.

الوصول والإجراء والنسخ المخزنة صلاحيات مختلفة

الحد الأول هو الوصول إلى المعلومات. وتدرج صفحة المنتج البريد الإلكتروني والرسائل والشاشة والصوت والموقع ضمن المعلومات التي يمكن للمساعد استخدامها. وتقول سياسة الخصوصية إن الوصول يتوقف على الأذونات التي يمنحها المستخدم. كما تشير إلى إمكان الوصول إلى مراسلات خاصة ومعلومات الدفع وبيانات اعتماد الحساب عندما يختار المستخدم تقديمها. لذلك قد يكشف ربط الحساب معلومات تتجاوز العنصر الوحيد اللازم لمهمة ما، ما لم يحد هذا الوصولَ التكاملُ المعني وإعداداته.

الحد الثاني هو صلاحية التصرف. وتقول الشروط إن Instinct قد يتخذ الإجراءات التي يراها استجابةً لمدخلات المستخدم. وفي حالة الشراء عبر خدمة متصلة، تصف الشروط المستخدم بأنه المشتري، وتوجه الاعتراضات على الشراء إلى تلك الخدمة. وتقول أيضاً إن المستخدم مسؤول عن عواقب الأفعال، بما فيها المالية والتعاقدية. وتصف هذه البنود الموقف التعاقدي للشركة، لكنها لا تحسم كيفية الفصل في أي نزاع بعينه. وتُظهر خسارة Schiffer البالغة 64 دولاراً مثالاً ملموساً على ضياع شرط وارد في التعليمات عند هذا الحد. وتقول WIRED إن Instinct لم يرد على طلبات التعليق.

الحد الثالث هو الاحتفاظ بالبيانات. وتقول الشروط إن فصل خدمة لا يوقف تلقائياً استخدام Instinct للبيانات التي سبق أن فهرسها؛ ويتاح طلب حذف منفصل عبر مساحة العمل. وتذكر سياسة الخصوصية بالمثل أن فصل تكامل تابع لجهة خارجية لا يحذف البيانات التي جُمعت سابقاً. وفي تغطية أغسطس، وصفت TechCrunch مستخدمين قالوا إن الوكيل ظل قادراً على تلخيص بريدهم بعد الفصل، ثم أضافت الشركة لاحقاً أداة لحذف البيانات الخارجية. وقد سبقت تلك التغطية الشروط وسياسة الخصوصية الحاليتين، وكلتاهما نُقحت في 26 أغسطس. وتوفر الوثائق الحالية للمستخدمين مساراً لطلب الحذف، لكن نصها العام لا يحدد مهلة اكتمال حذف كل نسخة، ولا يتيح لنا التحقق مما حدث لبيانات أولئك المستخدمين.

ويهم التاريخ نفسه مسألة تدريب النماذج. فقد نقلت TechCrunch عن نسخة أقدم من الشروط منح ترخيص واسع «دائم وغير قابل للإلغاء». لكن هذه العبارة لا تظهر في الشروط العامة الحالية. وما زالت الشروط الحالية تسمح باستخدام بعض مواد المستخدمين لتدريب النماذج، مع خيار إلغاء الاشتراك يسري مستقبلاً واستثناء للمواد التي تُعلّم لمراجعة السلامة. وتنص سياسة الخصوصية على نحو منفصل على أن المعلومات المستلمة مباشرةً عبر واجهات Google Workspace البرمجية لا تُستخدم لتدريب نماذج الذكاء الاصطناعي أو تحسينها. واعتبار كل البيانات المتصلة خاضعة لقاعدة التدريب نفسها يتجاهل هذا الفارق.

أما ضوابط التأكيد فصورتها أقل وضوحاً في الوثائق العامة. فهي تجيز الإجراءات، لكنها لا تصف خطوة موافقة عامة قبل كل إلغاء أو رسالة أو شراء. ونقلت TechCrunch عن أحد المختبرين أن Instinct أرسل بريداً إلكترونياً من دون أن يسأله مسبقاً. وهذا حادث مُبلّغ عنه، لا اختبار منهجي للإعدادات الحالية. وقبل ربط حساب مهم، يحتاج المستخدم إلى معرفة الإجراءات التي تتطلب تأكيداً في المنتج، وحدود الإنفاق أو الحساب المتاحة، وكيفية إلغاء الوصول وطلب حذف البيانات المفهرسة. ولا يكفي نص السياسة العامة للإجابة عن المسائل الثلاث.

ويعرض اختبار سابق في The Atlantic خياراً أضيق نطاقاً لتقليل التعرض. استخدمت Lila Shroff رقم هاتف مؤقتاً، ولم تربط حساباتها الشخصية المهمة، وأعطت Instinct بطاقة افتراضية جديدة عطّلتها بعد الاختبار. ولم يختبر هذا الأسلوب سلوك الوكيل عند ربط صندوق بريد كامل. لكنه يوضح كيف قيّدت صحفية واحدة الصلاحيات التي كانت مستعدة لمنحها.

وتقر سياسة الخصوصية المنشورة لـInstinct بإمكان حدوث مدفوعات أو مراسلات غير مقصودة، وباحتمال ورود تعليمات مضللة من جهات خارجية. ويكتسب ذلك أهمية خاصة عندما يقرأ الوكيل الرسائل ويتصرف عبر حساب المستخدم. فقد تطلب استرداد المبلغ المفيد في رواية WIRED صلاحية الوصول والإلغاء؛ ونتجت خسارة 64 دولاراً عن النوع نفسه من الإجراءات المفوضة. وكل خدمة متصلة توسّع نطاق ما يستطيع الوكيل فعله وما قد يحتاج المستخدم إلى التراجع عنه.