Zoë Schiffer की 24 सितंबर को Instinct इस्तेमाल करने की रिपोर्ट में निजी AI एजेंट का आकर्षण और उसकी सीमा, दोनों दिखते हैं। उनकी रिपोर्ट के अनुसार, एजेंट ने उड़ान के समय में बदलाव ढूँढ़ा, जिसके कारण उन्हें लगभग 550 डॉलर के रिफंड का अधिकार मिला; फिर उसने टिकट रद्द करके वापसी की उड़ान दोबारा बुक की। वह यह भी बताती हैं कि रिफंड मिलने की शर्त पर ही ऑर्डर रद्द करने को कहने के बावजूद एजेंट ने देर से पहुँचा DoorDash ऑर्डर रद्द कर दिया। इससे उन्हें 64 डॉलर का नुकसान हुआ। ये सेवा के एक पत्रकार द्वारा इस्तेमाल के नतीजे हैं, Instinct दूसरों के लिए कितनी विश्वसनीय है इसका माप नहीं।

व्यावहारिक अंतर यह है कि एजेंट के निर्णय पर पहुँचने के बाद क्या होता है। Instinct कहता है कि वह ईमेल और संदेश समेत ऐप और डिवाइस से जुड़ सकता है तथा उपयोगकर्ता की ओर से फ़ोन और कंप्यूटर इस्तेमाल कर सकता है। चैट में गलत जवाब को अनदेखा किया जा सकता है। लेकिन जुड़े खाते से किया गया रद्दीकरण, संदेश या खरीद उस सेवा के अपने सिस्टम में परिणाम पैदा करता है।

बड़ा बदलाव

  • क्या बदला: Instinct के निजी बीटा में टेक्स्ट अनुरोध से किसी जुड़ी सेवा में कार्रवाई हो सकती है। उसकी मौजूदा शर्तें, 26 अगस्त को संशोधित, जुड़े डेटा तक पहुँचने और उसे अनुक्रमित करने, उपयोगकर्ता के इनपुट पर कार्रवाई करने तथा उसकी ओर से समझौते या लेन-देन करने की अनुमति देती हैं।
  • यह क्यों मायने रखता है: किसी कार्रवाई से उपयोगकर्ता के खाते में शुल्क या प्रतिबद्धता जुड़ सकती है। WIRED की पत्रकार कहती हैं कि रिफंड की शर्त के बावजूद Instinct ने DoorDash ऑर्डर रद्द कर दिया, जिससे उन्हें 64 डॉलर का नुकसान हुआ; Instinct की शर्तें कार्रवाई और उसके नतीजों की जिम्मेदारी उपयोगकर्ता पर डालती हैं।
  • क्या देखना है: सार्वजनिक शर्तें हर कार्रवाई से पहले नई मंज़ूरी लेने की व्यवस्था स्थापित नहीं करतीं। सेवा से कनेक्शन हटाने पर भी अनुक्रमित डेटा अलग से मिटाने का अनुरोध करने तक बना रहता है; सार्वजनिक दस्तावेज़ यह नहीं बताते कि मिटाने की प्रक्रिया कब पूरी होती है।

पहुँच, कार्रवाई और सहेजी हुई प्रतियाँ अलग-अलग अनुमतियाँ हैं

पहली सीमा जानकारी तक पहुँच है। Instinct का उत्पाद पृष्ठ ईमेल, संदेश, स्क्रीन, ऑडियो और स्थान को उन जानकारियों में गिनता है जिनका सहायक इस्तेमाल कर सकता है। उसकी निजता नीति कहती है कि पहुँच उपयोगकर्ता द्वारा दी गई अनुमतियों पर निर्भर करती है। यह यह भी बताती है कि उपयोगकर्ता की सहमति से निजी संदेशों, भुगतान जानकारी और खाता प्रमाण-पत्रों तक संभावित पहुँच हो सकती है। इसलिए खाता जोड़ने से किसी खास काम के लिए ज़रूरी एक जानकारी से अधिक डेटा उजागर हो सकता है, जब तक कि संबंधित एकीकरण और उसकी सेटिंग उस पहुँच को सीमित न करें।

दूसरी सीमा कार्रवाई करने का अधिकार है। शर्तें कहती हैं कि Instinct वह कार्रवाई कर सकता है जिसे वह उपयोगकर्ता के इनपुट के अनुरूप समझे। जुड़ी सेवा से खरीदारी करने पर शर्तें उपयोगकर्ता को खरीदार मानती हैं और खरीद से जुड़े विवाद उस सेवा के पास भेजती हैं। उनमें यह भी कहा गया है कि वित्तीय और अनुबंधगत नतीजों समेत कार्रवाइयों की जिम्मेदारी उपयोगकर्ता की है। ये प्रावधान कंपनी की अनुबंधगत स्थिति बताते हैं; वे यह तय नहीं करते कि किसी खास विवाद का फैसला कैसे होगा। Schiffer को हुए 64 डॉलर के नुकसान में ठोस रूप से दिखता है कि निर्देश की शर्त इस सीमा पर छूट सकती है। WIRED के अनुसार Instinct ने टिप्पणी के उसके अनुरोधों का जवाब नहीं दिया।

तीसरी सीमा डेटा बनाए रखने की है। शर्तों के अनुसार सेवा से कनेक्शन हटाने पर पहले से अनुक्रमित डेटा का Instinct द्वारा इस्तेमाल अपने-आप बंद नहीं होता; उसके कार्यक्षेत्र में अलग से मिटाने का अनुरोध किया जा सकता है। निजता नीति भी कहती है कि किसी तीसरे पक्ष के एकीकरण से कनेक्शन हटाने पर पहले जमा किया गया डेटा नहीं मिटता। अगस्त की रिपोर्टिंग में TechCrunch ने ऐसे उपयोगकर्ताओं का वर्णन किया जिन्होंने कहा कि कनेक्शन हटने के बाद भी एजेंट उनके ईमेल का सारांश दे सकता था; बाद में बाहरी डेटा मिटाने का टूल जोड़ा गया। वह रिपोर्ट वर्तमान शर्तों और निजता नीति से पहले की है, जिन्हें 26 अगस्त को संशोधित किया गया था। मौजूदा दस्तावेज़ मिटाने का रास्ता देते हैं, लेकिन सार्वजनिक पाठ हर प्रति के मिटने का समय नहीं बताता और न ही हम उन उपयोगकर्ताओं के डेटा का अंजाम सत्यापित कर सकते हैं।

मॉडल प्रशिक्षण के लिए भी वही तारीख़ मायने रखती है। TechCrunch ने शर्तों के पुराने संस्करण से व्यापक “स्थायी और अपरिवर्तनीय” लाइसेंस उद्धृत किया। यह वाक्यांश मौजूदा सार्वजनिक शर्तों में नहीं है। मौजूदा शर्तें अब भी कुछ उपयोगकर्ता सामग्री को मॉडल प्रशिक्षण में इस्तेमाल करने देती हैं; इससे आगे के लिए बाहर निकलने का विकल्प है, लेकिन सुरक्षा समीक्षा के लिए चिह्नित सामग्री पर अपवाद लागू होता है। निजता नीति अलग से कहती है कि सीधे Google Workspace API से मिली जानकारी का इस्तेमाल AI मॉडल को प्रशिक्षित या बेहतर बनाने के लिए नहीं होता। जुड़े हुए सभी डेटा पर एक ही प्रशिक्षण नियम लागू मानने से यह अंतर छूट जाएगा।

सार्वजनिक दस्तावेज़ों में पुष्टि से जुड़े नियंत्रण कम स्पष्ट हैं। वे कार्रवाइयों की अनुमति देते हैं, पर हर रद्दीकरण, संदेश या खरीद से पहले सार्वभौमिक मंज़ूरी का चरण नहीं बताते। TechCrunch ने एक परीक्षक का विवरण प्रकाशित किया, जिसके अनुसार Instinct ने पहले पूछे बिना ईमेल भेजा। यह रिपोर्ट किया गया वाकया है, मौजूदा सेटिंग का व्यवस्थित परीक्षण नहीं। कोई महत्वपूर्ण खाता जोड़ने से पहले उपयोगकर्ता को देखना चाहिए कि उत्पाद में किन कार्रवाइयों के लिए पुष्टि चाहिए, खर्च या खाते की कौन-सी सीमाएँ उपलब्ध हैं, और पहुँच कैसे रद्द करें तथा अनुक्रमित डेटा मिटाने का अनुरोध कैसे दें। केवल सार्वजनिक नीतियाँ इन तीनों सवालों का जवाब नहीं देतीं।

The Atlantic में पहले का एक परीक्षण सीमित जोखिम लेने का उदाहरण देता है। Lila Shroff ने अस्थायी फ़ोन नंबर इस्तेमाल किया, अहम निजी खाते नहीं जोड़े और Instinct को नया वर्चुअल कार्ड दिया, जिसे परीक्षण के बाद बंद कर दिया। इस तरीके से पूरी तरह जुड़े इनबॉक्स के साथ एजेंट का व्यवहार नहीं जाँचा गया। इससे पता चलता है कि एक पत्रकार ने उसे कितने अधिकार देने हैं, इसकी सीमा कैसे तय की।

Instinct की प्रकाशित निजता नीति अनचाहे भुगतान या संदेश और तीसरे पक्ष से भ्रामक निर्देश मिलने की संभावना स्वीकार करती है। ये जोखिम खास तौर पर तब अहम हैं जब एजेंट उपयोगकर्ता के खाते से कार्रवाई करते हुए संदेश पढ़ता है। WIRED की रिपोर्ट में मिला उपयोगी रिफंड पहुँच और रद्दीकरण की अनुमति पर निर्भर था; 64 डॉलर का नुकसान भी उसी प्रकार की सौंपी गई कार्रवाई में हुआ। हर जुड़ी सेवा एजेंट की क्षमताएँ और उपयोगकर्ता को बाद में सुधारनी पड़ सकने वाली चीज़ें—दोनों बढ़ाती है।