Zoë Schiffer यांचा 24 सप्टेंबरचा Instinct वापराचा वृत्तांत वैयक्तिक AI एजंटचे आकर्षण आणि मर्यादा दोन्ही दाखवतो. परताव्यासाठी पात्र ठरवणारा विमानाचे वेळापत्रक बदलल्याचा संदेश एजंटने शोधला, सुमारे 550 डॉलर परत मिळण्यास पात्र ठरल्यावर तिकीट रद्द केले आणि परतीचे तिकीट पुन्हा बुक केले, असे त्या सांगतात. DoorDash ची उशिरा आलेली ऑर्डर परतावा मिळाला तरच रद्द करायला सांगितल्यानंतरही एजंटने ती रद्द केल्याचेही त्या नमूद करतात. त्यामुळे त्यांचे 64 डॉलर गेले. हे एका पत्रकाराच्या वापरातील परिणाम आहेत; Instinct इतरांसाठी किती विश्वासार्हपणे काम करते याचे मोजमाप नाही.

एजंट निर्णयापर्यंत पोहोचल्यानंतर काय होते हा व्यावहारिक फरक आहे. Instinct ईमेल आणि मेसेजिंगसह अॅप्लिकेशन्स व डिव्हाइसेसशी जोडते आणि वापरकर्त्याच्या वतीने फोन व संगणक वापरू शकते, असे ती सांगते. चॅटमधील चुकीचे उत्तर दुर्लक्षित करता येते. मात्र जोडलेल्या खात्याद्वारे केलेले रद्दीकरण, संदेश किंवा खरेदी त्या सेवेच्या प्रणालीत प्रत्यक्ष परिणाम घडवते.

मोठा बदल

  • काय बदलले: Instinct च्या खाजगी बीटामध्ये मजकूरातील विनंतीमुळे जोडलेल्या सेवेत कृती होऊ शकते. त्यांच्या सध्याच्या अटी, 26 ऑगस्ट रोजी सुधारित, जोडलेल्या डेटामध्ये प्रवेश व त्याचे अनुक्रमण, वापरकर्त्याच्या सूचनेला प्रतिसाद देणाऱ्या कृती आणि त्याच्या वतीने करार किंवा व्यवहार करण्यास परवानगी देतात.
  • याचे महत्त्व: एखाद्या कृतीमुळे वापरकर्त्याच्या खात्यावर शुल्क किंवा बांधिलकी येऊ शकते. WIRED च्या पत्रकाराच्या म्हणण्यानुसार Instinct ने तिची DoorDash ऑर्डर परताव्याची अट असूनही रद्द केली आणि तिला 64 डॉलरचा तोटा झाला; कृती आणि त्यांच्या परिणामांची जबाबदारी वापरकर्त्यावर असल्याचे Instinct च्या अटी सांगतात.
  • काय पाहावे: प्रत्येक कृतीपूर्वी नव्याने मान्यता घ्यावी लागते, असे सार्वजनिक अटींवरून स्पष्ट होत नाही. सेवा तोडली तरी अनुक्रमित डेटा स्वतंत्रपणे हटवण्याची विनंती करेपर्यंत तसाच राहतो; आणि ते हटवायला किती वेळ लागतो हे सार्वजनिक दस्तऐवज सांगत नाहीत.

प्रवेश, कृती आणि साठवलेल्या प्रती या वेगळ्या परवानग्या

पहिली मर्यादा म्हणजे माहितीचा प्रवेश. Instinct च्या उत्पादन पानावर सहाय्यक वापरू शकणाऱ्या माहितीत ईमेल, मेसेजिंग, स्क्रीन, ऑडिओ आणि स्थान यांचा समावेश आहे. वापरकर्त्याने दिलेल्या परवानग्यांवर प्रवेश अवलंबून असतो, असे त्यांच्या गोपनीयता धोरणात सांगितले आहे. वापरकर्त्याने माहिती द्यायचे ठरवल्यास खाजगी संभाषणे, पेमेंटची माहिती आणि खाते-प्रवेश तपशील यांचाही संभाव्य प्रवेश त्यात वर्णन केला आहे. विशिष्ट जोडणी व तिच्या सेटिंग्जमुळे प्रवेश मर्यादित नसेल, तर खाते जोडल्यावर एखादे काम करण्यासाठी लागणाऱ्या एकाच बाबीपेक्षा अधिक माहिती उघड होऊ शकते.

दुसरी मर्यादा म्हणजे कृती करण्याचा अधिकार. वापरकर्त्याच्या सूचनेला प्रतिसाद देणाऱ्या कृती Instinct करू शकते, असे अटी सांगतात. जोडलेल्या सेवेतून खरेदी केल्यास खरेदीदार वापरकर्ता असल्याचे अटी नमूद करतात आणि खरेदीविषयक वाद त्या सेवेकडे पाठवतात. कृतींच्या आर्थिक व करारविषयक परिणामांसह त्यांची जबाबदारीही वापरकर्त्यावर ठेवतात. या तरतुदी कंपनीची करारविषयक भूमिका सांगतात; विशिष्ट वादाचा निकाल काय असेल हे ठरवत नाहीत. सूचनेतील अट या टप्प्यावर कशी हरवू शकते याचे Schiffer यांचे 64 डॉलरचे रद्दीकरण हे ठोस उदाहरण आहे. टिप्पणीसाठीच्या विनंत्यांना Instinct ने उत्तर दिले नाही, असे WIRED सांगते.

तिसरी मर्यादा म्हणजे डेटा किती काळ ठेवला जातो. सेवा तोडल्याने आधीच अनुक्रमित केलेला डेटा वापरणे आपोआप थांबत नाही, असे अटी सांगतात; स्वतंत्रपणे हटवण्याची विनंती वर्कस्पेसमधून करता येते. तृतीय-पक्ष जोडणी तोडल्याने आधी गोळा केलेला डेटा हटत नाही, असे गोपनीयता धोरणही सांगते. ऑगस्टमधील वृत्तांकनात, डिस्कनेक्ट केल्यानंतरही एजंट ईमेलचा सारांश देऊ शकत असल्याचे काही वापरकर्त्यांनी सांगितले आणि नंतर बाह्य डेटा हटवण्याचे साधन जोडल्याचे TechCrunch ने नमूद केले. ते वृत्त सध्याच्या अटी आणि गोपनीयता धोरणापूर्वीचे आहे; दोन्ही 26 ऑगस्ट रोजी सुधारित झाले. सध्याच्या कागदपत्रांत वापरकर्त्यांना हटवण्याचा मार्ग दिला आहे; मात्र प्रत्येक प्रत हटवण्यास किती वेळ लागतो हे सार्वजनिक मजकूर निश्चित करत नाही किंवा त्या वापरकर्त्यांच्या डेटाबाबत काय घडले हे पडताळू देत नाही.

मॉडेल प्रशिक्षणासाठीही तीच सुधारणा तारीख महत्त्वाची आहे. अटींच्या आधीच्या आवृत्तीत व्यापक “कायमस्वरूपी आणि रद्द न करता येणारा” परवाना दिल्याचे TechCrunch ने उद्धृत केले. सध्याच्या सार्वजनिक अटींत हा वाक्प्रचार नाही. तरीही, काही वापरकर्ता-सामग्री मॉडेल प्रशिक्षणासाठी वापरण्याची परवानगी सध्याच्या अटी देतात; त्यातून पुढील वापर थांबवण्याचा पर्याय आहे, पण सुरक्षा तपासणीसाठी चिन्हांकित सामग्रीला अपवाद आहे. Google Workspace API द्वारे थेट मिळालेली माहिती AI मॉडेलचे प्रशिक्षण किंवा सुधारणा करण्यासाठी वापरत नाही, असे गोपनीयता धोरण स्वतंत्रपणे सांगते. सर्व जोडलेल्या डेटाला एकच प्रशिक्षण नियम लागू आहे असे मानल्यास हा फरक दुर्लक्षित होईल.

पुष्टीकरणाची नियंत्रणे सार्वजनिक दस्तऐवजांतून कमी स्पष्ट होतात. कृतींना परवानगी दिली आहे; पण प्रत्येक रद्दीकरण, संदेश किंवा खरेदीपूर्वी सार्वत्रिक मान्यता घ्यावी लागते असे वर्णन नाही. आधी विचारल्याशिवाय Instinct ने ईमेल पाठवल्याचा एका परीक्षकाचा अनुभव TechCrunch ने नोंदवला. ही वृत्तातली घटना आहे; सध्याच्या सेटिंग्जची पद्धतशीर चाचणी नाही. महत्त्वाचे खाते जोडण्यापूर्वी कोणत्या कृतींसाठी पुष्टी मागितली जाते, खर्च किंवा खात्यावर कोणत्या मर्यादा आहेत आणि प्रवेश कसा रद्द करून अनुक्रमित डेटा हटवण्याची विनंती करता येते हे वापरकर्त्याला उत्पादनात तपासावे लागेल. सार्वजनिक धोरण-मजकूर या तिन्ही प्रश्नांची उत्तरे देत नाही.

The Atlantic मधील आधीची चाचणी अधिक मर्यादित प्रवेश-पर्याय दाखवते. Lila Shroff यांनी तात्पुरता फोन क्रमांक वापरला, महत्त्वाची वैयक्तिक खाती जोडली नाहीत आणि चाचणीनंतर निष्क्रिय केलेले नवे व्हर्च्युअल कार्ड Instinct ला दिले. पूर्णपणे जोडलेल्या इनबॉक्ससह एजंट कसा वागतो याची चाचणी या पद्धतीने झाली नाही. एजंटला किती अधिकार द्यायचे हे एका पत्रकाराने कसे मर्यादित केले ते यात दिसते.

अनपेक्षित पेमेंट किंवा संदेश आणि तृतीय-पक्षांकडून दिशाभूल करणाऱ्या सूचनांची शक्यता Instinct च्या प्रकाशित गोपनीयता धोरणात मान्य केली आहे. वापरकर्त्याच्या खात्यातून कृती करताना एजंट संदेश वाचत असल्यास हे धोके विशेष महत्त्वाचे ठरतात. WIRED च्या वृत्तातील उपयोगी परतावा प्रवेश आणि रद्द करण्याच्या परवानगीवर अवलंबून होता; 64 डॉलरचा तोटा याच प्रकारच्या सोपवलेल्या कृतीतून झाला. प्रत्येक जोडलेल्या सेवेमुळे एजंट काय करू शकतो आणि वापरकर्त्याला नंतर काय पूर्ववत करावे लागू शकते या दोन्ही गोष्टी वाढतात.