AI агент Instinct-а може да поступа преко повезаних налога

Извештај Зое Шифер од 24. септембра о коришћењу Instinct-а садржи и предности и ограничења личног AI агента. Она наводи да је агент открио промену реда летења која јој је омогућила повраћај око 550 долара, отказао карту и поново резервисао њен повратни лет. Такође наводи да је отказао поруџбину која је каснила преко DoorDash-а, иако му је рекла да је откаже само ако може да добије повраћај новца. Изгубила је 64 долара. То су исходи коришћења услуге једне новинарке, а не мера поузданости Instinct-а за друге кориснике.

Практично је важно шта се догађа након што агент донесе одлуку. Instinct наводи да се повезује са апликацијама и уређајима, укључујући е-пошту и поруке, и да може да користи телефон и рачунар у име корисника. Погрешан одговор у разговору може да се занемари. Отказивање, порука или куповина преко повезаног налога има последице у систему те услуге.

Кључна промена

• Шта се променило: У приватној бета-верзији Instinct-а, текстуални захтев може да доведе до радње у повезаној услузи. Његови тренутни услови коришћења, измењени 26. августа, дозвољавају приступ повезаним подацима и њихово индексирање, радње као одговор на кориснички унос и склапање споразума или трансакција у име корисника.
• Зашто је важно: Радња може да створи трошак или обавезу на корисниковом налогу. Новинарка часописа WIRED каже да је Instinct отказао поруџбину DoorDash-а упркос њеном услову у вези са повраћајем, што ју је коштало 64 долара; услови Instinct-а одговорност за радње и њихове последице приписују кориснику.
• Шта треба пратити: Јавни услови не утврђују да је за сваку радњу потребно ново одобрење. Прекид везе са услугом такође не уклања већ индексиране податке док корисник засебно не затражи брисање, а јавна документа не наводе колико траје то брисање.

Приступ, овлашћење за радње и сачуване копије представљају различите дозволе

Прва граница је приступ информацијама. Страница производа Instinct-а наводи е-пошту, поруке, екран, звук и локацију као податке које његов асистент може да користи. Његова политика приватности наводи да приступ зависи од дозвола које корисник одобри. Такође описује могући приступ приватној комуникацији, подацима о плаћању и акредитивима налога ако корисник одлучи да их достави. Повезивање налога зато може да открије више од једне ставке потребне за одређени задатак, осим ако конкретна интеграција и њена подешавања не ограничавају приступ.

Друга граница је овлашћење за поступање. У условима се наводи да Instinct може да предузима радње за које процени да одговарају корисничком уносу. За куповину преко повезане услуге, услови корисника сматрају купцем и упућују га да спорове о куповини решава са том услугом. Такође наводе да је корисник одговоран за последице радњи, укључујући финансијске и уговорне. Ове одредбе описују уговорни став компаније; не одређују како би се решио било који конкретан спор. Отказивање од 64 долара које описује Шифер показује конкретан пример губитка услова из инструкције на овој граници. WIRED наводи да Instinct није одговорио на захтеве за коментар.

Трећа граница је чување података. У условима се наводи да прекид везе са услугом не спречава аутоматски Instinct да настави да користи већ индексиране податке; захтев за брисање може засебно да се поднесе преко радног простора. Политика приватности такође каже да прекид везе са интеграцијом треће стране не брише раније прикупљене податке. У извештају из августа TechCrunch је описао кориснике који су рекли да је агент могао да сажима њихову е-пошту и после прекида везе, као и накнадно увођење алатке за брисање спољних података. Тај извештај је објављен пре важећих услова и политике приватности, који су оба измењени 26. августа. Садашња документа корисницима нуде начин да затраже брисање, али јавни текст не наводи рок за уклањање сваке копије нити нам омогућава да проверимо шта се догодило са подацима тих корисника.

Исти датум је важан и за обуку модела. TechCrunch је цитирао ранију верзију услова која је давала широку лиценцу „perpetual and irrevocable“ (трајну и неопозиву). Тај израз се не налази у тренутним јавним условима. Садашњи услови и даље дозвољавају коришћење неких корисничких материјала за обуку модела, уз могућност искључења која важи убудуће и изузетак за материјал означен за безбедносну проверу. Политика приватности засебно наводи да се информације примљене директно преко API-ја Google Workspace-а не користе за обуку нити унапређивање AI модела. Третирање свих повезаних података као да подлежу истим правилима обуке занемарило би ту разлику.

Из јавних докумената није јасно како функционишу потврде радњи. Они овлашћују радње, али не описују универзални корак одобрења пре сваког отказивања, слања поруке или куповине. TechCrunch је пренео искуство једног тестера да је Instinct послао е-поруку без претходног питања. То је пријављени инцидент, а не систематски тест тренутних подешавања. Пре повезивања важног налога, корисник треба да провери које радње у производу захтевају потврду, која ограничења потрошње или налога постоје и како се приступ укида и тражи брисање индексираних података. Сам јавни текст политика не одговара на сва три питања.

Један ранији тест у часопису The Atlantic приказује ограниченији избор изложености података. Лајла Шроф је користила привремени број телефона, није повезала важне личне налоге и дала је Instinct-у нову виртуелну картицу коју је искључила након тестирања. Тај поступак није проверавао понашање агента са потпуно повезаним сандучетом е-поште. Он показује како је једна новинарка ограничила овлашћења која је била спремна да му повери.

Објављена политика приватности Instinct-а признаје могућност ненамераваних плаћања или комуникације и постојање обмањујућих инструкција трећих страна. То је посебно важно када агент чита поруке док поступа преко корисничког налога. Успешан повраћај новца у извештају WIRED-а зависио је од приступа и дозволе за отказивање; губитак од 64 долара настао је при истој врсти делегиране радње. Свака повезана услуга проширује и могућности агента и оно што корисник можда мора да поништи.