Zoë Schiffer రాసిన సెప్టెంబర్ 24న Instinctను ఉపయోగించిన అనుభవ కథనం ఆ కథనంలో వ్యక్తిగత AI ఏజెంట్ ఆకర్షణతో పాటు దాని పరిమితి కూడా కనిపిస్తాయి. తనకు సుమారు $550 వాపసు అర్హత కల్పించే విమాన షెడ్యూల్ మార్పును ఏజెంట్ గుర్తించిందని, టికెట్ రద్దుచేసి తిరుగు ప్రయాణాన్ని మళ్లీ బుక్ చేసిందని ఆమె రాశారు. వాపసు వస్తేనే ఆలస్యమైన DoorDash ఆర్డర్‌ను రద్దు చేయమని చెప్పినా, ఏజెంట్ దాన్ని రద్దు చేసిందని కూడా ఆమె తెలిపారు. దాంతో ఆమె $64 కోల్పోయారు. ఇవి ఒక విలేఖరి సేవను ఉపయోగించినప్పుడు జరిగినవి; Instinct ఇతరులకు ఎంత విశ్వసనీయంగా పనిచేస్తుందో కొలిచే ఆధారాలు కావు.

ఏజెంట్ నిర్ణయానికి వచ్చిన తర్వాత ఏమి జరుగుతుందనేదే ఆచరణలో ముఖ్యమైన తేడా. ఇమెయిల్, సందేశాల వంటి యాప్‌లు, పరికరాలకు Instinct అనుసంధానమవుతుందని, వినియోగదారు తరఫున ఫోన్‌, కంప్యూటర్‌ ఉపయోగించగలదని సంస్థ చెబుతోంది. చాట్‌లో తప్పు సమాధానాన్ని పట్టించుకోకపోవచ్చు. కానీ కనెక్ట్ చేసిన ఖాతా ద్వారా పంపిన సందేశం, చేసిన కొనుగోలు లేదా రద్దు ఆ సేవా వ్యవస్థలో నిజమైన పరిణామాలకు దారితీయవచ్చు.

పెద్ద మార్పు

  • ఏం మారింది: Instinct ప్రైవేట్ బీటాలో, ఒక వచన అభ్యర్థన కనెక్ట్ చేసిన సేవలో చర్యకు దారితీయవచ్చు. ఆగస్టు 26న సవరించిన దాని ప్రస్తుత నిబంధనలు, కనెక్ట్ చేసిన డేటాను ప్రాప్యత చేయడానికి, సూచికలో చేర్చడానికి; వినియోగదారు ఇన్‌పుట్‌కు అనుగుణంగా చర్యలు తీసుకోవడానికి; వారి తరఫున ఒప్పందాలు కుదుర్చడానికి లేదా లావాదేవీలు చేయడానికి అనుమతిస్తాయి.
  • ఇది ఎందుకు ముఖ్యం: వినియోగదారు ఖాతాలో చర్య వల్ల ఛార్జీ లేదా నిబద్ధత ఏర్పడవచ్చు. WIRED విలేఖరి చెప్పిన ప్రకారం, వాపసు రావాలనే షరతు పెట్టినా Instinct DoorDash ఆర్డర్‌ను రద్దు చేసి ఆమెకు $64 నష్టం కలిగించింది; చర్యలు, వాటి పరిణామాలకు వినియోగదారే బాధ్యత వహిస్తారని Instinct నిబంధనలు చెబుతున్నాయి.
  • ఏమి గమనించాలి: ప్రతి చర్యకు ముందు కొత్తగా ఆమోదం తీసుకుంటారని బహిరంగ నిబంధనలు నిర్ధారించవు. సేవను డిస్‌కనెక్ట్ చేసినా, విడిగా తొలగింపు అభ్యర్థన చేసే వరకు ఇప్పటికే సూచికలో చేర్చిన డేటా అలాగే ఉంటుంది; ఆ తొలగింపు ఎప్పుడు పూర్తవుతుందో బహిరంగ పత్రాలు చెప్పవు.

ప్రాప్యత, చర్య, నిల్వ చేసిన ప్రతులు వేర్వేరు అనుమతులు

మొదటి హద్దు సమాచార ప్రాప్యత. Instinct ఉత్పత్తి పేజీ ప్రకారం, దాని సహాయకుడు ఉపయోగించగల సమాచారంలో ఇమెయిల్‌, సందేశాలు, తెర, ఆడియో, స్థాన వివరాలు ఉన్నాయి. దాని గోప్యతా విధానం ప్రకారం, వినియోగదారు ఇచ్చే అనుమతులపై ప్రాప్యత ఆధారపడి ఉంటుంది. వినియోగదారు అందించాలని ఎంచుకుంటే, వ్యక్తిగత సంభాషణలు, చెల్లింపు సమాచారం, ఖాతా ఆధారాలకు కూడా ప్రాప్యత ఉండవచ్చని అందులో ఉంది. కాబట్టి నిర్దిష్ట అనుసంధానం, దాని సెట్టింగ్‌లు ప్రాప్యతను పరిమితం చేయకపోతే, ఒక పనికి అవసరమైన ఒక్క అంశం కంటే ఎక్కువ సమాచారాన్ని ఖాతా కనెక్షన్‌ బయటపెట్టవచ్చు.

రెండో హద్దు చర్య తీసుకునే అధికారం. వినియోగదారు ఇన్‌పుట్‌కు తగినవిగా Instinct భావించే చర్యలు తీసుకోవచ్చని నిబంధనలు చెబుతున్నాయి. కనెక్ట్ చేసిన సేవలో కొనుగోలు జరిగితే, కొనుగోలుదారు వినియోగదారేనని నిబంధనలు పేర్కొంటాయి; కొనుగోలుకు సంబంధించిన వివాదాలను ఆ సేవతోనే పరిష్కరించుకోవాలని చెబుతాయి. ఆర్థిక, ఒప్పందపరమైన పరిణామాలతో సహా చర్యల ఫలితాలకు వినియోగదారే బాధ్యుడని కూడా పేర్కొంటాయి. ఇవి కంపెనీ ఒప్పందపరమైన వైఖరిని వివరిస్తాయి; ఒక నిర్దిష్ట వివాదం ఎలా పరిష్కారమవుతుందో తేల్చవు. షరతుతో ఇచ్చిన సూచన ఈ హద్దులో ఎలా తప్పిపోవచ్చో Schifferకు జరిగిన $64 నష్టం స్పష్టమైన ఉదాహరణ. వ్యాఖ్య కోరుతూ పంపిన అభ్యర్థనలకు Instinct స్పందించలేదని WIRED తెలిపింది.

మూడో హద్దు డేటా నిల్వ. సేవను డిస్‌కనెక్ట్ చేయడం వల్ల ఇప్పటికే సూచికలో చేర్చిన డేటాను Instinct ఉపయోగించడం ఆటోమేటిక్‌గా ఆగదని నిబంధనలు చెబుతున్నాయి; దాని workspace ద్వారా విడిగా తొలగింపు అభ్యర్థన చేయవచ్చు. మూడో పక్ష అనుసంధానాన్ని డిస్‌కనెక్ట్ చేసినంత మాత్రాన ముందే సేకరించిన డేటా తొలగిపోదని గోప్యతా విధానం కూడా చెబుతోంది. ఆగస్టు నివేదికలో, డిస్‌కనెక్ట్ చేసిన తర్వాత కూడా ఏజెంట్ తమ ఇమెయిల్‌ను సంగ్రహించగలిగిందని కొందరు వినియోగదారులు చెప్పినట్లు TechCrunch పేర్కొంది; బయటి డేటాను తొలగించే సాధనం తర్వాత జోడించబడిందని కూడా తెలిపింది. ఆ నివేదిక ప్రస్తుత నిబంధనలు, గోప్యతా విధానానికి ముందుది; రెండూ ఆగస్టు 26న సవరించబడ్డాయి. ప్రస్తుత పత్రాలు వినియోగదారులకు తొలగింపు మార్గాన్ని చూపుతున్నాయి. అయితే ప్రతి కాపీ ఎప్పుడు తొలగిపోతుందో బహిరంగంగా నిర్ధారించవు; ఆ వినియోగదారుల డేటాకు ఏమైందో మేము ధృవీకరించలేం.

మోడల్ శిక్షణ విషయంలోనూ ఆ తేదీ ముఖ్యం. నిబంధనల పాత సంచికలో విస్తృతమైన “శాశ్వతమైన, తిరుగులేని” లైసెన్స్ ఉందని TechCrunch పేర్కొంది. ఆ పదబంధం ప్రస్తుత బహిరంగ నిబంధనల్లో లేదు. అయినప్పటికీ, కొన్ని వినియోగదారు మెటీరియల్‌తో మోడళ్లకు శిక్షణ ఇవ్వడానికి ప్రస్తుత నిబంధనలు అనుమతిస్తున్నాయి; ఇకపై వర్తించే opt-out ఉంది, అయితే భద్రతా సమీక్ష కోసం గుర్తించిన మెటీరియల్‌కు మినహాయింపు ఉంది. Google Workspace APIల ద్వారా నేరుగా అందిన సమాచారాన్ని AI మోడళ్లకు శిక్షణ ఇవ్వడానికి లేదా వాటిని మెరుగుపరచడానికి ఉపయోగించరాదని గోప్యతా విధానం విడిగా చెబుతోంది. కనెక్ట్ చేసిన డేటా అంతా ఒకే శిక్షణ నియమానికి లోబడుతుందని భావిస్తే ఈ తేడా కనిపించదు.

ఆమోద నియంత్రణలు బహిరంగ పత్రాల్లో అంత స్పష్టంగా లేవు. చర్యలకు అవి అనుమతినిస్తున్నా, ప్రతి రద్దు, సందేశం లేదా కొనుగోలుకు ముందు వినియోగదారు ఆమోదం తప్పనిసరని చెప్పవు. ముందుగా అడగకుండానే Instinct ఇమెయిల్ పంపిందని ఒక పరీక్షకుడు చెప్పినట్లు TechCrunch నివేదించింది. అది ఒక ఘటనకు సంబంధించిన నివేదిక మాత్రమే; ప్రస్తుత సెట్టింగ్‌లపై క్రమబద్ధమైన పరీక్ష కాదు. విలువైన ఖాతాను కనెక్ట్ చేసే ముందు, ఉత్పత్తిలో ఏ చర్యలకు ఆమోదం అవసరం, ఖర్చు లేదా ఖాతాపై ఏ పరిమితులు పెట్టవచ్చు, ప్రాప్యతను ఎలా ఉపసంహరించాలి, సూచికలో చేర్చిన డేటాను ఎలా తొలగించమని కోరాలి అన్నది వినియోగదారు తెలుసుకోవాలి. బహిరంగ విధాన పాఠ్యం ఒక్కటే ఈ మూడింటికీ సమాధానం ఇవ్వదు.

ఒక The Atlanticలో వచ్చిన మునుపటి పరీక్ష పరిమిత డేటా బహిర్గతాన్ని ఎంచుకున్న ఉదాహరణ. Lila Shroff తాత్కాలిక ఫోన్ నంబర్‌ వాడారు, ముఖ్యమైన వ్యక్తిగత ఖాతాలను కనెక్ట్ చేయలేదు; పరీక్ష తర్వాత నిలిపివేసిన కొత్త వర్చువల్ కార్డును Instinctకు ఇచ్చారు. పూర్తిగా కనెక్ట్ చేసిన inboxతో ఏజెంట్ ఎలా పనిచేస్తుందో ఆ పద్ధతి పరీక్షించలేదు. ఏజెంట్‌కు ఎంత అధికారం ఇవ్వడానికి ఒక విలేఖరి సిద్ధపడ్డారో మాత్రం చూపిస్తుంది.

అనుకోని చెల్లింపులు లేదా సందేశాలు, మూడో పక్షాల తప్పుదారి పట్టించే సూచనల ప్రమాదాన్ని Instinct ప్రచురించిన గోప్యతా విధానం అంగీకరిస్తోంది. వినియోగదారు ఖాతా ద్వారా చర్యలు తీసుకుంటూనే ఏజెంట్ సందేశాలు చదివినప్పుడు ఇవి మరింత ప్రాధాన్యం సంతరించుకుంటాయి. WIRED కథనంలో ఉపయోగకరమైన వాపసు రావడానికి రద్దు చేసే ప్రాప్యత, అనుమతి అవసరమయ్యాయి; $64 నష్టం కూడా అదే రకమైన అప్పగించిన చర్యలో జరిగింది. ప్రతి కనెక్ట్ చేసిన సేవ ఏజెంట్ చేయగల పనులను పెంచుతుంది; వినియోగదారు తర్వాత సరిదిద్దాల్సిన పరిణామాలనూ పెంచవచ్చు.