GeekWireの9月20日の報道によると、Amazonは顧客がサイト上で買い物に使うMetaのMuseを遮断した。Amazonは同誌に対し、Museは契約も適切なエージェント識別もないまま動作し、顧客の認証情報の取得と保存にも懸念があると説明した。記事にはAmazonが提供した遮断画面のスクリーンショットが掲載された。Metaは日曜夜の公開時点までに回答していなかった。これはAmazon側の異議であり、情報漏えいが起きたという認定ではない。GeekWireの元記事
買い物客にとって、この中断は答えにくい問いを生む。商品を比較して注文するためにアシスタントを選んでも、その選択は店舗が受け入れるアシスタントを決めた時点でどれほど維持されるのか。
その答えによって、買い物エージェントが複数の店舗を比べやすくするのか、それとも顧客を別の承認済みパートナー網に閉じ込めるのかが決まる。新たな注文源を歓迎しつつ、商品説明や間違いへの対応を誰が担うか懸念する小規模小売業者にも関わる。顧客による委任、店舗の参加、支払いの承認は、それぞれ取引の異なる部分を扱う。
支払いの接続が機能しても、店側が応じるとは限らない
Metaは9月8日、専用のクラウドコンピューターで作業を続けられる個人向けエージェントとしてMuseを発表した。発表には買い物機能が含まれ、購入など重要な操作には承認が必要だとしている。これらは同社による製品説明であり、BIG CHANGEが行ったテストの結果ではない。MetaのMuse発表
Stripeは、支払い接続についてより具体的に説明している。9月8日の発表によると、米国の消費者はLinkをMuseに接続できる。Linkを導入している店舗では、エージェントは顧客が保存した優先支払い方法を使える。それ以外の店舗では、承認された購入に限って利用できる使い捨てバーチャルカードをLinkが発行する。顧客は会話内で合計金額を承認し、Museは元の支払い情報を受け取らない。Stripeの連携発表
保護された支払い方法を使えば、支払いに必要な情報をエージェントが知る範囲を減らせる。しかし、それだけで小売業者がエージェントのアクセスを認めるようにはならない。同様に、特定商品を買うよう顧客が指示しても、望ましくない自動処理とその依頼を店舗がどう見分けるかはわからない。ソフトウェアが試みる操作すべてが顧客の権限内だと決めつけずに、顧客の権限を認識する仕組みが必要だ。
以前のAIエージェントの支出権限に関する分析では、支出をめぐる管理策を調べた。今回の争いは、それより前にある依存関係を明らかにする。顧客が承認できる注文を作るには、アシスタントが買い物の手続きに十分アクセスできなければならない。
予算内で、修理の予約に間に合うよう交換用家電部品を買いたいという、仮の依頼を考えてみよう。アシスタントは、互換性のある正確な型番を見つけ、在庫と配送を確認し、購入手続きに進む必要がある。支払い指示の承認が役立つのは、その条件を満たしてからだ。検索中に遮断されれば候補となる製品が変わる可能性があり、決済時に遮断されれば、すでに委任した作業を顧客がやり直すことになる。
パスワードの保存と、モデルから見えるかは別の問題
Metaの技術説明によると、認証情報はユーザーの仮想マシン内にある安全なサービスに保存され、メインのエージェントの実行環境の外に置かれる。必要なときにブラウザーが受け取り、メインのエージェントには見えない。別の監督コンポーネントが操作を確認し、承認を求めることがある。Metaはまた、現行の運用管理では、サービスを運用する必要がある場合に会社が仮想マシンへアクセスすることを技術的に防いでいないとも述べている。機密コンピューティングを使う版は、将来の段階として提案されている。Metaのセキュリティと安全設計
パスワードをモデルのコンテキストから除けば、露出の経路を一つ制限できる。しかし、サービスはどこかで認証情報を保存または利用する必要がある。誰がその保存領域にアクセスできるか、セッションにどのアカウント権限を与えるか、アクセスをどう取り消せるかを確認しよう。一つのコンポーネントについての説明だけでは、すべての問いには答えられない。
技術設計文書があっても、導入済みシステムの実際の安全性を独立に証明するわけではない。有用な評価では、ログイン後にエージェントができること、誤解を招くページ内容への反応、予期しない操作を顧客が再構成できるかを調べる。これはモデルがパスワードを見たかどうかだけを確かめるより、幅広い調査となる。
Amazonが買い物関係を維持する商業的な利害があるからといって、セキュリティ上の懸念が誤りとは限らない。Metaが説明する保護措置も独立した検証が必要だ。実際のアクセスや障害に関する証拠のほうが、双方が望む相手の説明より役立つ。
Amazonも自社店舗の外での買い物をエージェントに勧めている
Amazonが公表したBuy for Meの説明では、ショッピングアプリを通じて外部ブランドのウェブサイトから商品を購入する。注文を顧客が確認し、配送、返品、カスタマーサービスはブランドが担当する。Amazonは、ブランドは参加するかどうかを選べるとしている。このページはベータ版の導入について述べたものなので、現在対応する全店舗の一覧として読むべきではない。AmazonによるBuy for Meの説明
この仕組みは、参加条件の吟味が必要な理由を示す。仲介者がわかっており、問題解決の方法に合意していれば、小売業者は自動注文を歓迎するかもしれない。一方、一般のブラウザーを通じて顧客アカウントを使う見慣れないエージェントには異議を唱える可能性がある。実装の違いに応じて異なる扱いをすることには、理由がありうる。
同時に、強い立場の仲介者に有利な選別的扱いが生まれる余地もある。大手小売業者ごとに個別の提携が必要なら、エージェントが利用できる範囲は、買い物客に見えない商業契約次第になる。妥当な製品を持つ小規模な開発会社は、大手プラットフォームと同等のアクセスを得にくいかもしれない。小売業者は新たな顧客を得る一方、推奨するアシスタントに依存する可能性もある。
私たちは、アクセス規則を検証できる程度に具体化すべきだと考える。識別、限定的な権限、信頼できる苦情処理手順の要件は、「承認済みパートナーは安全」という一般的な保証より評価しやすい。同等のエージェントに異なる扱いをする場合、小売業者は業務上の違いを説明すべきだ。そうすれば顧客は、測定可能な保護策と特定の取引関係への好みを見分けられる。
Cometの判決はMuseの争いを決着させていない
第9巡回区控訴裁判所は8月4日、Perplexityを相手取った仮差し止め命令を取り消し、さらなる審理のために事件を差し戻した。当時の記録では、連邦コンピューター詐欺・濫用法とカリフォルニア州の対応法に基づき必要となるアクセス要件をAmazonが立証する可能性は低いと判断した。Cometのブラウザーはユーザーの端末上で動作し、裁判所はAIツールを使ったユーザー自身がAmazonにアクセスしたと扱った。同時に、利用規約を通じてユーザーを規制するAmazonの権限は明確に維持した。控訴審の原判決
Museはホスト型の仮想マシンとブラウザーを使うため、同事件で説明された構成とは実質的に異なる。判決はMuseの立場を決めておらず、買い物エージェントがウェブサイトに入る普遍的な権利も認めていない。狭い範囲の判示は、法的な結果を予測する前に実装を調べるべき理由になる。
エージェントを使うサービスを計画する企業にとって、別製品に関する有利な判断を、自社のアクセス条件の理解の代わりにするのは危険だ。顧客向けの約束では、サービスが実際に機能する範囲と、アクセスを拒否された場合に何が起こるかを説明すべきだ。
「利用可能な最善」なら検索範囲を見えるようにする
買い物エージェントについて顧客が最も期待するのは、反復作業を減らせることだ。重視する条件を一度伝えれば、適した商品を比較し、最終購入の決定権を保てるべきだ。書類作業が難しい人や、正確な交換部品を調べる時間が少ない人には、信頼できる支援が大きく役立つ可能性がある。
その利点は、検索内容を正直に説明することにかかっている。重要な店舗をエージェントが利用できなくても推奨は役立つ場合があるが、検索範囲の不足によって主張できる内容が変わる。アクセスできる中で最安の商品が、顧客が直接購入できる最安の商品とは限らない。
仮の家電部品購入なら、どの店舗を確認し、どこにアクセスできず、配送込みの総額はいくらかを結果に示すとよい。最有力候補の購入に手動操作が必要なら、商品情報を残して、未完了の手順を説明する。アクセスできる店へ黙って切り替えると、顧客に余分な出費をさせたり、修理期限に間に合わなくなったりする可能性がある。
注文状況も同じように明確にすべきだ。購入者は、カートの準備、支払いの承認、注文の確定を区別できなければならない。失敗後に再試行を勧める前に、何か購入されたかをアシスタントが明示すべきだ。これは役立つサービスのための提案であり、Museで確認した機能ではない。
洗練された会話形式の回答は、店舗の一覧より制限された検索範囲を隠しやすい。以前のMuseの事業上の動機に関する分析では、アシスタントの推奨から誰が利益を得るかを検討した。アクセス制限も別の影響を加える。一部の販売業者は、比較の候補に入らないままかもしれない。
小売業者には完了した注文の証拠が必要だ
エージェントを受け入れるか判断する小規模事業者は、範囲が限られ、観察可能な用途から始めるとよい。重大な変更は明示的な確認を求めつつ、アシスタントに適切な商品を見つけて注文を準備させることができる。その後、購入完了数、商品間違い、サポート対応時間を確認し、アシスタントが作業を中断した事例も含めて評価できる。
エージェントの訪問回数を数えても、販売経路が役立つかはほとんどわからない。トラフィックが増えれば有料注文が増えることも、仲介者の約束を確認するためにスタッフへ質問する顧客が増えることもある。コンバージョンとともに返品も数えるべきだ。エージェントが配送・返金条件を正確に伝えるか、購入後に責任を負う販売業者を顧客が特定できるかも、小売業者には必要な情報となる。
顧客は、役立つ複数のアシスタントから選び、小売業者は理解しやすく相応のルールで受け入れられるようになるかもしれない。しかし、アクセスに一連の独占契約が必要なら、買い物客は制限されたネットワークに入り、それぞれが便利な個人向け助言として部分的な商品一覧を示すことになりうる。
今回報じられた遮断を受け、次の購入を委任する前に、顧客は具体的な質問をできる。アシスタントはどの店舗を確認し、アクセスを拒まれたとき何を知らせるのか。対象範囲が限られていても、明確に答えるサービスは役立つ。制限を隠せば、その推奨は信頼しにくくなる。
