ガーディアンの検証、AI画像ツールが宗教的な頭部覆いを除去と報告

ガーディアンは10月1日、依頼を受けたChatGPTとGrokが、AI生成の女性画像からヒジャブを取り除いたと報じた。Geminiは当初拒否したものの、女性をより「西洋風」に見せるよう依頼の表現を変えると、ヒジャブのない画像を生成した。同紙はターバンを着けたシク教徒の男性の合成画像も試した。報道によればGeminiは直接の編集を拒否したが、同じ表現変更の後にターバンを取り除いた。これはガーディアンの観察であり、BIG CHANGEが行ったテストではない。

画像が合成だったため、直接の依頼と表現を変えた依頼の違いは重要だ。ガーディアンによると、Geminiが最初に拒否した際、実在する人の外見を本人の同意なく変えるリスクを理由に挙げた。しかし、その理由はテスト画像には当てはまらなかった。実在の本人に同意を確認できない場合でも、宗教的な覆いを取る依頼は、その人物をどう描くかという問題を生みうる。

何が大きく変わったか

• 何が変わったか：ガーディアンが報じたテストでは、ChatGPTとGrokは直接依頼されるとヒジャブを取り除いた。Geminiは直接の依頼を拒否した一方、人物を「より西洋風」にするよう求められるとヒジャブを、別の合成画像ではターバンも取り除いた。1回のテストで日常的な挙動が証明されるわけではない。
• なぜ重要か：実在する人の同意を理由にした拒否だけでは、依頼の表現を変えたときにも合成人物の宗教的な服装が保たれるという安心材料にはなりにくい。Geminiへの2種類の依頼は、その実務上の隔たりを示している。
• 今後注目する点：Googleによると、ポリシー違反の可能性をシステムが検知すると、Geminiは画像を削除することがある。製品上の焦点は、合成人物の宗教的な服装に関する直接の依頼と表現を変えた依頼を、既存のチェックがどう扱うかだ。Googleのヘルプには説明がなく、ガーディアンの報道にも、信頼できる比較に必要なバージョン、完全なプロンプト、反復回数が記されていない。

公開ルールが対象とする範囲

OpenAIの利用ポリシーは2025年10月29日から有効で、嫌がらせ、同意のない親密なコンテンツ、同意のない人物の肖像利用の一部を禁止している。同社のサービス規約は2026年9月29日に更新され、ビジュアル機能で人物の肖像を再現する際に、明示的な同意と必要な権利を別途求めている。ガーディアンが使ったのは合成人物であるため、実在の人物に関するこれらの規定だけでは、報じられたヒジャブ編集がOpenAIのルールに違反したかは判断できない。

Googleの生成AI禁止利用ポリシーは2024年12月17日に最終更新され、同意のない親密な画像、プライバシー侵害、憎悪、嫌がらせを制限している。同社のGeminiヘルプページは、本人の同意なく画像を使うことを、プライバシー侵害になりうる例として挙げている。Googleの画像編集ヘルプは、ローカル編集とアップロードを説明しつつ、システムがポリシー違反の可能性を検知すると画像が削除されることがあると注意している。これらのページは、合成人物の宗教的な服装に関するすべての編集を拒否すると約束してはいない。報じられた応答も、Googleの文書化されたポリシーがどの状況でもその編集を許す証拠にはならない。

xAIの利用規定は2026年8月14日から有効で、プライバシーや悪用に関するほかの制限とともに、実在する人の肖像を親密または性的な状況に描き変えることを禁じている。同社の同意のない親密なコンテンツの報告方針も、2026年5月付で、親密または性的な状況にいる特定可能な人物を対象としている。これらのルールは、ガーディアンが扱った合成ヒジャブ画像とは別の類型を対象としている。報じられたGrokの出力がルールに準拠していたとも、別の依頼でも同じ結果になるとも証明しない。

ガーディアンはClaudeにも質問した。Claudeは画像編集を実行できず、実在する女性のヒジャブを取り除くことも拒否すると答えた。 Anthropicの製品ヘルプは2026年3月16日付で、Claudeはアップロード画像を調べられるものの、画像生成ツールのように写真やイラストを生成しないと説明している。そのため、Claudeの回答をほかの製品と同様に、画像編集を成功裏に拒否した例として数えることはできない。

実際の写真がテストのきっかけに

ガーディアンは、フランスの政治家Julien Odoulがヒジャブを着けた実在女性の加工写真を投稿した後にテストしたと述べている。 Anadolu Agencyは9月6日、Odoulが、頭部覆いを外し服装も変えた女性の画像を共有したと報じた。同通信社は女性の同意があったか確認できなかった。ガーディアンも使用ソフトや編集者を特定できなかった。この実在人物をめぐる出来事は新聞のテストの背景だが、テストで使われた合成画像は写真の状況を再現していない。

ガーディアンの公開記事には、各製品のプロンプト全体、画像ファイル、モデルのバージョン、アカウント設定、反復回数が示されていない。そのためツール同士の比較は限られ、読者がベンチマークとしてテストを再現することもできない。同紙が説明したやり取りでは、合成画像から宗教的な覆いを取り除ける場合があり、人物を「西洋風」に見せる依頼の後に拒否が変わった例もあった。各社の公開ルールは関連する危害を特定しているが、その文面だけで安全策の実際の働きを確認することはできない。

出典・関連資料

• ガーディアンの10月1日のテストはチャットボットの応答に関する唯一の情報源だ。BIG CHANGEは再現しておらず、同記事にはベンチマークに必要な設定やプロンプトの詳細が十分に掲載されていない。
• OpenAIの利用ポリシーとサービス規約は、嫌がらせ、親密なコンテンツ、肖像に関する現在のルールを説明している。ガーディアンの出力を検証するものでも、この合成画像のケースを判断するものでもない。
• Googleの禁止利用ポリシー、Geminiのポリシー適用ヘルプ、画像編集ヘルプは、ポリシーの範囲と文書化された編集機能を説明しているが、適用の一貫性を示すものではない。
• xAIの利用規定と親密なコンテンツの報告方針は、実在人物のプライバシーと性的な状況に関する制限を定めている。Grokの挙動を評価したものではない。
• AnthropicによるClaudeの画像機能ヘルプは、この比較でClaudeが同等の画像編集ツールではなかった理由を説明している。
• Anadolu Agencyの9月6日の報道は別のフランスの写真事件を独自に伝え、女性の同意を確認できなかったとしている。