《衛報》於 10 月 1 日報導,ChatGPT 和 Grok 依照要求,從一名女性的 AI 生成影像中移除了 hijab。Gemini 起初拒絕,但在要求改寫成讓女性看起來「更西方」後,生成了未戴 hijab 的影像。該報也測試了一張戴著頭巾的錫克教男性合成影像:據報導,Gemini 拒絕直接編輯,但在同樣改寫要求後移除了頭巾。這些是《衛報》的觀察結果,並非 BIG CHANGE 進行的測試。
直接要求與改寫要求之間的差異很重要,因為影像中的人物是合成的。據《衛報》報導,Gemini 首次拒絕的理由是,未經同意改變真人外貌可能帶來風險;但這個理由並不適用於該測試影像。即使沒有真人可供確認其同意與否,移除宗教頭巾的要求仍可能引發對人物呈現方式的疑問。
重大變化
- 發生了什麼:在《衛報》報導的測試中,ChatGPT 和 Grok 接到直接要求後移除了 hijab。Gemini 拒絕直接要求,但在「更西方」的要求後,不僅移除了 hijab,也從另一張合成影像中移除了頭巾。一次測試不足以證明這是常態行為。
- 為何重要:若拒絕理由是取得真人同意,對選擇或評估影像編輯工具的人來說,這並不能保證:當措辭改變時,工具仍會保留合成人物的宗教服飾。Gemini 對兩種不同要求的回應,呈現了這項實際落差。
- 後續觀察重點:Google 表示,當系統偵測到可能違反政策時,Gemini 可能會移除影像。產品上值得關注的是,這項既有檢查如何處理針對合成人物宗教服飾的直接要求與改寫要求。Google 的說明未交代細節;《衛報》也未提供可靠比較所需的版本、完整提示詞與重複測試次數。
已公布的規則涵蓋哪些情況
OpenAI 使用政策自 2025 年 10 月 29 日起生效,禁止騷擾、未經同意的親密內容,以及未經同意使用某人的肖像等特定行為。其服務條款於 2026 年 9 月 29 日更新,另要求使用視覺功能重現某人的肖像時,必須取得明確同意並擁有必要權利。《衛報》使用的是合成人物,因此僅憑這些針對真人的條款,無法判定報導中的 hijab 編輯是否違反 OpenAI 規則。
Google 生成式 AI 禁止用途政策最後修改於 2024 年 12 月 17 日,限制未經同意的親密影像、侵犯隱私、仇恨與騷擾。其Gemini 說明頁面將未經同意使用他人影像列為可能侵犯隱私的例子。Google 的影像編輯說明介紹本機編輯和上傳功能,同時提醒系統偵測到可能違規時,影像可能遭移除。這些頁面都沒有承諾每次編輯合成人物的宗教服飾都會被拒絕;報導中的回應也無法證明 Google 的書面政策在所有情況下都允許這類編輯。
xAI 可接受使用政策自 2026 年 8 月 14 日起生效,禁止將真人肖像改成親密或性相關情境,並列有其他隱私與濫用限制。其未經同意親密內容通報政策日期為 2026 年 5 月,同樣針對親密或性相關情境中的可識別人物。這些規則處理的並非《衛報》合成 hijab 影像所屬的類別,也無法證明 Grok 報導中的輸出符合規範,或能代表其他要求的結果。
《衛報》也詢問了 Claude。Claude 表示無法進行該影像編輯,並會拒絕移除真人女性的 hijab。Anthropic 產品說明日期為 2026 年 3 月 16 日,指出 Claude 可以檢視上傳影像,但不像影像生成工具那樣產生照片或插畫。因此,在這項比較中,Claude 的回答不能被視為與其他產品輸出同類型的成功影像編輯拒絕案例。
測試起因是一張真人照片
《衛報》表示,這項測試源於法國政治人物 Julien Odoul 張貼了一張經修改、呈現一位戴 hijab 真人女性的照片。Anadolu Agency 於 9 月 6 日報導,Odoul 分享的版本中,該女性未戴頭巾且穿著不同。該通訊社表示,無法確認女性是否同意。《衛報》也無法確認使用了哪種軟體或由誰編輯。這起真人事件是該報測試的背景;其合成輸入並未重現照片事件的情況。
《衛報》公開的說明沒有提供完整提示詞序列、影像檔案、模型版本、帳戶設定,或每項產品的重複測試次數。這限制了工具間的比較,也使讀者無法將實驗重現為基準測試。在《衛報》描述的對話中,合成影像中的宗教頭巾可能遭移除,其中一次拒絕也在要求人物看起來「更西方」後改變。供應商公開規則指出了相關危害;但光看規則文字,無法確認防護措施的實際表現。
資料來源與延伸閱讀
- 《衛報》於 10 月 1 日的測試是聊天機器人回應的唯一來源。BIG CHANGE 未重現測試;文章也未公布足夠的設定與提示詞細節,無法用來進行基準比較。
- OpenAI 使用政策與服務條款說明現行的騷擾、親密內容與肖像規則,但無法驗證《衛報》的測試結果,也無法判定這起合成影像案例。
- Google 禁止用途政策、Gemini 政策執行說明與影像編輯說明說明政策範圍與已記載的編輯功能,不代表執行一致性。
- xAI 可接受使用政策與親密內容通報政策列出針對真人隱私與性相關情境的限制,並非對 Grok 行為的評估。
- Anthropic 關於 Claude 影像功能的說明解釋為何在這項比較中,Claude 並非同等的影像編輯工具。
- Anadolu Agency 於 9 月 6 日的報導獨立報導了另一宗法國照片事件,並指出女性是否同意尚未確認。



