ブレンダン・ローパーのペンネームが隅に記されたAI生成の漫画が出回ったが、本人は描いていなかった。10月5日のニーマン・ラボの報道で、ローパーは自分の作品かどうかを尋ねる連絡を受けたと話した。

記者のアンドリュー・デックはオンラインに投稿された類似画像を見つけ、自らChatGPTでニューヨーカー風の漫画を生成した。これらの情報源を通じ、同誌の漫画家15人超に関連する署名を記録した。これは見つかった事例に登場する作家の数であり、ChatGPTが実在の署名を生成する頻度や、同様の漫画が流通する数を示すものではない。

大きな変化

  • 何が変わったか：ニーマン・ラボは、作家本人が描いていないのに、実在する漫画家のものとみられる署名が付いたChatGPT生成の漫画を記録した。出力は雑誌の視覚的な作風をまねるだけでなく、生成した絵に実名の作家の身元を結び付けた。
  • なぜ重要か：元の文脈から切り離して漫画が共有されると、署名も一緒に広がる可能性がある。ローパーはニーマン・ラボに、署名入りの画像を自分が作ったのか尋ねられたと話した。作家や出版社にとって差し迫った問題は誤った作者表示だ。署名だけでは、モデルがどう学習したのか、法律違反があったのかは分からない。
  • 今後注視する点：デックがOpenAIに知らせた後、ChatGPTは第三者コンテンツとの類似性について警告を表示し始めたが、署名付きの出力が一部続いたとデックは報告した。それらが止まるかどうかは、OpenAIの対応を測る具体的な指標になる。デックの報道時点で、同社は原因を説明せず、修正完了も発表していなかった。

報道で検証されたこと

デックによると、ChatGPTへのプロンプトから、ジョージ・ブース、リザ・ドネリー、エリス・ローゼン、ソール・スタインバーグなどに関連する署名付き漫画が生成された。また、オンラインフォーラムで他の寄稿者の名前が付いた例も見つけた。結果は一様ではなく、署名のない出力もあれば、架空のペンネームが付いたものもあった。OpenAIに知らせた後、ニューヨーカー風の依頼で第三者コンテンツとの類似性を警告する表示が出始めたという。報道時点でも、生成された漫画の一部には実在の漫画家の名前が残っていたと述べた。

これはデックが報告した検証であり、BIG CHANGEの実験ではない。報道には、プロンプト一式、モデルのバージョン、サンプル数、署名付き出力の割合が示されていない。こうした情報がないため、利用者やバージョン全体における現在の挙動について断定できる範囲は限られる。

ローパーの話は、共有画像に署名が現れた結果も示す。見た人たちは彼に、自分が作ったのかと尋ねた。漫画家のエミリー・フレークはデックに、生成画像は複数の作家の作風を混ぜたように見えた一方、署名には自分のペンネームが再現されていたと話した。この違いは作家にとって重要だ。漫画は特定の人物の作品とされずにジャンルに似ることもあるが、署名は作者の帰属を明示する。

OpenAIはニーマン・ラボに、バグや意図しないモデルの挙動に関する報告を歓迎し、対処に役立てると述べた。声明は原因を説明せず、修正完了を示さず、時期も明らかにしなかった。デックは、通知後に警告が表示され、その後の確認でも署名付きの出力が続いたと報告した。

署名だけでは証明できないこと

OpenAIが2024年に発表したコンデナストとの提携についての告知は、この取り決めにより The New YorkerなどのブランドのコンテンツをOpenAI製品内に表示するとしている。契約内容は公開しておらず、漫画作品がモデル学習用にライセンスされたとも述べていない。New Yorkerの広報担当者はニーマン・ラボに、コンデナストは大規模言語モデルの開発者に漫画を学習させる許可を与えていないと話した。デックはまた、寄稿漫画家の契約ひな型を確認し、AI学習ライセンスを認めていなかったと報告した。これらは権利についての別個の説明だ。見える署名だけでは、モデルがそのパターンをどう得たのか、契約が何を対象にするのかは判断できない。

デックは署名が学習資料にどう入った可能性があるかOpenAIに尋ねたが、回答はなかったと報告した。コーネル大学法学教授のジェームズ・グリメルマンに、パブリシティ権を含む法的な主張の可能性について取材した。そこで示されるのは可能な請求と障壁であり、これらの画像についての裁判所の判断ではない。個々の漫画が誰かの権利を侵害するかは未解決だ。