브렌던 로퍼의 필명이 모서리에 적힌 AI 생성 만화가 퍼졌지만, 그는 그 그림을 그리지 않았다. 10월 5일 니먼 랩 보도에서 로퍼는 사람들이 자신이 그린 작품인지 물어 연락해 왔다고 말했다.

기자 앤드루 덱은 온라인에 게시된 비슷한 이미지를 찾았고, 직접 ChatGPT로 뉴요커풍 만화를 생성했다. 이 두 출처에서 잡지 만화가 15명 넘게 관련된 서명을 기록했다. 이는 그가 찾은 사례에 등장한 작가 수이지, ChatGPT가 실제 서명을 얼마나 자주 만들거나 그런 만화가 얼마나 유통되는지를 측정한 수치는 아니다.

큰 변화

  • 달라진 점:니먼 랩은 작가들이 만들지 않은 ChatGPT 생성 만화에 실제 만화가의 것으로 보이는 서명이 들어간 사례를 기록했다. 결과물은 잡지의 시각적 스타일을 모방하는 한편, 생성된 그림에 실명 작가의 정체성을 부여했다.
  • 중요한 이유:원래 맥락과 분리해 만화를 공유할 때 서명도 함께 퍼질 수 있다. 로퍼는 서명된 이미지를 자신이 만들었는지 사람들이 물었다고 니먼 랩에 말했다. 작가와 출판사에 당면한 문제는 잘못된 귀속이다. 서명만으로 모델이 이를 어떻게 학습했는지, 법을 위반했는지는 입증되지 않는다.
  • 지켜볼 점:덱이 OpenAI에 알린 뒤 ChatGPT는 제3자 콘텐츠와의 유사성에 대해 경고하기 시작했지만, 서명이 있는 결과물 일부는 계속 나왔다고 그는 전했다. 그런 결과가 멈추는지는 OpenAI의 대응을 가늠할 구체적 지표다. 덱의 보도 당시 회사는 원인을 설명하지 않았고 수정 완료도 발표하지 않았다.

보도가 살펴본 테스트

덱에 따르면 ChatGPT 프롬프트로 조지 부스, 리자 도넬리, 엘리스 로젠, 솔 스타인버그 등과 관련된 서명이 있는 만화가 생성됐다. 온라인 포럼에서도 다른 기고자의 이름이 들어간 사례를 찾았다. 결과는 제각각이었다. 서명이 없는 결과도 있었고, 만들어 낸 필명이 붙은 경우도 있었다. OpenAI에 알린 뒤 뉴요커풍 요청에 제3자 콘텐츠와의 유사성을 경고하는 표시가 나타나기 시작했다고 그는 전했다. 보도 당시 생성된 만화 일부에는 여전히 실제 만화가 이름이 들어갔다고 말했다.

이는 덱이 보도한 테스트이지 BIG CHANGE의 실험이 아니다. 보도에는 전체 프롬프트 묶음, 모델 버전, 표본 크기, 서명 결과 비율이 제시되지 않았다. 이런 세부 정보가 없어 사용자나 버전 전반의 현재 동작을 단정하기 어렵다.

로퍼의 설명은 공유된 이미지에 표식이 나타났을 때의 결과도 보여 준다. 보는 사람들이 자신이 만든 것이냐고 물었다. 만화가 에밀리 플레이크는 생성된 그림이 여러 작가의 스타일을 섞은 듯했지만 서명에는 자신의 필명이 재현됐다고 덱에게 말했다. 이 구분은 작가들에게 중요하다. 만화는 특정 인물의 작품으로 귀속되지 않은 채 장르를 닮을 수 있지만, 서명은 그 귀속을 명시한다.

OpenAI는 버그와 의도치 않은 모델 동작을 해결할 수 있도록 관련 제보를 환영한다고 니먼 랩에 밝혔다. 성명은 원인을 설명하거나 완료된 수정 사항을 밝히지 않았고 일정도 제시하지 않았다. 덱은 제보 뒤 경고가 나타났으며 이후 점검에서도 서명이 있는 결과가 계속됐다고 보도했다.

서명으로 입증할 수 없는 것

콘데 나스트와의 제휴에 관한 OpenAI의 2024년 발표는 이 약정이 The New Yorker를 비롯한 브랜드 콘텐츠를 OpenAI 제품에 표시한다고 밝혔다. 계약을 공개하지 않았고 만화 작품이 모델 학습용으로 허가됐다고도 하지 않았다. New Yorker 대변인은 콘데 나스트가 어떤 대규모 언어 모델 개발자에게도 자사 만화로 학습하도록 허가하지 않았다고 니먼 랩에 말했다. 덱은 기고 만화가의 표준 계약서를 살펴봤으며 AI 학습 라이선스를 허용하지 않았다고도 전했다. 이는 권리에 대한 별개의 설명이다. 눈에 보이는 서명만으로 모델이 그 패턴을 어떻게 얻었는지, 어떤 계약이 무엇을 포함하는지 판단할 수 없다.

덱은 서명이 학습 자료에 어떻게 들어갔을 수 있는지 OpenAI에 물었지만 답을 받지 못했다고 보도했다. 코넬대 법학 교수 제임스 그림멜만과 퍼블리시티권을 포함한 법적 이론의 가능성을 논의했다. 이 논의는 가능한 청구와 장애물을 다룰 뿐, 해당 이미지에 대한 법원 판결은 아니다. 특정 만화가 누군가의 권리를 침해했는지는 아직 해결되지 않았다.