OpenAI는 내부 보고서를 준비하고 기사를 다듬으며 일부 기만 자료를 만드는 데 ChatGPT를 사용한 러시아·이란 영향력 작전 관련 계정 묶음을 차단했다고 밝혔다. 10월 8일 공개한 설명은 가짜 기관과 신원을 이용한 캠페인을 묘사하지만, 실제 대중에게 미친 규모는 불확실한 상태로 남겨 둔다.

큰 변화

  • 보고서는 ChatGPT를 더 광범위한 영향력 작업 흐름의 한 도구로 제시하며, 가장 분명한 역할은 내부 보고와 편집이었다.
  • OpenAI는 조작된 자료 일부가 온라인에 등장했고 이란 측 운영자가 실제 매체에 가짜 필명으로 기사를 실었다고 밝혔다. 이러한 발견의 주된 근거는 회사 자체 설명이다.
  • 운영자들이 주장한 도달 범위는 신뢰하기 어려웠다. OpenAI는 일부 주장은 확인됐고 다른 주장은 그렇지 않았으며, 운영자 자체 지표만으로 독자 영향을 알 수 없다고 밝혔다.

OpenAI가 “Dark Clark”이라고 명명한 러시아 작전은 회사 설명에 따르면 주로 캠페인 보고서를 작성하고 갱신하는 데 ChatGPT를 사용했다. OpenAI는 운영자들이 일부 가짜 문서, 오디오 대본, 메시지 준비에도 모델을 썼다고 밝혔다. 이 작전은 “Mia Clark”이라는 허구 인물이 내세운 Social Research Center라는 “싱크탱크”를 통해 활동한 것으로 추정된다. 라틴아메리카에서 고용된 사람들은 누가 이 조직을 통제하는지 몰랐을 수 있다.

OpenAI는 조사관들이 일치하는 콘텐츠 사례와 팩트체커 또는 당국자의 보도를 발견했다고 밝혔다. 한 사례는 에콰도르가 우크라이나에서 싸울 청년을 모집한다는 조작 영상이었다. 에콰도르 팩트체크 단체 Lupa Media는 별도로 Teleamazonas의 해당 보도가 존재하지 않았고, 영상에 도난당한 소셜미디어 사진이 쓰였으며 오디오는 AI로 생성됐고 언급된 회사는 유효하게 등록되지 않았다고 보도했다. 이는 유사한 자료의 존재와 조작을 뒷받침하지만, 누가 의뢰했는지를 독립적으로 밝혀 주거나 OpenAI 설명의 모든 요소를 입증하지는 않는다.

OpenAI에 따르면 “Bogus Bylines”라는 이란 작전은 장문 기사와 제안서를 편집하고, 연락 이메일을 작성하며, 소셜미디어 댓글 묶음을 만들고, 내부 보고서를 다듬는 데 ChatGPT를 사용했다. 회사는 2025년 7월부터 2026년 10월까지 약 12개 매체에서 일곱 개의 허구 기자 신원으로 게시되거나 전재된 기사를 거의 100건 확인했다고 밝혔다. 이 수치는 OpenAI 조사 결과다. 이 기사에서 검토한 독립 보도는 회사의 발견을 전하지만 모든 필명이나 게시물을 별도로 감사하지는 않았다.

보고서는 자료 제작과 배포를 명확히 구분한다. OpenAI는 이란 작전의 소셜 댓글이 짧은 간격으로 게시됐다고 밝혔지만 모델이 게시를 자동화했다는 증거는 찾지 못했다고 했다. 회사는 댓글 다수가 반응을 거의 얻지 못했다고 설명한다. 운영자의 내부 보고서는 답글 자체의 조회수가 아니라 답글을 단 원 게시물의 조회수를 세었고, 명시되지 않은 기간의 총계를 비교했다. 이 방법으로는 캠페인이 조회수를 유발했는지 따로 판단할 수 없다.

OpenAI는 Breakout Scale에서 러시아 작전을 범주 5, 이란의 기사 배치 활동을 범주 4로 평가했다. Brookings가 2020년에 제안한 이 척도는 주류 매체 진입이나 고위급 관심·구체적 행동 유발 여부 등 플랫폼과 커뮤니티 전반에서 관찰되는 확산을 기준으로 영향력 작전을 분류한다. 이 등급은 OpenAI의 평가이지, 메시지를 믿거나 행동을 바꾼 사람 수에 대한 독립 측정이 아니다.

이 구분은 생성형 AI가 무엇을 바꾸었는지 이해하려는 독자에게 중요하다. 보고서는 작성, 편집, 번역, 대본 작성, 내부 요약을 돕는 사용을 설명한다. ChatGPT가 독자적으로 캠페인을 운영하거나 표적을 고르거나 배포를 통제했다는 점은 보여주지 않는다. 허위 신원, 매체 제안, 소셜 계정, 게시에는 사람과 기존 인프라가 쓰였다. 한 사례에서 운영자는 모델로 가짜 편지를 다듬고 번역했으며, 이후 그와 일치하는 이미지와 오디오가 온라인에 나타났다. 이 순서는 텍스트 모델이 사람이 주도하는 제작 과정을 어떻게 지원할 수 있는지 보여주지만 최종 자료의 모든 부분을 모델이 만들었다는 뜻은 아니다.

따라서 플랫폼과 발행사가 마주한 더 어려운 문제는 기계가 쓴 문장을 찾아내는 것만이 아니라 출처와 조정 과정을 파악하는 일이다. 세련된 제안서는 일반적인 글쓰기 지원일 수 있지만, 허구의 필명, 숨겨진 후원자, 조직적 배치와 연결되면 위험이 달라진다. 실제 직원도 자신이 통제 구조를 모르는 조직을 위해 자신도 모르게 진짜 보도를 만들 수 있다. Social Research Center에 대한 OpenAI 보고서의 설명은 이 가능성을 특히 중요하게 만들지만, 그 규정은 회사의 증거에 기반한다.

뉴스룸의 실무 점검은 익숙하다. 저자의 신원과 조직 통제권을 확인하고, 독립적으로 확인한 채널로 출처에 연락하며, 주장과 문서의 원본을 살피고, 참여 지표를 영향력의 증거로 취급하지 않는 것이다. 보고서는 이런 점검이 어떻게 우회되거나 조작될 수 있는지 사례를 제시하지만 노출 규모나 이후 정치적 효과를 완전히 측정하지는 않는다.

OpenAI는 해당 계정 묶음을 차단하고 관련 당국과 업계 파트너에게 정보를 공유했다고 밝혔다. 공개 보고서는 회사 조사에 대한 상세한 설명이지만, 분류와 캠페인 귀속은 OpenAI의 조사 결과로 읽어야 한다. 독립 팩트체크는 일부 구체적 사례를 뒷받침한다. 전체 도달 범위, 운영자의 완전한 통제 구조, 지속적인 영향은 OpenAI가 관찰했다고 한 활동보다 불확실하다.

출처 및 추가 읽을거리