Anthropic 관계자들이 미국 의원들에게 프런티어 AI의 안전과 보안을 위한 법안 초안을 설명했다고 로이터가 2026년 10월 16일 보도했다. 로이터는 이 작업을 아는 세 사람을 취재한 Politico 보도를 인용했다. 초안은 비공개로 회람됐다. 이 기사를 작성할 때 초안 원문을 확보할 수 없어, 보도된 조항을 법안 자체와 대조할 수 없었다. 보도된 설명 활동이 법안의 정식 발의나 법률 제정을 뜻하는 것은 아니다.

큰 변화

  • 달라진 점: 로이터에 따르면 Anthropic은 6월 정책 프레임워크를 발표한 뒤, 위험한 프런티어 모델을 중단시키는 판단 기준이 담겼다고 보도된 비공개 초안을 의원들에게 설명하고 있다. 해당 기준과 초안 문구는 아직 원문으로 확인되지 않았다.
  • 중요한 이유: 보도된 제안은 독립 평가자, 상무부, 연방 판사에게 서로 다른 역할을 부여한다. 모델 중단을 명시된 임박한 재앙적 피해로 제한하므로, 그 피해를 어떻게 정확히 정의하는지가 개발사와 대중에게 중요한 영향을 미친다.
  • 지켜볼 점: 초안이 공개되거나 법안이 정식 발의되면, 보도된 피해 기준과 상무부 역할, 다른 기관에 대한 제한이 실제 입법 문안에 유지되는지 확인할 수 있다. Anthropic의 더 넓은 6월 프레임워크 중 어떤 부분이 포함되는지도 드러날 것이다.

보도된 초안은 정부가 어떤 조건에서 모델을 중단시킬 수 있는지 정한다. 로이터가 전한 Politico 보도에 따르면, 모델이 10억 달러를 초과하는 피해를 일으키거나 50명을 초과하는 사람을 사망 또는 중상에 이르게 할 예측 가능하고 임박한 위험을 초래할 때만 출시나 사용을 차단할 수 있게 한다. 로이터는 그 위험이 생물무기의 제작 또는 방출, 개발사의 통제를 벗어난 모델, 사이버공격에서 발생해야 한다고 전했다. 이 수치는 보도된 개입 판단 기준을 설명한다.

보도된 법안은 어떻게 작동하나

이 로이터 보도에 따르면 독립 평가자는 상무부에 등록하고 AI 연구소와 그 프런티어 모델을 정기적으로 평가하게 된다. 연구소는 평가 결과에 따라 대가가 달라지지 않는다면 평가자에게 비용을 지급할 수 있다. 평가자가 보도에서 말하는 ‘명시된 임박한 위험’을 발견하면 평가를 마친 뒤 72시간 안에 상무부에 알려야 한다.

보도된 초안에 대한 로이터 설명에 따르면, 상무부는 위험을 확인한 뒤 판사에게 모델 중단을 요청할 수 있다. 로이터는 제안된 문구가 다른 미국 부처와 기관, 공무원이 모델의 개발·배포·내부 사용을 중단시키는 것을 금지한다고 전했다. 컬럼비아특구 연방지방법원의 연방 판사는 중단을 명령할 수 있다. 초안 원문이 없는 상태이므로 이러한 제한의 정확한 정의와 절차, 범위는 아직 확인되지 않았다.

Anthropic 대변인은 로이터에 법안이 회사의 Advanced AI Framework에 담긴 제안들을 반영한다고 말했다. 이 프레임워크는 2026년 6월 공개됐다. 대변인은 제안이 가장 강력한 모델의 위험한 배포를 정부가 차단하거나 억제할 수 있게 하고, 개발사에 프런티어 모델 시험, 결과 공개, 독립 평가를 요구한다고 설명했다. 로이터는 상무부가 논평 요청에 즉시 답하지 않았다고 밝혔다.

Anthropic의 공개 프레임워크는 실제로 무엇을 말하나

이 19쪽 분량의 6월 프레임워크는 대형 프런티어 모델 개발사의 의무를 제안한다. 제안된 개발사 적용 기준은 두 부분으로 이뤄진다. 훈련에 10^25 FLOP을 초과하는 연산량이 필요한 모델과 함께, AI에서 발생하는 연간 매출이 5억 달러를 초과하거나 연간 AI 연구개발 지출이 10억 달러를 초과해야 한다. 이 공개 문서의 10억 달러 지출 수치는 어떤 개발사를 적용 대상으로 삼을지에 관한 것이다. 비공개 초안에 들어 있다고 보도된 10억 달러 피해 수치와는 별개다.

프레임워크는 적용 대상 개발사에 생물무기, 공격적 사이버 작전, 통제 상실, 이러한 위험을 증폭시킬 수 있는 자동화된 연구개발을 평가하도록 요구한다. 안전 프레임워크와 시스템 카드 공개, 최소 6개월마다 위험 보고, 중대한 안전 사고를 발견한 뒤 15일 안에 지정 기관에 보고할 것을 요청한다. 자격 있는 독립 평가자가 모델과 삭제·가림 처리하지 않은 위험 보고서에 정기적으로 접근할 수 있도록 하고, 평가자의 검토 결과 공개와 이해충돌 방지 장치를 둘 것을 제안한다.

집행 측면에서 프레임워크는 허위 진술이나 평가·공개·보고 의무 불이행에 대한 처벌을 제안한다. 최종 설계 하나를 정하는 대신, 기관이 법원 명령을 신청하는 방안 등 안전하지 않은 배포를 중단시킬 여러 가능성을 제시한다. 정부 조치에 대한 논의에는 광범위한 재량을 막는 보호 장치와 사법심사 경로가 포함돼 있다. 개발사 의무를 넘어 생물학적·사이버 회복탄력성에 투자할 것도 권고한다. 로이터 보도만으로는 이 권고 중 어떤 것이 회람된 초안에 들어 있는지, 포함된 것이 있기는 한지 알 수 없다.

여기서 이용할 수 있는 자료로는 초안의 정확한 문구, 법안을 발의할 의원의 존재, 주법 등의 문제를 다루는 방식이 아직 알려지지 않았다. Anthropic의 6월 프레임워크는 엄격한 연방 체제 아래에서 연방법이 주법에 우선해 주법 적용을 배제하는 범위에 좁은 한계를 둘 것을 주장하지만, 로이터는 이 문제에 대한 초안의 입장을 확인하지 않았다.

출처 및 추가 읽을거리