AI-translated from English; not yet reviewed by a fluent editor.

# Sanders와 Casar, 미국에서 AI 초지능 금지 및 첨단 모델 일시 유예 법안 제안

> 발의된 Sanders–Casar 법안은 첨단 모델의 일시 유예를 제안하고, 초지능과 열거된 선행 능력, 그리고 이를 만들어 내도록 예측 가능하게 수정될 수 있는 시스템을 금지하는 내용을 담았다. 아직 법률은 아니다.

By BIG CHANGE Editorial

Published: 2026-09-27T05:43:31.966Z
Updated: 2026-09-27T05:43:31.966Z
Canonical: https://bigchange.ai/blog/sanders-casar-ai-superintelligence-ban-bill

![An empty U.S. Senate Chamber viewed from the rear gallery, with curved rows of wooden desks leading to the presiding officer’s desk.](https://bigchange.ai/api/media/file/sanders-casar-senate-chamber-hero-v1.png)
AI-generated conceptual illustration by BIG CHANGE.

상원의원 Bernie Sanders와 하원의원 Greg Casar는 [9월 23일 발표에서](https://casar.house.gov/media/press-releases/news-casar-sanders-introduce-legislation-create-new-federal-agency-ban) 인공 초지능 금지법을 발의했다고 밝혔다. 이들이 공개한 [19쪽 분량의 법안 전문](https://www.sanders.senate.gov/wp-content/uploads/Ban-Artificial-Superintelligence-Act.pdf)에서는 인공 초지능을 금지하고, 새 연방 부처가 안전 규칙을 마련하는 동안 특정 첨단 모델의 개발을 일시 중지하며, 해당 모델을 이용자에게 공개하기 전에 승인을 받도록 제안한다. 이는 입법 제안이다. 어떤 제한도 현재 시행 중인 것은 아니다.

## 큰 변화

- **달라진 점:** Sanders와 Casar는 [9월 3일 법안 발의 계획 발표](https://www.sanders.senate.gov/press-releases/news-sanders-casar-introduce-legislation-to-ban-artificial-superintelligence-and-temporarily-pause-advanced-ai-development/)에서 9월 23일 실제 발의 발표로 나아갔다. 공개된 법안에는 제안된 정의와 집행 권한이 구체적으로 담겼다.
- **중요한 이유:** 제안은 아직 정의되지 않은 미래의 초지능에만 한정되지 않는다. 열거된 선행 능력을 갖춘 시스템도 금지하고, 특정 연산량 기준을 넘어 학습된 첨단 모델은 일시 중지한다. 의회가 이 내용을 법제화하면 어떤 시스템이 법안의 초지능 정의에 이르기 전부터 개발자에게 영향을 줄 수 있다.
- **지켜볼 점:** 개발자에게 의무를 부과하려면 의회가 먼저 법안을 심의하고 통과시켜야 한다. 공개본의 상원 법안 번호란은 여전히 비어 있다. 번호가 부여된 의회 기록과 수정안이 나와야 다음 공식 절차를 분명히 알 수 있다.

## 법안에 담긴 서로 다른 두 가지 제한

제안된 **일시 유예**는 ‘첨단 인공지능 시스템’에 적용된다. 법안은 이를 정수 또는 부동소수점 연산을 최소 10²⁵회 수행해 학습한 시스템으로 정의한다. 신설될 부처의 장관은 학습 효율 향상에 맞춰 이 기준을 매년 조정하게 된다. 법 제정일부터 부처에 인력을 완전히 배치하고 안전 규칙을 마련할 때까지, 해당 시스템은 금지된 특성을 제거하거나 시스템을 비활성화하는 경우를 제외하고 학습·수정·미세 조정할 수 없다. 이 기간에는 미공개 첨단 시스템을 배포할 수도 없다. 유예를 끝내기 위한 규칙에는 개발 계획 보고서와 평가, 안전 관행 감사, 공개 전에 받는 최종 승인이 포함돼야 한다.

제안된 **금지**에는 다른 기준이 적용된다. 대부분의 영역에서 인간의 인지 능력을 뛰어넘거나, 인류를 파괴하거나 무력화하는 일을 계획하고 실행할 충분한 능력이 있는 시스템이 대상이다. 제9조는 열거된 ‘초지능 선행 특성’을 보이는 시스템도 금지한다. 목록에는 AI 연구를 크게 가속하는 능력, 보안된 기반 시설에 대한 무단 접근, 종료 시도에도 계속 작동하는 행위, 무기 개발 지원, 자체 수정, 인간 감독 회피가 포함된다. 별도로 규정된 선행 특성 금지에는 10²⁵ 연산 기준이 적용되지 않는다. 제9조(b)는 두 범주 중 하나를 만들어 내도록 예측 가능하게 수정할 수 있는 시스템의 배포와 공개, 이전, 수입도 금지한다. 향후 규제 기관은 이러한 능력 설명이 구체적인 시스템에 어떻게 적용되는지 판단해야 한다. 법안은 그 판단을 확정해 줄 벤치마크 점수를 제시하지 않는다.

초안은 각료급 인공지능부를 신설하고 첨단 모델을 개발하거나 배포하는 단체에 인가를 받도록 한다. 부처에는 검사와 사전 배포 승인 권한을 부여한다. 기업 정책 결정자나 소속이 없는 개인이 일부 무모한 위반을 저지른 경우 벌금과 최대 20년의 징역형을 규정한다. 위반과 관련된 인가를 취소하고, 정해진 심사를 거쳐 위반에 연관된 자산과 지식재산을 몰수하는 조항도 있다. 이는 제안된 처벌이지 현재 적용되는 제재가 아니다.

## 적용 범위를 둘러싼 논쟁

팟캐스트 [290회 중 약 53분 지점의 AI 정책 토론(*All-In*](https://youtu.be/cvP_1jmnkmM?t=3195))에서 패널들은 이 조치가 미국의 AI 개발을 얼어붙게 하고 기업을 해외로 내몰 수 있다고 주장했다. 이는 예상되는 영향에 관한 패널들의 평가다. 법안은 AI라는 이유만으로 기존의 모든 AI 제품을 금지하지 않는다. 일시 유예에는 학습 연산량 기준을, 더 광범위한 금지에는 능력 기준을 명시한다. 다만 제안된 선행 특성 목록은 그 학습 기준으로 제한되지 않으므로 해당 능력 기준은 여전히 중대한 영향을 미칠 수 있다.

AI 연구자 [Gary Marcus](https://garymarcus.substack.com/p/the-new-sanders-casar-ban-artificial)는 9월 3일 발표 이후 다른 관점에서 비판했다. 그는 AI 규제 기관 구상을 지지하고 일시 유예는 정당화될 수 있다고 말하면서도, 일방적인 영구 금지와 불확실한 능력 판단은 지나치다고 주장했다. 그의 답변은 9월 23일 발의보다 앞서 나왔다. 따라서 이후 공개된 법안 전문 전체에 대한 검토가 아니라 당시 발표된 제안에 대한 비판으로 읽어야 한다.

Sanders와 Casar는 금지가 재앙적 위험을 줄이고 국제 협정과 수출 통제로 위험한 개발이 다른 곳으로 옮겨 가는 일을 막아야 한다고 말한다. [AP 통신 보도](https://abcnews.com/Technology/wireStory/sen-bernie-sanders-unveils-bill-ban-artificial-superintelligence-136676811)에는 개발을 늦춰야 한다는 Sanders의 논거와 일방적인 미국 규제로 해외 개발은 계속될 수 있다는 우려가 담겼다. 발의자들의 안전 관련 주장이나 패널들의 경제 전망만으로 법안이 법률이 되었을 때의 결과가 확정되는 것은 아니다. 첫 실질적 시험은 입법 절차다. 의회가 제안을 심의할지, 특히 범위가 넓은 선행 특성 문구를 어떻게 다룰지가 관건이다.

## 출처 및 더 읽을거리

- [Casar의 9월 23일 발표](https://casar.house.gov/media/press-releases/news-casar-sanders-introduce-legislation-create-new-federal-agency-ban)에는 Casar와 Sanders가 법안을 발의했다는 내용과 목적에 관한 요약이 담겼다. 이는 법안의 지위와 취지에 관한 발의자 측 설명이다.
- [Sanders의 9월 3일 발표](https://www.sanders.senate.gov/press-releases/news-sanders-casar-introduce-legislation-to-ban-artificial-superintelligence-and-temporarily-pause-advanced-ai-development/)는 법안이 곧 발의될 예정이라고 밝혔다. 제안의 앞선 단계를 확인할 수 있다.
- [공개된 법안 전문](https://www.sanders.senate.gov/wp-content/uploads/Ban-Artificial-Superintelligence-Act.pdf), 특히 제3조와 제8\~10조, 제12조, 제13조에 이 글에서 다룬 정의와 유예, 금지, 기관 권한 및 처벌이 규정돼 있다. 상원 법안 번호란은 비어 있다.
- [Sanders의 조항별 법안 요약](https://www.sanders.senate.gov/wp-content/uploads/Ban-Artificial-Superintelligence-Act-Section-by-Section.pdf)은 발의자 사무실이 제공한 독해 보조 자료다. 이 글의 구체적 주장은 더 긴 법안 전문과 대조해 확인했다.
- [AP 통신의 9월 23일 보도](https://abcnews.com/Technology/wireStory/sen-bernie-sanders-unveils-bill-ban-artificial-superintelligence-136676811)에는 독립 취재와 Sanders 인터뷰, 정치적 맥락이 포함돼 있다.
- [*All-In* 290회](https://youtu.be/cvP_1jmnkmM?t=3195)에서는 패널들의 비판적 논의가 담겼다. 패널들의 전망은 의견으로 귀속했으며 법안의 영향에 관한 확인된 사실로 취급하지 않았다.
- [Gary Marcus의 9월 3일 답변](https://garymarcus.substack.com/p/the-new-sanders-casar-ban-artificial)은 AI 안전 분야 연구자의 별도 비판적 입장을 제시한다. 이 답변은 앞선 발표를 다룬다.

## Sources

- [Casar의 법안 발의 발표](https://casar.house.gov/media/press-releases/news-casar-sanders-introduce-legislation-create-new-federal-agency-ban) — 법안이 발의됐다는 발의자 측 설명과 법안 목적에 관한 요약이다. 발의자의 위험 설명을 독립적으로 입증하지는 않는다.
- [Sanders의 법안 발의 계획 발표](https://www.sanders.senate.gov/press-releases/news-sanders-casar-introduce-legislation-to-ban-artificial-superintelligence-and-temporarily-pause-advanced-ai-development/) — 입법안이 이후 발의될 예정이었다는 앞선 단계를 확인해 준다.
- [2026년 인공 초지능 금지법 공개본](https://www.sanders.senate.gov/wp-content/uploads/Ban-Artificial-Superintelligence-Act.pdf) — 발의자 웹사이트에 게시된 19쪽 분량 PDF다. 제3·4~6·8~10·12~13조를 주로 근거로 삼았다. 공개본의 상원 법안 번호와 회부란은 비어 있다.
- [Sanders의 조항별 법안 요약](https://www.sanders.senate.gov/wp-content/uploads/Ban-Artificial-Superintelligence-Act-Section-by-Section.pdf) — 법안 발의자가 제공한 독해 보조 자료이며 실제 조항 문구와 대조했다.
- [AP 통신의 법안 발의 보도](https://abcnews.com/Technology/wireStory/sen-bernie-sanders-unveils-bill-ban-artificial-superintelligence-136676811) — 법안 발표를 독립적으로 확인하고 Sanders의 설명과 국제 공조의 잠재적 어려움에 관한 맥락을 제공한다.
- [All-In 290회, AI 정책 토론](https://youtu.be/cvP_1jmnkmM?t=3195) — 약 53분 15초 이후의 패널 해석이다. 자동 생성 자막의 화자 구분이 불안정하므로 기사에서는 개인에게 발언을 귀속하거나 직접 인용하지 않았다.
- [발의된 제안에 관한 Gary Marcus의 답변](https://garymarcus.substack.com/p/the-new-sanders-casar-ban-artificial) — AI 안전 연구자의 독립적인 의견이다. AI 기관 설립과 잠재적 유예는 필요할 수 있지만 일방적인 영구 금지와 벤치마크의 불확실성에는 반대한다. 법안 발의 전의 의견이다.