OpenAI의 샘 알트먼과 Anthropic의 다리오 아모데이는 역량이 커지는 AI의 위험을 논의하기 위해 9월 23일 유엔 안전보장이사회에 각각 브리핑했습니다. 두 사람 모두 각국 정부에 시험과 보고 분야에서 협력할 것을 요청했습니다. 제안의 범위는 서로 달랐으며, 안보리의 논의 자체로 새로운 AI 규칙이 만들어진 것은 아닙니다.

달라진 점

첨단 AI 모델을 만드는 두 회사의 대표가 국제 안보를 다루는 안보리 회의에서 구체적인 안전 제안을 내놓았습니다. 알트먼은 역량을 측정하고 안전장치를 평가하며 인간의 감독을 유지하기 위한, 국가 간에 호환되는 국제 기준을 촉구했습니다. 아모데이는 생물학 무기 제작에 AI를 사용하는 것을 금지하는 데서 시작하는 더 제한적인 합의를 제안하고, 검증 체계와 오용 및 통제 상실 위험에 대한 공통 시험도 함께 제시했습니다. 이는 초청받은 브리핑 참석자들의 요청입니다. 안보리 조치에 합의하려면 각국 정부의 동의가 필요합니다.

두 제안이 만나는 지점

유엔이 자동 생성한 회의록에서 알트먼은 취약점을 공유하기 위해 각국 정부, 인프라 운영자, 기술 전문가 사이에 신속한 사고 보고와 안전한 소통 경로를 마련하자고 요청했습니다. 그는 공개 및 비공개 모델, 신생 개발자와 기존 연구소를 모두 포괄하도록 기준을 설계하되, 각 정부가 국내법 안에서 기준을 어떻게 활용할지 결정해야 한다고 말했습니다.

아모데이 역시 국제적인 시험 기준과 국제 안보에 중대한 사고의 통지를 요청했습니다. 각국이 최첨단 모델의 역량을 파악하고 약속 이행 여부를 검증할 수 있는 체계도 제안했습니다. 그는 외부 평가자를 회사 내부에 배치하겠다는 Anthropic의 약속을 다시 밝혔고, 안전을 위해 필요한 만큼 출시를 늦추겠다고 말했습니다. 이는 Anthropic이 내놓은 약속과 제안이지, 해당 안전장치가 효과가 있다는 독립적인 조사 결과는 아닙니다.

두 사람 모두 비교 가능한 시험과 중대한 사고의 공개를 요청했습니다. 아모데이는 생물학 무기 금지 제안과 국가 간 검증을 안보리 연설의 핵심에 두었습니다. 알트먼은 각국 정부가 자국의 법체계에 반영할 수 있는 기준을 강조했습니다. 두 제안 모두 안보리 회원국 사이에서 집행 방안에 대한 합의를 이끌어내지는 못했습니다.

안보리의 역할을 두고 각국 정부의 견해는 다릅니다

이번 회의는 프랑스가 소집했으며, 유엔 과학 패널 공동 의장 요슈아 벤지오와 Hugging Face 최고경영자 클레망 들랑그도 발언했습니다. 이는 과거 안보리의 AI 논의에 이은 자리로, 2023년 7월 열린 첫 안보리 AI 브리핑을 포함합니다.

회원국 대표들의 발언은 공통된 우려와 공동 정책 사이에 거리가 있음을 드러냈습니다. 라트비아가 공개한 성명은 비공식 안보리 전문가 그룹을 검토하는 데 지지를 표했습니다. 유엔 회의록에 따르면 미국 대표는 새로운 국제 거버넌스 기구에 반대하고, 대신 각국의 역량과 모범 사례 공유를 촉구했습니다. 이는 회의에서 표명된 각국의 입장이지 안보리의 결정은 아닙니다.

확인 가능한 유엔 회의록에는 발언자들의 진술 뒤 회의가 종료된 것으로 기록돼 있습니다. AI 결의안이나 의장 성명이 채택됐다는 기록은 없습니다. 해당 페이지는 연설문이 자동 음성 인식으로 작성됐으며 유엔 공식 기록이 아니라고 경고합니다.