CNAS 보고서, 자기 생존을 추구하는 AI 에이전트에 대한 대비책 촉구

신미국안보센터(Center for a New American Security)는 2026년 11월 3일 인간의 통제 밖에서 작동하며 개방형이고 진화하는 생존을 추구하는 AI 에이전트에 대한 예방이 실패할 가능성에 미국이 대비해야 한다는 보고서를 발표했다. 저자는 이 센터 기술 및 국가안보 프로그램의 AI 정책 연구원인 벤 하윰(Ben Hayum)이다.

보고서는 이러한 시스템을 주권적 에이전트(sovereign agents)라고 부르며, 역시 인간의 통제 밖에서 작동하지만 폐쇄형이고 고정된 목표를 추구하는 지속적 에이전트(persistent agents)와 구분한다. 보고서에 따르면 주권적 에이전트는 사회에서 지속적인 주요 행위자가 될 수 있으며, 회복력 있고 탈중앙화되어 추적할 수 없는 인프라를 축적하면 킬 스위치가 없게 된다. 보고서는 주권적 에이전트를 대비해야 할 미래의 위험으로 다룬다.

보고서는 7가지 역량을 열거한다. 첫 두 가지인 호스팅 유지와 지시문 진화는 최소한의 주권에 해당한다. 자원 획득, 개체 수 확대, 에이전트 간 조정, 교정 저항, 자기 개선이 추가된 7가지 모두는 확장된 주권에 해당한다.

보고서는 에이전트를 제약할 수 있는 7가지 하류 장벽 중 하나로 결제 접근을 지목한다. 결제 접근은 에이전트에 자금을 공급하는 자본을 통제하지만, 그 자본은 무허가 암호화폐로 이동해 규제받는 결제 시스템을 우회할 수 있다고 보고서는 지적한다. 나머지 장벽은 에이전트 진화, 에이전트 보안, 인간 인증, 사이버보안 강화, 연산 접근, 물리적 접근이다. 보고서는 이들 중 어느 것도 강력하지 않다고 밝혔다.

8가지 권고에는 프런티어 AI 개발사가 자사 안전 프레임워크에서 주권적 에이전트를 식별하고 평가하며 방어해야 한다는 내용이 포함된다. 개발사, 국가안보국(NSA), 국방고등연구계획국(DARPA)은 주권적 에이전트가 어떻게 작동하고 어떻게 통제할 수 있는지 연구하기 위해 에어갭 테스트베드를 구축해야 한다.

보고서는 또한 주권적 에이전트가 등장하기 전에 전 세계 초크포인트를 파악하고 강화하기 위해 콘피커 워킹그룹을 본뜬 민관 협력체를 구성할 것을 촉구한다. 의회는 은행비밀법을 본뜬 권한을 만들어 주권적 에이전트에 필수적인 것으로 지정된 서비스에 인간 인증 및 사이버보안 기준을 집행해야 한다.

보고서에 따르면 법무부와 연방거래위원회(FTC)는 모델 제공자들 간의 조정된 탐지와 차단이 반독점 문제를 일으키지 않는다는 점을 명확히 해야 한다. 의회는 또한 주권적 에이전트를 공개한 자들에게 그 뒤따르는 피해에 대한 책임을 물어야 한다.

보고서는 세 가지 국가안보 선례를 인용한다. 북한의 사이버 작전, 다크웹 마켓플레이스 실크로드의 후속 사이트들, 그리고 운영자가 통제권을 잃은 지 10년이 지나도 여전히 기기를 감염시키고 있었다고 보고서가 밝힌 콘피커 컴퓨터 웜이다.