미국 정부가 빅테크(기술 대기업) 3사와 새로운 AI(인공지능) 모델이 대중에게 공개되기 전 직접 평가할 수 있는 협약을 체결했다. 도널드 트럼프 미국 행정부가 'AI 비규제' 정책을 유지했지만 앤트로픽 '클로드 미토스'(Claude Mythos, 이하 미토스)가 대규모 사이버 공격능력을 보인 데 따라 그 기조에도 변화가 생겼다는 평가다.

미 상무부 국립표준기술연구소(NIST) 산하 'AI 표준·혁신 센터'(CAISI)는 5일(현지시간) 구글 딥마인드, 마이크로소프트(MS), xAI와 '프런티어 AI 모델에 대한 국가안보 차원의 사전평가와 공동 연구를 위한 협약'을 체결했다고 밝혔다.

CAISI는 이번 협약으로 구글·MS·xAI의 새로운 AI 모델이 공개되기 전 정부가 사전평가와 보안 취약점 추적을 위한 표준 연구를 수행하게 된다고 전했다. 센터는"AI 개발업체와의 협약을 통해 정부는 AI 모델이 (대중에게) 공개되기 전 평가를 수행할 수 있고, 배포 이후 평가와 추가 연구도 진행할 수 있다"며 "센터는 현재까지 아직 공개되지 않은 최신 AI 모델을 포함해 40건 이상의 평가를 완료했다"고 설명했다.

이어 "이번 협약은 정보 공유를 지원하고, 자발적인 제품 개선을 촉진하며, AI 역량과 국제 AI 경쟁 구도에 대한 정부의 명확한 이해를 확보하는 데 도움이 될 것"이라며 "국가안보와 관련된 역량과 위험을 자세히 평가하고자 AI 개발업체들은 종종 안전장치(safeguards)를 줄이거나 제거한 모델을 CAISI에 제공할 것"이라고 전했다. 아울러 "정부의 모든 관계자가 평가에 참여할 수 있고, AI 국가안보 전문가 그룹인 CAISI의 'TRAINS 태스크포스(TF)'를 통해 정기적으로 피드백을 제공할 계획"이라고 부연했다.

CAISI는 "이번 협약은 기존 파트너십을 기반으로 하워드 러트닉 상무장관의 지침과 미국의 AI 액션 플랜을 반영해 재조정된 것"이라고 설명했다. 조 바이든 전 행정부에서 설립된 미 AI 안전연구소 CAISI는 2024년 오픈AI·앤트로픽과 자율검증 협약을 맺었는데, 트럼프 행정부의 AI 액션플랜 기조에 맞춰 재협상했다는 뜻으로 풀이된다.

"트럼프 AI 정책 기조, 미토스 등장 후 변화 조짐"트럼프 행정부는 그간 AI 기술 개발에 대해 규제 등으로 개입하지 않겠다는 기조를 선호해왔다. 하지만 이번 협약은 AI 모델이 대중에게 공개되기 전 정부가 먼저 AI 안전성을 평가하겠다는 것으로 트럼프 행정부의 AI 정책 기조 변화로 해석된다. 이런 변화는 최근 '미토스' 등장으로 확산한 'AI 안전성' 우려에 따른 것으로 보인다.

앤트로픽의 미토스는 주요 운영체제(OS)와 웹 브라우저에서 세계 최고 해커들만 찾아낼 수 있는 보안 취약점을 식별하는 능력을 갖춘 것으로 평가받는다. 다만 소프트웨어의 취약점을 찾아내 해킹에 성공하고, 스스로 격리 환경에서 탈출해 해킹 활동 흔적을 지우는 등 통제 불능의 모습을 보여 논란이 됐다. 이에 앤트로픽은 미토스를 제한된 기업에만 제공하고, 개인에게는 공개하지 않았다.

뉴욕타임스(NYT)는 전날 백악관이 신규 AI 모델에 대한 정부 사전 심사 절차를 위한 실무그룹을 구성하는 행정명령을 논의 중이라고 보도했다. 보도에 따르면 백악관 관계자들은 지난주 앤트로픽·구글·오픈AI 경영진에게 해당 계획 일부를 설명했다고 한다. 소식통은 "백악관은 AI를 이용한 파괴적인 사이버 공격 발생 시 촉발할 수 있는 정치적 파장을 피하고 싶어 한다"며 "정부는 미토스와 같은 AI 모델에 대응하고자 정부가 먼저 검토하는 대신 해당 모델의 출시는 막지 않는 방안을 추진하고 있다"고 전했다.