오픈AI의 공동창업자이자 최고경영자(CEO)인 샘 알트만이 내년 미국 대선을 앞두고 AI 기술이 '대화형 허위 정보'를 제공할 가능성에 우려를 표했다. 챗GPT를 선보인 당사자조차 AI 기술에 대한 규제를 촉구하고 나선 것.

주요 외신들에 따르면 알트만은 16일(현지시간) 미국 상원 개인정보, 기술 및 법률 소위원회에서 열린 청문회에서 새로운 기술에 대한 규제를 환영하며 독립적인 감사, 라이선스 제도, 식품의 영양성분 표시와 유사한 경고 조치가 필요하다고 밝혔다.

특히 다가오는 미 대선에 미칠 영향을 두고 상원의원들의 질문이 쏟아지자 "(챗GPT를 비롯) 이러한 모델이 점점 더 좋아지고 있다는 점을 감안할 때 (생성형AI가 여론을) 조작하거나 설득하고 일종의 1대 1 대화형 허위 정보를 제공하는 능력은 매우 중요한 관심 분야"라고 말했다. 알트만은 생성형 AI 기술을 제공하는 기업이 "서비스 공개 시 예상되는 사항에 대해 지침"을 만들도록 할 것을 촉구했다.

청문회는 생성형 AI의 잠재적 남용에 대한 우려가 커지면서 각국 규제 당국과 미 정부가 조사를 강화하는 가운데 열렸다. 지난주 EU 의원들은 챗GPT 같은 챗봇을 포함해 AI 사용에 대한 엄격한 규칙에 합의했다. 미국에선 이달 초 연방거래위원회가 "기업들이 AI 기술을 어떻게 사용할 것인지에 집중하고 있다"고 밝혔다. 영국 경쟁시장감독청도 AI 시장에 대한 검토에 착수하기로 했다.

미국 의회는 AI 기술을 관리하기 위한 규정을 만드는 방법을 검토하고 있다. 이날 청문회에서 개인정보보호 소위원회 위원장을 맡고 있는 코네티컷주의 민주당 상원의원 리처드 블루멘탈은 "AI의 위험이 너무 극단적이어서 특히 영리를 목적으로 한 사생활 침해와 사람들의 생계에 영향을 미치는 결정에 대해서는 제한을 가하거나 심지어 사용을 금지해야 한다"고 밝혔다.

이에 대해 알트만은 AI의 잠재적 위험에 "깊고 강렬한 관심을 갖고 있다"며 효과적인 규칙을 만들기 위해서 업계와 의원들 간의 협력을 촉구했다.

그는 "이 기술이 잘못되면 큰 문제가 발생할 수 있다고 생각한다. 우리는 이에 대해 목소리를 높이고 싶고, 그런 일이 일어나지 않도록 정부와 협력하고 싶다"고 말했다. 이어 챗GPT-4 같은 기술이 "일부 일자리를 완전히 자동화"할 것이라는 점은 인정했으나, 오픈AI가 "훨씬 더 나은" 새로운 일자리를 창출할 것이라고도 주장했다.

한편 앞서 3월 일론 머스크와 1000명 이상의 기술연구자들은 AI 언어모델 사용을 6개월 간 중단할 것을 촉구하는 서한에 서명했다. AI의 선구자로 불리는 제프리 힌튼은 AI 기술의 위험성을 알리기 위해 10년간 몸 담았던 구글에서 퇴사하기도 했다.