오픈소스 뒤 '숨겨진 비밀 코드' 우려도…"안전성 검증 필수"
'딥시크 파장과 미래 전망 긴급공동포럼'

"AI(인공지능) 후발주자 입장에서는 딥시크가 '백종원 레시피'를 공개한 셈이다. 저렴하고 다양하게 AI 시장을 공략할 기회가 한국 기업에 찾아왔다."
17일 한국과학기술단체총연합회(과총), 한국과학기술한림원, 국민생활과학자문단이 공동 개최한 '딥시크 파장과 미래 전망' 긴급공동포럼에서 토론 패널로 참석한 이주형 가천대 AI·SW학부 교수는 "딥시크에 대한 우려가 크지만, 긍정적 전망도 다수"라며 이처럼 말했다.
앞서 중국 AI 스타트업 딥시크는 지난달 20일 미국 오픈AI의 챗 GPT-4보다 약 17분의 1 저렴한 비용으로 만들었다는 상용 AI '딥시크-R1'(이하 R1)을 공개했다. AI 학습 코드를 비밀에 부치는 기존 IT기업과 달리 학습 과정을 세세히 담은 논문까지 오픈소스 형식으로 공개해 더 큰 화제가 됐다.
이 교수는 "후발주자로서는 오픈AI 같은 선두기업이 어떻게 상용 수준의 LLM(거대언어모델)을 개발했는지 알아내는 단계부터 어려운 입장인데, 딥시크가 처음으로 이를 전격 공개한 것"이라며 "모든 학습 코드를 공개한 건 아니지만 공개된 논문만으로도 후발주자들이 다양하게 응용할 길이 열렸다"고 했다. 개발 인력이 AI 선진국이나 대형 기업에 비해 부족하고 자본력이 약한 기업도 AI 시장에 뛰어들 수 있게끔 진입장벽을 낮춘 계기가 됐다는 의미다.
이 교수는 "이제부터는 연구계를 넘어 산업계에서도 가성비 AI, (특정 목적에 맞춘) 다양한 AI 출시를 목표로 AI 시장이 다각화할 것"이라며 "AI의 정확도를 높이기 위한 값비싼 하드웨어 경쟁이 아닌 가성비까지 고려한 다양한 AI 서비스를 제공할 수 있는 시대가 열린다"고 했다. 그러면서 "한국의 강점인 제조업, 응용소프트웨어 기술을 잘 활용하면 우리에게 기회가 올 것"이라고 했다.
국내 AI 예측 솔루션 전문기업 '인이지'의 최재식 CEO(최고경영자)도 "딥시크 등장은 미국이 완전히 독식한 줄 알았던 AI 시장의 독점자가 아직 없다는 사실, 또 딥시크의 코드 공개로 후발주자가 다수 양산될 것이라는 사실을 일깨웠다"며 "한국 기업에게 기회"라고 했다.
다만 딥시크가 제공한 오픈 소스를 그대로 차용하면 심각한 보안 문제가 생길 수 있다는 우려도 제기됐다. 한국 측 AI 안전연구 대표로 이달 프랑스 파리에서 열린 AI 정상회담에 참석했던 김명주 ETRI(한국전자통신연구원) AI 안전연구소장은 "싱가폴, 일본, 영국의 AI 안전연구소와 공동으로 지난 3개월에 걸쳐 딥시크 오픈소스의 안전성을 분석한 결과, 심각한 문제점이 발견됐다"고 했다.
김 소장은 "딥시크 오픈소스에 개발자 측이 말하지 않고 숨겨둔 '히든 코드(hidden code)'가 숨겨져 있을 가능성이 있다"며 "오픈소스를 다른 기업이나 기관에서 내려받아 일부 고쳐 쓴다고 해도 보안에 허점이 생길 수 있다"고 했다. 또 '높은 탈옥(Jailbreak) 비율'도 지적했다. 반복적인 유도 질문을 던져 AI가 안전 규제의 틀을 깨부수고 결국 사용자가 원하는 답을 하도록 만드는 행위다. 김 소장은 "세계 AI 안전 연구가들은 특히 핵무기 제조법과 같은 대량파괴 무기(CBRN) 기술이 AI를 통해 제공될 가능성을 우려한다"고 했다.
그러면서 "한국형 AI는 '안전에 신경을 많이 쓰고 있다'는 이미지를 전략적으로 사용할 필요가 있다"고 제언했다.
관련기사
- 기자 사진 박건희 기자
<저작권자 © ‘돈이 보이는 리얼타임 뉴스’ 머니투데이. 무단전재 및 재배포, AI학습 이용 금지>