[이 기사에 나온 스타트업에 대한 보다 다양한 기업정보는 유니콘팩토리 빅데이터 플랫폼 '데이터랩'에서 볼 수 있습니다.]
황민영 셀렉트스타 부대표 /사진=최태범 기자"전세계적으로 AI(인공지능) 도입 논의가 활발함에도 불구하고 대부분의 기업에서는 AI 활용 수준이 고객 상담 챗봇 이상으로 나아가기 힘든 것이 현실이다."
황민영 셀렉트스타 부대표는 27일 열린 'AI Safety Compass'(ASC) 컨퍼런스에서 "AI 신뢰성은 AI 품질(정확성·관련성·유창성 등)과 안전성(유해성·편향·보안 등)을 합친 개념으로, AI 신뢰성 확보가 기업의 AI 도입에 있어서 핵심 과제"라며 이같이 말했다.
이날 컨퍼런스는 국제인공지능윤리협회(IAAE)가 주최하고 테크 스타트업 전문 커뮤니케이션 기업 팀쿠키가 운영을 맡았다. '변화하는 AI 환경에서의 기업 경쟁력 확보'를 주제로 열린 컨퍼런스에는 AI 활용에 관심 있는 다양한 산업군의 관계자 130여명이 참석했다.
황민영 부대표는 지난해 캐나다 최대 항공사인 에어캐나다가 생성형 AI 챗봇의 잘못된 안내로 인해 고객에게 보상금을 지급하게 된 판결 사례를 언급하며 "단순한 기술적 오류를 넘어 금전적 책임이 발생할 수 있다는 점은 기업이 AI 도입을 주저하는 요인이 된다"고 했다.
그는 "AI 언어모델의 성능을 측정해 순위를 매기는 리더보드에서 1등을 한 모델이 반드시 회사 업무에 가장 적합한 것은 아니다. 회사의 특정 업무나 도메인에 가장 적합한 AI 모델이 무엇인지 직접 평가하는 것이 매우 중요하다"고 덧붙였다.
그러면서 "셀렉트스타는 AI의 평가를 위해 AI와 대화하고 상호작용하면서 AI의 허점과 취약점을 찾아내는 '레드티밍'(Red Teaming)을 활용한다. 대화를 꼬아 AI가 유해하거나 부적절한 답변을 생성하도록 유도해 AI의 안전성 문제를 중점적으로 평가할 수 있다"고 했다.
━
"AI 안전, 규제의 틀 아닌 지속가능 경쟁력의 열쇠"
━
ASC 컨퍼런스 현장 /사진=팀쿠키 제공전창배 IAAE 이사장은 "대선후보들이 'AI 강국'을 지향하는 정책들을 내놨지만 기술 투자에 대한 공감대와 달리 AI 윤리와 안전에 대한 논의는 여전히 부족하다"며 "윤리와 안전이 뒷받침되지 않으면 글로벌 시장에서 우리 경쟁력이 진정으로 인정받기 어렵다"고 말했다.
그는 오픈AI, 구글, 앤트로픽 등 주요 글로벌 기업들이 AI 제품 출시 전 윤리 검증과 가치 정렬, 품질 검사를 철저히 거치는 사례를 언급하며 기술만 앞세운 접근 방식은 더 이상 유효하지 않다고 진단했다.
이어 "올해 초 제정된 AI 기본법이 내년 1월부터 시행되는 만큼 정책의 실제 이행 여부가 기업 경쟁력에 직결될 것"이라며 "어떤 후보가 당선되더라도 AI 기본법의 원칙을 구체적 정책으로 연결해야 한다"고 제언했다.
공진호 과학기술정보통신부 인공지능기반정책과의 과장은 AI 기본법 제정을 통해 AI의 신뢰성과 안전성을 확보하는 제도적 기반을 마련하고, AI 정책센터와 AI 안전연구소 설치 등 조직적 대응을 강화함으로써 한국형 AI 생태계를 구축해 나갈 계획이라고 밝혔다.
특히 기본법 시행 이전에 산학연 전문가와 관계부처의 의견을 최대한 수렴해 AI의 규제가 아닌 '진흥'을 돕는 방향으로 추진하겠다고 강조했다.
공진호 과장은 "예를 들어 의료 AI는 개별 법령을 통해 보건복지부와 식품의약품안전처의 규제를 받고 있다. 규제를 이행하고 있다면 AI 기본법에서는 해당 의무를 이행한 것으로 간주해 추가적인 이중규제가 없도록 준비하고 있다"고 전했다.
그는 "개인정보 보호와 같은 세세한 부분들에 대한 규율은 개인정보 보호법, 저작권법 등 개별 법령에서 다루는 것이 기본적인 법 체계"라며 "이용자 단에서 발생하는 악용 사례는 방송통신위원회 등 관계기관과 협력해 개별 법령에서 조화시켜 나갈 것"이라고 했다.
김명주 AI 안전연구소장은 "글로벌 선도 기업들도 기술 상용화 이전에 위험 관리 체계를 우선 구축하고 있다. AI 안전은 규제의 틀이 아니라 국가의 지속가능한 경쟁력을 확보하는 열쇠가 될 수 있다"고 말했다.
그러면서 "사회적 신뢰와 윤리적 통제가 동반되지 않는 AI는 장기적으로 더 큰 리스크를 초래할 수 있다"며 "한국도 기술 경쟁력 못지않게 안전성과 책임성을 확보해야 글로벌 AI 강국으로 도약할 수 있다"고 전했다.
