유니콘팩토리

코로나19 감염 여부를 알려주는 AI(인공지능)도, 피부암을 진단하는 AI도 터무니없는 진단을 내놓을 수 있다. '설명 가능한 AI' 분야의 세계적 석학 이수인 미국 워싱턴대 컴퓨터과학·공학과 교수는 "AI의 실수까지도 검증할 수 있는 '설명 가능한 AI'가 필요한 때"라고 강조했다. 이 교수는 9일 서울 역삼동에서 열린 '2025 세계 한인 과학기술인 대회'의 첫 기조강연자로 나서 이처럼 말했다. 이 교수는 '설명 가능한 AI의 개척자'로 불리는 세계적 연구자다. 이같은 공로를 인정받아 지난해 여성 공학자 최초로 삼성호암상을 거머쥐었다. 설명 가능한 AI(Explainable AI·이하 XAI)는 사용자가 던진 질문에 답을 내놓는 기존 AI를 넘어 답을 도출한 과정과 논리적 근거까지 설명하는 AI 모델이다. 이를 통해 사용자는 AI가 내놓은 답을 더 신뢰할 수 있다. 무엇보다 AI의 고질적인 문제로 꼽히는 '할루시네이션(환각)'을 보완할 수단이기도 하다. 할루시네이션은 AI가 실

'설명 가능한 AI(인공지능)'(이하 XAI)는 사용자가 던진 질문에 대한 답을 넘어 답을 도출한 이유와 과정까지 설명하는 AI다. 'XAI의 개척자'로 불리는 이수인 미국 워싱턴대 컴퓨터과학·공학부 교수는 "기존 AI를 넘어 설명 가능한 AI에 요구하는 목소리가 전 세계 연구·산업계를 통틀어 크게 늘고 있다"고 했다. 전 세계 한국 출신 과학기술인이 모이는 '2025 세계 한인 과학기술인대회' 참석차 한국을 방문한 이 교수는 8일 서울 강남구 역삼동 한국과학기술회관에서 기자들과 만나 이처럼 밝혔다. 이 교수는 "XAI 사용 권한(사용권)에 대한 문의가 점점 늘고 있다. 미국에서는 이미 XAI를 다양한 분야에서 활용 중이며, 실제 XAI를 기반으로 창업한 사례도 있다"고 현황을 공유했다. XAI(Explainable AI)는 설명 가능한 AI를 말한다. AI가 질문에 대한 답뿐만 아니라 답을 도출하는 과정과 논리적 근거까지 설명한다. 사용자는 AI의 고질적 문제로 꼽히는 '할루시네