[편집자주] 카이스트(KAIST·한국과학기술원)를 비롯한 4대 과학기술원이 보유한 딥테크를 한자리에서 모두 만나볼 수 있는 사업화 유망기술 공동 설명회가 코엑스에서 열린다. 머니투데이 스타트업 전문 미디어 플랫폼 '유니콘팩토리'는 오는 16일 서울 삼성동 코엑스 A홀에서 개막하는 '스마트 에너지 플러스'(SMART ENERGY PLUS·SEP) 2025'의 특별 부대행사로 '2025 테크마켓'을 개최한다. 과학기술정보통신부와 카이스트, 대구경북과학기술원(DGIST), 울산과학기술원(UNIST), 광주과학기술원(GIST) 등 4대 과기원이 공동 개최하는 이 행사는 우수 R&D(연구개발) 성과를 국내 대·중견·중소기업, 벤처·스타트업에 소개·이전해 기존 제품 및 서비스를 고도화하고 글로벌 경쟁력을 강화하기 위해 마련됐다. 무대에 오를 신기술을 개발한 과기원 교수들에게 직접 핵심 기술력과 산업적 가치를 들어봤다.
[이 기사에 나온 스타트업에 대한 보다 다양한 기업정보는 유니콘팩토리 빅데이터 플랫폼 '데이터랩'에서 볼 수 있습니다.] 이슬기 울산과학기술원(UNIST) 컴퓨터공학과 조교수/사진=류준영 기자 "스마트팩토리 구현에 온디바이스AI(인공지능)는 필수입니다."
이슬기 울산과학기술원(UNIST) 컴퓨터공학과 조교수는 지난 10여년간 '온디바이스AI' 기술을 꾸준히 연구해온 전문가다. 온디바이스AI란 연산 능력이 제한된 작은 기기 자체에 AI모델을 탑재해 데이터를 실시간으로 분석하고 즉각적인 판단을 내릴 수 있게 하는 기술이다.
현재 대부분의 AI 서비스는 스마트폰이나 기기에서 수집한 데이터를 클라우드 서버로 보내 연산한 뒤 결과를 다시 기기로 전송받는 방식으로 작동한다. 이 과정에서 인터넷 연결이 필수적이고, 서버 운영 비용과 처리 지연도 발생한다. 반면 온디바이스AI는 연산 과정이 기기 자체에서 이뤄지기 때문에 네트워크 환경에 상관없이 안정적으로 동작하며 민감한 데이터를 외부 서버로 보내지 않아 보안성과 개인정보보호 측면에서도 강점을 지닌다.
오는 10월 16일 서울 코엑스에서 열리는 '4대 과학기술원 공동 2025 테크마켓'에서 이 조교수 연구팀은 자체 개발한 온디바이스AI 기술을 공개한다. 스마트팩토리 현장에 적용한 사례, 초소형 기기를 위한 경량화 모델 설계 기술 등을 소개할 예정이다.
이 조교수는 먼저 온디바이스AI가 필요한 이유를 강조했다. 그는 "자동차, 로봇, 스마트폰, 웨어러블 기기처럼 현장에서 즉시 판단이 필요한 장치는 연산 능력이 제한돼 있다"며 "이들 기기가 자체적으로 AI를 구동할 수 있도록 하는 기술이 앞으로 더 중요해질 것"이라고 말했다.
그는 온디바이스AI의 장점을 3가지로 정리했다. 첫째, 데이터를 외부 서버로 전송하지 않기 때문에 개인 정보나 산업 기밀을 안전하게 지킬 수 있다. 둘째, 인터넷 연결이 불안정한 환경에서도 안정적으로 작동한다. 셋째, 서버 비용과 네트워크 지연을 줄여 산업 현장의 효율성을 높일 수 있다. 예를 들어 자동차가 스스로 고장 진단을 수행한다면 수많은 차량의 데이터가 서버로 몰리지 않아도 되고 각 차량에 특화된 맞춤형 진단도 가능하다는 설명이다.
이 조교수의 연구범위는 자동차를 넘어 의료기기, 제조 설비, 우주 탐사 분야까지 확대되고 있다. 그는 "몸속에 삽입되는 의료용 기기나 웨어러블 기기는 통신 장애가 발생하면 위험할 수 있다"며 "이런 기기 내부에 AI가 바로 신호를 분석하면 훨씬 안전하고 신뢰성 있는 의료 서비스를 제공할 수 있을 것"이라고 말했다. 이어 "공장 밸브나 펌프 같은 공장 장비 내부에 초소형 칩을 넣어 압력이나 유량 변화를 실시간으로 예측하고 이상 징후를 선별하면 비용과 시간을 크게 절감할 수 있다"고 덧붙였다.
이슬기 울산과학기술원(UNIST) 컴퓨터공학과 조교수/사진=류준영 기자
이 조교수는 최근 한국항공우주연구원(KARI)과 협력 프로젝트도 진행 중이다. 그는 "달이나 다른 행성 탐사에서는 지구에서 명령을 보내 착륙 위치를 정하기 어렵다"며 "탐사선이 자체적으로 카메라 영상을 분석해 안전한 착륙 지점을 실시간으로 판단하도록 하는 기술을 시범 개발 중"이라고 말했다. 그러면서 "앞으로 우주뿐 아니라 드론이나 군사 장비 같은 국방 분야에서도 온디바이스AI의 필요성이 더 커질 것"이라고 덧붙였다.
하지만 온디바이스AI가 풀어야 할 최대 과제는 '제한된 하드웨어 자원'이다. 이 조교수는 "AI모델은 점점 커지고, 기기 자체는 점점 작아지고 있다"며 "이 간극을 좁히기 위해선 AI모델을 효율적으로 압축하고 최적화하는 기술이 필요하다"고 말했다.
이 때문에 이 조교수 연구팀은 모델 경량화와 알고리즘 최적화에 집중하고 있다. 그는 "신경망 모델을 수학적으로 줄이고, 기기 내부 자원을 효율적으로 배치해 연산 지연을 최소화하고 있다"고 설명했다.
이 조교수는 온디바이스AI의 발전 속도가 앞으로 2~3년 안에 더 빨라질 것으로 내다봤다. 그는 "스마트폰, 자율주행차, 로봇 같은 고급 기기에는 AI 연산 전용 칩인 MPU(Machine Processing Unit)가 표준으로 탑재될 것"이라며 "기존 CPU가 일반 프로그램을 처리하고, MPU가 AI를 전담하는 구조가 자리 잡을 것"이라고 전망했다.
또 생성형 AI와 대규모 언어모델도 머지않아 기기에서 직접 실행될 것이라고 예상했다. 그는 "가벼운 GPT 모델이 등장해 스마트폰과 가전제품에 탑재되면 번역, 요약, 음성 비서 기능을 네트워크 연결 없이도 고품질로 수행할 수 있을 것"이라고 말했다.
이 조교수는 장기적으로 창업도 구상하고 있다. 그는 "누구나 데이터를 준비하기만 하면 원하는 디바이스에 AI를 자동으로 탑재할 수 있는 엔드투엔드 플랫폼을 만들고 싶다"며 "모델 탐색부터 학습, 컴파일, 배포까지 한 번에 자동화하는 시스템을 개발해 선보일 것"이라고 포부를 밝혔다.
