[이 기사에 나온 스타트업에 대한 보다 다양한 기업정보는 유니콘팩토리 빅데이터 플랫폼 '데이터랩'에서 볼 수 있습니다.]

#미국 태양광 업체 울프리버 일렉트릭은 최근 구글을 상대로 1억1000만달러(약 1600억원) 규모 손해배상 소송을 제기했다. 지난해 말 구글 검색창의 AI 요약 결과창에 '해당 업체는 검찰로부터 기소 당했다'는 허위 정보가 게재된 탓이다. 울프리버 일렉트릭은 이로 인해 잠재 고객들과의 계약이 대거 취소됐다고 호소했다.

#2024년 에어캐나다에서 항공권을 구입한 한 고객이 AI 챗봇에게 "유가족 할인을 나중에 소급 신청할 수 있느냐"고 물었고, 챗봇은 "가능하다"고 답했다. 실제 에어캐나다 정책에선 소급이 안되는 항목이었다. 에어캐나다는 챗봇의 답변에 책임이 없다고 주장했다. 하지만 법원은 에어캐나다에 챗봇 대답에 대한 책임이 있으며 고객에게 환불해야 한다고 판결했다.

AI가 전 산업에 확산되면서 부작용도 커지고 있다. AI는 본질적으로 대화의 다음 단계를 예측해 단어를 제시하는 시스템이다. 문제는 이때 '확률적으로 가장 그럴싸한' 대답을 제시하다보니 가끔 사실과 다르거나 아예 존재하지 않는 말을 지어낸다. 이른바 '할루시네이션(환각)'이다.

가벼운 대화 중에 발생하는 할루시네이션은 '헛소리'로 치부하면 그만이다. 하지만 기업 입장에선 할루시네이션으로 막대한 피해가 발생할 수 있다. 에어캐나다와 울프리버 일렉트릭의 사례가 대표적이다.

티냅스는 이 같은 AI의 '사고'에 주목했다. 사고를 막기 위한 해법으로 'AI 감시용 AI'를 제시했다. AI가 더 이상 헛소리를 그만 하고 기업이 통제할 수 있는 수준에 머물도록 하는 기술이다. 이 같은 사업모델에 투자자들도 공감했다. 지난해 8월 설립한 티냅스가 올해 4월 미래에셋벤처투자, 미래에셋캐피탈, 뮤렉스파트너스, 카카오벤처스 등으로부터 45억원의 시드 투자를 받은 배경이다.

AI의 환각 사고, 실행 단계에서 잡아낸다

티냅스가 개발 중인 보안 인프라 'AI 트러스트 레이어'는 AI 에이전트의 답변과 행동을 실행 단계에서 검증·통제한다. AI가 실제로 작동하는 순간 위험을 감지하고 차단한다. 모든 판단 과정은 법적 효력을 갖춘 감사 기록으로 자동 저장돼 사고 발생 시 책임 소재를 명확히 입증할 수 있다. 이른바 'AI 감시용 AI'다. 감시용 AI는 할루시네이션을 차단하기 위해 특수 훈련을 거쳐 제한된 기능만 남겨둔다.

티냅스는 현재 국내 주요 시중은행과 기술검증을 진행 중이다. AI가 은행 업무를 수행하면서 발생하는 '신뢰성' 리스크를 관리하는 것이다. 과거처럼 사후 로그 분석, 모델 개선 등으로 리스크를 통제하는 건 한계가 명확하다.

티냅스 시드 투자를 리드한 미래에셋벤처투자의 조진환 이사는 "AI가 산업 현장에서 점점 퍼지는데 기존의 보안 방식으로는 할루시네이션 등 새로운 이슈를 해결할 수 없기에 처음부터 LLM(거대언어모델)을 전제로 설계된 'LLM 네이티브 보안업체'가 등장할 때가 됐다"며 "과거에도 새로운 기술이 등장하면 이에 맞춘 새로운 보안업체가 시장을 제패하는 일들이 많았는데 티냅스가 그러한 플레이어가 될 수 있다"고 봤다.

팀 빌딩 1년만에 누적 투자 49억원

티냅스는 창업 전 유니콘 연쇄 창업가 및 세계적 AI 연구자로부터 2억원 규모 엔젤 투자를 확보했다. 이후 매쉬업벤처스가 2억원의 프리시드 투자를 단행했다. 이번 시드 투자까지 총 49억원을 유치하며 빠른 성장세를 보이고 있다.

투자자들은 티냅스의 팀 구성에도 주목했다. 강민승 대표는 금융권 CTO(최고기술책임자) 출신으로 AI 신뢰·안전 영역에서 연구개발과 사업 실행 경험을 고루 갖췄다. 이외에도 구글 리서치 출신 AI 전문가, 대규모 트래픽 운영 경험을 보유한 인재들이 주축이다. 보안과 금융 분야의 현장 경험, 기술력, 실사용 가능한 인프라 설계 역량을 동시에 갖췄다는 평이다.

조 이사는 "팀원 한명 한명의 경험이 많고 수학·과학 분야에서 유명한 분들로 구성돼 있어 기술적인 역량이 글로벌 경쟁력을 갖췄다"며 "대기업들과 곧바로 기술 검증에 들어가는 실행력도 강점"이라고 분석했다.

아울러 "티냅스와 같은 아이디어는 많은 데서 시도하고 있지만 티냅스의 순수 알고리즘 실력만 고려하더라도 쉽게 따라잡기는 힘들 것"이라며 "알고리즘 외에도 실제 금융이라는 특정 산업에 대한 이해도가 높은 점도 차별화 포인트"라고 덧붙였다.
커지는 AI보안 시장, 금융 넘어 의료·공공·엔터프라이즈로 사업 확대티냅스는 현재 개발 중인 금융권 보안 솔루션 이후 다양한 산업군으로 고객을 넓혀갈 예정이다. 의료·공공·엔터프라이즈 등 AI에이전트를 사용해 고객을 만나고 업무를 처리하는 모든 산업군이 대상이다.

조 이사는 "최근 글로벌 전쟁 이슈로 인해 방산 기업들에 대한 시장의 관심이 높아지듯이 AI 보안에 대한 인식이 늘어날수록 티냅스와 같은 신뢰성 확보 모델이 더 중요해질 것"이라며 "지금은 금융에 집중하고 있지만 특정 분야에만 국한되는 기술이 아니기에 확산성이 무궁무진하다"고 설명했다.

이번 시드 투자에 함께 참여한 카카오벤처스의 신정호 수석 심사역은 "AI가 실행의 영역으로 진입하면서 신뢰성 인프라는 산업의 확장성을 결정짓는 필수 카테고리가 됐다"며 "티냅스는 AI 에이전트 시대의 새로운 표준을 가장 실질적이고 빠르게 만들어나갈 팀으로, 이 카테고리의 승자가 될 것"이라고 강조했다.

[머니투데이 스타트업 미디어 플랫폼 유니콘팩토리]