[이 기사에 나온 스타트업에 대한 보다 다양한 기업정보는 유니콘팩토리 빅데이터 플랫폼 '데이터랩'에서 볼 수 있습니다.]

반도체 공정 불량의 주범 중 하나는 '보이지 않는 먼지', 즉 파티클이다. 이 미세 입자는 머리카락 굵기의 1만분의 1 수준만 돼도 회로를 망가뜨릴 수 있다. 최근 이 파티클을 공정 배기라인에서 실시간으로 탐지하고 크기·개수까지 분석할 수 있는 센서가 국내 기술로 상용화됐다.

한국표준과학연구원(표준연)의 기술을 바탕으로 설립된 연구소기업 '제노센스'가 주인공이다. 이 회사는 50나노미터(nm, 1nm는 10억분의 1m) 크기까지 잡아내는 실시간 파티클 센서 제품(상품명: RTCPS)를 개발, 대기업 A사 파운드리 사업부에 초도 납품했다. 또 다른 반도체 대기업 B사와는 PoC(기술검증)를 진행 중이며, 해외 고객과의 접점도 빠르게 넓히고 있다. 최정태 제노센스 대표는 "최근 해외 반도체 제조 관련 파트너사와 화상회의를 진행했고, 12월에 장비를 직접 보러 올 예정"이라고 말했다.

RTCPS의 핵심은 50나노미터(nm)급 미세 입자를 세계 최초로 실시간 측정할 수 있다는 점이다. 장착된 소프트웨어(SW)가 50~100nm, 100~300nm, 300~500nm, 500nm 이상 등 4개 구간으로 분류해 크기별 입자 변화를 지속적으로 시각화한다. 센서는 반도체 장비 내부 가스가 빠져나오는 배기라인에 설치해 간접 계측을 수행한다. RTCPS 기본 구성은 센서 모듈과 컨트롤러, 그리고 분석 소프트웨어가 구동되는 PC로 이뤄진다. 이동식 카트나 랩(Lab) 구성은 선택사항으로, 고객 공정에 맞춰 커스터마이즈가 가능하다.

'샘플링에 비싼' 기존 방식 한계 넘다…불량 '실시간 추적' 반도체 클린룸이 먼지를 차단한다 해도 공정 내부에서 자체 발생하는 파티클까지 완전히 막을 수는 없다. 그동안 반도체 공정 파티클 검사는 샘플링 기반이었다. 웨이퍼를 공정 중간에 꺼내 별도 장비로 수분 혹은 수십분간 검사해야 했고, 장비가격도 수십억~수백억 원대에 달해 모든 공정에서 검사를 하기엔 현실적 제약이 컸다.

반면 제노센스의 RTCPS는 반도체 공정 배기라인의 흐름을 1초 단위로 분석한다. 실시간으로 이상징후를 포착할 수 있어 공정 전체를 모니터링할 수 있다. 이 때문에 폭이 2nm 수준까지 줄어든 최신 파운드리 공정에서 수율 향상을 위한 핵심 도구로 주목받는다. 최 대표는 "선폭이 2nm로 내려간 지금은 50nm 파티클 하나가 트랜지스터 사이에 끼어도 치명적"이라며 "저희는 50nm까지 보이는 해상도와 1초 내 판독으로 연속 모니터링이 가능하다"고 강조했다.

업계에 따르면 디램(DRAM)은 구조가 단순해 불량을 수정할 수 있지만 파운드리(로직) 반도체는 웨이퍼 한 장에 수천개의 서로 다른 회로가 들어가 불량이 발생하면 전체 폐기해야 하는 경우가 많다. 최 대표는 "업계에서 오랫동안 수율 저하의 주요 원인으로 지목된 게 파티클"이라며 "이 장비가 그 원인을 실시간으로 추적할 수 있게 해준다"고 설명했다.
표준연과 수년간 데모·협력연구가 '연구실 기술'을 '양산 라인'으로…'센서 외길' 20년의 결실제노센스가 국내외 반도체 대기업에 납품할 수준의 제품을 만들 수 있었던 건 표준연과 함께 수년간 데모·협력연구를 수행한 덕분이다. 최 대표는 "실험실이 아닌 양산라인에서 웨이퍼 불량과 센서 데이터의 상관성을 검증해야 의미가 있다는 판단 아래, 대기업 현업 엔지니어들과 장기간 실험을 반복했다"며 "이 과정에서 정확도, 검출 효율, 측정 한계 등 핵심 성능에 대한 신뢰를 확보했고 공식 비교·평가·입찰 절차를 통과해 A사에 초도 납품할 수 있게 됐다"고 말했다.

최 대표는 센서 개발 한길을 걸어온 엔지니어다. 2005년부터 전자·전기센서 관련 제품을 전문으로 개발하는 사업체를 운영했고, 2022년 표준연과 만나 공정용 응용 기술 개발 용역을 수행하며 상용화 가능성을 확인했다.

문지훈 표준연 반도체디스플레이측정그룹 책임연구원과의 협업이 본격화되면서 2024년 4월 제노센스를 설립했고, 2025년 초 표준연의 연구소기업으로 공식 전환했다. 그는 "전세계 반도체 기업들은 20년 전부터 실시간 파티클 계측 기술을 원해왔지만 관련 제품 대부분이 양산공정 검증에 실패했다"며 "반도체 기업 입장에선 수율은 생존의 문제라 기술만 된다면 시장은 열린다는 확신이 있었다"며 연구소기업 창업을 결심한 배경을 이 같이 말했다.

해외 경쟁사보다 10배 높은 검출 효율현재 일본, 미국 등에서도 제노센스와 유사 장비를 제조하고 있다. 그러나 50nm까지 실시간 검출이 가능한 곳은 제노센스가 유일하고, 검출 효율는 경쟁사 대비 약 10배, 크기 판별 정확도도 뛰어나다는 평가를 받는다.

제노센스의 기술은 표준연이 국내외에서 확보한 15건의 특허를 바탕으로 한다. 미국·일본·대만에 핵심 특허를 등록했고, 중국에도 출원했지만 시장 특성을 고려해 미·대만 중심으로 지식재산권(IP) 방어망을 강화하고 있다.

최 대표는 "파운드리 기준으로 보면 현재 시장 잠재수요는 약 400억원 수준으로 본다"면서 "장비마다 부착하는 게 가장 이상적이지만 가격대를 고려할 때 도입은 단계적으로 진행될 것으로 보여 이렇게 추산한 것"이라고 말했다.

AI와 결합한 '스마트 공정 센서'로 진화반도체 장비산업은 수익률이 낮은 편이지만 RTCPS는 대체재가 드문 고성능 센서라 높은 수익성이 기대된다. 최 대표는 "중소·중견기업의 요청에 따라 저가형 모델도 개발 중이며, 장기적으로는 AI와 연동해 이상신호를 자동 감지·조치하는 스마트 팩토리 센서 플랫폼으로 발전시킬 것"이라고 말했다.

제노센스는 공정 장비사와 협업도 확대할 계획이다. 반도체 장비를 납품할 때 필수 절차인 파티클 검증 과정에서 RTCPS가 '눈' 역할을 하며 장비의 완성도를 높일 수 있기 때문이다. 최 대표는 "2나노 시대 반도체는 초미세화와 적층화라는 두 가지 난제를 동시에 풀어야 한다"며 "우리가 제시하는 해법은 공정의 숨결을 1초마다 읽어내며 불량의 씨앗을 초기에 차단하는 것으로, 결국 수율 경쟁은 이 속도 싸움에서 판가름날 것"이라고 말했다.

[머니투데이 스타트업 미디어 플랫폼 유니콘팩토리]