[이 기사에 나온 스타트업에 대한 보다 다양한 기업정보는 유니콘팩토리 빅데이터 플랫폼 '데이터랩'에서 볼 수 있습니다.]

"EU(유럽연합) 조차 준비 부족을 이유로 AI(인공지능) 규제 시행을 미룬 상황에서 우리나라는 법 시행을 불과 보름 앞두고도 시행령과 하위 법령이 이제야 정비되는 등 준비가 미흡하다. 법이 강행되면 기업들이 법적 책임을 지게 되는 위험이 있다."

최성진 스타트업성장연구소 대표는 6일 국회에서 열린 'AI 기본법 투명성·책임성 라운드테이블' 기조발제에서 "스타트업들의 경우 'AI 기본법'과 관련해 단 2%만 대응 체계를 갖춘 것으로 조사됐다"며 이같이 말했다.

과학기술정보통신부가 오는 22일 AI 기본법을 예정대로 시행키로 한 가운데, 이날 간담회는 AI 기본법의 전세계 최초 시행을 앞두고 고영향 AI 기준과 생성형 AI 표시 의무 등 핵심 규제가 실제 현장에서 작동할 수 있는 바람직한 제도 운영 방향을 점검하기 위해 마련됐다.

최성진 대표는 "세계 최초라는 타이틀을 꼭 쥐어야 하는가에 대한 의문을 갖고 있다"며 "한국이 앞장서서 규제 비용을 부담함으로써 미국이나 EU 등 경쟁국에게 규제 학습 사례를 제공하는 결과가 될 수 있다는 점을 경계해야 한다"고 지적했다.

최근 스타트업얼라이언스의 조사에 따르면 국내 AI 스타트업 101개사 중 2%만이 AI 기본법 대응 계획을 수립하고 준비하고 있는 것으로 나타났다. 초기 단계(시드~프리시리즈A)와 시리즈A 단계 기업들은 AI 기본법 내용을 잘 모르는 곳이 과반수였다.

최 대표는 AI 기본법의 주요 쟁점으로 △고위험 영역 AI의 모호한 정의 △투명성 의무와 기업 영업기밀의 충돌 △AI가 결론 내린 사항에 대한 설명 가능성(기술적 한계) △스타트업의 과도한 규제 준수 비용 △시행령 위임에 따른 규제기관의 자의석 해석 가능성 등을 꼽았다.

그는 "생성형 AI 결과물 표시의 경우 악의적 이용자가 쉽게 삭제해 오히려 국민보호 목적과 충돌할 수 있다"며 "시각적 표시보다는 조작이 어렵고 사후 검증이 용이한 'C2PA' 같은 국제 기술표준 도입을 장려하고 스타트업에 관련 기술을 보급하는 지원이 필요하다"고 제언했다.

간담회에 참석한 스타트업들도 AI 기본법 시행에 우려를 표시했다. 이호영 툰스퀘어 대표는 "현재 개발 사업자와 이용 사업자의 구분이 모호해 자체 모델을 개발하면서 동시에 콘텐츠를 제작하는 스타트업들은 어떤 의무를 어디까지 준수해야 하는지 혼란을 겪고 있다"고 했다.

그는 "창작 분야는 여전히 인간이 최종 결정을 내리기 때문에 AI는 보조 도구의 성격이 강하므로 획일적 규제보다 다양한 판매 및 활용 사례를 법안에 담아 유연하게 적용해야 한다"고 덧붙였다.

정지은 코딧 대표는 "시행령이 법령 문언보다 행정적 판단에 의존하는 구조"라며 "미국 콜로라도주 사례처럼 50인 미만 소규모 스타트업에게는 규제 적용을 제외하거나 더 긴 유예 기간을 주는 등 '역량에 맞는 규제'가 필요하다"고 강조했다.

이어 "그동안 법을 만드는데 집중했다면 이제는 알리는데 집중해야 되는 시기"라며 "기본법의 존재는 알지만 세부 내용은 모르는 스타트업이 대다수이므로 법 시행 전 최소 6개월 이상의 유예 기간을 통해 충분히 내용을 알리고 준비할 시간을 줘야 한다"고 말했다.

정주연 스타트업얼라이언스 선임전문위원은 "챗GPT와 같은 API나 오픈 소스를 수정해 사용하는 스타트업은 학습 과정에 관여하지 않아 통제력이 없음에도 단순히 고성능 모델을 썼다는 이유로 의무를 부과받는 것은 문제가 있다"고 지적했다.

정주연 위원은 "고영향 AI 여부를 확인받기 위해 '학습 데이터의 개요'를 제출하게 하는 것은 기업에 과도한 의무"라며 "여기에는 개인정보나 영업비밀이 포함될 수 있어 차라리 확인 절차를 회피하고 고영향 AI로 간주해 버리는 부작용이 생길 수 있다"고 우려했다.

업계의 여러 우려와 지적에 대해 과기정통부는 "법을 집행하기보다 스타트업들에게 정확한 내용을 알리고 컨설팅하는 데 집중해야 할 시기라는 점에 적극적으로 공감한다"는 입장을 표시했다.

최우석 과기정통부 AI안전신뢰지원과장은 "제도의 효과적인 안착을 위해 과태료 부과나 사실조사를 유예하는 방침을 세우고, 제도를 더욱 효과적으로 운영할 방안을 모색하고 있다"며 이같이 말했다.

최 과장은 "메타데이터와 가시적 워터마크 사이의 균형, 부수적인 편집 기능 사용 시의 적용 여부 등 법령에 명시되지 않은 부분들을 어떻게 현명하게 운영할지 고민하고 있다"며 "EU 등 외국과 긴밀히 협력하여 국제적인 상호 운용성을 확보해 나갈 계획"이라고 전했다.

간담회를 주최한 황정아 더불어민주당 의원은 "정부는 AI 기술을 미래 국가 성장동력으로 생각하고 'AI 3대 강국'을 목표로 달리고 있다"며 "혁신과 성장을 위해서 달려간다 하더라도 그 뒤에 안전한 보안 장치는 반드시 있어야 된다"고 강조했다.

그러면서 "국내 스타트업들이 제대로 뛰어 볼 수 있도록 모래주머니를 채우지 않고,제대로 플레이를 해볼 수 있는 환경을 만들기 위해서 최선을 다하겠다"며 "보완할 부분이 있으면 보완·수정하면서 앞으로 나가겠다"고 덧붙였다.



[머니투데이 스타트업 미디어 플랫폼 '유니콘팩토리']