[이 기사에 나온 스타트업에 대한 보다 다양한 기업정보는 유니콘팩토리 빅데이터 플랫폼 '데이터랩'에서 볼 수 있습니다.] 최근 인공지능(AI) 업계의 최대 화두는 전력소비와 연산속도다. AI의 전력소비량이 일부 도시국가 전체 사용량에 맞먹을 정도로 커지면서 비용뿐 아니라 환경파괴 문제까지 대두되고 있다. 자율주행차, 무인항공기 등 안전과 밀접한 분야까지 AI가 확산되면서 더 빠르고 정확하게 데이터를 처리하는 것도 점점 중요해지고 있다. 문제를 해결하기 위해서는 더 빠르고 전력효율이 좋은 반도체가 필요하다. AI를 음식에, 반도체를 그릇에 비유하자면 음식이 많아진 만큼 큰 그릇을 준비해야 하는 것이다. 그러나 반도체 발전 속도는 AI의 발전 속도에 비해 상대적으로 더디고 가격도 비싸다. 이에 AI모델을 효율화하는 'AI 모델 경량화(Model Compression·)' 기술이 주목받는다. 음식 크기에 맞는 그릇이 개발될 때까지 일단 음식을 잘게 부수거나 꾹꾹 눌러 넘치지 않게 만드는
고석용기자 2024.05.08 07:00:00[이 기사에 나온 스타트업에 대한 보다 다양한 기업정보는 유니콘팩토리 빅데이터 플랫폼 '데이터랩'에서 볼 수 있습니다.] AI(인공지능) 경량화 전문 스타트업 스퀴즈비츠가 SaaS(서비스형 소프트웨어)형태의 경량화 툴킷 '아울라이트(OwLite)'를 출시했다고 21일 밝혔다. 아울라이트는 AI모델을 개발하는 기업고객들이 자사 프로젝트에 스퀴즈비츠의 데이터 경량화 기술을 쉽고 빠르게 적용할 수 있도록 한 SaaS 제품이다. 스퀴즈비츠는 "아울라이트를 통해 AI의 추론 속도를 평균 3.6배, 메모리 사용량을 평균 4배 개선할 수 있다"고 강조했다. 아울라이트는 경량화 기술 적용 효과를 AI모델 개발 단계에서부터 평가하고 분석할 수 있는 기능도 제공한다. 모델 경량화 뿐만 아니라 엔진 빌드, 성능 확인, 비교 및 분석까지 전체적인 시스템을 지원한다는 설명이다. 스퀴즈비츠는 많은 사람들이 AI경량화를 경험해볼 수 있도록 아울라이트의 기본 기능을 오픈소스로 공개하고 있다. 2022년 창업한
고석용기자 2024.03.21 22:31:00