유니콘팩토리

인공지능(AI) 주도권을 두고 경쟁하는 미국 오픈AI, 앤스로픽, 구글이 중국 AI 기업들의 기술 무단 추출을 막기 위해 이례적으로 손을 맞잡았다. 6일(현지시간) 블룸버그통신에 따르면 오픈AI와 앤스로픽, 구글은 2023년 마이크로소프트(MS)와 공동으로 설립한 비영리단체 '프런티어 모델 포럼'을 통해 정보를 공유하며 '적대적 증류' 시도를 탐지하고 있다. 사이버 보안업계가 해킹 수법을 공유하듯 중국 기업들이 사용하는 '적대적 증류' 패턴과 수법을 빅테크들이 공유하는 것이다. 적대적 증류란 남이 막대한 비용을 들여 개발한 AI에 계속 질문을 해서 답을 모든 뒤 그걸로 자사 AI를 훈련시키는 추출 기술을 의미한다. 이렇게 하면 '스승'이 된 타사 AI의 능력을 비슷하게 흉내 내는 '제자' AI 모델을 만들 수 있다. 증류는 자사가 만든 무거운 모델을 가볍고 효율적으로 만들 때 널리 사용되는 기술이지만, 이를 상대방의 허락 없이 사용할 때는 적대적이란 표현이 붙는다. 여기엔 법적·윤리적 논란이 발생할 수 있다.

구글이 AI(인공지능) 최적화 기술인 터보퀀트를 내놓은 뒤 메모리 반도체 수요가 급감할 수 있다는 우려에 연일 반도체주들이 약세를 보인다. 증권가에서는 터보퀀트가 딥시크 모먼트와 유사하다며 단기적으로는 충격이 있을 수 있겠지만 중장기적으로 AI 총수요를 늘려 메모리 반도체에 긍정적일 것으로 내다봤다. 28일 거래소에서 삼성전자는 전 거래일 대비 400원(0. 22%) 하락한 17만9700원에 거래를 마쳤다. SK하이닉스도 1% 하락 마감했다. 지난 25일(현지시각) 구글 리서치는 메모리 사용을 대폭 줄이면서도 기존 AI 성능을 유지할 수 있는 터보퀀트 기술을 발표했다. 생성형 AI 대표 기술인 LLM(대규모언어모델)은 대화를 이어가기 위해 이전 대화 내용을 함께 처리해야해 메모리 사용량이 크게 늘어나는 구조였다. 하지만 구글에 따르면 터보퀀트 기술을 활용할 경우 LLM의 임시 기억장치인 KV캐시를 대폭 줄여 메모리 수요를 기존 대비 약 6분의 1 수준으로 낮출 수 있다. 최근 메모리 반도체 시장은 HBM(고대역폭메모리)뿐 아니라 레거시 메모리 병목현상까지 불거졌다.

"구글 '터보퀀트(Turbo Quant)' 기술이 단기적으로 메모리양을 줄이기 때문에 메모리 반도체 수요가 줄어든다고 생각할 수 있지만, 오히려 AI 시장이 폭발적으로 성장하면서 메모리반도체 수요가 유지될 것입니다. " 차세대 양자화 알고리즘 '터보퀀트(TurboQuant)' 논문에 참여한 한인수 카이스트(KAIST) 전기·전자공학부 교수는 27일 "해당 기술의 큰 흐름은 논문에 공개돼 있어 사전학습된 AI면 추가 학습없이 적용이 가능하다"면서 "논문이 공개될 4월쯤엔 구글에 이미 해당 기술이 상용화될 것"이라며 이같이 말했다. 글로벌 메모리 시장에 충격을 준 터보퀀트 기술은 AI 추론에 필요한 데이터를 6분의 1 수준으로 줄여 메모리 반도체 사용을 줄이는 기술이다. AI 추론 과정에서 가장 큰 장애물로 꼽히는 메모리 병목 문제를 효과적으로 해소했다. 한 교수는 터보퀀트 기술로 AI가 더 저렴해지고 빠르게 확산되는 동시에, 반도체 수요 역시 질적으로 고도화될 것으로 전망했다. 그는 "AI 모델의 성능이 커질수록 메모리 사용량이 급격히 증가하는 것이 가장 큰 한계로 지적되어 왔다"며 "이번 연구는 이러한 병목을 효과적으로 줄이면서도 정확도를 유지할 수 있는 새로운 방향을 제시했다"고 설명했다.

인공지능(AI) 붐을 타고 고공행진을 이어가던 메모리 반도체 종목들이 구글이 발표한 새로운 데이터 압축 기술 '터보퀀트(TurboQuant)'의 직격탄을 맞았다. 이 기술이 인공지능(AI)의 메모리 부담을 획기적으로 낮춘다는 소식에 메모리 수요 감소 우려가 번지면서다. 하지만 이 같은 시장 반응이 과도하다는 견해도 적잖다. 효율성을 개선되면 수요가 늘어나는 이른바 '제번스의 역설'을 간과하고 있다는 지적이다. '제번스의 역설'은 19세기 증기기관의 효율이 개선되자 석탄 사용이 줄어들기는커녕 산업 전반으로 활용이 확산하면서 석탄 수요가 폭발적으로 늘었던 데서 착안했다. ━구글 '터보퀀트'가 뭐길래…시장 출렁━구글은 24일(현지시간) X를 통해 터보퀀트 기술을 소개했다. AI 모델의 '단기 기억' 역할을 하는 키-값(KV) 캐시의 용량을 정확도 손실 없이 1/6로 압축하고 속도는 8배 향상시키는 점이 핵심이다. 쉽게 설명하자면 AI 챗봇은 답변을 만들 때 앞서 주고받은 문맥을 계속 참고해야 한다. 이때 이전 정보를 잠시 저장해두는 공간이 KV 캐시다.

구글이 AI(인공지능) 메모리 사용량을 압축하는 '터보퀀트(TurboQuant)'를 공개하면서 슈퍼사이클(초호황기)에 진입한 메모리 수요 둔화 우려가 나온다. 이로 인해 글로벌 메모리 3사(삼성전자·SK하이닉스·마이크론) 주가도 일시적으로 하락했다. 다만 업계에서는 해당 기술이 AI 활용을 확대해 오히려 반도체 시장 성장을 자극할 수 있다는 관측에 무게가 실리고 있다. 27일 관련업계에 따르면 구글의 터보퀀트 기술은 대규모 언어 모델(LLM)의 핵심 구조인 'KV 캐시'를 압축해 메모리 사용량을 최대 6분의 1수준으로 줄이면서도 성능은 유지하는 알고리즘이다. 구글이 지난해 4월 공개한 논문에서 소개된 기술이다. 대규모 언어 모델에서는 사용자와의 이전 대화 내용과 검색 결과 등을 KV 캐시로 저장해 다음 토큰 생성에 활용한다. 문제는 대화량이 늘어날수록 저장 데이터가 증가하면서 메모리 사용량도 급격히 확대된다는 점이다. 이 때문에 KV 캐시는 AI 시스템의 성능과 비용을 제약하는 대표적인 병목 요인으로 지목돼왔다.

AI 성능을 좌우해온 '메모리 병목'이 해결됐다. KAIST가 참여한 국제 공동연구팀이 최대 6배까지 메모리를 줄이면서도 성능은 유지하는 차세대 알고리즘을 공개했다. 이에 따라 AI가 더 저렴해지고 빠르게 확산되는 동시에, 반도체 수요 역시 질적으로 고도화될 전망이다. KAIST는 전기및전자공학부 한인수 교수가 참여한 구글 리서치(Google Research), 딥마인드(DeepMind), 뉴욕대(New York University) 공동 연구팀이 인공지능(AI) 모델의 고질적인 한계로 꼽혀온 메모리 과부하 문제를 해결할 차세대 양자화 알고리즘 '터보퀀트(TurboQuant)'를 공개했다고 27일 밝혔다. AI 모델은 입력 데이터를 벡터 형태로 바꾼 뒤, 벡터 간 유사도를 계산해 작동한다. 이 과정에서 고정밀(high-precision) 데이터를 사용하기 때문에 막대한 메모리 자원이 필요하다. 터보퀀트는 이러한 고정밀 데이터를 더 적은 비트로 압축해 표현하는 '양자화(quantization)' 기술을 활용한다.

메타플랫폼(이하 메타)과 구글이 청소년의 SNS(소셜미디어) 중독 책임 소송에서 패소해 90억원 규모의 배상금을 내게 됐다. 특히 메타는 아동 정신건강 유해로 수천억 원 규모의 벌금 부과 평결을 받은 지 하루 만에 배상금을 지급할 위기에 놓였다. 이번 결과로 SNS 소송에 연루된 기술기업의 사법 리스크가 한층 커질 전망이라고 외신은 짚었다. 25일(현지시간) 블룸버그통신·CNBC 등 주요 외신에 따르면 미국 LA(로스앤젤레스)에 있는 캘리포니아주 1심 법원 배심원단은 이날 메타와 구글이 각각 운영하는 인스타그램과 유튜브가 청소년 SNS 중독에 책임이 있다며 원고에게 총 600만달러(약 90억1800만원)를 지급하라는 평결을 내렸다. 배상금은 원고 피해에 대한 배상액 300만달러와 같은 금액의 징벌적 손해배상액을 합친 것으로, 평결이 확정되면 메타는 배상금의 70%인 420만달러(63억원), 구글은 30%인 180만달러(27억원)를 내야 한다. 메타는 전날 뉴멕시코주에서 아동 성 착취 방조 등 주 소비자 보호법 위반 혐의로 3억7500만달러(5647억원) 벌금을 부과받았다.

[이 기사에 나온 스타트업에 대한 보다 다양한 기업정보는 유니콘팩토리 빅데이터 플랫폼 '데이터랩'에서 볼 수 있습니다. ] AI(인공지능) 스타트업 다큐브가 전 세계 AI 모델의 데이터 처리 능력을 평가하는 최고 권위의 무대에서 '그랜드슬램'을 달성했다. 자연어를 컴퓨터 언어(SQL)로 변환하는 기술력을 겨루는 평가에서 중국의 텐센트를 제치고 전 부문 1위를 휩쓸었다. 다큐브는 11일 미국 예일대 연구진이 주관하는 '스파이더 2. 0(Spider 2. 0)' 벤치마크의 3개 평가 트랙(DBT·Lite·Snow)에서 모두 세계 1위를 기록했다고 밝혔다. 국내 기업이 이 평가의 모든 트랙을 석권한 것은 처음이다. 스파이더 2. 0은 예일대 연구진과 글로벌 파트너들이 개발한 차세대 'Text-to-SQL(자연어-데이터 변환)' 벤치마크다. AI가 사람이 말하는 일상 언어를 데이터베이스 언어인 SQL로 얼마나 정확하게 바꾸는지 측정하는 테스트로 업계에서는 가장 혹독한 'AI 데이터 수능'으로 불린다. 평가는 △데이터 구조 이해력을 보는 'DBT' △변환 정확도를 측정하는 'Lite' △실제 기업 환경에서의 활용성을 검증하는 'Snow' 등 3개 트랙으로 구성된다.

미국 기술 대기업 알파벳(구글 모기업)이 AI(인공지능) 인프라 투자를 위해 수십조원에 달하는 대규모 채권 발행에 나선다. 특히 100년 만기 채권도 발행할 계획인 것으로 알려졌다. 9일(현지시간) 블룸버그통신·파이낸셜타임스(FT) 등은 소식통을 인용해 알파벳이 미국에서 200억달러(약 29조1720억원) 규모의 달러화 채권 발행에 나설 계획이라며 "이는 당초 예상됐던 150억달러보다 큰 규모"라고 보도했다. 블룸버그에 따르면 알파벳이 발행하는 달러화 채권은 만기가 서로 다른 7종류로 만기가 가장 긴 채권은 40년물(2066년 만기)이다. 블룸버그는 "알파벳은 이번 달러화 채권 발행으로 1000억달러 이상의 주문을 확보한 것으로 알려졌다"고 전했다. 소식통에 따르면 알파벳은 스위스와 영국에서도 사상 첫 채권 발행에 나선다. 구체적인 채권 발행 규모는 공개되지 않았지만 영국에서는 100년 만기 초장기 채권 발행을 추진 중이다. 기술기업의 100년 만기 초장기 채권 발행은 1990년대 닷컴버블 이후 처음이다.

[이 기사에 나온 스타트업에 대한 보다 다양한 기업정보는 유니콘팩토리 빅데이터 플랫폼 '데이터랩'에서 볼 수 있습니다. ] 초기 기업 전문 투자사 더벤처스가 오픈AI(OpenAI), 구글(Google), 앤트로픽(Anthropic) 등 글로벌 빅테크 3사와 파트너십을 체결했다고 2일 밝혔다. 국내 초기 투자사 중 이들 3개 사와 동시에 파트너십을 구축한 사례는 더벤처스가 처음이다. 더벤처스는 이번 파트너십을 기반으로 투자 포트폴리오사를 대상으로 각 사의 거대언어모델(LLM) 크레딧을 지원한다. 생성형 AI(인공지능) 서비스를 개발하는 초기 스타트업의 인프라 비용 부담을 덜어주기 위해서다. 통상 AI 스타트업은 서비스 개발 초기 단계부터 모델 학습과 API(응용프로그램 인터페이스) 호출에 따른 컴퓨팅 비용이 매달 수백만원에서 수천만원까지 발생한다. 이는 자금력이 부족한 초기 창업팀에게 현실적으로 가장 큰 진입장벽으로 작용해왔다. 이번 협력으로 더벤처스가 투자한 창업팀들은 오픈AI의 'GPT 시리즈', 구글의 '제미나이', 앤트로픽의 '클로드' 중 자사 서비스 특성에 최적화된 모델을 선택해 고도화에 활용할 수 있게 됐다.