[기고]혁신의 새로운 물결 'RAG'
2024년의 막바지인 지금 단순히 LLM(Large Language Model·거대언어모델)의 놀라운 성능에 감탄하던 시기는 이미 지났다. 이제는 LLM이 실제 문제를 얼마나 효과적으로 해결할 수 있는지, 실제 어떤 효용성이 있는지 등이 LLM을 평가하는 핵심기준이 되고 있다. AI(인공지능)기술이 예상을 뛰어넘는 속도로 발전하면서 기업들도 AI를 어떻게 효율적으로 활용하느냐가 경쟁력 확보를 위한 필수요소가 돼가고 있다. 특히 기업 내부의 방대한 문서를 활용하는데 초점을 맞춘 기술들이 주목받고 있다. 여기에 사용되는 기술 가운데 하나가 RAG(Retrieval-Augmented Generation·검색증강생성)이다. RAG는 LLM이 학습하지 않은 지식에도 답을 할 수 있도록 외부에서 적절한 데이터를 검색해 LLM에 제공하는 기술이다. LLM의 고질적 문제인 환각현상 등을 막는다. 예컨대 기업이 LLM을 활용하면서 기업 내부의 정보에 대해 물으면 부정확한 정보를 기반으로 틀린 답을
이창수 올거나이즈 대표
2024.12.20 08:00:00