“거짓말·헛소리 그만” 할루시네이션 줄여주는 RAG의 비밀 [요즘 뜨는 AI]

인공지능(AI) 산업이 시시각각 변하고 있습니다. GPT가 두각을 나타내고 생성형 AI가 무엇인지 궁금해하던 때가 불과 한 해 전입니다. 지금은 텍스트, 이미지, 영상을 한꺼번에 이해하고 생성하는 AI가 나왔고, 보다 정확한 생성을 위한 기술들이 주목받고 있습니다. 누구나 AI 챗봇을 만들 수 있는 스토어가 생기기도 했습니다. 올해는 어떤 기술이, 또는 키워드가 주목받을지 살펴보겠습니다. [편집자주] 

RAG는 외부 지식 베이스에서 정보를 검색하고 이를 LLM(대형언어모델) 적용시켜 답변을 생성하는 기술이다. / developer.nvidia.com

챗GPT, 구글 바드와 같은 생성형 AI는 마치 사람처럼 묻는 말에 답변합니다. 하지만 아쉬움은 있습니다. 구체적인 질문이나 특정 산업, 지식에 전문화 된 질문을 하면 누구나 할 수 있는 답변을 내놓거나 심하면 전혀 상관 없는 답변을 그럴싸하게 내놓습니다.

이제는 기업들이 본격적으로 비즈니스에 생성형 AI를 도입해야 하는데 아직까지 이런 수준이라면 도입하기 어려울 겁니다. 언제나 번뜩이는 해결책은 있게 마련입니다. RAG는 기존 생성형 AI의 한계를 극복해 줍니다. 기업들이 주목하는 이유도 그 때문입니다.

RAG(Retrieval Augmented Generation)는 검색 증강 생성이라는 뜻인데요. 외부 지식 베이스에서 정보를 검색하고 이를 LLM(대형언어모델)에 적용시켜 답변을 생성하는 기술입니다.

기존 생성형 AI는 이미 학습한 정보를 바탕으로 답변을 내놓습니다. 만약 지난 해 정보까지 학습했다면 올해 일어난 일에 대해서는 답변을 못하겠죠. 그런데 실시간으로 인터넷에서 올해 정보를 검색한 다음 그 검색 정보를 LLM에 전달해주고, LLM은 그 정보를 바탕으로 보다 정확한 답변을 해준다면 기존 생성형 AI의 부족한 부분이 해결될 것입니다. 그게 바로 RAG입니다.

RAG는 정확한 답변을 해준다는 장점도 있습니다. 무엇보다 할루시네이션(환각) 현상을 최소화 시킬 수 있다는 점이 가장 큰 장점입니다. 할루시네이션 현상이 일어나는 가장 큰 이유는 애초에 제공되는 정보가 빈약했기 때문입니다.

RAG는 사용자가 프롬프트에 질문을 하면 그 질문을 외부 소스(인터넷 등), 기업의 내부 데이터에서 검색한 다음 그 데이터를 바탕으로 프롬프트를 다시 작성하게 됩니다. 특정 질문에 해당되는 정보를 얻은 LLM이 헛소리(?)를 할 가능성은 매우 낮을 수밖에 없겠죠. 또 답변을 생성할 때 답변이 적합한지 확인하고 사용자에게 보여주는 피드백 과정이 추가되기 때문에 할루시네이션 현상은 더 최소화 됩니다.

그럼 RAG는 왜 각광받을까요. 그건 생성형 AI를 비즈니스에 활용하려는 기업들이 많아지고 있다는 것에서 이유를 찾을 수 있습니다. 기업들은 특정 영역에 전문화 된 AI를 만들고 싶어하지만 현재 나와 있는 LLM만으로는 한계가 있습니다. 이 때 RAG는 기업 고유의 데이터까지 검색을 합니다. 그렇게 되면 해당 기업에서만 사용할 수 있는 똑똑한 생성형 AI를 만들 수 있게 됩니다.

RAG는 AI 업계에서 주목하고 있는 기술입니다. 실제 AI 스타트업들도 RAG 기반 AI 서비스를 내놓고 있습니다. 스켈터랩스, 온더라이브, 포지큐브 등이 있습니다.

스켈터랩스는 “RAG가 급부상하면서 고객 지원부터 직원 생산성, AI 워크플로우 강화에 이르기까지 다양한 영역에서 기업과 소비자 모두에게 상당한 수익과 생산성 향상을 가져올 것으로 예상된다”고 예측합니다.

조상록 기자 jsrok@chosunbiz.com

출처 : IT조선(https://it.chosun.com)