인공지능(AI)이 여러 문서에 흩어진 정보를 보다 효율적으로 찾아 답변할 수 있도록 돕는 새로운 기술이 공개됐다. 질문이 들어올 때마다 관련 정보를 반복해서 검색하고 연결하는 대신, 문서 사이의 관계를 미리 분석해 저장하는 방식이다. AI가 답변을 생성하는 과정에서 필요한 연산을 줄이면서도 정확도를 높이려는 시도다.

싱가포르의 컨티뉴엄 AI(CONTINUUM AI)는 11일 자사의 AI 모델 연결 서비스 오르카라우터(OrcaRouter)를 통해 새로운 검색증강생성(RAG) 기술인 'IndexRAG' 연구 결과를 발표했다. 관련 논문은 아시아태평양 전산언어학 분야 학술대회인 AACL-IJCNLP 2026의 Findings에 채택됐으며, 연구 코드는 오픈소스로 공개됐다.

RAG는 AI가 학습한 정보뿐 아니라 외부 문서나 데이터베이스에서 필요한 내용을 찾아 답변에 활용하는 기술이다. 기업 내부 자료 검색이나 전문적인 질의응답 등에 사용되지만, 여러 문서의 내용을 연결해야 하는 복잡한 질문에서는 검색과 추론을 반복해야 하는 경우가 있다.

IndexRAG는 이러한 과정을 단순화하는 데 초점을 맞췄다. 문서를 검색할 수 있도록 정리하는 색인 단계에서 서로 다른 문서의 연결 관계를 미리 파악하고, 이를 '브리징 팩트(Bridging Fact)'라는 정보 단위로 저장한다.

예를 들어 한 문서에는 기업의 창업자 정보가, 다른 문서에는 그 창업자가 설립한 회사의 사업 내용이 담겨 있다면 두 정보를 사전에 연결해 두는 것이다. 이후 관련 질문이 들어오면 여러 차례 문서를 탐색하지 않고도 필요한 정보를 찾을 수 있다.

연구진이 제시한 방식은 문서에서 핵심 지식을 추출하고, 서로 관련된 정보를 연결하는 두 단계로 이뤄진다. 이 과정에서 만들어진 정보는 검색용 색인에 저장되며, 실제 질문에는 한 번의 검색과 한 번의 대규모언어모델(LLM) 호출로 답변하도록 설계됐다.

연구진은 기술의 성능을 확인하기 위해 HotpotQA, 2WikiMultiHopQA, MuSiQue 등 세 가지 질의응답 평가 자료를 활용했다. 각 평가에서 1000개 문항을 선정해 기존 검색 방식과 비교했다.

그 결과 IndexRAG는 평균 F1 점수 51.7을 기록했다. F1은 AI가 생성한 답변이 정답과 얼마나 일치하는지를 나타내는 지표로, 기본적인 RAG 방식인 Naive RAG의 47.1보다 4.6점 높았다.

다만 모든 평가에서 가장 높은 성능을 보인 것은 아니다. 2WikiMultiHopQA에서는 FastGraphRAG가 57.4를 기록해 IndexRAG의 51.7보다 앞섰다. 검색과 추론에 더 많은 연산을 사용하는 HippoRAG2 역시 평균 54.1로 더 높은 점수를 나타냈다.

처리 효율성에서도 차이가 있었다. 연구진에 따르면 IndexRAG는 HippoRAG2와 비교해 검색 속도가 6.6~10.4배 빨랐으며, 색인 크기는 17~20배 작았다. 색인 구축 비용도 30~50% 낮게 측정됐다.

다만 이러한 결과는 연구진이 설정한 실험 환경에서 얻은 것으로, 실제 서비스에서도 같은 수준의 성능과 비용 절감 효과가 나타나는지는 추가 검증이 필요하다.

또한 IndexRAG는 질문에 답하는 과정의 부담을 줄이는 대신 문서를 처음 정리할 때 연결 정보를 생성해야 한다. 따라서 새로운 자료가 자주 추가되거나 기존 정보가 변경되는 환경에서는 색인을 지속적으로 관리하는 과정이 중요하다.

이번 연구에는 언어모델 GPT-4o mini와 임베딩 모델 text-embedding-3-small이 사용됐으며, 관련 코드는 Apache-2.0 라이선스로 공개됐다.

IndexRAG는 기업의 지식관리 시스템이나 연구자료 검색처럼 여러 문서의 내용을 연결해야 하는 분야에서 활용 가능성을 검토할 수 있다. 특히 반복적으로 유사한 질문에 답해야 하는 서비스에서는 검색 과정의 부담을 줄이는 데 도움이 될 수 있다.

이번 연구는 AI의 성능을 높이는 방법이 반드시 더 많은 연산이나 복잡한 모델에만 있는 것은 아니라는 점을 보여준다. 정보를 사전에 어떻게 정리하고 연결하느냐에 따라서도 답변의 정확도와 처리 효율이 달라질 수 있다는 것이다.

앞으로 실제 업무 환경에서 다양한 문서와 질문을 대상으로 성능을 검증하고, 정보의 정확성과 최신성을 유지할 수 있는 관리체계를 갖추는 것이 기술 활용의 주요 과제가 될 것으로 보인다.