데모 받기
용어 설명

RAG(검색 증강 생성)란? 잘 맞는 질문과 한계

사내 AI를 만들 때 가장 먼저 떠올리는 방법이 RAG입니다. 무엇을 잘하고 어디서 막히는지 알면 언제 다른 방법이 필요한지 보입니다.

글 안재영 · Rivly 대표

정의

RAG(Retrieval-Augmented Generation, 검색 증강 생성)는 AI가 답하기 전에 관련 문서를 먼저 찾아 읽고, 그 내용을 근거로 답을 만드는 방식입니다. AI가 학습하지 않은 회사 문서로도 답할 수 있게 해 줍니다.

RAG는 이런 순서로 작동합니다

  1. 규정 · 매뉴얼 · 계약서 같은 문서를 작은 조각으로 나눠 검색 색인을 만듭니다.
  2. 질문이 들어오면 질문과 가까운 조각을 찾아옵니다.
  3. 찾은 조각을 질문과 함께 AI에 넘기고, AI는 그 내용을 근거로 답합니다.

잘 맞는 질문

  • "반품 규정에서 개봉 상품은 어떻게 처리하나요?"처럼 답이 문서 안에 있는 질문
  • 여러 문서에 흩어진 내용을 찾아 요약하는 일
  • 출처 문서를 같이 보여 주어야 하는 안내

약한 질문

  • 문서만 검색하는 RAG로는 "오늘 늦어질 주문이 몇 건인가요?"처럼 지금 시스템 상태를 봐야 하는 질문
  • 주문 → 배송 → 창고처럼 여러 시스템을 건너 이어 봐야 하는 질문
  • 재고 · 금액처럼 정확히 계산해야 하는 숫자. 문서 조각만으로는 AI가 숫자를 짐작하기 쉽습니다(AI 환각).

온톨로지와 함께 쓰는 법

업무 데이터에 대한 질문은 온톨로지나 지식그래프로 대상과 관계를 따라가며 답하고, 규정 같은 문서 근거는 RAG로 보태는 식으로 나눠 쓸 수 있습니다. 숫자는 정해진 규칙이 계산하고, AI는 그 결과를 설명하는 역할을 맡깁니다.

함께 읽기