AI Sparkup

최신 AI 쉽게 깊게 따라잡기⚡

LlamaIndex 튜토리얼 – Python으로 RAG 쿼리 엔진 만들기

LlamaIndex로 RAG를 만들 때 핵심은 “내 데이터를 LLM이 검색 가능한 인덱스로 바꾸고, 질문 시점에 관련 문맥을 주입한다”는 흐름을 이해하는 것이다. Real Python 강좌는 환경 준비, 파일 로딩, 인덱스 생성·저장, 쿼리 엔진 실행까지 입문자가 따라가기 좋은 순서로 다룬다.

실습 흐름

  1. Python 가상환경을 만들고 LlamaIndex 패키지를 설치한다.
  2. OpenAI, 로컬 모델 등 사용할 LLM 프로바이더를 설정한다.
  3. SimpleDirectoryReader 같은 로더로 문서를 읽는다.
  4. VectorStoreIndex로 검색 가능한 인덱스를 만든다.
  5. 인덱스를 저장해 다음 실행에서 재사용한다.
  6. as_query_engine()으로 질문을 실행한다.

최소 예시

from llama_index.core import VectorStoreIndex, SimpleDirectoryReader

documents = SimpleDirectoryReader("data").load_data()
index = VectorStoreIndex.from_documents(documents)
query_engine = index.as_query_engine()

print(query_engine.query("프로젝트의 주요 요구사항을 요약해줘"))

실무에서 보강할 부분

튜토리얼 수준의 RAG는 작게 시작하기 좋지만, 운영 환경에서는 다음 요소가 추가로 필요하다.

보강 요소이유
청킹 전략문서 길이와 구조에 따라 검색 품질이 크게 달라짐
메타데이터 필터부서·날짜·문서 유형별 검색 범위 제어
리랭킹단순 벡터 유사도 결과를 질문 적합도 기준으로 재정렬
인용 출력답변 근거를 사용자에게 명확히 보여줌
평가 세트검색 누락과 환각을 반복적으로 측정

관련 문서

참고 자료



AI Sparkup 구독하기

최신 게시물 요약과 더 심층적인 정보를 이메일로 받아 보세요! (무료)