RAG란 무엇일까?

JSCODE 시니

2026. 06. 13.

✅ 1. RAG란 무엇일까?

• AI 모델이 한 번도 배운 적 없는 최신 정보나 사내 데이터를, 질문(프롬프트) 속에 함께 끼워 넣어서(통합하여) 정확한 답변을 만들어내는 기술

✅ 2. RAG의 핵심 원리

• RAG가 동작하는 가장 핵심적인 메커니즘이 바로 프롬프트 스터핑(Prompt Stuffing)임
• Stuffing : 쑤셔넣다, 채워 넣다

• 유저가 질문을 하면, 백엔드 서버는 먼저 사내 DB(벡터 DB)를 검색하여 질문과 가장 의미가 비슷한(임베딩 유사도가 높은) 문서 내용만 발췌함

• 발췌된 문서를 유저의 질문과 함께 하나의 프롬프트로 뭉쳐서 AI에게 전달함.

• 토큰의 한계가 있는 Context Window 때문에 토큰 제한을 넘지 않도록, 질문과 가장 관련된 데이터만 효과적으로 검색해 프롬프트에 삽입하는 것이 핵심임

✅ 3. RAG의 장점

• 모델 재훈련 없이 지식 확장 (비용 절감)
• 수천만 원이 드는 GPU 서버 학습(Fine Tuning) 과정이 아예 필요 없음

• 실시간 정보 업데이트
• 백엔드 DB에 최신 뉴스나 오늘 바뀐 환불 규정을 추가해 놓기만 하면 AI가 즉시 그 문서를 읽고 최신 답변을 해줌

• 특정 도메인 지식 활용 (사내 데이터 연동)
• 인터넷에 절대 공개되지 않는 사내 기밀문서나 고객의 개인정보를 바탕으로 AI가 답변할 수 있음

• 응답 정확성과 신뢰성 향상 (할루시네이션 방지)
• AI가 모르는 것을 지어내는 '환각 현상(Hallucination)'을 획기적으로 줄일 수 있음.