실무에 바로 적용하는 Spring AI: Spring 서비스에 챗봇·RAG·MCP 도입하기
✅ 1. Fine Tuning이란 무엇일까?
- 이미 학습된 기존 AI 모델의 내부 가중치(두뇌의 신경망 연결 상태)를 직접 조작하여, 우리가 원하는 특정 데이터나 목적에 딱 맞게 개조하는 전통적인 머신러닝 기법
- 사내의 전문 지식이나 특유의 말투를 집중적으로 추가 학습시켜 맞춤형 특화 모델로 개조하는 것이라고 생각하면 됨
✅ 2. AI 모델에 새로운 데이터를 통합해야 하는 이유
AI는 ‘학습 데이터 시점의 한계’가 분명하게 존재함
- 예를 들어, 초기 GPT-3.5나 GPT-4모델은 전 세계의 웹 데이터(약 650GB)를 싹 다 읽었지만, 그 지식은 2021년 9월(또는 특정 시점)까지만 업데이트되어 있음.
- 어제 발표된 최신 뉴스나, 인터넷상에 없는 우리 회사의 비밀 규정, 고객 데이터는 아무리 똑똑한 AI라도 절대 알 수 없음
- 따라서 AI를 실제 비즈니스에 써먹으려면, 텅 비어있는 최신 지식이나 사내 데이터를 AI의 머릿속에 통합해 주어야 함
✅ 3. Fine Tuning의 장점
- 특정 작업에 대한 압도적인 성능 향상
- 법률 계약서만 검토하게 하거나, 의료 차트만 분석하게 하는 등 특정 분야의 업무 처리 능력이 일반 AI와 비교할 수 없을 정도로 좋아짐
- 행동이나 스타일의 미세 조정
- 단순한 지식 전달을 넘어, AI가 대답하는 스타일 자체를 바꿀 수 있음
✅ 4. Fine Tuning의 단점
- 어마어마한 비용과 시간
- AI의 뇌 구조를 직접 뜯어고치는 작업이므로, 학습을 돌리는 데 수백~수천만 원짜리 고성능 GPU 서버가 여러 대 필요하며 시간도 오래 걸림
- 높은 진입 장벽 (머신러닝 전문 지식 필요)
- 일반적인 자바 웹 개발 지식만으로는 불가능하며, 데이터를 정제하고 모델을 튜닝할 줄 아는 전문 AI 엔지니어(데이터 사이언티스트)가 필요함
- 일부 모델은 파인튜닝 미지원
- 보안이나 정책상의 이유로 Fine Tuning 자체를 막아놓은 AI 모델들도 많음
