파인튜닝이란 무엇인가 — AI에게 새로운 직업을 가르치기
한줄 요약
파인튜닝은 의대를 졸업한 사람에게 응급의학과 전공의 수련을 시키는 것과 같다 — 기반 능력은 유지하면서 특정 분야를 깊게 훈련한다.
본문
파인튜닝이 필요한 이유
GPT-4나 Claude는 수백만 개의 다양한 텍스트로 훈련된 범용 모델이다. 요리 레시피도 알고, 법률 문서도 읽고, 코드도 짜고, 의학 논문도 이해한다.
하지만 “범용”이라는 건 “어떤 한 분야의 전문가”가 아니라는 뜻이기도 하다.
병원 AI가 필요로 하는 것들:
- 한국 의료 보험 청구 코드 체계를 정확히 알아야 함
- 우리 병원 특유의 약어와 표현을 이해해야 함
- 임상 노트를 특정 형식으로 작성해야 함
- 특정 과의 어조와 문체를 따라야 함
범용 모델은 이것들을 프롬프트로 설명해야 한다. 파인튜닝은 이것들을 모델 자체에 내장한다.
파인튜닝이 작동하는 방식
사전학습(Pre-training):
GPT-4가 처음 만들어질 때
수조 개의 텍스트 → 모델 파라미터 수백 기가바이트
이 단계가 진짜 "학습"이다. 수개월, 수천억 원.파인튜닝(Fine-tuning):
이미 만들어진 GPT-4를 가져와서
의료 데이터 수천~수만 개로 추가 학습
파라미터 일부만 조정. 수시간~수일, 수십만 원.비유:
- 사전학습 = 초등학교부터 의대까지 22년 교육
- 파인튜닝 = 응급의학과 3년 레지던트
레지던트는 의사로서의 기반 능력을 유지하면서, 응급 상황 대처라는 특화 능력을 쌓는다.
파인튜닝 데이터 형식
파인튜닝은 입력-출력 쌍 데이터로 학습한다.
[
{
"messages": [
{
"role": "system",
"content": "당신은 내과 전문의 AI 어시스턴트입니다."
},
{
"role": "user",
"content": "58세 남성, 당뇨 10년, HbA1c 9.2%, 공복혈당 280. SGLT2i 추가할까요?"
},
{
"role": "assistant",
"content": "HbA1c 9.2%로 혈당 조절 불량 상태입니다. eGFR이 45 이상이라면 SGLT2i 추가를 고려할 수 있습니다. 심혈관 위험인자가 있다면 특히 적응증이 됩니다. eGFR 확인 후 판단하시고, 신기능 저하 시 대안으로 GLP-1 RA를 고려해보세요."
}
]
},
...
]이런 데이터 수천 개를 만들어서 학습시키면, 모델이 이 패턴을 내면화한다.
파인튜닝의 종류
Full Fine-tuning 모델의 모든 파라미터를 조정한다. 가장 강력하지만 가장 비싸고, GPU 메모리를 많이 쓴다. 대형 모델에선 사실상 불가능에 가깝다.
LoRA (Low-Rank Adaptation) 파라미터 전체를 바꾸지 않고, 작은 “어댑터” 행렬을 추가해서 학습한다. 파라미터의 1~5%만 학습. 비용과 메모리가 크게 줄어든다. 현재 가장 많이 쓰이는 방식이다.
RLHF (Reinforcement Learning from Human Feedback) 사람이 “이 답변이 더 좋다”고 피드백을 주고, 그걸 바탕으로 학습한다. ChatGPT를 ChatGPT답게 만든 기술. 데이터 수집이 가장 어렵다.
Instruction Tuning “X를 하라”는 지시 형식의 데이터로 학습. 모델이 지시를 더 잘 따르게 된다.
파인튜닝 vs 프롬프트 엔지니어링
많이 헷갈리는 비교다.
| 프롬프트 엔지니어링 | 파인튜닝 | |
|---|---|---|
| 모델 변경 | 없음 | 있음 |
| 비용 | 낮음 | 높음 (학습 비용) |
| 속도 | 즉시 | 수시간~수일 |
| 일관성 | 매번 프롬프트 필요 | 모델에 내장됨 |
| 프롬프트 길이 | 길어짐 | 짧아짐 |
| 새 지식 추가 | 제한적 | 가능 |
일반적인 원칙:
- 먼저 프롬프트 엔지니어링으로 해결하려 한다
- 안 되면 RAG를 고려한다
- 그래도 안 되면 파인튜닝을 고려한다
파인튜닝은 비싸고 시간이 걸린다. “파인튜닝해야 하나?” 전에 “프롬프트로 해결 안 되나?”를 먼저 물어봐야 한다.
파인튜닝이 잘 어울리는 케이스
스타일/어조 통일: 우리 병원 문체로 노트를 쓰는 AI 특수 형식 생성: 특정 양식의 보험 청구서, 특정 형태의 요약문 도메인 특화 언어: 내부 약어, 코드명, 기관 특유의 표현 일관된 출력 형식: 매번 프롬프트에 형식을 넣지 않아도 됨
파인튜닝이 잘 안 맞는 케이스
최신 정보 추가: 파인튜닝해도 새로운 지식을 완벽히 주입하기 어렵다 → RAG가 낫다 사실 정확성 개선: 파인튜닝해도 할루시네이션이 줄지 않을 수 있다 → RAG가 낫다 일회성 작업: 데이터 수집·학습 비용 대비 효과가 없다
다음 글에서 RAG와 파인튜닝을 언제 선택해야 하는지 직접 비교한다.