LLM 용어 사전 — GPT, Claude, Gemini를 이해하는 단어들

…

GPT, Claude, Gemini 기사를 읽다 보면 낯선 용어가 쏟아집니다. 마치 처음 의대에 들어가서 해부학 용어를 접하는 느낌이죠. 핵심 8개만 잡아두면 AI 뉴스가 달리 보입니다.

LLM 핵심 용어 8개

용어설명비고
Parameter (파라미터)모델이 학습으로 얻은 수십억 개의 숫자값GPT-4는 약 1조 개 추정
Training data (학습 데이터)모델이 학습한 텍스트 원본인터넷 텍스트, 책, 논문 등
Inference (추론)학습된 모델이 실제 질문에 답하는 과정병원에서 AI가 작동하는 순간
RLHF인간 피드백으로 모델을 강화학습하는 방식좋은 답변에 점수를 줘서 모델 개선
AlignmentAI가 인간의 의도에 맞게 행동하도록 하는 기술위험한 의료 정보를 거부하게 만드는 것
Hallucination없는 사실을 있다고 생성하는 현상실제 없는 논문 DOI를 자신감 있게 제시
Context window한 번에 처리할 수 있는 최대 텍스트 양긴 EMR 기록 전체를 넣을 수 있는지 결정
Tokenizer텍스트를 토큰으로 쪼개는 도구한국어는 영어보다 토큰 소모가 많음

”파라미터가 많다 = 더 똑똑하다?” — 비교

구분소형 모델 (7B)대형 모델 (700B)
속도빠름느림
비용저렴비쌈
정확도단순 작업에 충분복잡한 추론에 유리
의료 적용간단한 문서 정리복잡한 감별 진단

✅ 단순 요약 작업은 소형 모델로 충분합니다.

❌ 파라미터 수만 보고 모델을 선택하면 안 됩니다. 의료 특화 학습 여부가 더 중요합니다.

⚠️ Hallucination은 파라미터가 많아도 완전히 없어지지 않습니다. 검증은 필수입니다.

한 줄 정리

LLM은 방대한 텍스트(Training data)로 수십억 개의 숫자(Parameter)를 학습합니다. 질문이 들어오면 토크나이저가 텍스트를 쪼개고(Tokenizer), 컨텍스트 윈도우 안에서 답변을 생성(Inference)합니다. RLHF와 Alignment 덕분에 위험한 답변은 걸러집니다.


더 알고 싶다면