환각 vs 작화증 — AI 오류를 의학 용어로 정확하게 부르는 법
한줄 요약
AI가 사실을 지어내는 현상은 정신의학의 “환각”이 아닌 “작화증”에 훨씬 더 가깝다 — 두 단어를 구분하면 AI 오류의 본질이 보인다.
정신의학에서의 hallucination(환각)
환각은 외부 자극 없이 지각이 일어나는 현상이다. 환청(아무도 말하지 않았는데 목소리가 들림), 환시(없는 것이 보임), 환촉(아무것도 닿지 않았는데 촉감이 느껴짐) 등이 이에 해당한다.
- 발생 맥락: 조현병(schizophrenia), 섬망(delirium), 파킨슨병 치매, LSD 등 환각제 복용
- 핵심 특징: 자극의 부재. 뇌가 없는 감각 신호를 만들어낸다.
- 환자 경험: 대부분 생생하고 실제처럼 느껴진다. 환청 환자는 그 목소리가 외부에서 온다고 확신한다.
정신의학에서의 confabulation(작화증)
작화증은 기억의 공백을 무의식적으로 허구로 채우는 현상이다. 중요한 점은 환자가 거짓말을 하는 것이 아니라는 사실이다. 본인도 그것이 지어낸 기억임을 모른다.
- 발생 맥락: 코르사코프 증후군(만성 알코올중독으로 인한 비타민 B1 결핍), 해마 손상, 전두엽 손상
- 핵심 특징: 기억 저장 또는 인출 실패 → 뇌가 자동으로 그럴듯한 이야기를 생성해 공백 채움
- 전형적 사례: 코르사코프 환자에게 “어제 뭐 하셨어요?”라고 물으면, 실제로는 병실에 있었는데 “낚시를 다녀왔어요”라고 자신감 있게 대답한다.
왜 이 이름인가
“hallucination”이 AI 오류 용어로 굳어진 과정을 살펴보면 다소 우연적이다.
2018~2020년, 신경망 기반 기계번역과 이미지 캡션 생성 연구에서 모델이 실제 입력과 관계없는 내용을 출력하는 현상이 관찰되었다. 초기 논문들 — 특히 이미지 캡션 연구 — 에서 “이미지에 없는 객체를 보는 것 같다”는 비유로 “hallucination”이라는 단어를 사용하기 시작했다.
이 표현이 강한 임팩트를 주었고, NLP 커뮤니티에서 빠르게 표준 용어로 자리 잡았다. 2021년 이후 ChatGPT 등 대형 언어 모델이 대중화되면서 이 단어는 언론과 일반 대중에게도 퍼져나갔다.
문제는, 비유가 잘못된 쪽을 선택했다는 점이다.
AI 오류의 실제 메커니즘: 작화증이 더 정확하다
LLM이 오류를 만드는 과정을 살펴보자.
- 모델은 방대한 텍스트에서 단어 사이의 확률 패턴을 학습한다.
- 질문을 받으면 학습된 패턴에서 “가장 그럴듯한” 다음 단어 시퀀스를 생성한다.
- 특정 사실에 대한 정보가 없거나 불충분할 때, 모델은 멈추지 않고 패턴상 어울리는 내용을 계속 생성한다.
- 그 결과로 그럴듯하지만 사실과 다른 텍스트가 만들어진다.
이것은 “없는 자극을 지각”하는 환각이 아니다. “정보 공백을 그럴듯한 내용으로 채우는” 작화증이다. 모델도 마치 코르사코프 환자처럼, 자신이 틀린 정보를 자신감 있게 제시하는지 모른다.
비교표: 세 용어 정리
| 구분 | 환각(Hallucination) | 작화증(Confabulation) | AI “Hallucination” |
|---|---|---|---|
| 원인 | 외부 자극 부재 | 기억/지식 공백 | 학습 데이터 공백 |
| 메커니즘 | 없는 감각 생성 | 그럴듯한 기억 조작 | 그럴듯한 텍스트 생성 |
| 자각 | 종종 있음 | 없음 | 없음 |
| 유사도 | 낮음 | 높음 | — |
의사가 이 단어를 들었을 때 생기는 오해
“AI가 hallucination을 한다”는 말을 임상 현장의 의사가 들으면, 직관적으로 “AI가 환청을 듣거나 없는 것을 본다”는 이미지를 떠올릴 수 있다. 이는 AI의 실제 문제와 전혀 다른 메커니즘이다.
환각은 감각 지각의 오류고, AI 오류는 지식 생성의 오류다. 두 현상은 근본적으로 다른 종류의 문제이며, 잘못된 비유는 AI 리터러시를 오히려 방해한다.
임상 현장에서 환자에게 AI 오류를 설명할 때
환자가 “AI가 왜 틀린 말을 해요?”라고 물을 때 의사는 어떻게 설명해야 할까.
- 피해야 할 설명: “AI가 환각을 일으켰어요” — 환자는 AI가 아프다고 생각할 수 있다.
- 더 나은 설명: “AI는 모르는 내용이 있어도 멈추지 않고 그럴듯한 내용을 만들어냅니다. 사람이 기억이 안 날 때 적당한 내용으로 채워 말하는 것과 비슷합니다.”
대안 용어로는 “fabrication”(날조), “confabulation”(작화), “sycophantic generation”(동조적 생성)이 제안되고 있으나, 아직 “hallucination”을 대체하지는 못했다.
핵심 정리
- 정신의학적 환각은 외부 자극 없는 지각 오류, AI 오류와 메커니즘이 다르다
- 작화증(confabulation)이 AI 오류의 실제 메커니즘에 훨씬 가깝다
- “hallucination”이라는 용어는 2018~2020년 초기 NLP 논문에서 우연히 굳어진 것이다
- 의사는 이 단어가 환자에게 잘못된 인상을 줄 수 있음을 알고 대안 언어를 사용해야 한다
- 용어를 정확히 아는 것은 AI 오류의 본질과 대처법을 이해하는 첫걸음이다