AI가 틀린 의료 정보를 줬는데 실제로 환자에게 영향을 주면 어떻게 되나요?

…

AI가 틀린 의료 정보를 줬는데 실제로 환자에게 영향을 주면 어떻게 되나요?


간단한 답

그 정보를 검토하지 않고 사용한 의사에게 법적 책임이 있습니다.


좀 더 자세히

배경 — 도구 책임론

AI는 도구입니다. 의료 기기나 약품처럼 도구 자체에 결함이 있더라도, 그 도구를 사용한 전문가의 주의의무가 우선합니다.

칼이 수술 중 부러졌다면 칼 제조사의 책임을 물을 수도 있지만, 그 칼이 불량품임을 알면서도 사용했다면 의사의 책임도 있습니다.

AI도 마찬가지입니다. AI가 오류를 낼 수 있다는 것은 이미 공지된 사실입니다. AI 서비스 약관에는 대부분 “의료 결정에 단독으로 사용하지 말라”는 면책 조항이 있습니다.

주의의무란 무엇인가요?

의사에게는 “합리적으로 기대되는 수준의 주의를 기울여야 한다”는 의무가 있습니다. 이를 주의의무라고 합니다.

AI 출력물을 그대로 처방에 적용한다면 이 주의의무를 다하지 않은 것으로 판단될 수 있습니다. 반면, AI 제안을 확인하고, 다른 출처와 대조하고, 환자 맥락에 맞게 조정했다면 “합리적인 주의”를 기울인 것으로 볼 수 있습니다.

실제 의료 소송 시나리오

다음과 같은 상황을 가정해봅니다.

시나리오 A: AI가 “신부전 환자에게 이 용량이 안전하다”고 했고, 의사가 공식 약품 정보를 확인하지 않고 처방 → 용량 과다로 환자 이상 발생. 이 경우 의사의 주의의무 위반이 인정될 가능성이 높습니다.

시나리오 B: AI가 같은 제안을 했고, 의사가 약품집을 확인하고 약사와도 상의한 후 처방 → 같은 결과 발생. 이 경우 의사가 합리적 주의를 기울였다는 기록이 있어 방어가 가능합니다.

사례로 보기

✅ 안전하게 쓰는 방법

“AI가 용량 조절 기준을 제안했는데, 제가 레널 약물 핸드북에서 확인하니 다른 내용이 있어서 핸드북 기준으로 처방했습니다.”

⚠️ 위험한 방법

“AI에서 나온 거라서 맞을 것 같아서요.” AI 단독 의존은 법적으로도, 환자 안전 측면에서도 위험합니다.


실용적인 조언

  1. 중요한 결정은 반드시 2차 확인을 하세요. 약물 용량, 진단 기준, 응급 프로토콜 같은 고위험 정보는 AI 이외의 출처로 확인하는 것이 원칙입니다.

  2. AI 사용 과정을 기록에 남기는 습관을 만드세요. “AI 제안을 참고하고 [출처]로 확인 후 처방”처럼 간단한 메모라도 남기면 분쟁 시 방어가 됩니다.

  3. AI 서비스 약관을 한 번은 읽어보세요. 대부분의 AI 서비스는 의료적 결정을 위한 단독 사용을 명시적으로 금지합니다. 이 사실을 알고 쓰는 것과 모르고 쓰는 것은 다릅니다.

  4. AI를 쓰는 기준을 스스로 정하세요. “이 정도 리스크의 결정은 AI를 보조로만 쓰고, 이 이상은 반드시 전문 출처로 확인한다”는 자신만의 원칙이 있으면 좋습니다.


더 알고 싶다면

🔗 의료에서 AI 정확도는 얼마나 되나요? — AI가 얼마나 자주 틀리는지 이해

🔗 AI로 신기능/간기능 저하 환자 약물 용량 확인하기 — 고위험 처방에서 AI를 안전하게 활용하는 방법

🔗 AI에게 환자 정보를 입력하면 개인정보가 유출되나요? — AI 사용의 또 다른 법적 위험 요소

👉 애린이가 처음이라면 → 애린이 시작 가이드에서 기초부터 시작해 보세요