의료 AI 데이터 유출: 최근 사례와 대응
한줄 요약
2024~2025년 의료 AI 시스템을 경유한 환자 데이터 유출 사고가 전 세계적으로 14건 보고되었으며, 유출 규모는 누적 230만 명에 달한다.
뉴스 개요
의료 AI 시스템의 보안 취약점을 통한 환자 데이터 유출이 새로운 유형의 보안 위협으로 부상하고 있다. 미국 HHS(보건복지부) Office for Civil Rights가 2026년 2월 발표한 연간 보고서에 따르면, 2025년 보고된 의료 데이터 유출 사고 725건 중 47건(6.5%)이 AI 시스템과 직접 관련된 것으로 분류되었다.
한국 개인정보보호위원회도 2025년 의료 AI 관련 개인정보 유출 신고 4건을 접수했으며, 이 중 2건에 대해 과징금을 부과했다.
주요 내용
연구/발표 상세
2024~2025년 주요 의료 AI 데이터 유출 사례:
| 시기 | 사고 유형 | 피해 규모 | 원인 |
|---|---|---|---|
| 2024.04 | 미국 AI 원격진료 플랫폼 | 82만 명 | API 인증 결함으로 AI 진료 기록 노출 |
| 2024.09 | 인도 AI 건강검진 앱 | 47만 명 | 클라우드 스토리지 설정 오류 |
| 2025.01 | 국내 C 의료 AI 기업 | 12만 명 | AI 모델 학습 데이터 서버 외부 접근 허용 |
| 2025.05 | 유럽 영상의학 AI 서비스 | 31만 명 | 모델 역추론(Model Inversion) 공격 |
| 2025.09 | 국내 D 건강관리 앱 | 8만 명 | 비식별화 처리 불충분, 재식별 가능 |
의료 AI 시스템 특유의 보안 취약점:
| 취약점 유형 | 설명 | 위험도 |
|---|---|---|
| 모델 역추론 공격 | AI 모델 출력값에서 학습 데이터(환자 정보) 역추적 | 높음 |
| API 보안 미흡 | AI 추론 API의 인증·권한 관리 부실 | 높음 |
| 학습 데이터 관리 | 모델 학습에 사용된 원본 데이터 잔존 | 중간 |
| 페더레이티드 러닝 통신 | 병원 간 모델 파라미터 교환 시 도청 | 중간 |
| 비식별화 우회 | AI 기술로 가명처리된 데이터 재식별 | 높음 |
배경
기존 의료 데이터 유출은 EMR 시스템 해킹이나 내부자 유출이 주를 이루었으나, AI 시스템은 새로운 공격 표면(Attack Surface)을 만들어낸다. 특히 모델 역추론 공격은 AI 모델 자체에 학습 데이터가 “기억”되어 있는 특성을 악용하는 것으로, 전통적 보안 체계로는 방어가 어렵다.
2025년 Nature Machine Intelligence에 게재된 연구(Carlini et al.)는 의료 영상 AI 모델에서 학습에 사용된 원본 환자 영상의 4.7%를 복원할 수 있음을 실험적으로 입증했다.
의료 현장에 미치는 영향
긍정적 측면
- 사고 사례 축적으로 의료 AI 보안 표준 마련 가속 — NIST “AI Risk Management Framework” 의료 부문 업데이트(2025.12)
- 차분 프라이버시(Differential Privacy) 등 개인정보보호 기술이 AI 학습에 기본 적용되는 추세
- 사고 경험을 통해 의료기관의 AI 도입 시 보안 평가 체계 강화
주의할 점/한계
- 의료 AI 보안 전문 인력 부족 — 국내 의료기관 정보보안 담당자 중 AI 보안 전문성 보유 비율 7%(KISA, 2025)
- AI 모델 자체의 보안 검증 체계가 아직 표준화되지 않음
- 유출 사고 발생 시 환자 신뢰 회복에 평균 18개월 소요(Ponemon, 2025)
핵심 정리
의료 AI 시스템은 기존 IT 보안 위협에 더해 모델 역추론, 학습 데이터 잔존 등 AI 고유의 보안 취약점을 가지고 있다. 의료기관은 AI 도입 시 기존 정보보안 체계에 AI 보안 평가를 추가해야 하며, 특히 학습 데이터 관리, 모델 접근 제어, 비식별화 강화에 집중할 필요가 있다. 개인정보보호위원회는 2026년 “AI 시대 의료데이터 보호 가이드라인”을 발표할 예정이다.