의료 AI 임상시험 과제, 환자 데이터 활용의 법적 경계
한줄 요약
의료 AI 임상시험에서 환자 데이터 활용 범위를 둘러싼 법적 공백이 글로벌 규제 기관의 주요 과제로 부상하고 있다.
뉴스 개요
2025년 하반기부터 미국 FDA, 유럽 EMA, 한국 식약처가 공동으로 의료 AI 임상시험 데이터 활용 가이드라인 마련에 착수했다. 핵심 쟁점은 AI 모델 학습에 사용된 환자 데이터가 임상시험 데이터로 중복 활용될 때 발생하는 편향 문제와, 기존 개인정보보호법(HIPAA·GDPR·개인정보보호법)이 AI 학습 데이터 사용 시나리오를 충분히 커버하지 못한다는 점이다.
2025년 9월 발표된 WHO 보고서 “AI in Clinical Research: Ethical and Legal Challenges”는 전 세계 87개 의료기관 조사 결과, 72%가 AI 개발 과정에서 환자 동의 절차 없이 비식별화 데이터를 활용한 경험이 있다고 밝혔다.
주요 내용
연구/발표 상세
WHO 보고서의 주요 수치:
- 조사 대상 87개 기관 중 72%가 환자 명시적 동의 없이 비식별 데이터 AI 학습에 활용
- 38%는 임상시험 프로토콜에 AI 데이터 활용 조항 미포함
- 의료 AI 임상시험 중 데이터 편향 문제 보고 비율: 61%
| 구분 | 현황 | 주요 문제 |
|---|---|---|
| 미국 (HIPAA) | 비식별화 시 활용 허용 | AI 재식별 가능성 미고려 |
| EU (GDPR) | 명시적 동의 원칙 | AI 학습 목적 동의 범주 불명확 |
| 한국 (개인정보보호법) | 가명처리 조건부 허용 | 보건의료데이터 활용법 미비 |
2025년 10월, FDA는 “AI/ML-Based Software as a Medical Device” 업데이트 가이던스에서 임상시험 설계 단계부터 AI 학습 데이터와 검증 데이터를 엄격히 분리할 것을 명시했다. 이를 위반할 경우 510(k) 승인 취소 사유가 될 수 있다.
배경
전통적인 임상시험은 연구 목적이 명확하고 참여자 동의가 전제되지만, AI 개발은 대규모 후향적 데이터를 반복 학습하는 특성상 기존 임상연구 윤리 체계와 충돌한다. 특히 동일한 환자 데이터가 모델 학습, 내부 검증, 외부 임상시험에 모두 쓰일 경우 성능이 과장될 수 있다는 데이터 누출(data leakage) 문제가 가장 심각하다.
2023년 NEJM Evidence에 게재된 논문(Obermeyer et al.)은 상용 AI 진단 도구 14개 중 9개에서 학습-검증 데이터 분리가 불충분했음을 지적했다.
의료 현장에 미치는 영향
긍정적 측면
- 규제 가이드라인 정비로 AI 임상시험 신뢰도 기준 상향 — 장기적으로 허가받은 의료 AI의 실제 성능 신뢰 가능
- 환자 동의 체계 강화로 AI 개발 과정의 투명성 증가
- 국제 공조를 통한 글로벌 표준 수립 → 다국적 임상 수행 시 규제 통일화 기대
주의할 점/한계
- 규제 강화로 AI 임상시험 준비 비용 및 기간 증가 — 소규모 의료 AI 스타트업에 진입 장벽
- 각국 법률 해석 차이로 다국가 임상시험 설계 복잡성 증가
- “비식별화”의 기준이 AI 재식별 기술 발전을 따라가지 못하는 기술-법률 간격 문제 지속
의료진이 알아야 할 점
임상 연구자라면 병원 내 AI 개발 프로젝트에 환자 데이터를 제공할 때 다음을 확인해야 한다:
- IRB 승인 여부: AI 학습 목적 데이터 사용도 IRB 심의 대상인지 기관 확인
- 동의서 포함 여부: 기존 연구 동의서에 AI 학습 활용 조항이 있는지 점검
- 데이터 분리 확인: 학습 데이터와 검증 데이터가 환자 단위로 분리되어 있는지 확인
- 외부 반출 시: 클라우드 AI 서비스에 환자 데이터 업로드는 개인정보보호법 위반 가능성
처방을 내리는 의사보다 연구자 역할을 하는 의사에게 더 직접적으로 관련된 이슈다. 병원 기관윤리위원회(IRB)에 AI 데이터 활용 가이드라인이 있는지 확인해볼 것을 권한다.
향후 전망
- 2026년 하반기: FDA-EMA 공동 의료 AI 임상시험 데이터 활용 가이드라인 최종안 발표 예정
- 한국: 보건복지부 주도 “보건의료 AI 데이터 활용 특별법” 입법 추진 중 (2026년 국회 제출 목표)
- 합성 데이터(Synthetic Data): 실제 환자 데이터 없이 AI 학습 가능한 합성 데이터 생성 기술이 법적 대안으로 부상 — NVIDIA, Google Health 등 적극 투자 중
- 장기적으로는 페더레이티드 러닝(Federated Learning) 방식이 표준이 될 가능성 — 데이터를 이동하지 않고 각 병원에서 모델만 학습