[헬스테크]
한국보건의료연구원(NECA)이 의료 현장에서 빠르게 확산하고 있는 생성형 인공지능(AI)에 적용할 ‘의료 분야 생성형 인공지능 적정 활용 원칙’을 발표했다.
최근 대규모 언어모델(LLM)과 다중모달모델(LMM)을 기반으로 한 생성형 AI가 의료 현장에서 폭넓게 활용되고 있다. 그러나 기술 활용이 확대될수록 환자 안전, 개인정보 보호, 의료 판단에 대한 과신, 책임 소재와 같은 쟁점도 함께 제기되고 있다. 제도적 규제만으로는 실제 이용 행태와 다양한 적용 환경을 충분히 포괄하기 어렵다는 한계도 지적되고 있다.
이에 NECA는 2025년 원탁회의 주제를 ‘의료 AI’로 선정하고, 두 차례에 걸쳐 의료인·연구자·산업계·법·정책 전문가 및 국민참여단과 함께 의료 AI 적정 활용 원칙에 대해 논의했다.
최근 대규모 언어모델(LLM)과 다중모달모델(LMM)을 기반으로 한 생성형 AI가 의료 현장에서 폭넓게 활용되고 있다. 그러나 기술 활용이 확대될수록 환자 안전, 개인정보 보호, 의료 판단에 대한 과신, 책임 소재와 같은 쟁점도 함께 제기되고 있다. 제도적 규제만으로는 실제 이용 행태와 다양한 적용 환경을 충분히 포괄하기 어렵다는 한계도 지적되고 있다.
이에 NECA는 2025년 원탁회의 주제를 ‘의료 AI’로 선정하고, 두 차례에 걸쳐 의료인·연구자·산업계·법·정책 전문가 및 국민참여단과 함께 의료 AI 적정 활용 원칙에 대해 논의했다.
이 원칙은 기술 규제나 세부 가이드라인을 제시하기보다, 의료 AI를 사용하는 모든 주체가 공유해야 할 ‘사회적 약속(Social Compact)’을 만드는 데에 초점을 두고 있다. 원칙은 ▲개발자·서비스 제공자 ▲의료인 ▲국민(이용자) 등 세 주체별 핵심 역할과 실천 원칙으로 구성된다.
개발자·서비스 제공자는 신뢰할만한 의료 AI 기술과 서비스를 설계·제공하는 주체다. 이들이 지킬 원칙으로는 환자 안전과 투명성 확보, 공정성·설명 가능성의 강화, 인간 감독의 내재화 등을 핵심 원칙으로 제시했다. 오류 발생 시 신속한 개선과 정보 공개, AI 생성 결과의 명확한 표시, 정보 취약층을 고려한 쉬운 말 모드와 필수 정보 자동 확인 등 접근성 강화 책임도 포함됐다.
의료인은 AI를 임상 판단을 돕는 참고 도구로 활용하되, 최종 의사 결정의 책임을 져야 함을 분명히 했다. 이를 위해 보조적 활용 원칙, 근거 기반 검증, 환자 중심 설명과 동의, 오류 예방과 학습, 지속적인 디지털 역량 강화를 핵심 실천 원칙으로 제시했다.
국민(이용자)은 AI를 자신을 보호하고 판단하는 보조 도구로 인식하고, 자율과 책임, 안전한 사용, 개인정보 보호, 비판적 이해 등의 원칙을 지킬 것을 제시했다. 특히 응급·고위험 상황에서는 AI의 답변을 보고 스스로 판단하지 말고 즉시 의료기관을 이용하고, AI가 이상하거나 불편한 답변을 할 경우 즉시 사용을 중단해야 함을 강조했다.
이재태 원장은 “의료 AI는 국민 건강 증진을 위한 중요한 기회인 동시에, 잘못 활용될 경우 의료 신뢰를 훼손할 수 있는 위험도 함께 가지고 있다”며 “이번 원칙은 규제를 넘어 의료 현장에서 실제로 참고할 수 있는 공공적 기준점으로서 의미가 있다”고 밝혔다.
‘의료 분야 생성형 인공지능 적정 활용 원칙’은 향후 의료 현장과 정책 논의에서 참고 자료로 활용될 예정이다.
개발자·서비스 제공자는 신뢰할만한 의료 AI 기술과 서비스를 설계·제공하는 주체다. 이들이 지킬 원칙으로는 환자 안전과 투명성 확보, 공정성·설명 가능성의 강화, 인간 감독의 내재화 등을 핵심 원칙으로 제시했다. 오류 발생 시 신속한 개선과 정보 공개, AI 생성 결과의 명확한 표시, 정보 취약층을 고려한 쉬운 말 모드와 필수 정보 자동 확인 등 접근성 강화 책임도 포함됐다.
의료인은 AI를 임상 판단을 돕는 참고 도구로 활용하되, 최종 의사 결정의 책임을 져야 함을 분명히 했다. 이를 위해 보조적 활용 원칙, 근거 기반 검증, 환자 중심 설명과 동의, 오류 예방과 학습, 지속적인 디지털 역량 강화를 핵심 실천 원칙으로 제시했다.
국민(이용자)은 AI를 자신을 보호하고 판단하는 보조 도구로 인식하고, 자율과 책임, 안전한 사용, 개인정보 보호, 비판적 이해 등의 원칙을 지킬 것을 제시했다. 특히 응급·고위험 상황에서는 AI의 답변을 보고 스스로 판단하지 말고 즉시 의료기관을 이용하고, AI가 이상하거나 불편한 답변을 할 경우 즉시 사용을 중단해야 함을 강조했다.
이재태 원장은 “의료 AI는 국민 건강 증진을 위한 중요한 기회인 동시에, 잘못 활용될 경우 의료 신뢰를 훼손할 수 있는 위험도 함께 가지고 있다”며 “이번 원칙은 규제를 넘어 의료 현장에서 실제로 참고할 수 있는 공공적 기준점으로서 의미가 있다”고 밝혔다.
‘의료 분야 생성형 인공지능 적정 활용 원칙’은 향후 의료 현장과 정책 논의에서 참고 자료로 활용될 예정이다.
이 기사와 관련기사