현재 국내에서 논의되고 있는 AI(인공지능) 진단·의료기기 관련 규제에 대해 재검토가 이뤄져야 한다는 목소리가 등장했다.
서울대 법학전문대학원 박상철 교수는 30일 서울특별시 중구에서 열린 '한국의학바이오기자협회 제7회 미디어 아카데미'에서 헬스케어 산업에서의 AI 적용·규제 현황을 공유하고, 향후 AI 진단·의료기기 규제에 필요한 방향성 등에 대해 제언했다.
◇AI 적용 가장 활발한 헬스케어 분야는 '진단·의료기기'
박상철 교수에 따르면, 헬스케어 산업에서의 AI가 가장 활발하게 쓰이는 영역은 진단·의료기기 분야다. 박 교수는 "AI 의료기기는 초반에는 소수의 뛰어난 영상의학 전문의들의 판독 사례(경험)를 훈련시키는 모델이었다"며 "현재는 좀 더 정교해지면서 실제 조직검사 단계가 반영이 가능한 단계까지 훈련이 이뤄지고 있다"고 말했다. 이어 박 교수는 "최근에는 AI가 임상의학으로도 영역을 넓히면서 신경외과나 혈액학을 비롯한 기타 영역에서도 활발하게 연구가 이뤄지고 있다"고 말했다.
가장 큰 시장을 보유한 미국의 경우 지난 6월 기준 총 950건의 SaMD(소프트웨어 의료기기)가 등록됐다. 국내 기업의 미국 시장 진출도 이뤄지고 있다. 가령 루닛은 자사의 AI 영상분석 솔루션 '인사이트' 시리즈의 미국 식품의약국(FDA) 허가 절차를 밟고 있는 중이다.
국내의 시장 상황도 미국과 다르지 않다. 실제로 연도별로 식품의약품안전처(식약처)의 허가·인증을 받은 의료기기가 증가하고 있다. 지난해 식약처의 허가·인증을 받은 AI 기반 의료기기의 수는 총 64개로, 2019년(10개) 대비 6배 이상 증가했다. 단계별 SaMD 임상시험 승인 건수도 2018년 6건에서 2022년 49건으로 증가세를 보였다.
서울대 법학전문대학원 박상철 교수는 30일 서울특별시 중구에서 열린 '한국의학바이오기자협회 제7회 미디어 아카데미'에서 헬스케어 산업에서의 AI 적용·규제 현황을 공유하고, 향후 AI 진단·의료기기 규제에 필요한 방향성 등에 대해 제언했다.
◇AI 적용 가장 활발한 헬스케어 분야는 '진단·의료기기'
박상철 교수에 따르면, 헬스케어 산업에서의 AI가 가장 활발하게 쓰이는 영역은 진단·의료기기 분야다. 박 교수는 "AI 의료기기는 초반에는 소수의 뛰어난 영상의학 전문의들의 판독 사례(경험)를 훈련시키는 모델이었다"며 "현재는 좀 더 정교해지면서 실제 조직검사 단계가 반영이 가능한 단계까지 훈련이 이뤄지고 있다"고 말했다. 이어 박 교수는 "최근에는 AI가 임상의학으로도 영역을 넓히면서 신경외과나 혈액학을 비롯한 기타 영역에서도 활발하게 연구가 이뤄지고 있다"고 말했다.
가장 큰 시장을 보유한 미국의 경우 지난 6월 기준 총 950건의 SaMD(소프트웨어 의료기기)가 등록됐다. 국내 기업의 미국 시장 진출도 이뤄지고 있다. 가령 루닛은 자사의 AI 영상분석 솔루션 '인사이트' 시리즈의 미국 식품의약국(FDA) 허가 절차를 밟고 있는 중이다.
국내의 시장 상황도 미국과 다르지 않다. 실제로 연도별로 식품의약품안전처(식약처)의 허가·인증을 받은 의료기기가 증가하고 있다. 지난해 식약처의 허가·인증을 받은 AI 기반 의료기기의 수는 총 64개로, 2019년(10개) 대비 6배 이상 증가했다. 단계별 SaMD 임상시험 승인 건수도 2018년 6건에서 2022년 49건으로 증가세를 보였다.
◇EU 수평적 규제 체계, 융통성 부족… 업계선 불만의 목소리도
다만, 반대로 말하면 이는 곧 AI의 효용뿐만 아니라 위험 또한 진단 분야에 집중돼 있다는 것을 의미한다. 즉, AI가 일으키는 오류의 사례도 진단 분야에서 가장 많이 발생한다는 것. 이에 대응하기 위해 미국·유럽연합(EU) 등 글로벌 주요 국가에서는 현재 AI를 효과적으로 규제하기 위한 방안을 마련하고 있다. AI 규제 체계는 크게 유럽연합이 지난 8월 발효한 수평적 규제 체계(포괄적 AI법) 'EU AI Act(액트)'와 영미권·일본 등 AI 혁신국들의 맥락특유적 규제로 나뉜다. 맥락특유적 규제가 기존의 의료기기 규제를 AI에 맞춰 수정하는 방식이라면, 수평적 규제는 AI에 맞는 새로운 규정을 제정함으로써 규정에 명시된 기준을 모두 지키도록 하는 방식이다.
다만 유럽의 AI 규제 체계는 융통성이 다소 부족하다는 지적이 있다. 의료기기마다 강조되는 특성이 서로 다른데, 수평적 규제 체계는 모든 의료기기에 동일한 신규 기준을 적용하는 특성상 반드시 지켜야 할 기준이 너무 많기 때문이다. 예를 들어 AI를 통해 채용 절차에서 지원자를 평가할 때는 '공정성'이 가장 중요한 기준이며, 자율주행 자동차를 평가할 때는 '안전성'을 가장 중요한 기준으로 적용하고 평가해야 하는 것처럼 산업 분야마다 우선적으로 중요시하는 기준이 다르다. 그러나 유럽연합의 규제는 AI를 활용한 진단·의료기기를 모두 고위험 AI로 분류해 데이터 거버넌스, 위험성 평가 등 높은 기준을 모두 지키도록 요구하고 있다. 특히 데이터 거버넌스의 경우 의도된 목적에 따른 ▲관련성 ▲대표성 ▲무오류성 ▲완결성을 모두 충족해야 한다. 이를 어길 경우 글로벌 연매출의 최대 7%를 과징금으로 납부해야 한다.
국내 의료기기 제조사 또한 유럽연합에 AI 소프트웨어 의료기기를 수출하면 수평적 규제를 적용받는다. 이는 출시 개수와 무관하며, 본인이 직접 출시하지 않고 현지 수입업자를 통해 출시해도 똑같이 적용받는다. 그나마 현재 기준안은 연구개발(R&D) 단계에서는 예외로 적용하지 않는 것이 유일한 위안이다.
이 때문에 현재 산업계에서는 유럽의 수평적 규제 체계에 대한 불만의 목소리가 많다. 법안의 본격적인 규제는 2026~2027년부터 시작될 예정이라 아직 시간은 있으나, 여러 지키기 어려운 기준으로 인해 개발에 어려움을 겪을 가능성이 크다는 것이다. 박상철 교수는 "AI 규제 기준에서 가장 핵심적인 것은 데이터 가용성인데, EU AI Act는 무오류성과 같이 지금까지 들어본 적이 없는 기준을 반드시 지키라고 하고 있는 상황"이라며 "이처럼 지키기 어려운 기준을 반드시 충족하도록 강제하면 업계는 이를 쉽게 받아들이기 어려울 것"이라고 말했다.
다만, 반대로 말하면 이는 곧 AI의 효용뿐만 아니라 위험 또한 진단 분야에 집중돼 있다는 것을 의미한다. 즉, AI가 일으키는 오류의 사례도 진단 분야에서 가장 많이 발생한다는 것. 이에 대응하기 위해 미국·유럽연합(EU) 등 글로벌 주요 국가에서는 현재 AI를 효과적으로 규제하기 위한 방안을 마련하고 있다. AI 규제 체계는 크게 유럽연합이 지난 8월 발효한 수평적 규제 체계(포괄적 AI법) 'EU AI Act(액트)'와 영미권·일본 등 AI 혁신국들의 맥락특유적 규제로 나뉜다. 맥락특유적 규제가 기존의 의료기기 규제를 AI에 맞춰 수정하는 방식이라면, 수평적 규제는 AI에 맞는 새로운 규정을 제정함으로써 규정에 명시된 기준을 모두 지키도록 하는 방식이다.
다만 유럽의 AI 규제 체계는 융통성이 다소 부족하다는 지적이 있다. 의료기기마다 강조되는 특성이 서로 다른데, 수평적 규제 체계는 모든 의료기기에 동일한 신규 기준을 적용하는 특성상 반드시 지켜야 할 기준이 너무 많기 때문이다. 예를 들어 AI를 통해 채용 절차에서 지원자를 평가할 때는 '공정성'이 가장 중요한 기준이며, 자율주행 자동차를 평가할 때는 '안전성'을 가장 중요한 기준으로 적용하고 평가해야 하는 것처럼 산업 분야마다 우선적으로 중요시하는 기준이 다르다. 그러나 유럽연합의 규제는 AI를 활용한 진단·의료기기를 모두 고위험 AI로 분류해 데이터 거버넌스, 위험성 평가 등 높은 기준을 모두 지키도록 요구하고 있다. 특히 데이터 거버넌스의 경우 의도된 목적에 따른 ▲관련성 ▲대표성 ▲무오류성 ▲완결성을 모두 충족해야 한다. 이를 어길 경우 글로벌 연매출의 최대 7%를 과징금으로 납부해야 한다.
국내 의료기기 제조사 또한 유럽연합에 AI 소프트웨어 의료기기를 수출하면 수평적 규제를 적용받는다. 이는 출시 개수와 무관하며, 본인이 직접 출시하지 않고 현지 수입업자를 통해 출시해도 똑같이 적용받는다. 그나마 현재 기준안은 연구개발(R&D) 단계에서는 예외로 적용하지 않는 것이 유일한 위안이다.
이 때문에 현재 산업계에서는 유럽의 수평적 규제 체계에 대한 불만의 목소리가 많다. 법안의 본격적인 규제는 2026~2027년부터 시작될 예정이라 아직 시간은 있으나, 여러 지키기 어려운 기준으로 인해 개발에 어려움을 겪을 가능성이 크다는 것이다. 박상철 교수는 "AI 규제 기준에서 가장 핵심적인 것은 데이터 가용성인데, EU AI Act는 무오류성과 같이 지금까지 들어본 적이 없는 기준을 반드시 지키라고 하고 있는 상황"이라며 "이처럼 지키기 어려운 기준을 반드시 충족하도록 강제하면 업계는 이를 쉽게 받아들이기 어려울 것"이라고 말했다.
◇국내 AI 규제 논의, 유럽과 유사… '맞춤 규제' 필요
국내도 보건복지부와 식약처를 중심으로 AI 의료기기와 신의료기술에 관한 규제를 일찌감치 제정한 바 있다. 한국보건산업진흥원은 의료기기의 위험도를 4등급으로 나눠 시장 진출 방법을 분류해 명시한 의료기기 시장진출 통합 가이드라인을 발표했다. 수가 문제 또한 향후 추가 해결해야 할 부분들이 있기는 하나, 영상전문의 판독료의 10% 수준의 수가를 신설했다.
다만 박상철 교수는 국내 AI 규제는 유럽의 수평적 규제 체계를 따라가고 있다는 점에 대해 안타까운 마음을 드러냈다. 지난 6월 국민의힘 정점식 의원이 발의한 'AI기본법안(인공지능 발전과 신뢰 기반 조성 등에 관한 법률안)'이 주인공이다. 박 교수에 따르면 현재 이 법안은 향후 통과돼 과학기술정보통신부(과기정통부)의 규제로 자리 잡을 가능성이 높다. 다만, 이 법안의 가장 큰 문제점은 유럽의 수평적 규제 체계를 따라가고 있어 향후 업계의 시장 진입에 어려움을 줄 수 있다는 것이다. 또 연구개발 과정에는 규제를 적용하지 않았던 유럽의 규제와 달리, 이 법안은 연구개발과 의료인의 의료서비스·연구에도 규제를 적용해 수위가 유럽보다 강하다는 지적도 있다. 이외에도 적용범위가 전반적으로 불명확하다는 점도 문제점으로 꼽힌다.
특히 AI기본법이 시행될 경우, ▲과기정통부의 규제와 ▲보건복지부·식약처의 기존 규제 ▲방송통신위원회(방통위)의 AI이용자보호법까지 총 3가지의 규제를 모두 지켜야 할 우려가 있는 것으로 나타났다. 박상철 교수는 "과기정통부와 방통위 모두 AI 의료기기에 있어서 각자의 전문성이 있기 때문에 규제 논의에서 무조건 빠지라고 말할 수는 없다"면서도 "규제를 각자 하나씩 만들어서 세 가지를 모두 받아들이도록 하기보다 하나의 규제 안에서 필요한 부분만 맞춤 규제하는 방안이 필요하다"고 말했다.
국내도 보건복지부와 식약처를 중심으로 AI 의료기기와 신의료기술에 관한 규제를 일찌감치 제정한 바 있다. 한국보건산업진흥원은 의료기기의 위험도를 4등급으로 나눠 시장 진출 방법을 분류해 명시한 의료기기 시장진출 통합 가이드라인을 발표했다. 수가 문제 또한 향후 추가 해결해야 할 부분들이 있기는 하나, 영상전문의 판독료의 10% 수준의 수가를 신설했다.
다만 박상철 교수는 국내 AI 규제는 유럽의 수평적 규제 체계를 따라가고 있다는 점에 대해 안타까운 마음을 드러냈다. 지난 6월 국민의힘 정점식 의원이 발의한 'AI기본법안(인공지능 발전과 신뢰 기반 조성 등에 관한 법률안)'이 주인공이다. 박 교수에 따르면 현재 이 법안은 향후 통과돼 과학기술정보통신부(과기정통부)의 규제로 자리 잡을 가능성이 높다. 다만, 이 법안의 가장 큰 문제점은 유럽의 수평적 규제 체계를 따라가고 있어 향후 업계의 시장 진입에 어려움을 줄 수 있다는 것이다. 또 연구개발 과정에는 규제를 적용하지 않았던 유럽의 규제와 달리, 이 법안은 연구개발과 의료인의 의료서비스·연구에도 규제를 적용해 수위가 유럽보다 강하다는 지적도 있다. 이외에도 적용범위가 전반적으로 불명확하다는 점도 문제점으로 꼽힌다.
특히 AI기본법이 시행될 경우, ▲과기정통부의 규제와 ▲보건복지부·식약처의 기존 규제 ▲방송통신위원회(방통위)의 AI이용자보호법까지 총 3가지의 규제를 모두 지켜야 할 우려가 있는 것으로 나타났다. 박상철 교수는 "과기정통부와 방통위 모두 AI 의료기기에 있어서 각자의 전문성이 있기 때문에 규제 논의에서 무조건 빠지라고 말할 수는 없다"면서도 "규제를 각자 하나씩 만들어서 세 가지를 모두 받아들이도록 하기보다 하나의 규제 안에서 필요한 부분만 맞춤 규제하는 방안이 필요하다"고 말했다.
이 기사와 관련기사