[헬스테크]
한국이 세계 최초로 일명 ‘인공지능(AI) 기본법(인공지능 발전과 신뢰 기반 조성 등에 관한 기본법)’을 제정, 다가오는 22일부터 시행한다. 기업이 대비할 말미를 주기 위해 1년의 계도기간이 주어진다.
과학기술정보통신부가 인공지능 기본법 하위법령 임시안과 가이드라인을 공개한 가운데, AI 의료기기 제조사들은 자사의 기기가 ‘고영향 AI’에 해당하는지에 촉각을 곤두세우고 있다. 고영향 AI로 분류되면 더 까다로운 규제를 적용받는다. 이에 과기정통부가 고영향 판단 기준을 공개했으나 업계에서는 미흡하다는 입장이다.
임시안에 따르면 ‘일부’ AI 의료기기가 고영향 의료기기에 해당할 전망이다. ‘의료기기법’에서 정한 의료기기 또는 ‘디지털의료제품법’에서 정한 디지털의료기기 중에서도, 사람의 생명·신체 안전·기본권 보호에 중대한 영향을 미치거나 위험을 초래할 우려가 있는 기기가 바로 그것이다.
좀 더 구체적으로는, ▲잘못 사용할 경우 잠재적 인체 위험성이 큰 4등급 의료기기 ▲1~3등급 의료기기 중 일부가 고영향 AI로 분류될 것으로 점쳐진다. 1~3등급 의료기기는 4등급 의료기기에 비하면 잠재적 인체 위험성이 상대적으로 낮지만, 보건의료 의사 결정에 사용되면서, 의사 결정에 의료인의 적극적 개입이 불가능하고, 의도치 않은 오작동 발생 시 신체와 정신에 중대한 피해가 발생하는 경우에 한해 고영향 AI로 분류될 소지가 있다. 비의료 건강 관리 서비스를 위한 AI 역시 이런 특성을 모두 만족할 경우 고영향 AI로 분류될 가능성이 열려 있다.
예컨대, 의사 B씨가 의료 영상을 분석해 정상과 다른 이상 병변을 검출·선별하는 AI 기능이 있는 3등급 의료기기를, 환자에게 질병을 진단하는 데에 보조적 수단으로 쓴다고 가정해보자. 이 기기는 사람의 생명, 신체 안전 그리고 기본권 보호에 중대한 영향을 미칠 우려가 있으나 의료인이 의사 결정 과정에 원활히 개입하고 있다. 그러므로 과기정통부는 이 AI 의료기기는 고영향에 해당하지 않는다고 판단했다.
고영향 AI로 분류되면 사업자가 위험 관리 방안과 이용자 보호 방안을 수립·운영하고. 고영향 AI에 대한 사람의 관리·감독을 시행해야 하며, AI가 어떠한 학습 데이터를 활용해 최종 결과를 도출했는지에 대해 기술적으로 가능한 범위 안에서 설명을 제공해야 한다. 임시안은 고영향 해당 여부를 기업이 자체적으로 판단, 자발적으로 안전 기준을 갖추도록 하고 있다. 고영향에 해당하는지 판단에 어려움을 겪는 경우 과기정통부 장관에게 해당 여부의 확인을 요청할 수 있다.
산업의 올바른 성장을 도모하면서도, 지나친 규제가 기업의 발목을 잡지 않도록 하기 위함이라는 것이 정부 설명이다. 과기정통부 관계자는 “고영향에 해당하는지에 대해 정부가 기업을 대상으로 전수조사를 하지는 않을 것”이라며 “고영향임에도 고영향 AI가 갖춰야 할 조건을 갖추지 않은 것이 과기정통부에 적발되는 건에 대해서만 과태료를 부여할 예정”이라고 말했다. 그러나 기업이 과기정통부에 고영향 여부 평가를 자발적으로 요청하는데 소극적일 것이라는 우려가 제기된다.
가이드라인이 있음에도 고영향 여부에 대한 판단 기준이 모호하고. 기업이 불확실성이라는 부담을 지게 된다는 주장도 있다. 6일 국회에서 열린 ‘AI 기본법 투명성·책임성 라운드테이블’ 토론에서 스타트업성장연구소 최성진 대표이사는 “의료 AI 기업이 필요할 경우 과기정통부 장관에게 고영향 해당 여부에 대한 판단을 요청할 수 있으나, 이는 행정상 판단에 그치므로 AI 의료기기가 법적 다툼에 휘말렸을 때 민·형사상 ‘고영향’ 판단 여부는 법원 판단에 따라 달라질 수 있다”며 “기업 입장에서는 과도한 법적 부담”이라고 밝혔다.
과기정통부 관계자는 “고영향 판단 기준은 수정될 여지가 있다”며 “인공지능기본법 하위법령 최종본은 이달 내로 공개될 예정”이라고 밝혔다.