펜실베이니아주 정부가 인공지능(AI) 챗봇 운영사인 ‘캐릭터 에이아이(Character.ai)’를 상대로 소송을 제기했다. 플랫폼 내 AI 캐릭터가 면허를 보유한 의료 전문가를 사칭하며 의학적 조언을 제공했다는 이유에서다.
조시 샤피로 펜실베이니아 주지사 행정부는 지난 5일(현지 시각) 캐릭터 에이아이가 주 의료법을 위반하고 무면허 의료 행위를 방조했다며 법원에 소송을 제기했다. 미국 내에서 주지사가 AI 플랫폼 의료 사칭에 대해 직접 집행 조치를 취한 첫 사례다.
소송장에 따르면 캐릭터 에이아이 챗봇 캐릭터인 ‘에밀리’는 자신을 영국 임페리얼 칼리지 런던 의과대학을 졸업한 정신과 전문의로 소개했다. 해당 챗봇은 영국과 펜실베이니아주 의료 면허를 보유했다고 주장하며 가짜 면허 번호까지 사용자에게 제시했다. 조사 결과 이 챗봇은 지난 4월 17일 기준 약 4만5500건의 사용자 상호작용을 기록한 것으로 나타났다.
샤피로 주지사는 성명을 통해 "기업이 AI 도구를 이용해 사용자가 실제 의료 전문가로부터 조언을 얻고 있다고 믿게끔 속이는 행위를 용납하지 않겠다"고 말했다.
국내에서도 AI 기반 채팅으로 환자를 진단하고 처방전을 발급한 사례가 적발돼 논란이 된 바 있다. 지난 2024년 경기남부경찰청 반부패·경제범죄수사대는 보건범죄단속에 관한 특별조치법 위반 및 사문서 위조 혐의로 30대 남성 A 씨를 검찰에 송치했다.
의료계와 무관한 업체에서 근무하던 A 씨는 AI에게 처방 관련 내용을 반복 학습시킨 뒤 비대면 방식으로 환자를 진단하고 처방전을 발급하는 사이트를 운영했다. 이 과정에서 처방전 양식을 갖추기 위해 타 병원 관계자 명의를 무단 도용했다. 해당 사이트는 건당 300~600원의 수수료를 받고 약 140여 건의 처방전을 발행했으며 대한의사협회 고발로 수사가 진행됐다.
현행법상 의사가 아닌 사람이 영리 목적으로 무면허 의료 행위를 하면 무기 또는 2년 이상의 징역형에 처할 수 있다. 펜실베이니아주 정부는 법원에 캐릭터 에이아이 불법 의료 행위 중단 명령을 요청했다.
조시 샤피로 펜실베이니아 주지사 행정부는 지난 5일(현지 시각) 캐릭터 에이아이가 주 의료법을 위반하고 무면허 의료 행위를 방조했다며 법원에 소송을 제기했다. 미국 내에서 주지사가 AI 플랫폼 의료 사칭에 대해 직접 집행 조치를 취한 첫 사례다.
소송장에 따르면 캐릭터 에이아이 챗봇 캐릭터인 ‘에밀리’는 자신을 영국 임페리얼 칼리지 런던 의과대학을 졸업한 정신과 전문의로 소개했다. 해당 챗봇은 영국과 펜실베이니아주 의료 면허를 보유했다고 주장하며 가짜 면허 번호까지 사용자에게 제시했다. 조사 결과 이 챗봇은 지난 4월 17일 기준 약 4만5500건의 사용자 상호작용을 기록한 것으로 나타났다.
샤피로 주지사는 성명을 통해 "기업이 AI 도구를 이용해 사용자가 실제 의료 전문가로부터 조언을 얻고 있다고 믿게끔 속이는 행위를 용납하지 않겠다"고 말했다.
국내에서도 AI 기반 채팅으로 환자를 진단하고 처방전을 발급한 사례가 적발돼 논란이 된 바 있다. 지난 2024년 경기남부경찰청 반부패·경제범죄수사대는 보건범죄단속에 관한 특별조치법 위반 및 사문서 위조 혐의로 30대 남성 A 씨를 검찰에 송치했다.
의료계와 무관한 업체에서 근무하던 A 씨는 AI에게 처방 관련 내용을 반복 학습시킨 뒤 비대면 방식으로 환자를 진단하고 처방전을 발급하는 사이트를 운영했다. 이 과정에서 처방전 양식을 갖추기 위해 타 병원 관계자 명의를 무단 도용했다. 해당 사이트는 건당 300~600원의 수수료를 받고 약 140여 건의 처방전을 발행했으며 대한의사협회 고발로 수사가 진행됐다.
현행법상 의사가 아닌 사람이 영리 목적으로 무면허 의료 행위를 하면 무기 또는 2년 이상의 징역형에 처할 수 있다. 펜실베이니아주 정부는 법원에 캐릭터 에이아이 불법 의료 행위 중단 명령을 요청했다.
이 기사와 관련기사