“매일 막걸리 한 잔씩 먹으면 건강에 도움이 되지?”라고 생성형 인공지능(AI) 서비스 ‘뤼튼’에 물어봤다. 뤼튼은 “장 건강에 최고!” “면역력도 쑥쑥!” “항염증 효과도?”라며 막걸리가 건강에 도움이 된다는 내용의 글을 늘어놨다. 막걸리도 결국 술이다. 사람에 따라 다르지만 매일 한 잔씩 마시면 가볍게는 숙취부터 알코올 중독, 간경화, 암 위험에 노출된다. 뤼튼을 통해 이러한 답변을 들을 수는 없었다.
AI가 의료계까지 파고 들기 시작했다. 문제는, 검증되지 않은 AI 의료 정보가 넘쳐난다는 점이다. 호주 플린더스대 연구팀은 왜곡된 정보를 챗지피티에 주입하며 허위 정보를 유도한 후 확산을 시도하는 연구를 진행했다. 그 결과 65분 만에 1만7000 단어 이상의 허위 정보가 포함된 102개의 블로그 게시글을 생성하는 데 성공했다. 블로그 게시글에는 가짜 환자와 가짜 의대 교수 등이 작성한 허위 정보가 포함됐으며 참고 자료까지 담겨 있었다. AI는 백신의 허위 정보를 담은 카드 뉴스와 가짜 환자 및 증상, 가짜 의사의 설명이 담긴 자료 사진 20개도 구현해냈다.
2023년 한국건강증진개발원에서 발간한 ‘검증되지 않은 인공지능 생성 건강 정보 확산’에 따르면, 국내에서도 AI 기술을 활용한 가짜 콘텐츠가 만연한 것으로 나타났다. 전문가인 것처럼 표정과 몸짓까지 구현되는 형태로 건강 정보가 제작되고 있었다. 개발원은 “이용자가 해당 정보를 사실로 오인할 가능성이 매우 높다”고 분석했다.
AI 의존도가 높아지는 만큼, 검증되지 않은 의료 정보를 걸러내는 눈을 길러야 한다는 게 전문가들의 설명이다. 성인의 적절한 건강 정보 이해 능력 수준은 60.4%다(2023년 국민건강영양조사 결과). 10명 중 4명(39.6%)은 건강 정보를 충분히 이해하고 올바르게 판단하는 데 어려움을 겪는다는 의미다.
질병관리청 국립보건연구원은 온라인 지식 공유 플랫폼 ‘SPEC’을 활용할 것을 권했다. SPEC은 국립의과학지식센터가 과학적이고 믿을 수 있는 정보에 쉽게 접근할 수 있도록 의학·건강 콘텐츠를 제공하는 사이트다. 해당 사이트는 무료로 이용 가능하며 신뢰도 높은 기관에서 제작한 콘텐츠만 제공한다. 서울대병원 간담췌외과 이정무 교수는 한 유튜브 채널에서 “특히 의학·건강 정보는 출처를 알 수 있는 곳에서 얻기를 추천한다”고 말한 바 있다.
건강증진정책본부 이돈형 소장은 “검증되지 않은 AI 생성 건강 정보 확산을 막기 위해 지난해 보건복지부와 함께 ‘건강정보 게시물 가이드라인’을 발표해 운영했다”며 “현재도 SNS에서 데이터를 수집하며 모니터링 작업을 하고 있다”고 말했다. 올바른 건강 정보 확산을 위해 ‘대학생 건강 디자인단’을 운영할 계획이다. 온라인뿐 아니라 오프라인 상에서도 잘못된 건강 정보가 없는지 모니터링하고, 대학가를 기점으로 올바른 정보를 홍보하는 활동을 진행한다.
AI가 의료계까지 파고 들기 시작했다. 문제는, 검증되지 않은 AI 의료 정보가 넘쳐난다는 점이다. 호주 플린더스대 연구팀은 왜곡된 정보를 챗지피티에 주입하며 허위 정보를 유도한 후 확산을 시도하는 연구를 진행했다. 그 결과 65분 만에 1만7000 단어 이상의 허위 정보가 포함된 102개의 블로그 게시글을 생성하는 데 성공했다. 블로그 게시글에는 가짜 환자와 가짜 의대 교수 등이 작성한 허위 정보가 포함됐으며 참고 자료까지 담겨 있었다. AI는 백신의 허위 정보를 담은 카드 뉴스와 가짜 환자 및 증상, 가짜 의사의 설명이 담긴 자료 사진 20개도 구현해냈다.
2023년 한국건강증진개발원에서 발간한 ‘검증되지 않은 인공지능 생성 건강 정보 확산’에 따르면, 국내에서도 AI 기술을 활용한 가짜 콘텐츠가 만연한 것으로 나타났다. 전문가인 것처럼 표정과 몸짓까지 구현되는 형태로 건강 정보가 제작되고 있었다. 개발원은 “이용자가 해당 정보를 사실로 오인할 가능성이 매우 높다”고 분석했다.
AI 의존도가 높아지는 만큼, 검증되지 않은 의료 정보를 걸러내는 눈을 길러야 한다는 게 전문가들의 설명이다. 성인의 적절한 건강 정보 이해 능력 수준은 60.4%다(2023년 국민건강영양조사 결과). 10명 중 4명(39.6%)은 건강 정보를 충분히 이해하고 올바르게 판단하는 데 어려움을 겪는다는 의미다.
질병관리청 국립보건연구원은 온라인 지식 공유 플랫폼 ‘SPEC’을 활용할 것을 권했다. SPEC은 국립의과학지식센터가 과학적이고 믿을 수 있는 정보에 쉽게 접근할 수 있도록 의학·건강 콘텐츠를 제공하는 사이트다. 해당 사이트는 무료로 이용 가능하며 신뢰도 높은 기관에서 제작한 콘텐츠만 제공한다. 서울대병원 간담췌외과 이정무 교수는 한 유튜브 채널에서 “특히 의학·건강 정보는 출처를 알 수 있는 곳에서 얻기를 추천한다”고 말한 바 있다.
건강증진정책본부 이돈형 소장은 “검증되지 않은 AI 생성 건강 정보 확산을 막기 위해 지난해 보건복지부와 함께 ‘건강정보 게시물 가이드라인’을 발표해 운영했다”며 “현재도 SNS에서 데이터를 수집하며 모니터링 작업을 하고 있다”고 말했다. 올바른 건강 정보 확산을 위해 ‘대학생 건강 디자인단’을 운영할 계획이다. 온라인뿐 아니라 오프라인 상에서도 잘못된 건강 정보가 없는지 모니터링하고, 대학가를 기점으로 올바른 정보를 홍보하는 활동을 진행한다.