박성호 교수 “이해의 학습과 요령 위주 기계학습 달라…환자 위해 원칙 지켜야”
[의학신문·일간보사=오인규 기자] “미국 최고의 암 전문병원인 엠디앤더슨 암센터와 진행했던 프로젝트를 실적 없이 종료하고, 해당 사업부 절반 이상 줄이는 구조조정을 단행한 IBM 닥터 왓슨의 경우에서 보았듯이 의료 AI 개발에서 꼭 짚고 넘어가야 할 부분이 있습니다. 충분한 사전검증이 필요하다는 것입니다”
박성호 서울아산병원 영상의학과 교수(대한영상의학회 임상연구네트워크장)는 최근 월간 ‘한국산문’ 의학칼럼 기고를 통해 이와 같이 밝혔다.
먼저 인공지능(AI) 프로그램은 수많은 데이터로 컴퓨터를 학습시키는 ‘기계학습’ 기술이 핵심이다. 하지만 박 교수는 개념과 원리를 이해하는 사람의 학습과 많은 문제를 풀어서 요령을 익히는 인공지능의 학습은 근본적인 차이가 있다고 지적했다.
또한 수험생을 예로 들어 많은 문제를 풀어서 요령만 터득한 경우라면 새로운 유형이 주어졌을 때 쉽게 풀지 못하고, 어쩌다 시험지를 잘 풀어 좋은 성적이 나왔다 해도 왜 답을 적었는지 설명할 수 없다면 학생의 실력을 의심할 수밖에 없다고 설명했다.
학생의 실력을 제대로 알아보기 위해서는 다양한 문제들이 있는 다양한 시험지로 여러 번 테스트를 하는 게 옳다는 것.
박성호 교수는 “의학진단 AI 소프트웨어(SW)의 임상검증도 마찬가지다. AI 학습에 쓰인 병원들의 자료가 아닌 다른 병원의 다양한 자료를 이용해 평가해야 하며, 이를 반복적으로 평가하는 것이 중요하다”고 밝혔다.
그러나 현재 국내외 개발된 대부분의 AI SW들은 이러한 임상검증이 되어 있지 않다는 것이 박 교수의 주장이다.
그는 “모든 의료기술은 궁극적으로 환자를 위해 존재하고 환자들에게 좀 더 도움이 되는 의료 서비스를 제공하기 위한 도구와 과정이라고 할 수 있다”며 “의료 인공지능 분야에서도 이런 기본적인 원칙을 지켜야 한다”고 강조했다.
프로그램에 오류가 생길 경우 간단하게 수정할 수 있다는 일반적인 생각을 의료용 소프트웨어에도 적용해서는 안 된다. SW의 오류 때문에 환자가 피해를 입을 경우 이를 되돌리기는 쉽지 않기 때문에. 따라서 박성호 교수는 의료용 SW 개발 시 신중하고 엄격한 ‘사전검증’을 철저히 해야 한다고 제언했다.