MEDI:GATE NEWS 고려대-안암병원, 의료 AI 설명 ‘강건성’ 임상 타당성 입증

기사입력시간 26.07.24 13:07최종 업데이트 26.07.24 13:07

고려대학교와 안암병원 연구팀이 의료 인공지능(AI)의 설명을 평가하는 지표 중 ‘강건성’이 임상적으로 가장 신뢰할 수 있는 기준임을 입증했다고 24일 밝혔다. 연구를 이끈 고려대 인공지능학과 크리스티안 왈라븐 교수 연구팀은 안암병원 영상의학과 유성혜·김보규·박아림 교수 연구팀과 협업했다. 의료 AI는 뇌 자기공명영상(MRI) 분석에서 전문의 수준의 성능을 보이지만, 판단 근거가 불투명한 ‘블랙박스’ 문제로 진료 현장 도입이 어려웠다. 최근 설명가능 인공지능(XAI) 기술이 발전하면서 AI의 판단 근거를 시각화하는 시도가 늘었지만, 이러한 설명이 임상적으로 얼마나 의미 있는지는 체계적으로 검증되지 않았다. 연구팀은 영국 바이오뱅크(UK Biobank)와 알츠하이머병 신경영상 이니셔티브(ADNI)의 뇌 MRI 약 4만 건을 데이터로 활용했다. 서로 다른 9가지 딥러닝 모델 구조와 8가지 설명 기법을 조합해 1만 건 이상의 대규모 시뮬레이션 분석을 수행했다. 이는 기존 연구가 수십 건 수준에 그쳤던 것과 비교해 분석 규모를 크게 확대한 것이다. 분석 결과, 기존에 널리 쓰이던 ‘충실성’과 ‘복잡성’ 지표는 실제 임상적 근거와 잘 맞지 않거나 AI 모델 구조에 따라 점수가 크게 달라지는 한계가 있었다. 반면 강건성은 뇌 형태 분석을 통한 병리학적 통계와 영상의학과 전문의의 판단에 일관되게 부합했다. 강건성은 같은 구조의 AI를 다른 조건에서 여러 차례 학습시켰을 때 설명이 얼마나 일관되게 유지되는지를 나타낸다. 강건성이 높을수록 AI의 설명이 특정 학습 과정에 우연히 의존하지 않고 안정적임을 의미한다. 연구팀은 강건성이 AI 모델이 달라져도 평가 결과가 흔들리지 않는 높은 범용성을 보였다고 설명했다. 또한 단 하나의 AI 모델만으로도 신속하고 효율적으로 계산할 수 있어 의료 현장 활용에 적합하다고 판단했다. 크리스티안 왈라븐 교수는 “의료 AI의 설명이 믿을 만한지를 평가하는 기준을 임상적 근거와 체계적으로 연결했다는 데 의의가 있다”며 “안정적이고 효율적인 강건성 지표를 통해 병원 현장에서 신뢰할 수 있는 AI 설명을 가려낼 수 있을 것으로 기대한다”고 밝혔다. 유성혜 교수는 “의료 AI가 실제 진료에 활용되려면 높은 진단 성능뿐 아니라 판단 근거가 임상적으로 타당하고 일관된지도 확인해야 한다”며 “강건성이 영상의학과 전문의 판단과 뇌 형태 분석 결과에 모두 부합한 만큼, 향후 신뢰할 수 있는 의료 AI를 선별하고 검증하는 데 중요한 기준으로 활용되길 기대한다”고 말했다. 한편, 이번 연구 ‘Establishing the robustness metric as a scalable proxy for clinical relevance in medical AI explainability’는 국제 학술지 ‘Medical Image Analysis’ 온라인판에 6월 16일 게재됐다.

제보 공유

고려대-안암병원, 의료 AI 설명 ‘강건성’ 임상 타당성 입증

뇌 MRI 4만 건 분석…영상의학과 전문의 판단과 부합 확인

고려대학교와 안암병원 연구팀이 의료 인공지능(AI)의 설명을 평가하는 지표 중 ‘강건성’이 임상적으로 가장 신뢰할 수 있는 기준임을 입증했다고 24일 밝혔다.

연구를 이끈 고려대 인공지능학과 크리스티안 왈라븐 교수 연구팀은 안암병원 영상의학과 유성혜·김보규·박아림 교수 연구팀과 협업했다. 의료 AI는 뇌 자기공명영상(MRI) 분석에서 전문의 수준의 성능을 보이지만, 판단 근거가 불투명한 ‘블랙박스’ 문제로 진료 현장 도입이 어려웠다. 최근 설명가능 인공지능(XAI) 기술이 발전하면서 AI의 판단 근거를 시각화하는 시도가 늘었지만, 이러한 설명이 임상적으로 얼마나 의미 있는지는 체계적으로 검증되지 않았다.

연구팀은 영국 바이오뱅크(UK Biobank)와 알츠하이머병 신경영상 이니셔티브(ADNI)의 뇌 MRI 약 4만 건을 데이터로 활용했다. 서로 다른 9가지 딥러닝 모델 구조와 8가지 설명 기법을 조합해 1만 건 이상의 대규모 시뮬레이션 분석을 수행했다. 이는 기존 연구가 수십 건 수준에 그쳤던 것과 비교해 분석 규모를 크게 확대한 것이다.

분석 결과, 기존에 널리 쓰이던 ‘충실성’과 ‘복잡성’ 지표는 실제 임상적 근거와 잘 맞지 않거나 AI 모델 구조에 따라 점수가 크게 달라지는 한계가 있었다. 반면 강건성은 뇌 형태 분석을 통한 병리학적 통계와 영상의학과 전문의의 판단에 일관되게 부합했다. 강건성은 같은 구조의 AI를 다른 조건에서 여러 차례 학습시켰을 때 설명이 얼마나 일관되게 유지되는지를 나타낸다. 강건성이 높을수록 AI의 설명이 특정 학습 과정에 우연히 의존하지 않고 안정적임을 의미한다.

연구팀은 강건성이 AI 모델이 달라져도 평가 결과가 흔들리지 않는 높은 범용성을 보였다고 설명했다. 또한 단 하나의 AI 모델만으로도 신속하고 효율적으로 계산할 수 있어 의료 현장 활용에 적합하다고 판단했다.

크리스티안 왈라븐 교수는 “의료 AI의 설명이 믿을 만한지를 평가하는 기준을 임상적 근거와 체계적으로 연결했다는 데 의의가 있다”며 “안정적이고 효율적인 강건성 지표를 통해 병원 현장에서 신뢰할 수 있는 AI 설명을 가려낼 수 있을 것으로 기대한다”고 밝혔다.

유성혜 교수는 “의료 AI가 실제 진료에 활용되려면 높은 진단 성능뿐 아니라 판단 근거가 임상적으로 타당하고 일관된지도 확인해야 한다”며 “강건성이 영상의학과 전문의 판단과 뇌 형태 분석 결과에 모두 부합한 만큼, 향후 신뢰할 수 있는 의료 AI를 선별하고 검증하는 데 중요한 기준으로 활용되길 기대한다”고 말했다.

한편, 이번 연구 ‘Establishing the robustness metric as a scalable proxy for clinical relevance in medical AI explainability’는 국제 학술지 ‘Medical Image Analysis’ 온라인판에 6월 16일 게재됐다.

오탈자 신고 스크랩 인쇄 제보 공유

조운 기자 (wjo@medigatenews.com)

이 기자의 다른 기사 보기