[메디게이트뉴스 박도영 기자] 미국 식품의약국(FDA)이 5월 인공지능(AI)과 머신러닝(ML)을 사용한 의약품 개발에 대한 보고서 초안을 발표한데 이어 최근 유럽의약품청(EMA)도 의약품 분야에서 AI 사용에 대한 현재 생각을 요약한 의견서 초안을 발표하며 업계의 관심을 모으고 있다.

EMA 의견서에는 의약품 수명 주기의 모든 단계에서 AI 및 ML 적용과 관련된 원칙이 담겼다. AI 및 ML 기술을 언제 제품 개발에 사용할 수 있는지, 시판 후 환경에서 이러한 기술이 어떻게 사용하고 있는지 등이다.

FDA가 발표한 보고서는 '의약품 및 생물학적 제제 개발에 AI와 ML 활용하기', '의약품 제조에서 AI' 두 가지다.

FDA 약물평가연구센터(CDER) 센터장인 패트리지아 카바조니(Patrizia Cavazzoni) 박사는 "AI와 ML은 더 이상 미래적인 개념이 아니라 이제 우리가 생활하고 일하는 방식의 일부가 됐다"면서 "AI/ML 데이터의 양과 복잡성이 증가하고 최첨단 컴퓨팅 성능 및 방법론적 발전과 결합하면서 이해관계자들이 치료제를 개발, 제조, 사용 및 평가하는 방식을 변화시킬 수 있다. 궁극적으로 AI/ML은 안전하고 효과적이며 고품질의 치료제를 환자에게 더 빠르게 제공할 수 있다"고 밝혔다.

메디게이트뉴스는 두 기관이 발표한 보고서에는 어떠한 내용이 담겼으며, 이를 바탕으로 무엇을 추구하고자 하는지, 두 기관의 관점은 어떻게 다른지 살펴봤다.

EMA "인간 중심 접근 방식이 AI와 ML 기술 개발·배포 이끌어야" 강조

EMA는 "AI 및 ML 도구는 의약품 수명 주기 전반에 걸쳐 데이터의 수집 및 변환, 분석, 해석을 효과적으로 지원할 수 있다"며 예시를 제시했다.

전임상 개발 단계에서 동물 모델 사용을 대체, 축소 개선하기 위해 AI/ML 모델링 접근법을 적용할 수 있다. 임상시험에서 AI/ML 시스템은 특정 질병 특성이나 기타 임상 매개변수에 기반한 환자 선정을 도울 수 있고, 데이터 기록 및 분석을 지원해 시판 허가 절차에서 규제 당국에 자료를 제출하도록 할 수 있다.

또한 시판 허가 단계에서 의약품 제품 정보에 포함될 데이터 초안을 작성, 편집, 번역 또는 검토하는데  AI를 적용할 수 있다. 허가 후 단계에서 AI는 부작용 보고 관리 및 신호 감지를 포함한 약물감시 활동을 효과적으로 지원할 수 있다.

EMA는 이러한 다양한 응용 분야에는 알고리즘에 대한 이해, 특히 알고리즘의 설계와 편향 가능성, 기술적 실패의 위험, 의약품 개발과 건강에 대한 AI 활용에 미칠 광범위한 영향 같은 과제가 수반된다고 했다.

의견서에서는 이러한 문제를 해결하기 위해 인간 중심의 접근 방식이 AI와 ML 기술의 모든 개발 및 배포를 이끌어야 한다 강조한다. AI/ML 기술이 위험-혜택 평가에 영향을 미칠 것으로 예상되면 조기에 기관을 찾아야 한다.

EMA는 "의약품 수명주기에서 AI 사용은 항상 기존의 법적 요건을 준수하고 윤리를 고려하며 기본권에 대한 정당한 존중을 보장하는 방식으로 이뤄져야 한다"면서 "의약품 개발 또는 평가, 모니터링의 맥락에서 AI/ML 시스템이 사용돼 의약품의 유익성-위해성 균형에 영향을 미칠 것으로 예상되는 경우, EMA는 개발사에 혁신적인 개발 방법(인체용 의약품의 경우)의 인증 또는 과학적 자문 등을 통해 규제 지원을 요청할 것을 권고한다"고 밝혔다.

또한 의견서에는 "시스템 오작동 또는 모델 성능 저하의 영향은 최소한의 것부터 치명적이거나 심지어 생명을 위협하는 것까지 다양할 수 있으므로 위험 관리에 대한 조언은 향후 규제 지침에 추가로 반영될 것이다"면서 "위험 정도는 AI 기술뿐 아니라 사용 맥락과 AI 기술이 미치는 영향의 정도에 따라 달라질 수 있다"고 설명했다.

이어 "위험 정도는 AI 시스템의 수명 주기에 따라 달라질 수 있다. AI/ML 기술을 배포하려는 시판허가 신청자 또는 시판허가권 보유자는 개발 초기부터 폐기까지 관련 위험을 고려하고 체계적으로 관리해야 한다"고 덧붙였다.

덴마크의약품청(Danish Medicines Agency)의 데이터분석센터 책임자이자 HMA(Heads of Medicines Agencies)-EMA 빅데이터운영그룹(BDSG) 공동 의장인 예스페르 키예르(Jesper Kjær)는 "AI 사용은 사회에서 빠르게 발전하고 있으며, 규제 당국으로서 우리는 의약품 분야에서 응용 분야가 점점 더 많아질 것이라 보고 있다. AI는 새로운 인사이트를 창출하고 프로세스를 개선할 수 있는 기회를 가져다 준다. 이를 완전히 수용하려면 빠르게 진화하는 생태계에서 제시되는 규제 과제에 대비해야 한다"고 밝혔다.

BDSG 공동 의장인 EMA 데이터 분석 및 방법 책임자 피터 알렛(Peter Arlett)은 "이 의견서를 통해 개발사, 학계, 기타 규제 당국자들과 대화를 시작해 앞으로 나아갈 방향을 논의하고, 환자와 동물의 건강을 위해 이러한 혁신의 잠재력을 최대한 실현할 수 있도록 보장하고자 한다"고 말했다.

FDA "차별 예방 및 시정으로 AI/ML 기술 사용 시 형평성 증진 목표​"

FDA도 AI/ML이 활용될 수 있는 몇 가지 예시를 제시했다. 의학 문헌에서 관련 연구 결과를 검색하고 어떤 사람이 치료에 더 잘 반응하고 어떤 사람에서 부작용 위험이 더 높은 지 예측하는데 사용될 수 있다. ChatGPT와 같은 생성형 AI를 기반으로 하는 대화형 에이전트 또는 챗봇은 임상시험 참여 또는 부작용 보고에 대한 사람들의 질문에 답할 수 있다. 디지털 또는 컴퓨터화된 환자의 '쌍둥이'를 사용해 의료적 개입에 대해 모델링해 환자가 치료받기 전에 바이오 피드백을 제공할 수 있다.

카바조니 박사에 따르면 2021년 한 해 동안 FDA에 제출된 100건 이상의 의약품 및 생물학적 제제 신청서 면책 조항에는 AI/ML 구성 요소가 포함돼 있었다. 다양한 치료 분야에 걸쳐있었고, 스폰서들은 각기 다른 개발 단계에 있는 기술을 통합했다.

카바조니 박사는 "진화하는 다른 과학 기술 분야와 마찬가지로 부적절한 데이터 공유 또는 사이버 보안 위험과 같은 윤리적 및 보안 고려 사항과 같이 신약 개발에서도 AI/ML과 관련된 과제가 있다. 또한 불투명한 알고리즘을 사용하거나 사용자나 기타 이해관계자에게 보이지 않는 내부 작업이 있을 수 있는 알고리즘을 사용하는 것에 대한 우려도 있다"면서 "이로 인해 데이터에 오류나 기존의 편견이 증폭될 수 있다"고 설명했다.

이어 그는 "FDA는 자동화된 시스템이 특정 범주의 사람을 다른 범주보다 선호할 때 발생하는 알고리즘 차별을 포함한 차별을 예방하고 시정함으로써 AI/ML 기술을 사용할 때 형평성을 증진하는 것을 목표한다"면서 "이러한 우려를 해결하기 위해 '의약품 및 생물학적 제제 개발에서 인공지능 및 머신러닝 사용'이라는 보고서를 발표했다"고 덧붙였다.

카바조니 박사는 이 보고서의 목표가 제약회사, 윤리학자, 학계, 환자 및 환자 단체, 글로벌 규제 및 기타 당국 등 의료 제품 개발 커뮤니티의 이해당사자들과 함께 의약품과 의료기기 개발 시 AI/ML 사용에 대한 논의를 촉진하는 것이라고 했다.

보고서는 치료법 개발에서 AI/ML의 현재 및 잠재적 미래 활용부터, 이러한 혁신과 관련해 발생할 수 있는 우려와 위험, 그리고 이를 해결하기 위한 방법에 대해 담았다. 예를 들어 기술 사용 방식에 따라 달라질 수 있는 인간 참여의 중요성에 대해서 설명한다.

특히 보고서는 혁신을 촉진하고 공중 보건을 보호하기 위해 AI/ML을 평가하고 관리하기 위한 위험 기반 접근 방식을 채택할 것을 강조한다.

더불어 ML 알고리즘을 훈련하는데 사용되는 데이터의 편향성이나 부정확성, 완전성과 같은 특정 위험을  특징짓고, 시간이 지남에도 모델의 신뢰성과 관련성, 일관성을 보장하기 위해 모델의 성능을 모니터링 하는 역할에 대해서도 설명하고 있다.

AI 기술은 공정 제어를 개선하고 조기 경고 신호를 식별하며 제품 손실을 방지할 수 있기 때문에 의약품 제조에서도 중요한 역할을 한다. FDA는 의약품 제조에서 AI 활용에 대해 더 자세히 다루고자 또 다른 보고서를 발표했다.

카바조니 박사는 "AI/ML에 대한 우리 기관의 노력은 이러한 이니셔티브 이상으로 확장된다. 제품 개발자를 컨설팅하고, 환자를 참여시키고, 이 분야의 규제 과학을 홍보하는 등 다양한 활동을 하고 있다"면서 "공중보건 규제 기관으로서 우리는 미국인들이 중요한 치료법에 더 빠르고 안정적으로 접근할 수 있도록 이러한 기술의 안전한 개발을 장려하고자 한다"고 강조했다.