[메디게이트뉴스 박도영 기자] 인공지능(AI) 관련 기술이 빠르게 발전하고 사회에 미치는 영향이 커지면서 의약품 규제 환경도 변화하고 있다. 후보물질 발굴부터 임상시험 진행까지 의료 제품 개발의 전주기에 걸쳐 AI가 가진 잠재력은 매우 크며 적용 사례도 늘고 있다. 이에 규제기관들은 AI를 잘 활용하면서 효율적으로 감독하기 위해 고심하고 있다.

메디게이트뉴스는 2024년을 마무리하며 지난 1년간 미국과 유럽 규제 기관에서는 AI 기술 관련 어떤 이슈가 있었는지 짚어봤다.

미국 FDA "의료 제품에 대한 책임감 있는 AI 사용 발전시키기 위해 노력할 것"

미국 식품의약국(FDA)은 AI를 대하는 기관의 입장과 관점을 여러 차례 밝혔다. 3월 '인공지능과 의료 제품: CBER, CDER, CDRH, OCP가 협력하는 방법' 백서에서는 각 센터가 의료 제품에 대한 AI 사용을 촉진하기 위해 어떻게 노력하고 있는지 설명했다.

FDA는 백서에서 "혁신을 촉진하고 품질, 안전성, 유효성을 유지하도록 의료 제품에 대한 책임감 있는 AI 사용을 발전시키기 위해 노력할 것이다"면서 "여기에는 실현 가능한 범위 내에서 의료 전달 시스템 내의 다양한 의료 제품 및 용도에 적용할 수 있는 규제 접근 방식을 구축하는 것이 포함된다"고 말했다.

또한 "워크플로우를 간소화하고 고품질의 새로운 의료 제품을 필요한 환자에게 더 빨리 제공할 수 있는 내부 운영 및 규제 프로세스를 촉진하기 위해 AI 기술을 사용하는 방법을 모색하고 있다"면서 "반복적인 관리 기능을 자동화하면 직원의 업무 부담을 덜어주고 더 나은 의사결정을 내릴 수 있을 것이다"고 덧붙였다.

10월 미국의사협회저널(JAMA)에 게재한 기고문에서는 AI 기술에 대한 감독의 필요성을 설명하고, 건강 결과에 중점을 두고 안전하고 효과적이며 신뢰할 수 있는 AI 도구를 보장하는 데 중심적인 역할을 계속하겠다고 강조했다.

이러한 노력 중 하나로 8월 약물평가연구센터(CDER) 내 AI 위원회를 출범했다. 이 위원회는 기존 CDER 내 개별적인 AI 관련 운영 위원회와 정책 실무 그룹을 통합한 조직이다.

CDER 책임자인 파트리치아 카바조니(Patrizia Cavazzoni)는 "여러 CDER 그룹이 정책, 규제, 기술 관련 노력을 아우르는 AI 이니셔티브에 관여해왔지만, AI에 대한 외부 및 연방 환경 변화로 새로운 거버넌스가 필요해졌다"고 배경을 밝혔다.

이어 "생성형 AI 및 대규모 언어모델(LLM)과 같은 새로운 AI 응용 프로그램이 나타나면서 비기술직 직원을 포함해 CDER 내에서 AI 사용 기회가 확대될 가능성이 높다. 이를 위해 AI 교육과 조정이 강화돼야 한다"면서 "또한 AI를 포함하는 CDER 규제 제출이 급격하게 증가하고 있으며, 신약 개발에 AI를 사용하는 범위와 영향력이 확대되고 있다"고 설명했다.

CDER는 AI가 의약품 개발 주기에서 중요한 역할을 할 것이라 보고 있으며, 혁신을 촉진하고 환자 안전을 보호하는 위험 기반 규제 프레임워크를 계속해서 개발하고 채택한다는 입장이다.

FDA는 '의약품 및 생물학적 제제의 규제적 의사 결정을 지원하기 위한 AI 활용에 대한 고려 사항' 지침도 준비하고 있다. 이 지침을 통해 의약품의 안전성, 유효성 또는 품질에 관한 규제 의사 결정을 지원하는 정보 또는 데이터를 생성하는 데 AI를 어떻게 활용할지 권장 사항을 제공할 예정이다.

이 외에도 AI 사용에 대한 모범 사례와 AI와 관련된 일관된 용어에 대한 지침을 개발할 계획이다.

유럽 규제기관 "모든 중점 분야에서 AI의 잠재력을 최대한 활용하는 것 목표"

유럽의약품청(EMA)과 의약품규제기관정상회의(HMA)는 9월 규제 결정을 내릴 때 LLM을 사용하는 직원을 위한 지침 원칙에 합의했다. 지침에는 LLM 사용에 대한 일반적인 윤리적 고려 사항이 포함돼 있으며, 사용자 수준과 조직 수준의 원칙을 다룬다.

EMA는 "규제 기관이 일상적으로 받는 방대한 문서를 쿼리하거나 지식/데이터 마이닝 프로세스를 자동화하거나 일상적은 행정 업무에서 가상 AI 비서로 활용하는 등 LLM은 엄청난 변혁적 잠재력을 가지고 있다"면서 "그러나 결과의 다양성, 관련이 없거나 부정확한 응답의 반환, 잠재적인 데이터 보안 위험 등 여러 문제를 일으키기도 한다"고 말했다.

EMA는 "이 지침의 목적은 유럽연합(EU) 전역의 규제 기관 직원들이 이러한 애플리케이션 기능과 한계에 대한 이해를 바탕으로 LLM의 잠재력을 효과적으로 활용하고 함정과 위험을 피할 수 있도록 하는 것이다"고 밝혔다.

이 지침은 2023년 시작돼 2028년 끝날 것으로 예상되는 EMA와 HMA의 AI 작업 계획의 일부다.

EMA와 HMA는 10월 AI 기술 발전이 포함된 의약품 전략을 제안했다. 유럽 시장에 출시되는 신약 개발을 촉진하기 위한 5개년 전략인 유럽 의약품 기관 네트워크 전략 2025(EMANS 2025)을 2028년까지로 업데이트한 것이다.

AI 기술과 같은 몇몇 기술적 진보가 예상보다 빠르게 진행되고 있고, EU가 수십 년 만에 가장 큰 제약 분야 개혁이 될 것으로 예상되는 의약품 관련 법안을 개정하기 위해 조치를 취하는 등 EMANS 2025가 채택된 뒤 중요한 변화가 발생해 전략을 수정하게 됐다.

전략 문서에서는 "EMANS 2025 이후 AI의 가용성과 사용이 보편화됐으며, 네트워크는 모든 EMANS 중점 분야에서 AI의 잠재력을 최대한 활용하는 것을 목표한다. 디지털 기술과 AI 사용은 EU의 약물 감시 시스템을 통해 인체 및 동물 의약품의 안전성을 평가하고 모니터링하는 네트워크의 핵심 업무를 변화시킬 잠재력이 있다"고 설명했다.

이어 "EMANS 2028이 입법 변화를 예측하거나 미래를 예측할 수는 없지만, 제약법 개정에 대비하고 기술 및 규제 환경의 추가적인 변화에 대비할 수 있도록 네트워크를 준비시킬 것이다"고 밝혔다.

의료기기와 체외진단의료기기에도 적용되는 세계 최초 AI 규제법도 올해 화제가 됐다. 이 법은 8월 2일부터 시행됐으며, 2년 뒤인 2026년 8월 2일부터는 고위험 기기에 대한 요건이 적용된다.

이 법은 EU 내에 설립 또는 위치하는지 또는 제3국에 설립됐는지 여부와 관계없이 EU 내 AI 시스템을 시장에 출시하거나 서비스에 투입하거나 범용 AI 모델을 시장에 출시하는 제공업체에 적용된다.

또한 의료 분야에서 AI가 사용되는 많은 부분이 이 법에 따라 고위험으로 분류돼 여러 요구 사항이 적용될 것으로 전망된다.

유럽집행위원회(EC)는 "인공지능이 사회에 미칠 수 있는 중대한 영향과 신뢰 구축의 필요성을 고려할 때 AI와 그 규제 프레임워크는 유럽연합(EU) 가치에 따라 개발되는 것이 필수다"면서 "전제 조건으로 AI는 인간 중심의 기술이어야 한다. 인간의 행복 증진을 궁극적인 목표로 삼아 인간을 위한 도구로 사용돼야 한다"고 규정에서 명시했다.