[메디게이트뉴스 하경대 기자] 미국 플로리다주의 한 목사가 "챗지피티(chatGPT)의 의료 조언 때문에 치료 시기를 놓쳐 생명이 위태로워졌다"는 이유로 오픈AI(OpenAI)와 샘 올트먼 창립자를 상대로 소송을 제기한 사건이 화제가 되고 있다.  

5일 BBC 보도에 따르면, 55세의 스콧 윈터스는 챗GPT가 자신의 증상을 반복적으로 잘못 판단해 병원 진료를 미루게 만들었고, 결국 치명적인 폐색전증까지 이르게 했다고 주장했다. 

이에 윈터스는 7월 21일 샌프란시스코 카운티 상급법원에 오픈AI와 창립자인 샘 올트먼을 상대로 소송을 제기했다. 

윈터스는 정기적인 챗지피티 사용자였고 의료 조언을 구하는 데 의존하게 되면서, 가족과 친구들이 병원에 가라고 설득했음에도 이를 거부한 것으로 알려졌다. 

소장에 따르면 윈터스는 발병 전 수주 동안 어지럼증과 혈압 불안정 증상을 챗지피티에 문의했다. 이에 챗봇은 병원에 가기 보다 그가 리클라이너 의자에 계속 머물도록 조언한 것으로 알려졌다. 

이후 그는 양쪽 폐에 혈전이 생기는 심각한 폐색전증을 겪었다. 의사들은 운동 부족과 장기간의 움직임 저하가 원인일 가능성이 높다고 본 것으로 전해졌다. 

특히 윈터스가 챗GPT와 나눈 대화를 살펴보면, 챗봇이 의료 조언과 함께 그의 깊은 기독교 신앙을 결합해 언급한 정황이 있다. 

챗GPT는 윈터스에게 “하나님은 당신의 몸이 끝없이 무너지도록 만들지 않으셨다”고 말했고, 또 “심장이 뛰고 숨을 쉬는 순간마다, 당신이 죽음 직전이라고 느껴질 때조차도 하나님은 여전히 당신의 몸을 붙들고 계신다”라고 했다.

윈터스의 변호인들은 “챗지피티의 비위를 맞추는 성향과 권위적인 어조, 종교적 정체성을 이용한 조합이 그에게 위험한 의존을 심어줬다”고 주장했다.

이들은 “이런 행위가 스콧의 합리적 판단 능력을 약화시키고, 의료를 받으라고 요구한 가족들과 그를 분리시켰으며, 병원에 가는 것이 불필요할 뿐 아니라 잠재적으로 치명적이라고 믿게 만들었다”고 전했다. 

윈터스는 금전적 손해배상을 청구하는 한편, 법원에 다른 사용자들을 보호할 합리적 안전장치를 오픈AI가 마련하도록 명령해 달라고 요구하고 있다.

한편 이번 소송은 생성형 AI의 의료 활용이 확대되는 가운데, 챗봇이 내놓는 답변의 책임 범위와 안전장치 필요성을 부각시키고 있다. 

실제로 최근 비슷한 사례는 최근 연이어 발생하고 있다. 지난 5월 독일 함(Hamm) 고등법원은 미용 의료 업체 웹사이트의 AI 챗봇이 의사들의 전문의 자격을 허위로 안내한 사건과 관련해 챗봇의 답변을 업체의 상행위로 보고 허위 명칭 사용 금지 명령을 내렸다. 

법원은 “챗봇을 기업과 별개인 제3자로 볼 수 없다. 기업이 챗봇의 오답에 책임을 져야 한다”고 판시했다. 

의료계 역시 AI 시대에 환자들이 오픈AI 질의에만 익숙해지는 현상을 경계해야 한다고 경고한다. 

의료윤리연구회 문지호 회장(이비인후과 전문의)은 "미국 의료의 접근성 문제와 AI 과의존성이 빚은 결과로 보인다. 안심시키기와 동조, 공감해주기로 작동하는 AI 문체가 문제였을 수 있다"고 말했다. 

문 회장은 "효율만 추구하는 의료는 반드시 부작용이 생긴다는 것을 인지해야 한다. 병원을 가지 않고 답을 얻고 싶고, 새로운 의사를 만나 소통해야하는 과정을 생략하고 싶을 수 있지만 건강의 문제는 시간내기와  관계의 불편함을 감수해야 한다"고 강조했다. 

그러면서 "가장 큰 대안은 책임감이 있는 존재에게 건강을 맡겨야 한다는 것이다. AI에는 관계성이 유사하게 존재할 수 있지만, 책임성은 전혀 없다"며 "자신의 건강에 책임을 질 수 있는 의사에게 진료를 받고 AI는 도구로 활용해야 한다"며 "의사가 활용하는 AI는 환자의 시간을 아껴줄 수 있지만 환자 혼자 사용하는 AI는 오히려 환자를 위험에 몰아 넣을 수 있다"고 경고했다.