의료 전문가들은 인공지능이 의료 서비스 제공을 개선하는 데 있어 잠재적인 역할을 할 수 있다는 점은 인정하지만, 이를 표준 챗봇 솔루션으로 사용하기에는 적합하지 않다고 보고 있습니다.

외과 의사로 활동하며 기술 회사 iMerit에서 AI 응용 분야의 선도적 전문가로 일하는 시나 바리 박사는 ChatGPT가 환자들에게 잘못된 의학적 조언을 제공해 그들을 잘못된 길로 이끌 수 있다는 사실을 직접 목격했습니다.

“최근 한 환자가 저를 찾아왔습니다. 제가 특정 약물을 처방해 주자, 그 환자는 ChatGPT가 생성한 대화 내용을 보여주며 해당 약물을 사용할 경우 폐색전증이 발생할 위험이 45%에 달한다고 주장했습니다.”라고 바리 박사는 TechCrunch와의 인터뷰에서 말했습니다.

더 자세히 조사한 결과, 그 수치는 결핵을 앓는 특정 집단에 대한 해당 약물의 영향을 연구한 논문에서 나온 것으로, 자신의 환자 상황과는 전혀 관련이 없는 정보였습니다.

이러한 문제가 있음에도 불구하고 지난주 OpenAI가 전용 ChatGPT Health 챗봇을 공개했을 때, 바리 박사는 우려보다는 기대감이 더 컸습니다.

앞으로 몇 주 내에 출시될 예정인 ChatGPT Health는 사용자들이 보다 사적인 환경에서 건강 관련 고민을 나눌 수 있도록 해줍니다. 또한 이 플랫폼을 통해 전송된 메시지가 기반이 되는 AI 모델의 학습 데이터로 사용되지 않도록 보장합니다.

“이것은 매우 훌륭한 발전이라고 생각합니다.”라고 바리 박사는 말했습니다. “이와 같은 도구가 이미 사용되고 있는 상황에서, 환자 정보를 보호하기 위한 적절한 안전 장치를 갖추어 공식화한다면, 조언을 구하는 환자들에게 훨씬 더 큰 가치가 될 것입니다.”

사용자들은 자신의 의료 기록을 업로드하고 Apple Health나 MyFitnessPal과 같은 앱과 동기화함으로써 ChatGPT Health를 통해 더 맞춤화된 조언을 받을 수 있습니다. 하지만 이 기능은 데이터 보안을 중요시하는 사람들에게 즉각적인 우려를 야기합니다.

Techcrunch 행사

Disrupt 2026 대기자 명단에 등록하기

Early Bird 티켓이 판매되는 순간 가장 먼저 받아볼 수 있도록 Disrupt 2026 대기자 명단에 이름을 올리세요. 과거의 Disrupt 행사에서는 Google Cloud, Netflix, Microsoft, Box, Phia, a16z, ElevenLabs, Wayve, Hugging Face, Elad Gil, Vinod Khosla와 같은 기업들이 무대에 올랐으며, 250명 이상의 업계 리더들이 성장을 촉진하고 경쟁력을 강화할 수 있도록 200회가 넘는 세션을 진행해 왔습니다. 또한 모든 분야에서 혁신을 이뤄내는 수백 개의 스타트업들도 만나볼 수 있습니다.

Disrupt 2026 대기자 명단에 등록하기

Early Bird 티켓이 판매되는 순간 가장 먼저 받아볼 수 있도록 Disrupt 2026 대기자 명단에 이름을 올리세요. 과거의 Disrupt 행사에서는 Google Cloud, Netflix, Microsoft, Box, Phia, a16z, ElevenLabs, Wayve, Hugging Face, Elad Gil, Vinod Khosla와 같은 기업들이 무대에 올랐으며, 250명 이상의 업계 리더들이 성장을 촉진하고 경쟁력을 강화할 수 있도록 200회가 넘는 세션을 진행해 왔습니다. 또한 모든 분야에서 혁신을 이뤄내는 수백 개의 스타트업들도 만나볼 수 있습니다.

샌프란시스코 | 2026년 10월 13일~15일 지금 바로 대기자 명단에 등록하기

“갑자기 HIPAA 규정을 준수하는 기관들의 의료 데이터가 그렇지 않은 공급업체들로 전송되고 있습니다.”라고 데이터 유출 방지 회사 MIND의 공동 창립자인 이타이 슈워츠는 TechCrunch에 말했습니다. “그래서 규제 기관들이 이 문제를 어떻게 해결할 계획인지 궁금합니다.”

하지만 일부 업계 전문가들의 관점에서는 이미 피해가 발생했다고 봅니다. 요즘 사람들은 증상을 온라인에서 검색하는 대신 AI 챗봇에게 상담을 받는 것을 선호하며, 매주 2억 3천만 명 이상이 자신의 건강 문제와 관련해 ChatGPT와 소통하고 있습니다.

“이것은 지금까지 ChatGPT가 활용된 가장 중요한 사례 중 하나입니다.”라고 헬스케어 기술 분야에 투자하는 Gradient의 파트너인 앤드루 브래킨은 TechCrunch에 말했습니다. “건강 관련 질문을 처리하기 위해 보다 사적이고 안전하며 최적화된 버전의 ChatGPT를 만들고자 하는 것은 전혀 이상한 일이 아닙니다.”

AI 챗봇들은 환각이라는 지속적인 문제를 안고 있으며, 이는 특히 헬스케어 분야에서 심각한 우려 사항입니다. Vectara의 Factual Consistency Evaluation Model에 따르면, OpenAI의 GPT-5는 Google과 Anthropic이 개발한 많은 모델들보다 더 많은 허위 정보를 생성하는 경향이 있습니다. 그럼에도 불구하고 AI 기업들은 이러한 기술을 활용해 헬스케어 분야의 비효율성을 해결할 가능성을 보고 있습니다(Anthropic 역시 이번 주에 건강 관련 제품을 발표했습니다).

스탠포드 대학교의 의학 교수이자 스탠포드 헬스케어의 수석 데이터 과학자인 니감 샤 박사에 따르면, 미국 환자들이 의료 서비스를 받는 데 겪는 어려움은 ChatGPT가 부정확한 조언을 제공할 위험보다도 훨씬 더 시급한 문제입니다.

“현재 어떤 의료 시스템을 통해 일차 진료 의사를 만나려고 해도 3개월에서 6개월 정도 기다려야 합니다.”라고 샤 박사는 말했습니다. “인간 의사를 기다리는 6개월과, 특정 의료적 필요에 대해 여전히 도움을 줄 수 있는 AI 도구와 대화하는 것 중에서 선택해야 한다면 어떤 쪽을 선택하시겠습니까?”

샤 박사는 AI를 헬스케어 시스템에 통합하는 가장 효과적인 방법은 환자들이 아닌 의료 제공자 측면에서 변화에 집중하는 것이라고 생각합니다.

의학 저널들은 종종 일차 진료 의사의 근무 시간 중 약 절반이 행정 업무에 소요된다고 보고하고 있으며, 이로 인해 하루에 돌볼 수 있는 환자 수가 크게 줄어듭니다. 이러한 업무를 자동화함으로써 의사들은 더 많은 환자를 진료할 수 있게 되며, 그 결과 사람들이 실제 의사와 상담하기 전에 ChatGPT Health와 같은 도구에 의존해야 하는 필요성도 줄어들 수 있습니다.

샤 박사는 스탠포드에서 ChatEHR이라는 소프트웨어 애플리케이션을 개발하는 팀을 이끌고 있으며, 이 앱은 전자 의료 기록 시스템에 직접 통합될 수 있도록 설계되었습니다. 이 도구를 통해 임상의들은 환자의 의료 기록에 더 효율적으로 접근하고 업무 흐름을 간소화할 수 있습니다.

“전자 의료 기록을 더 사용자 친화적으로 만든다는 것은, 의사들이 필요한 정보를 찾기 위해 복잡한 기록들을 일일이 뒤지는 데 드는 시간을 줄여준다는 뜻입니다.”라고 ChatEHR의 초기 테스터 중 한 명인 스네히 자인 박사는 스탠포드 메디슨이 발표한 기사에서 말했습니다. “ChatEHR은 그들이 이러한 정보를 빠르게 얻을 수 있도록 도와주어, 환자들과 소통하고 그들의 건강 상태를 이해하는 데 집중할 수 있게 해줍니다.”

Anthropic은 공개적으로 제공되는 Claude 챗봇 외에도 임상의와 보험 회사들이 사용할 수 있는 AI 제품들을 개발하고 있습니다. 이번 주에 Anthropic은 Claude for Healthcare를 선보였으며, 보험 사업자에게 사전 승인 요청을 제출하는 등 지루한 행정 업무에 소요되는 시간을 줄이는 데 이 도구가 어떻게 활용될 수 있는지 설명했습니다.

“여러분 중 일부는 매주 수백 건, 심지어 수천 건의 사전 승인 건을 처리하고 있습니다.”라고 Anthropic의 최고 제품 책임자인 마이크 크리거는 J.P. Morgan의 헬스케어 컨퍼런스에서 최근 열린 발표에서 말했습니다. “그러니 각각의 처리 과정에서 20분이나 30분을 절약할 수 있다고 상상해 보세요. 그것만으로도 상당한 시간 절약 효과가 있을 것입니다.”

AI와 의학이 점점 더 밀접하게 연결됨에 따라, 이 두 분야 사이에는 불가피한 긴장 관계가 존재합니다. 의사들은 주로 환자를 돕겠다는 헌신에 의해 동기를 얻는 반면, 기술 회사들은 설령 그들의 의도가 선의일지라도 결국 주주들에게 책임을 져야 합니다.

“이러한 긴장 관계는 매우 중요하다고 생각합니다.”라고 바리 박사는 말했습니다. “환자들은 자신들의 이익을 보호하기 위해 우리가 신중하고 보수적으로 행동해 주기를 기대합니다.”