Health Tech2026.05.18
When AI Plays Doctor: The Case for Licensing Clinical AI
AI가 의사 역할을 맡는다면, 면허도 있어야 하지 않을까요?
Intro
The Robot That Got Too Big for Its Boots
감당 못 할 일을 맡은 AI
Imagine a chatbot reading your medical history, asking about your symptoms, and then recommending a prescription — all without a single human doctor looking over its shoulder. That is exactly what happened in Utah, where a state pilot program allowed an AI company called Doctronic to evaluate patients and suggest renewals for nearly 200 chronic condition medications. In May 2026, Utah's Medical Licensing Board moved to suspend the program immediately, warning that proceeding without proper clinical oversight "potentially places Utah citizens at risk."
챗봇이 여러분의 병력을 읽고, 증상을 물어보고, 의사 한 명 개입 없이 처방까지 권고하는 상황을 상상해 보세요. 이게 정확히 유타 주에서 일어난 일이에요. 주(州) 파일럿 프로그램이 Doctronic이라는 AI 회사에게 환자를 평가하고 200여 가지 만성 질환 처방을 갱신할 수 있도록 허가했거든요. 2026년 5월, 유타 의사 면허위원회는 즉시 프로그램을 중단하기로 했어요. 제대로 된 임상 감독 없이 진행하는 건 "유타 시민을 위험에 빠뜨릴 수 있다"고 경고하면서요.
Context
The Patchwork Problem
누더기 규제의 현실
Utah is not alone in struggling with this question — at least 47 states are now considering more than 250 bills that govern clinical AI, covering topics from bias audits to patient consent. The result is a of conflicting rules: California bars insurers from using AI to deny coverage, Colorado mandates bias assessments, and each new law adds complexity without answering the core question. The FDA's existing framework makes things worse: it was designed for fixed, physical medical devices like catheters and surgical instruments — not for software that learns, updates, and changes its behavior after deployment.
이 문제로 씨름하는 곳이 유타만이 아니에요. 현재 미국 47개 주 이상이 임상 AI를 규제하는 250개가 넘는 법안을 검토 중인데, 편향성 감사부터 환자 동의까지 주제도 제각각이에요. 그 결과는 서로 충돌하는 파편화된 규제예요. 캘리포니아는 보험사가 AI로 보험을 거부하지 못하게 막고, 콜로라도는 편향성 평가를 의무화하는데, 새 법마다 핵심 질문은 여전히 남아 있어요. FDA의 기존 체계는 문제를 더 키워요. 카테터나 수술 도구 같은 고정된 물리적 의료기기를 위해 만들어졌기 때문에, 배포 이후에도 계속 학습하고 변화하는 소프트웨어엔 맞지 않아요.
Why it matters
Doctors Are Running Short. AI Is Not.
의사는 부족해지는데, AI는 넘쳐나요
Here is why the stakes are high: the United States faces a projected shortfall of tens of thousands of doctors over the next decade, especially in primary care and rural areas. Meanwhile, large language models have gone from barely passing medical licensing exams in 2024 to performing to physicians on complex clinical reasoning tasks just one year later. A 2025 prospective study of nearly 40,000 primary care visits in Kenya found that AI-assisted clinicians made substantially fewer diagnostic errors than those working without AI support.
이 문제가 중요한 이유가 있어요. 미국은 향후 10년 동안 수만 명의 의사 부족이 예상되는데, 특히 1차 의료와 농촌 지역이 심각해요. 그 사이 대규모 언어 모델은 2024년엔 의사 면허 시험을 간신히 통과하던 수준에서, 불과 1년 만에 복잡한 임상 추론에서 의사와 비슷한 수준으로 올라섰어요. 2025년 케냐에서 진행된 약 4만 건의 1차 진료를 추적한 연구에서는, AI 지원을 받은 의사들이 그렇지 않은 의사들보다 진단 오류를 훨씬 적게 냈어요.
The proposal
A License for Algorithms
알고리즘에게도 면허를
In a JAMA Viewpoint published in April 2026, researchers Bergman, Wachter, and Emanuel proposed adapting the existing physician model for autonomous clinical AI. Their framework has four pillars: first, AI must pass standardized competency tests — including the USMLE — before treating any patient; second, its scope of practice must be clearly defined, specifying which conditions it can handle alone. Third, authorization must be time-limited — perhaps biennial — with continuous real-world performance monitoring; models that drift below standards lose their license, just like a physician can. Fourth, and most controversially, a new federal Office of Clinical AI Oversight within HHS would set national competency standards, overriding the fragmented state-by-state approach through federal preemption.
2026년 4월 JAMA에 게재된 논평에서 Bergman, Wachter, Emanuel 연구팀은 자율 임상 AI에 맞게 기존 의사 자격 인증 체계를 적용하자고 제안했어요. 이들의 프레임워크는 네 가지 기둥으로 이루어져 있어요. 첫째, AI는 환자를 보기 전에 USMLE 포함 표준 역량 시험을 통과해야 해요. 둘째, 어떤 상태를 단독으로 다룰 수 있는지 진료 범위를 명확히 정해야 해요. 셋째, 인가는 2년 주기 등 기간 제한을 두고, 실제 성과를 지속 모니터링해야 해요. 기준 이하로 떨어지면 의사처럼 면허를 잃게 되고요. 넷째이자 가장 논란이 큰 부분은, HHS 산하에 새 연방 임상 AI 감독 기관을 만들어 국가 역량 기준을 정하고, 연방 우선권으로 주별 파편화 규제를 통일하자는 거예요.
So what?
What Comes Next
다음은 어떻게 될까요?
The Utah controversy is unlikely to be the last of its kind — more states will face their own Doctronic moments, and without a coherent federal framework, patients in underserved areas will keep waiting for care that AI could safely deliver.
유타의 사태가 마지막은 아닐 거예요. 더 많은 주가 비슷한 상황을 맞이할 텐데, 일관된 연방 체계 없이는 소외 지역 환자들이 AI가 안전하게 제공할 수 있는 의료를 계속 기다려야 할지도 몰라요.