스마트폰으로 증상을 검색하면 가장 먼저 뜨는 게 AI 답변인 시대입니다. "이 증상이 뭔가요?", "이 약 먹어도 되나요?" — 병원 가기 전에 AI한테 먼저 물어보는 게 이제 자연스러운 루틴이 됐죠. 그런데 그 답변의 절반이 틀렸다면? 최근 나온 연구 결과가 꽤 불편한 진실을 건드리고 있습니다.
출처: Wikipedia - Artificial intelligence in healthcare
AI 의료 답변, 정확도 50% — 연구 결과가 말하는 것
여러 의료 AI 및 챗봇을 대상으로 한 복수의 연구에서 공통적으로 나온 결론이 있습니다. 증상 진단, 약물 복용법, 질환 정보 등 실제 환자들이 자주 묻는 의료 질문에 대해 AI가 내놓는 답변의 정확도가 평균 50% 안팎에 머문다는 것입니다. 절반은 맞고, 절반은 틀리거나 불완전하다는 뜻입니다.
특히 문제가 되는 건 자신감 있게 틀리는 경우입니다. AI는 확신에 찬 어조로 답변을 내놓기 때문에, 일반 사용자 입장에서는 정보가 잘못됐는지 판별하기가 어렵습니다. 전문가가 봤을 때 명백한 오류도, AI의 유창한 설명 앞에서는 그럴싸하게 느껴질 수 있다는 점이 핵심 위험 요인입니다.
출처: Wikipedia - Medical diagnosis
왜 AI는 의료 분야에서 특히 오답을 낼까
AI가 의료 정보에 취약한 데는 구조적인 이유가 있습니다. 일반 대형 언어 모델(LLM)은 인터넷에 존재하는 방대한 텍스트를 학습합니다. 그 텍스트 안에는 검증된 의학 논문도 있지만, 근거 없는 건강 블로그, 광고성 콘텐츠, 오래된 의료 지식도 뒤섞여 있습니다. AI는 이것들을 품질 구분 없이 통합해서 답변을 생성하죠.
또 하나는 학습 데이터의 시간 지연 문제입니다. 의학 가이드라인은 새로운 임상 연구 결과에 따라 자주 바뀝니다. 하지만 AI의 학습 데이터에는 최신 변경 사항이 반영되지 않을 수 있습니다. 몇 년 전 기준으로 맞았던 정보가 지금은 권고 사항이 달라진 경우, AI는 여전히 옛날 정보를 정확한 것처럼 전달할 수 있습니다.
마지막으로 맥락 파악의 한계가 있습니다. 실제 의사는 환자의 나이, 기저질환, 복용 중인 다른 약물, 생활 습관을 종합해서 판단합니다. AI는 텍스트로 주어진 정보 이상을 알 수 없기 때문에, 개인화된 의료 판단에서 근본적인 한계를 가질 수밖에 없습니다.
실제로 어떤 유형의 오답이 나오나
연구들이 공통적으로 지적하는 오답 패턴이 몇 가지 있습니다.
- 약물 상호작용 오류: 특정 약을 함께 복용하면 위험한데 "괜찮다"고 답하는 사례
- 응급 증상 과소평가: 즉시 병원에 가야 할 증상을 "집에서 쉬면 된다"고 안심시키는 경우
- 금기 사항 누락: 임산부, 신장 질환자 등 특정 집단에게 위험한 정보를 일반 답변으로 제공
- 진단명 단정: 감별 진단이 필요한 상황에서 하나의 질환으로 단정 짓는 답변
저는 이 목록을 보면서 솔직히 아찔했습니다. 저도 가끔 늦은 밤 몸이 이상하면 병원 가기 전에 AI한테 물어본 적이 있거든요. 그 답변을 꽤 신뢰했다는 게 새삼 불안하게 느껴지더라고요.
의료 특화 AI는 다를까 — 현실적인 기대치
물론 GPT나 제미나이 같은 범용 AI와, 의료 데이터로 특화 학습된 AI를 같은 선상에 놓는 건 공평하지 않다는 반론도 있습니다. 실제로 FDA 승인을 받은 일부 의료 AI는 특정 영역(영상 판독, 패혈증 조기 경보 등)에서 전문의 수준의 정확도를 보이기도 합니다.
하지만 현재 대부분의 사람들이 접근하는 건 '의료 특화 AI'가 아니라 일반 챗봇에 건강 질문을 던지는 행위입니다. 이 간극이 문제의 핵심입니다. 기술은 특정 좁은 영역에서 검증됐는데, 실제 사용 패턴은 훨씬 넓고 무분별하게 이뤄지고 있는 거죠. 의료 AI 규제 논의가 아직 사용자의 현실 사용 속도를 따라잡지 못하고 있다는 점도 우려스러운 부분입니다.
AI 건강정보, 이렇게 쓰면 그나마 안전하다
그렇다고 AI를 아예 안 쓰는 게 현실적인 해답은 아닙니다. 접근 방식을 바꾸는 게 더 실용적입니다.
- 진단보다 질문 준비 도구로 활용: "이 증상이 뭐냐"가 아니라 "병원 가면 의사에게 어떤 걸 물어봐야 하냐"는 용도로 쓰는 게 훨씬 안전합니다.
- 응급 여부 판단은 절대 AI에게 맡기지 말 것: 가슴 통증, 호흡 곤란, 갑작스러운 신체 이상은 즉시 의료 기관으로 가야 합니다.
- 복수 출처 교차 확인: AI 답변을 보건복지부 공식 건강 정보나 질병관리청 자료와 비교해보는 습관이 필요합니다.
- 약물 관련 정보는 반드시 약사·의사 확인: 약 복용법과 상호작용은 AI 답변을 절대 최종 판단 근거로 삼지 마세요.
여러분은 평소에 건강 관련 궁금증이 생길 때 AI를 어느 정도 신뢰하시나요? 댓글로 솔직한 경험 남겨주시면 같이 이야기 나눠보고 싶습니다.