김남국 서울아산병원 교수, 의료AI 발전 위한 '지식 주입' 3대 전략 제시

챗GPT 등 거대언어모델(LLM)이 의사국가시험 문제를 풀고 의학 질문에 답할 수 있는 수준에 이르렀지만, 실제 환자 진료를 안전하게 돕는 데는 여전히 간극이 존재한다는 지적이 나왔다. 서울아산병원 융합의학과 김남국 교수는 병원 뉴스룸 기고에서 그 원인으로 사실이 아닌 정보를 그럴듯하게 제시하는 '환각' 현상과 최신 진료지침 반영의 어려움을 꼽았다. 이를 보완하기 위한 방안으로 김 교수는 최근 발표한 리뷰 논문을 토대로 세 가지 '지식 주입' 전략을 제시했다. 첫째는 의학 교과서와 논문 등을 모델에 직접 학습시키는 '정적 지식 임베딩', 둘째는 의료 안전 원칙에 맞게 불확실성을 표현하고 추가 검사를 권고하도록 훈련하는 '행동 정렬', 셋째는 검색증강생성(RAG) 기반으로 질문 시점마다 최신 논문·지침을 찾아 반영하는 '동적 지식 주입'이다. 김 교수는 이 세 전략이 단독으로는 충분하지 않으며 유기적으로 결합돼야 한다고 강조했다. 향후에는 의료영상·생체신호·검사 수치를 함께 이해하는 멀티모달 AI와, 과제를 세분화해 자료를 검색하고 분석 도구를 선택하는 에이전틱 AI로 발전할 것으로 전망했다. 다만 AI 자율성이 높아질수록 최종 진단과 치료 결정 등 생명과 직결된 판단에는 의료진의 감독이 전제돼야 한다고 덧붙였다.

LLM의 의학 지식 습득 능력과 실제 임상 활용 안전성 사이에 간극 존재
환각 현상과 최신 진료지침 미반영이 의료 AI의 주요 한계로 지적됨
정적 지식 임베딩·행동 정렬·동적 지식 주입 등 3대 전략 제시
향후 멀티모달 AI, 에이전틱 AI로 발전 전망
최종 진단·치료 결정에는 의료진 감독 체계가 전제돼야 한다고 강조

BioPulse 해설

원문에 없는 배경 설명입니다 · AI 작성 · 기사의 사실관계가 아닙니다

거대언어모델(LLM): 방대한 텍스트 데이터를 학습해 자연어로 질문에 답하거나 문장을 생성하는 인공지능 모델
임상적 판단: 환자의 증상·검사 결과 등을 종합해 진단과 치료 방향을 결정하는 의료진의 의사결정 과정
의료영상 매개연구: 영상 데이터를 매개로 질병 진단·예측 등을 연구하는 의학 분야

의료 분야에 인공지능을 적용하려는 시도는 영상 판독, 진단 보조 등 여러 영역에서 이어져 왔으며, 최근에는 자연어로 대화하는 거대언어모델이 의학 지식 전달과 상담 보조 수단으로 주목받고 있다. 다만 의료 현장에서는 단순한 정보 제공을 넘어 환자 개별 상황에 맞는 판단과 최신 임상 근거의 반영이 요구되기 때문에, 일반적인 언어모델의 성능과 실제 임상 적용 가능성 사이에는 차이가 존재한다는 지적이 학계에서 꾸준히 제기돼 왔다. 이에 따라 의료 AI의 신뢰성과 안전성을 어떻게 검증하고 보완할지가 지속적인 논의 주제가 되고 있다.

Why it matters의료 AI가 단순 정보 제공을 넘어 임상 의사결정을 보조하는 수준으로 나아가려면, 기술적 성능뿐 아니라 의학적 판단 체계와 근거 기반 검증 방식을 어떻게 결합할지가 핵심 과제로 다뤄진다.

원문을 확인하세요

BioPulse는 원문을 저장하거나 전재하지 않습니다. 위 글은 공개된 보도를 요약한 것이며, 수치·일정·인용은 요약 과정에서 빠지거나 달라질 수 있습니다. 판단이 필요한 사안은 반드시 원문에서 확인하세요.

메디파나 원문 보기

원문 보도의 저작권은 메디파나에 있습니다.