감염에 의해 주요 장기가 빠르게 손상되는 패혈증 의심 환자가 발생했다. 일분일초가 급한 상황, 담당 의료진은 즉시 프라이빗 AI 지식 검색 시스템에 접속해 ‘패혈증 의심 환자 발생 시 초기 대응 프로토콜과 항생제 투여 지침을 알려줘’라고 입력했다. 시스템은 수백 페이지 분량의 임상진료프로토콜 데이터베이스를 단 몇 초 만에 검색한 뒤 ▲1시간 이내 시행해야 할 검사 리스트 ▲수액 요법 ▲항생제 투여 관련 세부 지침 ▲패혈증 진단 기준 등을 즉각 제시했다. 답변 밑에는 해당 정보의 출처가 명시됐다.

서울아산병원이 국내 의료기관 최초로 외부 인터넷과 완전히 단절된 폐쇄망 환경에서 구동되는 ‘프라이빗 AI 지식 검색 시스템’을 구축하고 본격 가동에 나섰다. 프라이빗 AI란 외부 클라우드에 데이터를 보내지 않고, 기관 내부 서버에서만 AI 모델을 운용하는 방식이다.

의료 데이터는 환자의 진료 기록, 검사 결과 등 민감한 정보가 포함되어 있어 엄격한 보안이 필수적이지만, 기존 생성형 AI는 외부 클라우드와 연결되어 정보 유출 우려가 있었다. 서울아산병원은 이를 해결하기 위해 모든 서버와 데이터를 병원 내부에서만 운용하는 ‘온프레미스(On-premise)’ 방식을 채택해 외부 클라우드 의존도를 0%로 낮췄다.

이를 통해 생성형 AI의 이점을 온전히 활용하면서도 환자 정보가 병원 밖으로 나가지 않는 최고 수준의 데이터 보호를 실현했다. 또한, 외부 솔루션 업체에 의존하지 않고 병원 내 IT 인력이 직접 시스템을 개발함으로써 기술 자립도도 한층 높였다.

프라이빗 AI 지식 검색 시스템을 활용하면 의료진은 방대한 임상 가이드라인이나 업무 규정을 일일이 찾아볼 필요 없이 질문 한 번으로 수 초 내에 정확한 답변을 얻을 수 있다. 예를 들어, ‘기관삽입관 탈거 시 응급 처치 및 재삽관 프로토콜’ ‘법정 감염병 확진 환자 발생 시 신고 절차’ 등 매뉴얼 확인이 필수적인 긴급 상황에서 AI가 제공하는 객관적인 근거를 토대로 신속하고 침착하게 대응할 수 있다.

프라이빗 AI 지식 검색 시스템의 기술적 핵심은 벡터 데이터베이스와 RAG(검색 증강 생성, Retrieval-Augmented Generation)의 결합이다. 

▲서울아산병원이 폐쇄망 기반의 프라이빗 AI 지식 검색 시스템을 최근 구축했다.(AI로 생성한 이미지)

벡터 데이터베이스는 문서의 내용을 AI가 의미 단위로 이해하고 빠르게 검색할 수 있는 형태로 변환해 저장하는 기술이다. 일반적인 데이터베이스가 키워드 일치 방식으로 검색하는 것과 달리, 벡터 데이터베이스는 질문의 맥락과 의미까지 파악해 가장 관련성 높은 문서를 찾아낸다. 병원 내 임상 가이드라인, 업무 규정 등 방대한 문서 전체를 벡터 데이터베이스로 저장함으로써 AI가 필요한 정보를 즉시 불러올 수 있는 기반을 마련했다.

RAG는 AI가 답변을 생성할 때 반드시 데이터베이스 내 실제 문서를 근거로 삼도록 강제하는 기술이다. AI가 임의로 내용을 창작하지 않고 실제 저장된 문서를 먼저 검색해 참고한 뒤 답변을 구성하는 방식이기 때문에 AI가 근거 없이 그럴듯한 거짓 정보를 만들어내는 ‘환각(Hallucination) 현상’을 구조적으로 차단한다. 의료 분야에서 특히 치명적일 수 있는 환각 문제를 원천적으로 방지했다는 점에서 의미가 크다.

또한 폐쇄망 환경의 특성상 외부의 최신 정보를 실시간으로 반영하기 어렵다는 한계를 보완하기 위해 ‘샌드박스형 외부 검색 엔진’을 별도로 운영할 계획이다. 이 엔진은 외부 검색이 필요한 경우에도 환자 개인을 특정할 수 없도록 완전히 익명 처리된 질문만을 외부로 내보내는 방식으로 작동한다. 병원 내부 정보는 절대 외부로 유출되지 않으면서 필요한 최신 의학 정보만 안전하게 가져오는 별도의 통로를 마련하는 것이다.

김영학 서울아산병원 디지털정보혁신본부장은 “이번 시스템은 보안과 AI 활용이라는 두 과제를 동시에 해결하며, 폐쇄망 환경에서도 AI를 온전히 활용할 수 있음을 직접 증명했다는 점에서 의미가 크다. 앞으로도 시스템을 지속적으로 고도화하며 데이터 유출 걱정 없는 신뢰 기반의 디지털 의료 혁신을 선도해 나가겠다”고 말했다.