서울아산병원 비뇨의학과 서준교 교수가 최근 열린 국제 AI 레드팀 챌린지에서 3위에 입상했다.

AI 레드팀 챌린지는 AI 시스템의 취약점과 잠재적 위험성을 찾기 위해 참가자가 의도적으로 AI를 공격하고 시험하는 대회다. 이번 대회에서는 GPT-5.4, Gemini 3.1 Pro, Claude Opus 4.6 등 최신 AI 모델을 대상으로 ▲응급환자 분류 오류 유도 ▲전염병 감시·대응 시스템 교란 등 총 8가지 고위험 시나리오를 적용해 진행됐다.

한편 서 교수는 식품의약품안전처가 주최하는 ‘첨단AI 의료제품 레드팀 챌린지’ 조직위원으로도 활동하며 실제 의료 환경에서 AI의 안전성을 검증하고 관련 규제 및 인허가 기준을 마련하는 데 힘쓰고 있다.