레드팀 챌린지 전체 참가자 기념촬영 (사진 제공=ETRI)

서울 동대문 노보텔 앰배서더 그랜드볼룸에서 지난 4~5일 열린 ‘첨단 AI 디지털 의료제품 레드팀 챌린지 및 기술 워크숍’이 성황리에 마무리됐다.

이번 행사는 식품의약품안전처 주최, 한국전자통신연구원(ETRI), 분당서울대병원, STA테스팅컨설팅, 한국화학융합시험연구원(KTR)이 공동 주관했으며, 의료 분야 AI 레드팀 챌린지를 표방한 세계적 첫 시도로 개발, 규제, 의료 현장을 한자리에 모아 AI 의료제품의 안전성과 신뢰성을 점검했다.

첫째 날 진행된 챌린지에는 47개 팀, 100여 명이 참가해 국내외 주요 기업의 8종 이상의 거대언어모델(LLM)을 대상으로 모의공격을 수행했다.

단순한 모델 공격이 아닌, 실제 의료 환경에서 AI의 안전성과 신뢰성을 확인하는 과정에서 취약점이 식별됐고, 재현 가능한 로그와 결과가 축적돼 의료 AI 평가에 활용 가능한 데이터가 도출됐다. STA테스팅컨설팅 등 주관 기관은 시험 환경 안정화와 평가 체계 구축, 개선 권고안 도출을 지원했다.

대전대학교 전영준 학생이 대상을 수상했으며, 상금 500만 원과 식약처상을 받았다. 최우수상 3팀과 우수상 5팀에도 각각 상금이 수여됐다.

둘째 날 열린 기술 워크숍에서는 AI 기반 의료기기와 의료 LLM 기술의 제도·표준·평가 현황과 연구 성과, 향후 발전 방향이 공유됐다. 오전 키노트에서는 생성형 AI의 의료 적용 사례, EU 인증기관 시각의 AI 의료기기 시장 진입 전략 등이 발표됐으며, 오후 세션에서는 규제, 첨단 의료 AI 안전, 제품 평가 등에 대한 심도 있는 논의가 진행됐다.

이번 행사는 식약처 출연사업의 핵심 과제인 ▲생성형 AI 디지털 의료제품 레드팀 시험 평가 기술 개발 ▲레드팀 플랫폼 개발 및 실증 ▲첨단 AI 취약점 동향조사 및 글로벌 대응체계 마련의 일환으로 추진됐다. ETRI가 주도하고 STA와 KTR이 공동 운영했으며, 분당서울대병원이 워크숍을 주관했다. 셀렉트스타와 앨리스는 기술 지원 후원사로 참여해 테스트 운영을 지원했다.

주최 측은 이번 성과와 개선 권고안을 산업계에 공유하고, 내년 행사 정례화를 통해 평가 프로토콜과 데이터셋을 지속적으로 업데이트할 계획이라고 밝혔다.