22일 서울 서초구 한국컨퍼런스센터에서 반도체공학회 주관으로 열린 ‘2025 온디바이스 인공지능반도체 워크숍’의 모습. 이가람 기자

22일 서울 서초구 한국컨퍼런스센터에서 열린 ‘2025 온디바이스 인공지능반도체 워크숍’에서 김형준 차세대지능형반도체사업단장이 반도체 산·학계 관계자들 앞에서 복잡한 심경을 토로했다. 반도체공학회 주관으로 열린 이날 워크숍에서 축사를 맡은 김 단장은 젠슨 황 엔비디아 최고경영자(CEO)의 최근 발언을 화두로 꺼냈다.

앞서 황 CEO는 아시아 최대 정보통신(IT) 박람회 ‘컴퓨텍스 2025’에서 엔비디아가 대만 정부 및 기업들과 협력해 세계 최고 수준의 인공지능(AI) 인프라를 대만에 구축하겠다고 깜짝 발표했다. 또 대만 북부에는 AI 반도체 설계, 양자컴퓨팅 등 핵심 기술을 개발할 신사옥 건립 계획도 함께 밝혔다.

김 단장은 “한국이 AI 반도체에서 주도권을 잡을 수 있을지 고민이 커지는 시점”이라며 “대만을 중심으로 미래 AI 발전을 주도하겠다는 젠슨 황의 구상이 제게는 큰 두려움으로 다가왔다”고 말했다. 김 단장은 과학기술정보통신부와 산업통상자원부가 추진하는 미래 반도체 기술개발 사업을 총괄하고 있다.

이날 워크숍에서는 온디바이스 AI 칩과 관련 기술이 주요 해법으로 제시됐다. 온디바이스 AI는 클라우드 서버를 거치지 않고 기기 자체에서 AI 연산을 처리하는 방식으로, 맞춤형 기능 구현과 보안 측면에서 강점이 있다. 하지만 기술 구현을 위해서는 고도화된 반도체 칩 설계 역량이 필수적이다.

김 단장은 “한국도 손 놓고 있을 순 없다”며 “제조업 강국이라는 한국의 강점을 온디바이스 AI와 결합해야 한다”고 강조했다. 스마트폰, 가전제품, 자동차, 공장 설비 등 한국이 경쟁력을 지닌 다양한 제품에 국내 개발한 온디바이스 AI칩을 적용해 제품 경쟁력과 생산성을 높여야 한다는 의미다.

신현철 반도체공학회 회장은 “온디바이스 AI 시장은 아직 절대적인 강자가 없는 초기 단계”라며 “한국이 이 기회를 놓쳐선 안 된다”고 말했다.