LGU+, '엑사원 3.5' 온디바이스 sLM 개발 성공

[서울와이어=서동민 기자] LG유플러스가 LG AI연구원, 온디바이스 AI 솔루션 업체 옵트에이아이와 함께 대규모 언어모델(LLM) ‘엑사원(EXAONE) 3.5’를 기반으로 한 온디바이스 sLM 개발에 성공했다. 해당 모델은 AI 통화 앱 ‘익시오(ixi-O)’에 적용돼 서비스 고도화에 활용될 예정이다.

이번 성과는 LG AI연구원이 지난해 12월 선보인 ‘엑사원 3.5 2.4B’를 경량화한 결과다. LG유플러스와 LG AI연구원, 옵트에이아이는 약 6개월간의 공동 연구 끝에 모델을 온디바이스 환경에서 구동 가능한 수준으로 구현했다.

온디바이스 AI 기술은 대규모 모델을 스마트폰 내부에서 직접 실행할 수 있도록 해 보안성과 응답 속도를 동시에 확보한다. 네트워크와 서버를 거치지 않아 데이터 유출 위험이 줄고, NPU(신경망처리장치)를 활용한 빠른 응답도 가능하다. 이번 온디바이스 sLM은 CPU 기반 대비 전력 소모를 78% 절감하고 모델 크기를 82% 줄였다.

LG유플러스는 이를 ‘익시오’에 적용해 ▲한 줄 요약 ▲상세 요약 ▲키워드 추출 ▲AI Task 제안 등 기능을 강화할 계획이다. 오는 10월 베타 테스트를 거쳐 안정성을 검증하고, 내년 상반기 상용화를 목표로 한다.

현재 엑사원 기반 온디바이스 sLM은 퀄컴 ‘스냅드래곤8’ 칩셋을 탑재한 스마트폰에서 우선 적용되며, 내년에는 iOS 기기까지 범위를 확대할 예정이다. 또한 LG AI연구원이 7월 공개한 ‘엑사원 4.0’ 역시 온디바이스화해 적용 범위를 넓혀나갈 방침이다.

송대원 LG유플러스 기술개발그룹장은 “엑사원의 고성능을 유지하면서 온디바이스 구현에 성공해 보다 안전하고 정교한 AI 서비스를 제공할 수 있게 됐다”며 “앞으로도 초개인화된 온디바이스 에이전트를 선보이며 시장 선도 기업으로 입지를 강화하겠다”고 밝혔다.