[이코노믹데일리] LG CNS가 글로벌 AI 유니콘 ‘코히어(Cohere)’와 손잡고 추론 능력에서 현존 최상위 모델을 능가하는 1110억 파라미터 규모의 초거대 언어모델(LLM)을 공동 개발했다. 이는 기업이 외부 클라우드에 의존하지 않고 자체 인프라에서 데이터와 AI 주권을 확보하는 ‘소버린 AI’ 시장을 본격 공략하기 위한 강력한 무기가 될 전망이다.
LG CNS는 10일 코히어의 기업용 LLM ‘커맨드’ 모델에 자사의 IT 전문성과 AI 기술력을 결합해 만든 추론형 LLM을 공개했다. 불과 두 달 전 70억 파라미터 경량 모델을 출시한 데 이어 초대형 모델까지 연이어 선보이며 AI 기술 포트폴리오를 빠르게 완성하는 모습이다.
이번에 공개된 LLM은 AI가 복잡한 문제에 대해 논리적으로 해답을 도출하는 능력이 뛰어난 모델로 AI가 스스로 판단하고 작업을 수행하는 ‘에이전틱 AI’ 구현의 핵심 기술이다. 특히 온프레미스 방식으로 제공돼 금융, 공공 등 민감 데이터를 다루는 기업들이 데이터 외부 유출 걱정 없이 안전하게 AI를 활용할 수 있는 길을 열었다.
성능은 놀라운 수준이다. LG CNS의 자체 테스트 결과 대학 수준의 수학 문제 해결 능력을 검증하는 ‘Math500’과 미국 수학 경시대회 문제를 활용하는 ‘AIME 2024’ 벤치마크에서 한국어와 영어 모두 GPT-4o, 클로드 3.7 소넷 등 글로벌 최상위 LLM보다 높은 점수를 기록했다. 한국어 종합 이해 능력을 평가하는 ‘KMMLU’ 테스트에서도 온프레미스 방식 LLM 중 현존 최고 수준(SOTA)의 성능을 보였다.
더욱 주목할 점은 효율성이다. LG CNS는 모델 압축 기술을 통해 통상 4장 이상의 그래픽처리장치(GPU)가 필요한 1000억 파라미터급 LLM을 단 2장의 GPU만으로 구동 가능하도록 최적화했다. 이는 기업들이 고성능 AI 도입에 따르는 막대한 인프라 비용 부담을 획기적으로 줄일 수 있음을 의미한다.
LG CNS는 이번에 개발한 초대형·경량형 모델과 LG AI연구원의 ‘엑사원(EXAONE)’을 아우르는 LLM 라인업을 통해 고객 맞춤형 에이전틱 AI 서비스를 제공할 계획이다.
김태훈 LG CNS AI클라우드사업부장(전무)은 “차별화된 AI 역량과 경쟁력을 바탕으로 고객의 비즈니스에 특화된 에이전틱 AI 서비스를 제공하고, 고객의 AX(AI 전환)를 선도하는 최고의 파트너로 자리매김할 것”이라고 밝혔다.
댓글 더보기