2025.08.03 일요일
검색
'70억 파라미터' 검색결과
기간검색
-
~
검색영역
검색어
-
SKT, 자체 개발 AI 'A.X 3.1 라이트' 오픈소스 공개…기술 독립 가속 [이코노믹데일리] SK텔레콤이 자체 기술력으로 처음부터 설계하고 학습시킨 인공지능(AI) 언어모델을 오픈소스로 전격 공개하며 국내 AI 생태계 주도권 확보와 기술 독립을 향한 강력한 의지를 드러냈다. 이는 외산 모델에 대한 의존도를 낮추고 한국적 특수성에 최적화된 AI 기술로 국가 경쟁력 제고에 기여하겠다는 전략적 행보다. SK텔레콤은 11일, 독자적으로 구축한 70억 파라미터(매개변수) 규모의 경량 거대언어모델(LLM) ‘A.X(에이닷 엑스) 3.1 라이트’를 오픈소스 커뮤니티 허깅페이스에 공개했다고 밝혔다. 이번 모델의 핵심은 ‘프롬 스크래치’ 방식으로 개발되었다는 점이다. 이는 외산 모델을 기반으로 한국어 데이터를 추가 학습시키는 튜닝 방식이 아닌 모델의 구조 설계부터 1조 6500억 개 토큰에 달하는 데이터 구축, 학습까지 모든 단계를 SK텔레콤이 직접 수행했음을 의미한다. ‘A.X 3.1 라이트’는 경량 모델임에도 불구하고 뛰어난 성능과 효율성을 자랑한다. 대표적인 한국어 능력 평가 벤치마크인 KMMLU와 CLIcK에서 카카오, LG AI연구원 등의 동급 모델보다 우수한 성능을 기록했다. 또한 GPT-4o 대비 약 33% 적은 토큰을 사용하면서도 높은 성능을 발휘해 통상 4장 이상의 GPU가 필요한 동급 모델을 단 2장의 GPU만으로 구동할 수 있다. 이는 AI 도입에 따르는 기업의 인프라 비용 부담을 획기적으로 낮출 수 있는 강력한 장점이다. SK텔레콤은 이번 공개를 시작으로 AI 사업에 ‘투 트랙’ 전략을 본격화한다. A.X 3 계열은 이번처럼 ‘프롬 스크래치’ 방식으로 개발해 데이터 주권이 중요한 ‘소버린 AI’ 시장을 공략하고 A.X 4 계열은 기존 모델을 대규모로 추가 학습(CPT)하는 방식을 통해 특정 영역에 최적화된 성능과 효율을 극대화하는 모델로 발전시킨다. 이를 통해 국내 기업들이 각자의 사업 환경에 맞춰 최적의 AI를 선택할 수 있도록 다양한 옵션을 제공한다는 방침이다. 나아가 SK텔레콤은 확보된 기술력을 바탕으로 정부가 추진하는 ‘독자 AI 파운데이션 모델 개발사업’에도 적극 참여할 계획이다. 김태윤 SK텔레콤 파운데이션 모델 담당은 “꾸준히 쌓아 온 한국형 LLM 개발 역량을 바탕으로 AI 생태계 자립성을 높이고 국가 AI 경쟁력 제고에 기여하도록 노력할 것”이라고 밝혔다.2025-07-11 16:31:31
-
LG CNS, 'GPT-4o 넘는 추론 AI'로 소버린 AI 시장 판도 바꾼다 [이코노믹데일리] LG CNS가 글로벌 AI 유니콘 ‘코히어(Cohere)’와 손잡고 추론 능력에서 현존 최상위 모델을 능가하는 1110억 파라미터 규모의 초거대 언어모델(LLM)을 공동 개발했다. 이는 기업이 외부 클라우드에 의존하지 않고 자체 인프라에서 데이터와 AI 주권을 확보하는 ‘소버린 AI’ 시장을 본격 공략하기 위한 강력한 무기가 될 전망이다. LG CNS는 10일 코히어의 기업용 LLM ‘커맨드’ 모델에 자사의 IT 전문성과 AI 기술력을 결합해 만든 추론형 LLM을 공개했다. 불과 두 달 전 70억 파라미터 경량 모델을 출시한 데 이어 초대형 모델까지 연이어 선보이며 AI 기술 포트폴리오를 빠르게 완성하는 모습이다. 이번에 공개된 LLM은 AI가 복잡한 문제에 대해 논리적으로 해답을 도출하는 능력이 뛰어난 모델로 AI가 스스로 판단하고 작업을 수행하는 ‘에이전틱 AI’ 구현의 핵심 기술이다. 특히 온프레미스 방식으로 제공돼 금융, 공공 등 민감 데이터를 다루는 기업들이 데이터 외부 유출 걱정 없이 안전하게 AI를 활용할 수 있는 길을 열었다. 성능은 놀라운 수준이다. LG CNS의 자체 테스트 결과 대학 수준의 수학 문제 해결 능력을 검증하는 ‘Math500’과 미국 수학 경시대회 문제를 활용하는 ‘AIME 2024’ 벤치마크에서 한국어와 영어 모두 GPT-4o, 클로드 3.7 소넷 등 글로벌 최상위 LLM보다 높은 점수를 기록했다. 한국어 종합 이해 능력을 평가하는 ‘KMMLU’ 테스트에서도 온프레미스 방식 LLM 중 현존 최고 수준(SOTA)의 성능을 보였다. 더욱 주목할 점은 효율성이다. LG CNS는 모델 압축 기술을 통해 통상 4장 이상의 그래픽처리장치(GPU)가 필요한 1000억 파라미터급 LLM을 단 2장의 GPU만으로 구동 가능하도록 최적화했다. 이는 기업들이 고성능 AI 도입에 따르는 막대한 인프라 비용 부담을 획기적으로 줄일 수 있음을 의미한다. LG CNS는 이번에 개발한 초대형·경량형 모델과 LG AI연구원의 ‘엑사원(EXAONE)’을 아우르는 LLM 라인업을 통해 고객 맞춤형 에이전틱 AI 서비스를 제공할 계획이다. 김태훈 LG CNS AI클라우드사업부장(전무)은 “차별화된 AI 역량과 경쟁력을 바탕으로 고객의 비즈니스에 특화된 에이전틱 AI 서비스를 제공하고, 고객의 AX(AI 전환)를 선도하는 최고의 파트너로 자리매김할 것”이라고 밝혔다.2025-07-10 10:49:34
많이 본 뉴스
영상
Youtube 바로가기
![[기자수첩] 지시로 SPC 산재 막을 수 없다…진짜 실행력 증명돼야](https://image.ajunews.com/content/image/2025/07/28/20250728160448220653_518_323.jpg)