2025.05.01 목요일
검색
'엔비디아 GPU' 검색결과
기간검색
-
~
검색영역
검색어
-
KT클라우드, AI 파운드리 본격화…기업 디지털 전환 새 대안 될까 [이코노믹데일리] KT클라우드가 업스테이지, 디노티시아, 폴라리스오피스, 리벨리온과 손잡고 ‘AI 파운드리’ 사업을 본격 추진한다. 생성형 AI 모델, RAG(검색 기반 생성), 추론용 인프라를 통합 제공하는 플랫폼을 통해 전 산업의 AI 활용을 가속화하며 기업 디지털 전환의 새로운 대안으로 주목받고 있다. 지난 17일 kt cloud 본사에서 공용준 본부장, 권순일 업스테이지 부사장, 노홍찬 디노티시아 CDO, 이해석 폴라리스오피스 부사장, 오진욱 리벨리온 CTO 등이 참석한 가운데 AI 파운드리 협약식을 열었다. 공용준 kt cloud 본부장은 “kt cloud는 업스테이지, 디노티시아, 폴라리스오피스, 리벨리온와 협력을 시작으로 AI 개방형 플랫폼인 AI 파운드리 사업을 본격화한다”며 “향후 수준 높은 AI 역량을 보유한 다양한 파트너사들과 협력을 지속 확대하며 고객이 실제로 필요로 하는 AI 서비스를 제공하는 하나의 AI 생태계를 만들어 나갈 것”이라고 말했다. 파트너십 기반 통합 플랫폼…기업 AI 도입 문턱 낮춰 KT클라우드의 AI 파운드리는 △폴라리스오피스와 업스테이지의 문서 파싱 및 OCR(광학문자판독) 기술 △업스테이지의 임베딩(문맥 기반 데이터 압축) △디노티시아의 벡터DB △Llama 4 Scout·Mistral 7B·Solar 등 최신 AI 모델 △엔비디아 GPU 및 리벨리온 NPU 기반의 추론 인프라를 통합 제공한다. 기업은 이 플랫폼을 활용해 자체 데이터를 정제하고 신뢰도 높은 AI 시스템을 빠르게 구축할 수 있다. 사용량 기반 과금 방식으로 초기 비용 부담을 줄이면서도, 다양한 산업군에서 AI 기반 업무 자동화와 맞춤형 서비스 개발이 가능하다. 예를 들어 금융사는 매일 수천 건의 투자 리포트를 자동 분석하거나, 지식 기반 상담 시스템을 구축하는 데 AI 파운드리를 활용할 수 있다. 고객 참여형 파일럿 도입…AI 생태계 확장 속도 가속화 전망 KT클라우드는 올 2분기 중 대기업과 스타트업을 대상으로 고객 참여형 파일럿 프로그램을 무상으로 제공할 계획이다. 이를 통해 기업들이 AI 프로토타입 모델을 직접 개발·검증할 수 있도록 지원하고, 기술 도입 초기의 불확실성과 부담을 줄일 수 있을 것으로 기대된다. 전문가들은 KT클라우드의 AI 파운드리가 단순한 솔루션 공급을 넘어 ‘AI 전용 플랫폼’으로 자리매김할 가능성이 크다고 본다. RAG, AI 모델, 인프라를 원스톱으로 제공함으로써 SI(시스템 통합) 비용과 개발 기간을 동시에 절감할 수 있기 때문이다. 다수 기업이 공통 인프라를 활용하게 되면 생태계 확장도 더욱 빨라질 것으로 예상된다. 향후 KT클라우드는 파운드리 참여 파트너사를 추가 유치해 AI 모델의 다양성과 기술 고도화를 추진할 방침이다. 또한 고객 수요에 맞춘 AI 솔루션 라이브러리를 정교하게 구성하고, 산업별 특화형 서비스를 출시함으로써 국내 AI 시장의 경쟁 구도에도 변화를 불러올 것으로 보인다.2025-04-18 16:41:34
-
kt cloud, GPUaaS에 엔비디아 H200 GPU 탑재… 고성능 AI 인프라 '최적화' [이코노믹데일리] kt cloud가 GPUaaS(GPU as a Service)에 최신 엔비디아 H200 GPU를 도입하며 고객에게 더욱 강력하고 효율적인 고성능 AI 인프라를 제공한다고 24일 밝혔다. 이번 H200 GPU 도입은 kt cloud가 AI 인프라 시장에서 기술 경쟁력을 한층 강화하고 빠르게 변화하는 고객의 수요에 발맞추기 위한 행보로 풀이된다. kt cloud는 공공기관과 AI 스타트업 등 AI 인프라를 필요로 하는 다양한 고객층을 대상으로 사용량 기반의 GPUaaS를 제공하고 있다. 특히 단기간에 고성능 GPU 자원이 필요한 학습 영역에 특화된 ‘AI Train’과 상시적인 GPU 자원 공급이 중요한 추론 영역에 최적화된 ‘AI SERV’ 등 엔비디아 GPU 기반의 다양한 상품 라인업을 구축하여 고객 맞춤형 서비스를 제공해왔다. 이번에 H200 GPU가 적용되는 서비스는 ‘AI Train’이다. kt cloud는 기존 H100 GPU 중심으로 운영되던 ‘AI Train’ 서비스에 H200 GPU를 추가함으로써 AI 인프라 성능을 대폭 향상시킨다는 계획이다. 이미 다수의 고객 레퍼런스를 통해 대규모 GPU 노드 클러스터링 및 동적 할당 제어 기능을 검증받은 ‘AI Train’은 H200 GPU 도입을 통해 더욱 강력한 AI 학습 환경을 제공할 수 있게 되었다. 엔비디아 H200 GPU는 최신 호퍼(Hopper) 아키텍처 기반으로 개발된 최첨단 GPU로 AI 및 고성능 컴퓨팅(HPC) 워크로드 처리 성능을 극대화하는 데 초점을 맞춘 제품이다. H200 GPU는 이전 모델인 H100 대비 연산 처리 능력과 전력 효율성이 향상되었으며 메모리 대역폭 또한 크게 확장되어 AI 학습 및 추론 환경을 획기적으로 개선할 것으로 기대된다. kt cloud는 GPU뿐만 아니라 NPU(Neural Processing Unit) 기반 서비스로도 영역을 확장하고 있다. 리벨리온과의 협력을 통해 추론 전용 인프라 서비스인 ‘AI SERV NPU’를 제공 중이며 올해 5월 출시 예정인 리벨리온의 차세대 NPU ‘아톰 맥스’를 ‘AI SERV NPU’에 적용하여 소형언어모델(sLM) 성능 검증을 진행할 예정이다. 더불어 미국 반도체 설계 기업 암페어(Ampere)와 AI 반도체 사업 협력을 논의하는 등 다양한 업계 파트너들과의 협력을 통해 AI 사업 영역을 지속적으로 확장해 나갈 계획이다. 한편 kt cloud는 공공 분야 AI 시장 공략에도 박차를 가한다. 올 하반기 공공기관 대상 추론 전용 상품에 대한 CSAP(클라우드 보안 인증) 획득을 추진하여 공공 분야의 AI 수요 증가에 적극적으로 대응한다는 방침이다. 공용준 kt cloud Cloud본부장은 “이번 엔비디아 H200 GPU 도입은 kt cloud가 글로벌 수준의 AI 인프라 경쟁력을 확보하는 중요한 계기가 될 것”이라며 “향후 AI 인프라뿐만 아니라 AI Ops 등 AI 서비스 포트폴리오를 지속적으로 강화하고 기술 경쟁력 향상을 통해 다양한 고객의 니즈를 충족시켜 나가겠다”고 밝혔다.2025-02-24 10:22:28
-
SK텔레콤, "통화 요약 AI, 자체 개발 '에이닷X'로 GPT 등 완전 대체" 선언 [이코노믹데일리] SK텔레콤이 자체 개발한 인공지능(AI) 모델 '에이닷X'로 '에이닷 전화'의 통화 요약 기능을 100% 대체했다고 19일 밝혔다. 이는 기존에 사용하던 GPT 등 외부 AI 모델을 완전히 자체 기술로 전환한 것으로 SK텔레콤은 이를 통해 비용 절감과 서비스 성능 향상을 동시에 이루었다고 강조했다. 연합뉴스에 따르면 김태윤 SK텔레콤 파운데이션 모델 담당(부사장)은 "하루 1000만 건에 달하는 통화 요약 서비스에 자체 개발 AI 모델을 적용함으로써 해외 AI 모델 개발사에 지불하던 API(애플리케이션 프로그래밍 인터페이스) 비용을 상당 부분 절감하게 됐다"고 설명했다. SK텔레콤은 이미 오래전부터 자체 AI 모델 개발에 힘써왔다. 2018년 구글이 '버트(BERT)'를 공개했을 때부터 한국어 특화 AI 모델 개발에 착수, '코버트(KoBERT)'와 'KoGPT-2'를 거쳐 현재의 '에이닷X'에 이르렀다. '에이닷X'는 SK텔레콤의 슈퍼컴퓨터 '타이탄'을 활용해 3년간 학습 및 고도화 과정을 거쳤다. '타이탄'은 엔비디아 GPU A100 1천500여 장으로 구축된 강력한 컴퓨팅 인프라다. 초기에는 '멀티 LLM 에이전트' 전략에 따라 '에이닷X'와 함께 오픈AI의 챗GPT, 앤트로픽의 클로드 등 다양한 AI 모델을 혼용했으나, 1년에 걸친 기술 고도화 끝에 '에이닷X' 단독으로 통화 요약 기능을 제공하게 되었다. 김 부사장은 "국내 단일 LLM 서비스 중 가장 많은 트래픽을 처리하는 에이닷 전화 통화 요약 서비스에서 자체 모델만 사용함으로써 비용 절감은 물론 성능 향상이라는 두 마리 토끼를 잡았다"고 강조했다. '에이닷X'는 이제 SK그룹 전체의 기본 AI 모델로 자리매김하고 있다. SK텔레콤은 '에이닷X'의 활용 범위를 B2B(기업 간 거래), B2G(기업·정부 간 거래) 영역으로 확장하고 있으며 정부 AI 사업 수주에도 잇따라 성공하는 등 외부 시장에서도 경쟁력을 인정받고 있다. SK텔레콤 주도로 설립된 AI R&D 센터는 그룹 내 에너지, 로봇 등 다양한 사업 분야에 '에이닷X'를 기반으로 한 AI 기술을 확산시키는 데 주력하고 있다. 김 부사장은 SK텔레콤의 AI 개발 전략에 대해 "초기에는 해외 모델 개발사와의 협력을 통해 기술력을 확보했지만 이제는 협력과 자강, 즉 자체 기술력 강화에 더욱 집중하는 방향으로 전환하고 있다"고 밝혔다. 그는 "에이닷X를 인간 사고와 유사한 추론 능력을 갖춘 모델로 발전시켜 SK그룹 내 각 사업 영역에서 고차원적인 의사 결정과 연구 개발을 지원하는 데 활용할 계획"이라고 덧붙였다. 이는 '에이닷X'가 단순한 통화 요약 기능을 넘어 그룹의 미래 성장 동력을 발굴하는 핵심 엔진 역할을 할 것임을 예고한다. 궁극적으로 SK텔레콤은 '에이닷X'를 텍스트뿐만 아니라 이미지, 영상 등 다양한 데이터를 이해하고 처리하는 멀티모달 AI 모델로 진화시킨다는 목표를 가지고 있다. 김 부사장은 "현재 문서 이미지를 이해하는 기능을 우선적으로 개발 중이며 연내 사내외 서비스에 적용할 예정"이라고 밝혔다. 또한 "자율주행, 로봇 등 미래 기술 분야에 적용될 멀티모달 모델 개발을 위한 기초 연구도 꾸준히 진행하고 있다"고 덧붙였다. 최근 오픈소스 AI 모델 '딥시크'의 등장으로 촉발된 AI 기술 개방화 흐름에 대해 김 부사장은 "오픈소스 AI의 강력한 커뮤니티와 영향력을 인지하고 있으며 딥시크 모델의 등장은 국내 AI 업계에 중요한 화두를 던졌다"고 평가했다. 그는 "SK텔레콤은 오픈소스 커뮤니티에 기여할지 활용할지 등 모든 가능성을 열어두고 신중하게 검토하고 있다"고 밝혔다. 끝으로 김 부사장은 "최근 딥시크 사태 이후 국내 LLM 기술력이 과소평가받는 경향이 있어 안타까움을 느꼈다"며 "국내에도 뛰어난 AI 기술력을 가진 기업과 전문가들이 많다. 다만 모델 공개에 대한 부담감과 격려보다는 비판적인 시선이 있을 수 있다는 우려 때문에 적극적으로 나서지 못하는 측면이 있다"고 지적했다. 그는 "국내 AI 산업 발전을 위해서는 기술 개발에 대한 격려와 지지가 필요하다"고 강조했다.2025-02-19 08:10:22
-
SK텔레콤, 3분기 영업이익 5천333억원...7.1% 증가 [이코노믹데일리] SK텔레콤이 2024년 3분기 영업이익에서 7.1% 성장하며 전방위적인 사업 영역에서 고른 성장을 기록했다. 특히 AI 기반 서비스 강화와 엔터프라이즈 사업 확장에 힘입어 실적을 개선했다. 6일 SK텔레콤은 3분기 연결 기준으로 매출 4조5321억원, 영업이익 5333억원을 기록했다고 밝혔다. 매출은 전년 대비 2.94% 증가했으며 영업이익은 7.1% 증가한 수치다. 당기순이익은 3280억원으로 0.7% 늘어났다. 별도 기준으로는 매출 3조2032억원, 영업이익 4570억원을 기록했다. 이 같은 성장은 AI와 로밍, 엔터프라이즈 사업의 고른 성장 덕분이다. SK텔레콤은 지난 7월부터 AI와 기업 경쟁력 강화를 위한 체질 개선 작업을 추진하고 있으며 이 효과가 본격적으로 나타나고 있다는 분석이다. SK텔레콤은 데이터센터와 클라우드 사업의 성장을 통해 매출을 증가시켰다. 특히 데이터센터 사업은 신규 데이터센터 가동률 상승으로 매출이 14% 성장했으며 클라우드 사업 역시 수주 증가로 30% 매출 성장을 기록했다. AI 개인비서 서비스인 ‘에이닷’은 9월 기준으로 누적 가입자 550만명을 돌파했으며, 8월에는 서비스 개편 후 한 분기 만에 가입자가 100만명이 증가했다. AI 개인서비스 영역은 T전화와 PC 버전 ‘멀티 LLM 에이전트’를 출시하며 더욱 확장됐다. SK텔레콤의 5G 가입자는 9월 기준으로 1658만명으로 전체 가입자 중 73%가 5G 가입자로 성장했다. 특히 로밍 사업은 전년 대비 23% 증가한 약 136만명의 고객을 기록했다. 로밍 고객을 대상으로 한 차별화된 서비스와 요금제 덕분에 신규 고객을 지속적으로 유치하고 있다. SK텔레콤은 AI 수익 모델 구축을 가속화하고 있으며 빠른 수익화가 가능한 AI 데이터센터와 클라우드 서비스에 집중하고 있다. 서울 가산 데이터센터에 준비 중인 엔비디아 GPU 기반 AI 데이터센터는 12월 개소를 목표로 하고 있으며 구독형 AI 클라우드 서비스도 연내 출시 예정이다. SK텔레콤은 중장기적으로 AI 인프라를 전국 단위로 구축할 계획이다. 지역 거점 AI 데이터센터와 수도권 GPUaaS를 중심으로 기지국에는 에지 AI 기술을 도입 ‘AI 인프라 슈퍼 하이웨이’를 구축하여 AI 생태계를 활성화할 방침이다. 3분기 배당금은 주당 830원으로 확정됐다. SK텔레콤은 AI와 통신 두 가지 핵심 사업 성장을 통해 기업 가치를 키워 나가는 한편 주주환원도 극대화할 계획이다. 김양섭 SKT CFO는 “현재 빠른 수익화가 기대되는 3가지 AI 사업에 회사의 역량을 집중하고 있으며, 통신과 AI, 두 핵심 사업 성장을 통해 지속적으로 기업가치를 키워 나가는 한편 주주환원도 극대화할 수 있도록 노력할 것”이라고 말했다.2024-11-06 11:28:24
많이 본 뉴스
영상
Youtube 바로가기
![[데스크 칼럼] 흥국에 드리운 복귀의 망령…금융 농락 이호진 전 회장에게 경영을 또 맡기겠다고?](https://image.ajunews.com/content/image/2025/04/25/20250425144937563130_518_323.jpg)