
10일 SK하이닉스에 따르면 네이버클라우드와 협업해 실제 AI 서비스 환경에서 차세대 AI 메모리, 스토리지 제품에 대한 성능 평가와 최적화를 추진한다.
이번 협력을 통해 SK하이닉스는 네이버클라우드의 대규모 데이터센터 인프라에서 컴퓨트익스프레스링크(CXL)과 프로세싱인메모리(PIM) 등 자사의 AI 특화 제품군을 다양한 워크로드 조건에서 실시간으로 검증하고 성능을 극대화할 방침이다.
최근 생성형 AI 서비스가 확산하면서 AI 추론 과정에서 처리되는 토큰 사용량과 비용이 증가하고 있다. 토큰은 AI가 정보를 처리하기 위한 데이터의 최소 단위다.
이에 따라 메모리의 대역폭과 용량에 대한 요구뿐만 아니라 데이터센터에 적용된 메모리 등 하드웨어와 소프트웨어 간 최적화가 AI 서비스의 경쟁력을 좌우하는 핵심 차별화 요소로 대두되고 있다.
안현 SK하이닉스 개발총괄 사장(CDO)은 "실제 상용 환경에서의 엄격한 검증을 거쳐 글로벌 AI 생태계가 요구하는 최고 수준의 메모리 설루션을 제공할 것"이라며 "AI 메모리 선도 기업의 위상을 공고히 하고 글로벌 클라우드서비스제공사(CSP) 고객들과의 기술 파트너십도 적극 확대해 나갈 것"이라고 말했다.