최신기사
-
-
-
-
-
-
스퀴즈비츠, 거대 언어 모델 서빙 최적화 솔루션 '핏츠 온 칩스' 출시
AI 경량화 및 최적화 전문 스타트업 스퀴즈비츠가 대형 언어 모델(LLM) 서빙을 효율적으로 지원하는 맞춤형 솔루션 ‘핏츠 온 칩스(Fits on Chips)’를 출시했다고 3일 밝혔다. 이번 솔루션은 LLM 서빙 과정에서 시간과 비용을 획기적으로 절감하고 다양한 하드웨어와의 호환성을 확장하는 데 초점을 맞췄다. 핏츠 온 칩스는 모델 선택부터 서빙 설정, 성능 평가, 배포까지 LLM 서빙에 필요한 모든 과정을 단순화하고 최적화한다. 오픈소스 라이브러리인 허깅페이스와 연동해 다양한 LLM 모델을 쉽게 통합할 수 있으며 이를 통해 최적의 서빙 설정을 빠르게 찾아낸다. 스퀴즈비츠는 기존 엔지니어가 30시간 이상 소요하던 작업 시간을 3시간 내로 단축하고, 비용도 절반 수준으로 줄일 수 있다. 김형준 스퀴즈비츠 대표는 “누구나 쉽게 LLM 서빙을 시뮬레이션하고 분석할 수 있도록 설계된 제품”이라며 “LLM 서비스 기업들의 성능 최적화와 비용 절감에 기여하겠다”고 강조했다. 스퀴즈비츠는 이번 솔루션을 통해 엔비디아 GPU와 인텔 가우디를 비롯한 다양한 하드웨어에서 LLM 서빙이 가능하도록 지원 범위를 확대했다. 특히 인텔, 네이버와 협력해 인텔의 가우디에서 LLM을 최적화하는 프로젝트를 진행 중이다. 이를 기반으로 사용자가 하드웨어별 비용과 속도를 비교 분석해 최적의 옵션을 선택할 수 있도록 한다는 방침이다. 또한 TensorRT-LLM 및 vLLM과 같은 다양한 프레임워크를 비교 분석할 수 있는 기능도 포함됐다. 이를 통해 사용자는 최적화된 서빙 환경을 구축해 인프라의 효율성을 극대화할 수 있다. 스퀴즈비츠는 핏츠 온 칩스를 AMD, 아마존, 구글 등의 하드웨어로 지원 범위를 넓히고, AI Agent와의 연동 기능도 추가할 계획이다. 김형준 대표는 “다양한 기술 개발을 통해 AI 서비스 기업들이 혁신적인 성능을 발휘할 수 있도록 돕겠다”고 말했다. 한편 스퀴즈비츠는 2022년 설립 이후 AI 경량화와 최적화 기술을 바탕으로 주요 학회에 70편 이상의 논문을 발표했으며, 카카오벤처스, 네이버 D2SF, 삼성넥스트 등으로부터 투자를 유치했다.
2024-12-03 09:22:08
-
-
-
-
-
대한항공·아시아나 합병 '큰산' 넘었다... 숙제도 남았다
4년간 이어지던 대한항공과 아시아나항공의 합병절차가 사실상 마무리 됐다. 유럽연합집행위원회(EC)가 지난달 28일(현지시간) 합병을 최종 승인하면서다. 그러나 끝날 때까지 끝난 게 아니라는 게 항공업계의 설명이다. 복잡하고도 길었던 합병 과정만큼 최종 통합까지 남은 숙제도 산적해 있기 때문이다. 두 대형 항공사의 합병은 대한항공이 지난 2020년 11월 아시아나항공 인수를 밝히면서 시작됐다. 2021년부터 튀르키예에 이어 대만, 말레이시아, 베트남, 싱가포르, 한국, 호주, 중국, 영국 등의 순으로 허가를 받으며 합병 작업은 빠르게 진행되는 듯 했다. 하지만 EC가 지난 2월 독점 가능성 등을 지적하며 아시아나항공 화물기 사업부문 분리 매각, 여객 부문에서 유럽 내 중복 4개 노선에 신규 항공사 진입을 합병 선행 조건으로 제시하면서 제동을 걸었다. 대한항공은 여객 노선과 아시아나 화물부문을 각각 티웨이항공, 에어인천에 양도하면서 지적된 부분을 해소했다. 이제 EC의 승인으로 미국 법무부(DOJ) 결정만 남겨두게 됐다. 항공업계에선 미 법무부가 다른 나라와 달리 두 회사의 합병에 대해 DOJ가 독과점 소송을 제기하지 않으면 승인한 것으로 간주하는 만큼 두 대형 항공사의 합병 절차가 끝났다고 보고 있다. DOJ 승인까지 마무리되면 아시아나항공은 대한항공의 자회사 지위로 2년간 독립 운영 기간을 거친 뒤 대한항공에 흡수 통합된다. 합병절차는 끝나도 아시아나항공이 대한항공에 완벽히 흡수되기까지 과제는 남아 있다. 먼저 '저비용 항공사(LCC) 통합 작업'이다. 현재 대한항공은 진에어, 아시아나항공은 에어부산과 에어서울을 각각 자회사로 두고 있다. 두 대형 항공사의 합병으로 이들 자회사가 다 모이면 국내 최대 규모의 LCC 연합체가 탄생하게 된다. 진에어·에어서울·에어부산 3사의 지난해 매출을 합하면 2조4785억원으로 국내 1등 LCC인 제주항공(1조7240억원)을 훌쩍 뛰어넘게 된다. 소비자의 관심이 모인 건 '마일리지'다. 합병 행정절차가 마무리되지 않은 상황에서 두 항공사는 명확한 마일리지 통합비율 계획을 공개하지 않고 있다. 마일리지 통합도 2년 뒤 대한항공이 아시아나항공을 완전히 흡수한 때부터 이뤄질 예정이다. 그 전까지는 마일리지가 각각 유지·관리된다. '고용 유지' 문제도 해결해야 할 과제다. 대한항공은 노동조합의 큰 우려를 샀던 직원 고용 유지 문제는 인위적인 인력 구조조정 없이 이뤄질 것이라 전했다. 향후 통합 항공사의 사업량이 늘어날 것을 감안하면 필요한 인력도 자연스럽게 늘어나기 때문에 인력 통합 운영에는 차질이 없을 것으로 보고 있다. 대한항공 관계자는 "마일리지는 모든 행정 절차가 마무리된 후 6개월 내 기준이 마련될 것"이라며 "합병의 마지막 단계인 행정적 절차가 남아 있기 때문에 아직은 아시아나항공의 정확한 상황을 알 수 없고 이에 정해진 사안도 없다"고 말했다.
2024-12-03 07:00:00
-