검색결과 총 173건
-
스퀴즈비츠, 거대 언어 모델 서빙 최적화 솔루션 '핏츠 온 칩스' 출시
[이코노믹데일리] AI 경량화 및 최적화 전문 스타트업 스퀴즈비츠가 대형 언어 모델(LLM) 서빙을 효율적으로 지원하는 맞춤형 솔루션 ‘핏츠 온 칩스(Fits on Chips)’를 출시했다고 3일 밝혔다. 이번 솔루션은 LLM 서빙 과정에서 시간과 비용을 획기적으로 절감하고 다양한 하드웨어와의 호환성을 확장하는 데 초점을 맞췄다. 핏츠 온 칩스는 모델 선택부터 서빙 설정, 성능 평가, 배포까지 LLM 서빙에 필요한 모든 과정을 단순화하고 최적화한다. 오픈소스 라이브러리인 허깅페이스와 연동해 다양한 LLM 모델을 쉽게 통합할 수 있으며 이를 통해 최적의 서빙 설정을 빠르게 찾아낸다. 스퀴즈비츠는 기존 엔지니어가 30시간 이상 소요하던 작업 시간을 3시간 내로 단축하고, 비용도 절반 수준으로 줄일 수 있다. 김형준 스퀴즈비츠 대표는 “누구나 쉽게 LLM 서빙을 시뮬레이션하고 분석할 수 있도록 설계된 제품”이라며 “LLM 서비스 기업들의 성능 최적화와 비용 절감에 기여하겠다”고 강조했다. 스퀴즈비츠는 이번 솔루션을 통해 엔비디아 GPU와 인텔 가우디를 비롯한 다양한 하드웨어에서 LLM 서빙이 가능하도록 지원 범위를 확대했다. 특히 인텔, 네이버와 협력해 인텔의 가우디에서 LLM을 최적화하는 프로젝트를 진행 중이다. 이를 기반으로 사용자가 하드웨어별 비용과 속도를 비교 분석해 최적의 옵션을 선택할 수 있도록 한다는 방침이다. 또한 TensorRT-LLM 및 vLLM과 같은 다양한 프레임워크를 비교 분석할 수 있는 기능도 포함됐다. 이를 통해 사용자는 최적화된 서빙 환경을 구축해 인프라의 효율성을 극대화할 수 있다. 스퀴즈비츠는 핏츠 온 칩스를 AMD, 아마존, 구글 등의 하드웨어로 지원 범위를 넓히고, AI Agent와의 연동 기능도 추가할 계획이다. 김형준 대표는 “다양한 기술 개발을 통해 AI 서비스 기업들이 혁신적인 성능을 발휘할 수 있도록 돕겠다”고 말했다. 한편 스퀴즈비츠는 2022년 설립 이후 AI 경량화와 최적화 기술을 바탕으로 주요 학회에 70편 이상의 논문을 발표했으며, 카카오벤처스, 네이버 D2SF, 삼성넥스트 등으로부터 투자를 유치했다.
2024-12-03 09:22:08
-
-
겨울방학에 투자하고 장학금까지…키움證, 대학생 모의투자대회 개최
※ 고금리·고환율·고물가 삼중고로 한푼 두푼 아끼는 것이 간절한 지금, '김광미의 光테크'에서 여러분의 재테크가 빛날 수 있도록 투자 방법을 알차게 모았습니다. 한 주 동안 전해진 알짜배기 중에서도 알짜배기 소식을 전해드립니다. [편집자주] [이코노믹데일리] 겨울방학 기간을 맞아 키움증권이 투자 경험을 기르고 장학금까지 받을 수 있는 대학생 모의투자대회를 마련한다. 1일 키움증권에 따르면 내달 23일부터 내년 1월 24일까지 겨울방학을 맞아 국내&해외주식 대학생 모의투자대회를 연다. 키움증권은 올바른 투자 문화를 확산한다는 취지로 지난 2007년부터 매년 여름·겨울 방학에 대학생 모의투자대회를 운영해 왔다. 올해로 36회째를 맞는 이번 모의투자대회 참가 대상은 대학 재학생, 휴학생, 대학원생이다. 참가자들은 일정액의 가상 사이버머니를 지급받아 대회에 참여할 수 있다. 국내 주식의 경우 5000만원, 해외 주식의 경우 미국은 10만 달러, 중국은 60만 위안화의 기초 자산이 부여된다. 수상 요건은 대회 기간 중 △2억5000만원 이상 매매 △5종목 이상 매매 △5영업일 이상 매매를 하며 발생한 수익률에 달려 있다. 이번 대회에서는 수상자를 이전 대회와 달리 200위까지로 확대, 최대 400명 학생에게 총 2350만원 장학금과 상장이 수여될 예정이다. 구체적으로 국내·해외리그 수상자에게 △1위 장학금 200만원, 인턴십 기회 △2위 장학금 100만원, 인턴십 기회 △3위 장학금 50만원 △4위 장학금 30만원 △5위 장학금 20만원 △6~100위 장학금 5만원 △101~200위 장학금 3만원을 지급한다. 리그별 중복 수상도 인정한다. 이와 함께 모의투자대회 참가자들에게 다양한 선물이 제공된다. 먼저 대회 참가자 전원에게 소수점 미국 주식(구글, 나이키, 아마존, 애플, 코카콜라 등)을 추첨해 0.1, 0.05, 0.01주 중 랜덤으로 제공한다. 또 △국내 혹은 해외 주식을 1회 이상 거래한 참가자 전원을 대상으로 빽다방 아메리카노 쿠폰을 △국내와 해외 주식 모두 1회 이상 거래시 스타벅스 카페라떼 쿠폰을 모두에게 증정한다. 이밖에도 모의투자대회 사이트를 사회관계망서비스(SNS)에 공유한 선착순 1000명에게는 스타벅스 아메리카노 쿠폰을 지급한다. 같은 대학 친구에게 대회 링크를 공유해 그 친구가 이번 대회에 참가할 경우 네이버페이 5000원 포인트를 지급하는 이벤트도 있다. 대회 참가자는 국내와 해외주식 리그에 동시 참여하게 된다. 5주간 진행되는 모의투자대회의 신청은 내년 1월 19일까지 받는다. 참가 신청은 키움증권 홈페이지나 홈트레이딩시스템(HTS) '영웅문4', 모바일트레이딩시스템(MTS) '영웅문S#'에서 신청할 수 있다. 모의투자대회에 대한 자세한 내용은 홈페이지나 키움금융센터에서 확인 가능하다.
2024-12-01 06:00:00
-
-
-
-
-
-
-
구글 클라우드, 제미나이 한국어 서비스 본격 확대
[이코노믹데일리] 구글 클라우드가 구글 워크스페이스를 위한 인공지능(AI) 기반 도구 제미나이(Gemini)의 사이드 패널에서 한국어를 포함한 7개 언어를 추가 지원한다고 22일 밝혔다. 이를 통해 전 세계 10억 명 이상의 사용자가 모국어로 구글 워크스페이스 서비스를 활용할 수 있게 된다. 이번에 추가된 언어는 한국어, 독일어, 이탈리아어, 일본어, 포르투갈어, 스페인어, 프랑스어다. 제미나이는 구글 닥스(Docs), 시트(Sheets), 드라이브(Drive), 지메일(Gmail) 등 다양한 워크스페이스 제품군의 사이드 패널에 통합되어 있다. 이를 활용하면 문서 작성, 데이터 요약, 이메일 관리 등 다양한 작업을 더욱 편리하게 수행할 수 있다. 사용자는 제미나이를 통해 소셜 미디어 문구 작성 이메일 요약, 스프레드시트 템플릿 생성 등 일상적인 업무를 간단히 처리할 수 있다. 또한 제미나이는 마케팅 문구 생성과 같은 창의적인 작업에도 도움을 준다. 나투라(Natura)의 레나타 마르케스 최고정보책임자(CIO)는 “제미나이를 통해 새로운 프로젝트를 시작할 역량이 크게 향상되었다”며 “우리 직원들이 모두 자신만의 AI 에이전트로 업무 능력을 높일 수 있기를 기대한다”고 말했다. 구글 클라우드는 제미나이를 통해 언어 장벽을 해소하는 데도 기여하고 있다. 예를 들어 구글 미트(Google Meet)에서는 69개 언어로 번역 자막을 제공하며 앞으로 구글 챗(Chat) 메시지의 자동 번역 기능도 추가될 예정이다. 또한 제미나이는 사용자 요청에 따라 특정 주제를 조사하거나 아이디어를 브레인스토밍하는 데도 유용하다. 영업팀은 드라이브에 저장된 문서를 분석해 중요한 정보를 요약받을 수 있으며 마케팅팀은 소셜 미디어용 캠페인 문구를 손쉽게 생성할 수 있다. 이번 언어 지원 확장은 구글 클라우드가 한국을 포함한 전 세계 고객을 위해 제미나이의 기능을 더욱 강화하려는 노력의 일환이다. 구글 클라우드는 내년에 더 많은 언어를 추가 지원할 예정이며 현재 기업 고객을 대상으로 제미나이의 60일 무료 체험판을 제공하고 있다. 구글 클라우드 관계자는 “워크스페이스 제미나이를 통해 사용자가 선호하는 언어로 업무 효율성을 높일 수 있도록 지속적으로 지원할 것”이라며 “AI 기술을 기반으로 글로벌 팀 간의 소통을 혁신적으로 개선하겠다”고 밝혔다.
2024-11-22 09:53:42
-
-
-
-
-