IT

"AI모델 노트북 도입 가능"…IT업계, 경량화 시도에 박차

기자정보, 기사등록일
이석훈 기자
2023-05-10 14:55:35

데이터 양자화로 개인용 PC에 구축 가능

업계 관계자 "B2B 서비스와 경량화 추세는 부적합"

자료사진[사진=게티이미지뱅크]

[이코노믹데일리] 오픈소스(OSS·소스 코드를 인터넷에서 무상으로 공개할 수 있도록 한 소프트웨어)를 기반으로 한 경량급 인공지능(AI) 활용에 관심이 쏠리고 있다. 기존 초거대 AI가 지닌 단점인 효율성과 휴대성을 보완할 대체재가 될 수 있다는 이유에서다.

10일 정보통신기술(ICT)업계에 따르면 공개된 AI모델을 활용해 데이터 양자화 처리로 경량화한 AI모델을 랩톱이나 개인용 PC에 구축하는 개발자들의 시도가 잇따르고 있다.

지난 3월 '노트북으로 GPT 맛보기' 경진대회를 열었던 AI 기업 마인즈앤컴퍼니는 GPT-3 기반 한국어 언어 생성 모델인 코GPT를 경량화해 참가자들이 자신의 랩톱에 AI 모델을 설치해 실력을 겨루도록 했다.

대표적인 경량 AI 모델은 메타의 라마(LLaMA)로 알려져 있다. 라마를 기반으로 한 경량급 생성형 AI는 PC는 물론 스마트폰에서 AI를 실행할 수 있을 정도로 데이터 학습량과 속도를 줄였다는 평가를 받는다.

라마는 영어 버전만 가능했지만, 최근 국내 AI 개발자들이 한국어용 오픈소스를 활용한 한국어 경량 AI를 내놓고 있다. 성능이 나쁘지 않다는 평가인데, 한국어 기반 오픈소스 거대언어모델(LLM) '폴리글랏'이 대표적이다.

이처럼 상용화 시도가 지속적으로 이뤄지고 있지만, 실제 상용화 단계가 가능할지 회의하는 입장도 제기된다.

업계관계자는 "업체마다 사정은 다르겠지만, B2B(Business to Busines·기업 대 기업) 서비스가 중심인 회사와 경량화 추세는 맞지 않다"며 "상용화 시도가 가능한 업체는 제한적일 것"이라고 밝혔다.

한편, 구글·마이크로소프트·오픈AI 등 해외 빅테크 7개 사가 자사 AI 알고리즘을 대중에 공개하고 미국 정부가 제정한 지침에 부합하는지 평가받겠다고 밝힘에 따라 이들 알고리즘을 활용해 국내 AI 업계 발전에 가속이 붙을지도 주목된다.



0개의 댓글
0 / 300
댓글 더보기
대한통운
NH투자증
LX
KB증권
e편한세상
SK하이닉스
종근당
롯데캐슬
한국유나이티드
미래에셋
DB
kb금융그룹
신한은행
KB금융그룹
여신금융협회
우리은행
KB국민은행
신한금융
하나금융그룹
신한금융지주
NH투자증권
한화
DB손해보험
다음
이전
댓글을 삭제 하시겠습니까?
닫기
로그인 후 댓글작성이 가능합니다.
로그인 하시겠습니까?
닫기
기사 이미지 확대 보기
닫기