2025.06.17 화요일
검색
'허깅페이스' 검색결과
기간검색
-
~
검색영역
검색어
-
"AI 유해성 막는다" 카카오, 안전 검증 모델 '카나나 세이프가드' 공개 [이코노믹데일리] 카카오가 인공지능(AI) 서비스의 안전성과 신뢰성을 검증할 수 있는 AI 가드레일 모델 ‘카나나 세이프가드’를 개발하고 국내 기업 최초로 모델 3종을 오픈소스로 공개한다고 27일 밝혔다. 최근 다양한 생성형 AI 서비스 출시로 유해 콘텐츠 위험성에 대한 사회적 우려가 커짐에 따라 기술적·제도적 장치를 마련한 것이다. 주요 빅테크 기업들도 생성형 AI로 발생 가능한 위험 요소를 감지하는 특화 모델을 운영 중이다. ‘카나나 세이프가드’는 카카오가 자체 개발한 언어모델 ‘카나나’를 기반 기술로 활용했으며 한국어와 한국 문화를 반영한 자체 구축 데이터셋을 통해 한국어에 특화된 성능을 갖췄다. 카카오는 AI 모델의 정밀도와 재현율을 평가하는 F1 스코어를 기준으로 한국어 성능에서 글로벌 모델 이상의 성과를 기록했다고 설명했다. 이번에 오픈소스로 공개된 모델은 리스크 유형에 따라 유해성과 위험성을 효과적으로 탐지할 수 있는 3종이다. △사용자의 발화 또는 AI 답변에서 증오, 괴롭힘, 성적 콘텐츠 등에 대한 유해성을 탐지하는 ‘카나나 세이프가드’ △개인정보나 지식재산권 등 법적 측면에서 주의가 필요한 요청을 탐지하는 ‘카나나 세이프가드 사이렌’ △AI 서비스를 악용하려는 사용자 공격을 탐지하는 ‘카나나 세이프가드 프롬프트’이며 모두 허깅페이스를 통해 다운로드 가능하다. 카카오는 안전한 AI 생태계 구축에 기여하고자 해당 모델에 상업적 이용과 수정·재배포 등이 자유로운 아파치 2.0 라이선스를 적용했다. 향후 지속적인 업데이트를 통해 모델을 고도화할 예정이다. 김경훈 카카오 AI 세이프티 리더는 "생성형 AI의 등장 이래 기술 발전과 더불어 AI 윤리와 안전성에 대한 중요성이 국내외에서 점차 부각되고 있다"며 "책임감 있는 AI 구축에 대한 인식을 널리 확산시키고 사회적 가치를 고려한 기술 개발이 이어질 수 있도록 선제적인 대응을 이어갈 계획"이라고 말했다.2025-05-27 10:21:53
-
카카오, AI '카나나' 핵심 기술 나눔… "K-AI 생태계 함께 키운다" [이코노믹데일리] 카카오가 자체 개발 인공지능(AI) 언어모델 ‘카나나’의 핵심 모델들을 오픈소스로 공개하며 국내 AI 생태계 확장과 기술 접근성 강화에 나섰다. 카카오는 23일 자체 개발 언어모델 ‘카나나’ 라인업 가운데 8B(80억 매개변수)와 2.1B 크기의 모델을 오픈소스 공유 플랫폼 허깅페이스에 공개했다고 밝혔다. 이번에 공개된 모델은 △Kanana-1.5-8b-base △Kanana-1.5-8b-instruct △Kanana-1.5-2.1b-base △Kanana-1.5-2.1b-instruct 총 4종이다. 아파치 2.0 라이선스를 적용해 누구나 자유롭게 수정하고 상업적으로도 활용할 수 있다. 이 모델들은 지난 2월 말 공개한 버전보다 성능이 한층 향상됐다. 특히 목표 설정, 계획 수립, 도구 사용 등 자율적이고 능동적인 작업을 수행하는 에이전틱 AI(Agentic AI) 구현을 위한 기능 강화에 중점을 뒀다. 카카오에 따르면 글로벌 모델 대비 뛰어난 한국어 성능을 유지하면서 코딩과 수학 문제 해결, 함수 호출(Function Calling) 능력에서 이전 대비 평균 1.5배의 성능 향상을 기록해 오픈소스 최고 기술 수준(SOTA)의 유의미한 성능을 달성했다. 또한 긴 문맥에 대한 이해도를 높이고 답변을 간결하게 최적화해 사용성을 개선했다. 기존보다 더 긴 텍스트 입력에 대해 안정적인 처리가 가능하며 정확도와 응답 길이를 최적화한 답변을 통해 서비스 환경에서 사용자의 체감 성능을 향상시켰다고 회사 측은 설명했다. 카카오는 현재 더욱 긴 입력 처리, 보다 정교화된 추론, 구조적인 효율성 등 다수 영역에서 진화된 ‘카나나2’ 모델 개발도 진행 중이다. 카카오는 이번 오픈소스 공개를 통해 국내 거대언어모델(LLM) 생태계 활성화를 위한 시도와 기여를 꾸준히 이어갈 계획이다. 특히 AI 연구자와 개발자는 물론 기업이 목적에 맞게 모델을 자유롭게 튜닝하고 활용할 수 있는 상업 라이선스를 적용해 기술 경쟁력을 확보함과 동시에 협력 기반의 AI 생태계를 구축해 나간다는 방침이다. 김병학 카카오 카나나 성과리더는 “이번 오픈소스 공개를 통해 AI 기술을 통한 성장과 경쟁을 함께하는 환경을 만들고, 이러한 생태계 내에서 기술을 발전시킬 수 있는 계기를 꾸준히 마련해가고자 한다”며 “인공지능 모델 성능의 고도화는 물론 오픈소스의 본질적인 가치를 함께 추구해 갈 것”이라고 말했다. 카카오는 지난해 자체 개발 AI 모델 카나나의 라인업을 공개한 이후 공식 테크 블로그 등을 통해 언어모델, 멀티모달 언어모델, 비주얼 생성모델 등의 성능과 개발기를 꾸준히 공개해왔다. 지난 2월에는 ‘Kanana Nano 2.1B’ 모델을 오픈소스로 허깅페이스에 처음 배포했으며 최근에는 국내 최초로 텍스트와 음성, 이미지까지 다양한 형태의 정보를 동시에 이해하고 처리할 수 있는 통합 멀티모달 언어모델 ‘Kanana-o’의 성능을 공개하기도 했다. 카카오의 이러한 적극적인 오픈소스 정책은 국내 AI 기술 발전과 다양한 산업 분야로의 AI 확산을 촉진할 것으로 기대된다.2025-05-23 16:22:38
-
알리바바 클라우드, 엣지 기기용 멀티모달 AI 'Qwen2.5-Omni-7B' 공개 [이코노믹데일리] 알리바바 그룹의 디지털 기술 및 인텔리전스 핵심 부문인 알리바바 클라우드가 최신 멀티모달 인공지능(AI) 모델 'Qwen2.5-Omni-7B'를 31일 새롭게 선보였다. Qwen2.5-Omni-7B 모델은 텍스트, 이미지, 음성, 영상 등 여러 유형의 입력 데이터를 동시에 이해하고 처리할 수 있는 엔드투엔드(end-to-end) 방식으로 개발되었다. 사용자의 다양한 입력에 대해 실시간 텍스트 응답은 물론, 자연스러운 음성 답변까지 생성 가능하다. 특히 70억 개(7B)의 상대적으로 적은 파라미터로 구성된 경량 모델임에도 불구하고 성능 저하 없이 강력한 멀티모달 처리 능력을 구현한 점이 특징이다. 이러한 컴팩트한 설계와 고성능의 조합은 지능형 음성 애플리케이션과 같이 실제 환경에서 민첩하고 비용 효율적으로 작동해야 하는 AI 에이전트 개발에 유리하다. 예를 들어 시각 장애인이 주변 환경을 실시간 음성 설명으로 인지하도록 돕거나 동영상 속 재료를 분석해 요리법을 단계별로 안내하는 등의 서비스 구현이 가능하다. 알리바바 클라우드는 Qwen2.5-Omni-7B 모델을 오픈소스 커뮤니티에 공개했다. 현재 허깅페이스(Hugging Face)와 깃허브(GitHub)를 통해 누구나 접근할 수 있으며 자체 플랫폼인 큐원 챗(Qwen Chat)과 모델스코프(ModelScope)에서도 이용 가능하다. 이번 모델의 우수한 성능은 혁신적인 아키텍처 설계에 기반한다. 텍스트 생성(Thinker)과 음성 합성(Talker) 기능을 분리하여 모달 간 간섭을 최소화한 'Thinker-Talker 아키텍처', 비디오와 오디오 입력을 효과적으로 동기화하여 일관된 콘텐츠 생성을 돕는 'TMRoPE' 위치 임베딩 기술 그리고 끊김 없는 음성 상호작용을 위해 지연 시간을 줄인 '블록와이즈 스트리밍 처리' 기술 등이 적용되었다. Qwen2.5-Omni-7B는 이미지-텍스트, 영상-텍스트, 영상-음성 등 다양한 조합의 방대한 데이터셋으로 사전 학습되어 여러 종류의 작업에서 강력한 성능을 발휘한다. 특히 시각, 청각, 텍스트 정보를 복합적으로 이해하고 추론하는 능력을 평가하는 OmniBench 벤치마크 등 멀티모달 처리 능력이 중요한 평가에서도 최고 수준의 성능을 기록했다. 또한 인컨텍스트 러닝(ICL)과 강화학습(RL)을 통해 문맥에 맞는 음성 이해 및 생성 능력을 향상시키고 음성 응답 시 발음 오류나 부자연스러운 끊김 현상을 크게 줄여 안정성을 높였다. 한편 알리바바 클라우드는 지난해 9월 Qwen2.5 시리즈를 처음 선보인 이후 올해 1월에는 'Qwen2.5-Max'를 출시하여 챗봇 아레나에서 7위를 기록하는 등 우수한 성능을 입증한 바 있다. 시각 이해 모델 'Qwen2.5-VL', 장문 처리 모델 'Qwen2.5-1M' 등도 오픈소스로 공개하며 Qwen 모델 라인업을 지속적으로 확장하고 있다.2025-03-31 15:54:50
-
LG, 추론 AI '엑사원 딥' 오픈소스화…에이전틱 AI 시대 연다 [이코노믹데일리] LG AI연구원이 글로벌 인공지능(AI) 시장에서 경쟁력을 입증할 자체 개발 추론 AI 모델 ‘엑사원 딥’을 18일 오픈소스로 공개했다. 이는 한국 기업이 독자적으로 개발한 AI 모델이 글로벌 AI 생태계에서 본격적으로 경쟁에 나섰다는 점에서 의미가 크다. LG AI연구원은 17~21일(현지시간) 미국 캘리포니아 새너제이에서 열리는 엔비디아 GTC 2024에서 ‘엑사원 딥’을 소개하며 글로벌 시장 진출을 본격화했다. ‘엑사원 딥-32B’는 320억 개의 매개변수를 갖춘 모델이다. 매개변수 6710억개를 가진 중국 딥시크 R1의 5% 규모에 불과하지만 성능 면에서는 뒤떨어지지 않는다는 게 LG AI연구원의 설명이다. LG AI연구원은 이번 공개를 통해 기존 AI 모델이 단순한 정보 처리에 머물던 한계를 넘어서 자율적 의사결정이 가능한 ‘에이전틱 AI’ 시대로의 전환을 예고했다. 에이전틱 AI는 스스로 가설을 설정하고 검증하는 추론 AI로 복잡한 문제 해결에 적합하다. 현재 오픈AI, 구글, 중국 딥시크·알리바바 등 극소수 글로벌 기업만이 추론 AI를 개발하고 있다. LG AI연구원은 AI 오픈소스 플랫폼 ‘허깅페이스’를 통해 엑사원 딥의 논리적 사고력과 문제 해결 능력을 평가한 데이터를 공개했다. 수학 문제 해결 능력 평가 지표에서 95.7점을 기록하며 물리학·화학·생물학 등 과학 분야 등 박사급 논리 추론 평가에서 높은 평가를 받았다. AI 코딩 능력 평가에서는 59.5점을 기록했다. 엑사원 딥-32B와 함께 ‘엑사원 딥-7.8B(경량 모델)’와 ‘엑사원 딥-2.4B(온디바이스 모델)’도 함께 공개됐다. 7.8B 모델은 32B 모델 대비 매개변수가 24% 수준이지만 성능을 95% 유지한다. 2.4B 모델은 32B 모델 대비 매개변수 7.5% 수준이지만 성능 86% 유지하면서 특히 기기 내부에서 데이터를 처리해 보안성과 개인정보 보호 측면에서 강점이 있다. LG AI연구원 관계자는 “2월 국가인공지능위원회에서 ‘딥시크 R1급 모델을 오픈소스로 공개하겠다’고 발표한 이후 한 달 만에 엑사원 딥을 공개했다”며 “LG의 AI 기술 핵심은 모델 크기를 줄이면서도 성능을 유지하는 것”이라고 강조했다.2025-03-18 10:21:43
-
인터넷 은행, AI 혁신에 속도…LLM 도입 확대 [이코노믹데일리] 인터넷 은행이 인공지능(AI) 기술 도입에 열을 올리고 있다. 국내 인터넷 은행 △카카오뱅크 △케이뱅크 △토스뱅크는 각각 업무에 AI 프로그램을 투입하거나 자체 AI를 개발하는 등 다양한 전략을 선택했다. 7일 업계에 따르면 케이뱅크는 지난해 2월 KT·KT클라우드·업스테이지와 업무 협약을 맺고 최근 인터넷 은행 최초로 금융 특화 프라이빗 대형 언어 모델(LLM)을 도입했다. 프라이빗 LLM은 공개적으로 접근이 가능한 챗GPT, 딥시크 등과 달리 특정 조직이나 기업 내부에서만 사용하도록 설계된 AI 언어 모델이다. 기업이 원하는 전문 데이터를 학습시킨 후 외부 클라우드 서버가 아닌 내부 서버에서만 운영한다. 케이뱅크는 프라이빗 LLM을 활용해 업무를 돕는 대화형 AI, 보고서 작성 기능 등을 제공할 계획이다. 카카오뱅크는 지난달 5일 2024년 연간 실적 컨퍼런스콜에서 오픈 AI와 협업을 맺은 카카오와 함께 기술과 금융 전문성을 결합해나갈 예정이라고 밝혔다. 또한 오픈 AI의 챗GPT 모델을 활용해 고객들이 대화 형식으로 금융 정보를 이해하고 계산하는 ‘대화형 AI 금융 계산기’도 개발 중이다. 카카오뱅크의 금융기술 연구소에서도 AI 연구를 진행한다. 지난 2021년 개소 이후 △자체 LLM 개발 △AI 스미싱 문자 확인 서비스 개발 △LLM 테스트 제작 등 다양한 연구 성과를 발표하고 있다. 지난해 1월에는 카카오뱅크가 개발한 LLM ‘카본 빌런’이 AI 플랫폼 ‘허깅페이스’의 성능 비교에서 1위를 차지하기도 했다. 토스뱅크는 자체 AI를 개발해 신분증 검증에 이용한다. 비대면으로 계좌를 개설하는 인터넷 은행 특성상 신분증 위조 위험성이 있다. 토스뱅크는 AI를 활용해 신분증 내 개인정보, 얼굴을 인식하고 적합 여부를 판단해 결격 사유가 있다면 자동으로 신분증 승인을 반려한다. 또한 지난해 5월 생성형 AI 기술을 적용해 사용자가 선택한 사진으로 지폐를 만들어주는 이벤트를 진행하기도 했다. 인터넷 은행의 AI 전략 중 타 업계에서도 주목받는 기술이 프라이빗 LLM이다. 프라이빗 LLM은 기업 내부망에서만 운용하기 때문에 보안성이 높다. 또한 기업 특성에 맞춰 LLM을 학습시키고 조정해 업무에 효율적인 AI 구축이 가능하다. 단 활용 기업이 AI의 개발·수정·유지보수를 위해 관련 기술 역량을 갖춰야 하고 개발 초기에는 많은 투자 비용이 필요할 수 있다. 미국 데이터 플랫폼 기업 클라우데라는 ‘2025년 데이터와 AI에 대한 전망’ 발표에서 "기업들이 AI 혁신을 위해 기업의 니즈를 반영하고 정확한 인사이트를 제공할 수 있는 프라이빗 LLM을 선호할 것"이라고 내다봤다. 업계 관계자는 “금융권은 보안 규제가 엄격하고 전문적인 역량이 필요하기 때문에 프라이빗 LLM의 활용도가 높을 것”이라고 전했다.2025-03-07 17:46:38
많이 본 뉴스
영상
Youtube 바로가기
![[기자수첩] 당국, MG손보 노조 갈등에 내몰린 계약자들...이들의 계약 유지권은 어디에](https://image.ajunews.com/content/image/2025/06/13/20250613110259382074_518_323.png)