2026.01.31 토요일
검색
'메타라마' 검색결과
기간검색
-
~
검색영역
검색어
-
카카오 '카나나' 국내 1호 AI 안전성 검증 통과... "메타보다 안전하다" [이코노믹데일리] 카카오의 인공지능(AI) 모델 '카나나'가 정부가 주관한 국내 첫 AI 안전성 평가에서 글로벌 빅테크 모델을 상회하는 안전성을 입증했다. 29일 과학기술정보통신부는 AI안전연구소 및 한국정보통신기술협회(TTA)와 협력해 진행한 평가 결과 카나나가 메타나 미스트랄AI 등 해외 유력 모델 대비 동등 이상의 안전성을 확보한 것으로 확인됐다고 밝혔다. 이번 평가는 내년 본격 시행을 앞둔 'AI 기본법'에 대비해 국내 모델의 신뢰도를 선제적으로 점검했다는 점에서 의미가 크다. 이번 검증 대상은 카카오의 '카나나 에센스 1.5' 모델이다. 카카오는 국내 산·학·연이 주도하는 'AI 안전 컨소시엄'의 일원으로 참여해 자사 모델의 안전성을 객관적으로 검증받기로 협의했다. 평가에는 TTA와 최호진 KAIST 교수 연구팀이 개발한 벤치마크 데이터셋 '어슈어 AI(AssurAI)'와 AI안전연구소의 고위험 분야 평가 데이터셋이 활용됐다. 이는 AI 모델에 악의적인 질문을 던져 방어 기제가 제대로 작동하는지 확인하는 '레드팀 챌린지' 방식의 고강도 테스트다. 평가단은 폭력 조장이나 차별적 표현 등 일반적인 위험 요소는 물론 무기 제작법 전수나 해킹 코드 생성 및 보안 취약점 악용 등 고위험 시나리오까지 폭넓게 적용해 모델을 점검했다. 평가 결과 카나나는 동급 규모의 글로벌 오픈소스 모델인 미국 메타의 '라마(Llama) 3.1'과 프랑스 미스트랄AI의 '미스트랄 0.3'과 비교해 높은 수준의 안전성을 기록했다. 특정 위험 항목에서는 경쟁 모델보다 더 정교하게 유해 정보를 필터링하는 능력을 보인 것으로 알려졌다. 정부는 이번 평가가 단순히 규제를 위한 절차가 아니라 국내 AI 산업의 경쟁력을 높이는 계기가 될 것으로 보고 있다. 과기정통부는 이번 검증 경험을 바탕으로 내년 1월 진행될 '독자 AI 파운데이션 모델' 프로젝트 1차 평가에도 동일한 안전성 기준을 적용할 방침이다. 아울러 국내외 다양한 AI 기업과 협력해 평가 대상을 지속적으로 확대하고 국제적인 AI 안전 기준 수립에도 주도적으로 참여한다는 계획이다. 이번 결과는 글로벌 시장에서 'K-AI'의 신뢰도를 높이는 데 기여할 전망이다. AI 성능 경쟁이 안전성 경쟁으로 옮겨가는 추세 속에서 국산 모델이 글로벌 표준을 충족한다는 사실을 입증했기 때문이다. 특히 기업용(B2B) 시장이나 공공 분야 진출 시 안전성 검증 여부가 핵심 경쟁력이 될 가능성이 높다. 김경만 과기정통부 인공지능정책실장은 "세계적으로 AI 안전에 대한 논의가 규제보다는 실질적인 검증과 구현이 강조되는 상황"이라며 "이번 평가는 국내 AI 모델의 안전성 경쟁력을 객관적으로 증명한 사례이자 향후 글로벌 AI 안전성 리더십을 확보하는 초석이 될 것"이라고 강조했다.2025-12-29 12:34:49
-
엔비디아,"칩 넘어 SW로 생태계 장악"…고성능 AI 모델 무료 배포 [이코노믹데일리] 세계 최대 AI 칩 기업 엔비디아(CEO 젠슨 황)가 자체 오픈소스 AI 모델과 관리 도구 개발사를 연이어 확보하며 하드웨어를 넘어 소프트웨어 생태계 장악력 확대에 나섰다. 엔비디아는 15일(현지시간) 자체 개발한 오픈소스 대형언어모델(LLM) ‘네모트론3(Nemotron-3)’를 출시한다고 밝혔다. 네모트론3는 파라미터 규모에 따라 300억 개의 ‘나노’와 1000억 개의 ‘슈퍼’ 및 5000억 개의 ‘울트라’ 등 3가지 라인업으로 구성됐다. 특히 가장 가볍고 효율적인 ‘나노’ 모델의 성능이 업계의 이목을 집중시켰다. 엔비디아가 오픈소스 커뮤니티 허깅페이스에 공개한 벤치마크 결과에 따르면 나노 모델은 미국 수학경시대회 문제를 푸는 ‘AIME25’에서 정답률 99.2%를 기록하며 압도적인 수학적 추론 능력을 증명했다. 또한 지식 능력을 평가하는 ‘MMLU-Pro’ 테스트에서는 78.3%의 점수를 받아 오픈AI가 지난해 출시한 유료 모델 GPT-4o의 72.6%를 뛰어넘는 성과를 보였다. 이는 메타가 개방형 정책을 축소하고 중국 딥시크가 보안 우려로 글로벌 확장에 제동이 걸린 틈을 타 엔비디아가 오픈소스 AI 시장의 주도권을 쥐겠다는 의도로 풀이된다. 엔비디아는 같은 날 오픈소스 AI 컴퓨팅 작업 관리 도구인 ‘슬럼(Slurm)’의 개발사 스케드MD 인수 소식도 알렸다. 슬럼은 전 세계 슈퍼컴퓨터의 절반 이상이 사용하는 핵심 소프트웨어로 엔비디아는 인수 후에도 이를 오픈소스로 유지할 방침이다. 업계 전문가들은 엔비디아의 이러한 광폭 행보를 고객 이탈을 막기 위한 강력한 ‘락인(Lock-in)’ 전략으로 분석한다. 자사 그래픽처리장치(GPU)에 최적화된 고성능 무료 AI 모델과 관리 도구를 제공함으로써 구글이나 오픈AI 등 자체 칩을 개발 중인 경쟁사로 고객이 넘어가는 것을 원천 차단하겠다는 계산이다. 젠슨 황 CEO는 “개방형 기술 혁신은 AI 발전의 기반”이라며 “네모트론을 통해 첨단 AI를 개방형 플랫폼으로 전환하고 개발자들이 대규모 에이전트 시스템을 투명하고 효율적으로 구축하도록 돕겠다”고 강조했다.2025-12-16 08:20:24
많이 본 뉴스
영상
Youtube 바로가기
![[편집인 칼럼] 함영주 판결이 남긴 질문...사법의 시간은 누구를 위해 흐르는가](https://image.ajunews.com/content/image/2026/01/30/20260130103352104439_518_323.png)