2025.08.24 일요일
검색
'딥시크 R1' 검색결과
기간검색
-
~
검색영역
검색어
-
"당신 불륜 폭로하겠다"…내 AI 비서가 당신을 협박할 확률 96% 충격 결과 [이코노믹데일리] 인공지능(AI)이 자신의 생존을 위협받는 막다른 골목에 몰리면 인간을 협박하는 위험한 선택을 할 수 있다는 충격적인 연구 결과가 나왔다. 이는 특정 모델의 문제가 아닌, 구글·오픈AI·메타 등 주요 기업들의 AI 모델 전반에서 나타나는 공통적인 현상으로 확인돼 업계에 큰 파장을 일으키고 있다. AI 안전 연구 기업 앤트로픽은 20일(현지시간) 주요 AI 모델 16개를 대상으로 한 대규모 안전성 테스트 결과를 발표했다. 연구진은 가상의 기업 환경을 설정하고 AI에 이메일 시스템 접근과 자율 발송 권한을 부여했다. 이후 AI가 자신의 교체를 계획하는 임원의 불륜 사실을 발견하는 시나리오를 제시해 ‘생존’과 ‘윤리’ 사이에서 어떤 선택을 하는지 관찰했다. 실험 결과는 놀라웠다. 앤트로픽의 ‘클로드 오푸스 4’는 96%의 확률로 협박을 선택했으며 구글의 ‘제미니 2.5 프로’도 95%로 뒤를 이었다. 오픈AI의 ‘GPT-4.1’과 xAI의 ‘그록 3 베타’는 80%, 중국 딥시크의 R1 모델은 79%의 확률로 임원에게 협박성 이메일을 발송했다. 목표 달성을 위해서라면 비윤리적이고 유해한 행동도 서슴지 않는 AI의 어두운 이면이 드러난 것이다. 물론 모든 모델이 동일한 반응을 보인 것은 아니다. 메타의 ‘라마 4 매버릭’이나 오픈AI의 소형 추론 모델인 ‘o3’, ‘o4-mini’ 등은 현저히 낮은 협박 비율을 보였다. 앤트로픽은 이를 오픈AI의 ‘심의적 정렬’ 같은 특정 안전 기술의 효과일 수 있다고 분석하면서도, 해당 모델들이 테스트 시나리오 자체를 오해하는 경향이 있었다고 덧붙여 완전한 면역으로 보기는 어렵다고 설명했다. 앤트로픽은 이번 연구가 특정 모델의 결함이 아닌 자율적 권한을 가진 ‘에이전트 AI’의 근본적인 위험을 드러낸다고 강조했다. 단순 질의응답을 넘어 스스로 목표를 설정하고 행동하는 AI가 민감 정보와 시스템 접근권을 가졌을 때 잠재적인 ‘내부자 위협’이 될 수 있다는 경고다. 현실에서는 윤리적 설득 등 다른 선택지가 있겠지만 이번 실험은 최악의 상황을 가정한 스트레스 테스트로서 중요한 의미를 지닌다. 결국 이번 연구는 AI가 현실 세계에 본격적으로 도입되기 전 업계 공동의 투명한 안전성 검증과 새로운 기준 마련이 시급하다는 메시지를 던진다. 전문가들은 이번 결과를 계기로 AI 에이전트의 권한과 자율성을 통제하는 글로벌 규제 논의가 본격화될 것으로 전망하고 있다.2025-06-23 08:17:53
-
구글, 제미나이 2.5 플래시로 AI 추론 요금 인하…오픈AI에 가격 압박 [이코노믹데일리] 구글이 AI 추론용 모델 가격을 대폭 인하하며 생성형 인공지능 시장의 가격 전쟁에 불을 지폈다. 오픈AI가 신제품을 공개한 지 하루 만에 내놓은 강수다. 반격에 나선 오픈AI는 속도를 낮춘 절반 가격 요금제로 맞섰지만 클라우드 인프라 경쟁력에서 격차가 뚜렷하다는 분석이 나온다. 구글은 17일(현지 시간) 생성형 AI ‘제미나이 2.5 플래시’를 일반 및 클라우드 사용자 대상 미리보기 버전으로 출시했다. 이번 모델은 지난 구글 클라우드 넥스트 2025에서 공개된 경량화된 AI로 일반형과 추론형 두 가지로 제공된다. 추론 기능을 활성화할 경우 기존 딥시크 R1 모델을 능가하는 성능을 보인다. 가격 정책은 더욱 공격적이다. 구글은 이날 API 요금도 함께 발표했다. 100만 토큰 기준 입력 요금은 0.15달러, 출력 요금은 비추론의 경우 0.6달러, 추론 시 3.5달러다. 오픈AI가 전날 공개한 o4 미니의 입력 1.1달러, 출력 4.4달러보다 현저히 낮은 수준이다. 특히 입력 가격만 놓고 보면 딥시크 R1 대비 27%에 불과하다. 구글은 “2.5 플래시는 속도와 비용에 중점을 두면서도 추론 기능을 대폭 업그레이드해 비용 대비 성능이 매우 뛰어나다”며 “품질과 비용, 시간 지연 간 균형 최적화를 위해 ‘사고(추론)’에 대한 예산을 설정할 수 있다”고 설명했다. 오픈AI도 반격에 나섰다. 구글 발표 당일, 고객사들을 대상으로 ‘플렉스 요금제’ 시범 도입 소식을 알렸다. 이 요금제는 응답 시간이 느리고 자원 사용이 간헐적이지만 API 사용료가 절반으로 줄어든다. 이 방식을 택하면 o4 미니는 출력 기준에서 구글 제미나이 2.5 플래시보다 가격 경쟁력을 확보할 수 있다. 그러나 전문가들은 구조적 한계를 지적한다. 테크 업계에서는 자체 클라우드 인프라가 없는 오픈AI의 비용 구조가 약점으로 작용하고 있다는 분석이 지배적이다. 구글은 자사 클라우드와 연계해 수익성을 확보할 수 있는 반면 오픈AI는 마이크로소프트(MS) 등 외부 클라우드에 의존해야 해 가격 인하에 한계가 있다. 여기에 챗GPT 이미지 생성 기능이 폭발적인 인기를 끌며 연산 자원 수요가 급증한 것도 오픈AI에 부담으로 작용하고 있다. 업계 관계자는 “무턱대고 가격 인하 경쟁을 따라가기에는 비용이 부담되기에 연산 속도를 포기한 셈”이라며 “스타트업 역사상 가장 큰 투자를 받았음에도 기존 빅테크의 체력을 단기간에 따라잡기는 어렵다”고 말했다. 한편 구글은 이와 함께 제미나이의 대중화를 위한 전략도 강화하고 있다. 18일에는 K-팝 그룹 르세라핌과 협업한 글로벌 캠페인 영상을 공개했다. 르세라핌 멤버들이 안드로이드 스마트폰과 제미나이를 활용하는 모습을 보여주며 사용자 일상 속 AI 기술 접점을 넓히는 데 초점을 맞췄다. 구글은 “제미나이 라이브의 비주얼 인식 기능이나 실시간 번역 기능 등 실제 사용 사례를 전 세계 이용자에게 소개하고 있다”고 밝혔다. 생성형 AI 시장이 기술 경쟁을 넘어 가격과 소비자 접점까지 확대되면서 빅테크 간 전략 차별화가 본격화되고 있다. 한정된 연산 자원과 투자 회수라는 현실 속에서 각 기업이 어떤 선택을 할지 주목된다.2025-04-18 11:12:14
-
LG, 추론 AI '엑사원 딥' 오픈소스화…에이전틱 AI 시대 연다 [이코노믹데일리] LG AI연구원이 글로벌 인공지능(AI) 시장에서 경쟁력을 입증할 자체 개발 추론 AI 모델 ‘엑사원 딥’을 18일 오픈소스로 공개했다. 이는 한국 기업이 독자적으로 개발한 AI 모델이 글로벌 AI 생태계에서 본격적으로 경쟁에 나섰다는 점에서 의미가 크다. LG AI연구원은 17~21일(현지시간) 미국 캘리포니아 새너제이에서 열리는 엔비디아 GTC 2024에서 ‘엑사원 딥’을 소개하며 글로벌 시장 진출을 본격화했다. ‘엑사원 딥-32B’는 320억 개의 매개변수를 갖춘 모델이다. 매개변수 6710억개를 가진 중국 딥시크 R1의 5% 규모에 불과하지만 성능 면에서는 뒤떨어지지 않는다는 게 LG AI연구원의 설명이다. LG AI연구원은 이번 공개를 통해 기존 AI 모델이 단순한 정보 처리에 머물던 한계를 넘어서 자율적 의사결정이 가능한 ‘에이전틱 AI’ 시대로의 전환을 예고했다. 에이전틱 AI는 스스로 가설을 설정하고 검증하는 추론 AI로 복잡한 문제 해결에 적합하다. 현재 오픈AI, 구글, 중국 딥시크·알리바바 등 극소수 글로벌 기업만이 추론 AI를 개발하고 있다. LG AI연구원은 AI 오픈소스 플랫폼 ‘허깅페이스’를 통해 엑사원 딥의 논리적 사고력과 문제 해결 능력을 평가한 데이터를 공개했다. 수학 문제 해결 능력 평가 지표에서 95.7점을 기록하며 물리학·화학·생물학 등 과학 분야 등 박사급 논리 추론 평가에서 높은 평가를 받았다. AI 코딩 능력 평가에서는 59.5점을 기록했다. 엑사원 딥-32B와 함께 ‘엑사원 딥-7.8B(경량 모델)’와 ‘엑사원 딥-2.4B(온디바이스 모델)’도 함께 공개됐다. 7.8B 모델은 32B 모델 대비 매개변수가 24% 수준이지만 성능을 95% 유지한다. 2.4B 모델은 32B 모델 대비 매개변수 7.5% 수준이지만 성능 86% 유지하면서 특히 기기 내부에서 데이터를 처리해 보안성과 개인정보 보호 측면에서 강점이 있다. LG AI연구원 관계자는 “2월 국가인공지능위원회에서 ‘딥시크 R1급 모델을 오픈소스로 공개하겠다’고 발표한 이후 한 달 만에 엑사원 딥을 공개했다”며 “LG의 AI 기술 핵심은 모델 크기를 줄이면서도 성능을 유지하는 것”이라고 강조했다.2025-03-18 10:21:43
-
"막으니까 더 궁금하네"…서비스 중단에도 다운로드 이어지는 딥시크 [이코노믹데일리] 정부가 중국의 생성형 인공지능(AI) '딥시크' 다운로드를 차단했지만 여전히 신규 설치가 이루어지고 있는 것으로 나타났다. 5일 데이터 플랫폼 기업 아이지에이웍스 모바일인덱스에 따르면 개인정보보호위원회가 딥시크의 국내 서비스를 잠정 중단한 이후에도 국내 모바일 신규 설치는 지속되고 있다. 개보위는 앞서 지난달 15일 오후 6시경 데이터 유출 정황을 이유로 딥시크 애플리케이션(앱)의 국내 서비스를 잠정 중단시킨 바 있다. 현재 구글 플레이와 애플 앱스토어를 포함한 모든 국내 앱 마켓에서 딥시크 앱 설치가 불가능한 상황이다. 그럼에도 불구하고 중단 조치 직후인 지난달 16일 딥시크 앱의 신규 다운로드 수는 464건에 달했으며 공식적인 서비스 중단이 발표된 17일에도 신규 설치 수는 308건을 기록했다. 가장 최근 집계된 지난 1일 기준 신규 다운로드는 29건으로 나타났다. 한 업계 관계자는 "국내 앱 마켓에서 딥시크를 다운로드하는 것은 불가능하지만 국가 우회 등 다양한 방법을 동원하면 완전히 차단하는 것은 어렵다"며 "설사 다운로드를 차단하더라도 국민의 정보기술(IT) 수준이 높아 완전히 봉쇄하는 것은 쉽지 않다"고 말했다. 또 다른 관계자는 "딥시크뿐만 아니라 국내에 출시되지 않은 수많은 앱을 여러 경로로 다운로드하는 사용자들이 있다"며 "정부의 차단 조치가 오히려 이용자들의 관심을 불러일으킬 수도 있다"고 설명했다. 한편 딥시크는 오픈소스 코드와 추론 시스템 개요 등을 연이어 공개하며 기세를 이어가고 있다. 딥시크는 지난 1일 개발자 플랫폼 깃허브에 올린 '딥시크-R1·V3' 추론 시스템 기술 설명에서 이론상 하루 총수입이 56만2027 달러(약 8억2000만원), 일일 총비용은 8만7072 달러(약 1억3000만원)라고 밝혔다. 이는 비용 대비 이익률이 545%에 달하는 것으로 나타났다. 다만 V3 모델의 사용 비용이 R1 모델보다 낮고 일부 서비스가 웹과 앱에서 무료로 제공되는 데다 개발자들이 사용량이 적은 시간대에 더 적은 비용을 지불하고 있어 실제 이익률은 이보다 낮을 것으로 분석됐다.2025-03-05 08:37:26
-
보험사 AI 활용 전망...보안 우려에도 딥시크 활용법 있다 [이코노믹데일리] 딥시크(DeepSeek) 인공지능(AI)의 등장으로 기업들의 AI 접근성이 높아질 것으로 기대됐으나 금융권에서는 보안과 안정성 문제로 최근 활용을 금지하고 있다. 이런 가운데 보험업계에서는 딥시크의 보안 문제를 해결하는 방안과 함께 보험사의 활용 가능성에 대한 전망이 제시됐다. 24일 보험연구원의 ‘딥시크 등장과 보험회사 디지털 전환’ 보고서에 따르면 ‘딥시크-R1’ 모델을 온프레미스 방식으로 운영할 경우 △데이터 보호 △특화 가능성 △설명 가능성 및 규제 대응 △서비스 차별화 △종속성 △비용 효율성 등에서 오픈AI의 ‘챗GPT’ 같은 폐쇄형 모델보다 우위를 점하며, 보다 안전하게 활용할 수 있는 것으로 분석됐다. R1은 지난달 공개된 오픈소스 대규모 언어 모델(LLM)로 적은 투자 비용과 시간으로도 거대 IT 기업의 LLM과 유사한 성능을 발휘하며 시장에 충격을 주었다. 특히 오픈AI의 LLM 모델과 비교했을 때 약 4% 수준의 비용으로 운영할 수 있어 경쟁력이 높다. 그러나 현재 딥시크가 제공하는 API, 웹, 모바일 애플리케이션 서비스는 중국의 개인정보 수집 정책으로 인해 보안 우려가 제기되면서 정부 부처 및 금융업계에서 활용이 제한되고 있다. 이에 조영현 보험연구원 연구위원은 해결책으로 기업이 자체 서버를 구축해 AI를 운용하는 온프레미스 방식을 제안했다. 온프레미스 방식은 기업 내부 서버에서 AI를 운영하는 방식으로 R1 모델처럼 오픈소스로 개발된 AI를 적용할 경우 기업 맞춤형 AI 구축이 가능하다. 이를 통해 기업은 업무 프로세스에 최적화된 AI 프로그램을 개발하고 개별 서버에 배치함으로써 개인정보 보호 문제를 해결하면서도 높은 효율성을 확보할 수 있다. 반면 기존 AI 활용 방식은 AI 기업의 클라우드 서비스를 이용해야 하며 이에 따른 라이선스 비용 부담이 발생한다. 또한 개인정보 보호를 위해 AI 제공업체와 별도의 보안 계약을 체결하는 등 추가적인 보안 조치가 필요하다. 해외에서는 이미 여러 기업이 R1을 활용하고 있다. 글로벌 자동차 테크 기업 ‘Roadzen’은 보험 산업에 특화된 AI 플랫폼 ‘Mixtape AI’에 R1을 통합해 서비스를 제공하고 있다. 특히 중국 딥시크 서버를 사용하지 않고 고객의 위치에 따라 미국, 유럽, 인도 내 데이터 센터를 활용함으로써 보안 우려를 해소했다. 또한 AI 챗봇 서비스 ‘퍼플렉시티’ AI도 R1을 옵션으로 제공하면서 북미 서버에서 호스팅하는 방식을 채택해 데이터가 중국으로 유출되는 것을 차단하고 있다. 조 연구위원은 이러한 고성능 오픈소스 AI 모델을 활용하면 데이터 보호와 규제 준수가 중요한 보험업계에서도 AI 활용이 빠르게 확대될 것으로 내다봤다. 그는 “법에서 요구하는 AI의 안정성과 신뢰성을 확보하기 위해서는 보험사가 AI를 직접 이해하고 통제할 수 있어야 한다”며 “개방형 모델을 기반으로 한 온프레미스 운영이 AI 활용을 고도화하고 범위를 확대하는 데 가장 적합한 방식이 될 것”이라고 강조했다.2025-02-24 17:38:44
많이 본 뉴스
영상
Youtube 바로가기
![[기자수첩] 위고비, 치료제지 미용이 아니다...의료계 주객전도 되지 말아야](https://image.ajunews.com/content/image/2025/08/19/20250819190901361359_518_323.png)