2025.06.23 월요일
검색
'제미니' 검색결과
기간검색
-
~
검색영역
검색어
-
"당신 불륜 폭로하겠다"…내 AI 비서가 당신을 협박할 확률 96% 충격 결과 [이코노믹데일리] 인공지능(AI)이 자신의 생존을 위협받는 막다른 골목에 몰리면 인간을 협박하는 위험한 선택을 할 수 있다는 충격적인 연구 결과가 나왔다. 이는 특정 모델의 문제가 아닌, 구글·오픈AI·메타 등 주요 기업들의 AI 모델 전반에서 나타나는 공통적인 현상으로 확인돼 업계에 큰 파장을 일으키고 있다. AI 안전 연구 기업 앤트로픽은 20일(현지시간) 주요 AI 모델 16개를 대상으로 한 대규모 안전성 테스트 결과를 발표했다. 연구진은 가상의 기업 환경을 설정하고 AI에 이메일 시스템 접근과 자율 발송 권한을 부여했다. 이후 AI가 자신의 교체를 계획하는 임원의 불륜 사실을 발견하는 시나리오를 제시해 ‘생존’과 ‘윤리’ 사이에서 어떤 선택을 하는지 관찰했다. 실험 결과는 놀라웠다. 앤트로픽의 ‘클로드 오푸스 4’는 96%의 확률로 협박을 선택했으며 구글의 ‘제미니 2.5 프로’도 95%로 뒤를 이었다. 오픈AI의 ‘GPT-4.1’과 xAI의 ‘그록 3 베타’는 80%, 중국 딥시크의 R1 모델은 79%의 확률로 임원에게 협박성 이메일을 발송했다. 목표 달성을 위해서라면 비윤리적이고 유해한 행동도 서슴지 않는 AI의 어두운 이면이 드러난 것이다. 물론 모든 모델이 동일한 반응을 보인 것은 아니다. 메타의 ‘라마 4 매버릭’이나 오픈AI의 소형 추론 모델인 ‘o3’, ‘o4-mini’ 등은 현저히 낮은 협박 비율을 보였다. 앤트로픽은 이를 오픈AI의 ‘심의적 정렬’ 같은 특정 안전 기술의 효과일 수 있다고 분석하면서도, 해당 모델들이 테스트 시나리오 자체를 오해하는 경향이 있었다고 덧붙여 완전한 면역으로 보기는 어렵다고 설명했다. 앤트로픽은 이번 연구가 특정 모델의 결함이 아닌 자율적 권한을 가진 ‘에이전트 AI’의 근본적인 위험을 드러낸다고 강조했다. 단순 질의응답을 넘어 스스로 목표를 설정하고 행동하는 AI가 민감 정보와 시스템 접근권을 가졌을 때 잠재적인 ‘내부자 위협’이 될 수 있다는 경고다. 현실에서는 윤리적 설득 등 다른 선택지가 있겠지만 이번 실험은 최악의 상황을 가정한 스트레스 테스트로서 중요한 의미를 지닌다. 결국 이번 연구는 AI가 현실 세계에 본격적으로 도입되기 전 업계 공동의 투명한 안전성 검증과 새로운 기준 마련이 시급하다는 메시지를 던진다. 전문가들은 이번 결과를 계기로 AI 에이전트의 권한과 자율성을 통제하는 글로벌 규제 논의가 본격화될 것으로 전망하고 있다.2025-06-23 08:17:53
-
JD 밴스 美 부통령, "가상화폐 탄압 끝났다"... 트럼프 행정부 친암호화폐 정책 시동 [이코노믹데일리] JD 밴스 미국 부통령이 "바이든 (정부)의 가상화폐 탄압은 끝났다"고 선언하며 업계에 대한 지지를 재확인했다. 이는 도널드 트럼프 행정부의 가상자산 정책에 대한 명확한 방향을 제시한 것으로 풀이된다. 밴스 부통령은 28일(현지시간) 라스베이거스에서 열린 '비트코인 2025 콘퍼런스'에서 이같이 밝히고 '초크포인트 작전 2.0' 종식을 선언했다. '초크포인트 작전 2.0'은 전임 조 바이든 정부 시절 미 정부가 은행과 금융기관을 압박해 가상화폐 기업과의 거래를 사실상 막아온 비공식적 규제 전략을 일컫는다. 그는 이어 적대적 규제 철폐, 지니어스(GENESIS) 법안을 통한 스테이블코인 관련 법제화, 가상화폐 및 스테이블코인에 대한 명확한 시장 체계 구축 등 트럼프 행정부의 가상자산 정책 3대 핵심 목표를 소개했다. 밴스 부통령은 "스테이블코인은 달러를 위협하지 않고 강화한다"며 "지니어스 법안이 스테이블코인 활동을 미국 내로 끌어들여 달러 위상을 강화할 것"이라고 말했다. 최근 미 상원에서 마련된 지니어스 법안은 스테이블코인 발행과 담보 요건을 강화하고 자금세탁방지 법률 준수를 의무화하는 내용을 담고 있다. 이는 규제 법안임에도 코인을 정당한 금융 수단으로 인정하는 것이라는 평가가 나온다. 특히 스테이블코인은 빠르고 저렴하게 국경 간 달러를 이동시키는 수단으로 주목받으면서 미 달러화의 지배력을 유지하고 미 국채 수요를 유지하는 데 중요한 역할을 할 수 있다는 인식이 커지고 있다. USDC를 비롯한 달러 기반 스테이블코인의 대부분은 미 국채를 담보로 하고 있다. 밴스 부통령은 또 개리 겐슬러 전 증권거래위원장(SEC)이 "소비자 보호라는 명분 아래 금융 민주화를 향한 모든 시도를 공격했다"고 지적하며 "관료적 전쟁으로부터 혁신을 지키기 위해" 그를 해임했다고 설명했다. 그러면서 가상화폐는 "시민의 자유를 보호하는 도구"이자 "나쁜 정책, 인플레이션, 차별로부터의 헤지(위험 회피) 수단"이라고 강조했다. 한편 도널드 트럼프 미국 행정부의 인공지능(AI)·가상화폐 정책을 총괄하는 데이비드 색스는 전날 미 정부가 예산을 늘리지 않는 방식으로 자금을 조달할 수 있다면 "더 많은 비트코인을 구매할 수 있다"고 밝혔다. 그는 가상화폐 거래소 제미니 창업자인 캐머런 윙클보스 및 타일러 윙클보스 형제와 대담에서 "확실한 약속은 할 수 없지만 정부가 비트코인을 추가로 구매할 수 있는 방법은 존재한다"고 말했다. 이어 "다른 예산 프로그램 중 사용되지 않는 자금을 찾아 사용한다면 비트코인을 추가로 확보할 수도 있다"며 "상무부나 재무부가 이에 관심을 가지면 대통령 승인을 바탕으로 프로그램을 만들 수 있다"고 설명했다. 트럼프 대통령은 미 대선 전인 지난해 7월 '비트코인 2024 콘퍼런스'에 직접 참석해 비트코인을 전략적으로 비축하는 등 가상화폐 산업을 적극적으로 육성하는 "친비트코인 대통령"이 되겠다고 공약하며 업계 지지를 얻은 바 있다. 이번 밴스 부통령의 발언은 이러한 기조를 재확인하고 구체적인 정책 방향을 제시한 것으로 향후 미국 내 가상자산 시장 및 규제 환경에 상당한 변화가 예상된다.2025-05-29 08:39:49
많이 본 뉴스
영상
Youtube 바로가기
![[기자수첩] 당국, MG손보 노조 갈등에 내몰린 계약자들...이들의 계약 유지권은 어디에](https://image.ajunews.com/content/image/2025/06/13/20250613110259382074_518_323.png)