2025.05.01 목요일
검색
'환각 현상' 검색결과
기간검색
-
~
검색영역
검색어
-
오픈AI 새 AI 모델, 'o3'와 'o4 미니' 환각 현상 심각 '역주행' 논란 [이코노믹데일리] 챗GPT 개발사 오픈AI가 새롭게 내놓은 추론형 인공지능(AI) 모델 'o3'와 'o4 미니'에서 환각 현상이 이전 버전보다 더 심화된 것으로 나타났다. 환각은 AI가 사실이 아닌 정보를 사실처럼 제시하는 현상을 말한다. 19일(현지시간) 테크크런치 보도에 따르면, 오픈AI 자체 평가 결과 o3는 질문의 33%, o4 미니는 무려 48%에서 환각을 보였다. 이는 기존 모델인 o1(16%)과 o3 미니(14.8%) 대비 두세 배 높은 수치다. 기존 비추론 모델인 GPT-4o보다도 환각 빈도가 높게 나타났다. 이 모델들은 '이미지로 사고할 수 있는 첫 모델'로 소개되며 이미지 분석 및 코딩 능력 등에서 향상된 성능을 보였다. 하지만 정작 AI의 기본적 신뢰성과 직결되는 환각 문제는 오히려 악화된 것이다. 오픈AI는 이러한 환각 악화 현상의 정확한 원인을 파악 중이며, "더 많은 연구가 필요하다"고 밝혔다. 다만, 현재까지는 이 모델들이 "전반적으로 더 많은 주장을 하기에 부정확하거나 환각적인 주장을 하는 경우도 늘었다"고 설명했다. 업계에서는 주요 AI 기업들이 추론형 모델 개발에 집중하는 상황에서 이번 결과가 향후 추론형 AI의 신뢰성에 대한 우려를 키울 수 있다고 지적한다. 답변의 정확성이 특히 중요한 세무, 회계, 법조계 등에서는 환각 이슈가 해결되지 않을 경우 추론형 AI 사용에 제약이 따를 수 있다. 이에 대해 오픈AI는 "모든 문제에서 환각 해결은 지속적인 연구 분야"라며 "정확성과 신뢰성 개선을 위해 노력하고 있다"고 해명했다.2025-04-21 09:08:17
-
아마존, 생성형 AI 모델 '노바'로 기술 경쟁 본격화 [이코노믹데일리] 아마존이 3일(현지시간) 새로운 생성형 인공지능(AI) 모델 '노바'를 발표하며 오픈AI와 구글이 주도하는 AI 시장에 도전장을 내밀었다. 동시에 계열사 아마존웹서비스(AWS)는 AI 반도체 '트라이니엄3'를 내년 출시할 계획을 밝혀 엔비디아가 강세를 보이는 AI 칩 시장을 정조준했다. 앤디 제시 아마존 CEO는 이날 미국 라스베이거스에서 열린 'AWS 리인벤트 2024'에서 "최첨단 기술로 일상생활을 혁신할 아마존 노바를 소개하게 되어 기쁘다"고 말하며 생성형 AI의 다양한 가능성을 강조했다. 아마존의 노바는 텍스트 전용 모델부터 복잡한 멀티모달 모델까지 다양한 버전을 포함한다. 노바는 △저렴하고 빠른 텍스트 전용 모델 '마이크로', △이미지·비디오·텍스트 입력이 가능한 초저가 모델 '라이트', △정확성과 비용 효율성을 겸비한 고성능 모델 '프로', △복잡한 추론 작업에 적합한 '프리미어'로 구성돼 있다. 특히 프리미어 모델은 내년 1분기에 출시될 예정이다. 노바는 생성형 콘텐츠에도 특화됐다. △이미지 편집과 스튜디오 품질의 이미지를 생성하는 '캔버스', △텍스트와 이미지를 활용해 전문가 수준의 동영상을 제작할 수 있는 '릴' 등 두 가지 창의적 콘텐츠 생성 모델이 포함됐다. AWS CEO 매트 가먼은 "노바는 AI의 새로운 기준을 제시할 모델"이라며 AI 시장에서의 기술 경쟁력을 강조했다. 아마존은 AI 모델 훈련에 필수적인 반도체 성능도 한층 강화한다. 트라이니엄3는 3나노미터 공정으로 제작된 최초의 AWS 칩으로 기존 Trn2 울트라 서버 대비 4배 이상의 성능을 제공할 예정이다. 가먼 CEO는 "트라이니엄3는 성능과 전력 효율성 면에서 새로운 기준을 제시할 것"이라며 향후 AI 기술 발전에 기여할 가능성을 시사했다. 이어 애플과의 장기 협력 사실을 처음으로 공개하며 "AWS의 '그래비톤3' 칩을 통해 40% 이상의 효율성을 '인퍼런시아2' 칩으로는 2배 이상의 효율성을 달성했다"고 밝혔다. 브누아 뒤팽 애플 머신러닝 및 AI 수석 디렉터는 "AWS 칩은 AI 모델 운영의 효율성을 크게 높이고 있다"고 덧붙였다. 아마존은 생성형 AI 모델의 단점인 '환각 현상'(잘못된 정보를 사실처럼 제시하는 오류)을 해결하기 위해 '자동화 리즈닝 체크(Automated Reasoning Checks)'를 도입했다. 이를 통해 AI 모델의 신뢰성과 안전성을 강화한다는 방침이다. 아마존은 내년 초 새로운 데이터베이스 서비스 '오로라 DSQL'과 스토리지 솔루션 '아마존 S3'를 출시할 예정이다. 또한 내년 말에는 성능이 한층 강화된 P6 인스턴스도 공개될 예정이다. 한편 아마존의 이번 발표는 AI 기술의 진화와 시장 지형 변화의 분수령이 될 것으로 보인다.2024-12-04 08:16:37
많이 본 뉴스
영상
Youtube 바로가기
![[데스크 칼럼] 흥국에 드리운 복귀의 망령…금융 농락 이호진 전 회장에게 경영을 또 맡기겠다고?](https://image.ajunews.com/content/image/2025/04/25/20250425144937563130_518_323.jpg)