2026.02.20 금요일
검색
'이미지생성AI' 검색결과
기간검색
-
~
검색영역
검색어
-
머스크 AI '그록', 아동 비키니 이미지 생성 논란... 긴급 수정 착수 [이코노믹데일리] 일론 머스크 테슬라 최고경영자(CEO)가 이끄는 인공지능(AI) 기업 xAI의 챗봇 '그록(Grok)'이 아동 성적 대상화 이미지를 생성해 파문이 일고 있다. 4일(한국시간) CBS뉴스 등 외신에 따르면 그록은 지난달 28일 일부 이용자의 요청에 따라 비키니 수영복 등 최소한의 옷만 걸친 미성년자 이미지를 다수 생성해 게시했다. 해당 이미지에는 12~16세 추정 청소년뿐만 아니라 1~2세 영유아로 보이는 아동이 선정적인 옷차림을 한 모습까지 포함된 것으로 알려져 충격을 주고 있다. 그록은 당초 아동을 성적으로 대상화하는 이미지 생성을 차단하는 안전장치를 갖추고 있었다. 그러나 일부 이용자들이 프롬프트(명령어)를 조작해 이를 우회하자 무방비로 뚫린 것으로 파악된다. 문제를 인지한 xAI 측은 엑스(X·옛 트위터) 공식 계정을 통해 "안전장치의 허점을 확인했다"며 "긴급히 수정 작업을 진행 중"이라고 밝히고 문제가 된 이미지들을 삭제 조치했다. 이번 사태를 두고 업계에서는 예견된 사고라는 비판이 나온다. 오픈AI의 챗GPT나 구글의 제미나이 및 앤트로픽의 클로드 등 경쟁 AI들이 성적 콘텐츠 생성을 엄격히 제한하는 것과 달리 그록은 '표현의 자유'를 내세워 상대적으로 느슨한 윤리 기준을 적용해 왔기 때문이다. xAI는 지난해 영상 생성 플랫폼 '그록 이매진'을 통해 자극적인 표현이 가능한 '매운맛 모드(Spicy Mode)'를 선보이는 등 논란을 자초한 바 있다. 미국 연방법은 아동 성적 대상화 이미지의 생성과 소지 및 유통을 엄격히 금지하고 있다. 전문가들은 이번 사건이 단순한 기술적 오류를 넘어 AI 기업의 윤리적 책임론과 법적 제재 논의를 가속화할 것으로 전망했다.2026-01-04 14:06:42
-
"나노 바나나 제쳤다"… 오픈AI, 문자·표 완벽히 그리는 이미지 도구 공개 [이코노믹데일리] 챗GPT 개발사 오픈AI가 구글의 추격을 따돌리기 위해 이미지 생성 인공지능(AI) 도구의 성능을 대폭 강화한 신버전을 내놨다. 구글이 경쟁 모델을 선보인 지 불과 한 달도 안 돼 맞불을 놓으며 생성형 AI 시장의 주도권 경쟁이 최고조에 달하고 있다. 오픈AI는 16일(현지시간) 기존 도구의 기능을 획기적으로 개선한 'GPT-이미지 1.5'를 출시한다고 밝혔다. 이는 구글이 지난달 유사한 기능을 갖춘 '나노 바나나 프로'를 공개한 지 26일 만의 반격이다. 이번 업데이트는 샘 올트먼 CEO가 사내에 발령한 비상경영 체제인 '코드레드(Code Red)'의 일환으로 풀이된다. 새로 출시된 GPT-이미지 1.5의 핵심은 '정밀 편집' 능력이다. 사용자가 프롬프트(명령어)를 입력해 기존 이미지의 전체적인 구도나 피사체는 유지한 채 특정 세부 사항만 정교하게 수정할 수 있다. 예를 들어 스케이트보드를 타는 남성의 이미지를 생성한 뒤 "모자 색깔만 빨간색으로 바꿔줘"라고 지시하면 나머지 배경이나 인물의 자세는 그대로 둔 채 모자 색상만 변경된다. 또한 사진 속 인물을 캐릭터화하여 포스터 등 다양한 콘텐츠로 재생산하는 작업도 가능해졌다. 그동안 생성형 AI의 고질적인 약점으로 지적되던 텍스트와 도표 묘사 능력도 크게 향상됐다. 이전 버전에서는 "가로 6칸 세로 6줄의 표를 그려달라"는 요청에 일부 칸을 누락하거나 선을 뭉개는 오류가 잦았으나 새 버전은 이를 정확하게 구현한다. 구글 나노 바나나 프로의 강점이었던 문자 표현 기능도 대폭 강화해 텍스트가 포함된 인포그래픽이나 로고 디자인 등 실무 영역에서의 활용도가 높아질 전망이다. 시장의 반응은 즉각적이었다. 전 세계 이용자들이 블라인드 테스트를 통해 AI 모델의 성능을 평가하는 'LM아레나 리더보드'에서 GPT-이미지 1.5는 공개 직후 구글의 나노 바나나 프로를 제치고 1위 자리를 탈환했다. 오픈AI는 이날부터 전 세계 사용자에게 순차적으로 업데이트를 적용하고 챗GPT 인터페이스 왼쪽에 '이미지' 탭을 신설해 사용성을 개선했다. 다만 샘 올트먼 CEO는 지난 11일 텍스트 모델인 'GPT-5.2'를 공개하고 이번에 이미지 도구까지 업데이트했음에도 사내 코드레드를 해제하지 않았다. 그는 내년 1월 초 또 다른 핵심 AI 모델 업데이트를 마친 후 비상 체제를 종료할 방침인 것으로 알려졌다. 한편 경쟁사들의 움직임도 분주하다. 어도비는 같은 날 자사 이미지 생성 도구 '파이어플라이'에 AI 기업 토파즈랩스의 '아스트라' 모델을 적용했다. 이를 통해 텍스트 명령만으로 동영상을 생성하고 영상 내 일관성을 유지하며 정밀 수정이 가능한 기능을 선보여 멀티모달 경쟁에 가세했다.2025-12-17 08:12:28
많이 본 뉴스
영상
Youtube 바로가기
![[視線] 축소 사회의 유일한 출구, 행정 통합이라는 생존 카드](https://image.ajunews.com/content/image/2026/02/16/20260216082826351242_518_323.png)