검색결과 총 30건
-
전 세계로 번진 xAI '그록' 딥페이크 논란…美 캘리포니아 조사 착수
[이코노믹데일리] 일론 머스크가 이끄는 xAI의 인공지능 모델 '그록'을 둘러싼 논란이 전 세계로 확산되고 있다. 단순한 기술 경쟁을 넘어 발언 수위와 안전성, 데이터 활용 방식, 법적 책임 문제까지 겹치며 각국 정부와 사법 당국이 동시에 대응에 나서는 양상이다. 14일(현지시간) 롭 본타 캘리포니아주 법무장관은 "AI 모델 그록을 이용해 제작된 성적으로 노골적인 이미지 확산에 대한 조사를 개시한다"며 그록의 성적 이미지 생성 논란에 대한 조사에 나섰다. 이어 그는 "xAI가 소셜미디어 플랫폼 엑스(X·옛 트위터)를 포함한 인터넷 전반에서 여성과 소녀들을 괴롭히는 데 사용되는 대규모 딥페이크 이미지 제작을 가능하게 하는 것으로 보인다"며 "최근 몇 주간 이런 이미지들에 대한 폭로가 쏟아지고 있는 상황은 충격적"이라고 강조했다. 그록은 X와 연동된 대화형 AI로, 실시간성에 가까운 데이터 접근과 직설적인 응답 스타일을 강점으로 내세웠다. 그러나 이 같은 특징은 곧바로 논란으로 이어졌다. 일부 국가와 지역에서 정치적 민감 사안, 폭력적 표현, 허위 정보에 가까운 답변이 노출되며 AI 안전성 논쟁의 중심에 섰다. 한국 정부도 이번 문제에 민감한 반응을 보였다. 방송미디어통신위원회는 14일 소셜 플랫폼 X에 공문을 보내며 안전장치 마련, 청소년 접근 제한, 관리 조치 등을 요청하며 경고에 나섰다. 또한 정부는 학습 데이터의 출처, 유해 콘텐츠 차단 기준, 국내 이용자 대상 서비스 제공 시 책임 구조 등에 대한 설명과 개선을 요청한 것으로 알려졌다. 김종철 방미통위원장은 "새롭게 도입되는 신기술이 건전하고 안전하게 발전하는 데 도움이 되도록 적극 지원하겠다"며 "AI 서비스 제공자를 대상으로 성범죄물 등 불법정보 유통 방지 및 청소년 보호 의무를 부과하는 제도 개선을 추진하겠다"고 말했다. 동남아시아에서도 파장이 컸다. 인도네시아에서는 그록이 종교·사회적으로 민감한 주제에 대해 부적절하거나 편향된 답변을 내놓았다는 지적이 제기되며, 정부 차원의 검토가 이뤄졌다. 인도네시아 당국은 해외 AI 모델이 자국 내 사회적 갈등을 증폭시킬 가능성을 우려하며 콘텐츠 관리 체계와 현지 법규 준수 여부를 점검한 것으로 알려졌다. 일부에서는 서비스 제한이나 규제 가능성까지 거론된다. 기술적 논란도 여전히 현재진행형이다. 일부 전문가들은 그록의 응답 패턴과 결과물이 기존 대형언어모델과 유사하다는 점을 들어 학습 과정의 투명성을 요구하고 있다. 이에 대해 xAI는 독자적인 모델 설계와 학습 방식을 강조하고 있지만 외부 검증 요구는 쉽게 가라앉지 않는 분위기다. 업계에서는 그록 논란을 특정 모델의 일탈이 아니라 차세대 AI 경쟁이 맞닥뜨린 구조적 문제로 해석하는 시각이 많다. 실시간 데이터와 결합된 AI가 확산될수록, 성능보다 안전성과 규제 대응 능력이 핵심 경쟁력이 되고 있기 때문이다. 국가와 지역별로 다른 법·문화적 기준을 어떻게 반영할지도 주요 과제로 떠오르고 있다. 이번 논란에 대해 일론 머스크 X 대표는 자신의 X 계정 게시물에 "나는 그록이 생성한 미성년자 노출 이미지에 대해 전혀 알지 못한다"며 "말 그대로 '제로'"라고 강조했다. 이어 "분명히 그록은 스스로 이미지를 생성하지 않으며 오직 사용자 요청에 따라 생성한다"며 "이미지 생성을 요청받을 때 그록은 해당 국가나 주(州)의 법률을 준수하는 운영 원칙에 따라 어떤 불법적인 것도 생성하기를 거부할 것"이라고 설명했다.
2026-01-15 07:53:55
-
-
-
-
-
-
-
-
-
-
-
-
-
방미통위발 '청소년 SNS 규제' 검토…네이버·카카오 등 IT 플랫폼 사업 환경 변화 예고
[이코노믹데일리] 방송미디어통신위원회(방미통위) 위원장 예비 후보자가 국회 인사청문회 과정에서 ‘청소년 SNS 접속 금지법’ 도입 검토 의지를 밝히면서 국내 IT 플랫폼 업계 전반에 적잖은 파장이 예상된다. 해당 규제가 현실화될 경우 네이버·카카오 등 국내 플랫폼의 서비스 구조에도 직접적인 영향을 미칠 수 있다는 분석이 나온다. 17일 업계에 따르면 김종철 방미통위 위원장 후보자는 16일 열린 인사청문회에서 청소년 보호 필요성을 강조하며 SNS 플랫폼의 사회적 책임 강화를 언급했다. 단순 권고 수준을 넘어 법·제도 검토 가능성을 시사한 발언으로 향후 방미통위 정책 방향을 가늠할 수 있는 신호로 해석된다. 플랫폼 산업을 둘러싼 규제 논의가 본격적인 정책 의제로 부상할 가능성이 커졌다는 평가다. 김 후보자는 “정보통신기술 발달이 청소년의 SNS 과몰입과 휴대전화 의존, 확증편향 심화 등 전 지구적인 부작용을 초래하고 있다”며 “호주처럼 플랫폼 기업 자체에 막대한 벌금을 부과하는 등 기업 제재 방안도 검토할 필요가 있다”고 말했다. 국내에는 이미 유사한 규제 전례가 있다. 한국은 2011년 청소년의 게임 이용을 제한하는 ‘셧다운제’를 도입했지만 실효성 논란과 기본권 침해 문제로 도입 10년 만인 2021년 해당 제도를 폐지했다. 당시에도 규제에 따른 기업 부담과 우회 이용 문제가 지적된 바 있어 이번 SNS 규제 논의 역시 유사한 논쟁이 반복될 수 있다는 지적이 제기된다. 다만 이번 논의는 국제적 흐름과 맞물려 있다는 점에서 과거와는 다르다는 분석도 나온다. 호주는 16세 미만 청소년의 SNS 이용을 전면 제한하는 방안을 추진 중이며 유럽연합(EU) 역시 SNS 최소 이용 연령 상향, 부모 동의 의무화, 연령 인증 강화 등을 논의하고 있다. 청소년 보호를 명분으로 한 플랫폼 규제가 글로벌 공통 과제로 부상하면서 한국 역시 이 흐름에서 자유롭기 어렵다는 시각이다. 규제 명분도 일정 부분 뒷받침된다. 국제 아동·청소년 정신건강 학술지와 MDPI, JAMA 등 해외 연구에서는 SNS 과다 사용이 청소년의 우울감, 수면 장애, 학습 집중력 저하 등과 상관관계가 있다는 결과가 잇따라 보고됐다. 이에 플랫폼 기업이 청소년 이용 환경에 대해 보다 적극적인 보호 장치를 마련해야 한다는 요구도 커지고 있다. 네이버와 카카오는 메타(인스타그램), 틱톡, X(옛 트위터)처럼 전통적인 SNS 사업자는 아니지만 카페·밴드·오픈채팅 등 일부 소셜 기능이 규제 대상에 포함될 가능성이 있다. 규제가 기업 단위가 아닌 서비스 단위로 설계될 경우 국내 플랫폼 역시 직접적인 영향권에 들어갈 수 있다는 전망이다. 청소년 이용 비중이 높은 네이버의 ‘카페’, ‘밴드’, 카카오의 ‘카카오톡 오픈채팅’, ‘카카오스토리’ 등이 대표적인 사례로 거론된다. 실제로 현재 국회에서 논의 중인 청소년 SNS 규제 법안들은 사업자 구분보다는 이용자 간 소통 구조, 콘텐츠 공유·확산 방식, 추천 알고리즘 개입 여부 등을 기준으로 규제 대상을 설정하는 방향에 초점이 맞춰져 있다. 이 경우 메신저나 커뮤니티 서비스라도 불특정 다수와의 소통이 가능하거나 피드·추천 기능을 갖춘 서비스는 규제 범주에 포함될 가능성이 높다. 카카오 관계자는 “관련 법이 제정된다면 사회적 합의가 이뤄진 것으로 볼 수 있고 그에 따라 서비스 운영 방식도 달라질 수 있다”며 “SNS 사업자들은 국내에서 관련 법이 제정될 경우 논의 결과에 따를 수밖에 없다”고 말했다.
2025-12-17 14:49:08
-