2025.09.17 수요일
검색
'청소년 보호' 검색결과
기간검색
-
~
검색영역
검색어
-
오픈AI, 美 FTC 조사·소송 압박에…'10대 전용 챗GPT' 이달 말 출시 [이코노믹데일리] 챗GPT 개발사 오픈AI가 청소년 보호를 위한 칼을 빼 들었다. 18세 미만 사용자를 위한 전용 챗GPT를 이달 말 출시하고 부모가 자녀의 챗봇 사용을 직접 관리할 수 있는 강력한 보호 기능을 도입한다. 이번 조치는 최근 미국 규제 당국의 조사와 이용자 소송 등 AI가 청소년에게 미치는 유해성에 대한 사회적 압박이 거세지는 가운데 나온 선제적 대응으로 AI 시대의 ‘책임’에 대한 중대한 이정표가 될 전망이다. 오픈AI는 16일(현지시간), 미성년자로 확인된 사용자를 자동으로 연령에 맞는 챗GPT 환경으로 안내하는 새로운 시스템을 도입한다고 밝혔다. 이 보호 모드에서는 선정적이거나 폭력적인 콘텐츠가 원천 차단되며 사용자가 심각한 위기 상황에 처한 것으로 판단될 경우 법 집행 기관이 개입할 수 있는 안전장치까지 마련된다. 이번 업데이트의 핵심은 부모의 직접적인 개입과 통제가 가능해졌다는 점이다. 부모는 자신의 챗GPT 계정을 자녀의 계정과 연결해 △자녀가 챗봇을 사용할 수 없는 시간(취침 시간 등)을 설정하고 △챗봇이 너무 단정적이거나 인간적인 감정을 표현하지 않도록 응답 방식을 유도할 수 있다. 특히 자녀가 심각한 정신적 고통을 겪고 있다고 AI가 판단할 경우 부모에게 즉시 알림을 보내는 기능까지 포함돼 AI를 통한 자녀의 심리 상태 모니터링이라는 새로운 차원의 보호 기능을 제공한다. 오픈AI의 이번 조치는 최근 거세진 외부 압박과 무관하지 않다. 미국 연방거래위원회(FTC)는 지난 8월 오픈AI를 포함한 주요 기술 기업들을 대상으로 AI 챗봇이 어린이와 청소년에게 미치는 잠재적 악영향에 대한 대대적인 조사를 시작했다. FTC는 이들 기업이 “챗봇의 안전성을 평가하기 위해 어떤 조치를 취했는지 파악할 필요가 있다”며 자료 제출을 요구한 바 있다. 여기에 지난달에는 챗GPT와 수개월간 상호작용한 아들의 사망에 오픈AI가 책임이 있다며 한 학부모가 제기한 소송에 피고가 되는 등 AI의 유해성에 대한 법적 책임 문제까지 불거진 상황이다. 샘 올트먼 오픈AI 최고경영자(CEO)는 이날 블로그를 통해 이번 결정이 쉽지 않았음을 인정하며 회사의 입장을 투명하게 밝혔다. 그는 “우리는 10대들의 사생활이나 자유보다 안전을 우선시한다”며 “이것은 새롭고 강력한 기술이며 미성년자에게는 상당한 보호가 필요하다고 믿는다”고 적었다. 이어 “(18세 미만 전용 챗GPT는) 어려운 결정이지만 전문가들과 논의한 결과 이것이 최선이라고 생각하며 우리의 의도를 투명하게 밝히고 싶다”고 덧붙였다. 결국 오픈AI는 ‘혁신의 자유’보다 ‘사용자 보호’라는 사회적 책임을 선택한 셈이다. AI 기술의 선두 주자인 오픈AI가 내놓은 이번 청소년 보호 대책은 향후 구글, 메타 등 다른 AI 개발사들의 정책에도 상당한 영향을 미칠 것으로 보인다.2025-09-17 08:00:11
-
"카톡으로 '온라인 그루밍'하면 영구정지"…카카오, 청소년 보호 칼 뺐다 [이코노믹데일리] 카카오가 아동 및 청소년 보호를 강화하기 위해 ‘카카오톡 운영정책’을 개정한다고 19일 밝혔다. 개정된 정책은 지난 16일 공지됐으며 오는 6월 16일부터 적용될 예정이다. 이번 정책 개정은 아동 및 청소년 보호를 최우선으로 두고 불법 정보 유통 방지 등 부적절한 활동에 대한 대응과 제재 기준을 강화하는 데 중점을 뒀다. 주요 개정 내용은 △아동 및 청소년 대상 성착취 목적의 대화(일명 ‘온라인 그루밍’) 관련 세부 금지 행위 명시 및 제재 대상 확대 △성매매 및 성착취 목적의 대화 등에 대한 금지 행위 추가 △테러 예비, 음모 선동, 선전 행위 및 폭력적 극단주의 정보 공유 금지 △불법 채권 추심 행위 금지 등이다. 특히 카카오는 ‘아동 및 청소년 대상 성착취 목적의 대화’ 관련 정책 적용 대상을 아동 및 청소년 간의 대화에도 확대 적용한다. 또한 성적 암시, 과도한 친밀감 표현, 개인정보 요청, 다른 채팅 플랫폼으로의 이동 제안 등을 구체적인 금지 행위로 명시했다. 이 밖에도 아동 및 청소년이 스스로 성범죄 위험에 노출되는 상황을 방지하기 위해 다른 이용자에게 금품이나 재산상의 이익, 편의 제공 등을 요청하거나 대가성 성적 만남을 제안하는 행위도 금지 항목에 포함했다. 카카오는 아동 및 청소년 성범죄에 대해 무관용 원칙을 적용하고 있으며 이용자 또는 기관 등의 신고를 통해 위반 행위가 확인되면 해당 이용자는 즉시 카카오톡 전체 서비스 이용이 영구적으로 제한될 수 있다. 또한 아동 및 청소년 대상 성범죄 관련 정책을 위반한 이력이 확인된 이용자는 카카오톡 재가입 이후에도 오픈채팅 서비스 이용이 영구적으로 제한될 수 있다고 강조했다. 한편 카카오는 지난 4월 아동 및 청소년 보호 강화를 위해 미성년자 보호 조치 간소화 프로세스를 도입한 바 있다. 이를 통해 법정대리인의 신청만으로 아동 및 청소년의 오픈채팅 이용을 제한할 수 있게 됐으며 보호 조치 적용 기간도 기존 180일에서 1년으로 연장했다. ‘카카오 고객센터’에는 별도 카테고리를 신설하고 신청 절차 및 제출 서류도 대폭 간소화했다. 손성희 카카오 청소년보호책임자는 “이용자들이 보다 안전하고 신뢰할 수 있는 환경에서 카카오톡을 이용할 수 있도록 서비스와 운영정책을 지속적으로 점검하고 개선하고 있다”며 “앞으로도 이용자 프라이버시 및 안전 간 균형을 고려해 최적의 이용 환경을 제공할 수 있도록 노력할 것”이라고 밝혔다.2025-05-19 18:21:56
-
메타, 인스타그램 이어 페이스북·메신저에도 '10대 계정' 도입 [이코노믹데일리] 메타플랫폼이 8일(현지시간) 자사의 소셜미디어(SNS) 플랫폼인 페이스북과 메신저에 ‘10대 계정’(Teen Accounts)을 확대 도입한다고 발표했다. ‘10대 계정’은 14~18세 청소년 이용자의 안전과 프라이버시를 보호하기 위해 마련된 SNS 계정 유형이다. 지난해 인스타그램에 처음 도입됐으며 국내에는 지난 1월부터 적용된 바 있다. 이 계정은 청소년의 SNS 사용 시간과 콘텐츠 노출에 대한 우려를 해소하기 위한 것으로 개인정보 보호와 부모 통제 기능이 포함돼 있다. 해당 계정이 적용되면 자동으로 비공개 모드로 전환되며 청소년 이용자는 팔로우하거나 이미 연결된 사람에게만 메시지를 받을 수 있다. 또한 폭력적이거나 민감한 내용이 포함된 유해 콘텐츠는 차단돼 시청할 수 없다. 특히 SNS를 60분 이상 사용할 경우 앱 종료를 유도하는 알림이 표시되며 오후 10시부터 오전 7시까지는 모든 알림이 차단되는 ‘사용 제한 모드’가 적용된다. 부모는 자녀의 대화 상대를 확인하고 앱 이용 시간을 직접 조절할 수 있다. 14~16세 이용자의 경우 부모의 동의 하에 계정을 공개로 전환할 수 있으며 17세 이상은 본인이 직접 설정을 변경할 수 있다. 메타는 미국, 영국, 호주, 캐나다 등 일부 국가에 먼저 해당 기능을 도입한 뒤 추후 다른 지역으로 확대 적용할 계획이다. 확대 도입되는 10대 계정에는 새로운 청소년 보호 기능도 탑재된다. 앞으로 16세 미만 청소년이 라이브 방송을 진행하려면 부모의 승인을 받아야 하며 다이렉트 메시지(DM)에서 부적절한 이미지는 자동으로 모자이크 처리된다. 이 기능 역시 부모의 동의 없이는 해제할 수 없다. 메타는 “새로운 기능은 향후 수개월 안에 순차적으로 적용될 예정”이라고 밝혔다. 한편 ‘10대 계정’은 메타가 자사 SNS 플랫폼에서 청소년의 중독성을 유도했다는 비판이 거세지며 등장했다. 지난해 10월, 미국 캘리포니아주를 포함한 33개 주 정부는 “메타의 SNS 플랫폼이 과도한 중독성을 유발해 청소년의 정신 건강에 악영향을 끼치고 있다”며 메타를 상대로 소송을 제기한 바 있다. 유럽연합(EU)도 페이스북과 인스타그램이 미성년자에게 중독을 유발할 수 있다며 공식 조사에 착수했다. 메타는 지난해 9월 이후 전 세계에서 약 5400만명이 10대 계정을 사용하고 있으며 해당 기능에 대해 응답한 부모의 94%가 “도움이 됐다”고 답했다고 밝혔다.2025-04-09 09:29:15
많이 본 뉴스
영상
Youtube 바로가기
![[데스크 칼럼] 가짜 기지국의 공포, 통신사를 넘어 국가 인증 시스템의 위기](https://image.ajunews.com/content/image/2025/09/16/20250916164232794659_518_323.jpg)