2025.05.02 금요일
검색
'악성 댓글' 검색결과
기간검색
-
~
검색영역
검색어
-
네이버, 뉴스 댓글 반응 급증 감지 기능 도입 [이코노믹데일리] 네이버가 뉴스 댓글 공간에서 특정 이용자 반응이 비정상적으로 급증하는 현상을 언론사가 실시간으로 파악하고 대응할 수 있도록 지원하는 새로운 기능을 선보인다. 네이버는 오는 29일부터 ‘댓글 반응 급증 감지 기사’ 기능을 스마트콘텐츠스튜디오에 도입한다고 28일 밝혔다. 이 기능은 특정 기사의 댓글 중 일정 기준 이상으로 공감 또는 비공감이 집중되는 경우를 자동으로 탐지하여 언론사에 알리는 시스템이다. 이를 통해 언론사는 댓글 여론의 이상 흐름을 신속하게 인지하고 필요한 경우 댓글 운영 방식을 조정할 수 있게 된다. 이 기능이 작동하면 댓글 반응 급증이 감지된 기사의 댓글 영역 상단에는 ‘이용자 반응이 급증한 댓글이 있습니다’라는 안내 문구가 노출되어 일반 이용자들도 해당 상황을 인지할 수 있다. 관련 정보는 언론사 담당자가 스마트콘텐츠스튜디오 내 ‘댓글운영 > 이용자 반응 감지’ 메뉴에서 확인할 수 있으며 최근 24시간 내 감지된 기사 중 최대 5개까지 최신순으로 표시된다. 언론사는 이 정보를 바탕으로 개별 기사의 댓글 정렬 방식을 기존의 공감순 외에 최신순, 과거순 등으로 직접 변경할 수 있다. 변경 설정은 해당 기사에만 적용되며, 설정을 해제하면 원래 섹션 기준의 정렬 방식으로 복원된다. 또한 감지된 기사 목록은 알림 메일로도 제공받을 수 있으며 각 언론사는 필요에 따라 메일 수신 여부와 주기(실시간, 일간)를 설정할 수 있어 보다 효율적인 대응이 가능해질 전망이다. 이번 조치는 지난 18일 국회 과학기술방송통신위원회 전체회의에서 최수연 네이버 대표가 언급했던 내용의 후속 조치다. 당시 최 대표는 "정상적인 뉴스 공감 행위가 아닌 비정상적으로 트래픽이 급증할 때는 해당 댓글창 자체를 운영하는 언론사에 즉시 그 내용을 알려주고 이용자들이 알 수 있도록 알리는 방식을 운영할 예정"이라고 밝힌 바 있다. 네이버 측은 “이번 기능은 베타 버전으로 출시되며 앞으로 다양한 이용자와 언론사의 의견을 경청하면서 감지 기준을 고도화하고 기능을 지속적으로 확장·발전시켜 나갈 계획”이라고 설명했다. 이어 “건강한 소통의 장을 구축하기 위해 노력하겠다”고 덧붙였다. 네이버는 댓글 공간의 순기능 확대를 위해 인공지능 기반 악성 댓글 탐지 시스템 ‘클린봇’ 운영, 댓글 공감 클릭 시 시간 및 횟수 제한 도입, 매크로 방지를 위한 캡챠(CAPTCHA) 적용 등 다양한 기술적·제도적 노력을 기울여왔다고 강조했다.2025-04-28 17:40:20
-
네이버, 대형 참사·인명사고 기사 악플과의 전쟁 선포... 탐지 기술 고도화 및 예방 총력 [이코노믹데일리] 네이버가 대형 참사를 포함한 인명사고 기사에 대한 악성 댓글(악플) 근절을 위해 팔을 걷어붙였다. 악플 탐지 기술을 고도화하고 언론과의 협력을 통해 예방 조치를 강화하는 등 전방위적인 대응에 나선다. 네이버는 24일 악플 증가 기사를 감지하는 '클린봇 옵저버' 베타 서비스에 대형 참사 및 인명사고 보도에 대한 악플 감지 및 알림 기능을 1분기 내에 강화하겠다고 밝혔다. 이는 지난해 연말 발생한 제주 항공 참사 당시 약 30개 언론사가 댓글 제공 중단 기능을 사용하는 등, 인명사고 기사에 대한 악플 문제가 지속적으로 제기된 데 따른 조치다. 네이버는 인명사고와 관련한 2차 피해를 방지하기 위해 인명사고 기사 탐지 기술을 고도화하여 '클린봇 옵저버'의 기능을 개선할 계획이다. 2019년 업계 최초로 도입된 AI 기반 악성 댓글 탐지 기술 '클린봇'은 문장의 맥락을 파악하여 욕설, 저속한 표현뿐 아니라 선정적, 폭력적, 차별적 표현까지 자동으로 탐지하고 차단하는 역할을 해왔다. 2023년 7월부터는 댓글 작성 시도 수와 악플 비율을 계산하여 악플 위험도가 높은 기사를 선별하고 언론사에 알리는 '클린봇 옵저버' 베타 서비스를 운영 중이다. 나아가 네이버는 언론 협회 및 단체와의 협의를 통해 인명사고 보도 시 악플 예방 문구를 삽입하는 방안을 추진한다. 현재 자살 관련 기사에 삽입되는 자살 예방 정보 문구와 유사한 형태로 인명사고 기사에도 악플 방지를 위한 안내 문구를 추가할 예정이다. 네이버는 2023년 9월부터 '자살 예방 보도 준칙'에 따라 자살 관련 기사에 자살 예방 배너를 삽입하고 댓글 및 추천 스티커 기능을 제한해 왔다. 또한 첨예한 사회적 갈등이나 의견 대립이 감지되는 기사에 대한 대응도 강화한다. 일정 기준 이상 공감 및 비공감이 빠르게 증가하는 기사의 경우 언론사에 알림을 통해 댓글 정렬 방식을 변경하도록 유도할 계획이다. 더불어 악플 예방 문구가 삽입된 기사를 자동으로 대형 참사 또는 인명사고 기사로 인식하여 해당 기사의 댓글을 자동적으로 닫는 방안도 검토 중인 것으로 알려졌다. 네이버 관계자는 "네이버는 사회적 이슈가 되는 자살 보도에 대해 생명 존중 문화 조성과 자살 예방을 위해 노력해왔다"며 "앞으로도 대형 참사를 포함한 인명 사고 기사에 악플이 근절될 수 있도록 클린봇 고도화는 물론 정책적, 기술적 노력을 지속적으로 기울일 것"이라고 강조했다.2025-01-24 16:31:49
-
네이버 자율규제위원회, '그린인터넷' 고도화 논의…투명성 및 신뢰도 제고 강조 [이코노믹데일리] 네이버가 이용자 보호 서비스 ‘그린인터넷’의 발전 방향을 논의하기 위해 ‘네이버 이용자보호 및 자율규제위원회(이하 네이버 자율규제위원회)’의 10차 정기회의를 최근 개최했다고 26일 밝혔다. 이번 회의에는 권헌영 고려대학교 정보보호대학원 교수(네이버 자율규제위원회 위원장)를 비롯한 위원 전원과 임남정 네이버 그린UGC 리더 등이 참석하여 ‘그린인터넷’ 캠페인의 운영 현황과 제도 전반에 대한 심도 있는 논의를 진행했다. 2007년부터 시작된 ‘그린인터넷’ 캠페인은 네이버의 다양한 운영 정책과 이용자 보호 활동을 포괄하는 핵심 서비스로 자리매김했다. AI 기술을 활용한 음란물 등 유해 콘텐츠 차단, 악성 댓글 탐지, 저작물 보호 등이 주요 활동이며 이용자들의 올바른 인터넷 사용 문화 조성을 위한 다양한 캠페인도 함께 전개하고 있다. 네이버 자율규제위원회는 이번 회의에서 ‘그린인터넷’ 서비스의 투명성 강화와 객관적인 신뢰도 제고를 강조했다. 구체적으로는 콘텐츠나 댓글 등에 대한 이용자 제한 조치가 내려질 경우 그 배경 근거와 사유를 이용자에게 보다 명확하게 안내할 것을 권고했다. 또한 이러한 보호 활동의 정확한 지표 관리 체계를 구축하고 이를 공개함으로써 네이버의 노력과 정책에 대한 신뢰도를 높일 필요가 있다고 제언했다. 이에 대해 네이버는 KISO(한국인터넷자율정책기구)와의 협력 하에 진행되는 자율규제와 법적 근거에 기반한 제한 조치를 명확히 구분하여 안내하고 세부 분류 체계를 확립하여 데이터의 정확성을 높이는 등 건전한 인터넷 문화 조성에 더욱 적극적으로 기여할 것을 약속했다. 권헌영 위원장은 “최근 ESG 경영과 기업의 사회적 책임에 대한 관심이 높아지는 상황에서 네이버의 이러한 활동은 매우 의미 있는 노력으로 평가된다”며 “이용자들의 인터넷 사용 환경이 지속적으로 활발해지고 있는 만큼 이용자 보호를 위한 네이버의 직간접적인 노력들을 더욱 정확하고 객관적인 측면에서 알려야 한다”고 강조했다. 한편 네이버 자율규제위원회는 매월 정기회의를 통해 서비스 전반의 사용자 보호 현황을 점검하고 개선 방향을 권고하고 있다. 지난 9월과 10월 회의에서는 소상공인 교육 프로그램 ‘비즈니스 스쿨’과 다크패턴 방지 노력의 성과를 논의했으며 비즈니스 스쿨의 경우 공공기관과의 협력 확대 및 교육을 넘어 상생 생태계 구축까지 나아갈 것을 주문한 바 있다.2024-12-26 10:31:03
많이 본 뉴스
영상
Youtube 바로가기
![[데스크 칼럼] 흥국에 드리운 복귀의 망령…금융 농락 이호진 전 회장에게 경영을 또 맡기겠다고?](https://image.ajunews.com/content/image/2025/04/25/20250425144937563130_518_323.jpg)