총선 앞둔 카카오, 딥페이크 근절 위한 적극 조치 나선다

[이코노믹데일리] 카카오가 오는 4월 총선을 앞두고 딥페이크(가짜 디지털 조작물·사진) 콘텐츠 관리에 적극 나선다. 선거 관련 허위 정보 유통을 차단하기 위한 다각적인 전략을 마련한 것으로, 딥페이크 워터마크 기술 도입, 이용자 대상 캠페인 전개, 신고 기능 강화 등이 주요 내용이다.

카카오는 책임감 있는 인공지능(AI) 활용을 위해 카카오브레인의 이미지 생성형 모델인 ‘칼로(Karlo)’에 비가시성 워터마크를 도입했다. 이 기술은 일반 사용자의 눈에는 보이지 않는 워터마크를 적용하여 딥페이크 콘텐츠의 출처를 추적하고 관리할 수 있도록 한다.

이미 인물 기반 AI 생성물 공유가 활발한 카카오톡 채널 '칼로 AI 프로필' 기능에는 비가시성 워터마크가 적용되었으며, 이미지 생성 웹 기반 전문가 툴 '칼로(Karlo).ai'에도 이달 내 도입될 예정이다.

카카오는 건전한 선거 문화 정착을 위해 이용자 주의를 독려하는 캠페인도 전개한다. 다음 카페, 티스토리, 카카오스토리, 브런치스토리, 다음 뉴스, 다음 총선 특집 페이지, 다음 채널 스튜디오 등 다양한 플랫폼에서 캠페인을 진행하고 있다.

창작자나 이용자가 악의적인 딥페이크를 포함한 선거 관련 허위 정보가 담긴 콘텐츠를 발견한 경우, 공지문 속 링크나 신고하기 팝업 등을 통해 중앙선거관리위원회에 바로 신고할 수 있다. 카카오톡 내에서도 선거 기간 동안 다양한 캠페인을 통해 딥페이크 악용 방지를 홍보하고, 신고 기능을 홍보할 예정이다.

카카오는 이용자 보호를 위해 자체 신고 센터를 24시간 운영하고 있으며, 공개 영역에 딥페이크 영상이나 이미지 등이 확인된 경우 즉각 조치를 취한다. 또한, 딥페이크 관련 키워드 검색 시 유의해야 할 내용을 안내하는 문구를 상단에 띄우는 등, 이용자의 정보 접근 및 활용에 대한 주의를 환기시킨다.

카카오 관계자는 "앞으로 남은 선거 운동 기간 동안 악의적인 딥페이크를 비롯한 허위 조작 정보가 유통되지 않도록 관계 당국과 긴밀하고 적극적인 협의를 지속 이어나가겠다"고 말했다.