2025.09.18 목요일
검색
'안전한 AI 생태계' 검색결과
기간검색
-
~
검색영역
검색어
-
'해킹 사태' 반성 SKT, 글로벌 무대서 'AI 프라이버시' 선언…신뢰 회복 나서 [이코노믹데일리] 최근 대규모 개인정보 유출 사태로 홍역을 치른 SK텔레콤이 글로벌 개인정보보호 무대에서 ‘AI 프라이버시 보호’를 선언하며 신뢰 회복을 위한 강력한 의지를 다졌다. CISO와 CPO를 분리 선임하고 사내 AI 거버넌스 포털을 구축하는 등 최근의 행보와 맞물려 AI 시대의 안전과 신뢰를 선도하겠다는 메시지를 국내외에 각인시키려는 행보로 풀이된다. SK텔레콤은 15일, 개인정보보호위원회가 주최한 ‘글로벌 프라이버시 총회(GPA)’ 사전 행사로 열린 ‘개인정보보호 및 안전활용 선포식’에 참여했다고 밝혔다. GPA는 전 세계 95개국 148개 개인정보 감독기관이 참여하는 최대 규모의 국제 협의체다. 이날 행사에서 차호범 SK텔레콤 개인정보보호최고책임자(CPO)는 국내 주요 기업 및 공공기관 CPO들과 함께 ‘AI 프라이버시 공동선언문’을 발표했다. 이 선언문은 AI 개발 및 활용 과정에서 정보주체의 권리를 보장하고 신뢰를 확보하기 위한 ‘AI 안전 생태계 조성 7대 실천사항’을 담고 있다. SK텔레콤은 최근 글로벌 최고 수준의 정보보호체계 구축을 위해 발 빠르게 움직여왔다. 지난 8월, 기술적 보안을 총괄하는 정보보호최고책임자(CISO)와 개인정보보호법 대응을 담당하는 CPO를 분리 선임하며 전문성과 독립성을 강화했다. 이는 과거 CPO의 역할이 제한적이었다는 개인정보위의 지적을 수용한 조치다. 또한 2024년부터 자체 수립한 AI 거버넌스 원칙 ‘T.H.E. AI’를 경영에 도입한 데 이어 지난 2일에는 AI 서비스의 신뢰성과 안전성을 체계적으로 검증하는 사내 ‘AI 거버넌스 포털’을 공식 오픈했다. 이 포털은 사업팀의 1차 자가진단과 전문가로 구성된 ‘레드팀’의 2차 심층 검토라는 이중 검증 체계를 통해 AI 서비스의 잠재적 위험을 관리한다. 차호범 SK텔레콤 CPO는 “AI 개발과 활용에 필수적인 개인정보처리 과정에 있어 안전과 신뢰를 최우선으로 삼아 안전한 AI 생태계 조성을 위해 지속 노력할 것”이라며 “이를 위해 외부 기관 및 협의회 등과도 적극적으로 협력할 예정”이라고 말했다. 대규모 해킹 사태 이후 뼈를 깎는 쇄신을 약속한 SK텔레콤이 이번 GPA 총회 참여를 계기로 실질적인 변화를 이끌어내고 무너진 고객의 신뢰를 되찾을 수 있을지 귀추가 주목된다.2025-09-15 17:41:53
-
"AI 유해성 막는다" 카카오, 안전 검증 모델 '카나나 세이프가드' 공개 [이코노믹데일리] 카카오가 인공지능(AI) 서비스의 안전성과 신뢰성을 검증할 수 있는 AI 가드레일 모델 ‘카나나 세이프가드’를 개발하고 국내 기업 최초로 모델 3종을 오픈소스로 공개한다고 27일 밝혔다. 최근 다양한 생성형 AI 서비스 출시로 유해 콘텐츠 위험성에 대한 사회적 우려가 커짐에 따라 기술적·제도적 장치를 마련한 것이다. 주요 빅테크 기업들도 생성형 AI로 발생 가능한 위험 요소를 감지하는 특화 모델을 운영 중이다. ‘카나나 세이프가드’는 카카오가 자체 개발한 언어모델 ‘카나나’를 기반 기술로 활용했으며 한국어와 한국 문화를 반영한 자체 구축 데이터셋을 통해 한국어에 특화된 성능을 갖췄다. 카카오는 AI 모델의 정밀도와 재현율을 평가하는 F1 스코어를 기준으로 한국어 성능에서 글로벌 모델 이상의 성과를 기록했다고 설명했다. 이번에 오픈소스로 공개된 모델은 리스크 유형에 따라 유해성과 위험성을 효과적으로 탐지할 수 있는 3종이다. △사용자의 발화 또는 AI 답변에서 증오, 괴롭힘, 성적 콘텐츠 등에 대한 유해성을 탐지하는 ‘카나나 세이프가드’ △개인정보나 지식재산권 등 법적 측면에서 주의가 필요한 요청을 탐지하는 ‘카나나 세이프가드 사이렌’ △AI 서비스를 악용하려는 사용자 공격을 탐지하는 ‘카나나 세이프가드 프롬프트’이며 모두 허깅페이스를 통해 다운로드 가능하다. 카카오는 안전한 AI 생태계 구축에 기여하고자 해당 모델에 상업적 이용과 수정·재배포 등이 자유로운 아파치 2.0 라이선스를 적용했다. 향후 지속적인 업데이트를 통해 모델을 고도화할 예정이다. 김경훈 카카오 AI 세이프티 리더는 "생성형 AI의 등장 이래 기술 발전과 더불어 AI 윤리와 안전성에 대한 중요성이 국내외에서 점차 부각되고 있다"며 "책임감 있는 AI 구축에 대한 인식을 널리 확산시키고 사회적 가치를 고려한 기술 개발이 이어질 수 있도록 선제적인 대응을 이어갈 계획"이라고 말했다.2025-05-27 10:21:53
많이 본 뉴스
영상
Youtube 바로가기
![[기자수첩] K디스플레이, 위기 속 골든타임…다시 기술과 신뢰로](https://image.ajunews.com/content/image/2025/09/17/20250917174406644530_518_323.jpg)