2025.09.17 수요일
검색
'개인정보 침해' 검색결과
기간검색
-
~
검색영역
검색어
-
'글로벌 프라이버시 총회(GPA)' 서울 개막…'AI 시대 개인정보' 글로벌 규범 논의 [이코노믹데일리] 인공지능(AI) 시대의 개인정보보호 글로벌 표준을 논의하는 세계 최대 규모의 회의 ‘글로벌 프라이버시 총회(GPA)’가 16일 서울에서 화려한 막을 올렸다. 95개국 1000여 명의 전문가가 모인 이번 총회에서 고학수 개인정보보호위원회 위원장은 AI 기술의 혜택 이면에 있는 프라이버시 침해 위험을 경고하며 국경을 넘는 ‘국제 공조’와 ‘협력’을 한목소리로 촉구했다. 개인정보보호위원회가 주최하는 이번 총회는 ‘AI 시대 개인정보 이슈’를 주제로 오는 19일까지 열린다. 미국, 유럽연합(EU), 일본 등 전 세계 95개국 148개 개인정보 감독기구가 참여하며 아시아에서 국가 단위로 개최되는 것은 이번이 처음이다. 이재명 대통령은 고학수 위원장이 대독한 축사에서 AI 시대의 명암을 분명히 했다. 이 대통령은 “AI가 미래 먹거리와 국가 경쟁력을 좌우하는 시대이지만 그 이면에는 데이터 오남용과 개인정보 침해 등 위협 요인도 상존한다”고 지적했다. 이어 “데이터의 무분별한 활용은 기술에 대한 국민 신뢰뿐 아니라 국가 경제와 사회 기반을 위협할 수 있다”며 “개별 국가 차원 대응에는 한계가 있는 만큼 국제사회가 공동 대응 방안을 마련해야 한다”고 강조했다. 고학수 개인정보위원장은 개회사를 통해 AI 시대의 도전 과제와 한국의 역할을 제시했다. 고 위원장은 “혁신의 속도가 빨라질수록 그 이면의 부작용을 어떻게 관리하고 최소화하느냐가 성패를 좌우할 것”이라며 특히 ‘에이전트 AI’의 등장이 가져올 새로운 리스크를 경고했다. 그는 “개인정보가 여러 단계 공유, 전달되면서 발생하는 취약점과 이용자의 통제권 약화 등은 에이전트 AI 기술의 새로운 리스크로 부상할 것”이라고 지적했다. 고 위원장은 이러한 초국경적 문제를 해결하기 위해 ‘국제 협력’이 필수적임을 역설했다. 그는 “국가 간 규범 격차, 제도적 역량 격차, 시민들의 신뢰 격차를 협력과 연대를 통해 해소해 나가야 한다”며 “한국은 이번 서울 총회를 계기로 이러한 협력을 촉진하는 플랫폼이자 가교 역할을 충실히 수행할 것”이라고 밝혔다. 이날 첫 기조연설자로 나선 메신저 앱 ‘시그널’의 메러디스 휘태커 회장은 AI 에이전트가 이용자의 민감 정보에 광범위하게 접근하면서도 명시적 권한 없이 작동하도록 설계돼 프라이버시 장벽을 무너뜨리고 있다고 비판하며 앱별로 구체적이고 세밀한 통제가 필요하다고 촉구했다. 이번 총회에서는 제이슨 권 오픈AI 최고전략책임자(CSO) 등 글로벌 AI 리더들의 기조연설과 함께 ‘글로벌 AI 데이터 거버넌스’, ‘아동·청소년 프라이버시’ 등 20여 개의 패널 토론이 이어진다. 지난 15일 사전 행사에서는 구글, 마이크로소프트, 메타 등 글로벌 빅테크들이 참여하는 ‘오픈소스 데이’가 열리기도 했다. 이번 총회를 통해 AI 시대의 새로운 개인정보보호 규범을 정립하는 과정에서 한국이 주도적인 역할을 할 수 있을지 귀추가 주목된다.2025-09-16 14:21:43
-
개인정보위, 공공기관 AI 사업, '개인정보 영향평가' 의무화 [이코노믹데일리] 앞으로 공공기관이 인공지능(AI)을 활용한 사업을 추진할 때 개인정보 침해 위험을 사전에 의무적으로 평가받아야 하는 구체적인 기준이 마련됐다. 개인정보보호위원회는 3일 전체회의를 열어 이 같은 내용을 담은 ‘개인정보 영향평가에 관한 고시’ 개정안을 의결했다고 4일 밝혔다. 개정안은 오는 5일부터 시행된다. 개인정보 영향평가는 일정 규모 이상의 개인정보 파일을 다루는 사업 추진 시 사전에 개인정보 침해 위험을 분석하고 개선 방안을 수립하는 제도다. 공공기관은 의무적으로 이 평가를 받아야 한다. 하지만 기존 고시에는 AI 분야에 대한 별도 기준이 없어 AI 사업을 추진하는 공공기관들은 자체적으로 평가항목을 개발해야 하는 등 혼란을 겪어왔다. 이에 개인정보위는 고시를 개정해 △인공지능 시스템 학습 및 개발 △인공지능 시스템 운영 및 관리 등 2개의 세부 평가 분야를 신설했다. ‘학습 및 개발’ 단계에서는 AI 학습용 데이터에 민감정보나 14세 미만 아동 정보가 불필요하게 포함되지 않았는지 데이터의 보유 및 파기 규정이 명확한지 등을 중점적으로 점검한다. ‘운영 및 관리’ 단계에서는 AI 개발자와 운영 주체 간의 책임 소재를 명확히 하고 생성형 AI의 부적절한 답변이나 개인정보 유출에 대비한 신고 기능 마련 등 정보주체의 권리보장 방안을 제대로 수립했는지를 평가한다. 개인정보위는 이번에 마련된 기준이 공공기관뿐만 아니라 민간기업에서도 AI 활용 시 잠재적 위험을 식별하고 관리하는 데 유용한 참고자료가 될 것으로 기대하고 있다. 상세한 평가항목과 사례는 ‘개인정보 영향평가 수행안내서’를 통해 공개될 예정이다.2025-09-04 14:50:43
-
두나무, AI 학습시키는 'LAUS' 공개…'개인정보'와 '정교함'을 모두 잡는 기술 [이코노믹데일리] 업비트 운영사 두나무(대표 오경석)가 인공지능(AI) 개인화 추천 기술의 오랜 딜레마를 해결할 혁신적인 방법론을 제시했다. 실제 사용자 데이터를 단 하나도 사용하지 않고 대규모 언어모델(LLM)이 생성한 '가상 사용자'만으로 정교한 추천 시스템을 학습시키는 기술 'LAUS(LLM As User Simulator)'를 개발해 세계 최고 권위의 학회에서 그 성능을 입증했다. 두나무 머신러닝팀은 지난 14일 정보검색 분야 최고 학회 'SIGIR 2025'에서 해당 연구 논문을 발표했다고 17일 밝혔다. 올해 약 27%의 채택률을 기록할 만큼 엄격한 심사를 거치는 학회에서 메인 콘퍼런스 발표를 따냈다는 것은 기술의 독창성과 완성도를 국제적으로 공인받았음을 의미한다. 기존의 모든 개인화 추천 AI는 '데이터 의존성'이라는 태생적 한계를 가졌다. 사용자의 클릭 기록, 선호도, 구매 내역 등 실제 행동 데이터를 대규모로 수집해야만 모델이 똑똑해질 수 있었다. 이는 필연적으로 두 가지 문제를 낳았다. 서비스 초기에는 데이터가 없어 추천 품질이 떨어지는 '콜드 스타트(cold-start)' 문제와 갈수록 민감해지는 '개인정보 침해' 우려다. 두나무가 개발한 LAUS는 이 구조적 문제를 근본적으로 해결한다. LAUS는 LLM을 활용해 다양한 관심사와 성향을 가진 가상의 사용자 페르소나를 무수히 생성한다. 이 가상 사용자들이 뉴스 기사를 보고 어떤 반응을 보일지(클릭, 무시 등) 시뮬레이션하여 방대한 양의 '가상 상호작용 데이터'를 만든다. AI 추천 모델은 실제 사람의 데이터가 아닌 이 가상 데이터만을 먹고 학습한다. 그 결과는 놀라웠다. LAUS를 통해 학습한 추천 모델은 사전 학습 데이터가 전혀 없는 '제로샷(zero-shot)' 방식보다 월등히 높은 추천 성공률을 보였다. 더 나아가 실제 사용자 데이터로 학습시킨 기존의 고성능 모델과 비교해도 대등한 수준의 정확도를 기록했다. 특히 이 성능은 영어는 물론 노르웨이어 등 다양한 언어권의 뉴스 데이터 벤치마크에서도 일관되게 나타나 특정 언어나 문화권에 국한되지 않는 범용성까지 입증했다. 이는 AI 개인화 서비스 시장에 시사하는 바가 크다. 앞으로 기업들은 민감한 개인정보를 수집하고 관리해야 하는 부담 없이도 서비스 출시 초기부터 사용자에게 고품질의 맞춤형 추천을 제공할 수 있게 된다. 특히 금융이나 헬스케어처럼 데이터 보안이 극도로 중요한 분야에서 활용 가치가 무궁무진하다. 박충원 두나무 머신러닝팀 연구원은 현장 발표에서 “개인화 뉴스 추천 시스템 품질은 이용자가 원하는 정보를 얼마나 정확히 제공하는가와 직결돼 서비스 만족도를 높이는 핵심 요소”라며 “이번 연구를 통해 고객 정보 보호와 운영 효율성을 모두 충족하면서 더욱 정교한 추천 서비스를 제공할 수 있는 기반을 마련하게 돼 기쁘다”고 소감을 밝혔다. 한편 이번 성과는 두나무가 디지털 자산 거래소를 넘어 AI 기초 기술 연구 분야에서도 글로벌 최고 수준의 역량을 확보한 '테크 기업'임을 명확히 보여주는 이정표다.2025-07-17 16:49:45
-
개인정보위, '개인정보보호 설계' 인증 제품 모집… 로봇·자율주행차 포함 [이코노믹데일리] 개인정보보호위원회가 개인정보 수집 기능이 탑재된 정보통신(IT) 제품 등을 대상으로 '개인정보보호 중심 설계(Privacy by Design, PbD)' 인증에 참여할 제품을 공개 모집한다고 8일 밝혔다. PbD는 제품이나 서비스의 기획 단계부터 제조, 폐기에 이르는 전 과정에서 개인정보 보호 요소를 선제적으로 반영해 개인정보 침해 위험을 예방하는 설계 개념이다. 개인정보위는 가정용 폐쇄회로(CC)TV, 로봇청소기와 같이 개인정보 수집 기능이 있는 제품의 안전성을 높이고 제조사의 책임을 강화하며 소비자의 선택권을 보장하기 위해 2023년부터 PbD 인증 시범사업을 운영해왔다. 현재까지 총 4개 제품이 인증을 획득했다. 올해는 인증 대상을 일상과 밀접한 IP카메라를 비롯해 로봇, 자율주행차 등 첨단 기술 분야로 확대 운영한다. 이번 PbD 인증 참여를 희망하는 제조사나 개발사는 다음 달 9일까지 신청서를 이메일로 제출하면 된다. 인증 절차에 참여하는 기업은 개인정보 보호 분야 전문가로부터 관련 상담과 컨설팅을 받을 수 있으며 시험·평가에 소요되는 인증 수수료(제품별 1000만∼2000만원 상당) 전액을 지원받는다. 양청삼 개인정보위 개인정보정책국장은 "PbD 인증의 법제화를 적극 추진하고 인증 제품에 대한 인센티브 제공 등 다양한 지원책을 마련할 예정"이라며 "관심 있는 사업자들의 적극적인 참여를 기대한다"고 말했다.2025-04-08 16:41:38
-
SK텔레콤, IBK기업은행·에이닷 협업... AI 사이버보안 기술로 보이스피싱 잡는다 [이코노믹데일리] SK텔레콤이 자체 개발한 인공지능(AI) 사이버보안 기술 ‘스캠뱅가드’를 활용한 AI 기반 이상탐지 통합 서비스를 개발, IBK기업은행과 자사 AI 서비스 에이닷(A.)에 적용했다고 8일 밝혔다. 이번에 선보인 통합 서비스는 국내에서 처음으로 통신 정보와 금융 데이터를 결합해 고객의 보이스피싱 노출 여부 및 위험도를 실시간으로 분석한다. 이를 통해 의심 거래 발생 시 이체나 출금을 차단하는 등 선제적 대응이 가능하다. 이 솔루션은 SK텔레콤의 AI 사이버보안 기술인 스캠뱅가드를 기반으로 개발됐다. 보이스피싱, 스미싱, 스캠 등 다양한 형태의 전자금융사기를 종합적으로 탐지하고 분석하는 능력을 갖췄다. SK텔레콤은 이를 위해 스캠뱅가드 기술을 더욱 발전시켜 △AI 미끼문자 탐지 시스템 △피싱 시도 채팅 탐지 시스템 △보이스피싱 통화 패턴 분석 AI △본인확인 분석 AI 등 네 가지 핵심 AI 기술을 적용해 탐지 정확성을 높였다. 스캠뱅가드는 앞서 CES 2025와 MWC25 등 국제 무대에서 기술력을 인정받은 바 있다. SK텔레콤은 지난해 9월 IBK기업은행과 맺은 보이스피싱 피해 예방 협약에 따라 이번 이상탐지 통합 솔루션을 금융권 고객 보호 강화 솔루션 ‘SurPASS’에 탑재해 IBK기업은행의 보이스피싱 모니터링 시스템에 적용했다. SurPASS는 금융사고 예방을 위해 SK텔레콤이 개발한 패키지 상품으로 스캠뱅가드 기술을 이용해 피싱 의심 번호 수신 여부를 실시간 파악하고 금융기관에 위험도를 제공한다. IBK기업은행은 정식 도입 전 약 2주간의 사전 테스트를 통해 총 26건의 보이스피싱 피해를 막았으며 약 5억9000만원의 금전적 손실을 예방하는 성과를 거뒀다. 특히 금융 거래 전 AI 솔루션이 이상 징후를 포착해 사전에 거래를 차단한 사례도 확인됐다. SK텔레콤은 AI 기술 활용에 따른 개인정보 침해 우려를 해소하기 위해 개인정보보호위원회의 사전적정성 검토를 거쳐 안전한 정보 관리 절차를 수립했으며 법적·제도적 신뢰성도 확보했다. 더불어 이 솔루션을 자사 AI 서비스 에이닷의 전화 기능에도 적용했다. 보이스피싱 의심 번호로 전화가 걸려올 경우 사용자에게 경고 메시지를 표시하며 지난 한 달간 약 19만건의 경고를 제공해 사기 피해 예방에 기여하고 있다. 이종민 SK텔레콤 미래R&D 담당은 “AI로 보이스피싱 패턴을 정밀하게 분석해 금융 사기 위험을 실시간으로 예측하고 대응하여 고객 피해를 최소화하는데 초점을 맞춘 기술”이라며, “향후 통신과 금융 피싱 정보를 융합해 더욱 정교하고 고도화된 이상탐지 통합 솔루션으로 발전시켜 나갈 계획”이라고 밝혔다.2025-04-08 10:14:19
-
CCTV 원본 영상, AI 학습 '활짝'…재난·안전 관제 '눈' 더 밝아진다 [이코노믹데일리] 지방자치단체의 재난 및 안전 관리용 CCTV 영상이 인공지능(AI) 모델 학습에 활용될 수 있게 되면서 AI 기반 지능형 CCTV의 성능 향상에 청신호가 켜졌다. 과학기술정보통신부(과기정통부)는 28일 제40차 신기술·서비스 심의위원회를 개최, ‘재난·안전 관제를 위한 지능형 CCTV 고도화 서비스’ 등 총 7건의 규제특례를 지정했다고 28일 밝혔다. 이번 규제특례 지정으로 지방자치단체는 재난·안전 관련 CCTV 원본 영상을 모자이크 처리 등 가명 처리 없이 AI 모델 학습에 활용할 수 있게 되었다. 그동안 개인정보보호 문제로 인해 CCTV 영상의 AI 학습 활용에 제약이 있었으나 이번 규제 완화를 통해 AI 모델이 재난 영상 원본 데이터를 학습함으로써 더욱 정확하고 효율적인 재난·안전 관리가 가능해질 것으로 기대된다. 실증특례를 신청한 쿠도 커뮤니케이션과 부천시는 지자체 CCTV 영상을 AI 학습에 활용하여 고도화된 관제 AI 모델을 개발하고 이를 다시 지자체 관제 시스템에 적용하여 재난·안전 관리 효율성을 높인다는 계획이다. 과기정통부는 이번 실증특례가 재난·안전 사고 예방 및 대응력 강화라는 공공의 목표와 AI 기술력 향상이라는 민간의 목표를 동시에 충족시키는 지능형 CCTV 분야의 대표적인 성공 사례가 될 것으로 전망했다. 다만 CCTV 원본 영상의 오남용 및 개인정보 침해 우려를 방지하기 위해 몇 가지 안전 장치가 마련되었다. AI 학습에는 실증특례를 통해 허용된 연구 목적으로만 활용이 가능하며 개인 식별 목적 활용 및 제3자 제공은 엄격히 금지된다. 또한 외부망 접속이 차단된 분리된 공간에서만 영상 활용이 가능하다. 이날 심의위원회에서는 ‘일반의약품 스마트 화상투약기’ 실증특례 과제의 유효기간을 2년 연장하는 안건도 의결되었다. 이번 유효기간 연장을 통해 사업자는 더 많은 실증 데이터를 확보할 수 있게 되었으며 향후 관련 법령 정비 논의 시 실증 데이터를 기반으로 더욱 심도 있는 검토가 이루어질 수 있을 것으로 예상된다. 한편 ‘내·외국인 공유숙박 서비스’ 실증특례 과제는 규제 소관 부처의 의견에 따라 법령 정비가 필요한 것으로 결론 내려졌다. 해당 과제는 정보통신융합법에 따라 임시허가로 전환되어 법령 정비 완료 시까지 사업을 지속할 수 있게 된다. 유상임 과기정통부 장관은 “AI 분야 혁신을 위한 규제 완화 요구가 높아지고 있는 상황”이라며 “과기정통부는 규제 샌드박스를 통해 AI 서비스에 대한 신속한 검증 기회를 제공하고 AI 시대에 부합하는 제도 마련을 적극적으로 지원하겠다”고 밝혔다.2025-03-28 16:06:31
많이 본 뉴스
영상
Youtube 바로가기
![[데스크 칼럼] 가짜 기지국의 공포, 통신사를 넘어 국가 인증 시스템의 위기](https://image.ajunews.com/content/image/2025/09/16/20250916164232794659_518_323.jpg)