2025.09.18 목요일
검색
'안전한 AI' 검색결과
기간검색
-
~
검색영역
검색어
-
'해킹 사태' 반성 SKT, 글로벌 무대서 'AI 프라이버시' 선언…신뢰 회복 나서 [이코노믹데일리] 최근 대규모 개인정보 유출 사태로 홍역을 치른 SK텔레콤이 글로벌 개인정보보호 무대에서 ‘AI 프라이버시 보호’를 선언하며 신뢰 회복을 위한 강력한 의지를 다졌다. CISO와 CPO를 분리 선임하고 사내 AI 거버넌스 포털을 구축하는 등 최근의 행보와 맞물려 AI 시대의 안전과 신뢰를 선도하겠다는 메시지를 국내외에 각인시키려는 행보로 풀이된다. SK텔레콤은 15일, 개인정보보호위원회가 주최한 ‘글로벌 프라이버시 총회(GPA)’ 사전 행사로 열린 ‘개인정보보호 및 안전활용 선포식’에 참여했다고 밝혔다. GPA는 전 세계 95개국 148개 개인정보 감독기관이 참여하는 최대 규모의 국제 협의체다. 이날 행사에서 차호범 SK텔레콤 개인정보보호최고책임자(CPO)는 국내 주요 기업 및 공공기관 CPO들과 함께 ‘AI 프라이버시 공동선언문’을 발표했다. 이 선언문은 AI 개발 및 활용 과정에서 정보주체의 권리를 보장하고 신뢰를 확보하기 위한 ‘AI 안전 생태계 조성 7대 실천사항’을 담고 있다. SK텔레콤은 최근 글로벌 최고 수준의 정보보호체계 구축을 위해 발 빠르게 움직여왔다. 지난 8월, 기술적 보안을 총괄하는 정보보호최고책임자(CISO)와 개인정보보호법 대응을 담당하는 CPO를 분리 선임하며 전문성과 독립성을 강화했다. 이는 과거 CPO의 역할이 제한적이었다는 개인정보위의 지적을 수용한 조치다. 또한 2024년부터 자체 수립한 AI 거버넌스 원칙 ‘T.H.E. AI’를 경영에 도입한 데 이어 지난 2일에는 AI 서비스의 신뢰성과 안전성을 체계적으로 검증하는 사내 ‘AI 거버넌스 포털’을 공식 오픈했다. 이 포털은 사업팀의 1차 자가진단과 전문가로 구성된 ‘레드팀’의 2차 심층 검토라는 이중 검증 체계를 통해 AI 서비스의 잠재적 위험을 관리한다. 차호범 SK텔레콤 CPO는 “AI 개발과 활용에 필수적인 개인정보처리 과정에 있어 안전과 신뢰를 최우선으로 삼아 안전한 AI 생태계 조성을 위해 지속 노력할 것”이라며 “이를 위해 외부 기관 및 협의회 등과도 적극적으로 협력할 예정”이라고 말했다. 대규모 해킹 사태 이후 뼈를 깎는 쇄신을 약속한 SK텔레콤이 이번 GPA 총회 참여를 계기로 실질적인 변화를 이끌어내고 무너진 고객의 신뢰를 되찾을 수 있을지 귀추가 주목된다.2025-09-15 17:41:53
-
AWS, 에이전트 AI 플랫폼 '베드록 에이전트 코어' 공개 [이코노믹데일리] 아마존웹서비스(AWS)가 복잡한 과업을 자율적으로 수행하는 ‘에이전트 인공지능(AI)’ 시장 선점을 위해 개발과 보안을 아우르는 통합 플랫폼 전략을 공개했다. 단순히 AI 모델을 제공하는 단계를 넘어 기업이 신뢰할 수 있는 AI 에이전트를 실제 서비스 환경에 빠르고 안전하게 배포할 수 있도록 지원하며 시장 주도권을 강화하겠다는 포석이다. AWS는 19일 서울 강남구 본사에서 기자간담회를 열고 최근 미국에서 발표한 생성형 AI 및 보안 신기술을 국내에 소개했다. 전략의 핵심은 ‘아마존 베드록 에이전트 코어’다. 이 서비스는 AI 에이전트의 안정적인 상용 배포와 확장을 지원하는 모듈식 플랫폼으로 런타임·메모리·신원인증 등 7가지 핵심 기능을 기업이 필요에 따라 조합해 사용할 수 있다. 이를 통해 개념 검증 단계의 AI 에이전트를 실제 서비스로 신속하게 전환할 수 있다. AWS는 개발 생산성을 높이는 도구도 함께 선보였다. AI 에이전트 개발에 필요한 코드를 생성하는 ‘키로’와 벡터 데이터 저장·검색 비용을 최대 90%까지 절감하는 ‘아마존 S3 벡터스’ 등이 대표적이다. 특히 AWS는 AI 에이전트 시대의 핵심 경쟁력으로 ‘신뢰’와 ‘보안’을 강조했다. 신은수 AWS 수석 보안 전문 SA는 AI의 환각 현상을 최대 99% 정확도로 탐지하는 ‘자동 추론 검사’와 AI가 생성한 답변이 기존 데이터와 일치하는지 검증하는 ‘가드레일’ 등 고도화된 보안 기능을 소개했다. 또한 최상위 관리자 계정에 다중 인증(MFA)을 의무화하고 내부 위협까지 대응하는 접근 분석기를 도입하는 등 모든 단계에 보안을 내재화했다. 생태계 확장에도 속도를 낸다. AWS 마켓플레이스에 ‘AI 에이전트 및 툴즈’ 카테고리를 신설하고 업스테이지, LG CNS 등 국내외 파트너사들의 솔루션을 공급한다. 기업들은 이를 통해 검증된 AI 에이전트를 쉽게 도입할 수 있다. 최영준 AWS 데이터·AI 스페셜리스트 SA 리더는 “세계에서 가장 신뢰할 수 있고 안전한 AI 에이전트를 배포하도록 지원하겠다”며 “빠른 혁신과 보안 등으로 고객이 AWS의 AI 에이전트 비전을 공유할 수 있도록 지원하겠다”고 밝혔다.2025-08-19 17:24:53
-
LG유플러스, '온디바이스 AI'로 보이스피싱 탐지…'안티딥보이스' 세계 최초 상용화 [이코노믹데일리] “AI 보안 서비스는 통신사로서 기본적으로 해야 할 의무라고 생각합니다.” LG유플러스가 ‘신뢰’를 핵심 가치로 내세우며 고도화된 AI 보이스피싱 대응 기술을 상용화한다. 통화 내용을 외부 서버로 전송하지 않고 스마트폰 안에서 직접 분석하는 ‘온디바이스 AI’ 방식으로 개인정보 보호와 기술 신뢰성을 동시에 확보하겠다는 전략이다. 26일 LG유플러스는 보안 기술 설명회를 열고 AI 에이전트 ‘익시오(ixi-O)’에 AI 합성 음성을 탐지하는 ‘안티딥보이스’ 기술을 이달 30일부터 적용한다고 밝혔다. 이 기술은 음성의 미세한 비정상 패턴을 실시간 분석해 조작된 목소리를 5초 안에 감지하고 사용자에게 경고를 보낸다. 모든 과정은 외부 서버를 거치지 않고 단말기 내부에서 처리된다. 이진혁 익시오개발 테스크장(상무)은 “보이스피싱을 탐지하려면 통화 내용을 분석해야 하지만 이를 서버로 보내는 것은 감청 우려를 낳는다”며 “그래서 온디바이스 방식이 필수적”이라고 설명했다. 실제로 LG유플러스는 서버 기반 수백MB AI 모델을 수십MB 수준으로 경량화해 4년 전 출시된 단말기에서도 해당 기능이 원활히 구동되도록 했다. AI 기술의 정교함도 확보했다. 약 200만건, 3000시간 분량의 통화 데이터를 AI에 학습시켜 95% 이상의 탐지 정확도를 구현했다. 목소리의 고유 주파수 패턴과 발음의 미세한 부자연스러움을 포착해 실제 목소리와 합성된 음성을 정밀하게 구분한다. 전병기 AX기술그룹장(전무)은 “고객에게 안심과 신뢰를 줄 수 있는 ‘Assured Intelligence’ 실현에 집중하고 있다”며 이번 기술 공개의 목적이 단순한 성능 과시가 아니라 안전한 AI 사용 환경 조성에 있음을 분명히 했다. LG유플러스는 향후 보안 기술을 더욱 확장해 나갈 계획이다. 영상통화에서 얼굴을 위조하는 범죄를 막기 위한 ‘안티딥페이크’ 기술도 온디바이스 방식으로 개발 중이며 오는 8월에는 스팸 의심 전화를 AI가 대신 받아주는 서비스도 도입한다. 장기적으로는 스토킹이나 학교폭력 상황에서 특정 단어나 위협적 억양을 감지해 보호자에게 알리는 서비스로의 확장도 검토하고 있다. 이 모든 보안 기능은 이용자에게 무료로 제공된다. 최윤호 AI 에이전트추진그룹장(상무)은 “익시오가 LG유플러스를 선택하는 핵심 기능으로 자리잡도록 하는 것이 우선”이라며 유료화 계획은 없다고 강조했다. 이는 2024년 내 100만명, 3년 내 600만명의 충성 고객을 확보하겠다는 중장기 전략의 일환이다. 결국 LG유플러스는 AI 시대의 경쟁력을 성능이 아닌 ‘신뢰’에서 찾고 있다. 경쟁사들이 기술 자체의 고도화에 초점을 맞추는 사이, LG유플러스는 기술의 윤리성과 사용자 보호에 방점을 찍으며 차별화된 AI 전략을 펼치기 시작했다.2025-06-26 14:51:01
-
"AI 유해성 막는다" 카카오, 안전 검증 모델 '카나나 세이프가드' 공개 [이코노믹데일리] 카카오가 인공지능(AI) 서비스의 안전성과 신뢰성을 검증할 수 있는 AI 가드레일 모델 ‘카나나 세이프가드’를 개발하고 국내 기업 최초로 모델 3종을 오픈소스로 공개한다고 27일 밝혔다. 최근 다양한 생성형 AI 서비스 출시로 유해 콘텐츠 위험성에 대한 사회적 우려가 커짐에 따라 기술적·제도적 장치를 마련한 것이다. 주요 빅테크 기업들도 생성형 AI로 발생 가능한 위험 요소를 감지하는 특화 모델을 운영 중이다. ‘카나나 세이프가드’는 카카오가 자체 개발한 언어모델 ‘카나나’를 기반 기술로 활용했으며 한국어와 한국 문화를 반영한 자체 구축 데이터셋을 통해 한국어에 특화된 성능을 갖췄다. 카카오는 AI 모델의 정밀도와 재현율을 평가하는 F1 스코어를 기준으로 한국어 성능에서 글로벌 모델 이상의 성과를 기록했다고 설명했다. 이번에 오픈소스로 공개된 모델은 리스크 유형에 따라 유해성과 위험성을 효과적으로 탐지할 수 있는 3종이다. △사용자의 발화 또는 AI 답변에서 증오, 괴롭힘, 성적 콘텐츠 등에 대한 유해성을 탐지하는 ‘카나나 세이프가드’ △개인정보나 지식재산권 등 법적 측면에서 주의가 필요한 요청을 탐지하는 ‘카나나 세이프가드 사이렌’ △AI 서비스를 악용하려는 사용자 공격을 탐지하는 ‘카나나 세이프가드 프롬프트’이며 모두 허깅페이스를 통해 다운로드 가능하다. 카카오는 안전한 AI 생태계 구축에 기여하고자 해당 모델에 상업적 이용과 수정·재배포 등이 자유로운 아파치 2.0 라이선스를 적용했다. 향후 지속적인 업데이트를 통해 모델을 고도화할 예정이다. 김경훈 카카오 AI 세이프티 리더는 "생성형 AI의 등장 이래 기술 발전과 더불어 AI 윤리와 안전성에 대한 중요성이 국내외에서 점차 부각되고 있다"며 "책임감 있는 AI 구축에 대한 인식을 널리 확산시키고 사회적 가치를 고려한 기술 개발이 이어질 수 있도록 선제적인 대응을 이어갈 계획"이라고 말했다.2025-05-27 10:21:53
-
KT 희망나눔재단, "사람이 행복해지는 AI 세상"… 'K-AI 콘텐츠 공모전' [이코노믹데일리] KT그룹 희망나눔재단이 KT스카이라이프, KT지니뮤직과 손잡고 올바르고 안전한 인공지능(AI) 활용 문화를 확산하기 위한 ‘K-AI 콘텐츠 공모전’을 개최한다. 이번 공모전은 지난해 열린 ‘스마트 AI 콘텐츠 공모전’의 규모와 참가 대상을 확대한 것으로, 생성형 AI 기술 대중화에 발맞춰 올바른 AI 윤리 의식을 고취하고 AICT Company로서 KT의 사회적 역할을 강화하고자 마련됐다. ‘AI와 함께하는 행복한 세상 만들기’를 주제로 열리는 이번 공모전은 ‘올바르고 안전한 AI 윤리, 사람이 행복해지는 AI 세상’이라는 슬로건 아래 진행된다. 접수는 오는 7월 1일부터 11일까지 공모전 홈페이지 및 우편을 통해 가능하다. 초·중·고등학생부터 대학생, 일반인까지 누구나 참여할 수 있으며 참가 부문에 따라 직접 그린 포스터, 생성형 AI를 활용한 이미지 또는 챌린지 형태의 짧은 영상(숏폼)을 제출하면 된다. 총 46편의 수상작을 선정하며 총 1천6백만원 규모의 상금과 상품이 수여된다. 대상 수상자 4명에게는 과학기술정보통신부 장관상, KT그룹 희망나눔재단 이사장상, KT스카이라이프 사장상, KT지니뮤직 사장상과 함께 각각 200만원의 상금이 주어진다. 수상 결과는 7월 23일 공모전 홈페이지를 통해 발표될 예정이다. 이번 공모전은 KT그룹 희망나눔재단과 KT스카이라이프, KT지니뮤직, 국제인공지능윤리협회가 공동으로 주관한다. 과학기술정보통신부를 비롯해 한국방송통신전파진흥원, 한국지능정보사회진흥원, 한국교육학술정보원, 서울로봇인공지능과학관, AI융합교육연구회 등이 후원사로 참여해 힘을 보탠다. 공모전 홈페이지에서는 AI 윤리 및 AI 활용에 관한 교육 영상도 누구나 시청할 수 있도록 제공하여 교육적 효과도 더했다. KT그룹 희망나눔재단 이창준 본부장은 “미래세대가 인공지능을 책임감 있게 활용하고 윤리적 가치를 내재화할 수 있도록 AI 콘텐츠 공모전을 작년에 이어 확대 개최하게 됐다”며, “규모와 참가 대상이 확대돼 더욱 다양하고 창의적인 작품이 출품될 것으로 기대된다”고 말했다. 지난해 처음 개최된 ‘스마트 AI 콘텐츠 공모전’에는 총 200여 점의 작품이 출품되는 등 높은 관심을 받은 바 있으며 수상작은 재단 홈페이지 온라인 전시관에서 감상할 수 있다. 이번 공모전을 통해 AI 기술의 긍정적 활용 방안을 모색하고 사회 전반의 AI 윤리 인식을 한 단계 높이는 계기가 될 것으로 전망된다.2025-05-26 15:55:49
-
고학수 개인정보위원장, 美 워싱턴 방문…韓 데이터 정책 알린다 [이코노믹데일리] 고학수 개인정보보호위원회 위원장이 미국 워싱턴 D.C.를 방문하여 한국의 데이터 정책을 설명하고 인공지능(AI) 시대의 개인정보 보호 협력 방안을 논의한다. 개인정보위는 고 위원장이 21일부터 3박 4일 일정으로 국제 개인정보 전문가 협회(IAPP) 주최 '글로벌 프라이버시 서밋' 참석 및 주요 관계자 면담을 위해 출장길에 올랐다고 22일 밝혔다. 고 위원장은 이번 방문 기간 중 멜리사 홀리오크 미국 연방거래위원회(FTC) 신임 위원을 만나 AI 시대의 데이터 및 개인정보 정책 방향에 대해 의견을 교환한다. 이 자리에서 오는 9월 한국에서 개최 예정인 글로벌 프라이버시 총회(GPA) 계획을 공유하고 양 기관 간 협력 방안을 모색할 예정이다. 또한 미국 유력 싱크탱크인 브루킹스 연구소가 주최하는 라운드 테이블에도 참석한다. 이 행사에는 미국 정부 및 산업계 대표, 주요국 감독기구 관계자들이 모이며 고 위원장은 신뢰할 수 있는 AI 데이터 거버넌스 구축의 중요성과 이를 위한 개인정보 감독기구의 역할을 강조할 계획이다. 특히 이 자리에서는 최근 미국 무역대표부(USTR)가 연례 국가별 무역장벽보고서(NTE)에서 지적한 한국의 데이터 이전 정책에 대해 상세히 설명할 예정이다. USTR은 개정된 한국 개인정보보호법 상의 개인정보 국외 이전 관련 규정과 사업자의 글로벌 매출액 기준으로 과징금을 부과하는 조항 등을 잠재적 무역장벽으로 언급한 바 있다. 고 위원장은 이러한 우려를 해소하고 산업 현장의 법적 불확실성을 줄이기 위한 개인정보위의 '사전 적정성 검토제', '혁신지원 원스톱 창구' 등 지원 정책도 함께 소개한다. 이와 함께 고 위원장은 IAPP 글로벌 프라이버시 서밋 본 행사와 부대 행사에 참여하여 '아태지역의 AI 거버넌스', 'AI 혁신을 촉진하는 데이터 및 프라이버시 정책' 등을 주제로 각국 전문가들과 심도 있는 논의를 진행한다. 방문 기간 중 르추웬홍 싱가포르 개인정보보호위원회(PDPC) 위원장, 파하드 알레브디 사우디아라비아 국가데이터관리단(NDMO) 단장 등 다른 국가의 개인정보 감독기구 수장들과도 만난다. 아울러 마이크로소프트, 구글, 메타 등 글로벌 빅테크 기업의 최고 개인정보 보호 책임자(CPO)들과 면담하며 신뢰 기반의 안전한 AI 데이터 활용 방안에 대해 논의할 예정이다. 고 위원장은 "급변하는 글로벌 정세 속에 AI 기술 및 글로벌 정책 변화를 고려해 정책을 세심하게 마련하는 동시에 우리 위원회가 추구하는 혁신과 신뢰의 원칙 방향이 글로벌 AI 데이터 거버넌스에 반영되도록 국제 협력과 논의를 이어갈 것"이라고 밝혔다.2025-04-22 13:54:37
-
국내외 화이트햇 해커·보안 전문가 집결… '닷핵 2025' 컨퍼런스, 성황리 개최 [이코노믹데일리] 국내외 최정상급 화이트햇 해커와 보안 전문가들이 최신 기술 동향과 실무 지식을 공유하는 '닷핵 컨퍼런스 2025(.HACK Conference 2025)'가 성황리에 막을 올렸다. 올해로 2회째를 맞은 이번 행사는 '미래를 해킹하라, 한계는 없다(Hack the Future, No Limits)'를 주제로 지난 8일부터 9일까지 양일간 서울 강남구 코엑스에서 진행된다. 닷핵 2025는 기조강연을 시작으로 해킹방어대회, 기술 세션, 패널 토론 등 다채로운 프로그램을 통해 최신 사이버 보안 트렌드와 방어 전략을 깊이 있게 다루는 장으로 마련됐다. 특히 인공지능(AI) 시대의 도래와 함께 부상하는 새로운 보안 위협과 대응 방안 모색에 초점이 맞춰졌다. 컨퍼런스의 포문은 고려대학교 정보보호대학원 이상근 교수의 기조강연 '방해 금지: 해킹된 AI 대 안전한 AI(Do not Disturb: Hacked AI vs. Secure AI)'로 열렸다. 이어진 기술 세션에서는 △대규모 언어 모델(LLM) 및 △취약점 분석 자동화 등 인공지능(AI) 보안 관련 기술이 집중 조명받았으며 △클라우드 보안 △리눅스 커널 △보안 컴플라이언스(규제 준수) 등 실제 산업 현장에서 중요도가 높은 핵심 보안 이슈에 대한 각 분야 전문가들의 깊이 있는 통찰이 공유됐다. 참석자들은 최신 기술 동향을 파악하고 실질적인 보안 강화 방안에 대한 아이디어를 얻는 기회를 가졌다. 이론적 논의를 넘어 실무적인 관점에서의 접근도 돋보였다. 특히 올해 신설되어 큰 호응을 얻은 '커리어 세션'에서는 금융보안원, LG전자, 카카오페이 등 국내 유수 기업의 현직 보안 담당자들이 연사로 나서 각자의 직무 경험과 경력 개발 경로를 생생하게 소개하며 참가자들의 이목을 끌었다. 또한 '패널 토론(Fireside Chat)' 세션에서는 '금융권 망분리 규제 개선에 따른 보안 리스크 관리 방안'을 주제로 법조계, 금융권, 학계 전문가들이 모여 정책적 측면과 실무적 과제를 아우르는 심도 깊은 논의를 진행했다. 이는 규제 변화에 따른 현장의 고민과 대응 전략을 공유하는 중요한 자리가 됐다. 행사의 열기를 더한 '드림핵 해킹방어대회(Dreamhack Invitational)'도 눈길을 끌었다. 총상금 1400만 원이 걸린 이번 대회에는 29명의 실력 있는 해커들이 참가해 치열한 개인전을 벌였다. 치열한 경쟁 끝에 김진서(닉네임 'Pencake') 씨가 총 4574점을 획득하며 1위(두나무 상)와 상금 500만 원의 영예를 안았다. 이어 키쿠치 아츠토시(Atsutoshi Kikuchi, 닉네임 'keymoon') 씨와 송준현(닉네임 'Junhyeon Song') 씨가 각각 2위와 3위를 차지해 상금 200만 원을 받았다. 이 밖에도 행사장에서는 스피드 코딩, 래피드 핵(신속 해킹 시연), 락피킹(자물쇠 따기) 등 다채로운 체험형 이벤트가 마련되어 보안 실무자는 물론 일반 참관객들에게도 흥미로운 경험을 선사했다. 이번 컨퍼런스는 양적, 질적으로 모두 성장했다는 평가다. 닷핵 운영 관계자는 "개최 2회 만에 유료 등록자가 50% 이상 증가할 정도로 국내 보안 기술 커뮤니티에 대한 관심과 필요성이 커지고 있음을 실감했다"며 "단순한 기술 발표를 넘어 실전 경험과 실패 사례, 정책적 논의까지 함께 나눌 수 있었던 점이 의미 있었다. 앞으로 닷핵이 보안인들이 함께 배우고 협력하며 더 안전한 사이버 세상을 만들어가는 대표 보안 커뮤니티로 자리매김하길 바란다"고 밝혔다.2025-04-09 18:08:58
많이 본 뉴스
영상
Youtube 바로가기
![[데스크 칼럼] 가짜 기지국의 공포, 통신사를 넘어 국가 인증 시스템의 위기](https://image.ajunews.com/content/image/2025/09/16/20250916164232794659_518_323.jpg)