2025.12.16 화요일
검색
'딥페이크' 검색결과
기간검색
-
~
검색영역
검색어
-
"AI 강국 선언과 엇박자"…창작물 전면 워터마크 규제 논의 '도마 위' [이코노믹데일리] 내달 22일 시행 예정인 '인공지능 발전과 신뢰 기반 조성 등에 관한 기본법(AI 기본법)'에 AI(인공지능)가 활용된 창작물에 워터마크 표시를 의무화하는 규정이 포함될 것으로 전망돼 새로운 쟁점으로 떠오르고 있다. 정부는 딥페이크 확산과 허위 정보 문제를 막기 위한 최소한의 안전장치라는 입장이지만 창작 현장에서는 과도한 규제가 될 수 있다는 우려가 제기되고 있다. AI 기본법은 AI 기술의 진흥과 신뢰 확보를 동시에 목표로 한 첫 포괄적 법안이다. 다만 하위 시행령과 고시를 통해 AI 창작물에 대한 표시 의무가 어느 수준까지 적용될지가 아직 명확히 정해지지 않아 업계 전반에 불확실성이 커지고 있다. 특히 AI를 활용한 영상·이미지·음원 등 창작물에 '워터마크' 또는 이에 준하는 표시를 의무화하는 방안이 유력하게 거론되면서 논란이 확산되고 있다. 정부는 해당 규제가 딥페이크 범죄와 허위 정보 유통을 차단하기 위한 조치라는 점을 강조하고 있다. AI 기술의 발전으로 실제와 구분하기 어려운 콘텐츠가 급증하는 상황에서 이용자가 AI 창작물임을 인지할 수 있는 장치를 마련할 필요가 있다는 설명이다. 반면 창작 현장의 현실은 다르다는 목소리가 나온다. 글로벌 콘텐츠 기업 아트리스트가 지난달 19일 발표한 '2026 AI 트렌드 보고서'에 따르면 창작 전문가의 87%는 AI 도구를 사용하고 있으며 이 중 66%는 매주 AI 도구를 사용하고 있다. 이는 AI가 단순 보조 수단을 넘어 사실상 필수 도구로 자리 잡은 상황으로 풀이되며 이에 생성물 전반에 표시를 강제하는 규제가 창작 활동 전반에 부담으로 작용할 수 있을 것으로 분석된다. 특히 논란의 중심은 표시 방식과 범위다. 업계에서는 규제가 영상 시작이나 종료 시 AI 창작물임을 알리는 단순 고지 수준에 그치지 않고 콘텐츠 전체 분량에 워터마크 표시를 적용하는 방향으로 구체화될 가능성에 주목하고 있다. 이 경우 쇼츠·릴스 등 짧은 영상 콘텐츠에서는 화면 몰입도를 해치고 광고·브랜드 영상에서는 상업성 표시와 중첩되는 문제도 발생할 수 있다. 해외 주요 국가들의 규제 흐름과 비교해도 온도 차가 있다는 분석이 나온다. 유럽연합(EU)과 미국의 일부 주는 AI 창작물에 대해 이용자가 인지할 수 있도록 고지하는 데 초점을 둔 규제를 추진하고 있다. 딥페이크나 공공적 정보 왜곡 가능성이 큰 경우를 중심으로 표시 의무를 부과하고 예술·창작 영역에서는 표현의 자유와 산업 영향 등을 고려해 적용 범위를 조정하는 방식이다. 반면 국내 논의는 콘텐츠 전반에 일괄 표시를 요구하는 방향으로 흘러가고 있다는 점에서 상대적으로 규제 강도가 높아질 수 있다는 지적이 제기된다. 이 같은 규제는 정부의 AI 육성 기조와도 엇박자를 낸다는 평가가 나온다. 이재명 대통령은 지난달 14일 진행한 2026년도 예산안 연설에서 AI 관련 예산을 기존보다 3배 이상 확대해 약 10조 원 규모로 편성하고 세계 상위 3대 AI 강국으로 도약하겠다는 목표를 제시했다. AI 산업을 국가 성장 동력으로 육성하겠다는 선언과 달리 현장에서는 규제가 강화되는 것이다. 한 AI 업계 관계자는 이번 AI 기본법에 대해 인지하고 있지만 법이 관련된 문제로 입장을 밝히기 어렵다는 입장을 표했다.2025-12-15 17:29:28
-
과기정통부, "차세대 보안 표준 우리가 이끈다"…ITU-T서 기술력 입증 [이코노믹데일리] 한국이 제안한 차세대 정보보호 기술이 국제표준화 무대에서 대거 채택되며 글로벌 보안 시장에서의 리더십을 입증했다. 과학기술정보통신부(장관 배경훈)는 지난 3일부터 11일까지 스위스 제네바에서 열린 국제전기통신연합 전기통신표준화부문(ITU-T) 정보보호연구반(SG17) 국제회의에서 한국 주도 신규 표준화 항목 13건이 승인됐다고 14일 밝혔다. 이번 회의에는 전 세계 66개 회원국에서 482명의 전문가가 참석해 치열한 기술 외교전을 펼쳤다. 한국은 산학연 전문가 76명을 파견해 중국에 이어 두 번째로 많은 80건의 기술 기고서를 제출하며 회의를 주도했다. 그 결과 신규 표준화 항목 13건 승인을 비롯해 국제표준 13건 사전채택과 국제표준 1건 및 기술보고서 1건 최종 승인이라는 쾌거를 거뒀다. 승인된 신규 표준화 항목은 미래 보안 산업의 핵심 기술을 망라한다. 양자키 분배 네트워크에 종단 간 암호 기술을 적용하는 보안 표준과 디지털 신분증에서 필요한 정보만 선택적으로 제공하는 보안 기능이 포함됐다. 또한 자율주행 시대 필수 기술인 차량용 침입탐지시스템과 메타버스 환경 내 데이터 신뢰성 확보 기술 등도 신규 항목으로 이름을 올렸다. 차세대 보안 분야의 표준 개발 방향성을 제시할 로드맵 개발 역시 한국이 주도하게 된다. 한국이 수년간 공들여온 블록체인 기술도 결실을 맺었다. 분산원장기술을 활용한 신원 관리와 전력 거래 시스템 및 자산 관리 기술 등 13건이 국제표준으로 사전채택되며 기술적 우위를 확인했다. 소프트웨어 공급망 보안 위협에 대응하는 기술 역시 표준화 단계에 진입했다. 이와 함께 모바일 단말의 보안성 평가 기준과 메타버스 아바타 데이터 보호를 위한 분석 보고서는 최종 승인을 받아 국제 규격으로 확정됐다. 이번 회의의 최대 화두는 단연 인공지능(AI) 보안이었다. 회원국들은 AI 자체 보안과 생성형 AI 모델 보호 및 딥페이크 탐지 등을 전담할 연구과제를 신설하기로 합의했다. 한국은 에이전틱 AI와 피지컬 AI 등 차세대 AI 보안 기술까지 연구 범위를 확장해 주도권 확보에 나선다는 방침이다. 해당 과제는 내년 1월 표준화자문그룹 회의를 거쳐 6월 차기 회의에서 최종 확정될 예정이다. 임정규 과기정통부 정보보호네트워크정책관은 “차세대 보안 분야 표준 개발을 위해서는 로드맵 수립이 선행되어야 하는데 한국이 디지털트윈과 분산원장기술 등을 주도하는 것은 의미가 크다”며 “이번 성과를 바탕으로 AI 보안 표준 개발 등 정보보호 시장 확대를 위해 산학연 전문가들과 총력을 다하겠다”고 말했다.2025-12-14 15:35:30
-
EU도 주춤한데 韓 나 홀로 AI 규제 강행… 스타트업 "준비 안 됐다" [이코노믹데일리] 유럽연합(EU)이 인공지능(AI) 규제 속도 조절에 나선 가운데, 한국이 내년 1월 세계 최초로 AI 법규를 전면 시행하는 국가가 될 전망이다. 국내 AI 업계, 특히 중소 스타트업들은 준비 부족과 과도한 규제로 인한 산업 위축을 호소하며 정부의 ‘나 홀로 규제’ 행보에 깊은 우려를 표하고 있다. 14일 IT 업계에 따르면 우리나라는 내년 1월 22일 ‘인공지능 발전과 신뢰 기반 조성 등에 관한 기본법(AI 기본법)’을 시행한다. 이는 AI 관련 법규를 실질적으로 적용하는 세계 첫 사례다. EU 역시 AI 법을 제정했으나 고위험 AI에 대한 규제 등 핵심 조항은 내년 8월부터 단계적으로 적용될 예정이다. 문제는 규제의 강도와 속도다. 최근 EU 집행위원회는 ‘디지털 간소화 방안’을 발표하며 AI 규제 적용 시기를 2027년 말로 늦추는 등 완화 움직임을 보이고 있다. 미국 빅테크의 반발과 AI 경쟁력 저하 우려를 의식한 조치다. 반면 한국은 시행령 입법예고 기간이 촉박해 현장의 목소리가 충분히 반영되지 않았다는 비판이 거세다. 스타트업얼라이언스 조사 결과 국내 AI 스타트업의 98%가 “AI 기본법 시행에 대비한 실질적 대응 체계를 갖추지 못했다”고 답했다. 특히 AI 생성물에 의무적으로 표시를 남겨야 하는 ‘워터마크’ 규제가 쟁점이다. 과학기술정보통신부는 최근 비공개 간담회에서 모든 AI 생성물에 사람이 식별 가능한 표시를 의무화하는 방안을 논의한 것으로 알려졌다. 한 AI 콘텐츠 기업 대표는 “수많은 인력이 투입된 결과물에 단지 AI를 썼다는 이유만으로 ‘AI 생성물’ 딱지를 붙이면 소비자 외면으로 이어질 수 있다”며 “산업 현장을 고려하지 않은 탁상행정”이라고 성토했다. 이에 반해 일본은 과태료나 정부 조사권을 강제하는 대신 업계 자율 규제를 택했다. ‘소프트 거버넌스’를 통해 AI 산업 육성과 안전의 균형을 맞추겠다는 전략이다. 이러한 규제 환경 차이로 인해 올거나이즈, 업스테이지 등 국내 유망 AI 스타트업들이 잇따라 일본 시장으로 눈을 돌리거나 현지 법인을 설립하는 등 ‘탈(脫)한국’ 현상마저 감지되고 있다. 한국인터넷기업협회 관계자는 “규제가 지나치게 강하면 기업들이 해외로 떠날 유인이 커진다”며 “법 시행이 코앞인데 시행령조차 확정되지 않아 기업들의 불확실성만 키우고 있다”고 지적했다. 배경훈 과기정통부 장관은 “입법예고 기간 현장의 의견을 수렴해 산업 발전과 안전이 조화를 이루도록 하겠다”고 밝혔으나, 업계의 불안감은 여전히 해소되지 않고 있다.2025-12-14 14:07:13
-
개인정보위, 개인정보 유출 기업에 매출 10% '징벌적 과징금'…"사후 약방문 없다" [이코노믹데일리] 개인정보보호위원회(이하 개인정보위)가 반복적인 개인정보 유출 사고를 일으킨 기업에 대해 매출액의 최대 10%를 과징금으로 부과하는 ‘징벌적 과징금’ 제도를 도입한다. 또한 최고경영자(CEO)에게 개인정보 보호 관리의 최종 책임을 묻고 피해자가 손해배상을 청구할 수 있는 단체소송 요건을 완화하는 등 제재 수위를 대폭 강화한다. 송경희 개인정보위원장은 12일 정부세종컨벤션센터에서 열린 ‘2026년 업무보고’ 브리핑에서 이 같은 내용을 골자로 하는 정책 추진 계획을 발표했다. 송 위원장은 “최근 3년간 개인정보 유출 사고가 20배 이상 급증하며 국민 불안이 커지고 있다”며 “기존의 사후 수습 중심에서 사전 예방과 실효적 제재로 정책 패러다임을 완전히 전환하겠다”고 밝혔다. 이번 대책의 핵심은 ‘강력한 억지력 확보’다. 개인정보위는 반복적이거나 중대한 법 위반 행위에 대해 현행 매출액 3% 수준인 과징금 한도를 최대 10%까지 상향하는 특례를 신설한다. 이는 기업들이 과징금보다 보안 투자 비용이 더 크다고 판단해 안전 조치를 소홀히 하는 관행을 깨기 위한 조치다. 아울러 기업 CEO를 최종 개인정보 보호 책임자로 명시해 경영진의 책임을 법제화하고 일정 규모 이상의 기업에는 정보보호최고책임자(CPO) 지정 신고제를 도입해 관리 체계를 강화한다. ‘사전 예방’ 체계도 구축된다. 정보보호 인증 제도인 ISMS-P를 현장 중심으로 개편해 예비 심사를 도입하고 핵심 기준 미달 시 심사를 즉시 중단하는 등 인증의 문턱을 높인다. 유통 및 플랫폼 등 대규모 개인정보를 처리하는 분야에 대해서는 사전 실태 점검을 정례화하고 ‘기술분석센터’를 신설해 상시 모니터링 체계를 가동한다. AI(인공지능) 시대에 맞춘 데이터 활용 기반도 마련한다. AI 학습용 원본 데이터 활용을 위한 특례를 도입하고 마이데이터 전송 서비스를 2026년부터 에너지, 교육 등 6대 분야로 확대해 데이터 경제를 활성화한다. 일상 속 프라이버시 보호를 위해 IP 카메라나 로봇청소기 등 스마트 기기의 보안 인증을 의무화하는 법적 근거도 마련한다. 특히 딥페이크 등 신종 위협에 대응해 AI 합성 콘텐츠에 대한 삭제 요구권과 유통 금지 조항을 신설해 국민 권익을 보호할 방침이다. 송 위원장은 “반복된 유출 사고는 기업의 생존을 위협하는 경영 리스크임을 인식해야 한다”며 “엄정 대응과 구조적 개선을 통해 국민이 체감할 수 있는 안전한 디지털 환경을 만들겠다”고 강조했다.2025-12-12 14:48:34
-
"포토샵 넘본다"…제미나이3 품은 구글 '나노 바나나 프로', 생성부터 팩트체크까지 [이코노믹데일리] 구글이 최신 AI 모델 '제미나이3 프로'를 탑재해 텍스트 묘사 능력과 사실 검증 기능을 대폭 강화한 이미지 생성 도구 '나노 바나나 프로'를 선보였다. 특히 기존 AI 모델들이 어려워했던 한글 텍스트를 이미지 내에 자연스럽게 구현해 내며 창작 도구로서의 활용성을 극대화했다. 구글은 20일(현지시간) 기존 '나노 바나나'의 성능을 한 단계 업그레이드한 '나노 바나나 프로'를 공식 출시한다고 밝혔다. 이번 모델은 지난 18일 공개된 구글의 최신 대규모언어모델(LLM) '제미나이3 프로'를 기반으로 구축되어 단순한 그림 그리기를 넘어 고도화된 추론 능력과 최신 정보 반영 능력을 갖춘 것이 특징이다. 가장 눈에 띄는 변화는 텍스트 렌더링(묘사) 능력의 비약적인 발전이다. 기존 이미지 생성 AI들은 그림 속에 글자를 넣을 경우 철자가 틀리거나 뭉개지는 현상이 잦았으나 나노 바나나 프로는 이를 획기적으로 개선했다. 특히 제미나이의 다국어 추론 기능을 활용해 영어뿐만 아니라 한국어를 포함한 다양한 언어를 캘리그라피나 디자인 요소로 자연스럽게 녹여낸다. 구글 검색과의 실시간 연동도 강점이다. 예를 들어 "카르다몸 홍차를 만드는 방법을 보여주는 인포그래픽을 그려줘"라고 프롬프트(명령어)를 입력하면 AI가 레시피 정보를 검색해 사실에 기반한 정확한 그림 자료를 생성해 준다. 전문적인 편집 기능도 강화됐다. 사용자는 최대 14개의 이미지를 레퍼런스로 입력해 이를 구성요소로 한 새로운 이미지를 만들 수 있다. 이 과정에서 원본 이미지의 스타일과 일관성을 유지하면서 조명을 낮에서 밤으로 바꾸거나 피사체의 각도와 초점을 정교하게 변경하는 작업이 가능하다. 생성된 이미지는 4K 초고화질 해상도를 지원해 전문가용으로도 손색이 없다. 구글은 AI 기술의 부작용으로 꼽히는 '딥페이크'나 허위 정보 유포를 막기 위한 안전장치도 함께 마련했다. 구글의 챗봇 '제미나이'에 이미지 검증 기능을 탑재해 사용자가 이미지를 업로드하고 "AI로 생성된 것인가요?"라고 묻기만 하면 즉시 판별해 준다. 이는 구글의 디지털 워터마크 기술인 '신스ID(SynthID)'가 적용된 덕분이다. 생성된 모든 이미지에는 사람의 눈에는 보이지 않는 워터마크가 내장되어 있어 AI 생성 여부를 식별할 수 있다. 구글은 무료 및 일반 유료(프로) 이용자가 생성한 이미지에는 가시적인 워터마크도 함께 표시해 투명성을 높였으며 전문가용 '울트라' 요금제 사용자에게만 워터마크 없는 이미지 생성을 허용한다. '나노 바나나 프로'는 오늘부터 구글 제미나이 앱의 '추론' 모델이나 업무 보조 도구 '노트북LM'을 통해 사용할 수 있다. 개발자와 기업 고객은 워크스페이스나 API 등을 통해 해당 기능을 자사 서비스에 접목할 수 있다. 구글의 이번 출시는 어도비의 '포토샵'이나 '미드저니' 등 경쟁자들을 따돌리고 생성형 AI 시장에서의 주도권을 굳히기 위한 전략으로 풀이된다.2025-11-21 09:46:09
-
한컴위드, 3분기 누적 매출 4972억…'한컴금거래소' 실적 힘입어 '역대급 성장' [이코노믹데일리] 한컴그룹의 지주사 역할을 하는 한컴위드가 '금(金)'을 날개 삼아 역대급 실적을 기록했다. 자회사인 '한컴금거래소'의 폭발적인 성장에 힘입어 3분기 만에 이미 지난해 연간 매출을 뛰어넘는 '어닝 서프라이즈'를 달성했다. 한컴위드는 이러한 성장세를 바탕으로 금과 같은 실물자산을 디지털화하는 '실물연계자산(RWA)' 사업을 미래 핵심 성장 동력으로 삼고 차세대 보안 기술을 결합해 디지털 금융 시장을 선도하겠다는 포부다. 한컴위드는 12일 2025년 3분기 누적 연결 기준 매출 4972억원, 영업이익 41.3억원을 기록했다고 공시했다. 누적 매출은 전년 동기 대비 50.1%나 급증했으며 이는 2024년 연간 매출(4481.8억원)을 이미 넘어선 수치다. 영업이익 역시 약 7.6배 상승하며 수익성이 크게 개선됐다. 이번 실적 호조는 자회사 '한컴금거래소'가 이끌었다. 금값 상승과 맞물려 안전자산인 금에 대한 수요가 급증하면서 한컴금거래소의 매출과 수익성이 동시에 급등한 것이다. 한컴위드는 여기에 만족하지 않고 한컴금거래소의 금 유통망과 자사가 보유한 독보적인 보안 기술을 결합해 '금 RWA' 사업을 본격화한다. 금 보관의 어려움과 유통의 불투명성을 블록체인과 보안 기술로 해결해 누구나 쉽고 안전하게 금에 투자할 수 있는 디지털 금융 생태계를 구축하겠다는 전략이다. 이와 함께 AI 딥페이크 탐지 기술과 양자내성암호(PQC) 등 차세대 보안 기술 상용화에도 속도를 내고 있다. 최근에는 AI 딥페이크 탐지 기술을 적용한 화자인증 솔루션을 출시했으며 PQC 기술은 자사의 통신 및 데이터 암호화 제품에 탑재해 상용화를 마쳤다. 한컴위드 관계자는 "향후 한컴금거래소의 금 유통망과 한컴위드의 독보적인 보안 기술을 결합하는 RWA 사업을 핵심 성장 동력으로 삼아 기술 기반의 디지털 금융 생태계를 주도해 나가겠다"고 밝혔다.2025-11-12 16:09:29
-
AI가 가짜 목소리·영상 잡는다…한컴위드, 딥페이크와의 전쟁 선포 [이코노믹데일리] 한컴위드가 인공지능(AI) 기술로 딥페이크 영상과 음성을 판별하는 통합 탐지 시스템을 선보인다. 한컴위드는 오는 22일부터 인천 송도컨벤시아에서 열리는 ‘2025 국제치안산업대전(KPEX)’에 참가해 관련 연구 성과를 공개한다고 밝혔다. 이번 참가는 경찰청의 R&D 과제를 공동으로 수행하는 숭실대학교, 연세대학교, 성균관대학교와 함께 진행된다. 한컴위드 컨소시엄은 지난 5월부터 경찰청 최초의 국제공동연구 사업인 ‘허위조작 콘텐츠 진위 판별 시스템 개발’에 참여하고 있다. 독일 부퍼탈 대학도 국외 공동연구기관으로 함께한다. 이 사업은 생성형 AI의 발전으로 날로 정교해지는 허위조작 콘텐츠에 효과적으로 대응하기 위해 추진됐다. 2027년까지 3년간 신뢰도 높은 데이터셋을 구축하고 영상·음성·텍스트 등 다양한 형태의 조작을 종합적으로 판별하는 통합 탐지 시스템을 개발하는 것이 목표다. 한컴위드는 전시 부스에서 관람객이 기술을 직접 체험할 수 있는 프로그램을 마련했다. ‘딥페이크 음성 탐지 게임’을 통해 사람의 실제 목소리와 AI가 생성한 가짜 목소리를 직접 구분해볼 수 있다. 또한 웹 기반 파일 탐지 및 스마트폰 실시간 탐지 기술 시연을 통해 보이스피싱과 같은 실제 범죄 시나리오에 기술이 어떻게 적용되는지 확인할 수 있다. 이번 전시에서는 최신 연구 성과도 함께 공개된다. 음성, 영상, 텍스트 등 여러 데이터를 종합적으로 분석해 조작 여부를 가려내는 ‘멀티모달 통합 탐지 모델’이 대표적이다. 새로운 딥페이크 기술에 신속히 대응할 수 있도록 AI 모델의 성능을 자동으로 관리하고 고도화하는 ‘AI 탐지 모델 통합 운영 시스템(MLOps)’도 선보인다. 행사 기간 중에는 ‘국제공동연구 협력 강화 방안’을 주제로 한 세미나도 열린다. 정수환 숭실대 교수가 현재 진행 중인 공동연구 사례를 발표하고 독일 측 연구기관이 양국 간 협력 사례를 공유하는 등 기술 교류와 협력 방안이 심도 있게 논의될 예정이다. 공동연구 관계자는 “이번 전시는 허위조작 콘텐츠에 효과적으로 대응할 수 있는 혁신 기술을 선보이고 공동 연구기관들과 함께 이룬 연구 성과를 외부에 알리는 좋은 기회가 될 것”이라며 “경찰청 과제를 성공적으로 마무리하여 고도화되는 딥페이크 범죄로부터 국민의 안전을 지키는 데 기여하고 나아가 시장에서 경쟁력을 갖춘 제품을 선보일 것”이라고 말했다.2025-10-21 11:45:07
-
LG유플러스, 개인 맞춤형 AI 통화 앱 '익시오 2.0' 출시…AI 대화 검색 등 추가 [이코노믹데일리] LG유플러스가 AI 통화 앱 ‘익시오(ixi-O)’를 한 단계 진화시킨 2.0 버전을 선보인다. 단순 통화 녹음과 요약을 넘어 AI가 과거의 대화 내용까지 찾아주고 사용자의 필요에 맞게 통화 내용을 재구성하는 등 ‘초개인화 AI 에이전트’로의 변신을 예고했다. LG유플러스는 개인 맞춤형 AI 기능을 대폭 강화한 ‘익시오 2.0’을 공개했다. 기존 1.0 버전이 딥페이크 목소리까지 탐지하는 ‘안티딥보이스’ 등 강력한 보안 기능에 초점을 맞췄다면 2.0 버전은 사용자의 편의성을 극대화하는 데 집중했다. 새롭게 추가된 기능 중 가장 눈에 띄는 것은 ‘AI 대화 검색’이다. 통화 녹음 목록을 뒤질 필요 없이 AI에게 “지난주에 친구가 생일 선물로 뭘 받고 싶다고 했지?”라고 질문하면 통화 내용을 기반으로 AI가 답변을 찾아준다. 대화 방식이나 감정까지 분석해 관계 개선을 위한 맞춤형 인사이트를 제공하기도 한다. 통화 내용을 자동으로 정리해주는 ‘AI 스마트 요약’ 기능도 고도화됐다. 단순 메모 형태를 넘어 부동산 중개, 영업 활동 등 특정 업무에 최적화된 양식으로 내용을 요약해줘 생산성을 높일 수 있다. ‘디스커버 2.0’은 사용자의 통화 및 문자 패턴을 분석해 필요한 AI 기능을 맞춤형으로 추천해주는 안내 페이지다. 안드로이드 이용자를 위한 신규 기능도 추가됐다. 문자나 카카오톡 메시지에 포함된 피싱 의심 URL 접속 시 경고 알림을 보내는 ‘위험 URL 탐지’ 기능과 문자로 받은 쿠폰이나 예약 일정을 만료일 전에 알려주는 ‘AI 문자 리마인더’가 새롭게 도입됐다. iOS 버전에는 하나의 폰에서 두 개의 번호를 쓰는 ‘듀얼넘버’ 기능이 추가됐다. 최윤호 LG유플러스 AI Agent추진그룹장(상무)은 “익시오를 사용하는 고객에게 안심과 편리 두 가지 가치를 모두 제공하기 위해 이번 익시오 2.0 버전을 개발했다”며 “앞으로도 다양한 고객 가치를 제공하며 LG유플러스가 추구하는 ‘밝은 세상’을 만드는데 앞장서겠다”고 말했다.2025-10-20 09:29:37
-
한컴위드, AI가 목소리 위조 막는다…딥페이크 잡는 'AI 보안관' 선보여 [이코노믹데일리] 한컴위드가 인공지능(AI) 딥페이크 음성을 탐지하는 기술을 결합한 차세대 화자인증 솔루션을 출시하며 AI 보안 시장에 출사표를 던졌다. 생성형 AI 기술을 악용한 보이스피싱과 금융사기가 갈수록 교묘해지는 가운데 목소리 자체의 진위 여부를 판별하는 새로운 보안 기술이 대안이 될 수 있을지 주목된다. 한컴위드는 16일 숭실대학교 AI보안연구센터와 공동 개발한 AI 기반 통합 보안 솔루션 ‘한컴 에이아이에스알씨 스피키(Hancom AISRC SPEEKEY)’를 출시했다고 밝혔다. 이 솔루션은 사용자의 목소리로 본인 여부를 확인하는 ‘화자인증’ 기술에 해당 음성이 실제 사람의 목소리인지 AI로 합성된 가짜 목소리인지를 판별하는 ‘딥페이크 음성 탐지’ 기술을 통합한 것이 특징이다. ‘스피키’는 개인 고유의 억양이나 사투리 등 미세한 음성 특징까지 추출해 AI가 흉내 낸 합성음성을 이용한 공격을 원천적으로 차단한다. 대규모 한국어 데이터를 학습한 최신 딥러닝 모델과 자체 개발한 ‘3중 학습 전략’을 적용해 다양한 환경에서도 높은 탐지 성능과 인증 신뢰도를 확보했다는 것이 회사 측의 설명이다. 최근 생성형 AI를 활용해 가족이나 지인의 목소리를 똑같이 복제해 돈을 요구하는 등 신종 보이스피싱 범죄가 기승을 부리면서 사회적 불안감이 커지고 있다. 이런 상황에서 ‘스피키’는 비밀번호나 공동인증서보다 간편하면서도 높은 보안성을 제공하는 차세대 인증 수단이 될 것으로 기대된다. 화자인증 기술은 금융·통신 분야를 넘어 스마트 모빌리티의 운전자 맞춤 설정, 스마트홈의 AI 스피커, 로봇·드론 등 다양한 미래 산업으로 확장성이 높다. 특히 음성만으로 안전하게 금융거래와 공공서비스를 이용할 수 있어 고령층이나 장애인의 디지털 접근성을 높이는 데도 기여할 전망이다. 송상엽 한컴위드 대표는 “한컴위드는 AI 기반 보안 설루션 포트폴리오를 지속 확대하며 인증보안 시장의 경쟁력을 강화하고 있다”라며 “스피키의 뛰어난 탐지 성능이 AI 기술을 악용한 위협으로부터 사용자를 보호하는 최선의 대안이 될 것으로 기대한다”라고 밝혔다.2025-10-16 10:29:52
-
![[2025국감] 배경훈 부총리 첫 국감서 AI 윤리·R&D 삭감 뭇매](https://image.ajunews.com//content/image/2025/10/13/20251013113400155406.jpg)
배경훈 부총리 첫 국감서 'AI 윤리·R&D 삭감' 뭇매 [이코노믹데일리] 배경훈 부총리 겸 과학기술정보통신부 장관의 첫 국정감사 데뷔전은 ‘사과’와 ‘진땀’으로 요약됐다. 야당 의원들은 윤석열 정부 시절 자행된 연구개발(R&D) 예산 삭감의 책임을 추궁하며 사과를 받아냈고 여당 의원은 AI 기술의 위험성을 직접 시연하며 정부의 ‘장밋빛 청사진’ 이면의 허점을 날카롭게 파고들었다. 13일 정부세종청사에서 열린 국회 과학기술정보방송통신위원회 국정감사에서 배 부총리는 “디지털 안전을 책임지는 장관으로서 막중한 책임감을 느낀다”며 최근 연이은 해킹 사고에 대해 먼저 고개를 숙였다. 이어 “확고한 디지털 안전 체계 없이는 AI 3강은 불가능하다”며 근본적인 재발 방지 대책을 약속했다. 그는 ‘글로벌 AI 3대 강국 도약’이라는 목표 아래 GPU 20만장 확보, AI 기본법 제정, 역대 최대 규모인 35조원의 R&D 예산 편성 등 야심 찬 계획을 보고했다. 하지만 야당 의원들은 정부의 청사진보다 과거의 과오를 먼저 따져 물었다. 더불어민주당 황정아 의원은 “윤석열 정권 당시 R&D 예산 삭감으로 국내 연구 생태계가 심각하게 훼손됐다”고 질타했다. 이에 배 부총리는 “R&D 예산 삭감으로 피해를 입은 모든 분들께 사과의 말씀을 드린다”며 “청년, 신진 연구자들의 피해가 굉장히 컸다. 다시는 이런 사태가 발생하지 않도록 최선을 다하겠다”고 공식 사과했다. 그는 나아가 기초 연구 예산의 의무 투자 비율을 법제화하는 방안까지 검토하겠다고 밝혔다. 같은 당 노종면 의원은 과기정통부 내부 문건을 근거로 “2023년 R&D 예산 삭감은 당시 최상목 대통령실 경제수석이 지시한 것”이라며 “윤석열 전 대통령이 승인했거나 지시했다고 볼 여지가 있다”고 지적했고 배 부총리는 “맞다”고 시인하며 당시 의사결정 과정에 문제가 있었음을 사실상 인정했다. 정부의 AI 정책이 산업 육성에만 치우쳐 있다는 여당의 쓴소리도 나왔다. 국민의힘 이상휘 의원은 박장범 KBS 사장의 영상과 음성을 AI로 합성한 ‘딥페이크’ 조작 영상을 국감장에서 실시간으로 시연하며 AI의 위험성을 경고했다. 이 의원은 "정부가 지금처럼 'AI는 기회다'라는 슬로건만 반복한다면 머지않아 'AI는 재앙이었다'는 비명이 터져 나올지도 모른다"며 “AI 리스크를 통제하고 대응하는 분야의 예산은 극히 제한적”이라고 지적했다. 이에 배 부총리는 “말씀 주신 내용에 충분히 공감한다”며 “AI 기본법에 AI 안전과 신뢰에 대한 부분을 충분히 담고 AI 안전연구소에서 딥페이크 방지 기술 등에 대한 R&D도 진행 중”이라고 해명했지만 기술 발전 속도에 비해 정부의 윤리 및 규제 논의가 뒤처지고 있다는 비판을 피하기는 어려워 보였다. 한편 취임 후 첫 국감에서 혹독한 신고식을 치른 배 부총리가 산적한 과거의 과제를 해결하고 미래 비전을 실현할 리더십을 보여줄 수 있을지 주목된다.2025-10-13 11:34:54
-
오픈AI 영상 앱 '소라', 출시 5일 만에 다운로드 100만 돌파…'AI판 틱톡' 돌풍 [이코노믹데일리] 오픈AI가 선보인 인공지능(AI) 영상 제작 및 공유 앱 ‘소라(Sora)’가 출시 5일도 채 되지 않아 다운로드 100만 건을 돌파하며 돌풍을 일으키고 있다. 이는 ‘챗GPT’보다도 빠른 초기 성장세로 텍스트 생성을 넘어 ‘영상 생성’의 시대가 본격적으로 개막했음을 알리는 신호탄이다. ‘AI판 틱톡’으로 불리는 소라의 등장은 기존 소셜 미디어 시장의 판도를 뒤흔들고 콘텐츠 창작의 개념 자체를 근본적으로 바꿀 전망이다. ◆ 챗GPT보다 빠른 속도…‘초대 전용’에도 앱스토어 1위 9일(현지시간) CNBC 방송에 따르면 빌 피블스 오픈AI 소라 부문 대표는 자신의 X(옛 트위터) 계정에 “소라가 출시한 지 5일도 안 돼 100만 다운로드를 돌파했다”고 밝혔다. 그는 이어 “이는 8억 명의 주간 활성 사용자를 보유한 인기 챗봇 챗GPT보다도 더 빠른 속도”라고 덧붙였다. ‘소라’는 지난달 30일 출시된 앱으로 텍스트 프롬프트를 입력하면 짧은 영상을 생성해주는 오픈AI의 최신 동영상 생성 AI 모델 ‘소라 2’를 기반으로 한다. 이용자는 생성된 영상을 앱 내 피드에 공유할 수 있으며 다른 사용자의 영상을 보거나 상호작용할 수 있어 틱톡이나 인스타그램 릴스와 유사한 사용자 경험을 제공한다. 현재 ‘소라’ 앱은 아이폰에서 초대 코드가 있어야만 접속할 수 있는 매우 제한된 방식으로 운영되고 있음에도 불구하고 애플 앱스토어에서 다운로드 순위 1위를 기록하는 등 폭발적인 반응을 얻고 있다. 이는 AI가 만들어내는 고품질 영상에 대한 대중의 엄청난 호기심과 기대감을 방증한다. 빌 피블스 대표는 “(소라 앱의) 폭발적인 성장 속도를 따라잡기 위해 팀이 열심히 일하고 있다”고 말했다. ◆ ‘누구나 크리에이터’ 시대…숏폼 시장 지각변동 예고 소라의 등장은 틱톡과 유튜브 쇼츠, 인스타그램 릴스가 지배하고 있는 숏폼 영상 시장에 거대한 지각변동을 예고한다. 기존 플랫폼이 실제 촬영과 편집 기술을 요구했다면 소라는 ‘상상력’과 ‘언어’만으로 누구나 고품질의 영상을 만들 수 있는 시대를 열었기 때문이다. 이는 전문 크리에이터가 아니더라도 누구나 창작의 주체가 될 수 있음을 의미하며 콘텐츠의 양과 다양성이 폭발적으로 증가하는 계기가 될 수 있다. 오픈AI는 향후 안드로이드 버전을 출시하고 초대 전용 정책을 폐지하는 등 빠르게 서비스를 확장할 계획이라고 밝혀 숏폼 시장의 경쟁은 더욱 치열해질 전망이다. 물론 장밋빛 전망만 있는 것은 아니다. 텍스트 몇 줄만으로 실사에 가까운 영상을 만들 수 있다는 것은 동시에 ‘가짜 뉴스’나 ‘딥페이크’와 같은 악의적인 콘텐츠가 대량 생산될 수 있는 위험을 내포한다. 오픈AI는 이러한 우려를 의식해 초기 서비스를 제한적으로 운영하며 기술적 안전장치를 마련하는 데 집중하고 있는 것으로 보인다. AI가 여는 ‘창작의 민주화’ 시대가 인류에게 축복이 될지 새로운 혼란의 시작이 될지는 결국 기술을 개발하고 사용하는 인간의 ‘책임’에 달려있다.2025-10-10 09:51:26
-
北 해킹그룹, 'AI 딥페이크'로 군무원증 위조…軍 겨냥 스피어피싱 첫 확인 [이코노믹데일리] 북한 배후로 추정되는 해킹그룹이 생성형 인공지능(AI)으로 만든 딥페이크 이미지를 활용해 우리 군 관계 기관을 겨냥한 사이버 공격에 나선 사례가 국내에서 처음으로 확인됐다. AI 기술이 고도화되면서 국가 안보를 직접적으로 위협하는 사이버 공격에 본격적으로 악용되기 시작했다는 점에서 심각한 우려를 낳고 있다. 15일 보안 전문기업 지니언스의 시큐리티 센터(GSC) 보고서에 따르면 북한 연계 해킹그룹으로 악명 높은 ‘김수키(Kimsuky)’는 지난 7월, AI로 합성한 딥페이크 이미지를 활용해 군 관계 기관에 스피어피싱 공격을 시도했다. 이들은 ‘군무원 신분증 시안 검토’를 요청하는 내용의 이메일에 악성 파일을 첨부해 발송했는데 이때 사용된 신분증 시안 속 인물 사진이 바로 AI로 생성한 가짜 이미지였다. 또한 이메일 발신자 주소 역시 실제 군 공식 도메인인 ‘mil.kr’과 유사한 ‘mli.kr’을 사용해 수신자를 속이려는 치밀함까지 보였다. 보안 업계에서는 북한 해커들이 “실제 군 공무원증 복제가 아닌 합법적인 목적의 디자인 제작”이라고 AI 모델을 속이는 ‘프롬프트 엔지니어링’ 수법을 사용해 딥페이크 이미지를 생성했을 것으로 추정하고 있다. 이는 AI의 윤리적 가드레일을 우회하는 교묘한 방식으로 AI 기술이 사이버 범죄에 얼마나 쉽게 악용될 수 있는지를 보여주는 단적인 예다. 북한 해커들의 AI 악용은 단순히 이미지를 위조하는 수준을 넘어섰다. 이들은 AI를 통해 자신들의 ‘능력’ 자체를 향상시키며 공격의 차원을 달리하고 있다. 지난 8월 말, 챗GPT 개발사 오픈AI의 경쟁사인 앤스로픽이 발간한 보안 보고서는 북한 사이버 공격자들의 충격적인 AI 악용 사례를 공개한 바 있다. 보고서에 따르면 북한 해커들은 AI를 활용해 정교하게 조작된 가짜 신원을 만들고 이를 이용해 해외 IT 기업에 원격 근무자로 위장 취업했다. 심지어 채용 과정의 기술 평가나 실제 업무 수행까지 AI의 도움을 받은 정황이 드러났다. 앤스로픽은 보고서에서 “이러한 활동은 국제 제재를 회피하고 북한 정권의 외화 획득을 목적으로 정교하게 설계된 것”이라고 분석했다. AI가 없었다면 프로그래밍 역량이나 영어 소통 능력이 부족해 불가능했을 위장 취업을 AI가 가능하게 만들어 준 셈이다. 지니언스 시큐리티 센터는 “AI 서비스는 업무 생산성을 높이는 강력한 도구이지만 동시에 국가 안보 차원의 사이버 위협에 악용될 수 있는 잠재적 위험 요소”라며 “IT 조직 내 채용·업무·운영 전반에서 AI 악용 가능성을 고려한 대책 마련이 필요하다”고 제언했다. AI 기술의 발전이 가져온 ‘양날의 검’이 이제 우리 안보를 직접적으로 겨누기 시작했다.2025-09-15 09:46:59
-
LG유플러스, K-AI 보안 기술, 세계로…법과학·개인정보보호 총회서 '익시오' 시연 [이코노믹데일리] LG유플러스가 자체 개발한 AI 앱 ‘익시오(ixi-O)’에 탑재된 ‘보이스피싱 탐지 기술’을 글로벌 무대에 선보인다. LG유플러스는 오는 15일부터 열리는 ‘한-아시아 법과학 총회’와 ‘글로벌 프라이버시 총회(GPA)’에 연달아 참여해 세계 최초로 상용화한 온디바이스 AI 기반 피싱 차단 기술을 소개한다고 밝혔다. ‘한-아시아 법과학 총회’는 아시아 지역 국립과학수사연구원들의 국제회의로 LG유플러스는 이 자리에서 전시 부스를 운영하고 키노트 발표도 진행한다. 최윤호 AI Agent 추진그룹장(상무)은 ‘범죄 예방으로 활용되는 AI 테크 익시오’를 주제로 AI 기술과 과학수사 데이터를 활용한 보이스피싱 피해 예방 효과를 소개할 예정이다. 또한, 개인정보보호위원회가 주최하는 세계 최대 개인정보 분야 국제회의 ‘GPA 2025’에서도 전시 부스를 운영한다. 올해 행사의 주제가 ‘인공지능 시대의 개인정보 이슈’인 만큼 LG유플러스는 온디바이스 AI 기술의 우수성을 적극 알릴 계획이다. 양쪽 행사 부스 방문객들은 익시오의 보이스피싱 실시간 탐지 기능은 물론 AI를 활용한 위변조 목소리를 찾아내는 ‘안티딥보이스’와 합성 영상을 탐지하는 ‘안티딥페이크’ 기술을 직접 체험할 수 있다. 최윤호 상무는 “보이스피싱은 개인정보 보호와 범죄 예방이 교차하는 사회적 문제”라며 “글로벌 전문가들이 모이는 자리에서 익시오를 소개함으로써 한국의 앞선 AI 보안 역량을 알리고 안전한 디지털 환경 조성에 기여하겠다”고 말했다.2025-09-14 09:00:00
-
하루 75건씩 퍼지는 '가짜 성착취물'…내 딸, 내 친구가 타깃 [이코노믹데일리] 인공지능(AI) 기술이 만든 ‘가짜 성착취물’ 즉 딥페이크 성범죄 영상물이 대한민국을 집어삼키고 있다. 생성형 AI 기술의 발전 속도를 법과 제도가 따라가지 못하는 사이 피해 건수는 기하급수적으로 폭증하고 있으며 특히 10대와 20대 젊은 층이 무방비로 범죄에 노출되고 있다. 8일 국회 과학기술정보방송통신위원회 소속 국민의힘 박충권 의원이 방송통신심의위원회로부터 제출받은 자료는 딥페이크 성범죄의 끔찍한 확산 실태를 그대로 보여준다. 올해 1월부터 7월까지 단 7개월간 방심위가 삭제·접속차단을 요구한 딥페이크 성범죄 영상물은 무려 1만5808건에 달했다. 이는 하루 평균 75건, 한 시간에 3건 이상의 성범죄 영상물이 온라인에 유포되고 있다는 의미다. 이러한 추세라면 올해 전체 시정요구 건수는 2만7000건을 넘어 사상 최다를 기록할 것이 확실시된다. 2020년 관련 법 시행 첫해 473건에 불과했던 시정요구 건수는 2023년 7187건, 2024년 2만3107건으로 매년 폭발적으로 증가해왔다. 불과 5년 만에 50배 이상 급증한 것이다. 더욱 심각한 문제는 피해가 특정 연령층에 집중되고 있다는 점이다. 여성가족부가 박 의원실에 제출한 자료에 따르면 올해 7월까지 디지털성범죄 피해자 지원센터에 접수된 합성·편집 피해자 540명 중 10대 이하가 256명(47.4%), 20대가 240명(44.4%)으로, 20대 이하 피해자가 전체의 84%를 차지했다. 이는 딥페이크 성범죄가 단순한 온라인상의 문제가 아니라 우리 아이들의 교실과 캠퍼스를 직접적으로 위협하는 현실적인 공포가 되었음을 의미한다. 범죄의 온상은 주로 해외에 서버를 둔 불법 음란사이트와 P2P 사이트 그리고 추적이 어려운 텔레그램이다. 텔레그램에 대한 접속차단 요구는 2023년 38건에서 지난해 618건으로 급증했으며 올해는 7월까지만 해도 403건에 달했다. ◆ ‘솜방망이 처벌’과 ‘기술 발전’ 사이...제2의 N번방 막을 수 있나 이처럼 피해가 눈덩이처럼 불어나고 있지만 정부의 대책은 사실상 무력하다는 비판이 나온다. 박충권 의원은 “지난해 서울대 N번방 사건 등 딥페이크 음란물 유포가 사회적 공분을 샀음에도 정부 대책은 사실상 유명무실했다”고 지적했다. 현행법상 딥페이크 성범죄 영상물을 제작·반포할 경우 처벌을 받게 되지만 해외에 서버를 둔 플랫폼에 대한 실질적인 제재가 어렵고 가해자를 특정하기도 쉽지 않다. 방심위의 시정요구는 이미 유포된 영상물을 사후에 차단하는 것에 불과해 피해자의 고통을 근본적으로 막기에는 역부족이다. 전문가들은 지금과 같은 ‘솜방망이 처벌’과 ‘사후약방문식’ 대응으로는 고도화되는 AI 기술을 악용한 범죄를 절대 뿌리 뽑을 수 없다고 경고한다. 생성형 AI 기술의 접근성이 갈수록 낮아지면서 이제 누구나 손쉽게 딥페이크 영상물을 제작할 수 있는 시대가 됐기 때문이다. 결국 이 끔찍한 범죄의 고리를 끊기 위해서는 △AI 기술을 악용한 성범죄에 대한 양형 기준 대폭 강화 △플랫폼 사업자의 불법 영상물 유통 방지 책임 강화 △국제 공조를 통한 해외 서버 단속 및 범죄인 인도 △AI 생성물의 워터마크 의무화 등 기술적 조치 도입 등 입법·사법·행정·기술 전반에 걸친 총체적인 대책 마련이 시급하다. 그렇지 않으면 우리는 언제 터질지 모르는 ‘제2의 N번방’이라는 시한폭탄을 안고 살아갈 수밖에 없을 것이다.2025-09-08 09:41:18
-
北 해킹조직, '신입사원'인 줄 알았더니…'위장취업'…320개 이상 기업 침투 [이코노믹데일리] 북한 해킹조직이 생성형 인공지능(AI)을 악용해 가짜 신분을 만들고 전 세계 수백 개 기업에 소프트웨어 개발자로 위장 취업해 조직적인 해킹을 벌인 것으로 드러났다. AI 기술이 국가 차원의 사이버 공격에 본격적으로 ‘무기화’되고 있다는 사실이 확인되면서 전 세계 기업들에 비상이 걸렸다. 글로벌 사이버 보안업체 크라우드스트라이크는 1일 발표한 ‘2025년 위협 헌팅 보고서’를 통해 북한 연계 해킹조직 ‘페이머스 천리마’가 지난해 생성형 AI를 활용해 320개 이상의 기업에 침투했다고 밝혔다. 이는 전년 대비 220% 급증한 수치다. 보고서에 따르면 이들은 생성형 AI로 가짜 이력서를 작성하고 딥페이크 기술로 화상 면접을 통과하는 등 위장 취업의 전 과정을 자동화했다. 영어에 능통하지 않음에도 AI 코드 에이전트와 번역 도구를 활용해 미국, 캐나다, 일본 등 전 세계 대기업에 소프트웨어 개발자로 잠입, 일상적인 업무를 수행하며 의심을 피했다. 위장 취업에 성공한 뒤에는 회사에서 지급받은 노트북을 미국 각지에 마련한 ‘노트북 팜’으로 보내 원격 해킹 도구로 활용했다. 노트북 팜은 악성코드를 심은 다수의 노트북을 원격으로 조종하며 불법 해킹을 벌이는 시설로 이들은 이를 통해 기업의 소스코드 등 지적재산권을 훔치거나 자금을 탈취한 것으로 조사됐다. 크라우드스트라이크는 북한뿐만 아니라 러시아, 이란 등 다른 국가 연계 해킹 조직들도 LLM을 활용한 피싱 공격을 감행하는 등 AI를 악용한 사이버 위협이 전방위적으로 확산되고 있다고 경고했다. 특히 보고서는 최근 기업들이 앞다퉈 도입하고 있는 ‘AI 에이전트’가 새로운 공격 표적이 되고 있다고 지적했다. 공격자들이 AI 에이전트의 개발 도구나 접근 권한을 탈취해 악성코드를 배포하는 사례가 증가하고 있다는 것이다. 애덤 마이어스 크라우드스트라이크 공격 대응 작전 총괄은 “공격자들은 생성형 AI를 악용해 사회공학 공격에 속도를 내며 기업이 도입한 AI 시스템을 주요 표적으로 삼는다”며 “향후 사이버 보안의 핵심은 기업이 자사 AI를 어떻게 보호하느냐에 달렸다”고 강조했다.2025-09-01 17:24:37
많이 본 뉴스
영상
Youtube 바로가기
