2026.02.01 일요일
검색
'워터마크' 검색결과
기간검색
-
~
검색영역
검색어
-
내일부터 'AI 기본법' 시행... 오픈AI·네이버 등 생성물 표시 의무화 [이코노믹데일리] 내일(22일)부터 세계 최초의 포괄적 AI 규제법인 '인공지능 기본법'이 시행된다. 핵심은 챗GPT나 딥페이크 앱 등 AI 서비스를 제공하는 기업이 이용자에게 '이것은 AI가 만든 것'임을 명확히 알리도록 하는 투명성 확보 의무다. 다만 AI를 도구로 활용해 웹툰이나 영상을 만드는 개인 창작자는 직접적인 규제 대상에서 제외됐다. 과학기술정보통신부는 21일 AI 기본법 시행을 앞두고 'AI 투명성 확보 가이드라인'을 공개했다. 이번 가이드라인은 투명성 확보 의무 대상을 AI 제품과 서비스를 직접 제공하는 '인공지능사업자'로 명확히 규정했다. 여기에는 국내 기업뿐만 아니라 한국 이용자에게 서비스를 제공하는 구글이나 오픈AI 등 해외 사업자도 포함된다. 반면 AI를 업무나 창작 도구로 활용하는 이용자는 의무 대상이 아니다. 예를 들어 웹툰 작가가 AI로 채색하거나 제작사가 AI로 영상을 만들어도 법적 제재를 받지 않는다. 사업자는 이용자가 서비스를 쓰기 전 약관이나 구동 화면을 통해 고영향·생성형 AI 기술 적용 사실을 미리 알려야 한다. 결과물에 대한 표시 의무는 서비스 환경에 따라 나뉜다. 챗봇처럼 앱 내에서만 소비될 때는 UI나 로고 표시만으로 충분하다. 하지만 결과물을 다운로드하거나 외부로 공유할 때는 식별 가능한 워터마크나 음성 안내를 포함해야 하며 기계가 판독할 수 있는 메타데이터도 적용해야 한다. 특히 사회적 파장이 큰 딥페이크물은 반드시 AI 생성물임을 명확히 밝혀야 한다. 정부는 제도 안착을 위해 최소 1년 이상의 계도기간을 운영한다. 이 기간에는 사실조사와 과태료 부과가 유예된다. 김경만 과기정통부 인공지능정책실장은 "규제보다 산업 경쟁력 제고에 방점을 두고 미비점은 보완해 나가겠다"고 밝혔다. 플랫폼 업계도 대응에 나섰다. 카카오는 AI 생성물 관련 고지 내용을 담은 약관을 신설해 내달 4일부터 시행하며 네이버도 내부 지침을 정비하고 있다. 한편 국회에서는 법적 사각지대를 보완하려는 움직임도 있다. 조인철 더불어민주당 의원은 이날 플랫폼과 게시자에게도 AI 생성물 표시 유지 의무를 부과하는 정보통신망법 개정안 등을 발의했다.2026-01-21 16:24:11
-
"우리도 고위험군인가"... 가이드라인 부재에 산업계 '속앓이' [이코노믹데일리] 대한민국 인공지능(AI) 산업의 제도적 기틀이 될 ‘인공지능 발전과 신뢰 기반 조성 등에 관한 기본법(이하 AI 기본법)’ 시행이 보름 앞으로 다가왔다. 오는 22일부터 법 효력이 발생하지만 정작 산업 현장에서는 세부적인 규제 가이드라인이 확정되지 않아 기업들의 혼란이 커지고 있다. 법은 시행되는데 기준은 모호한 ‘반쪽짜리 출발’이라는 우려가 업계 전반에서 제기된다. 7일 과학기술정보통신부와 관련 업계에 따르면 AI 기본법은 지난 2024년 12월 26일 국회 본회의를 통과한 지 1년여 만인 오는 22일 본격 시행된다. 이 법은 AI 산업 진흥과 신뢰성 확보를 동시에 추구하는 이른바 ‘K-AI 헌법’ 성격의 기본법이다. 다만 법 시행이 코앞에 닥쳤음에도 규제의 핵심으로 꼽히는 ‘고영향 AI’의 구체적 범위와 생성형 AI 결과물에 적용될 ‘워터마크’ 기술 표준이 명확히 제시되지 않으면서 기업들은 대응 전략 마련에 골머리를 앓고 있다. 가장 큰 뇌관은 ‘고영향 AI(High-Risk AI)’ 지정 문제다. 법안은 사람의 생명과 신체, 안전에 중대한 영향을 미치는 AI를 고영향 AI로 규정하고 해당 사업자에게 위험 관리 체계 수립과 이용자 고지, 사후 점검 의무 등을 부과하도록 했다. 그러나 어디까지를 고영향 AI로 볼 것인지에 대한 판단 기준이 추상적이어서 해석의 여지가 크다는 점이 문제로 지적된다. 예를 들어 헬스케어 스타트업이 운영하는 ‘우울증 상담 챗봇’의 경우 이를 의료 행위에 준하는 고위험군으로 볼 것인지 단순 심리 상담 서비스로 볼 것인지를 두고 의견이 엇갈린다. 고영향 AI로 지정될 경우 스타트업이 감당하기 어려운 수준의 기술 검증 비용과 전담 인력 투입이 요구돼 자칫 사업 존폐 문제로까지 번질 수 있다. 한 스타트업 대표는 “부처마다 해석이 달라 어느 장단에 맞춰야 할지 모르겠다”며 “규제 자체보다도 불확실성이 기업 활동의 가장 큰 적”이라고 토로했다. 생성형 AI 결과물에 대한 식별 표시, 이른바 ‘워터마크’ 의무화 조항도 기술적 난제에 부딪히고 있다. 이미지나 영상은 비교적 기술 구현이 수월하지만 텍스트나 오디오는 메타 데이터 삭제나 변조가 쉬워 실효성 논란이 끊이지 않는다. 특히 메타의 ‘라마(Llama)’ 등 오픈소스 모델을 기반으로 서비스를 개발한 중소기업들은 원천 모델 차원에서의 기술적 지원 없이는 자체적인 워터마크 구현이 사실상 불가능하다고 호소한다. 규제 취지에는 공감하지만 현실적 대안이 보이지 않는다는 것이다. 전문가들은 법 시행 자체보다 ‘예측 가능성’ 확보가 무엇보다 시급하다고 입을 모은다. 이성엽 고려대 기술경영전문대학원 교수(한국데이터법정책학회장)는 “유럽연합(EU)의 AI법(AI Act)은 고위험 AI 규제 적용까지 24개월의 유예 기간을 두고 기술 표준 마련에 상당한 시간을 투자했다”고 설명했다. 이어 “한국은 법 시행 일정에 쫓기다 보니 기업들이 실제로 준수할 수 있는 기술적 가이드라인 제공에 소홀했다”며 “시행 초기 충분한 계도 기간이 없다면 무더기 범법자가 양산될 수 있다”고 지적했다. 주무 부처인 과기정통부는 법 시행 초기인 점을 고려해 최소 1년 이상의 계도 기간을 두고 처벌보다는 컨설팅과 기술 지원에 집중하겠다는 입장이다. 그러나 기업들은 모호한 규정이 향후 감독 강화 국면에서 ‘규제 리스크’로 되돌아올 수 있다는 불안을 여전히 떨치지 못하고 있다. AI 기본법이 규제를 위한 규제가 아니라 산업 발전을 견인하는 제도적 마중물이 되기 위해서는 보다 정교한 하위 법령 마련과 현장 친화적인 유연한 법 적용이 시급하다는 지적이 나온다.2026-01-07 18:06:00
-
내년 1월 'AI 기본법' 개정안 국회 통과... 정부, 규제보다 진흥에 무게 [이코노믹데일리] 내년 1월 22일부터 대한민국 AI 산업의 이정표가 될 '인공지능 발전과 신뢰 기반 조성 등에 관한 기본법(AI 기본법)'이 본격 시행된다. 정부는 법 시행 초기 기업의 혼란을 줄이고 산업 진흥을 돕기 위해 최소 1년간 과태료 부과를 유예하는 계도 기간을 운영하기로 했다. 과학기술정보통신부는 31일 '2026년부터 이렇게 달라집니다' 책자를 통해 내년 새롭게 시행되는 주요 정보통신 정책을 발표했다. 가장 눈에 띄는 변화는 AI 기본법의 시행이다. 그동안 가이드라인 수준에 머물렀던 AI 정책이 법적 구속력을 갖게 되면서 산업 육성과 안전성 확보라는 두 마리 토끼를 잡겠다는 정부의 의지가 반영됐다. 법안은 크게 '진흥'과 '규제' 두 축으로 나뉜다. 진흥 측면에서는 AI 연구개발(R&D) 지원과 학습용 데이터 구축 및 전문 인력 양성 등 산업 육성을 위한 법적 근거가 마련됐다. 규제 측면에서는 AI 투명성과 안전성 확보 의무가 강화된다. 특히 딥페이크 등 부작용을 막기 위해 생성형 AI로 만든 결과물에는 워터마크 등 식별 표시를 의무화해야 한다. 또한 생명이나 안전 및 기본권에 중대한 영향을 미칠 수 있는 '고영향 AI' 사업자에게는 더 높은 수준의 위험 관리 책무가 부여된다. 정부는 규제로 인한 산업 위축을 막기 위해 유연한 적용을 예고했다. 과기정통부는 법 시행 후 최소 1년 이상을 계도 기간으로 설정하고 과태료 등 제재보다는 컨설팅과 비용 지원을 통해 기업의 자발적인 의무 이행을 유도할 방침이다. 플랫폼 이용자들의 고질적인 불만이었던 '먹통 고객센터' 문제도 해소될 전망이다. 내년 2월 12일부터 전기통신사업법 시행령 개정에 따라 주요 부가통신사업자의 이용자 요구사항 처리 시스템 운영이 대폭 강화된다. 적용 대상은 일평균 이용자 수 100만 명 이상인 네이버, 카카오, 구글, 메타, 쿠팡, 넷플릭스, 티빙, 콘텐츠웨이브, 애플 등 9개 사업자다. 이들 기업은 요금 부과 여부와 관계없이 AI 챗봇과 자동응답시스템(ARS) 등 다채널 상담 서비스를 제공해야 한다. 특히 원칙적으로 실시간 처리가 가능해야 하며 필요시 상담원을 연결해 이용자의 불편을 즉시 해결해야 한다. 만약 실시간 처리가 어려운 경우라도 접수일로부터 3영업일 이내에 반드시 처리하고 그 결과를 안내해야 한다. 기업 R&D 환경 개선을 위한 제도 정비도 이뤄진다. 내년 2월 1일부터 '기업부설연구소 등의 연구개발 지원에 관한 법률'이 시행되어 그동안 분산돼 있던 기업부설연구소 관련 규정이 단일 법률로 통합된다. 이를 통해 설립 신고부터 인정 취소까지의 절차가 명확해지고 연구개발 전담 부서에 대한 체계적인 지원이 가능해질 것으로 기대된다. 이 밖에도 법무부는 내년 1월부터 해외 우수 과학기술 인재 유치를 위한 'K-STAR' 비자 트랙을 운영한다. 대학 총장의 추천을 받은 이공계 우수 유학생은 취업 여부와 관계없이 거주 자격이나 영주 자격을 신청할 수 있어 글로벌 인재 확보에 숨통이 트일 전망이다.2025-12-31 11:04:26
-
과기정통부, 내년 AI 기본법 시행 앞두고 "규제 최소화·1년 유예" 원칙 천명 [이코노믹데일리] 과학기술정보통신부(장관 배경훈)가 내년 1월 22일 시행되는 ‘인공지능(AI) 기본법’을 두고 산업계 우려를 불식시키기 위해 필요 최소한의 규제 원칙과 충분한 계도 기간을 약속했다. 정부는 법 시행 초기에는 규제 범위를 좁게 설정하되 기술 발전 속도와 글로벌 규범 변화에 맞춰 제도를 유연하게 보완해 나갈 방침이다. 과기정통부는 24일 서울 중구 한국지능정보사회진흥원(NIA) 서울사무소에서 ‘AI기본법 시행 대비 설명회’를 열고 이 같은 내용의 시행령 제정안과 가이드라인 운영 방향을 공개했다. 이번 설명회는 현재 입법예고 중인 시행령안에 대한 이해를 돕고 현장의 의견을 수렴하기 위해 마련됐다. 정부는 확인 절차 기한을 명시해 기업의 예측 가능성을 높이는 동시에 AI 생성물 부작용을 막기 위한 최소한의 안전장치는 유지하겠다는 입장을 재확인했다. 쟁점은 크게 AI 사업자 정의와 투명성 의무 및 고영향 AI 기준 등으로 요약된다. 우선 AI 사업자 정의와 관련해 산업계는 유럽연합(EU)의 ‘AI법(AI Act)’처럼 ‘배포자’ 개념을 도입해 책임을 명확히 할 것을 요구했다. 이에 대해 심지섭 인공지능안전신뢰정책과 사무관은 “배포자 개념 도입 취지는 이해하지만 이는 시행령이 아닌 상위 법률 개정이 필요한 사안”이라며 “현 단계에서는 가이드라인을 통해 개발 및 이용 사업자를 명확히 구분하고 구체적 사례를 안내하는 데 주력하겠다”고 설명했다. AI 생성물에 대한 표시 의무인 투명성 규제도 뜨거운 감자다. 산업계는 기계 판독만 가능한 비가시적 표시 등 예외 확대를 요청한 반면 시민사회는 AI 결과물 제공 주체까지 의무를 확대해야 한다고 맞섰다. 정부는 부작용 예방과 활용성 제고라는 두 마리 토끼를 잡기 위해 신중한 접근을 택했으며 필요시 법률 개정까지 포함한 제도 개선을 검토하기로 했다. 안전성 의무 기준을 두고도 시각차가 존재했다. 현행법은 ‘누적 연산량’을 기준으로 삼고 있으나 산업계는 다른 기준 도입을 요구했고 시민사회는 대상 확대를 주장했다. 정부는 국제 규범에서 합리적인 새 기준이 나오면 적극 반영하겠다면서도 당장은 현행 기준을 유지하며 필요 최소한의 규제 원칙을 고수했다. 고영향 AI 지정은 법상 명시된 의료나 대출 심사 등 10개 분야에 대해 엄격히 적용된다. 사업자가 자사 서비스의 고영향 AI 해당 여부를 판단하기 어려울 경우 과기정통부에 확인을 요청할 수 있으며 정부는 30일 이내에 답변해야 한다. 불가피한 사유가 있을 때만 1회에 한해 연장 가능하도록 해 행정 예측 가능성을 높였다. 산업계가 우려했던 ‘설명 방안 수립 의무’에 대해서는 강제적 공개가 아닌 절차적 의무임이 명확해졌다. 사업자가 자율적으로 설명 방식과 수준을 정해 이용자에게 안내하면 된다는 것이다. 다만 정부는 AI 결정으로 영향을 받는 이용자 보호 방안에 대해서는 지속적인 논의를 이어가기로 했다. 과기정통부는 입법예고 기간 수렴된 의견을 반영해 시행령안을 확정하고 법제처 심사와 국무회의를 거쳐 내년 1월 22일 법 시행에 맞춰 공포할 계획이다. 또한 법 시행 후 최소 1년 이상의 규제 유예 기간(Grace Period)을 운영해 기업들이 충분히 대비할 수 있도록 지원한다. 스타트업과 중소기업을 위한 ‘AI 안전·신뢰 지원 데스크’도 운영해 법률 컨설팅과 고영향 AI 판단 지원 및 검인증 부담 완화 등 실질적인 혜택을 제공한다. 이진수 과기정통부 인공지능정책기획관은 “AI 기본법은 규제가 아닌 지원과 진흥이 주목적인 법”이라며 “세계 최초로 규제를 시행하는 나라가 되지 않겠다는 점을 분명히 하고 해외 동향과 기술 발전을 고려해 유연하게 제도를 운용하겠다”고 강조했다.2025-12-24 16:54:07
-
"AI 강국 선언과 엇박자"…창작물 전면 워터마크 규제 논의 '도마 위' [이코노믹데일리] 내달 22일 시행 예정인 '인공지능 발전과 신뢰 기반 조성 등에 관한 기본법(AI 기본법)'에 AI(인공지능)가 활용된 창작물에 워터마크 표시를 의무화하는 규정이 포함될 것으로 전망돼 새로운 쟁점으로 떠오르고 있다. 정부는 딥페이크 확산과 허위 정보 문제를 막기 위한 최소한의 안전장치라는 입장이지만 창작 현장에서는 과도한 규제가 될 수 있다는 우려가 제기되고 있다. AI 기본법은 AI 기술의 진흥과 신뢰 확보를 동시에 목표로 한 첫 포괄적 법안이다. 다만 하위 시행령과 고시를 통해 AI 창작물에 대한 표시 의무가 어느 수준까지 적용될지가 아직 명확히 정해지지 않아 업계 전반에 불확실성이 커지고 있다. 특히 AI를 활용한 영상·이미지·음원 등 창작물에 '워터마크' 또는 이에 준하는 표시를 의무화하는 방안이 유력하게 거론되면서 논란이 확산되고 있다. 정부는 해당 규제가 딥페이크 범죄와 허위 정보 유통을 차단하기 위한 조치라는 점을 강조하고 있다. AI 기술의 발전으로 실제와 구분하기 어려운 콘텐츠가 급증하는 상황에서 이용자가 AI 창작물임을 인지할 수 있는 장치를 마련할 필요가 있다는 설명이다. 반면 창작 현장의 현실은 다르다는 목소리가 나온다. 글로벌 콘텐츠 기업 아트리스트가 지난달 19일 발표한 '2026 AI 트렌드 보고서'에 따르면 창작 전문가의 87%는 AI 도구를 사용하고 있으며 이 중 66%는 매주 AI 도구를 사용하고 있다. 이는 AI가 단순 보조 수단을 넘어 사실상 필수 도구로 자리 잡은 상황으로 풀이되며 이에 생성물 전반에 표시를 강제하는 규제가 창작 활동 전반에 부담으로 작용할 수 있을 것으로 분석된다. 특히 논란의 중심은 표시 방식과 범위다. 업계에서는 규제가 영상 시작이나 종료 시 AI 창작물임을 알리는 단순 고지 수준에 그치지 않고 콘텐츠 전체 분량에 워터마크 표시를 적용하는 방향으로 구체화될 가능성에 주목하고 있다. 이 경우 쇼츠·릴스 등 짧은 영상 콘텐츠에서는 화면 몰입도를 해치고 광고·브랜드 영상에서는 상업성 표시와 중첩되는 문제도 발생할 수 있다. 해외 주요 국가들의 규제 흐름과 비교해도 온도 차가 있다는 분석이 나온다. 유럽연합(EU)과 미국의 일부 주는 AI 창작물에 대해 이용자가 인지할 수 있도록 고지하는 데 초점을 둔 규제를 추진하고 있다. 딥페이크나 공공적 정보 왜곡 가능성이 큰 경우를 중심으로 표시 의무를 부과하고 예술·창작 영역에서는 표현의 자유와 산업 영향 등을 고려해 적용 범위를 조정하는 방식이다. 반면 국내 논의는 콘텐츠 전반에 일괄 표시를 요구하는 방향으로 흘러가고 있다는 점에서 상대적으로 규제 강도가 높아질 수 있다는 지적이 제기된다. 이 같은 규제는 정부의 AI 육성 기조와도 엇박자를 낸다는 평가가 나온다. 이재명 대통령은 지난달 14일 진행한 2026년도 예산안 연설에서 AI 관련 예산을 기존보다 3배 이상 확대해 약 10조 원 규모로 편성하고 세계 상위 3대 AI 강국으로 도약하겠다는 목표를 제시했다. AI 산업을 국가 성장 동력으로 육성하겠다는 선언과 달리 현장에서는 규제가 강화되는 것이다. 한 AI 업계 관계자는 이번 AI 기본법에 대해 인지하고 있지만 법이 관련된 문제로 입장을 밝히기 어렵다는 입장을 표했다.2025-12-15 17:29:28
-
EU도 주춤한데 韓 나 홀로 AI 규제 강행… 스타트업 "준비 안 됐다" [이코노믹데일리] 유럽연합(EU)이 인공지능(AI) 규제 속도 조절에 나선 가운데, 한국이 내년 1월 세계 최초로 AI 법규를 전면 시행하는 국가가 될 전망이다. 국내 AI 업계, 특히 중소 스타트업들은 준비 부족과 과도한 규제로 인한 산업 위축을 호소하며 정부의 ‘나 홀로 규제’ 행보에 깊은 우려를 표하고 있다. 14일 IT 업계에 따르면 우리나라는 내년 1월 22일 ‘인공지능 발전과 신뢰 기반 조성 등에 관한 기본법(AI 기본법)’을 시행한다. 이는 AI 관련 법규를 실질적으로 적용하는 세계 첫 사례다. EU 역시 AI 법을 제정했으나 고위험 AI에 대한 규제 등 핵심 조항은 내년 8월부터 단계적으로 적용될 예정이다. 문제는 규제의 강도와 속도다. 최근 EU 집행위원회는 ‘디지털 간소화 방안’을 발표하며 AI 규제 적용 시기를 2027년 말로 늦추는 등 완화 움직임을 보이고 있다. 미국 빅테크의 반발과 AI 경쟁력 저하 우려를 의식한 조치다. 반면 한국은 시행령 입법예고 기간이 촉박해 현장의 목소리가 충분히 반영되지 않았다는 비판이 거세다. 스타트업얼라이언스 조사 결과 국내 AI 스타트업의 98%가 “AI 기본법 시행에 대비한 실질적 대응 체계를 갖추지 못했다”고 답했다. 특히 AI 생성물에 의무적으로 표시를 남겨야 하는 ‘워터마크’ 규제가 쟁점이다. 과학기술정보통신부는 최근 비공개 간담회에서 모든 AI 생성물에 사람이 식별 가능한 표시를 의무화하는 방안을 논의한 것으로 알려졌다. 한 AI 콘텐츠 기업 대표는 “수많은 인력이 투입된 결과물에 단지 AI를 썼다는 이유만으로 ‘AI 생성물’ 딱지를 붙이면 소비자 외면으로 이어질 수 있다”며 “산업 현장을 고려하지 않은 탁상행정”이라고 성토했다. 이에 반해 일본은 과태료나 정부 조사권을 강제하는 대신 업계 자율 규제를 택했다. ‘소프트 거버넌스’를 통해 AI 산업 육성과 안전의 균형을 맞추겠다는 전략이다. 이러한 규제 환경 차이로 인해 올거나이즈, 업스테이지 등 국내 유망 AI 스타트업들이 잇따라 일본 시장으로 눈을 돌리거나 현지 법인을 설립하는 등 ‘탈(脫)한국’ 현상마저 감지되고 있다. 한국인터넷기업협회 관계자는 “규제가 지나치게 강하면 기업들이 해외로 떠날 유인이 커진다”며 “법 시행이 코앞인데 시행령조차 확정되지 않아 기업들의 불확실성만 키우고 있다”고 지적했다. 배경훈 과기정통부 장관은 “입법예고 기간 현장의 의견을 수렴해 산업 발전과 안전이 조화를 이루도록 하겠다”고 밝혔으나, 업계의 불안감은 여전히 해소되지 않고 있다.2025-12-14 14:07:13
-
"포토샵 넘본다"…제미나이3 품은 구글 '나노 바나나 프로', 생성부터 팩트체크까지 [이코노믹데일리] 구글이 최신 AI 모델 '제미나이3 프로'를 탑재해 텍스트 묘사 능력과 사실 검증 기능을 대폭 강화한 이미지 생성 도구 '나노 바나나 프로'를 선보였다. 특히 기존 AI 모델들이 어려워했던 한글 텍스트를 이미지 내에 자연스럽게 구현해 내며 창작 도구로서의 활용성을 극대화했다. 구글은 20일(현지시간) 기존 '나노 바나나'의 성능을 한 단계 업그레이드한 '나노 바나나 프로'를 공식 출시한다고 밝혔다. 이번 모델은 지난 18일 공개된 구글의 최신 대규모언어모델(LLM) '제미나이3 프로'를 기반으로 구축되어 단순한 그림 그리기를 넘어 고도화된 추론 능력과 최신 정보 반영 능력을 갖춘 것이 특징이다. 가장 눈에 띄는 변화는 텍스트 렌더링(묘사) 능력의 비약적인 발전이다. 기존 이미지 생성 AI들은 그림 속에 글자를 넣을 경우 철자가 틀리거나 뭉개지는 현상이 잦았으나 나노 바나나 프로는 이를 획기적으로 개선했다. 특히 제미나이의 다국어 추론 기능을 활용해 영어뿐만 아니라 한국어를 포함한 다양한 언어를 캘리그라피나 디자인 요소로 자연스럽게 녹여낸다. 구글 검색과의 실시간 연동도 강점이다. 예를 들어 "카르다몸 홍차를 만드는 방법을 보여주는 인포그래픽을 그려줘"라고 프롬프트(명령어)를 입력하면 AI가 레시피 정보를 검색해 사실에 기반한 정확한 그림 자료를 생성해 준다. 전문적인 편집 기능도 강화됐다. 사용자는 최대 14개의 이미지를 레퍼런스로 입력해 이를 구성요소로 한 새로운 이미지를 만들 수 있다. 이 과정에서 원본 이미지의 스타일과 일관성을 유지하면서 조명을 낮에서 밤으로 바꾸거나 피사체의 각도와 초점을 정교하게 변경하는 작업이 가능하다. 생성된 이미지는 4K 초고화질 해상도를 지원해 전문가용으로도 손색이 없다. 구글은 AI 기술의 부작용으로 꼽히는 '딥페이크'나 허위 정보 유포를 막기 위한 안전장치도 함께 마련했다. 구글의 챗봇 '제미나이'에 이미지 검증 기능을 탑재해 사용자가 이미지를 업로드하고 "AI로 생성된 것인가요?"라고 묻기만 하면 즉시 판별해 준다. 이는 구글의 디지털 워터마크 기술인 '신스ID(SynthID)'가 적용된 덕분이다. 생성된 모든 이미지에는 사람의 눈에는 보이지 않는 워터마크가 내장되어 있어 AI 생성 여부를 식별할 수 있다. 구글은 무료 및 일반 유료(프로) 이용자가 생성한 이미지에는 가시적인 워터마크도 함께 표시해 투명성을 높였으며 전문가용 '울트라' 요금제 사용자에게만 워터마크 없는 이미지 생성을 허용한다. '나노 바나나 프로'는 오늘부터 구글 제미나이 앱의 '추론' 모델이나 업무 보조 도구 '노트북LM'을 통해 사용할 수 있다. 개발자와 기업 고객은 워크스페이스나 API 등을 통해 해당 기능을 자사 서비스에 접목할 수 있다. 구글의 이번 출시는 어도비의 '포토샵'이나 '미드저니' 등 경쟁자들을 따돌리고 생성형 AI 시장에서의 주도권을 굳히기 위한 전략으로 풀이된다.2025-11-21 09:46:09
-
하루 75건씩 퍼지는 '가짜 성착취물'…내 딸, 내 친구가 타깃 [이코노믹데일리] 인공지능(AI) 기술이 만든 ‘가짜 성착취물’ 즉 딥페이크 성범죄 영상물이 대한민국을 집어삼키고 있다. 생성형 AI 기술의 발전 속도를 법과 제도가 따라가지 못하는 사이 피해 건수는 기하급수적으로 폭증하고 있으며 특히 10대와 20대 젊은 층이 무방비로 범죄에 노출되고 있다. 8일 국회 과학기술정보방송통신위원회 소속 국민의힘 박충권 의원이 방송통신심의위원회로부터 제출받은 자료는 딥페이크 성범죄의 끔찍한 확산 실태를 그대로 보여준다. 올해 1월부터 7월까지 단 7개월간 방심위가 삭제·접속차단을 요구한 딥페이크 성범죄 영상물은 무려 1만5808건에 달했다. 이는 하루 평균 75건, 한 시간에 3건 이상의 성범죄 영상물이 온라인에 유포되고 있다는 의미다. 이러한 추세라면 올해 전체 시정요구 건수는 2만7000건을 넘어 사상 최다를 기록할 것이 확실시된다. 2020년 관련 법 시행 첫해 473건에 불과했던 시정요구 건수는 2023년 7187건, 2024년 2만3107건으로 매년 폭발적으로 증가해왔다. 불과 5년 만에 50배 이상 급증한 것이다. 더욱 심각한 문제는 피해가 특정 연령층에 집중되고 있다는 점이다. 여성가족부가 박 의원실에 제출한 자료에 따르면 올해 7월까지 디지털성범죄 피해자 지원센터에 접수된 합성·편집 피해자 540명 중 10대 이하가 256명(47.4%), 20대가 240명(44.4%)으로, 20대 이하 피해자가 전체의 84%를 차지했다. 이는 딥페이크 성범죄가 단순한 온라인상의 문제가 아니라 우리 아이들의 교실과 캠퍼스를 직접적으로 위협하는 현실적인 공포가 되었음을 의미한다. 범죄의 온상은 주로 해외에 서버를 둔 불법 음란사이트와 P2P 사이트 그리고 추적이 어려운 텔레그램이다. 텔레그램에 대한 접속차단 요구는 2023년 38건에서 지난해 618건으로 급증했으며 올해는 7월까지만 해도 403건에 달했다. ◆ ‘솜방망이 처벌’과 ‘기술 발전’ 사이...제2의 N번방 막을 수 있나 이처럼 피해가 눈덩이처럼 불어나고 있지만 정부의 대책은 사실상 무력하다는 비판이 나온다. 박충권 의원은 “지난해 서울대 N번방 사건 등 딥페이크 음란물 유포가 사회적 공분을 샀음에도 정부 대책은 사실상 유명무실했다”고 지적했다. 현행법상 딥페이크 성범죄 영상물을 제작·반포할 경우 처벌을 받게 되지만 해외에 서버를 둔 플랫폼에 대한 실질적인 제재가 어렵고 가해자를 특정하기도 쉽지 않다. 방심위의 시정요구는 이미 유포된 영상물을 사후에 차단하는 것에 불과해 피해자의 고통을 근본적으로 막기에는 역부족이다. 전문가들은 지금과 같은 ‘솜방망이 처벌’과 ‘사후약방문식’ 대응으로는 고도화되는 AI 기술을 악용한 범죄를 절대 뿌리 뽑을 수 없다고 경고한다. 생성형 AI 기술의 접근성이 갈수록 낮아지면서 이제 누구나 손쉽게 딥페이크 영상물을 제작할 수 있는 시대가 됐기 때문이다. 결국 이 끔찍한 범죄의 고리를 끊기 위해서는 △AI 기술을 악용한 성범죄에 대한 양형 기준 대폭 강화 △플랫폼 사업자의 불법 영상물 유통 방지 책임 강화 △국제 공조를 통한 해외 서버 단속 및 범죄인 인도 △AI 생성물의 워터마크 의무화 등 기술적 조치 도입 등 입법·사법·행정·기술 전반에 걸친 총체적인 대책 마련이 시급하다. 그렇지 않으면 우리는 언제 터질지 모르는 ‘제2의 N번방’이라는 시한폭탄을 안고 살아갈 수밖에 없을 것이다.2025-09-08 09:41:18
-
AI기본법 시행령 공개 '돌연 연기'…막판 진통, 업계 '속탄다' [이코노믹데일리] 내년 1월 시행을 앞둔 '인공지능 기본법'의 핵심 시행령 공개가 돌연 연기됐다. 법 적용의 구체적인 내용을 담은 하위법령 마련이 당초 목표보다 한 달 이상 늦어지면서 산업계의 불확실성이 커지고 있다. 과학기술정보통신부와 한국지능정보사회진흥원(NIA)은 1일 AI 관련 기업들을 대상으로 AI기본법 하위법령 의견수렴 회의를 열 계획이었으나 행사 직전 내부 조율 미비를 이유로 일정을 연기했다. 과기정통부는 당초 지난달까지 시행령과 각종 고시·가이드라인 초안을 마련하겠다고 보고했으나 지켜지지 않은 셈이다. 업계는 이번 회의를 통해 베일에 싸여있던 규제의 윤곽을 확인할 수 있을 것으로 기대했다. 특히 법 제정 당시부터 논란이 됐던 정부의 사업장 조사 권한이나 과태료 부과 조항의 구체적인 내용이 초미의 관심사였다. 갑작스러운 일정 연기에 업계에서는 허탈하다는 반응과 함께 법 적용의 예측 가능성이 떨어진다는 우려가 나온다. 다만 일부 독소조항이 완화될 것이라는 기대감도 감지된다. 배경훈 과기정통부 장관이 청문회에서 과태료 부과 유예 필요성을 언급한 만큼 시행 초기에는 부담이 줄어들 가능성이 있다. 다른 법령과 충돌 소지가 있는 사업장 조사 권한 역시 남용 방지 장치를 두는 방식으로 최소화될 것이라는 관측이 나온다. AI 생성물에 식별 표시(워터마크)를 의무화하는 투명성 조항도 완화될지 주목된다. 정부는 지난 25일 영화·게임·웹툰 등 콘텐츠 업계와 이 문제를 논의하려다 회의를 연기한 바 있다. 이를 두고 창작적 목적의 AI 활용에 대해서는 표시 의무가 다소 완화되는 것 아니냐는 해석이 제기됐다. 과기정통부 관계자는 "AI 기본법 하위 법령이 현재 완성됐다기보다 신중한 검토가 이뤄지는 중"이라며 "시간이 약간 소요되고 있는데 업계 의견 수렴 일정을 곧 다시 잡을 계획"이라고 말했다. 정부의 '신중 검토'가 길어지면서 법 시행까지 남은 두 달여간 업계의 혼란은 불가피할 전망이다.2025-08-01 10:02:08
많이 본 뉴스
영상
Youtube 바로가기
