2026.02.01 일요일
검색
'김경만' 검색결과
기간검색
-
~
검색영역
검색어
-
내일부터 'AI 기본법' 시행... 오픈AI·네이버 등 생성물 표시 의무화 [이코노믹데일리] 내일(22일)부터 세계 최초의 포괄적 AI 규제법인 '인공지능 기본법'이 시행된다. 핵심은 챗GPT나 딥페이크 앱 등 AI 서비스를 제공하는 기업이 이용자에게 '이것은 AI가 만든 것'임을 명확히 알리도록 하는 투명성 확보 의무다. 다만 AI를 도구로 활용해 웹툰이나 영상을 만드는 개인 창작자는 직접적인 규제 대상에서 제외됐다. 과학기술정보통신부는 21일 AI 기본법 시행을 앞두고 'AI 투명성 확보 가이드라인'을 공개했다. 이번 가이드라인은 투명성 확보 의무 대상을 AI 제품과 서비스를 직접 제공하는 '인공지능사업자'로 명확히 규정했다. 여기에는 국내 기업뿐만 아니라 한국 이용자에게 서비스를 제공하는 구글이나 오픈AI 등 해외 사업자도 포함된다. 반면 AI를 업무나 창작 도구로 활용하는 이용자는 의무 대상이 아니다. 예를 들어 웹툰 작가가 AI로 채색하거나 제작사가 AI로 영상을 만들어도 법적 제재를 받지 않는다. 사업자는 이용자가 서비스를 쓰기 전 약관이나 구동 화면을 통해 고영향·생성형 AI 기술 적용 사실을 미리 알려야 한다. 결과물에 대한 표시 의무는 서비스 환경에 따라 나뉜다. 챗봇처럼 앱 내에서만 소비될 때는 UI나 로고 표시만으로 충분하다. 하지만 결과물을 다운로드하거나 외부로 공유할 때는 식별 가능한 워터마크나 음성 안내를 포함해야 하며 기계가 판독할 수 있는 메타데이터도 적용해야 한다. 특히 사회적 파장이 큰 딥페이크물은 반드시 AI 생성물임을 명확히 밝혀야 한다. 정부는 제도 안착을 위해 최소 1년 이상의 계도기간을 운영한다. 이 기간에는 사실조사와 과태료 부과가 유예된다. 김경만 과기정통부 인공지능정책실장은 "규제보다 산업 경쟁력 제고에 방점을 두고 미비점은 보완해 나가겠다"고 밝혔다. 플랫폼 업계도 대응에 나섰다. 카카오는 AI 생성물 관련 고지 내용을 담은 약관을 신설해 내달 4일부터 시행하며 네이버도 내부 지침을 정비하고 있다. 한편 국회에서는 법적 사각지대를 보완하려는 움직임도 있다. 조인철 더불어민주당 의원은 이날 플랫폼과 게시자에게도 AI 생성물 표시 유지 의무를 부과하는 정보통신망법 개정안 등을 발의했다.2026-01-21 16:24:11
-
카카오 '카나나' 국내 1호 AI 안전성 검증 통과... "메타보다 안전하다" [이코노믹데일리] 카카오의 인공지능(AI) 모델 '카나나'가 정부가 주관한 국내 첫 AI 안전성 평가에서 글로벌 빅테크 모델을 상회하는 안전성을 입증했다. 29일 과학기술정보통신부는 AI안전연구소 및 한국정보통신기술협회(TTA)와 협력해 진행한 평가 결과 카나나가 메타나 미스트랄AI 등 해외 유력 모델 대비 동등 이상의 안전성을 확보한 것으로 확인됐다고 밝혔다. 이번 평가는 내년 본격 시행을 앞둔 'AI 기본법'에 대비해 국내 모델의 신뢰도를 선제적으로 점검했다는 점에서 의미가 크다. 이번 검증 대상은 카카오의 '카나나 에센스 1.5' 모델이다. 카카오는 국내 산·학·연이 주도하는 'AI 안전 컨소시엄'의 일원으로 참여해 자사 모델의 안전성을 객관적으로 검증받기로 협의했다. 평가에는 TTA와 최호진 KAIST 교수 연구팀이 개발한 벤치마크 데이터셋 '어슈어 AI(AssurAI)'와 AI안전연구소의 고위험 분야 평가 데이터셋이 활용됐다. 이는 AI 모델에 악의적인 질문을 던져 방어 기제가 제대로 작동하는지 확인하는 '레드팀 챌린지' 방식의 고강도 테스트다. 평가단은 폭력 조장이나 차별적 표현 등 일반적인 위험 요소는 물론 무기 제작법 전수나 해킹 코드 생성 및 보안 취약점 악용 등 고위험 시나리오까지 폭넓게 적용해 모델을 점검했다. 평가 결과 카나나는 동급 규모의 글로벌 오픈소스 모델인 미국 메타의 '라마(Llama) 3.1'과 프랑스 미스트랄AI의 '미스트랄 0.3'과 비교해 높은 수준의 안전성을 기록했다. 특정 위험 항목에서는 경쟁 모델보다 더 정교하게 유해 정보를 필터링하는 능력을 보인 것으로 알려졌다. 정부는 이번 평가가 단순히 규제를 위한 절차가 아니라 국내 AI 산업의 경쟁력을 높이는 계기가 될 것으로 보고 있다. 과기정통부는 이번 검증 경험을 바탕으로 내년 1월 진행될 '독자 AI 파운데이션 모델' 프로젝트 1차 평가에도 동일한 안전성 기준을 적용할 방침이다. 아울러 국내외 다양한 AI 기업과 협력해 평가 대상을 지속적으로 확대하고 국제적인 AI 안전 기준 수립에도 주도적으로 참여한다는 계획이다. 이번 결과는 글로벌 시장에서 'K-AI'의 신뢰도를 높이는 데 기여할 전망이다. AI 성능 경쟁이 안전성 경쟁으로 옮겨가는 추세 속에서 국산 모델이 글로벌 표준을 충족한다는 사실을 입증했기 때문이다. 특히 기업용(B2B) 시장이나 공공 분야 진출 시 안전성 검증 여부가 핵심 경쟁력이 될 가능성이 높다. 김경만 과기정통부 인공지능정책실장은 "세계적으로 AI 안전에 대한 논의가 규제보다는 실질적인 검증과 구현이 강조되는 상황"이라며 "이번 평가는 국내 AI 모델의 안전성 경쟁력을 객관적으로 증명한 사례이자 향후 글로벌 AI 안전성 리더십을 확보하는 초석이 될 것"이라고 강조했다.2025-12-29 12:34:49
많이 본 뉴스
영상
Youtube 바로가기
