2026.02.01 일요일
검색
'가드레일' 검색결과
기간검색
-
~
검색영역
검색어
-
'AI 기본법' 오늘 시행... 통신사들 "속도보다 안전, 책임지는 AI 만든다" [이코노믹데일리] 세계 최초의 포괄적 인공지능 규제법인 '인공지능 발전과 신뢰 기반 조성 등에 관한 기본법(AI 기본법)'이 22일 본격 시행됐다. 이에 맞춰 SK텔레콤과 KT 등 국내 이동통신사들이 전사적 AI 거버넌스 체계를 재정비하고 '책임 있는 AI(Responsible AI)' 실현을 위한 구체적인 행동에 나섰다. AI 기술 경쟁이 '성능' 위주에서 '안전과 신뢰' 중심으로 패러다임이 전환되고 있음을 보여준다. ◆ SKT '거버넌스 포털' 고도화, KT 'CRAIO' 중심 조직 개편 SK텔레콤은 이날 전사적인 AI 거버넌스 체계를 강화하고 사내 캠페인 '굿 AI(Good AI)'를 시행한다고 밝혔다. 핵심은 지난해 9월 개설한 'AI 거버넌스 포털'의 고도화다. 이 시스템은 SK텔레콤의 자체 AI 원칙인 'T.H.E. AI(Telco, Humanity, Ethics)'를 기반으로 기획 단계부터 서비스의 위험 요인을 분석하고 준수 여부를 판별한다. AI 기본법 시행에 맞춰 법적 요구사항을 시스템에 반영하고 구성원들이 이를 내재화하도록 프로세스를 강화했다. 차호범 SK텔레콤 CPO(정보보호최고책임자)는 "책임감 있고 신뢰할 수 있는 AI 개발을 위해 전사 역량을 결집하겠다"고 강조했다. KT는 조직 신설과 최고책임자 임명으로 대응 수위를 높였다. KT는 이미 2024년 전담 조직인 '책임감 있는 AI 센터(RAIC)'를 구축하고 국내 통신사 최초로 최고책임자인 CRAIO(Chief Responsible AI Officer) 직책을 신설했다. 배순민 상무가 초대 CRAIO를 맡아 AI 윤리 원칙 'ASTRI'를 제정하고 기획부터 운영까지 전 과정에 적용하고 있다. 또한 외부 전문가로 구성된 자문위원회를 운영하며 객관적인 검증 체계를 갖췄다. ◆ 법 시행 배경은 '통제 가능한 AI'... "신뢰가 곧 경쟁력" 이번 AI 기본법 시행과 기업들의 발 빠른 대응은 생성형 AI의 급격한 확산과 맞물려 있다. 딥페이크, 가짜 뉴스, 알고리즘 편향성 등 AI의 부작용이 사회적 문제로 대두되면서 '통제 가능하고 설명 가능한 AI'에 대한 요구가 폭발했기 때문이다. 특히 AI 에이전트가 쇼핑, 금융, 예약 등 실생활의 의사결정을 대신하는 단계로 진입하면서 안전성 확보는 기업의 생존과 직결된 문제가 됐다. 정부는 이번 법 시행을 통해 고영향 AI에 대한 사업자의 책임을 명문화하고 투명성 확보를 의무화했다. 이를 어길 경우 과태료 등 제재가 따르지만 초기 혼란을 줄이기 위해 1년의 계도 기간을 뒀다. 통신사들이 법 시행 첫날부터 선제적인 조치를 발표한 것은 규제 대응을 넘어 '안전한 AI'라는 브랜드 이미지를 선점하기 위한 전략으로 풀이된다. 향후 AI 시장의 경쟁 포인트는 '누가 더 똑똑한가'에서 '누가 더 안전한가'로 이동할 전망이다. 기업용(B2B) AI 시장에서는 보안과 신뢰성이 솔루션 도입의 최우선 기준이 되고 있다. 이에 따라 통신사들은 자체 거버넌스 체계를 글로벌 표준 수준으로 끌어올리고 'AI 가드레일(안전장치)' 기술 개발에 투자를 확대할 것으로 보인다. 업계 관계자는 "AI 기본법 시행은 국내 AI 산업이 '무한 속도전'에서 '지속 가능한 성장'으로 태세를 전환하는 분기점"이라며 "통신사들이 구축한 AI 신뢰성 검증 체계가 향후 금융, 제조 등 타 산업군으로 확산되는 표준 모델이 될 가능성이 높다"고 분석했다.2026-01-22 11:01:13
-
KT, '책임 있는 AI'로 승부수... "성능보다 안전·신뢰가 먼저" [이코노믹데일리] KT가 인공지능(AI) 기술의 급격한 발전 속에서 '성능'보다 '안전'과 '신뢰'를 우선하는 '책임 있는 AI(Responsible AI·RAI)' 체계 강화에 전사적 역량을 집중하고 있다. KT는 21일 AI 기술 고도화와 함께 기업과 사회가 안심하고 활용할 수 있는 AI 환경 구축에 힘을 쏟고 있다고 밝혔다. 이는 최근 AI가 단순히 콘텐츠를 생성하는 도구를 넘어 목표를 이해하고 스스로 판단해 과업을 수행하는 '에이전틱 AI(Agentic AI)'로 진화함에 따라 기술적 안전성 확보가 산업계의 필수 생존 조건으로 떠올랐기 때문이다. KT는 이러한 흐름에 선제적으로 대응하기 위해 지난 2024년 전담 조직인 '책임감 있는 AI 센터(RAIC)'를 신설하고 국내 통신사 최초로 최고책임자인 CRAIO를 선임했다. 또한 책임성·지속가능성·투명성·신뢰성·포용성 등 5대 핵심 가치를 담은 자체 AI 윤리 원칙 'ASTRI(아스트리)'를 제정해 AI의 기획부터 개발 및 운영 전 과정에 적용하고 있다. 기술적인 성과도 가시화됐다. KT가 자체 개발한 초거대 AI 모델 '믿:음 K 2.0 Base'는 국내 최초로 한국정보통신기술협회(TTA)로부터 '인공지능 신뢰성 인증 2.0(CAT 2.0)'을 획득했다. 이는 AI 모델의 개발과 운영 과정에서 기업의 책임성과 신뢰성을 객관적으로 검증받았다는 점에서 의미가 크다. 실제 기술 현장 적용을 위한 안전장치도 마련했다. KT는 지난해 9월 AI 모델의 유해 응답을 실시간으로 차단하는 'AI 가드레일(SafetyGuard)'을 글로벌 오픈소스 플랫폼 허깅페이스에 공개했다. 이 기술은 한국어 AI 모델을 대상으로 한 윤리적 응답 품질 평가 벤치마크에서 F1 스코어 97점을 기록하며 탁월한 방어 능력을 입증했다. 또한 지난해 10월에는 AI 리스크 식별과 평가 및 완화를 위한 기술적 가이드라인을 담은 '책임 있는 AI 기술 보고서'를 발간해 업계에 공유했다. KT는 이러한 노력과 성과를 집대성해 매년 '책임감 있는 AI 리포트'를 발간하고 있다. 지난해 12월 발행된 리포트에는 자체 개발한 AI 모델의 사회적 영향·안전성 평가 프로세스와 AI 가드레일 기술 상세 내용이 담겼다. 내부적으로는 계열사와 협력사를 포함한 전 직원을 대상으로 AI 윤리 교육을 필수 과정으로 운영하며 건전한 AI 문화 확산에 앞장서고 있다. 아울러 분야별 외부 전문가로 구성된 'KT 책임 있는 AI 자문위원회'를 운영하며 정부 및 산업계와 협력해 AI 관련 제도 수립 논의에도 적극 참여하고 있다. KT는 이러한 신뢰 기반을 바탕으로 국내 기업과 공공 고객이 안심하고 AI 전환(AX)을 추진할 수 있도록 지원할 방침이다. 배순민 KT CRAIO 상무는 "AI가 산업 전반의 의사결정에 관여하는 영역이 확대될수록 기술적 신뢰도 확보가 무엇보다 중요하다"며 "앞으로도 신뢰할 수 있는 AI 기술을 기반으로 국내 AI 산업의 건강한 성장과 이용자 보호에 기여하겠다"고 강조했다.2026-01-21 16:04:42
-
행안부, 네이버·카카오와 'AI 국민비서' 만든다…연내 시범 서비스 [이코노믹데일리] 정부가 국민 누구나 일상적인 대화만으로 공공서비스를 이용할 수 있는 ‘AI 국민비서’ 시대를 연다. 이를 위해 행정안전부가 국내 대표 빅테크 기업인 네이버, 카카오와 손잡고 민간의 최신 인공지능(AI) 기술을 공공서비스에 접목하는 대규모 프로젝트에 착수했다. 행정안전부는 27일 네이버, 카카오와 ‘AI 에이전트 기반 공공서비스 혁신을 위한 업무협약’을 체결했다고 밝혔다. 3사는 이번 협약을 통해 민간 AI 에이전트에 공공서비스를 연계하는 ‘AI 국민비서(가칭)’ 시범 서비스를 연내에 선보일 계획이다. ‘AI 국민비서’는 복잡한 홈페이지 방문이나 앱 설치 없이 국민들이 가장 많이 사용하는 네이버나 카카오톡 플랫폼에서 AI와 대화하는 것만으로 공공서비스를 이용할 수 있도록 하는 혁신적인 서비스다. 시범 서비스는 전자증명서 발급·제출, 유휴 공공자원 예약(공유누리) 등 국민 수요가 높은 분야부터 시작된다. 이번 프로젝트에서 네이버와 카카오는 각각 자사의 핵심 AI 기술력을 바탕으로 경쟁과 협력을 펼친다. 네이버는 자체 AI 파운데이션 모델인 ‘하이퍼클로바X’를 기반으로 AI 에이전트를 구축한다. 네이버 웹과 앱을 통해 제공될 시범 서비스는 공공시설 예약 후 주변 맛집을 추천해주는 등 네이버의 다른 서비스와 연계한 맞춤형 추천 기능을 더해 편의성을 높일 계획이다. 카카오는 자체 거대언어모델 ‘카나나’를 기반으로 AI 에이전트를 개발해 국민 메신저 카카오톡에 탑재한다. 특히 유해 콘텐츠를 걸러내는 AI 가드레일 모델 ‘카나나 세이프가드’를 적용해 서비스의 신뢰성과 안전성을 확보하는 데 주력한다. 이번 협약은 정부가 민간의 혁신 기술을 적극적으로 수용해 ‘AI 민주정부’를 실현하려는 의지를 보여주는 대표적인 사례다. 정부는 시범 서비스를 거쳐 향후 생애주기별 행정 업무를 한 번에 처리하는 원스톱 서비스로 발전시킨다는 목표다. 윤호중 행정안전부 장관은 “국민이 일상에서 체감할 AI민주정부를 실현하기 위해 민간의 혁신적인 기술과 협력이 필수”라며 “국민 누구나 말 한마디로 쉽고 편리하게 공공서비스를 이용하는 서비스 환경을 만들겠다”고 말했다. 최수연 네이버 대표는 “그간의 협력 경험을 바탕으로 이번 협약이 미래 행정서비스 혁신의 중요한 출발점이 될 수 있도록 최선의 노력을 다 하겠다”고 밝혔으며 카카오 측 역시 “국민의 일상 속 공공서비스 접근 방식을 근본적으로 혁신하는 계기가 될 것”이라고 화답했다.2025-10-27 16:44:50
-
AWS, 에이전트 AI 플랫폼 '베드록 에이전트 코어' 공개 [이코노믹데일리] 아마존웹서비스(AWS)가 복잡한 과업을 자율적으로 수행하는 ‘에이전트 인공지능(AI)’ 시장 선점을 위해 개발과 보안을 아우르는 통합 플랫폼 전략을 공개했다. 단순히 AI 모델을 제공하는 단계를 넘어 기업이 신뢰할 수 있는 AI 에이전트를 실제 서비스 환경에 빠르고 안전하게 배포할 수 있도록 지원하며 시장 주도권을 강화하겠다는 포석이다. AWS는 19일 서울 강남구 본사에서 기자간담회를 열고 최근 미국에서 발표한 생성형 AI 및 보안 신기술을 국내에 소개했다. 전략의 핵심은 ‘아마존 베드록 에이전트 코어’다. 이 서비스는 AI 에이전트의 안정적인 상용 배포와 확장을 지원하는 모듈식 플랫폼으로 런타임·메모리·신원인증 등 7가지 핵심 기능을 기업이 필요에 따라 조합해 사용할 수 있다. 이를 통해 개념 검증 단계의 AI 에이전트를 실제 서비스로 신속하게 전환할 수 있다. AWS는 개발 생산성을 높이는 도구도 함께 선보였다. AI 에이전트 개발에 필요한 코드를 생성하는 ‘키로’와 벡터 데이터 저장·검색 비용을 최대 90%까지 절감하는 ‘아마존 S3 벡터스’ 등이 대표적이다. 특히 AWS는 AI 에이전트 시대의 핵심 경쟁력으로 ‘신뢰’와 ‘보안’을 강조했다. 신은수 AWS 수석 보안 전문 SA는 AI의 환각 현상을 최대 99% 정확도로 탐지하는 ‘자동 추론 검사’와 AI가 생성한 답변이 기존 데이터와 일치하는지 검증하는 ‘가드레일’ 등 고도화된 보안 기능을 소개했다. 또한 최상위 관리자 계정에 다중 인증(MFA)을 의무화하고 내부 위협까지 대응하는 접근 분석기를 도입하는 등 모든 단계에 보안을 내재화했다. 생태계 확장에도 속도를 낸다. AWS 마켓플레이스에 ‘AI 에이전트 및 툴즈’ 카테고리를 신설하고 업스테이지, LG CNS 등 국내외 파트너사들의 솔루션을 공급한다. 기업들은 이를 통해 검증된 AI 에이전트를 쉽게 도입할 수 있다. 최영준 AWS 데이터·AI 스페셜리스트 SA 리더는 “세계에서 가장 신뢰할 수 있고 안전한 AI 에이전트를 배포하도록 지원하겠다”며 “빠른 혁신과 보안 등으로 고객이 AWS의 AI 에이전트 비전을 공유할 수 있도록 지원하겠다”고 밝혔다.2025-08-19 17:24:53
-
카카오, APEC 포럼서 자체 개발 AI 모델 '카나나' 공개 [이코노믹데일리] 카카오가 5일 열리는 ‘APEC 2025 코리아 글로벌 디지털·AI 포럼’에 참가해 자체 개발한 인공지능(AI) 모델을 공개하며 글로벌 시장에 기술력을 선보인다. 특히 오픈소스로 공개한 멀티모달 언어모델과 AI 가드레일 모델을 전면에 내세워 AI 생태계 기여 의지를 강조했다. 이번 포럼은 인천 송도 쉐라톤 그랜드호텔에서 열리며 카카오는 기업 전시 부스를 마련해 △경량 멀티모달 언어모델 ‘Kanana-1.5-v-3b’ △AI 가드레일 모델 ‘Kanana Safeguard’ 2종을 시연한다. 방문객들은 시연 공간에서 직접 모델의 기능과 특징을 체험할 수 있다. ‘Kanana-1.5-v-3b’는 텍스트뿐 아니라 이미지까지 이해하는 멀티모달 모델로 뛰어난 한국어·영어 이미지 이해 능력을 갖췄다. 예를 들어 광화문 사진을 보여주며 장소 설명을 요청하면 “이 사진은 서울 광화문 일대를 배경으로 하고 있습니다”와 같이 한국 문화에 대한 높은 인식력을 바탕으로 정확한 답변을 내놓는다. 함께 공개된 ‘카나나 세이프가드’는 생성형 AI 서비스의 안전성과 신뢰성을 확보하기 위한 AI 가드레일 모델이다. 한국어 및 한국 문화를 반영한 자체 데이터셋으로 학습해 유해 콘텐츠 탐지 등에서 한국어에 특화된 성능을 보인다. 카카오는 지난 5월 이 모델을 국내 기업 최초로 오픈소스로 공개한 바 있다. 한편 카카오는 이날 메타(Meta)가 주최한 이벤트 세션의 패널토론에도 참여했다. 김경훈 카카오 AI Safety 리더는 연사로 나서 ‘오픈소스 AI의 가치’를 주제로 리눅스 재단, KISTI 등과 함께 논의를 진행하며 글로벌 기술 교류에도 힘썼다. 카카오 관계자는 “전시 공간을 통해 카카오가 구축한 AI 기술 개발 현황을 직접 경험해 볼 수 있는 계기를 마련하고자 했다”며 “앞으로도 AI 기술 개발을 토대로 국내 AI 생태계 활성화와 경쟁력 확보를 위해 노력해 갈 것”이라고 말했다.2025-08-05 15:16:19
많이 본 뉴스
영상
Youtube 바로가기
