2025.09.17 수요일
검색
'가드레일' 검색결과
기간검색
-
~
검색영역
검색어
-
AWS, 에이전트 AI 플랫폼 '베드록 에이전트 코어' 공개 [이코노믹데일리] 아마존웹서비스(AWS)가 복잡한 과업을 자율적으로 수행하는 ‘에이전트 인공지능(AI)’ 시장 선점을 위해 개발과 보안을 아우르는 통합 플랫폼 전략을 공개했다. 단순히 AI 모델을 제공하는 단계를 넘어 기업이 신뢰할 수 있는 AI 에이전트를 실제 서비스 환경에 빠르고 안전하게 배포할 수 있도록 지원하며 시장 주도권을 강화하겠다는 포석이다. AWS는 19일 서울 강남구 본사에서 기자간담회를 열고 최근 미국에서 발표한 생성형 AI 및 보안 신기술을 국내에 소개했다. 전략의 핵심은 ‘아마존 베드록 에이전트 코어’다. 이 서비스는 AI 에이전트의 안정적인 상용 배포와 확장을 지원하는 모듈식 플랫폼으로 런타임·메모리·신원인증 등 7가지 핵심 기능을 기업이 필요에 따라 조합해 사용할 수 있다. 이를 통해 개념 검증 단계의 AI 에이전트를 실제 서비스로 신속하게 전환할 수 있다. AWS는 개발 생산성을 높이는 도구도 함께 선보였다. AI 에이전트 개발에 필요한 코드를 생성하는 ‘키로’와 벡터 데이터 저장·검색 비용을 최대 90%까지 절감하는 ‘아마존 S3 벡터스’ 등이 대표적이다. 특히 AWS는 AI 에이전트 시대의 핵심 경쟁력으로 ‘신뢰’와 ‘보안’을 강조했다. 신은수 AWS 수석 보안 전문 SA는 AI의 환각 현상을 최대 99% 정확도로 탐지하는 ‘자동 추론 검사’와 AI가 생성한 답변이 기존 데이터와 일치하는지 검증하는 ‘가드레일’ 등 고도화된 보안 기능을 소개했다. 또한 최상위 관리자 계정에 다중 인증(MFA)을 의무화하고 내부 위협까지 대응하는 접근 분석기를 도입하는 등 모든 단계에 보안을 내재화했다. 생태계 확장에도 속도를 낸다. AWS 마켓플레이스에 ‘AI 에이전트 및 툴즈’ 카테고리를 신설하고 업스테이지, LG CNS 등 국내외 파트너사들의 솔루션을 공급한다. 기업들은 이를 통해 검증된 AI 에이전트를 쉽게 도입할 수 있다. 최영준 AWS 데이터·AI 스페셜리스트 SA 리더는 “세계에서 가장 신뢰할 수 있고 안전한 AI 에이전트를 배포하도록 지원하겠다”며 “빠른 혁신과 보안 등으로 고객이 AWS의 AI 에이전트 비전을 공유할 수 있도록 지원하겠다”고 밝혔다.2025-08-19 17:24:53
-
카카오, APEC 포럼서 자체 개발 AI 모델 '카나나' 공개 [이코노믹데일리] 카카오가 5일 열리는 ‘APEC 2025 코리아 글로벌 디지털·AI 포럼’에 참가해 자체 개발한 인공지능(AI) 모델을 공개하며 글로벌 시장에 기술력을 선보인다. 특히 오픈소스로 공개한 멀티모달 언어모델과 AI 가드레일 모델을 전면에 내세워 AI 생태계 기여 의지를 강조했다. 이번 포럼은 인천 송도 쉐라톤 그랜드호텔에서 열리며 카카오는 기업 전시 부스를 마련해 △경량 멀티모달 언어모델 ‘Kanana-1.5-v-3b’ △AI 가드레일 모델 ‘Kanana Safeguard’ 2종을 시연한다. 방문객들은 시연 공간에서 직접 모델의 기능과 특징을 체험할 수 있다. ‘Kanana-1.5-v-3b’는 텍스트뿐 아니라 이미지까지 이해하는 멀티모달 모델로 뛰어난 한국어·영어 이미지 이해 능력을 갖췄다. 예를 들어 광화문 사진을 보여주며 장소 설명을 요청하면 “이 사진은 서울 광화문 일대를 배경으로 하고 있습니다”와 같이 한국 문화에 대한 높은 인식력을 바탕으로 정확한 답변을 내놓는다. 함께 공개된 ‘카나나 세이프가드’는 생성형 AI 서비스의 안전성과 신뢰성을 확보하기 위한 AI 가드레일 모델이다. 한국어 및 한국 문화를 반영한 자체 데이터셋으로 학습해 유해 콘텐츠 탐지 등에서 한국어에 특화된 성능을 보인다. 카카오는 지난 5월 이 모델을 국내 기업 최초로 오픈소스로 공개한 바 있다. 한편 카카오는 이날 메타(Meta)가 주최한 이벤트 세션의 패널토론에도 참여했다. 김경훈 카카오 AI Safety 리더는 연사로 나서 ‘오픈소스 AI의 가치’를 주제로 리눅스 재단, KISTI 등과 함께 논의를 진행하며 글로벌 기술 교류에도 힘썼다. 카카오 관계자는 “전시 공간을 통해 카카오가 구축한 AI 기술 개발 현황을 직접 경험해 볼 수 있는 계기를 마련하고자 했다”며 “앞으로도 AI 기술 개발을 토대로 국내 AI 생태계 활성화와 경쟁력 확보를 위해 노력해 갈 것”이라고 말했다.2025-08-05 15:16:19
-
개인정보위, 'AI 개인정보 가이드라인' 이달 말 확정…'안전 가드레일' 구축 [이코노믹데일리] 정부가 인공지능(AI) 개발에 필요한 개인정보 처리 기준을 담은 ‘안전 가드레일’을 이달 말까지 마련한다. 생성형 AI 개발과 활용 과정에서 발생할 수 있는 법적 불확실성을 해소하고, 신뢰할 수 있는 AI 생태계를 조성하기 위한 제도적 안전장치를 구축하는 것이 핵심이다. 고학수 개인정보보호위원회 위원장은 8일 서울 AI 허브에서 열린 ‘AI 프라이버시 민·관 정책협의회’에서 “신뢰할 수 있는 AI 발전의 선결 조건은 제도적 안전장치, 즉 가드레일 구축”이라며 이달 내 ‘생성형 AI 개발·활용을 위한 개인정보 처리 안내서’ 최종본을 마련하겠다고 밝혔다. 고 위원장은 AI 혁신과 프라이버시 보호가 상호 발전적인 관계가 될 수 있음을 강조했다. 그는 “기술로부터 발생할 수 있는 잠재적 부작용을 예방·완화할 수 있는 적정한 가드레일이 전제된다면 AI 혁신을 위한 프라이버시와 프라이버시를 위한 AI 혁신이란 두 과제가 상호 발전적인 관계 속에서 기술 수용성과 사회적 신뢰를 높이는 기제가 될 수 있다”고 말했다. 이번 안내서 마련은 한국이 ‘AI 3대 강국’으로 도약하기 위한 필수 과제로 평가된다. 고 위원장은 “컴퓨팅 인프라 투자와 인재 양성뿐 아니라 공공·민간 부문에 축적된 고가치 데이터를 안전하고 책임 있게 활용할 수 있는 기반이 마련돼야 한다”며 데이터 활용의 불확실성을 해소하기 위한 정책적 노력을 지속하겠다고 약속했다. 이날 회의에서 논의된 안내서 초안에는 생성형 AI의 전체 수명 주기에 걸쳐 고려해야 할 개인정보 처리의 적법성 및 안전성 확보 기준이 담겼다. 개인정보위는 시민 단체와 전문가 의견을 최종본에 반영해 법적 모호함을 최소화하고 AI 개발 단계부터 개인정보 보호 관점이 체계적으로 적용되도록 유도할 방침이다.2025-07-08 18:20:59
-
"AI 유해성 막는다" 카카오, 안전 검증 모델 '카나나 세이프가드' 공개 [이코노믹데일리] 카카오가 인공지능(AI) 서비스의 안전성과 신뢰성을 검증할 수 있는 AI 가드레일 모델 ‘카나나 세이프가드’를 개발하고 국내 기업 최초로 모델 3종을 오픈소스로 공개한다고 27일 밝혔다. 최근 다양한 생성형 AI 서비스 출시로 유해 콘텐츠 위험성에 대한 사회적 우려가 커짐에 따라 기술적·제도적 장치를 마련한 것이다. 주요 빅테크 기업들도 생성형 AI로 발생 가능한 위험 요소를 감지하는 특화 모델을 운영 중이다. ‘카나나 세이프가드’는 카카오가 자체 개발한 언어모델 ‘카나나’를 기반 기술로 활용했으며 한국어와 한국 문화를 반영한 자체 구축 데이터셋을 통해 한국어에 특화된 성능을 갖췄다. 카카오는 AI 모델의 정밀도와 재현율을 평가하는 F1 스코어를 기준으로 한국어 성능에서 글로벌 모델 이상의 성과를 기록했다고 설명했다. 이번에 오픈소스로 공개된 모델은 리스크 유형에 따라 유해성과 위험성을 효과적으로 탐지할 수 있는 3종이다. △사용자의 발화 또는 AI 답변에서 증오, 괴롭힘, 성적 콘텐츠 등에 대한 유해성을 탐지하는 ‘카나나 세이프가드’ △개인정보나 지식재산권 등 법적 측면에서 주의가 필요한 요청을 탐지하는 ‘카나나 세이프가드 사이렌’ △AI 서비스를 악용하려는 사용자 공격을 탐지하는 ‘카나나 세이프가드 프롬프트’이며 모두 허깅페이스를 통해 다운로드 가능하다. 카카오는 안전한 AI 생태계 구축에 기여하고자 해당 모델에 상업적 이용과 수정·재배포 등이 자유로운 아파치 2.0 라이선스를 적용했다. 향후 지속적인 업데이트를 통해 모델을 고도화할 예정이다. 김경훈 카카오 AI 세이프티 리더는 "생성형 AI의 등장 이래 기술 발전과 더불어 AI 윤리와 안전성에 대한 중요성이 국내외에서 점차 부각되고 있다"며 "책임감 있는 AI 구축에 대한 인식을 널리 확산시키고 사회적 가치를 고려한 기술 개발이 이어질 수 있도록 선제적인 대응을 이어갈 계획"이라고 말했다.2025-05-27 10:21:53
많이 본 뉴스
영상
Youtube 바로가기
![[데스크 칼럼] 가짜 기지국의 공포, 통신사를 넘어 국가 인증 시스템의 위기](https://image.ajunews.com/content/image/2025/09/16/20250916164232794659_518_323.jpg)