2025.05.02 금요일
검색
'AI 안전' 검색결과
기간검색
-
~
검색영역
검색어
-
KOSA, 'K-AI 유니콘 프로젝트 10' 발표…2030년 AI 유니콘 10개 육성 목표 [이코노믹데일리] 한국소프트웨어산업협회(KOSA) 산하 초거대AI추진협의회가 글로벌 AI 시장을 선도할 AI 유니콘 기업 10개 육성을 목표로 하는 ‘K-AI 유니콘 프로젝트 10’을 17일 발표했다. 이와 함께 한국이 세계 3대 AI 강국(G3)으로 도약하기 위한 ‘AI 비전 25’도 공개하며 AI 산업 육성에 대한 강력한 의지를 표명했다. ‘AI 비전 25’는 AI 산업 진흥을 위한 8대 분야 25개 세부 과제를 담고 있다. 8대 분야는 △AI 서비스 제도·정책 기반 마련 △AI 안전·신뢰·윤리 확립 △AI 리터러시 확산 △AI 컴퓨팅 인프라 구축 △AI 데이터 확보 △AI 인재 양성 △유망 AI 기업 발굴 △AI 글로벌 협력 강화 등이다. KOSA는 ‘AI 비전 25’를 통해 2030년까지 글로벌 경쟁력을 갖춘 AI 유니콘 기업 10개를 육성하고 대한민국을 AI 선도 국가로 도약시킨다는 목표를 세웠다. 배경훈 초거대AI추진협의회장(LG AI연구원장)은 “초거대AI추진협의회는 AI 기업들의 의견을 수렴하여 ‘AI 비전 25’를 수립했다”며 “AI 기업들이 현장에서 체감하고 공감할 수 있는 실질적인 비전을 제시하고자 노력했다”고 밝혔다. 또한 “'AI 비전 25'를 로드맵 삼아 글로벌 시장을 선도하는 AI 유니콘 기업을 육성하고 대한민국 AI 산업 생태계를 활성화하는 데 기여하겠다”고 강조했다. 조준희 한국소프트웨어산업협회장은 “국내 AI 기업들은 자체 언어 모델 개발 등 충분한 기술 경쟁력을 갖추고 있다”며 “정부와 민간의 집중적인 투자를 통해 글로벌 시장 확장 가능성을 입증한다면 AI 유니콘 기업으로 충분히 성장할 수 있다”고 전망했다. 덧붙여 “AI 강국 도약을 위한 ‘AI 비전 25’를 중심으로 정부와 기업 간 협력 네트워크를 구축하고 KOSA AI 산업본부를 중심으로 AI 기업들과의 협력을 강화하여 비전 실현에 적극적으로 나설 것”이라고 밝혔다. 한편 KOSA는 지난해 국내 최초 AI 민간 협의체인 ‘초거대AI추진협의회’를 발족하고 AI 기본법 하위 법령 의견 수렴, AI 학습 데이터 저작권 이슈 대응 등 AI 산업계의 목소리를 대변해왔다. ‘AI 비전 25’는 지난 2년간의 협의회 활동과 회원사 의견 수렴 과정을 거쳐 마련되었으며 KOSA는 ‘AI 비전 25’ 실현을 위해 정부, 기업과 긴밀히 협력하고 AI 산업 육성을 위한 정책 지원 및 사업 확대를 적극 추진할 계획이다.2025-03-17 15:18:40
-
과기정통부, AI 대전환 및 R&D 생태계 조성에 6조 3000억원 집중 투자 [이코노믹데일리] 과학기술정보통신부(이하 과기정통부)가 2025년 연구개발(R&D) 사업에 총 6조 3214억원을 투자하는 ‘2025년도 과기정통부 연구개발사업 종합시행계획’을 확정하고 본격 추진한다. 급변하는 국내외 환경에 대응하여 현장 중심 R&D 생태계 조성, AI 대전환 추진, 기술 사업화 기반 마련을 목표로 하며, 전년 대비 21.2% 증액된 예산이 투입된다. 과학기술 분야에는 5조 58억원, ICT 분야에는 1조 3156억원이 배정된다. 과학기술 분야는 첨단바이오, AI 반도체, 양자 기술 등 ‘3대 게임체인저’ 기술 육성에 집중 투자하며 차세대 디스플레이, 맞춤형 정밀 의료 등 미래 유망 원천 기술 개발과 융합 연구에도 투자를 확대한다. 글로벌 핵심 공급망 확보를 위한 나노·소재 R&D 고도화 및 극한 환경 소재 연구 개발 지원도 포함된다. 연구자 중심 지원 체계 강화를 위해 이공계 대학원생 연구 생활 장려금이 신설되며 혁신·도전적 기초 연구를 위한 신규 사업도 추진된다. 젊은 신진 연구자를 위한 씨앗 연구 사업에는 400억원의 예산이 배정된다. 탄소 중립, 기후 변화, 원자력, 핵융합 등 사회 문제 해결 과제 지원과 함께, R&D 성과를 기술 사업화로 연결하기 위한 전문 인력 양성 및 기술 스케일업 추진에도 힘쓴다. ICT 분야는 AI, AI 반도체, 양자 기술과 더불어 차세대 통신, 사이버 보안 등 디지털 혁신 기술 확보에 주력한다. 국산 AI 반도체 기반 클라우드 기술 개발, 범용 인공지능(AGI) 탐구, AI 안전 연구, 양자 암호 통신 및 양자 센싱 사업화 등이 추진된다. AI 연구를 위한 컴퓨팅 인프라 지원을 위해 민간 클라우드 활용 계획도 포함된다. 차세대 네트워크(6G) 산업 기술 개발에 869억원, 저궤도 위성 통신 기술에 203억원이 투입된다. AI 인재 양성을 위한 학·석사 연계 지원 프로그램도 추진된다. 글로벌 R&D 사업 확대를 대비하여 ‘글로벌 R&D 성과 촉진 체계’도 도입된다. 범부처 글로벌 R&D 협의체를 구성하여 사업 추진 현황을 점검하고 관리하며 글로벌 R&D 성과 데이터베이스 구축 및 우수 성과 홍보와 후속 연구 지원 등 체계적인 관리 시스템을 구축한다. 과기정통부는 이번 시행 계획에 따라 신규 사업 및 과제별 추진 일정을 공고했으며 1월 말 정부 R&D 사업 부처 합동 설명회를 통해 구체적인 내용, 과제 공모 시기 및 절차 등을 안내할 예정이다.2025-01-02 13:34:46
-
롯데건설, 작업자 행동 기반 'AI 안전 모니터링' 기술 개발 [이코노믹데일리] 롯데건설이 안전사고 예방을 위해 작업자 행동 기반 AI 안전 모니터링 기술 개발을 진행하고 있다고 18일 밝혔다. 롯데건설은 해당 개발이 성균관대학교가 주관하고 차세대융합기술연구원, 동국대학교 WISE캠퍼스, ㈜엘아이지시스템, 스마트인사이드 AI 등 총 6개 기관으로 컨소시엄을 구성해 진행됐다고 설명했다. 해당 컨소시엄은 행정안전부 국립재난안전연구원 연구과제인 ‘작업자 행동 기반 안전 모니터링 예측 기술 개발’에 참여하고 있다. 최근에는 기술 적용을 위해 롯데건설이 시공하는 고속국도 제400호선 김포-파주 구간 제1공구 건설현장에서 시연회를 열었다. 시연회에서 작업자는 총 6개의 웨어러블 센서를 착용하고, 테스트베드 구역 내에서 중장비 충돌·협착, 작업자 이상행동 패턴, 출퇴근 시 건강모니터링 등 시나리오에 맞춰 작업을 진행했다. 시나리오 중 일부는 디지털트윈(가상 시뮬레이션 모형) 환경에서 구현하여 작업자의 행동과 위치가 탐지되는 동시에 고정형 카메라를 통해 지속적인 모니터링 데이터를 확보했다. 이후 AI 모델이 탑재된 AI 안전관리 플랫폼(SSIMS.AI, ㈜스마트인사이드AI)으로 분석하여 현장 안전사고 예방 및 사고 감소 효과를 기대할 수 있다고 롯데건설은 설명했다. 롯데건설 기술연구원 관계자는 “이번 시연회에서 기술개발의 구현 가능성을 확인했으며, 앞으로도 지속적인 연구개발을 통해 경쟁력 있는 기술을 확대해 나갈 계획이다”라고 말했다.2024-12-18 14:10:19
-
네이버, 유엔에서 AI 안전 정책 사례 공유 [이코노믹데일리] 네이버는 지난 5일(현지시간) 스위스 제네바의 유엔 사무소에서 열린 행사에서 안전한 인공지능(AI) 생태계 구축을 위한 자사 정책과 사례를 공유했다고 6일 밝혔다. 이 행사는 서울대 AI 정책 이니셔티브(SAPI), Universal Rights Group(URG), 주제네바 대한민국 대표부가 공동 주최했다. 행사에서 네이버의 박우철 정책·RM 아젠다 변호사는 네이버가 운영하는 ‘CHEC(Consultation on Human-centered AI’s Ethical Considerations)’ 프로세스를 발표했다. CHEC는 AI 개발 및 서비스 기획 단계에서 윤리적 원칙을 적용하도록 설계된 자문 시스템으로 기술적 검토와 사회적 관점을 동시에 고려한다는 특징을 가진다. 박 변호사는 “현장의 상황을 고려하지 않으면 AI 윤리 원칙은 추상적 구호에 그칠 수 있다”며, “네이버는 CHEC를 통해 기획자와 개발자의 눈높이에 맞춰 현실적인 협업을 진행하고 있다”고 설명했다. 또한 네이버는 지난해 발표한 ‘사람을 위한 클로바X 활용 가이드’와 올해 새롭게 구축한 ‘ASF(AI Safety Framework)’를 통해 AI 기술의 잠재적 위험을 인식하고 체계적으로 관리하기 위한 정책을 지속적으로 발전시키고 있다. 하정우 네이버 퓨처 AI 센터장은 “네이버는 빠르게 발전하는 AI 기술 환경에서 주요 기술을 내재화하며 서비스 현장과 긴밀히 소통하고 있다”며 “안전하고 지속 가능한 글로벌 AI 생태계 구축에 기여하기 위해 더욱 노력할 것”이라고 밝혔다. 이 행사에서는 네이버 외에도 서울대 SAPI 연구진과 유엔 관계자들이 참여해 ‘신기술에 대한 인권 기반 접근’을 구체적으로 실현하기 위한 방안을 논의했다. SAPI 디렉터 임용 서울대 교수는 “인권 중심의 규범을 기술 현장에 적용하기 위한 실천적 방안이 공유되어 의미 있는 시간이었다”며 향후 지속적인 협력을 강조했다. 한편 네이버의 이러한 노력은 글로벌 AI 정책 논의에서 한국 기업의 입지를 강화하는 데 기여하고 있으며 산업 실무에 적용 가능한 윤리적 AI 원칙을 확산시키는 데 중요한 역할을 하고 있다.2024-12-06 10:34:32
-
대한민국 AI안전연구소 출범…아태지역 AI 안전 허브 목표 [이코노믹데일리] 정부가 AI 기술의 악용과 위험에 체계적으로 대응하기 위해 'AI안전연구소'를 출범했다. 판교 글로벌 R&D센터에서 열린 개소식에서는 국내 ICT 대기업과 학계가 협력해 AI 안전 기술 개발 및 정책 연구를 강화할 것을 다짐했다. AI안전연구소는 지난 5월 AI서울정상회의에서 윤석열 대통령이 제안한 글로벌 AI안전 네트워크 구축 계획의 일환으로 설립됐다. 연구소는 AI의 기술적 한계, 통제력 상실, 악의적 사용 등 다양한 위험 요인에 전문적으로 대응하기 위해 탄생했다. 유상임 과학기술정보통신부 장관은 “AI 안전은 지속 가능한 발전의 필수 조건”이라며, "아태지역의 AI 안전 연구 중심지로 자리 잡을 수 있도록 전폭적으로 지원하겠다"고 밝혔다. 삼성전자, LG AI연구원, 네이버, 카카오 등 주요 기업과 학계 및 연구기관 24곳이 함께 참여한 대한민국 AI안전컨소시엄이 연구소와 협력을 다짐하며 MOU를 체결했다. 컨소시엄은 위험 식별과 평가, 국제 규범 대응 등을 중점적으로 추진할 예정이다. 김명주 초대 소장은 “연구소는 규제기관이 아닌 지원기관으로서 국내 기업들이 글로벌 경쟁력을 유지할 수 있도록 AI 리스크를 최소화하는 데 주력할 것”이라고 강조했다. AI안전연구소는 '국제 AI안전연구소 네트워크'의 일원으로 글로벌 협력을 이어갈 계획이다. 이날 축사에서 세계적인 AI 석학 요슈아 벤지오 교수는 “AI안전연구소는 AI 위험 평가, 안전 요건 수립, 국제 협력을 통해 AI 안전성을 높이는 데 중요한 역할을 할 것”이라고 밝혔다. 미국, 영국, 일본의 AI안전연구소 소장들도 대한민국의 AI 안전 리더십을 높이 평가하며 “국경을 넘어 AI 기술을 안전하게 만들어가는 협력을 강화하자”고 입을 모았다. AI안전연구소는 AI안전 프레임워크 개발, 국제 표준화 대응, 데이터 기반 정책 연구 등 다양한 분야에서 연구를 추진할 예정이다. 특히 산업계의 실질적인 참여를 통해 글로벌 경쟁력을 강화할 수 있는 AI 안전 기술을 개발하고 정책적 선진화를 목표로 하고 있다.2024-11-27 10:09:52
많이 본 뉴스
영상
Youtube 바로가기
![[데스크 칼럼] 흥국에 드리운 복귀의 망령…금융 농락 이호진 전 회장에게 경영을 또 맡기겠다고?](https://image.ajunews.com/content/image/2025/04/25/20250425144937563130_518_323.jpg)