앤스로픽 "AI '클로드', 해킹에 악용…북한 외화벌이에도 사용"

[이코노믹데일리] 인공지능(AI) 기업 앤스로픽의 AI 모델 ‘클로드(Claude)’가 해킹에 악용됐으며 북한의 외화벌이 수단으로까지 이용된 사실이 드러났다.

앤스로픽은 27일(현지시간) 공개한 위협 인텔리전스 보고서에서 자사의 AI 기술이 해커들에 의해 대규모 사이버 범죄에 무기화됐다고 밝혔다. 보고서에 따르면 해커들은 지난 한 달간 클로드의 코딩 도구를 이용해 정부, 의료, 종교 기관 등 최소 17곳의 데이터를 탈취했다. 이 과정에서 민감한 의료 및 금융 정보가 대거 유출됐다.

특히 보고서는 북한과 중국 관련 해커들의 AI 악용 사례를 구체적으로 적시했다. 북한 관련 조직은 클로드를 활용해 미국 포춘 500대 기술 기업에 가짜 원격 근무자로 위장 취업했다. 이들은 AI로 정교한 가짜 신원을 만들고 기술 면접을 통과했으며 채용된 후에는 실제 기술 업무까지 AI로 수행했다. 

보고서는 이 계획이 국제 제재를 회피하고 북한 정권의 외화벌이를 위해 설계됐다고 분석했다. 또한 AI가 없었다면 이들 조직원은 코딩이나 전문적인 영어 소통이 불가능해 기술 인터뷰 통과나 업무 유지가 어려웠을 것이라고 덧붙였다.

중국 관련 해커들 역시 지난 9개월 동안 클로드를 이용해 베트남의 주요 통신사와 정부 데이터베이스 등을 해킹했다. 앤스로픽은 이런 사례가 해커들이 AI를 단순 조언자가 아닌 공격 수행의 핵심 운영자로 활용하고 있음을 보여준다고 경고했다. AI를 이용한 공격은 방어 체계에 실시간으로 대응하며 가장 효율적인 공격 및 수익화 전략까지 스스로 결정하는 단계에 이르렀다는 것이다.

이번 사건은 상업용 AI가 특정 국가의 지원을 받는 해커들에 의해 광범위하게 무기화된 전례 없는 사례로 평가된다. 블룸버그 통신은 “AI 지원 해킹의 우려스러운 진화를 보여주며 1명의 이용자가 전체 해커 조직처럼 작동할 수 있음을 시사한다”고 보도했다.