미국 인공지능 기업 앤트로픽이 이란 연계 위협 행위자가 자사의 생성형 인공지능 모델 ‘클로드(Claude)’를 이용해 미국 해군 전력을 추적하고 표적화에 활용할 수 있는 자료를 구축하려 했던 사실을 공개했다. 앤트로픽은 지난 9월 10일 발표한 위협 인텔리전스 보고서에서 최근 약 8개월 동안 클로드가 악의적인 활동에 이용된 여러 사례를 조사했으며, 이 가운데 이란 연계 행위자가 공개적으로 접근 가능한 정보를 모아 중동 지역의 미 해군을 대상으로 한 표적화 자료를 작성한 사례를 확인했다고 밝혔다. 앤트로픽은 해당 계정을 차단하고 관련 정보를 미국 정부 당국과 공유했다고 설명했다.
앤트로픽 조사에 따르면 이란 연계 행위자는 클로드를 활용해 공개된 군사자료와 인터넷 정보를 수집·분석하고 이를 하나의 정보 체계로 통합하려 했다. 공개된 미군 사진의 설명문에서 해군 인원 관련 정보를 추출하고, 선박과 항공기의 공개 트랜스폰더 식별정보를 수집했으며, 상업용 위성영상 서비스에 정보를 요청하기 위한 도구도 마련했다. 미 해군의 이동 상황을 파악할 수 있는 공개 웹사이트를 별도로 정리하는 작업도 진행됐다. 앤트로픽은 이러한 자료가 궁극적으로 미국 해군의 위치와 움직임을 파악하기 위한 표적화 권고와 자료집을 만드는 데 활용됐다고 설명했다.
특히 이번 사례에서 주목되는 부분은 단순한 정보 검색을 넘어 AI가 정보 수집과 분석 작업을 연결하는 역할을 했다는 점이다. 해당 행위자는 클로드의 지원을 받아 파이썬 기반의 자동화 파이프라인을 구축했고, 여러 출처에서 확보한 공개정보를 통합해 해군 전력의 위치와 관련 정보를 분석하는 작업을 수행했다. 앤트로픽은 이를 통해 과거 개별 전문가가 상당한 시간과 기술을 들여 수행했을 수 있는 정보수집 과정을 AI를 이용해 보다 신속하게 처리하려 한 것으로 분석했다.
군사 시스템에 대한 취약점 조사도 이 과정에 포함됐다. 앤트로픽 보고서는 해당 행위자가 해군 함정의 위성통신 단말기와 통신 장비, 산업제어 제품 등에 존재하는 것으로 알려진 소프트웨어 취약점을 조사했다고 밝혔다. 다만 이 같은 취약점 조사가 실제 미 해군 시스템에 대한 침투나 공격으로 이어졌다는 증거가 공개된 것은 아니다. 이번 사건의 확인된 핵심은 공개정보를 활용해 군사적 표적화에 사용할 수 있는 자료를 구축하려 했다는 데 있다.
앤트로픽은 조사 과정에서 해당 계정을 차단했으며, 같은 유형의 활동을 식별하기 위한 탐지 기능을 추가로 개발했다고 밝혔다. 또 조사 결과와 관련 위협정보를 정부 및 다른 보안 관련 기관·기업과 공유했다고 설명했다. 앤트로픽은 이번 보고서에서 AI가 감시와 정보수집, 무기 개발 및 군사적 표적화 등 다양한 분야에서 악용될 가능성이 커지고 있다고 지적하면서, 모델 자체의 능력뿐 아니라 서비스 단계에서 악의적인 사용을 찾아내고 차단하는 안전장치의 중요성을 강조했다.
이번 사례는 생성형 AI의 군사적 활용 문제가 더 이상 이론적인 가능성에만 머물지 않고 있음을 보여주는 사례로 평가할 수 있다. 과거 군사정보 분석은 전문 인력과 별도의 정보체계를 중심으로 이루어졌지만, 고성능 AI가 공개정보를 검색·분류하고 프로그래밍 작업까지 지원하면서 정보수집 과정의 진입장벽이 낮아질 수 있기 때문이다. 앤트로픽의 별도 평가에서도 최신 AI 모델들이 단편적인 정보를 조합해 특정 인물이나 위치를 식별하는 전술정보 작업과 일부 군사 관련 기술 과제에서 상당한 능력을 보이는 것으로 나타났다.
다만 이번 사건을 실제 군사공격이나 작전 성공 사례로 확대 해석해서는 안 된다. 앤트로픽이 공개한 내용은 이란 연계 행위자가 미 해군을 대상으로 활용할 수 있는 공개정보와 기술자료를 수집하고 표적화 자료를 만들려 했다는 조사 결과이며, 해당 자료가 실제 공격 작전에 사용됐다는 증거를 제시한 것은 아니다. 따라서 이번 사건의 의미는 AI가 이미 군사공격을 수행했다는 데 있기보다, 기존에 전문 인력과 상당한 시간이 필요했던 군사정보 수집·분석 과정 일부를 상용 AI가 지원할 수 있다는 현실이 확인됐다는 데 있다.
AI 기술이 발전할수록 개발기업의 안전장치와 이용자에 대한 통제 역시 중요한 안보 요소가 되고 있다. 이번 사례에서 앤트로픽은 악용 계정 차단과 탐지체계 강화, 정부기관과의 정보 공유를 병행했다. 앞으로는 AI 모델의 성능 향상과 함께 군사·정보 분야의 악용을 조기에 식별하고 차단할 수 있는 기술적·제도적 대응체계를 어떻게 구축할 것인지가 국제사회의 주요 과제가 될 전망이다.
){kind=small}
){kind=small}
){kind=small}
){kind=small}
