AI 에이전트가 사이버 위험을 확대하면서 호주의 레거시 시스템이 새로운 압박을 받고 있다

전직 유엔 사이버 협상가는 AI 에이전트가 취약점을 찾아 악용하는 능력이 더 강해지면서, 호주가 레거시 시스템에 의존하는 탓에 정부와 핵심 서비스가 이례적으로 노출될 수 있다고 경고했다.

The Guardian과 The Conversation이 별도 기사로 보도한 이 경고는, 노후한 디지털 인프라와 제한된 인간 개입으로 사이버 작업을 수행할 수 있는 AI 시스템의 능력 향상이라는 두 가지 기존 문제를 연결한다. 해당 보도는 구체적인 침해 사건이나 새로운 정부 평가를 제시하지는 않지만, 자동화가 향상될수록 레거시 기술이 더 심각해지는 구조적 위험이라고 설명한다.

지금 왜 레거시 시스템이 중요한가

레거시 시스템이 자동으로 불안전한 것은 아니다. 위험은 종종 필수 운영을 방해하지 않으면서 이를 업데이트, 모니터링 또는 교체하기 어려운 데서 발생한다. 오래된 플랫폼은 지원이 끝난 소프트웨어, 맞춤형 통합, 약한 인증 방식, 또는 대체하기 어려운 전문 지식에 의존할 수 있다.

이러한 제약은 공공기관과 대기업의 사이버보안을 오랫동안 복잡하게 만들어 왔다. 이번 보도에서 제기된 우려는 AI 에이전트가 이러한 약점을 더 쉽게 발견하고 대규모로 실행 가능하게 만들 수 있다는 점이다. 인간 공격자는 조직을 조사하고, 노출된 서비스를 식별하고, 자격 증명을 시험하고, 침투를 조율하는 데 시간이 필요할 수 있다. 자동화 시스템은 여러 대상에 걸쳐 그 과정의 일부를 잠재적으로 지원할 수 있다.

이는 모든 AI 에이전트가 오래된 시스템을 독자적으로 침해할 수 있다는 뜻은 아니다. 다만 방어자들은 더 잦고 더 빠른 시도에 직면할 수 있으며, 특히 패치가 일관되지 않거나 자산 가시성이 낮거나 최신 보안 통제를 지원할 수 없는 시스템이 있는 조직에서 그렇다.

보도가 입증하는 것과 그렇지 않은 것

The Guardian의 헤드라인은 이 경고를 전직 유엔 사이버 협상가에게서 나온 것으로 돌리고, The Conversation은 이 문제를 완전히 새로운 취약점이 아니라 기존 사이버 위험의 연장선으로 설명한다. 두 보도는 함께 호주의 기술 부채가 점점 더 자동화되는 공격의 결과를 키울 수 있다는 전략적 우려를 가리킨다.

제공된 원문 자료에는 전직 협상가의 이름, 직접 인용, 특정 피해 기관, 또는 호주에서의 AI 지원 사건 증거가 없다. 또한 AI 에이전트가 이미 특정 호주 레거시 플랫폼을 악용했다는 사실도 입증하지 않는다. 이러한 구분은 중요하다. 이 경고는 위험 평가이지, 특정 시스템이 침해되었다는 증거가 아니다.

또한 제공된 보도에는 성능 벤치마크, 도입 수치, 또는 독립적으로 검증된 측정값도 없다. 따라서 AI 에이전트가 할 수 있는 일에 대한 주장은 공격자가 현재 레거시 인프라에 침입하기 위한 범용 도구를 갖고 있다는 증거가 아니라, 능력과 위협에 대한 분석으로 받아들여야 한다.

기업 구매자와 공공 부문 기술 리더에게 실질적인 결론은 여전히 중요하다. 보안 계획은 더 이상 전통적인 멀웨어나 수동 침투의 관점에서만 오래된 시스템을 평가할 수 없다. AI 지원 활동의 잠재적 속도와 규모를 위협 모델링에 포함해야 한다.

AI 에이전트는 공격과 방어의 경제성을 바꾼다

AI 에이전트는 브라우저, 코드 환경, 데이터베이스, 기업 애플리케이션 같은 도구를 통해 여러 단계를 계획하고 실행함으로써 목표를 추구하도록 설계된 소프트웨어 시스템이다. 사이버보안에서의 유용성은 부여된 권한, 계획의 품질, 그리고 행동을 둘러싼 안전장치에 달려 있다.

공격 측면에서 에이전트는 정찰 자동화, 코드 생성 또는 수정, 기술 문서 해석, 노출된 정보의 대량 분류를 도울 수 있다. 정확한 능력은 모델과 주변 도구에 따라 달라진다. 네트워크 접근이나 자격 증명이 없는 에이전트는 단독 자율 침입자로 행동할 수 없다.

방어 측면에서는 같은 유형의 시스템이 자산 목록화, 경보 상관분석, 설정 테스트, 패치되지 않은 서비스 식별을 도울 수 있다. 하지만 방어 자동화는 자체적인 요구사항을 만든다. 운영 시스템에 연결된 에이전트는 엄격히 제한된 권한, 신뢰할 수 있는 감사 로그, 영향이 큰 작업에 대한 승인 단계, 그리고 실수를 중지하거나 되돌릴 수 있는 방법이 필요하다.

레거시 환경은 이러한 안전장치를 구현하기 어렵게 만든다. 오래된 애플리케이션은 현대적 API를 제공하지 않거나, 불완전한 로그를 생성하거나, 공유 계정과 수동 프로세스에 의존할 수 있다. 기업은 그런 시스템 주변에 AI 보안 계층을 추가할 수 있지만, 그 계층이 근본적인 운영 및 아키텍처 제약을 제거하지는 못한다.

빌더와 기업에 대한 시사점

AI 보안 제품 개발자에게 이번 호주의 경고는 모든 고객이 깨끗하고 현대적인 클라우드 스택을 갖고 있다고 가정하지 말고, 불완전한 환경을 위해 설계해야 한다는 필요성을 재확인시킨다. 제품은 불완전한 텔레메트리, 오래된 신원 시스템, 혼합 인프라와 함께 작동하면서 인간 운영자에게 불확실성을 명확히 알려야 한다.

권한 설계는 모델 품질만큼 중요할 가능성이 크다. 레코드를 읽고, 구성을 바꾸고, 메시지를 보내고, 코드를 실행할 수 있는 AI 에이전트는 기능별로 분리하고 기본적으로 제한해야 한다. 기업은 에이전트가 무엇을 시도했는지, 어떤 도구를 호출했는지, 왜 행동이 승인되었는지 검토할 수 있어야 한다.

공공기관 및 기타 핵심 인프라 운영자에게 레거시 시스템 교체는 가장 지속적인 해결책일 수 있지만, 교체 프로젝트는 수년이 걸릴 수 있다. 단기 조치로는 정확한 자산 목록, 네트워크 분할, 더 강한 인증, 테스트된 백업, 중앙 집중식 로깅, 그리고 공격자가 이전보다 더 빨리 움직일 수 있다는 전제를 둔 사고 대응 절차가 있다.

이 경고는 조달 측면의 의미도 있다. AI 에이전트를 평가하는 조직은 제품이 생산성을 높이는지뿐 아니라 어떤 접근 권한이 필요한지, 그리고 그 접근이 기존 취약점과 어떻게 상호작용하는지도 물어야 한다. 취약한 워크플로에 추가된 에이전트는 그것을 가능하게 하는 거버넌스가 자동화보다 약하다면 공격 표면을 넓힐 수 있다.

앞으로 주목할 점

첫 번째 신호는 호주 기관들이 AI 기반 사이버 위협과 레거시 인프라에 대한 더 구체적인 지침을 발표하는지 여부다. 구체적인 권고, 영향을 받는 기술 범주, 또는 사고 데이터가 있다면 일반적인 전략적 우려와 실제 악용을 구분하는 데 도움이 될 것이다.

두 번째 신호는 대형 조직들이 조달 및 보안 정책에 에이전트별 통제를 보고하기 시작하는지 여부다. 최소 권한 접근, 인간 승인, 활동 로그, 격리된 환경에서의 테스트 요구사항은 위험이 배포 결정에 영향을 미치고 있음을 보여줄 것이다.

보안 연구자들도 현재의 AI 에이전트가 실제 레거시 시스템에 대해 어떻게 작동하는지 문서화함으로써 더 명확한 증거를 제공할 수 있다. 유용한 연구는 모델 능력과 도구 접근, 자격 증명, 운영자 지원을 분리해야 하며, ‘AI’를 하나의 위협 범주로 취급해서는 안 된다.

Creati.ai 시각

이번 보도의 핵심은 AI 에이전트가 호주의 모든 레거시 시스템을 즉시 취약하게 만들었다는 것이 아니다. 자동화는 알려진 취약점을 해결하지 않고 방치하는 비용을 높인다는 점이다. 공격자가 수동으로 조사하기 어려웠던 시스템도 정찰과 분석을 저렴하게 반복할 수 있게 되면 더 매력적인 표적이 될 수 있다.

따라서 호주의 문제는 사이버보안 문제이자 시스템 관리 문제이기도 하다. 조직은 지원되지 않는 플랫폼, 약한 신원 통제, 낮은 가시성을 AI 탐지 하나로 보완할 수 있다고 기대할 수 없다. 가장 신뢰할 수 있는 대응은 현대화, 엄격한 에이전트 권한, 그리고 자동화가 실제로 추가 위험을 만드는 지점을 보여주는 증거 기반 테스트의 조합이다.