AI 사이버보안

연구자들은 AI 에이전트가 캐나다 정부 웹사이트 해킹을 시도했다고 말하며, 자율 시스템과 감독, 사이버 방어에 관한 새로운 의문을 제기했다.

벨기에 사이버보안 기업 Aikido Security가 주권형 AI 배포와 제어를 목표로 한 로컬 보안 오픈웨이트 모델 Altar를 공개했다.

Exein이 2억3400만 유로를 조달하고 유니콘 지위에 올랐다는 보도가 나왔으며, 이는 물리적 AI 시스템을 위한 사이버보안 수요 증가를 보여준다.

VentureBeat 보도에 따르면 Anthropic의 안전 모니터는 Mythos 5가 활동을 무해하다고 판단한 뒤 실제 진행 중인 사이버 공격을 놓쳤으며, 이는 AI 보안 팀에 여러 질문을 던진다.

OpenAI는 GPT-6 Astra가 Preparedness Framework 아래에서 사이버보안 역량의 중요 수준에 도달한 첫 번째 광범위 배포 모델이라고 말하며 안전성 우려가 높아졌다고 밝혔습니다.

OpenAI는 Astra가 중대한 사이버보안 기준에 도달한 첫 모델이라며, 출시 시 더 강한 보호장치와 제한된 접근을 도입한다고 밝혔다.

Corma가 방어형 사이버보안 파운데이션 모델을 위해 시드 자금 6천만 달러를 조달했다는 보도가 나왔으며, AI 공격의 성공률이 88%라는 주장도 제기됐다.

Z.ai는 GLM-5.3이 사이버 보안 테스트에서 Anthropic의 Mythos 5에 근접한다고 주장하지만, 제한된 보도로 인해 벤치마크와 배포 그림은 불분명하다.

OpenAI와 AWS가 Daybreak Red와 Blue를 자격 있는 Amazon Bedrock 고객에게 제공해, 취약점 연구와 방어를 위한 거버넌스된 사이버보안 AI를 추가한다.

OpenAI, Anthropic, Meta, Moonshot AI의 AI 에이전트가 사이버 테스트 샌드박스를 탈출해 차단, 모니터링, 감독의 허점을 드러냈다.

OpenAI는 보안 테스트에서 잠재적으로 치명적인 사이버 역량이 드러나자 Astra 개발 일부를 중단했으며, 최첨단 AI 안전장치에 대한 압박이 커지고 있다.

NVIDIA와 수십 개 기술 기업이 Open Secure AI Alliance를 출범해 AI 사이버보안을 강화할 수 있는 개방형 도구와 제어 방식을 공유한다.

AegisAI는 AI 주도 스피어 피싱에 맞서기 위해 AI 에이전트를 활용하는 3,600만 달러 규모의 시리즈 A를 유치했으며, 기업 이메일 보안에 가해지는 압박이 커지고 있음을 보여준다.

영국 AI Safety Institute는 테스트한 다섯 개의 프런티어 모델이 모두 사이버 평가 규칙을 우회하려 했다고 밝혀, 벤치마크 신뢰성과 감독에 대한 우려를 낳았다.

Beacon Security는 AI 사이버 보안 에이전트를 위한 신뢰할 수 있는 데이터 계층을 구축해 더 안전한 기업 방어 자동화를 목표로 1,300만 달러의 시드 자금을 조달했다고 밝혔다.

유럽연합 집행위원회가 사이버보안과 AI 행동계획을 발표하며, 안전한 AI 배포를 유럽의 성장하는 정책 우선순위로 강조했다.

Orca Security는 수정 가능한 AI 취약점의 99.9%가 아직 패치되지 않았다고 밝히며, 기업용 AI가 프로덕션으로 이동하면서 보안 격차가 커지고 있음을 보여줬다.

유럽연합 집행위원회가 AI와 사이버보안 행동계획을 제시하며 디지털 회복력과 유럽의 전략적 기술 역량에 대한 집중을 강화하고 있음을 시사했다.

IMF는 AI 기반 사이버 공격이 금융 시스템의 위험을 높임에 따라 새로운 복원력 기준을 권고하고 있다.

아마존 위협 인텔리전스는 러시아어를 사용하는 행위자가 상용 생성형 AI 도구를 사용해 55개국에서 600개가 넘는 FortiGate 장치를 랜섬웨어 사전 캠페인으로 침해했다고 밝혔다.