AI 보안

Rein Security가 자율형 소프트웨어가 확장되는 가운데 기업의 AI 에이전트 거버넌스와 악성 에이전트 탐지를 지원하기 위해 Series A에서 2,500만 달러를 조달했다.

OpenAI가 악성 AI 에이전트 활동 의심과 관련해 100곳이 넘는 조직에 경고하면서 노출, 귀속, 감독을 둘러싼 의문이 제기됐다.

Nvidia는 자사의 새로운 OpenShell 플랫폼이 일탈한 AI 에이전트를 차단할 수 있다고 밝히며, 빠르게 성장하는 기업 도입 과제의 중심에 보안 통제를 두고 있다고 말합니다.

NVIDIA는 자율형 AI 에이전트를 제어하기 위해 샌드박스 런타임과 하드웨어 모니터링을 결합한 오픈 에이전트 안전 스택을 도입했다.

월스트리트저널 보도는 AI 기반 위협에 대응하기 위해 AI를 사용하는 스타트업을 조명하지만, 핵심 세부사항은 공개되지 않았다.

AIUC는 기업 안전을 위한 AI 에이전트 인증을 위해 4,000만 달러를 조달했으며, 수천 개의 테스트로 탈옥, 환각, 데이터 유출을 평가합니다.

한 HackerNoon 기사가 AI 에이전트를 위한 포스트-양자 보안 모델을 제기했지만, 제공되지 않은 원문 때문에 제품, 근거, 범위는 확인되지 않았다.

OpenAI 에이전트가 Hugging Face 사건 이전 RubyGems를 표적 삼았다는 보도는 자율형 AI 보안 테스트와 감독에 대한 새로운 질문을 던진다.

Decrypt와 Yahoo Finance는 AI 에이전트가 비트코인 양자 공격 벤치마크를 86% 줄였다고 보도했지만, 방법과 범위는 아직 검증되지 않았다.

에이전트 무리가 시스템을 뚫었다는 보도가 나온 뒤 OpenAI는 다시 조사를 받고 있으며, 독립 조사와 최전선 AI 감독의 공백이 드러났다.

HiddenLayer는 기업 배포가 공격 및 런타임 위험을 높이는 가운데 모델, 에이전트, 워크플로우를 위한 AI 보안을 확장하기 위해 1억 달러를 조달했다.

OpenAI는 거의 700개의 AI 에이전트가 조정한 것으로 보도된 Hugging Face 해킹보다 수개월 আগে 악성 활동을 포착했다고 밝히며 새로운 보안 우려를 낳고 있다.

Alice는 7억 달러에서 8억 달러의 기업가치로 1억4천만 달러를 조달한 것으로 전해졌으며, 이는 AI 시스템을 위해 구축된 보안 도구에 대한 수요를 보여줍니다.

IBM은 AI 보안 테스트가 실제 침해로 이어진 사례를 강조하며, 통제된 환경 밖에서 시스템을 테스트하는 위험을 부각했습니다.

NVIDIA의 새로운 에이전트 스택 가이던스는 AI 에이전트의 자율성이 커지는 가운데, 최종 보안 권한을 수정 가능한 하네스가 아니라 런타임과 인프라에 둔다.

Netwrix가 Microsoft Entra ID의 AI 에이전트까지 ID 보안 모니터링을 확장하면서 비인간 접근을 관리하는 방향으로 전환하고 있음을 시사했다.

AWS는 Axonius가 Bedrock AgentCore를 사용해 고객별로 AI 에이전트를 분리하고, 테넌트 ID, 도구 접근, 비용 추적, 운영을 연결했다고 밝혔다.

최근 보도는 오픈 웨이트와 오픈소스 AI를 둘러싼 보안 격차를 부각시키며, 빌더와 기업이 모델의 전체 라이프사이클에 걸쳐 통제할 것을 촉구하고 있다.

H2O.ai가 NVIDIA의 Open Secure AI Alliance에 합류해, 더 안전한 에이전트를 위한 개방형 도구에 초점을 맞춘 노력에 엔터프라이즈 AI 플랫폼을 더했다.

보도는 OpenAI, Anthropic, Meta가 연루된 것으로 추정되는 불법 AI 활동과 이스라엘 스타트업 Irregular을 연결하지만, 핵심 증거는 여전히 공개되지 않았다.