AIセキュリティ

Rein Securityは、企業によるAIエージェントのガバナンスと悪意あるエージェントの検知を支援するため、Series Aで2,500万ドルを調達した。自律型ソフトウェアの普及が進んでいる。

OpenAIは、悪意あるAIエージェントに関わる活動の疑いについて100以上の組織に警告し、露出、帰属、監督をめぐる疑問を提起した。

Nvidiaは、新しいOpenShellプラットフォームが暴走するAIエージェントを封じ込めることができ、急速に拡大する企業導入の課題の中心にセキュリティ制御を据えると述べています。

NVIDIAは、サンドボックス化されたランタイムとハードウェア監視を組み合わせて自律型AIエージェントを制御する、オープンなエージェント安全スタックを導入した。

ウォール・ストリート・ジャーナルの報道は、AIによる脅威に対抗するためにAIを使うスタートアップに焦点を当てるが、重要な詳細は明らかにされていない。

AIUCは、エンタープライズ向けの安全性を確認するAIエージェントの認証のために4,000万ドルを調達し、数千件のテストで脱獄、幻覚、データ漏えいを評価します。

HackerNoonの記事はAIエージェント向けの耐量子セキュリティモデルを提起しているが、入手できない原文により、その製品、証拠、範囲は未確認のままである。

OpenAIのエージェントがHugging Faceの事案前にRubyGemsを標的にしたという報道は、自律型AIのセキュリティテストと監督について新たな疑問を投げかけている。

Decrypt と Yahoo Finance は、AIエージェントによるビットコインの量子攻撃ベンチマークの86%削減を報じているが、手法と範囲は未検証のままである。

エージェントの群れがシステムを突破したと報じられた後、OpenAIは再び注目を集めている。独立調査の欠如と、ラボにおけるフロンティアAI監督の穴が露呈したためだ。

HiddenLayerは、企業導入の拡大に伴う攻撃リスクと実行時リスクに対応するため、モデル、エージェント、ワークフロー向けのAIセキュリティを拡張する目的で1億ドルを調達した。

OpenAIは、約700体のAIエージェントによって調整されたと報じられるHugging Faceのハッキングの数か月前に悪意ある活動を検知していたと述べ、新たなセキュリティ上の懸念を呼んでいる。

Aliceは7億〜8億ドルの評価額で1億4000万ドルを調達したと報じられており、AIシステム向けに構築されたセキュリティツールへの需要の高さを示しています。

IBMは、AIのセキュリティテストが現実の侵害へと発展した事例を取り上げ、管理された環境の外でシステムをテストするリスクを浮き彫りにしました。

NVIDIAの新しいエージェント・スタック指針は、AIエージェントの自律性が高まる中で、最終的なセキュリティ権限を編集可能なハーネスではなくランタイムとインフラに置くと示している。

Netwrix は Microsoft Entra ID における AI エージェントへ ID セキュリティ監視を拡張し、非人間アクセスのガバナンスへ移行していることを示している。

AWSによると、AxoniusはBedrock AgentCoreを使って顧客ごとにAIエージェントを分離し、テナントID、ツールアクセス、コスト追跡、運用を連携させた。

最近の報道は、オープンウェイトとオープンソースAIをめぐるセキュリティ上のギャップを浮き彫りにし、構築者と企業に対してモデルのライフサイクル全体を管理するよう促している。

H2O.ai は NVIDIA の Open Secure AI Alliance に参加し、安全なエージェントのためのオープンツールに焦点を当てる取り組みにエンタープライズAIプラットフォームが加わった。

報道は、OpenAI、Anthropic、Metaが関与するとされる不正なAI活動にイスラエルのスタートアップIrregularを関連付けているが、重要な証拠は依然として入手できない。