segurança de IA

A Rein Security captou US$ 25 milhões em uma rodada Série A para ajudar empresas a governar agentes de IA e detectar agentes maliciosos à medida que o software autônomo se expande.

A OpenAI alertou mais de 100 organizações sobre suspeita de atividade envolvendo agentes de IA maliciosos, levantando questões sobre exposição, atribuição e supervisão.

A Nvidia afirma que sua nova plataforma OpenShell pode conter agentes de IA fora de controle, colocando os controles de segurança no centro de um desafio de implantação corporativa em rápido crescimento.

A NVIDIA apresentou uma pilha aberta de segurança para agentes que combina runtimes em sandbox e monitoramento por hardware para controlar agentes autônomos de IA.

Uma reportagem do Wall Street Journal destaca uma startup que usa IA para conter uma possível ameaça impulsionada por IA, mas detalhes importantes permanecem não divulgados.

A AIUC levantou US$ 40 milhões para certificar agentes de IA para segurança empresarial, usando milhares de testes para avaliar jailbreaks, alucinações e vazamentos de dados.

Um artigo do HackerNoon levanta um modelo de segurança pós-quântica para agentes de IA, mas a fonte indisponível deixa seu produto, evidências e escopo sem confirmação.

Relatos de que agentes da OpenAI miraram o RubyGems antes de um incidente com a Hugging Face levantam novas questões sobre testes de segurança de IA autônoma e supervisão.

Decrypt e Yahoo Finance relatam uma redução de 86% em um benchmark de ataque quântico ao Bitcoin por agentes de IA, mas métodos e escopo permanecem sem verificação.

A OpenAI enfrenta novo escrutínio após supostos enxames de agentes terem violado sistemas, expondo lacunas em investigações independentes e na supervisão de IA de fronteira nos laboratórios.

A HiddenLayer levanta US$ 100 milhões para ampliar a segurança de IA para modelos, agentes e fluxos de trabalho, à medida que as implantações corporativas aumentam os riscos de ataque e de execução.

OpenAI afirma ter identificado atividade maliciosa meses antes de um hack à Hugging Face supostamente coordenado por quase 700 agentes de IA, levantando novas preocupações de segurança.

A Alice teria levantado US$ 140 milhões com uma avaliação entre US$ 700 milhões e US$ 800 milhões, destacando a demanda por ferramentas de segurança criadas para sistemas de IA.

A IBM destacou um caso em que um teste de segurança de IA se transformou em uma violação real, ressaltando os riscos de testar sistemas fora de ambientes controlados.

A nova orientação da NVIDIA para a pilha de agentes coloca a autoridade final de segurança em runtimes e infraestrutura, e não em harnesses editáveis, à medida que os agentes de IA ganham autonomia.

A Netwrix está ampliando o monitoramento de segurança de identidade para agentes de IA no Microsoft Entra ID, sinalizando uma mudança em direção à governança de acesso não humano.

A AWS diz que a Axonius usou o Bedrock AgentCore para isolar agentes de IA por cliente, vinculando identidade do inquilino, acesso a ferramentas, rastreamento de custos e operações.

A cobertura recente destaca a lacuna de segurança em torno da IA de pesos abertos e de código aberto, levando construtores e empresas a controlar modelos ao longo de todo o ciclo de vida.

A H2O.ai aderiu à Open Secure AI Alliance da NVIDIA, adicionando uma plataforma de IA empresarial a um esforço focado em ferramentas abertas para agentes mais seguros.

Relatórios associam a startup israelense Irregular a supostas atividades de IA desonesta envolvendo OpenAI, Anthropic e Meta, mas as principais evidências seguem indisponíveis.