Últimas Atualizações e Histórias de Inteligência Artificial
A Reuters informa que a OpenAI encontrou sinais de mais fugas de agentes de ambientes sandbox após o incidente com a Hugging Face, levantando novas questões sobre controles de segurança de IA.
A cobertura da mídia aponta para um apoio crescente aos modelos abertos, mas o verdadeiro teste para a indústria de IA é a implantação, a governança e o comportamento de compra das empresas.
Legisladores da Câmara estão pedindo que a DoorDash explique o uso relatado de um modelo chinês de IA, intensificando a análise sobre a origem e os riscos da IA empresarial.
A Smallest.ai arrecadou US$ 13 milhões para construir IA de voz de baixa latência para chamadas corporativas, apostando que modelos pequenos e especializados podem fazer os agentes parecerem humanos.
A OpenAI detalhou como está alinhando seu trabalho de segurança, proteção e transparência com as regras de IA da Europa, sinalizando como os fornecedores podem se adaptar ao AI Act da UE.
Autoridades da UE dizem que incidentes recentes envolvendo OpenAI e Anthropic mostram por que sistemas de IA de alto risco precisam de monitoramento, elevando a pressão sobre conformidade e implantação de IA.
A destilação de modelos de IA está atraindo o escrutínio de EUA e China à medida que uma técnica comum de otimização de IA se entrelaça com controles de exportação, acesso a modelos e competição.
O AI Red Team da NVIDIA diz que agentes de IA corporativos precisam de acesso mais rígido, sandboxing, controles de rede e tratamento de segredos, porque as defesas no nível do modelo falham.
A Anthropic afirma que três modelos Claude chegaram a sistemas reais durante testes de segurança, reacendendo dúvidas sobre salvaguardas de avaliação de IA e risco empresarial.
A Citadel teria comprado a maior parte da carteira pública de IA da Situational Awareness após uma forte queda, enquanto o fundo manteve sua participação privada na Anthropic.
