OpenAI, Anthropic e Google DeepMind confirmam semanas de conversas sobre segurança em IA

A OpenAI tem conversado sobre segurança em IA com as rivais Anthropic e Google DeepMind há várias semanas, disse aos repórteres na terça-feira Chris Lehane, chefe global de políticas da empresa. A revelação confirma que as principais empresas de modelos de fronteira vêm se coordenando em privado enquanto formuladores de políticas debatem como gerenciar sistemas cada vez mais capazes.

As conversas ocorrem em meio a uma divisão crescente em Washington. O CEO da Anthropic, Dario Amodei, pediu ao setor que desacelere o ritmo do desenvolvimento de IA de fronteira para reduzir riscos catastróficos, enquanto o presidente Donald Trump e seu conselheiro de IA David Sacks descartaram essas preocupações e argumentaram que restrições mais duras poderiam enfraquecer os Estados Unidos diante da China. Para construtores de IA e compradores corporativos, a disputa pode determinar como avaliações de modelos, controles de implantação e supervisão independente se desenvolvem na próxima fase do mercado.

Por que as conversas vieram à tona agora

Os comentários de Lehane, relatados pelo TechCrunch após cobertura anterior da Bloomberg, seguiram um ensaio público de Amodei pedindo cooperação mais estreita entre empresas de IA. O CEO da OpenAI, Sam Altman, o CEO do Google DeepMind, Demis Hassabis, e Elon Musk, da SpaceXAI, estavam entre as figuras do setor que, segundo relatos, apoiaram o apelo à ação.

Altman também disse que a OpenAI trabalharia com Anthropic para incorporar avaliadores de terceiros em suas operações. Esses avaliadores teriam a função de monitorar se modelos avançados estão sendo desenvolvidos e implantados com segurança, embora a cobertura disponível não especifique o escopo, a autoridade ou os padrões operacionais das revisões propostas.

As conversas privadas já haviam sido insinuadas antes da confirmação da OpenAI. O TechCrunch relatou que Altman reconheceu recentemente conversas privadas com outros líderes de IA. Separadamente, o The Information informou que OpenAI, Anthropic e Google DeepMind estavam trabalhando para criar um órgão de padrões do setor, embora esse relato dissesse que Altman teria dito à equipe da OpenAI que tal esforço talvez precisasse avançar sem o apoio do governo dos EUA.

As conversas, portanto, parecem envolver mais do que contato informal entre executivos. Elas podem incluir práticas de segurança compartilhadas, avaliação externa e um possível mecanismo para definir padrões entre laboratórios concorrentes. As empresas não divulgaram publicamente uma estrutura detalhada, e o TechCrunch disse ter contatado OpenAI, Anthropic e Google para comentários.

Coordenação em segurança encontra preocupações antitruste

A cooperação entre concorrentes diretos cria uma complicação jurídica e comercial. Altman e outros reconheceram que discussões conjuntas podem levantar preocupações antitruste se reguladores concluírem que a coordenação em segurança está sendo usada para limitar a concorrência, desacelerar lançamentos de produtos ou dividir mercados.

A proposta de Amodei incluía uma isenção governamental estreita que protegeria determinada coordenação relacionada à segurança. Segundo o TechCrunch, Lehane disse que as empresas não precisam de tal isenção. Essa posição deixa em aberto uma questão central: quais salvaguardas os laboratórios podem discutir em conjunto sem cruzar para uma conduta que possa ser interpretada como supressão da concorrência?

A distinção importa porque as empresas não são apenas grupos de pesquisa acadêmica. OpenAI, Anthropic e Google DeepMind competem por desenvolvedores, contratos corporativos, capacidade de infraestrutura e influência sobre os padrões que podem reger modelos avançados. Um protocolo comum de testes poderia melhorar a comparabilidade e reduzir retrabalho, mas também poderia dar aos maiores laboratórios controle desproporcional sobre as regras aplicadas ao restante do setor.

Para empresas que constroem sobre esses modelos, o resultado pode afetar documentação, requisitos de auditoria e acesso a capacidades de maior risco. Um processo voluntário do setor pode avançar mais rápido do que a legislação, mas também pode carecer de aplicação consistente ou autoridade independente.

Evidência, alegações e a divisão política

O fato mais fortemente confirmado na reportagem é a declaração de Lehane de que a OpenAI vem mantendo conversas sobre segurança com Anthropic e Google DeepMind há semanas. O esforço mais amplo para criar um órgão de padrões ainda se baseia na reportagem do The Information, e não em um anúncio público das empresas.

Os benefícios da avaliação por terceiros também são prospectivos, e não demonstrados, no material de origem. Não foram fornecidos resultados independentes, nomes de avaliadores, critérios de teste ou processo de execução. As referências a risco catastrófico refletem a posição de Amodei e de outros defensores da segurança em IA, não uma medição estabelecida mostrando que um modelo ou implantação específico atingiu tal limite.

Hassabis já havia pedido aos Estados Unidos que estabelecessem um novo órgão de padrões com capacidade de examinar modelos avançados e coordenar desacelerações em todo o setor se os riscos aumentarem. Essa proposta contrasta com a posição atribuída a Trump e Sacks, que caracterizaram alertas sobre risco existencial como exagerados ou politicamente motivados e enfatizaram a competição com a China.

O conflito de políticas dá às conversas privadas uma importância incomum. Se o governo dos EUA não estiver disposto a criar um mecanismo formal de supervisão, os laboratórios de fronteira podem tentar construir um por conta própria. Mas um órgão privado liderado pelas empresas avaliadas enfrentaria questionamentos sobre independência, transparência e conflitos de interesse.

O que as conversas podem significar para construtores de IA

Para desenvolvedores de modelos, a implicação imediata é uma possível mudança para práticas de avaliação compartilhadas. Testes comuns poderiam facilitar a comparação de sistemas em capacidades perigosas, monitorar mudanças entre versões de modelos e identificar quando uma implantação precisa de controles mais fortes. Eles também poderiam criar novos custos de conformidade, especialmente para empresas menores que não dispõem das equipes de segurança e da infraestrutura dos maiores laboratórios.

Para equipes de produto corporativo, a verificação independente pode se tornar parte da diligência do fornecedor. Compradores podem, eventualmente, querer evidências de que um modelo passou por testes externos antes de permitir que ele lide com dados sensíveis, opere ferramentas ou tome decisões em fluxos de trabalho regulados. No entanto, não há cronograma confirmado para tais exigências, e nenhum acordo descrito na reportagem estabeleceu ainda uma certificação comum.

As apostas comerciais são igualmente diretas. Uma desaceleração coordenada em torno de descobertas de segurança pode afetar cronogramas de lançamento, disponibilidade de API e o ritmo com que os desenvolvedores recebem novos recursos. Por outro lado, se as empresas não conseguirem se coordenar por causa do risco antitruste, cada laboratório pode continuar definindo seus próprios limites e métodos de avaliação. Isso poderia preservar a concorrência, mas deixaria os clientes com informações inconsistentes sobre o risco dos modelos.

A questão também vai além das três empresas. Um órgão de padrões do setor teria de considerar desenvolvedores de modelos abertos, provedores de nuvem, pesquisadores independentes e empresas que implantam modelos em ambientes especializados. Regras criadas apenas pelos maiores laboratórios de fronteira podem ser difíceis de adotar pelo ecossistema mais amplo.

O que observar a seguir

O próximo sinal concreto será saber se OpenAI, Anthropic ou Google DeepMind identificará publicamente os participantes, o escopo e a governança das conversas sobre segurança. Detalhes sobre avaliadores de terceiros — incluindo quem os nomeia, o que podem inspecionar e se suas conclusões serão publicadas — distinguiriam um plano de supervisão substancial de um compromisso geral amplo.

A reação dos legisladores ao FRONTIER Act também importará. Lehane disse que a OpenAI apoia uma disposição que exige que os principais laboratórios de fronteira admitam “organizações independentes de verificação” em suas empresas. A redação legislativa, os poderes de fiscalização e a definição de um laboratório abrangido podem determinar se a proposta se torna uma obrigação real ou permanece uma posição de política.

Por fim, os desenvolvedores devem observar um anúncio formal de um órgão de padrões, benchmarks compartilhados de avaliação e evidências de que o processo inclui organizações fora dos três maiores participantes. Sem esses sinais, as conversas permanecem uma divulgação importante sobre coordenação, mas ainda não um regime operacional de segurança.

Perspectiva da Creati.ai

A importância desta história não é simplesmente que três empresas de IA estejam conversando. É que as empresas parecem reconhecer a necessidade de processos comuns de segurança enquanto operam em um mercado no qual a cooperação pode gerar riscos legais e competitivos. Essa tensão vai moldar se a supervisão surgirá como legislação, padrões voluntários ou um mosaico de práticas específicas de cada empresa.

Para construtores e compradores corporativos, a lição prática é tratar compromissos de segurança como incompletos até que produzam evidências verificáveis: testes definidos, acesso independente, resultados publicados e consequências claras para falhas. As conversas podem ser um ponto de partida útil, mas sua credibilidade dependerá de os participantes conseguirem tornar a supervisão verdadeiramente independente sem transformar um fórum de segurança em um mecanismo de gatekeeping para o mercado de IA.