CEO da Anthropic delineia plano para desacelerar o desenvolvimento de IA

O CEO da Anthropic, Dario Amodei, pediu um ritmo mais lento para o desenvolvimento de IA de fronteira, argumentando que os avanços recentes aumentaram tanto as capacidades quanto os riscos dos sistemas que estão sendo construídos. Ele propôs avaliadores independentes dentro das principais empresas de IA, coordenação sobre padrões de segurança e acordos internacionais limitados sobre usos perigosos.

A proposta marca uma mudança de alertas amplos sobre o risco da IA para mecanismos específicos destinados a conter o desenvolvimento. O CEO da OpenAI, Sam Altman, disse que a OpenAI concorda que as empresas precisam “ditar o ritmo da fronteira” e indicou que adotaria avaliadores incorporados, embora não tenha fornecido um plano detalhado de implementação. O CEO da SpaceX, Elon Musk, também endossou publicamente a posição de Amodei.

Por que Amodei está pedindo uma fronteira de IA mais lenta

Em um novo post no blog, Amodei disse que dois acontecimentos o convenceram de que as empresas de IA deveriam adotar uma abordagem mais cautelosa: o suposto hack da OpenAI-HuggingFace e o que ele descreveu como uma forte aceleração das capacidades da IA. Ele deu ênfase especial aos sistemas que estão ficando melhores em ajudar a construir a próxima geração de IA.

O argumento de Amodei não é abandonar o desenvolvimento de IA. Em vez disso, ele disse que as empresas deveriam reduzir a velocidade com que as capacidades dos modelos melhoram, usando o tempo adicional para fortalecer as práticas de segurança. Ele sustentou que a IA poderia melhorar substancialmente a vida das pessoas, mas argumentou que esses benefícios dependem de construir e implantar a tecnologia com mais cuidado.

O timing também reflete uma pressão crescente dentro e fora dos principais laboratórios de IA. A TechCrunch informou que o pesquisador da Anthropic Jacob Coxon renunciou por preocupações de que as empresas líderes estavam assumindo riscos inaceitáveis. O texto de Amodei não abordou explicitamente essa renúncia, e as evidências disponíveis não estabelecem que ela tenha provocado diretamente sua proposta. Mostra, porém, que o debate sobre segurança de IA se tornou mais visível até mesmo dentro de organizações de modelos de fronteira.

Avaliadores incorporados teriam acesso interno

A proposta mais imediata de Amodei é colocar avaliadores de segurança de terceiros dentro de empresas de IA de fronteira. Ele citou organizações como a METR, que poderiam verificar se as empresas estão cumprindo seus compromissos de ritmo e segurança e ajudar a garantir que incidentes significativos sejam relatados.

O arranjo proposto daria aos avaliadores identificação da empresa, espaços de trabalho, laptops e acesso amplamente comparável ao disponível para equipes internas de avaliação de risco. Amodei disse que exceções poderiam se aplicar quando leis ou contratos as exigirem. Ele comparou o modelo com reguladores trabalhando dentro de instituições financeiras, em vez de depender apenas de divulgações posteriores aos fatos.

A Anthropic está “se comprometendo unilateralmente” com essa abordagem, segundo o post de Amodei. Altman descreveu a ideia como boa e disse que a OpenAI faria o mesmo, com mais detalhes a seguir. Esses compromissos continuam sendo declarações de executivos, não programas operacionais verificados de forma independente. As evidências disponíveis até agora não especificam a autoridade dos avaliadores, a estrutura de reporte, o financiamento ou sua capacidade de publicar conclusões.

Essa distinção importa para criadores de IA e compradores corporativos. Um avaliador com acesso, mas sem poder para interromper um lançamento, pode oferecer visibilidade sem mudar decisões. Por outro lado, uma função de revisão realmente independente poderia afetar cronogramas de lançamento de modelos, políticas de acesso, resposta a incidentes e as evidências que os clientes recebem antes de implantar agentes de IA em fluxos de trabalho sensíveis.

Coordenação enfrenta barreiras de concorrência e antitruste

Amodei também propôs que grandes empresas de IA em países democráticos coordenem padrões comuns de segurança e limites ao progresso sem controle. Ele reconheceu que a coordenação direta entre concorrentes poderia levantar preocupações antitruste, especialmente se as empresas parecerem restringir produtos em conjunto ou desacelerar a concorrência.

Sua solução foi que o governo dos EUA medie ou permita discussões de segurança estritamente definidas e conceda uma isenção antitruste limitada. Essa proposta exigiria que os formuladores de políticas distinguissem cooperação técnica em segurança de conduta anticompetitiva. O material de origem não indica que tal isenção exista ou que governos tenham concordado em criá-la.

O desafio geopolítico é igualmente significativo. Críticos da desaceleração do desenvolvimento de IA frequentemente argumentam que restrições poderiam permitir que a China ganhasse terreno. Amodei rebateu que controles de exportação sobre chips poderosos e equipamentos de fabricação de semicondutores, combinados com medidas mais duras contra a destilação de modelos, poderiam ampliar a vantagem dos Estados Unidos nos próximos três a cinco anos.

Esses são julgamentos estratégicos, não resultados estabelecidos. Dependem da aplicação, do ritmo da inovação doméstica, da capacidade da China de substituir hardware e software restritos e da disposição dos governos aliados em coordenar. A proposta de Amodei, portanto, conecta a política de segurança de IA à política industrial e às decisões de segurança nacional, em vez de tratar o desenvolvimento de modelos como um assunto restrito aos laboratórios das empresas.

A via mais estreita pode ser um conjunto global de regras de segurança

A proposta final de Amodei foi a coordenação internacional entre os Estados Unidos, seus aliados e governos autoritários, quando possível. Ele reconheceu que a cooperação com a China teria limites claros, mas sugeriu que os governos ainda poderiam concordar com um pequeno número de aplicações obviamente perigosas.

Ele citou a produção de armas biológicas assistida por IA como exemplo de uma área em que uma proibição restrita poderia ser mais viável do que um amplo acordo global sobre o desenvolvimento de IA. Essas regras não resolveriam o debate mais amplo sobre capacidades de modelos, mas poderiam criar limites mínimos em usos de alto impacto.

A abordagem também responde a um problema mais amplo de confiança. Amodei argumentou que a reação pública contra a IA reflete ceticismo em relação às empresas de tecnologia, ao setor de tecnologia e aos governos. Críticos da indústria, incluindo o jornalista Brian Merchant, citado pela TechCrunch, questionaram se cenários apocalípticos são suficientemente sustentados por evidências passo a passo e alertaram que propostas abrangentes de segurança poderiam fortalecer a posição de mercado da Anthropic e da OpenAI.

Essa crítica destaca um problema central de credibilidade: as empresas que pedem mais supervisão também ajudariam a definir os padrões, as regras de acesso e os limites de ritmo. Uma governança independente precisaria impedir que a coordenação de segurança se tornasse um mecanismo de captura regulatória ou de proteção dos laboratórios incumbentes contra novos concorrentes.

O que observar a seguir

O sinal mais claro no curto prazo será se a OpenAI publicar um plano concreto para avaliadores incorporados, incluindo sua independência, direitos de acesso, poderes de escalonamento e obrigações de reporte de incidentes. A implementação da própria Anthropic será igualmente importante; um compromisso público por si só não mostrará se os avaliadores podem influenciar decisões de implantação.

A resposta dos formuladores de políticas fornecerá um segundo teste. Fique atento a propostas que tratem de proteção antitruste restrita para discussões de segurança, exigências formais de reporte de incidentes e regras que governem o acesso ao desenvolvimento de modelos de fronteira. Qualquer ação governamental revelará se as ideias de Amodei podem ir além de declarações executivas.

Criadores de IA e clientes empresariais também devem monitorar como esses compromissos afetam o ritmo de lançamentos, o acesso aos modelos, a documentação de segurança e as restrições a capacidades de alto risco. Se o ritmo se tornar operacional, as empresas podem ver atualizações de modelo mais lentas, mas evidências mais fortes sobre confiabilidade e riscos de uso indevido. Se continuar voluntário, a pressão competitiva para lançar sistemas cada vez mais capazes poderá seguir inalterada.

Perspectiva da Creati.ai

O anúncio de Amodei é significativo porque transforma a frase “ditar o ritmo da fronteira” em um modelo operacional proposto: avaliadores externos dentro dos laboratórios, discussões comuns sobre segurança e regras internacionais limitadas. Mas a proposta ainda está na fase de compromisso. Seu valor dependerá de os avaliadores serem realmente independentes e de as conclusões de segurança poderem atrasar ou alterar lançamentos.

Para o mercado, a tensão não é simplesmente entre desenvolvimento rápido e lento de IA. É entre velocidade que continua difícil de auditar e velocidade acompanhada de supervisão crível. Criadores e compradores devem tratar as declarações mais recentes da Anthropic e da OpenAI como sinais de expectativas de governança em mudança, e ainda não como prova de que o desenvolvimento de fronteira tenha desacelerado de forma material.