Garry Tan, da Y Combinator, pede que laboratórios americanos de open-weight destilem modelos de fronteira

O CEO da Y Combinator, Garry Tan, está pedindo que empresas americanas de IA de open-weight possam destilar modelos de fronteira proprietários, argumentando que um acesso mais amplo poderia impedir que a IA avançada fosse controlada por um único fornecedor.

Tan disse à CNBC que preferiria que os reguladores não interviessem na disputa atual sobre destilação de modelos. Mais tarde, disse à TechCrunch que laboratórios americanos menores deveriam poder usar a técnica abertamente em sistemas de fronteira dos EUA, criando mais alternativas domésticas aos modelos chineses de open-weight.

A posição coloca o chefe de uma das aceleradoras de startups mais influentes do Vale do Silício em desacordo com pedidos de algumas empresas de modelos de fronteira por controles mais rígidos sobre como os clientes usam seus sistemas. Ela também abre um debate mais amplo sobre se o conhecimento obtido por meio de acesso pago a modelos deve ser tratado como resultado proprietário, infraestrutura pública ou algo entre os dois.

O que Tan está propondo

A destilação de modelos geralmente envolve consultar amplamente um modelo maior e usar suas respostas para treinar outro sistema. O processo pode ajudar um modelo menor a aprender padrões de linguagem, raciocínio ou desempenho em tarefas sem reproduzir os pesos subjacentes do modelo maior. Laboratórios de IA comumente usam a destilação como parte de trabalhos legítimos de treinamento e avaliação.

A proposta de Tan não é para que empresas americanas usem credenciais roubadas ou se passem por clientes. A TechCrunch informou que ele quer que laboratórios dos EUA possam acessar modelos de fronteira “pela porta da frente”, usando acesso normal ao modelo em vez de engano ou contas não autorizadas.

Seu argumento tem duas partes. Primeiro, Tan acredita que as empresas de fronteira podem estar indo longe demais ao ditar o que os clientes podem fazer com as informações retornadas por suas APIs de IA. Segundo, ele argumenta que as próprias empresas de IA proprietária construíram seus sistemas absorvendo enormes quantidades de conhecimento humano publicamente acessível, incluindo material protegido por direitos autorais cujos proprietários nem sempre concederam permissão.

Da perspectiva de Tan, permitir que empresas de IA open-weight aprendam com sistemas comerciais poderia criar um contrapeso à concentração de computação, capital e talento de pesquisa em um pequeno número de laboratórios de IA de fronteira. Ele disse que o pior cenário seria uma empresa ganhar uma vantagem esmagadora e se tornar um fornecedor “monolítico”.

Por que a destilação é contestada

Os comentários chegam depois que a Anthropic publicou um segundo relatório alegando que empresas chinesas de IA realizaram o que chama de “ataques ilícitos de destilação”. Segundo o relatório, conforme descrito pela TechCrunch, as empresas ocultaram suas identidades, usaram fraude e recorreram a credenciais roubadas para extrair capacidades de outros modelos sem permissão.

O CEO da Anthropic, Dario Amodei, já havia pedido que reguladores dos EUA respondessem a esse tipo de atividade. Essa posição trata a destilação não autorizada como um problema de segurança e propriedade intelectual, e não como uma consequência normal de oferecer um modelo por meio de uma API.

A distinção entre destilação permitida e proibida é, portanto, central. Tan não está endossando o roubo de credenciais e o engano descritos nas alegações da Anthropic. Ele está argumentando que os laboratórios americanos de open-weight deveriam ter um caminho legítimo para conduzir trabalhos de treinamento semelhantes sob condições de acesso transparentes.

Essa proposta ainda deixa perguntas difíceis sem resposta. Um provedor de modelo pode permitir que clientes gerem saídas, ao mesmo tempo em que restringe o uso dessas saídas para treinar um sistema concorrente. Também pode impor limites técnicos, monitoramento ou termos contratuais destinados a impedir a extração sistemática. Os comentários de Tan questionam se essas restrições deveriam ser aplicáveis de forma tão ampla quanto são hoje, mas não estabelecem um arcabouço legal para substituí-las.

Evidências e limites da alegação

A notícia central é a posição pública de Tan sobre política pública, relatada pela TechCrunch após comentários à CNBC e observações de acompanhamento à publicação. Não há evidência, no material fornecido, de que o governo dos EUA esteja preparando um “regime americano de destilação”, nem de que a proposta de Tan tenha sido adotada pela Y Combinator como plataforma política formal.

Da mesma forma, a reportagem não fornece medições independentes mostrando que a destilação produziria de forma confiável modelos open-weight competitivos, reduziria custos de treinamento ou diminuiria a dependência de sistemas chineses. Esses resultados fazem parte do argumento a favor da proposta, não de resultados demonstrados neste relato.

As alegações da Anthropic sobre laboratórios chineses também são apresentadas como acusações do próprio relatório da empresa. As evidências disponíveis não incluem uma investigação independente nem uma resposta das empresas mencionadas. Isso importa porque a mesma atividade técnica pode parecer muito diferente dependendo da autorização, dos termos contratuais, da escala das consultas e de se as credenciais foram obtidas legitimamente.

Para os construtores, a conclusão prática é que a destilação continua tecnicamente estabelecida, mas politicamente indefinida. Desenvolvedores de modelos podem usar o método em ambientes autorizados, mas acordos de acesso e políticas do provedor podem determinar se um fluxo de trabalho de treinamento específico é permitido.

Implicações para construtores e empresas

Se a visão de Tan ganhasse apoio político, laboratórios americanos menores poderiam obter uma rota mais direta para melhorar modelos open-weight. Eles poderiam usar sistemas de fronteira para geração de dados sintéticos, demonstrações de raciocínio, avaliação ou ajuste fino especializado, em vez de depender apenas de conjuntos de dados públicos e exemplos gerados internamente.

Isso poderia aumentar a concorrência para desenvolvedores de modelos e dar às equipes de produto mais opções quando precisarem de implantação local, maior controle sobre os pesos ou menor dependência de um único provedor hospedado. Também poderia criar novos serviços comerciais em torno de acesso licenciado a modelos professor e pipelines de destilação cuidadosamente documentados.

Os riscos seriam substanciais. As empresas de fronteira poderiam responder com aumento de preços, restrições a acesso de alto volume, adição de filtros de saída mais fortes ou limitação de contas que pareçam estar treinando concorrentes. Uma extração mais agressiva também poderia dificultar para os provedores a proteção de capacidades proprietárias e a recuperação do custo de desenvolver modelos grandes.

Compradores corporativos enfrentariam uma questão de governança relacionada. Uma empresa que use um modelo destilado precisaria entender não apenas o desempenho do modelo em benchmarks, mas também a procedência dos dados de treinamento, as permissões associadas às saídas do modelo professor e a possibilidade de o sistema resultante reproduzir material protegido ou sensível. Em ambientes regulados, essas questões podem importar tanto quanto a qualidade do modelo.

O debate também toca a segurança em IA. A distribuição open-weight pode melhorar a auditabilidade e o controle do usuário, mas pode tornar mais fácil implantar capacidades poderosas sem o monitoramento ou os sistemas de recusa de um provedor central. O argumento de competição de Tan aborda o risco de concentração; por si só, ele não resolve preocupações de uso indevido, privacidade ou responsabilização.

O que observar a seguir

O primeiro sinal será saber se os formuladores de políticas dos EUA distinguem entre destilação autorizada e a atividade encoberta alegada pela Anthropic, em vez de tratar todo treinamento de modelo para modelo como uma única categoria. Quaisquer regras propostas sobre APIs de IA, dados sintéticos ou propriedade das saídas do modelo esclareceriam se a ideia de Tan está ganhando força.

O mercado também deve observar se os provedores de fronteira revisam os termos que regem consultas de alto volume, imitação de modelos e treinamento de concorrentes. Novos programas de licenciamento podem oferecer um meio-termo: permitir a destilação sob contratos explícitos, preservando o controle do provedor sobre acesso e atribuição.

No lado técnico, avaliações independentes serão importantes. Alegações de que modelos destilados podem igualar ou se aproximar dos sistemas de fronteira devem ser testadas em confiabilidade, segurança, factualidade e custo — não apenas em tarefas selecionadas de benchmark. Evidências de adoção real por laboratórios americanos de open-weight também seriam mais fortes do que argumentos gerais sobre competitividade nacional.

Perspectiva da Creati.ai

A proposta de Tan é melhor entendida como um argumento de competição, não como uma resposta definitiva às questões de propriedade intelectual ou segurança em torno da destilação. Ele está alertando que restrições impostas por provedores de fronteira podem reforçar exatamente a concentração de poder que muitos formuladores de políticas tentam evitar.

Mas um regime aberto precisaria de limites claros. Acesso autorizado, registros de treinamento transparentes e salvaguardas aplicáveis poderiam sustentar um ecossistema de modelos mais saudável; tolerar fraude ou extração indiscriminada correria o risco de minar os incentivos comerciais que financiam a pesquisa de fronteira. Para construtores de IA e compradores corporativos, a questão de curto prazo é menos se a destilação existe do que se provedores, reguladores e tribunais conseguem definir quando ela é legítima.