Anthropic promete a avaliadores externos acesso equivalente ao de funcionários

Resumo

• O executivo-chefe da Anthropic, Dario Amodei, publicou um ensaio defendendo que a indústria de IA deveria desacelerar deliberadamente o ritmo em que torna os modelos mais capazes, para que as verificações de segurança consigam acompanhar.
• Seu primeiro movimento: prometer a revisores externos o mesmo tipo de acesso que a própria equipe de segurança da Anthropic tem, além do direito de publicar o que encontrarem sem edição da empresa.
• Seis dias depois, a Anthropic nomeou a divisão da Accenture chamada Faculty como esse primeiro revisor externo, com cada empresa planejando investir pelo menos US$ 1 bilhão ao longo de cinco anos.
• Sam Altman, da OpenAI, disse que igualaria o compromisso de acesso, mas Mark Zuckerberg, da Meta, e Jensen Huang, da Nvidia, rejeitaram publicamente a ideia de uma desaceleração em toda a indústria.
• Um crítico escrevendo na Tech Policy Press alerta que, sem fiscalização governamental, o plano equivale à indústria policiando a si mesma.

O que aconteceu

Em 12 de setembro de 2026, Amodei publicou em seu site pessoal um ensaio intitulado “We Must Pace the Frontier” (“Precisamos Regular o Ritmo da Fronteira”), defendendo que as empresas de IA deveriam desacelerar deliberadamente o ritmo em que as capacidades dos modelos melhoram, para que o trabalho de segurança consiga acompanhar — ao mesmo tempo em que ressalta que isso não significa interromper o treinamento de modelos ou o progresso técnico como um todo, segundo o ensaio.

Como primeiro passo unilateral desse plano, Amodei comprometeu a Anthropic a dar a avaliadores externos acesso permanente, equivalente ao de funcionários, a seus escritórios e sistemas — permissões em grande parte comparáveis às que as próprias equipes internas de avaliação de risco da Anthropic já têm — para que possam verificar se a empresa segue suas práticas de segurança, relatar incidentes e avaliar como os modelos se comportam durante o treinamento, escreveu ele. Ele descreveu o arranjo sem rodeios: “Mesas em nossos escritórios, crachás de acesso e laptops da empresa. Acesso a espaços de trabalho, ferramentas e permissões em grande parte comparáveis às que as equipes internas de avaliação de risco têm.” Esses avaliadores, acrescentou, também deveriam ter liberdade para publicar o que encontrarem — inclusive sobre o acesso que receberam ou deixaram de receber — sem que a Anthropic edite o conteúdo antes, à exceção de supressões limitadas: “Revisores externos devem ter o direito de publicar constatações-chave sobre níveis de risco, incidentes, práticas e o acesso que receberam ou não receberam — sem controle editorial da Anthropic.”

Um segundo passo proposto por Amodei é a coordenação voluntária entre empresas de IA sediadas em países democráticos para estabelecer padrões de segurança compartilhados e limites de velocidade no avanço das capacidades. Como esse tipo de coordenação entre concorrentes levanta questões antitruste, ele disse que ajudaria se o governo dos EUA mediasse ou viabilizasse as conversas por meio da emissão de uma isenção restrita para diálogos relacionados a segurança, e sugeriu — como um mecanismo possível, ainda não definido — um sistema em que modelos que atingissem determinado nível de capacidade precisariam ter certificações de propriedades de segurança específicas anexadas, de acordo com o ensaio. Um terceiro passo, de caráter internacional, esboça quatro níveis crescentes de possível acordo entre governos, desde a proibição de usos restritos e obviamente perigosos — como a produção de bioarmas assistida por IA — até testes de segurança obrigatórios antes do lançamento, um limite à velocidade com que sistemas de IA poderiam se autoaperfeiçoar e, por fim, uma desaceleração completa do desenvolvimento de IA em geral — algo que Amodei diz ser improvável no curto prazo, dada a dificuldade de verificar o cumprimento e flagrar países que trapaceiam, segundo o ensaio.

Seis dias depois, em 18 de setembro, a Anthropic colocou o plano em prática: anunciou ter escolhido a divisão de IA da Accenture, a Faculty, como sua primeira avaliadora embarcada, chamando o movimento de um passo em direção ao compromisso assumido no ensaio de Amodei. Segundo o anúncio, os avaliadores da Faculty trabalharão dentro da Anthropic com acesso comparável ao de funcionários, acompanhando os modelos tomando forma durante o treinamento, seguindo as decisões que regem como os modelos são construídos e implantados, e falando diretamente com a equipe, além de conduzir red-teaming (testar deliberadamente um sistema em busca de vulnerabilidades), avaliações de alinhamento e testes das salvaguardas dos modelos. Anthropic e Accenture preveem investir cada uma pelo menos US$ 1 bilhão ao longo dos próximos cinco anos na construção dessa capacidade de avaliação, com a Anthropic financiando diretamente o trabalho da Accenture. O TechCrunch confirmou de forma independente o arranjo e informou que ele não é exclusivo: a Anthropic disse que também está em conversas com a organização de pesquisa sem fins lucrativos METR e outros possíveis avaliadores.

A reação de outras empresas se dividiu. Sam Altman, executivo-chefe da OpenAI, escreveu no X em 12 de setembro que regular o ritmo “tem sido um tópico central” das discussões internas na OpenAI nas últimas semanas: “Concordo com o Dario que precisamos regular o ritmo da fronteira. Isso tem sido um tópico central das discussões que tivemos na OpenAI nas últimas semanas. Comprometer-se a ter avaliadores independentes com acesso equivalente ao de funcionários é uma ótima ideia, e faremos o mesmo. Teremos mais novidades em breve.” Mark Zuckerberg, executivo-chefe da Meta, rejeitou publicamente o argumento a favor de uma desaceleração coordenada em toda a indústria, alegando que a pressão de mercado já empurra os laboratórios em direção a sistemas mais seguros: “As pessoas não vão querer usar agentes desalinhados com elas e que não fazem o que pedem, então os laboratórios têm um forte incentivo natural para tornar seus modelos mais alinhados.” Jensen Huang, executivo-chefe da Nvidia, em entrevista à CNBC reportada pela Competition Policy International e publicada no PYMNTS, descartou pedidos de novas isenções antitruste ou leis para viabilizar uma desaceleração coordenada: “O fato de precisarmos de novas leis, novas leis antitruste ou novas regulamentações para que essas empresas possam fazer sua engenharia fundamental e fazê-la corretamente antes de lançar produtos — isso é simplesmente desnecessário.”

O que isso significa (e o que não significa)

O ensaio de Amodei transformou um argumento genérico sobre segurança em um compromisso específico e verificável: um nível definido de acesso a escritórios e sistemas, e uma promessa pública sobre quem controla a publicação das constatações. O fato de a Anthropic ter agido em seis dias para nomear um avaliador pago e escolhido a dedo mostra a empresa tratando essa promessa como algo a implementar de imediato, e não como uma proposta para os outros debaterem, como mostram tanto seu próprio anúncio quanto a confirmação do TechCrunch. O aval público de Altman, mesmo sem detalhes operacionais, mostra que a ideia não está sendo descartada pela OpenAI, maior rival da Anthropic entre os grandes modelos.

O que isso não significa é que a indústria chegou a um consenso. Zuckerberg e Huang rejeitaram publicamente, cada um a seu modo, o argumento a favor de uma desaceleração coordenada ou de uma concessão antitruste, alegando que os incentivos já existentes de mercado e de engenharia são suficientes. Também não se trata de um acordo internacional vinculante: o arcabouço de quatro níveis é uma proposta do próprio Amodei, não algo que qualquer governo tenha adotado, e não é uma pausa no desenvolvimento de IA — Amodei disse explicitamente que regular o ritmo não significa interromper o treinamento. O TechCrunch relatou que alguns críticos da abordagem de segurança da Anthropic veem o esquema de avaliador embarcado como, na prática, deixar a indústria policiar a si mesma e evitar uma responsabilização mais forte, imposta externamente. Escrevendo na Tech Policy Press, Dave Karpf faz um argumento semelhante: “É um erro deixar que a indústria de IA molde os contornos de seu próprio sistema regulatório, mesmo que reconheçamos as boas intenções de seus líderes.” Ele alerta que, sem fiscalização governamental, “avaliadores independentes de terceiros ou vão se tornar uma porta giratória para a indústria, ou então serão completamente ultrapassados”.

O que ainda não sabemos

Nenhuma fonte descreve um limiar de capacidade mensurável, um mecanismo de fiscalização ou uma penalidade aplicável caso uma empresa que se compromete publicamente a regular o ritmo ou a manter avaliadores embarcados deixe de cumprir — o próprio ensaio de Amodei apresenta a ideia do ponto de verificação vinculado à capacidade apenas como um esquema possível, ainda não definido. Como é a própria Anthropic quem seleciona, delimita o escopo e financia seus avaliadores — a Faculty, da Accenture, e supostamente a METR, em conversas —, nem o anúncio da Anthropic nem a reportagem do TechCrunch abordam como seria administrado um conflito entre a independência do avaliador e a condição de parceiro remunerado. Nenhuma fonte nomeia um organismo internacional já existente — uma agência da ONU ou uma organização de tratado, por exemplo — que administraria o arcabouço de quatro níveis que Amodei descreve; ele traça níveis de possível acordo, não um órgão administrador proposto. Se algum governo concordou em mediar as questões antitruste levantadas por Amodei, ou em emitir a isenção restrita para conversas sobre segurança que ele pede, não é algo tratado por nenhuma fonte consultada. O escopo, o cronograma e a escolha das organizações avaliadoras por parte da OpenAI, além do post inicial de Altman, não foram detalhados em nenhum outro lugar. O apoio ao plano não é unânime na indústria: além do aval de Altman, Zuckerberg e Huang rejeitaram publicamente o argumento a favor de uma desaceleração coordenada ou de uma concessão antitruste. E, como o arranjo entre Accenture e Faculty tinha apenas dias de existência na reportagem mais recente disponível, sem constatações públicas de avaliadores ainda publicadas, se ele vai funcionar de forma independente da Anthropic na prática continua sem teste.