METR passa a atuar dentro da Anthropic
A Anthropic informou que concedeu a avaliadores externos acesso semelhante ao de funcionários para examinar os riscos de seus modelos. A METR, organização sem fins lucrativos que já trabalhou com laboratórios como OpenAI, Anthropic, Google e Meta, mantém agora uma equipe no escritório da desenvolvedora do Claude, com acesso a hardware e sistemas internos.
Segundo a empresa, seis profissionais da METR receberam equipamentos corporativos, espaço de escritório e acesso a ferramentas e sistemas internos aproximadamente equivalente ao disponível para as equipes de avaliação de risco da Anthropic. A companhia afirmou que orientou seus funcionários a compartilharem informações com os avaliadores como fariam com um colega que trabalhasse em riscos.
Publicação independente, com limites de informação
Os avaliadores publicarão suas análises e a Anthropic não poderá vetar a publicação. A empresa, porém, poderá exigir a retirada de conteúdos em categorias específicas, como dados de clientes, detalhes cobertos por privilégio advogado-cliente e informações sobre a arquitetura dos modelos.
A Anthropic declarou que quer prestar contas publicamente sobre suas decisões, mas argumentou que não pode divulgar toda a informação relativa ao trabalho de segurança. Também comparou o modelo à supervisão bancária, na qual examinadores residentes trabalham dentro de grandes bancos.
Financiamento e outros testes de segurança
A Anthropic não remunera a METR por esse acordo. A organização afirma não aceitar doações de empresas de IA nem de seus funcionários; seu financiamento vem de indivíduos, entidades filantrópicas e órgãos governamentais, incluindo o AI Security Institute do Reino Unido.
A Anthropic disse que continua trabalhando com a Accenture e que ambas assumiram compromissos de ao menos US$ 1 bilhão cada para criar novas salvaguardas. A empresa também citou a SecureBio como avaliadora terceirizada de riscos relacionados a armas químicas e biológicas.
Leitura para gestores
O caso destaca uma alternativa de governança para sistemas de IA: permitir avaliação externa com acesso operacional relevante e regras explícitas para divulgação de resultados. Para empresas que adotam modelos de IA, a prática reforça a importância de definir quem avalia riscos, qual acesso é necessário e quais informações exigem proteção na comunicação dos achados.