Anthropic esclarece limites do acesso de avaliadores da METR

A Anthropic atualizou nesta sexta-feira (16) os termos divulgados sobre o acesso de avaliadores da METR aos seus sistemas. A organização poderá publicar análises, mas a empresa mantém a decisão sobre quais informações se enquadram nas categorias sujeitas a cortes.

O esclarecimento complementa o anúncio de quinta-feira (15), quando a Anthropic informou ter recebido seis funcionários da organização independente para examinar riscos de inteligência artificial por dentro da companhia.

Anthropic mantém restrições sobre informações protegidas

A equipe recebeu equipamentos, espaço de trabalho e acesso a ferramentas aproximadamente equivalente ao das equipes internas de avaliação de risco. Dados de clientes, informações protegidas por sigilo jurídico e detalhes de arquitetura dos modelos estão entre as exceções.

Segundo a Anthropic, a empresa não pode vetar a publicação das análises. Pode, porém, exigir a retirada de conteúdo protegido. A METR preserva o direito de fazer determinadas declarações sobre o acesso e as informações recebidas.

Essa distinção importa: liberdade para divulgar uma conclusão e liberdade para mostrar todas as evidências que a sustentam são condições diferentes.

O que a METR pretende investigar

A METR estuda capacidades autônomas de modelos e riscos de perda de controle. Em sua agenda pública de avaliações, apresenta três frentes propostas: investigar comportamentos desalinhados, examinar mecanismos de controle de agentes e analisar quanto a automação acelera a pesquisa de novas IAs.

Na primeira frente, o objetivo é estudar incidentes internos e verificar se o treinamento pode esconder sinais de problemas. Na segunda, a pergunta é se agentes conseguiriam causar danos graves sem que os sistemas de monitoramento os detectassem.

A terceira examina a velocidade com que ferramentas de IA ajudam a desenvolver modelos mais capazes. São propostas de investigação, e não resultados já obtidos pela equipe instalada na Anthropic.

A relação entre as organizações antecede o anúncio. A página da METR reúne revisões de relatórios de risco da Anthropic e um trabalho, publicado em março, que encontrou vulnerabilidades em parte dos sistemas internos de monitoramento de agentes.

Avaliação externa não equivale a aprovação

A METR afirma que seu papel é reunir evidências para o público, e não decidir como empresas devem desenvolver ou lançar agentes. Em um documento publicado em 14 de outubro, reconhece que várias questões de segurança continuam cientificamente abertas.

A organização também admite uma limitação do modelo voluntário: depende das empresas para obter acesso e publicar informações. Parte do material recebido pode não ser verificável de maneira independente.

Por isso, sua política prevê explicar o alcance das investigações, as restrições encontradas e se cortes exigidos pelas companhias afetaram as conclusões. A METR diz ainda que busca divulgar conflitos de interesse e preservar independência financeira.

Como interpretar os próximos relatórios

Para quem acompanha ou contrata IA no Brasil, os documentos deverão ser lidos junto com essas condições de acesso. A presença de pesquisadores externos, por si só, não demonstra que todos os riscos foram examinados.

A orientação decorre da própria política da METR: avaliar quais perguntas foram investigadas, quais dados ficaram disponíveis e quais limitações acompanharam as conclusões. Esses elementos permitirão distinguir evidências concretas de segurança de questões que continuam sem resposta.