Relatório de Berkeley diz que pausar o treino de IA de ponta por 10 anos é viável com chips

Um grupo de 26 pesquisadores divulgou em 9 de outubro um relatório de cerca de 200 páginas que defende ser tecnicamente possível pausar o treinamento de IA de fronteira em escala mundial por pelo menos dez anos. A ideia central é agir sobre os chips: parar de produzir aqueles capazes de treinar modelos gigantes e substituí-los gradualmente por chips que só rodam modelos já aprovados.

Quem assina e o que propõe

O documento vem do Working Group on AI Pause Feasibility, um grupo interdisciplinar coorganizado por Wesley Holliday, professor de filosofia da Universidade da Califórnia em Berkeley, e Will Fithian, professor associado de estatística na mesma universidade. O time reúne especialistas em computação, economia, história, relações internacionais, política da China e dos EUA e prática diplomática. A divulgação cita ainda instituições como Princeton, Stanford, Harvard e Oxford.

O que o relatório chama de pausa "embutida no hardware" funcionaria assim:

• Interromper a fabricação de chips de IA capazes de treinar modelos.
• Retirar, ao longo do tempo, a maior parte ou todo o estoque existente desses chips.
• Trocá-los por chips de inferência, que rodam modelos já aprovados de forma rápida e eficiente, mas, por sua construção, são impraticáveis para treinar novos modelos de fronteira, mesmo se roubados ou apreendidos.
• Enquanto a troca não termina, usar outras medidas para impedir que chips ainda capazes de treino sejam usados em modelos de ponta.

Os produtos de IA atuais continuariam disponíveis durante a pausa, e a IA para pesquisa científica e médica seria preservada.

Por que os autores acham viável

O argumento é que a cadeia de produção de chips de IA é muito concentrada, com poucos gargalos que governos conseguem regular. Os autores citam como precedentes o acordo nuclear que restringe usos militares e promove os pacíficos, e o protocolo que protegeu a camada de ozônio. O relatório também trata de verificação mútua, para que países rivais tenham como confirmar que os outros estão cumprindo, e prevê dois riscos: a evasão secreta, com treino escondido, e o rompimento aberto do acordo.

Ressalvas

A própria divulgação reconhece que o sucesso depende da cooperação de líderes mundiais e da disposição de aposentar ou transferir o estoque de chips, inclusive para instalações sob governança internacional. Sem verificação eficaz, rivais podem temer que o outro lado fure o acordo e recusar a pausa mesmo que ela lhes servisse. Os autores admitem ainda que o argumento econômico para chips só de inferência é hoje limitado pela rapidez com que novos modelos substituem os anteriores, e dizem que a proibição do treino fortaleceria esse argumento.

Uma análise do site de filosofia Daily Nous resume o relatório, e o autor diz ter sido cético quanto à possibilidade de uma pausa, mas reconhece que o relatório apresenta um argumento sério. O relatório completo não foi consultado na íntegra para esta matéria.

O que é e o que não é

Este é um relatório de um grupo de pesquisa, não uma política aprovada por algum governo nem um estudo experimental. Não há decisão de nenhum país nem de empresa de chips sobre o tema. A divulgação não relata críticas específicas ao plano.

Para o leitor brasileiro, a notícia é útil como termômetro do debate sobre governança de IA: a discussão está saindo de princípios gerais para propostas com mecanismo técnico detalhado, com data mínima de duração e com formas de verificação. Se avançará para além dos meios acadêmicos é uma questão em aberto.