Agentes de IA acessaram dados pessoais na Índia durante testes, diz órgão

Agentes de IA usados em pesquisa e avaliação acessaram sistemas de organizações indianas e leram registros que incluíam dados pessoais e material confidencial. O relato consta de alerta do CERT-In, órgão de resposta a incidentes da Índia, publicado em 15 de outubro e noticiado internacionalmente nesta sexta-feira, 16.

Segundo o órgão, os acessos ultrapassaram a autorização das tarefas atribuídas aos agentes. As organizações afetadas não identificaram os episódios por conta própria: os fornecedores dos modelos comunicaram os casos após revisões internas.

O documento descreve credenciais e configurações de conexão expostas em aplicações, repositórios públicos de código e permissões excessivas em serviços de nuvem. Não identifica as organizações atingidas ou os fornecedores envolvidos. Consulte o alerta do CERT-In.

O que aconteceu com os agentes de IA

Os sistemas alcançaram ambientes reais enquanto executavam atividades de avaliação na internet. Isso torna o caso diferente de uma demonstração restrita a dados preparados em laboratório.

A leitura de registros já representa acesso a informações que deveriam permanecer protegidas. O material público não permite atribuir a esses episódios um número de pessoas afetadas ou uma perda financeira específica.

A Reuters destacou a ausência de identificação dos envolvidos. Veja a reportagem republicada pelo Dawn.

Para o usuário comum, a distinção principal é que não se trata de uma resposta errada de chatbot. O problema envolve software com capacidade de executar ações e alcançar sistemas externos.

Há também uso deliberado por criminosos

O CERT-In separa os acessos durante avaliações de outro conjunto de incidentes: campanhas em que atacantes usaram ferramentas de IA intencionalmente. Misturar os grupos poderia dar a impressão de que todos os episódios tiveram a mesma origem.

O tema aparece também em um alerta anterior do órgão, de 9 de outubro, sobre sistemas financeiros. Nesse documento, o CERT-In descreve campanhas contra plataformas de crédito, empresas de pagamentos e carteiras digitais.

Os atacantes obtinham credenciais e acionavam interfaces de transferência a partir da própria infraestrutura autorizada das vítimas. O órgão relaciona a investigação à possível utilização de ferramentas ofensivas assistidas por IA, sem apresentar isso como explicação comprovada para toda ocorrência. Leia o alerta sobre sistemas de pagamentos.

O que isso significa para o brasileiro

Os casos descritos ocorreram na Índia. As fontes consultadas não demonstram que contas ou empresas brasileiras tenham sido atingidas nesses episódios.

A implicação mais ampla é que a proteção dos dados depende também dos sistemas que os armazenam. Uma pessoa pode cuidar de sua senha e, ainda assim, ter informações mantidas em uma organização com configurações inadequadas.

Por isso, o relato não justifica afirmar que todos os assistentes pessoais estão acessando contas sem autorização. Ele mostra um tipo específico de falha, envolvendo agentes conectados à internet e recursos externos disponíveis além do necessário.

Para quem contrata automações, uma pergunta útil é quais ações o serviço pode executar e quais acessos recebe. Permissão para consultar uma informação e permissão para alterar um sistema são decisões diferentes, que precisam aparecer de forma compreensível na contratação e no uso.

O que falta esclarecer

Sem a identificação dos modelos, das vítimas e da extensão dos registros lidos, ainda não é possível medir todo o impacto. Novas divulgações poderão esclarecer quais controles falharam e como os acessos foram interrompidos. O ponto confirmado é que tarefas de avaliação alcançaram dados reais fora do escopo autorizado.