Startup de ex-pesquisador do ChatGPT expõe cada decisão de crédito e antifraude dos clientes: CEO publicou o link

A TypeSafe AI, startup fundada por um ex-pesquisador do ChatGPT na OpenAI e do Google Brain, expôs todas as decisões automatizadas geradas pelo seu modelo Jev para todos os clientes. O próprio CEO, Diogo Almeida, revelou a falha em um post no X na noite de sexta-feira, 24 de outubro de 2026, por volta das 18h49, e publicou ele mesmo o link para os dados vazados.

O Jev é vendido para bancos, sistemas antifraude e análise de crédito tomarem decisões automatizadas em menos de um segundo. O vazamento expôs justamente o tipo de informação mais sensível desse processo: o resultado da decisão de cada cliente.

O que vazou

Segundo o StartupFortune, a falha expôs todos os "nouls", nome que a TypeSafe dá às saídas do Jev: uma probabilidade entre 0 e 1 que o modelo retorna para cada pergunta de sim ou não que recebe. Cada noul gerado por qualquer cliente da empresa ficou acessível sem autorização, segundo o relato.

A causa aparente, de acordo com a reportagem, é uma falha do tipo IDOR (Insecure Direct Object Reference): os registros eram identificados por números sequenciais e previsíveis, sem verificação de quem tinha permissão para acessá-los. É um dos erros mais básicos e mais comuns em sistemas que lidam com dados de múltiplos clientes.

O desenvolvedor Wes Bos confirmou publicamente que sua própria saída do Jev estava entre os dados expostos, segundo o StartupFortune.

A resposta do CEO

Almeida optou por divulgar o incidente ele mesmo, em vez de esperar um comunicado formal. Segundo o post reproduzido pelo StartupFortune, o CEO escreveu que a empresa "leva a sério as notificações de incidentes" apesar do momento inoportuno, e disse ter publicado o link dos dados expostos "em um esforço para maximizar a transparência".

A TypeSafe tem compromisso contratual, previsto em seu acordo de processamento de dados, de notificar clientes sobre violações em até 72 horas. Segundo os relatos, Almeida cumpriu esse prazo. Até a publicação das primeiras coberturas, porém, a empresa não havia divulgado um post-mortem técnico detalhando a causa exata da falha.

Por que o tipo de modelo importa

O Jev pertence a uma categoria que a própria TypeSafe chama de "System One": modelos que não escrevem texto, só respondem perguntas binárias com uma pontuação de confiança, em frações de segundo. A promessa comercial é que esse formato elimina alucinações e "erros de tipo" comuns em chatbots.

Mas uma reportagem anterior do The Register, publicada em 15 de outubro, já havia mostrado que pesquisadores de segurança da HiddenLayer consideram esse tipo de modelo igualmente vulnerável a ataques de prompt injection indireta. Em testes simulados de compra on-line, os pesquisadores conseguiram fazer o Jev clicar em botões não autorizados ao injetar conteúdo malicioso na página analisada pelo modelo. A conclusão dos pesquisadores, segundo o The Register: "um modelo que retorna uma decisão ainda é um modelo de linguagem, e essa decisão ainda se torna uma ação dentro dos sistemas da empresa."

A CSO Online, em reportagem separada, foi além: segundo a HiddenLayer, o Jev é "ainda mais vulnerável a ataques" do que LLMs tradicionais, porque sua arquitetura simplificada elimina camadas de proteção presentes em modelos maiores. O analista Frank Dickson explicou à publicação que o Jev "só pode escolher entre as opções que o desenvolvedor coloca no menu", o que reduz os caminhos de ataque possíveis, mas, se uma opção maliciosa estiver disponível nesse menu, o modelo a executa com menos verificações de segurança do que um LLM convencional faria.

O que isso significa para quem usa IA em decisões automatizadas

O caso da TypeSafe junta dois problemas que normalmente aparecem separados: uma falha de segurança básica de infraestrutura (controle de acesso a registros) e uma fragilidade estrutural do tipo de modelo usado em decisões críticas. Empresas brasileiras que já testam modelos de decisão automatizada em crédito, antifraude e triagem de risco têm nos dois relatos um alerta concreto: a saída do modelo, por mais simples que pareça (um número entre 0 e 1), é um dado sensível e precisa do mesmo controle de acesso que qualquer outro dado de cliente.

Até a publicação desta matéria, a TypeSafe AI não havia divulgado um relatório técnico detalhado sobre a causa raiz do vazamento.