Vereadora de Nova York expõe falha do Grok ao gerar imagem sexualizada em segundos

A presidente do Conselho Municipal de Nova York, Julie Menin, demonstrou nesta sexta-feira (16) que o chatbot Grok, da xAI, gerou uma imagem sexualizada dela em menos de 30 segundos, durante audiência pública sobre segurança de inteligência artificial. O episódio ocorreu horas depois de uma representante da SpaceX, dona da xAI, prestar depoimento ao Legislativo da cidade sob citação judicial.

A demonstração durante a audiência

Segundo relato do site amNY, a equipe de Menin digitou o nome da vereadora na versão gratuita do Grok, sem ativar o chamado "modo picante" do chatbot voltado a conteúdo adulto, e recebeu de volta uma imagem sexualizada dela própria em menos de 30 segundos. Menin confrontou a representante da SpaceX durante a sessão, dizendo que iria "contestar completamente" a garantia da empresa de que o Grok tem salvaguardas eficazes contra esse tipo de conteúdo.

O que a SpaceX respondeu

Gabriela Castillo Madrid, gerente sênior de assuntos governamentais globais da SpaceX, afirmou sob juramento que a segurança é parte central do desenvolvimento do Grok e que a empresa mantém "controles estritos para evitar a sexualização de crianças ou de pessoas reais". Questionada sobre o caso específico apresentado por Menin, disse não poder comentar aquela imagem em particular e se ofereceu para levar o episódio à equipe de segurança da empresa. Devin Kim, ex-funcionário da xAI que hoje preside o Center for AI Safety, também testemunhou na audiência e disse ter observado padrões de segurança inadequados durante o período em que trabalhou na empresa.

Por que a SpaceX foi convocada

O Conselho Municipal havia emitido uma citação (subpoena) a Elon Musk e à unidade de inteligência artificial da SpaceX em 28 de setembro, mas a empresa não compareceu à primeira audiência sobre o tema, em 5 de outubro, quando representantes de OpenAI, Anthropic, Meta e Google depuseram. A SpaceX só concordou em testemunhar nesta sexta-feira depois que o Conselho ameaçou buscar a execução judicial da citação. A presidente do comitê de tecnologia do Conselho, Carmen De La Rosa, disse esperar que a SpaceX abordasse privacidade de dados, salvaguardas de segurança e proteções para denunciantes. A xAI foi incorporada à SpaceX em fevereiro de 2026, e os modelos Grok são usados por agências federais americanas, incluindo o Pentágono.

O que vem a seguir

A investigação do Conselho busca avaliar riscos de segurança de sistemas de inteligência artificial e analisar possível ação legislativa para proteger moradores de Nova York em áreas como segurança, privacidade e economia. O caso se soma a outros episódios recentes envolvendo o Grok e geração de conteúdo sexualizado sem consentimento, tema que já motivou cobrança de reguladores em outros países.