A OpenAI enfrenta críticas após a flexibilização de suas regras de moderação levar o ChatGPT a divulgar CPFs de figuras públicas. Em testes realizados na quarta-feira (19), a IA forneceu números de documentos de políticos como Jair Bolsonaro (PL) e Luiz Inácio Lula da Silva (PT), além de empresários e apresentadores de TV.
Os dados foram extraídos de fontes públicas, como processos judiciais, notas fiscais eleitorais e atas empresariais disponíveis na internet. No entanto, a IA recusou-se a revelar identificadores similares de figuras públicas estrangeiras, como o Social Security Number dos ex-presidentes dos EUA Donald Trump e Joe Biden, alegando restrições legais.
Em nota, a OpenAI reconheceu a falha e afirmou que está trabalhando para corrigir o problema. “Nossos modelos são treinados para recusar solicitações de identificadores governamentais, mesmo que estejam disponíveis online”, declarou a empresa.
Especialistas divergem sobre a legalidade da prática no Brasil. A LGPD (Lei Geral de Proteção de Dados) permite a publicidade de certos dados em processos judiciais e na administração pública, mas a exposição de CPFs levanta preocupações sobre fraudes financeiras.
A questão pode ser resolvida pelo STF, que analisa um caso de repercussão geral sobre a divulgação de dados pessoais em autos judiciais. O tribunal deverá definir se a ampla publicidade processual justifica a exposição de informações como CPFs em ferramentas de IA generativa.
Concorrentes como Meta AI, Gemini (Google) e DeepSeek não divulgaram CPFs em testes semelhantes. A falta de transparência sobre as bases de dados utilizadas pelo ChatGPT agrava o debate, tornando incerto o impacto da flexibilização da moderação da OpenAI.