O avanço do uso de inteligência artificial (IA) na produção de artigos científicos começa a provocar preocupação crescente entre pesquisadores e editoras acadêmicas. Dois novos estudos internacionais apontam que ferramentas de IA generativa, como chatbots de linguagem, estão criando referências falsas que acabam sendo incluídas em trabalhos publicados sem que autores, revisores ou periódicos percebam o erro.

Um dos casos citados envolve o pesquisador Rafael Topaz, professor associado da Universidade de Columbia, nos EUA, que afirmou ter descoberto que uma ferramenta de IA adicionou silenciosamente uma referência inexistente em um manuscrito acadêmico. Segundo ele, o sistema foi usado apenas para ajustes gramaticais no texto. “Sou pesquisador de IA. Sei o que são alucinações. Se isso está acontecendo comigo, o que acontece com outras pessoas?”, afirmou.

O alerta aparece em um estudo conduzido por pesquisadores da Universidade Cornell, da UCLA e da UC Berkeley. Os cientistas analisaram 111 milhões de citações presentes em 2,5 milhões de artigos publicados entre 2020 e 2025 nas plataformas arXiv, bioRxiv, SSRN e PubMed Central. O trabalho identificou pelo menos 146.932 referências fabricadas por IA só em 2025.

Os pesquisadores rastrearam títulos de artigos que não puderam ser encontrados em bases acadêmicas como Google Scholar, Semantic Scholar e OpenAlex. A análise mostrou que o crescimento das referências falsas acelerou a partir de meados de 2024, cerca de um ano e meio após o lançamento público do ChatGPT, período em que ferramentas de IA passaram a ser usadas também para sugerir bibliografias e citações automáticas.

Segundo o levantamento, as taxas de referências falsas chegaram a quase 2% dos artigos publicados no SSRN em agosto de 2025. No PubMed Central, principal base biomédica analisada, foram estimadas mais de 8 mil citações falsas em apenas um mês. O estudo também aponta que muitas dessas referências sobreviveram aos processos de revisão e foram mantidas nas versões finais dos artigos científicos.

Os autores afirmam que o problema não está concentrado em pesquisas fraudulentas, em muitos casos, as citações inventadas aparecem espalhadas em trabalhos legítimos, o que sugere que pesquisadores estão copiando referências sugeridas por ferramentas de IA sem fazer a checagem manual das fontes originais. O fenômeno foi mais comum entre autores menos experientes e equipes pequenas de pesquisa.

Outro estudo, publicado na revista científica The Lancet, chegou a conclusões semelhantes ao analisar artigos biomédicos publicados entre 2023 e o início de 2026. A auditoria encontrou mais de 4 mil referências falsas distribuídas em 2.810 artigos revisados por pares. Em 2023, um em cada 2.828 artigos apresentava pelo menos uma citação inventada. No início de 2026, a proporção passou para um em cada 277 trabalhos.

Os pesquisadores alertam que o problema pode se tornar ainda mais difícil de controlar nos próximos anos porque modelos de IA treinados em bases acadêmicas contaminadas por referências falsas podem reproduzir os mesmos erros em novos textos. Como resposta, os estudos defendem que editoras científicas adotem sistemas automáticos de verificação de referências antes da publicação dos artigos.