IA pode aumentar a crença em fake news?
Pesquisa alerta para os riscos da verificação automatizada de informações
A inteligência artificial pode ajudar a analisar grandes quantidades de
informações, mas isso não significa que suas respostas sejam sempre corretas.
Um estudo publicado em 2024 mostrou que a utilização de modelos de linguagem
para verificar manchetes pode produzir efeitos indesejados quando a tecnologia
apresenta uma conclusão incorreta ou demonstra incerteza.
O que a pesquisa investigou?
Pesquisadores do Observatório de Mídias Sociais da Universidade de Indiana,
nos Estados Unidos, realizaram um experimento controlado para analisar como
verificações produzidas por um modelo de linguagem influenciavam:
- a percepção das pessoas sobre a veracidade de manchetes políticas;
- a capacidade de diferenciar notícias verdadeiras de notícias falsas;
- a intenção de compartilhar essas manchetes;
-
a reação dos participantes diante de avaliações corretas, incorretas
ou incertas fornecidas pela inteligência artificial.
Principais resultados
90% das manchetes falsas
O modelo identificou corretamente a maior parte das manchetes falsas
utilizadas no experimento. Ainda assim, esse desempenho não eliminou
os erros nem melhorou significativamente o discernimento geral dos
participantes.
A incerteza pode confundir
Quando a IA demonstrava incerteza diante de uma manchete falsa,
os participantes podiam interpretar essa hesitação como uma indicação
de que a informação talvez fosse verdadeira.
Erros também prejudicam notícias verdadeiras
Quando uma manchete verdadeira era classificada incorretamente como
falsa, a avaliação da IA reduzia a confiança dos participantes naquela
informação verdadeira.
O alerta central do estudo
A conclusão não é que toda verificação realizada por inteligência artificial
seja prejudicial. O estudo mostra que uma ferramenta aparentemente confiável
pode influenciar negativamente o julgamento das pessoas quando apresenta
respostas erradas, ambíguas ou sem evidências suficientes.
Em comparação, as verificações produzidas por profissionais humanos
melhoraram a capacidade dos participantes de distinguir manchetes verdadeiras
de falsas. Isso reforça a importância da supervisão humana e de métodos
transparentes de checagem.
Por que uma resposta da IA pode influenciar tanto?
Sistemas de IA costumam apresentar respostas bem estruturadas, claras e
convincentes. Essa aparência de segurança pode levar o usuário a atribuir
à ferramenta uma autoridade maior do que ela realmente possui.
Entretanto, um modelo de linguagem não “conhece a verdade” da mesma forma
que um pesquisador ou verificador profissional. Ele produz respostas com base
em padrões encontrados nos dados e pode gerar informações incorretas,
incompletas, desatualizadas ou sem fontes confiáveis.
IA e verificação humana
| Aspecto | Inteligência artificial | Verificação profissional |
|---|---|---|
| Velocidade | Pode analisar grandes volumes de conteúdo rapidamente. | Exige mais tempo para pesquisar e contextualizar. |
| Contexto | Pode ignorar nuances, ironias, alterações recentes e contextos locais. | Pode consultar documentos, especialistas e fontes primárias. |
| Transparência | Nem sempre informa de maneira clara como chegou à conclusão. | Deve apresentar fontes, critérios e evidências verificáveis. |
| Possibilidade de erro | Pode fornecer respostas falsas com linguagem convincente. | Também pode errar, mas utiliza métodos editoriais e mecanismos de correção. |
Como usar a IA com responsabilidade
-
Não aceite a primeira resposta como definitiva.
Trate a avaliação da IA como um ponto de partida. -
Peça as fontes utilizadas.
Em seguida, confirme se os documentos existem e se realmente sustentam
as afirmações apresentadas. -
Consulte a fonte original.
Procure estudos científicos, documentos oficiais, decisões judiciais
ou declarações completas. -
Compare veículos e agências de checagem.
Verifique se organizações independentes chegaram a conclusões semelhantes. -
Observe a data e o contexto.
Uma informação verdadeira pode ser reutilizada fora de época para produzir
uma interpretação enganosa. -
Não compartilhe enquanto houver dúvida.
A pausa antes do compartilhamento ajuda a interromper a circulação
da desinformação.
Inteligência artificial não substitui o pensamento crítico
Utilizar tecnologia com responsabilidade significa questionar resultados,
examinar evidências e reconhecer os limites das ferramentas. A checagem de
fatos mais segura combina recursos tecnológicos, fontes confiáveis,
educação midiática e análise humana.
Consulte a pesquisa original
Acesse o artigo científico publicado na revista
Proceedings of the National Academy of Sciences.
Referências
DEVERNA, Matthew R.; YAN, Harry Yaojun; YANG, Kai-Cheng;
MENCZER, Filippo. Fact-checking information from large language
models can decrease headline discernment.
Proceedings of the National Academy of Sciences,
Washington, DC, v. 121, n. 50, e2322823121, 2024.
DOI:
https://doi.org/10.1073/pnas.2322823121
.
Acesso em: 27 set. 2026.
INDIANA UNIVERSITY. AI fact checks can increase belief in false
headlines, study finds. EurekAlert!, Washington, DC,
4 dez. 2024. Disponível em:
https://www.eurekalert.org/news-releases/1067146
.
Acesso em: 27 set. 2026.
MARACCINI, Gabriela. IA pode aumentar a crença em fake news?
Estudo responde. CNN Brasil, São Paulo,
5 dez. 2024. Disponível em:
https://www.cnnbrasil.com.br/economia/money/tecnologia/ia-pode-aumentar-a-crenca-em-fake-news-estudo-responde/
.
Acesso em: 27 set. 2026.