Alucinações, desinformação e o alerta do criador da maior enciclopédia do mundo
Wikipedia — Em conversa recente, Jimmy Wales reforçou que, apesar dos avanços de modelos como ChatGPT, a edição humana continua indispensável para garantir precisão e neutralidade na internet.
- Em resumo: Para Wales, a IA erra em fatos e não replica o processo coletivo de verificação da Wikipedia.
Por que a IA ainda tropeça na checagem de fatos
Grandes modelos de linguagem geram textos convincentes, mas ainda “alucinam” informações, fenômeno reconhecido inclusive pela Wired. Wales lembra que, em verbetes pouco populares, as máquinas inventam dados aparentando segurança, algo que coloca em risco a confiança do público.
“A IA inventa algo plausível mesmo sem saber do que está falando; se fosse uma pessoa, ninguém confiaria nela”, disse o fundador da Wikipedia.
Crise de confiança: impacto social e lição para o Brasil
Especialistas veem na Lei Brasileira de Liberdade, Responsabilidade e Transparência na Internet (apelidada de PL das Fake News) um passo para mitigar o problema, mas o próprio texto ainda debate como responsabilizar sistemas de IA que geram conteúdo enganoso.
IA pode substituir editores da Wikipedia?
Não. Segundo Wales, máquinas auxiliam na sugestão de ajustes, mas a decisão final continua com voluntários humanos.
O que são “alucinações” de IA?
São respostas factualmente incorretas geradas pelo modelo com aparência de verdade, fruto de inferência estatística.
O que você acha? As plataformas devem adotar o modelo de verificação comunitária da Wikipedia? Para mais análises sobre IA e confiança digital, acesse nossa editoria especializada.
Crédito da imagem: Divulgação / Wikipedia Foundation
