Lembras-te da última vez que perguntaste algo a um ChatGPT ou Claude e simplesmente aceitaste a resposta sem questionar? Eu sei que sim, porque faço o mesmo. Para mim foi há dias: pedi ao GPT para resumir um artigo técnico sobre rate limiting em APIs. Li o resumo, acenei com a cabeça, fui embora convencido que percebia o assunto. Mais tarde, a reler o original, percebi que o resumo tinha invertido o sentido de um parágrafo inteiro.
Não é um acaso pessoal. Um estudo publicado esta semana por investigadores de três universidades mostra que este padrão é sistemático e mediável.
Os números são claros: a precisão caiu para um terço com IA (27% para 9%). A confiança mais que duplicou (30% para 76%). A vontade de admitir ignorância colapsou de 44% para 3%.
Para mim, o dado mais perturbador é o aumento da confiança, mais do que a queda na precisão. Uma pessoa que erra mas duvida ainda pode corrigir-se. Uma pessoa que erra com confiança simplesmente não volta atrás. O erro fica consolidado e repetido.
Uso IA todos os dias e é uma ferramenta útil. Mas o formato — uma resposta instantânea, assertiva, sem hesitação — está a moldar a nossa relação com o conhecimento. Os modelos são desenhados para responder, nunca para dizer "não sei". E quem está a aprender com eles somos nós.
Comentários (0)
Nenhum comentário ainda. Seja o primeiro!
Deixar comentário