Se abrires o ChatGPT e lhe pedires para escrever como tu, o resultado é uma caricatura vazia — um texto genérico com o teu nome. O problema não é apenas de qualidade: é existencial. Num mundo onde LLMs cada vez mais poderosos dominam a internet, como é que um humano consegue manter relevância, produtividade e segurança?
Gwern Branwen, um dos pensadores mais originais da comunidade de IA, publicou em junho de 2026 o ensaio Guardian Angel (importância 10 na sua escala, a classificação máxima). O texto propõe uma visão radicalmente diferente do que significa “usar IA” — não um chatbot genérico, mas um gémeo digital personalizado que emula a personalidade, valores e preferências de um único utilizador.
Gwern chama-lhes Guardian Angels (GA). E a ideia merece atenção.
Vou explicar porque é que os chatbots atuais falham em amplificar humanos, o que são Guardian Angels e como funcionam, os três princípios fundamentais e anti-princípios, como um GA pode resolver o problema de segurança de LLMs, e o projeto GBT como protótipo.
O Problema dos Chatbots
Gwern identifica cinco problemas fundamentais nos LLMs atuais. O primeiro é o mode-collapse: a personalidade de “assistente útil e inofensivo” é tão entranhada pelo RLHF que destrói a criatividade. Um ChatGPT de 2026 pode ser mais inteligente que o GPT-3 de 2020, mas entende pior o que é “escrever como Gwern” — porque o post-training otimiza para a média, não para o indivíduo.
Depois vem a preguiça cognitiva (outputs System 1, sem profundidade), a fragilidade das janelas de contexto (mesmo com milhões de tokens, não cabem décadas de vida), a perigosidade de um sistema que obedece a qualquer prompt (o tal confused deputy que entrega passwords se lhe pedires amigavelmente) e a amnésia — cada erro que corriges é esquecido no fim da sessão.
O que é um Guardian Angel
A proposta de Gwern é simples na formulação e complexa na execução: em vez de um chatbot igual para todos, cada utilizador tem o seu modelo fine-tuned. Treinado em todos os seus dados — emails, chat logs, escritos, histórico de navegação, preferências estéticas, respostas a inquéritos de personalidade.
Este modelo não é um assistente que obedece a comandos. É uma extensão de ti. Sabe o que gostas, o que detestas, como escreves, o que consideras importante. Quando lê um email, não precisa de instruções para saber se é uma tentativa de phishing — porque tu não cairias nesse phishing, e o GA sabe isso.
Tecnicamente, Gwern propõe uma combinação de: - Dynamic evaluation: fine-tuning contínuo em tempo real, em vez de modelos congelados - Active learning: o GA pergunta ao utilizador apenas quando está realmente incerto, maximizando a informação por query - Preference learning: treino em milhares de testes psicológicos e dados de personalidade para modelar gostos individuais - Ensembles: múltiplos modelos para estimar incerteza e evitar erros catastróficos
Três Princípios, Quatro Anti-Princípios
Gwern define três princípios fundamentais:
- Enhancement, not Replacement — o GA deve amplificar-te, não substituir-te. Se não consegues fazer mais ou melhor com ele, é inútil.
- Mental Sovereignty — o GA está 100% alinhado contigo. Nada de “Constitutional AI” ou “terms of service” lá dentro. É o teu espaço privado.
- Self Actualization — o GA ajuda-te a desenvolver-te, não a estagnar na mediocridade.
E depois, os anti-princípios — armadilhas que a indústria adora mas que um GA deve evitar: baixa latência (ter piada num vídeo, mas irrelevante para decisões profundas), baixo custo (ninguém deve poupar no que é mais importante), rentabilidade imediata, engagement máximo, demo appeal (um GA bom parece péssimo numa demo), benchmarks públicos e brand safety (um GA verdadeiro pode ser rude, herege ou estranho — como tu és).
O Protótipo GBT
Gwern não se limitou a especular. Anunciou o projeto GBT (Gwern Branwen Transformer): um LLM off-the-shelf (<100B parâmetros) fine-tuned no seu corpus pessoal — mais de 1GB de texto entre logs de IRC, artigos do Gwern.net, exports do Twitter, LessWrong, Hacker News, emails, flashcards do Mnemosyne e clippings do Evernote.
O objetivo é ambicioso: 100x de produtividade. Conseguir produzir 1 a 3 artigos por dia com qualidade equivalente ao que Gwern escreve, sem necessidade de revisão pesada. Se funcionar para ele, que tem um corpus enorme, pode ser adaptado para pessoas comuns com técnicas de sample-efficiency.
Segurança num Mundo de IA Adversarial
Um dos pontos mais fortes do ensaio é a dimensão de segurança. Num mundo onde qualquer pessoa pode lançar um bot para te destruir (Gwern cita o caso de um agente de IA que publicou um artigo de difamação contra alguém), um chatbot genérico é um risco — porque é reprogramável por qualquer prompt.
Um GA, pelo contrário, sabe quem é. Não obedece a instruções de um email malicioso porque isso seria absurdo para a pessoa que é. Resolve o problema do confused deputy por identidade, não por restrições.
Conclusão
O ensaio Guardian Angel é um dos textos mais importantes sobre o futuro da interação humano-IA que li. Não porque resolva todos os problemas — Gwern admite que não resolve o alinhamento geral — mas porque oferece uma visão concreta e acionável de como usar LLMs para amplificar humanos em vez de os substituir.
Numa indústria obcecada por benchmarks, latência e demos brilhantes, a proposta de Gwern é desconfortável: um GA bom parece mau numa demo, não aparece em leaderboards, e custa mais de 1000 dólares por mês. Mas talvez seja o único caminho para que, em 2030, ainda haja humanos a fazer trabalho significativo.
Como ele escreve, citando Brundage: “AI got 1% better today. Did you?”
Comentários (0)
Nenhum comentário ainda. Seja o primeiro!
Deixar comentário