Fine-tune RL de $500 num modelo 9B aberto bateu modelos frontier em catalog review
Um fine-tune de $500 com Reinforcement Learning num modelo aberto de 9B parâmetros superou modelos frontier como o GPT-5.5, o Claude Opus 4.8 e o Fable 5 numa tarefa de catalog review.
Passei o último ano a ouvir que modelos open-source nunca chegariam aos frontier models em tarefas empresariais reais. Que o gap era demasiado grande. Que era preciso um exército de GPUs e um orçamento de milhões.
A Fermisense publicou um artigo a 28 de julho de 2026 que parte essa narrativa ao meio. Pegaram num modelo aberto de 9 mil milhões de parâmetros, fizeram GRPO fine-tuning (Group Relative Policy Optimization), e o resultado bateu cinco modelos frontier (GPT-5.5, GPT-5.6 Sol, Gemini 3.1 Pro, Claude Opus 4.8 e Claude Fable 5) numa tarefa de catalog review, simulada num «gémeo digital» de uma plataforma de e-commerce. Custo total do fine-tune: $500.
O artigo apareceu no Hacker News no mesmo dia e gerou discussão acesa nos comentários.
O que foi testado
A tarefa era catalog integrity review — validar se listagens de produtos num catálogo estão corretas, detetar inconsistências, verificar preços e categorizações. É o tipo de coisa que equipas inteiras de operações fazem manualmente em empresas de e-commerce.
A Fermisense comparou o modelo fine-tuned com GRPO contra esses cinco modelos em 200 episódios de validação, com as mesmas ferramentas, imagens e avaliador. O modelo de 9B atingiu 87,3% da pontuação máxima, contra 76,9% da melhor configuração frontier. Em custo, a diferença é ridícula: $0,50 por 1.000 listagens, contra $20 do setup frontier mais barato (40x mais), $34 do modelo mais forte (68x mais) e cerca de 340x no mais caro.
O segredo não está no modelo base. Está no fine-tune. O GRPO — uma variante de reinforcement learning otimizada para grupos — permitiu que o modelo aprendesse as nuances específicas da tarefa sem overfitting. O resultado é um modelo que não é “inteligente” em termos gerais, mas que é cirurgicamente bom naquilo que lhe pediram.
O que isto significa
Há uma lição aqui que se aplica a quase todas as empresas que estão a adotar IA. Modelos grandes e caros como o Opus ou o GPT-5.4 são overkill para a maioria das tarefas empresariais. Não precisas de um modelo que saiba de física quântica para verificar se um preço de catálogo está correto.
O que precisas é de um modelo pequeno, barato e com fine-tune específico para o teu domínio. O custo de treino é irrisório comparado com o custo de inference contínua num modelo frontier. E a qualidade pode ser superior porque o modelo não se distrai com conhecimento irrelevante.
A Fermisense intencionalmente não revelou qual o modelo base de 9B que usou. Provavelmente é um Qwen ou DeepSeek (palpite meu). Mas isso é secundário — o que interessa é o método, não o modelo específico. GRPO fine-tuning em dados de domínio bem curados bateu, nesta tarefa, modelos frontier muito mais caros.
Porque é que a maioria das empresas não faz isto
O artigo também aborda o verdadeiro obstáculo, que é organizacional. A maioria das empresas tenta encaixar LLMs em workflows existentes sem redesenhar o processo. O resultado é que os ganhos de produtividade do modelo são absorvidos por bottlenecks organizacionais antes de chegarem ao resultado final.
As empresas que realmente ganham com IA — o quartil que mais gasta em IA duplicou as receitas em três anos, segundo dados da Ramp — são as que redesenharam os workflows à volta dos modelos, não as que enfiaram modelos em workflows antigos.
Isto alinha-se com a minha experiência. O modelo é a parte fácil. O difícil é convencer a organização a mudar a forma como trabalha.
Recursos adicionais
Partilhar
Comentários 0
Ainda sem comentários — sê o primeiro.