A Anthropic quer pausar a IA. Mas quem ganha com isso?

A Anthropic, criadora do Claude, publicou um post a pedir uma pausa global no desenvolvimento de IA. Dizem que os modelos estão a aproximar-se do "recursive self-improvement", a capacidade de se melhorarem sozinhos a escrever código sem supervisão humana. Jack Clark, head of policy, acha que alguns podem lá chegar dentro de dois anos.

Para perceberes: imagina um programador que escreve código para ficar melhor a programar, e depois usa esse novo código para ficar ainda melhor. Um ciclo que ganha velocidade sozinho. Agora imagina que esse programador nunca dorme e processa informação ao nível de um data center inteiro.

A solução que propõem é um acordo global para travar o desenvolvimento de IA. Algo como os tratados que limitaram armas nucleares na Guerra Fria.

---

Os problemas

O primeiro é prático. Como é que verificas uma pausa destas? A própria Anthropic admite isto no seu post: é muito mais fácil esconder um treino de IA do que um silo de mísseis. GPUs e datasets não deixam rasto físico. Rob Enderle, analista da Enderle Group, foi mais longe: chamou à proposta "impraticável" e disse tratar-se mais de marketing estratégico do que de um esforço real para travar os concorrentes. Se os EUA param e a China não, quem é que ganha?

O segundo é o timing. A Anthropic fechou uma ronda de 65 mil milhões de dólares e está a preparar o IPO. É precisamente agora, quando os modelos open-source estão cada vez melhores e mais baratos, que pedem uma pausa global.

David Sacks chamou-lhe "regulatory capture": assustas os reguladores, eles aprovam regras pesadas que matam concorrentes open-source, e promoves o teu modelo proprietário. Projetos abertos morrem de causas legais.

---

A minha opinião

O recursive self-improvement é um conceito a sério; há papers académicos sobre isto desde 2015. Se um modelo começa a melhorar-se sem controlo, pode gerar capacidades que ninguém previu.

Agora, pedir uma pausa global e apresentar-se como a empresa certa para liderar a conversa, no momento exato em que abrem capital... é um salto. Isto não quer dizer que a preocupação não seja genuína. Podes ter medo da tecnologia que crias e ao mesmo tempo querer que as regras te beneficiem. Uma coisa não impede a outra.

O problema prático é que uma pausa global realista não vai acontecer. Os interesses económicos e de segurança nacional são demasiado altos. Nenhum país para voluntariamente enquanto o outro acelera. O que vai acontecer é o que já estamos a ver: regulamentação aos bocados, cada um por si, empresas a tentar moldar as regras enquanto se pintam de defensoras da humanidade.

A pergunta para mim é mais simples: quem ganha se pausarmos? A resposta da Anthropic é demasiado conveniente para ser inocente.

Fonte: SiliconANGLE — Anthropic calls for global pause in AI development before humans lose control