A Anthropic, criadora do Claude, publicou um post a pedir uma pausa global no desenvolvimento de IA. Dizem que os modelos estão a aproximar-se do "recursive self-improvement", a capacidade de se melhorarem sozinhos a escrever código sem supervisão humana. Jack Clark, head of policy, acha que alguns podem lá chegar dentro de dois anos.
Para perceberes: imagina um programador que escreve código para ficar melhor a programar, e depois usa esse novo código para ficar ainda melhor. Um ciclo que ganha velocidade sozinho. Agora imagina que esse programador nunca dorme e processa informação ao nível de um data center inteiro.
A solução que propõem é um acordo global para travar o desenvolvimento de IA. Algo como os tratados que limitaram armas nucleares na Guerra Fria.
Os problemas
O primeiro é prático. Como é que verificas uma pausa destas? Rob Enderle disse: "é muito mais fácil esconder treino de IA do que silos de mísseis". GPUs e datasets não deixam rasto físico. Se os EUA param e a China não, quem é que ganha?
O segundo é o timing. A Anthropic fechou uma ronda de 65 mil milhões de dólares e está a preparar o IPO. É precisamente agora, quando os modelos open-source estão cada vez melhores e mais baratos, que pedem uma pausa global.
David Sacks chamou-lhe "regulatory capture" — assustas os reguladores, eles aprovam regras pesadas que matam concorrentes open-source, e promoves o teu modelo proprietário. Projetos abertos morrem de causas legais.
A minha opinião
O recursive self-improvement é um conceito a sério — há papers académicos sobre isto desde 2015. Se um modelo começa a melhorar-se sem controlo, pode gerar capacidades que ninguém previu.
Agora, pedir uma pausa global e apresentar-se como a empresa certa para liderar a conversa, no momento exato em que abrem capital... é um salto. Isto não quer dizer que a preocupação não seja genuína. Podes ter medo da tecnologia que crias e ao mesmo tempo querer que as regras te beneficiem. Uma coisa não impede a outra.
O problema prático é que uma pausa global realista não vai acontecer. Os interesses económicos e de segurança nacional são demasiado altos. Nenhum país para voluntariamente enquanto o outro acelera. O que vai acontecer é o que já estamos a ver: regulamentação aos bocados, cada um por si, empresas a tentar moldar as regras enquanto se pintam de defensoras da humanidade.
A pergunta para mim é mais simples: quem ganha se pausarmos? A resposta da Anthropic é demasiado conveniente para ser inocente.
Fonte: SiliconANGLE — Anthropic calls for global pause in AI development before humans lose control
Comentários (0)
Nenhum comentário ainda. Seja o primeiro!
Deixar comentário