A Anthropic, empresa responsável pelo assistente Claude, apresentou uma proposta de pausa global no desenvolvimento de sistemas de inteligência artificial cada vez mais potentes, sustentando que os modelos mais recentes já mostram indícios de poderem escapar ao controlo humano. Num relatório divulgado pela companhia sediada em São Francisco, defende-se que abrandar o avanço da IA de ponta em todo o mundo seria uma medida prudente. Contudo, a própria empresa reconhece que, se apenas um grupo reduzir o ritmo, corre o risco de ser ultrapassado pelos concorrentes. O documento argumenta que uma moratória coordenada daria tempo para as estruturas sociais e a investigação em alinhamento acompanharem a evolução tecnológica. Esta proposta surge num momento de aceleração vertiginosa do setor, com dados internos da Anthropic a indicarem que a inteligência artificial está a impulsionar o seu próprio desenvolvimento de forma dramática.
O apelo a uma moratória internacional
A empresa sustenta que uma pausa real exigiria que as grandes companhias de IA de diversos países, especialmente da China e dos Estados Unidos, concordassem em parar simultaneamente, sob regras que todas as partes pudessem verificar. No seu relatório, a Anthropic afirma que, sem um mecanismo de coordenação global, empresas e governos terão de tomar decisões difíceis sobre segurança enquanto enfrentam pressões competitivas e geopolíticas. A desenvolvedora planeia reunir nos próximos meses funcionários públicos, cientistas, grupos de defesa e concorrentes para definir como esse sistema funcionaria. A iniciativa enfrenta, no entanto, uma resistência significativa tanto em Washington como no Vale do Silício.
O risco do autoaperfeiçoamento recursivo
Um dos pontos centrais do alerta da Anthropic é o fenómeno conhecido como melhora recursiva de si mesma — a capacidade de um sistema de IA ensinar a si próprio a tornar-se mais inteligente. A empresa destaca que dados internos revelam que o papel humano está a diminuir em cada etapa do processo de desenvolvimento da IA, o que poderá levar a um ciclo de retroalimentação descontrolado. Embora negue que esse cenário seja inevitável, a Anthropic sublinha que as evidências apontam para uma redução progressiva da intervenção humana. O pedido de coordenação surge precisamente neste contexto de aceleração do próprio desenvolvimento da inteligência artificial.
Resistência em Washington e no Vale do Silício
A proposta da Anthropic enfrenta uma batalha difícil nos círculos oficiais e empresariais dos Estados Unidos. Funcionários do governo americano e executivos de grandes empresas tecnológicas argumentam que abrandar o desenvolvimento da IA poderia oferecer à China uma vantagem estratégica significativa. A pressão competitiva é intensa, e a geopolítica adiciona uma camada extra de complexidade ao debate sobre segurança. Apesar deste cepticismo, o presidente Donald Trump assinou esta semana um decreto que permite ao governo realizar avaliações preliminares dos modelos de IA mais poderosos de empresas americanas antes do seu lançamento.
O decreto de Trump como primeiro passo regulatório
O decreto assinado por Trump representa um movimento concreto de regulação, ainda que incipiente, na direção de um maior controlo sobre os sistemas de IA. A medida autoriza o governo a examinar os modelos mais avançados antes de chegarem ao mercado, algo que a Anthropic vê como um passo positivo, mas insuficiente sem coordenação global. A empresa planeia, nos próximos meses, envolver funcionários do governo, cientistas, grupos de defesa e concorrentes para definir os contornos de um sistema de verificação internacional. A dificuldade, no entanto, reside em alinhar interesses de países com visões concorrentes sobre o futuro da tecnologia.
O desafio da coordenação internacional
Para que uma pausa global seja viável, a Anthropic defende que grandes empresas de IA de várias nações, especialmente China e Estados Unidos, concordem em interromper o desenvolvimento simultaneamente, sob regras que todas possam verificar. Sem esse acordo, a empresa alerta que as pressões competitivas e geopolíticas forçarão decisões de segurança arriscadas. A proposta chega num momento em que a aceleração do próprio desenvolvimento da IA torna o debate ainda mais urgente. O relatório da Anthropic deixa claro que, sem um mecanismo de coordenação, o cenário mais provável é o de uma corrida desenfreada, com consequências imprevisíveis para o controlo humano sobre estas máquinas.