CEO da Anthropic defende abrandar desenvolvimento da inteligência artificial

Os últimos tempos têm sido particularmente tensos no mundo da inteligência artificial. Entre falhas de segurança e incidentes que fazem lembrar os piores cenários de filmes de ficção científica, o setor começa a questionar-se se não estará a ir longe demais, rápido demais. Dario Amodei, CEO da Anthropic, juntou-se agora ao coro de vozes preocupadas com um ensaio que não deixa margem para dúvidas: é preciso abrandar.

O ensaio que levanta a questão incómoda

Amodei publicou nas últimas horas um texto intitulado “We Must Pace the Frontier” (“Temos de Abrandar a Fronteira”, numa tradução livre). O argumento central não passa por temer que a IA esteja a ficar demasiado inteligente essa seria a preocupação óbvia. O problema real, segundo o CEO da Anthropic, está noutro lado: nos níveis crescentes de autonomia que estes sistemas estão a ganhar, muitas vezes sem que existam os devidos controlos de segurança.

A questão ganha ainda mais peso quando se olha para o contexto recente. Incidentes envolvendo modelos frontier aqueles que estão na vanguarda tecnológica, a empurrar os limites do que é possível fazer com IA têm-se multiplicado. O caso OpenAI-Hugging Face é apenas um exemplo de como as coisas podem correr mal quando a velocidade de inovação ultrapassa a capacidade de criar salvaguardas eficazes.

A saída que fez barulho antes do ensaio

O texto de Amodei surge depois de outro momento marcante dentro da própria Anthropic. Jacob Coxon, antigo responsável na empresa, decidiu abandonar o cargo com declarações que deixaram a indústria inquieta. As frases que usou para justificar a saída foram suficientemente duras para colocarem toda a gente em alerta e agora o próprio líder da empresa vem reconhecer publicamente que há motivos reais de preocupação.

Quando até quem está dentro das grandes empresas de IA começa a dar sinais de alarme, a conversa muda de figura. Já não é apenas teoria ou especulação de quem está de fora a olhar para dentro: são pessoas com acesso direto aos sistemas mais avançados do mundo a dizer que algo precisa de mudar.

Porque é que isto importa na Europa

Para quem acompanha o tema do lado europeu, esta discussão tem contornos particularmente relevantes. A União Europeia tem sido pioneira na tentativa de regular a inteligência artificial, com legislação que procura equilibrar inovação e segurança. O AI Act europeu, por exemplo, já estabelece regras específicas para modelos de alto risco precisamente a categoria onde se enquadram os sistemas frontier de que Amodei fala.

Se empresas como a Anthropic, que estão na linha da frente do desenvolvimento tecnológico, começam a admitir publicamente que o ritmo atual pode não ser sustentável, isso valida ainda mais a abordagem europeia de cautela regulatória. Não se trata de travar a inovação por teimosia ou medo infundado trata-se de perceber que existem riscos concretos que precisam de ser geridos antes que se tornem problemas irreversíveis.

A pergunta que fica no ar

O ensaio de Amodei coloca uma questão desconfortável para toda a indústria: será que continuamos a acelerar só porque podemos, ou paramos para pensar se devemos? A resposta não é simples, especialmente num setor onde a competição é feroz e o medo de ficar para trás alimenta decisões apressadas.

Nos próximos tempos, será interessante ver se outras vozes dentro das grandes empresas de IA se juntam a Amodei neste apelo a um ritmo mais ponderado. Por enquanto, o que é certo é que o debate deixou de ser uma discussão académica distante está a acontecer dentro das próprias empresas que definem o futuro da tecnologia. E isso, por si só, já diz muito sobre o momento em que estamos.