Rei Carlos III também alerta para os perigos da IA

O Rei Carlos III organizou esta quinta-feira uma cimeira privada com alguns dos nomes mais sonantes da indústria de inteligência artificial e do governo britânico. Jensen Huang, da Nvidia, dirigentes da OpenAI e da Anthropic, o novo ministro da IA do Reino Unido, Kanishka Narayan, e até o chefe dos serviços secretos britânicos marcaram presença. Paolo Benanti, conselheiro do Papa sobre IA, também esteve no encontro.

O discurso do monarca foi particularmente revelador. A família real britânica costuma evitar mergulhar fundo em questões políticas sensíveis e a inteligência artificial está neste momento no centro de praticamente todas as discussões sobre tecnologia, economia e sociedade. Carlos III foi direto: pediu aos líderes presentes que encontrem formas de controlar a IA “antes que seja tarde demais”, sublinhando que o ritmo a que esta tecnologia avança é simultaneamente fascinante e profundamente preocupante.

Capacidades para salvar vidas ou para as tirar

O Rei reconheceu que a inteligência artificial já demonstra uma capacidade enorme para melhorar e salvar vidas, apontando especialmente a medicina e a ciência como áreas onde os benefícios são evidentes. Mas trouxe também o outro lado da moeda: os próprios criadores destas tecnologias estão cada vez mais a avisar que os riscos incluem desenvolver sistemas com “capacidades mais sombrias, talvez até para tirar vidas”.

Este aviso ganhou ainda mais peso quando, há poucas semanas, um investigador da Anthropic se despediu da empresa e escreveu publicamente que as empresas de IA estão numa corrida para construir máquinas muito mais inteligentes do que qualquer ser humano e que a humanidade pode não sobreviver a isso. Carlos III insistiu que é urgente ponderar os “perigos existenciais” de deixar esta tecnologia cair nas mãos erradas e ser usada de formas potencialmente catastróficas.

Créditos da imagem: Jonathan Brady / POOL / AFP / Getty Images

Um apelo ao controlo e à cooperação internacional

“Certamente, precisamos de meios de controlo suficientes antes que tudo seja tarde demais?”, questionou o monarca. Ao encerrar a sua intervenção, deixou um pedido claro: que os líderes encontrem maneiras de aproveitar o lado positivo da IA e que construam cooperação e consenso internacional para esse fim. A observação surgiu numa altura em que a Anthropic acabou de restringir o acesso aos seus modelos Fable e Mythos apenas a clientes nos Estados Unidos, uma decisão que gerou surpresa e preocupação na Europa onde muitos começam a questionar seriamente a ideia de soberania em IA.

“A tarefa que têm pela frente não é apenas avançar com a tecnologia, mas garantir que ela permanece firmemente ao serviço da humanidade, da comunidade e do mundo natural”, disse Carlos III ao terminar o discurso. “Ao abraçarmos o que é novo, não podemos perder o que é intemporal.”

Quem esteve presente e o que disseram

Segundo relatos, o Rei ficou cerca de vinte minutos, deixando depois os convidados a discutir entre si. A OpenAI enviou a sua diretora financeira, Sarah Frair, enquanto a Anthropic foi representada por Tino Cuéllar, responsável pelos assuntos globais da empresa. Cuéllar declarou-se honrado por participar e agradeceu ao Rei por ter reunido líderes da indústria e vozes de toda a sociedade para debater o papel da IA no bem público.

Esta não foi a primeira vez que Carlos III falou sobre os desafios e vantagens da inteligência artificial já o tinha feito em 2023 e 2024. Mas a cimeira desta semana ganha um peso especial, num momento em que a IA domina praticamente todas as conversas nos mais variados setores. Este mês, Sam Altman (OpenAI), Elon Musk e Dario Amodei (Anthropic) apelaram a uma desaceleração no desenvolvimento da IA. Jensen Huang e o presidente Donald Trump rejeitaram prontamente a ideia. “Estamos à frente da China na IA. Somos o país mais sofisticado do mundo, e sinceramente quero que continue assim, porque quem ganhar a IA, ganha”, disse Trump.

Um debate cada vez mais complexo

Tudo isto mostra como o tema se tornou intrincado, à medida que os interesses das grandes tecnológicas, da política e da sociedade colidem. Nos últimos meses, tanto a OpenAI como a Anthropic têm deixado antever possíveis ofertas públicas iniciais de grande impacto. A OpenAI, contudo, disse recentemente que os seus planos de IPO foram adiados este ano, à medida que as preocupações com a segurança da IA persistem e ganham peso.