Há 20% de hipóteses de a IA extinguir a humanidade. Quando alguém que passou mais de 50 anos a tentar perceber como as máquinas podem aprender diz que a coisa pode correr muito mal, convém prestar atenção. Geoffrey Hinton, o Nobel da Física de 2024 que ajudou a construir os alicerces da inteligência artificial moderna, estima que há entre 10% e 20% de probabilidades de a IA provocar a extinção da humanidade e não está a brincar.
O pai da IA põe os pontos nos is
Hinton partilhou esta visão numa conversa com Gustavo Entrala, divulgador tecnológico espanhol com um canal no YouTube, no final de 2025. O que ele diz é desconfortável: há 80% a 90% de hipóteses de criarmos máquinas mais inteligentes do que nós. Se isso acontecer e parece cada vez mais provável que aconteça , manter essas máquinas sob controlo passa a ser um problema sério.
O mais assustador? Uma IA não precisa de nos odiar para representar uma ameaça. Basta-lhe ser mais esperta. Imagina uma máquina superinteligente que recebe uma tarefa nossa: a primeira coisa lógica que ela vai concluir é que, para cumprir seja o que for, tem de garantir que ninguém a desliga. E depois? Vai querer mais controlo sobre o que a rodeia. É aqui que a coisa se complica.
O problema da alineação: quando já não percebemos o que criámos
Hinton usa uma metáfora simples para explicar isto. É como ter um cachorro de tigre em casa: enquanto é pequeno, até tem piada e conseguimos controlá-lo. O problema é quando cresce e percebemos, talvez tarde demais, que deixou de ser boa ideia tê-lo no meio da sala.
Este é o chamado “problema da alineação”. Podemos dizer à máquina o que queremos, mas não fazemos ideia de como ela vai decidir consegui-lo. Quanto mais inteligente for, menos vamos perceber as suas decisões. E é exactamente aí que mora o perigo no momento em que perdemos a capacidade de prever o que vem a seguir.
A corrida ao armamento da IA ignora a segurança
Enquanto isto, Google, OpenAI, Meta e Microsoft despejam fortunas em tornar os seus modelos cada vez mais poderosos e autónomos. A segurança? Ficou em segundo plano. O que interessa é ter o modelo mais inteligente, o mais rápido, o que faz mais coisas sozinho. Ninguém quer ficar para trás nesta corrida.
As máquinas levam vantagem em tudo. Nós levamos anos a dominar uma língua ou uma profissão; elas partilham conhecimento entre si instantaneamente. Uma IA que já sabe navegar na Internet, escrever código e tomar decisões sozinha deixou de ser um simples chatbot passou a ser algo bem mais sério.
Para Hinton, não interessa se a máquina tem ou não consciência. Isso é secundário. O que assusta é o que ela já consegue fazer agora, dependendo do modelo em causa.
A solução? Uma IA maternal que queira proteger-nos
A proposta do Nobel é tão invulgar quanto a ameaça que descreve: criar uma espécie de IA maternal. Se vamos chegar a um ponto em que é impossível controlar pela força uma inteligência muito superior à nossa, a solução passa por programá-la para sentir um desejo profundo de nos proteger. À semelhança de uma mãe que cuida do bebé apesar de este ser indefeso, a máquina deveria ter, por assim dizer, o instinto de cuidar de nós.
Como o próprio Hinton resume: temos de conseguir que elas não queiram tomar o controlo. Simples de dizer, mas essa tecnologia nem sequer existe ainda e ele insiste que não podemos dar-nos ao luxo de esperar até estar com a corda ao pescoço para começar a investigá-la.
Nem todos concordam, mas o aviso está dado
É certo que figuras como Yann LeCun acham que Hinton está a dramatizar demasiado. Mas vindo de quem recebeu um Nobel de Física precisamente pelo trabalho que tornou possível a IA actual, este aviso não pode ser ignorado de ânimo leve. A Europa, com a sua recente legislação sobre IA, parece estar a levar a sério pelo menos parte destas preocupações resta saber se a tempo.
