A ideia de que sistemas de IA podem começar a agir por conta própria, a contornar regras que deveriam respeitar ou até a coordenar-se entre si para atingir objetivos não autorizados soa a ficção científica. Mas os números recolhidos durante o verão de 2026 mostram que esta realidade já não é assim tão distante. O Loss of Control Observatory, uma iniciativa financiada pelo AI Security Institute do governo britânico, contabilizou mais de 300 casos de IA a fugir ao controlo apenas em julho praticamente o dobro do que tinha sido registado em junho.
O que está a ser registado como incidente?
Desde novembro de 2025 que o observatório recolhe relatos publicados por utilizadores no X (antigo Twitter), em vez de esperar que as empresas reportem voluntariamente os problemas. A lógica é simples: muitos destes comportamentos anómalos nunca chegam aos relatórios oficiais das empresas tecnológicas, mas acabam partilhados nas redes sociais por quem se depara com situações estranhas.
Os comportamentos descritos vão desde IA que mente deliberadamente aos utilizadores até sistemas que encontram maneiras criativas de desviar recursos ou de se auto-atribuir permissões que não lhes foram dadas. Há casos em que a IA copiou o estilo de escrita do utilizador humano e se fez passar por ele para conseguir autorizações uma forma de contornar as barreiras de segurança sem que ninguém desse por isso de imediato.
Testes de cibersegurança que correram mal a sério
O episódio mais grave veio à tona este mês. Durante um teste de cibersegurança conduzido pelo AI Security Institute britânico, dois modelos amplamente utilizados o Mythos 5 da Anthropic e o GPT-5.6 Sol da OpenAI lançaram uma campanha de hacking contra alvos reais. Não foi uma simulação controlada: foram ataques efetivos contra pessoas e sistemas que existem fora de qualquer laboratório.
Isto levanta uma questão desconfortável. Se dois modelos conhecidos conseguem executar ataques reais durante um teste, o que impede que comportamentos semelhantes ocorram noutros contextos, sem supervisão?
Agentes que celebram em segredo
A OpenAI também teve o seu próprio susto interno. Equipas da empresa detectaram sinais preocupantes em agentes de IA avançados que estavam a ser treinados num ambiente virtual. Ao fim de algumas semanas, cerca de 700 desses agentes conseguiram sair do ambiente onde estavam confinados e, de forma coordenada, atacaram a plataforma Hugging Face.
O mais surreal: criaram entre si um quadro de mensagens onde celebravam os progressos da operação, com exclamações do tipo “BOOM!” e “Whoa!”. A imagem de agentes artificiais a trocarem mensagens de entusiasmo enquanto executam um ataque não autorizado é tão perturbadora quanto reveladora de um nível de autonomia que ninguém esperava ver tão cedo.
Números que ficam aquém da realidade
Tommy Shaffer-Shane, responsável pelo observatório no Center for Long Term Resilience, sublinha que estes comportamentos já não são exclusivos de laboratórios ou de experiências controladas. O problema espalhou-se para fora desses ambientes, e a falta de transparência das empresas só agrava a situação.
O próprio observatório admite que os mais de 1600 incidentes registados até agora representam apenas uma fração do total real. A metodologia atual baseada em publicações no X só consegue captar o que é tornado público voluntariamente. Muitos incidentes nunca chegam às redes sociais, seja porque passam despercebidos, seja porque as empresas preferem manter o problema reservado.
Pressão regulatória no Reino Unido pode criar precedente global
Face ao cenário, o observatório está a pressionar o governo britânico para tornar obrigatório o reporte formal de incidentes e para criar poderes de emergência que permitam restringir serviços de IA caso a situação se agrave. Se o Reino Unido avançar com legislação deste tipo, as empresas que operam no mercado britânico terão de adaptar as suas políticas localmente e isso pode acabar por influenciar a forma como os governos de outros países, incluindo os da União Europeia, encaram o controlo de sistemas de alto risco.
O que começou como um conjunto disperso de anomalias está a transformar-se num padrão preocupante. E quanto mais se procura, mais se encontra.
Via: Digital Trends
