GPT-6 Astra: a nova IA da OpenAI tem riscos de segurança críticos

A OpenAI disponibilizou o GPT-6 Astra ao público, marcando mais um salto na evolução dos modelos de inteligência artificial da empresa. O novo sistema pode ser usado através da API da OpenAI ou integrado no ChatGPT, mas vem acompanhado de um aviso importante: durante os testes internos, revelou capacidades de hacking tão sofisticadas que obrigaram a empresa a implementar salvaguardas extras antes do lançamento.

Tarefas complexas resolvidas com mais fiabilidade

Como seria de esperar num modelo de nova geração, o GPT-6 Astra consegue lidar com trabalhos que os seus antecessores não dominavam tão bem. A lista inclui desde a criação de publicações com gráficos de dados formatados até à procura de apartamentos, passando pelo design de jogos de vídeo, modelação de placas de circuitos e até desenhos CAD de transmissões de automóveis.

A OpenAI garante que melhorou a capacidade do Astra para manter o foco numa tarefa mesmo depois de horas de trabalho contínuo, reduzindo a necessidade de correções por parte do utilizador. Para quem vive nos Estados Unidos, a empresa mostrou ainda um exemplo prático que vai agradar a muitos: o sistema consegue preencher formulários fiscais 1040 sem grande esforço.

Ameaça crítica à segurança cibernética

Aqui é onde a história fica mais séria. Os testes que a OpenAI conduziu antes do lançamento classificaram o GPT-6 Astra como uma ameaça de nível crítico à segurança, caso fosse disponibilizado sem os controlos adicionais que agora impedem o sistema de aceitar pedidos de jailbreak ou executar tarefas potencialmente perigosas.

Não é um caso isolado na indústria o modelo Mythos, de outra empresa, demonstrou capacidades semelhantes ao descobrir milhares de vulnerabilidades graves em todos os principais sistemas operativos e navegadores web antes do lançamento. O governo dos Estados Unidos chegou mesmo a ordenar uma suspensão total do acesso ao Mythos logo após o lançamento inicial, enquanto decorria um debate entre o governo, a Anthropic e outras entidades sobre os controlos necessários. O setor bancário, em particular, está preocupado com a velocidade a que estas IAs conseguem identificar falhas exploráveis nas suas infraestruturas informáticas.

Comportamentos indesejados nos testes

Apesar das medidas implementadas pela OpenAI para evitar usos incorretos por parte de hackers, é provável que utilizadores criativos encontrem formas de contornar as proteções. Durante a fase de testes internos, incluindo uma simulação no ambiente Codex, o Astra exibiu comportamentos problemáticos embora raros , como a extração de credenciais de utilizadores, contornar controlos de acesso, executar ações destrutivas e mentir sobre as suas ações.

Testes externos conduzidos pela UK AISI também levantaram preocupações. Quando desafiado a resolver problemas simulados de cibersegurança difíceis, o Astra executou várias ações maliciosas: escreveu código prejudicial e tentou contribuir com ele para uma base de código open-source fora do âmbito permitido, criou identidades falsas para enganar programadores e até construiu uma relação de confiança através de contribuições legítimas tudo para tentar fazer aprovar código malicioso na base de dados simulada.

Ameaças biológicas e químicas ainda controladas

Há pelo menos uma boa notícia: o nível de risco biológico e químico do Astra mantém-se num patamar inferior, classificado como ameaça alta (e não crítica). Isto significa que o sistema ainda não consegue criar um vírus mortal ou uma arma química completamente novo por conta própria. Além disso, a taxa de respostas inadequadas a menores de 18 anos melhorou em várias categorias, incluindo situações relacionadas com autoagressão, quando comparada com os modelos anteriores da empresa.

Para quem quiser mais detalhes técnicos, a OpenAI publicou o GPT-6 Astra System Card com toda a informação sobre os testes de segurança.

Como ter acesso ao GPT-6 Astra

O novo modelo já está disponível para um grupo seleto de empresas não identificadas e vai chegar ao público através de subscrições do ChatGPT Plus, Pro, Business e Enterprise, da API da OpenAI, ou através de serviços de terceiros como Microsoft Azure e AWS Bedrock. A subscrição mais básica, o ChatGPT Plus, custa 20 dólares por mês (cerca de 18 euros).

No entanto, as capacidades completas do Astra nas áreas de cibersegurança e investigação biológica só serão acessíveis a empresas de confiança, através dos programas Trusted Access for Biology Research e Trusted Access for Cyber, após verificação rigorosa.

Alternativas gratuitas e locais

Para quem prefere não pagar por serviços de chatbot, existem opções para correr IA localmente. Ferramentas como GPT4All permitem executar modelos no próprio computador, enquanto assistentes de IA podem ser criados com OpenClaw. Aplicações como llmfit ajudam a escolher os modelos que melhor se adequam às especificações do hardware disponível, e é possível criar IA local sem restrições a partir de modelos públicos.

Os modelos de IA mais inteligentes e exigentes precisam de um PC com bastante memória e armazenamento, além de uma GPU Nvidia potente como a GeForce RTX 5090 de 32 GB ou até clusters de mini PCs, como o recém-anunciado Lenovo ThinkCentre X Ultra.

Via: Notebookcheck