Califórnia quer avançar com “botão de emergência” para modelos de IA

A Califórnia está a preparar novas regras para aumentar a supervisão sobre os sistemas de inteligência artificial mais avançados. O governador Gavin Newsom assinou uma ordem executiva que acelera a implementação de mecanismos de auditoria independente e pede recomendações sobre a criação de um eventual “kill switch”, capaz de desligar um modelo de IA em situações de emergência.

É importante esclarecer que a ordem executiva não obriga, por enquanto, empresas como a OpenAI ou a Anthropic a instalar este mecanismo. O que foi criado é um processo para estudar como essa exigência poderia ser implementada na legislação estadual.

Auditorias independentes dentro das empresas

Uma das propostas passa por exigir que empresas responsáveis por modelos de IA de fronteira tenham organizações independentes de verificação presentes nos seus laboratórios, com capacidade para realizar auditorias e avaliações regulares.

Essas entidades poderiam também verificar os relatórios de transparência, avaliações de risco e outros documentos de segurança produzidos pelas empresas.

A Califórnia já deu passos nessa direcção, criando um enquadramento para organizações independentes de verificação e um registo estadual de auditores de IA. A nova ordem executiva pretende acelerar a implementação dessas medidas.

O que seria o “kill switch” da IA?

Entre as propostas que serão analisadas está a criação de um mecanismo de desligamento de emergência para modelos de IA de fronteira.

A ideia é relativamente simples: perante um incidente grave de segurança, deveria existir uma forma de interromper rapidamente o funcionamento do sistema.

Mas a proposta vai além da simples existência do botão. A Califórnia pretende estudar também mecanismos para testar regularmente a eficácia desse sistema, com a sua verificação a cargo de uma entidade independente.

O grupo de especialistas criado pela ordem executiva terá até novembro para apresentar recomendações que poderão servir de base a futuras alterações legislativas.

A Europa já tem regras para os modelos mais avançados

É aqui que a discussão se torna particularmente relevante para a Europa. Ao contrário dos Estados Unidos, onde a regulamentação federal continua a ser fragmentada, a União Europeia já dispõe do AI Act, um enquadramento legal específico para a inteligência artificial.

As regras europeias para os modelos de IA de finalidade geral começaram a aplicar-se em agosto de 2025 e, desde 2 de agosto de 2026, a Comissão Europeia passou a ter poderes de execução sobre estas obrigações.

E existe uma diferença importante: o AI Act já contempla explicitamente riscos associados aos modelos de IA de finalidade geral com risco sistémico, incluindo situações de perda de controlo, ciberataques e outros riscos capazes de provocar danos em grande escala. Os fornecedores destes modelos têm obrigações relacionadas com avaliação e mitigação de riscos, comunicação de incidentes e cibersegurança.

Ou seja, a ideia de controlar aquilo que acontece quando um sistema de IA avançado apresenta um comportamento perigoso não é totalmente nova na Europa.

Mas a UE não tem um “botão vermelho”

Existe, contudo, uma diferença relevante entre os dois modelos.

O AI Act estabelece obrigações de segurança, avaliação de riscos, documentação, cibersegurança e comunicação de incidentes, mas isso não significa que a legislação europeia obrigue actualmente empresas como a OpenAI ou a Anthropic a instalar um botão físico ou digital que permita desligar imediatamente um modelo.

A proposta californiana vai precisamente explorar esse passo adicional: transformar a capacidade de interromper um sistema em situações extremas num requisito potencialmente verificável através de auditorias independentes.

Na Europa, as regras de transparência do AI Act também começaram a ser aplicadas em agosto de 2026, incluindo obrigações relacionadas com a identificação de conteúdos gerados por IA e a informação dos utilizadores quando estão a interagir com determinados sistemas de inteligência artificial.

Califórnia e Europa estão a seguir caminhos diferentes

A comparação é interessante porque mostra duas abordagens distintas.

A Califórnia está agora a estudar novos mecanismos específicos de supervisão e controlo, com auditorias independentes e um possível sistema de desligamento de emergência.

A União Europeia optou por criar primeiro um quadro regulatório transversal, baseado em diferentes níveis de risco e com obrigações específicas para os modelos de IA de finalidade geral e, em particular, para aqueles considerados de risco sistémico.

O calendário europeu continua também a avançar. As regras para determinados sistemas classificados como de alto risco estão previstas para começar a aplicar-se em dezembro de 2027, enquanto alguns sistemas de IA integrados em produtos regulamentados terão obrigações a partir de agosto de 2028.

Um possível precedente para o resto do mundo

A iniciativa de Newsom poderá, por isso, ser relevante mesmo para quem está fora dos Estados Unidos.

Se a Califórnia avançar com auditorias independentes obrigatórias e com um mecanismo de desligamento de emergência para os modelos mais avançados, poderá criar um novo ponto de referência para outros legisladores norte-americanos e também alimentar o debate europeu sobre se as regras actuais são suficientes.

A questão central começa a ser cada vez menos se a inteligência artificial deve ser regulamentada e mais até onde deve ir essa regulamentação quando estamos perante sistemas capazes de apresentar riscos sistémicos.

A Califórnia está agora a testar uma resposta possível. A Europa já tem uma estrutura própria em funcionamento. O que ainda não sabemos é se estes diferentes caminhos acabarão por convergir numa exigência comum: garantir que, quando um sistema de IA foge ao comportamento esperado, existe uma forma independente, rápida e comprovada de o colocar sob controlo.