A Comissão Europeia está a finalizar um novo pacote legislativo dedicado aos assistentes de IA e sistemas de resposta automática que operam na internet. O objetivo passa por criar regras claras sobre transparência, responsabilidade e proteção de dados pessoais áreas onde Bruxelas considera que a atual legislação deixa demasiadas lacunas em aberto.
A proposta surge numa altura em que milhões de europeus interagem diariamente com chatbots, assistentes virtuais e ferramentas automatizadas sem saberem exatamente com o que estão a falar. Para Portugal, isto significa que plataformas e serviços digitais vão ter de cumprir requisitos mais apertados antes de chegarem aos utilizadores.
O que está em cima da mesa
O documento em preparação aponta para três pilares fundamentais: obrigatoriedade de identificação clara quando um utilizador está a interagir com um sistema automatizado, limites ao tipo de dados pessoais que estes sistemas podem recolher durante conversas, e mecanismos de supervisão humana para decisões consideradas críticas.
Quanto à identificação, a ideia é simples mas radical para a forma como muitos serviços funcionam hoje. Qualquer resposta gerada por IA terá de vir acompanhada de um aviso visível nada de fingir que há uma pessoa do outro lado quando é um algoritmo a responder. Isto aplica-se desde chatbots de apoio ao cliente até sistemas de moderação de conteúdos em redes sociais.
Dados pessoais sob olho apertado
A questão da recolha de dados é onde Bruxelas quer apertar mais. Muitos assistentes de IA aprendem e melhoram com base em tudo o que os utilizadores escrevem ou dizem, mas nem sempre fica claro o que acontece a essa informação depois. A nova legislação deverá exigir consentimento explícito antes de qualquer dado de uma conversa ser usado para treino de modelos ou partilhado com terceiros.
Para empresas que operam em Portugal e noutros países da UE, isto representa uma mudança significativa na arquitetura técnica de muitos produtos. Guardar conversas apenas durante o tempo estritamente necessário e apagar dados sensíveis logo que a interação termine passará a ser norma, não opção.
Supervisão humana para decisões importantes
O terceiro pilar foca-se em situações onde uma resposta automática pode ter impacto real na vida de alguém aprovação de crédito, triagem médica, processos de recrutamento. Nesses casos, a proposta exige que haja sempre possibilidade de recurso a uma pessoa, e que o utilizador seja informado desse direito desde o início da interação.
A inspiração vem das lições aprendidas com o AI Act, mas desta vez com foco específico em sistemas que já estão no quotidiano de milhões de pessoas. Enquanto o AI Act traçou linhas gerais para risco alto e baixo, esta legislação quer ir mais fundo no funcionamento prático de ferramentas que conversam com utilizadores.
Calendário e resistência esperada
O rascunho deverá ser apresentado oficialmente ainda antes do final de 2026, com discussões no Parlamento Europeu e Conselho a arrancarem logo em seguida. Bruxelas pretende aprovar o pacote até ao verão de 2027, deixando depois um período de adaptação de 18 meses para as empresas se ajustarem.
Não faltará resistência, especialmente de gigantes tecnológicos que argumentam que regras demasiado rígidas podem travar inovação. Mas do lado dos reguladores europeus, a mensagem é clara: transparência e proteção dos utilizadores não são negociáveis, mesmo que isso signifique redesenhar a forma como assistentes de IA operam no espaço europeu.
Para quem vive em Portugal e usa estes serviços todos os dias, a mudança pode parecer invisível ao início um aviso aqui, uma opção de consentimento ali. Mas no fundo, representa uma tentativa de devolver algum controlo sobre com quem (ou o quê) estamos realmente a falar quando abrimos uma janela de chat.
