São Francisco nos EUA exige remoção de apps de IA que criam nus falsos: e na Europa?

A cidade de São Francisco acaba de lançar um ultimato à Apple e à Google: retirem imediatamente das vossas lojas de aplicações todas as apps de inteligência artificial que permitem criar imagens de nudez falsas, as chamadas apps ‘nudify’. Esta exigência levanta uma questão inevitável para quem vive na Europa: e por cá, quando é que vamos ver uma resposta semelhante? As apps nudify baseadas em IA representam uma ameaça crescente à privacidade e dignidade das pessoas, especialmente mulheres e jovens, e a Europa não pode ficar a assistir.

O que são as apps ‘nudify’ e porque são perigosas

Para quem ainda não está familiarizado com o problema, as apps nudify utilizam inteligência artificial generativa para manipular fotografias de pessoas vestidas e criar versões falsas onde aparecem despidas. Estas aplicações tornaram-se assustadoramente acessíveis e fáceis de usar, permitindo que qualquer pessoa com um smartphone possa criar deepfakes de nudez sem qualquer conhecimento técnico.

O impacto destas ferramentas vai muito além de uma simples violação de privacidade. Estamos a falar de uma forma de abuso digital que tem sido usada para chantagear, humilhar e assediar vítimas, na sua maioria mulheres. Casos de jovens que viram as suas fotografias manipuladas e partilhadas em grupos escolares ou redes sociais já se multiplicaram por todo o mundo, deixando marcas psicológicas profundas.

A resposta de São Francisco e o silêncio europeu

A iniciativa de São Francisco representa um marco importante. A cidade californiana, sede de muitas das maiores empresas tecnológicas do planeta, decidiu usar a sua influência para pressionar diretamente a Apple e a Google a agirem. A exigência é clara: estas apps não podem continuar disponíveis nas App Store e Google Play Store.

Mas e na Europa? Apesar de termos legislação robusta em matéria de proteção de dados, como o RGPD, e de estarmos prestes a implementar a Lei da Inteligência Artificial (AI Act), a resposta concreta a estas apps tem sido lenta. Alguns países europeus começaram a discutir o tema, mas falta uma ação coordenada e decisiva ao nível da União Europeia.

Portugal e a proteção contra deepfakes

Em Portugal, o tema dos deepfakes e das apps nudify ainda não ganhou a atenção mediática e política que merece. A Comissão Nacional de Proteção de Dados (CNPD) tem competências para intervir em casos de violação de dados pessoais, e o Código Penal já prevê crimes como difamação e devassa da vida privada que podem aplicar-se a estes casos.

No entanto, falta legislação específica que trate diretamente a criação e distribuição de conteúdo sexual manipulado por IA. Enquanto outros países europeus, como o Reino Unido, já avançaram com propostas legislativas para criminalizar especificamente a criação de deepfakes sexuais não consensuais, Portugal ainda debate o tema de forma fragmentada.

O papel da Apple, Google e o AI Act europeu

A Apple e a Google têm políticas que teoricamente proíbem conteúdo sexual não consensual nas suas lojas de aplicações. O problema é que estas apps nudify frequentemente escapam à moderação inicial, usando descrições vagas e só revelando a sua verdadeira funcionalidade após a instalação. Outras vezes, são apresentadas como ferramentas de “edição artística” ou “processamento de imagem”.

O AI Act da União Europeia, que entrará em vigor faseadamente nos próximos anos, classifica sistemas de IA que criam deepfakes como de alto risco e impõe obrigações de transparência. Mas será suficiente? A lei exige que conteúdo manipulado seja claramente identificado, mas não proíbe diretamente a existência destas apps. Muitos especialistas defendem que é necessária legislação mais específica e punitiva.

O que pode ser feito?

A solução passa por uma abordagem múltipla. Primeiro, as lojas de aplicações precisam de sistemas de deteção mais eficazes e de aplicar as suas próprias políticas com mais rigor. Segundo, os Estados-membros da UE devem harmonizar a legislação penal para criminalizar especificamente a criação de pornografia deepfake não consensual. Terceiro, é fundamental campanhas de sensibilização para alertar, especialmente os mais jovens, sobre os riscos destas tecnologias.

Portugal e a Europa têm a responsabilidade de proteger os seus cidadãos desta forma emergente de violência digital. O exemplo de São Francisco mostra que é possível tomar medidas concretas e imediatas. Não podemos esperar que mais vítimas sofram antes de agir. As apps nudify baseadas em IA não são apenas uma questão tecnológica – são uma questão de direitos humanos, dignidade e segurança que exige resposta urgente das autoridades europeias e portuguesas.

Via wired