Um homem de 36 anos foi detido no Brasil depois de a OpenAI ter identificado conversas no ChatGPT onde descrevia planos para contratar um assassino e eliminar o próprio filho de oito anos. O caso, que acabou com a intervenção das autoridades antes de qualquer crime ser cometido, voltou a colocar a inteligência artificial no centro do debate sobre até onde devem ir os mecanismos de vigilância e quando é legítimo quebrar a privacidade das conversas.
Como foram detetadas as ameaças
Nas mensagens enviadas ao ChatGPT, o suspeito terá confessado que pretendia matar o filho para deixar de pagar a pensão de alimentos. Além disso, terá descrito intenções de realizar ataques contra escolas, igrejas e autoridades públicas, procurando provocar o maior número possível de vítimas.
A detenção aconteceu no estado do Espírito Santo, apenas um dia antes da data em que o crime estaria alegadamente previsto. A OpenAI comunicou a situação ao FBI, que por sua vez alertou o Ministério da Justiça brasileiro e as autoridades locais.
O telemóvel do homem foi apreendido e a Polícia Civil do Espírito Santo investiga agora se existia mesmo um assassino contratado ou se tudo não passou de fantasias partilhadas durante as conversas com a plataforma.
Acesso parcial às conversas
As autoridades brasileiras confirmaram que tiveram acesso às mensagens enviadas pelo suspeito, mas não às respostas geradas pelo ChatGPT. Isto significa que não é possível saber de que forma o sistema reagiu às ameaças descritas pelo utilizador se tentou dissuadir, se forneceu alguma informação neutra, ou se simplesmente indicou recursos de apoio.
Esta limitação levanta questões práticas sobre como avaliar o papel da inteligência artificial em situações deste tipo, já que só metade da interação está documentada para efeitos de investigação.
Quem tomou a decisão de denunciar
Não foi o modelo de inteligência artificial que decidiu alertar as autoridades. A OpenAI implementa sistemas automáticos de monitorização que procuram identificar situações de risco grave e iminente para a vida ou para a segurança pública.
Quando existem indícios credíveis desse tipo de ameaça, a empresa pode comunicar a informação às autoridades competentes, em conformidade com a legislação aplicável e com as suas políticas internas de segurança. Este processo pode envolver análises automáticas e avaliação humana em situações consideradas críticas.
Especialistas recordam que modelos como o ChatGPT não possuem consciência nem capacidade moral o funcionamento baseia-se em modelos estatísticos que geram respostas com base na informação fornecida. A responsabilidade legal continua a ser um tema em evolução, especialmente nos Estados Unidos, onde vários processos judiciais relacionados com alegadas respostas inadequadas de sistemas de IA estão ainda a ser avaliados pelos tribunais.
Privacidade versus segurança pública
O episódio demonstra que a inteligência artificial pode desempenhar um papel importante na prevenção de crimes quando são detetadas ameaças credíveis. Ao mesmo tempo, levanta questões delicadas sobre até que ponto as empresas devem monitorizar conversas privadas e onde traçar a linha entre proteger a vida humana e respeitar a privacidade dos utilizadores.
À medida que ferramentas como o ChatGPT se tornam parte do quotidiano de milhões de pessoas em todo o mundo incluindo na Europa, onde existem regulamentos mais apertados sobre privacidade e utilização de inteligência artificial , será cada vez mais necessário encontrar um equilíbrio entre a proteção de dados pessoais e a necessidade de intervir quando existirem riscos reais e documentados.
Este caso brasileiro pode não ter impacto direto em Portugal, mas serve de exemplo prático para o debate que também se trava na União Europeia sobre como regular estas tecnologias e que responsabilidades devem ter as empresas que as desenvolvem.
Via: g1globo
