O título deste artigo é um plágio. Foi copiado da artista plástica Marcela Crosman e do texto do curador Paulo Herkenhoff, que a acompanha. Todo crime deixa rastro. A exposição de Crosman está no Paço Imperial do Rio de Janeiro; não são obras de fácil leitura. Toda tecnologia dá acesso a novas narrativas e imaginários; essa é a ideia. A computação gráfica e modelos de inteligência artificial foram mobilizados para produzir objetos que antes eram concebidos apenas pela imaginação humana.

Na nova vida digital, regida pela presença da inteligência artificial embarcada nos mais diversos sistemas de dados e gestão, os algoritmos serão cada vez mais utilizados para determinar a distribuição de bens sociais básicos e serão também mais e mais utilizados para classificar e separar seres humanos e ordenar a vida social de uma forma que nunca existiu. Os algoritmos estão entre nós, coexistindo com os sistemas de leis e normas que moldam os sistemas políticos.

Esse é o argumento levantado por Jamie Susskind no seu livro “Future Politics”, de 2018: “A justiça no mundo da vida digital dependerá, em grande medida, dos algoritmos que forem utilizados e de como serão aplicados”. A combinação de algoritmos e dados pode produzir resultados eventualmente injustos. Um exemplo: entre novembro de 2024 e maio de 2026, 3.400 pessoas foram detidas e conduzidas a delegacias em decorrência do reconhecimento facial pelo sistema Smart Sampa.

O sistema errou em 268 casos. 72% dos erros cometidos foram decorrentes da falta de atualização da base de mandados de prisão ou de outros erros cadastrais; o algoritmo de reconhecimento só errou em 75 casos.

O algoritmo de reconhecimento facial funcionou, quase sempre, corretamente, mas as bases de dados desatualizadas provocaram centenas de detenções injustas.

Há também riscos associados à gestão e segurança dos dados coletados pelos sistemas de monitoramento por imagens, como ilustra a recente crise do Smart Sampa. Dados sigilosos do programa ficaram expostos por cerca de onze meses em um repositório público na internet, o que permitiu reproduzir a plataforma em computadores e celulares que não integravam o sistema. O vazamento de dados envolveu nomes e CPFs dos usuários do sistema, além de placas de veículos e boletins de ocorrência. O episódio expõe um problema de governança de dados bastante sério: o município admitiu que não tem acesso ao código-fonte, aos modelos de inteligência artificial, nem às bases usadas para treinar o reconhecimento facial, todos sob controle da empresa concessionária, e que não há auditorias independentes dos algoritmos. Isso é sério e o risco é grande.

“Nenhuma inteligência existe isoladamente”, mais uma frase roubada de Herkenhoff. Humanos, máquinas, sistemas e infraestruturas digitais e físicas evoluem como ecossistemas, gradativamente mais interdependentes. Não há volta possível. As tecnologias de monitoramento e o uso de inteligências artificiais como ferramentas de controle do crime e das atividades de infratores e organizações criminosas se alastram nas democracias ocidentais. Simulações, fluxos acelerados de troca de informação e modelos computacionais cada vez mais rápidos e autônomos ampliam nossa capacidade de perceber e monitorar o comportamento de agentes e mercados.

E no centro da nova configuração do problema contemporâneo da segurança pública encontra-se o fenômeno do crime organizado, que pode ser descrito como um conjunto articulado de ecossistemas criminais instalados em mercados ilegais e em zonas de contato com a economia formal, que incluem tráfico de drogas e de armas, contrabando, crimes violentos, lavagem de dinheiro, tráfico de migrantes, fraude fiscal, exploração sexual de pessoas vulneráveis, corrupção de agentes públicos e infiltração em cadeias produtivas.

O presente precisa dar espaço para inovações que dificilmente serão contidas. O uso de sistemas de ferramentas de inteligência artificial na segurança pública pode impactar diretamente quase todas as cadeias do trabalho policial e do sistema de justiça criminal, adicionando um grau de eficiência e eficácia ainda difícil de visualizar, mas que começa a tomar forma. Do atendimento ao 190 ao monitoramento de operações financeiras de organizações criminosas, a atuação de agentes autônomos de inteligência artificial pode revolucionar a prevenção, a investigação e a elucidação de crimes das mais diversas naturezas. O trabalho desses agentes pode mudar o jogo; pode proteger, prevenir e melhorar a alocação de recursos públicos no setor. A chegada de agentes autônomos de inteligência artificial à segurança pública subverte a lógica tradicional de analisar o que já aconteceu com base em modelos estatísticos e dados de ocorrências policiais registradas.

Estou comprando o seguinte título com vencimento em 2030: agentes de inteligência artificial serão os protagonistas da invenção de novos cenários e ações orientadas para o presente, para as respostas que precisam ser dadas nesse exato momento em que milhares de crimes ocorrem simultaneamente. Agentes de IA embarcados nas plataformas de monitoramento e atendimento às emergências criminais permitirão visualizar o crime e responder a ele de forma crescentemente síncrona, e isso vai impactar fortemente o custo do crime para os infratores. Um mundo com níveis muito baixos de criminalidade começa a se tornar visível.

Agora só falta escrever os protocolos do que parecia impossível.