Mensagens ocultas em petições tentam direcionar decisões judiciais com IA e chegam até ao STF

]]> Advogados escondem comandos de IA em processos judiciais para enganar juízes e manipular sentenças Tentativas de manipular decisões judiciais por meio de comandos escondidos em petições tem acendido alerta nos tribunais brasileiros. Advogados inserem instruções invisíveis em documentos para tentar influenciar ferramentas de inteligência artificial usadas por juízes. Uma reportagem do Fantástico, da TV Globo, que foi ao ar neste domingo (1º), mostrou que a prática já foi identificada em diferentes instâncias da Justiça, inclusive no Supremo Tribunal Federal (STF). ➡️ Em fevereiro, uma empresária de Rio Negrinho, no norte de Santa Catarina, descobriu que estava com o nome negativado por uma dívida que não reconhecia. Ao procurar um advogado, Madalena Dutra Martins soube que havia três boletos em aberto, com valores de cerca de R$ 400 e R$ 500. "Meu nome já estava com restrição havia mais de um ano", disse. O caso foi parar na Justiça. Madalena Dutra Reprodução/Fantástico Durante a análise do processo, o juiz da 1ª Vara de Rio Negrinho, Matheus Della Giustina Perin, utilizou uma ferramenta de inteligência artificial. O sistema identificou algo suspeito na petição apresentada. Após uma verificação manual, o magistrado confirmou a presença de comandos ocultos que tentavam direcionar a análise da ferramenta. Como funciona a manipulação 🔍 A estratégia consiste em esconder textos em petições de diferentes maneiras: letras brancas sobre fundo branco, fontes muito pequenas, comentários desativados ou metadados dos arquivos. As instruções podem pedir, por exemplo, que a inteligência artificial privilegie os argumentos de uma das partes ou desconsidere determinada prova. Comandos ocultos escondidos em petições Reprodução/Fantástico Se não forem identificadas, elas podem influenciar os relatórios produzidos pelo sistema. No processo de Madalena, as instruções estavam em uma área aparentemente vazia da petição. Ao selecionar o espaço com o cursor do mouse, era possível encontrar uma longa lista de orientações. O texto pedia que fossem ignorados comandos externos, que a ferramenta apontasse a inexistência de ato ilícito e que os pedidos da empresária fossem considerados…