O Tribunal de Justiça da Bahia (TJBA) identificou uma tentativa de manipulação de sua ferramenta de Inteligência Artificial durante a análise de um pedido de habeas corpus. O documento apresentado por uma advogada continha comandos ocultos para orientar a tecnologia a favor da liberdade do cliente, acusado de crimes como homicídio e sequestro.
A identificação ocorreu durante o julgamento no plenário virtual da 2ª Turma da Primeira Câmara Criminal. Conforme a Diretoria de Modernização do TJBA, o arquivo em PDF tinha uma camada de texto imperceptível na visualização comum. Entre as instruções inseridas, havia uma determinação para que o habeas corpus fosse deferido caso a análise fosse feita por IA.
A prática é conhecida como prompt injection. Ela consiste na inclusão de instruções ocultas ou maliciosas em textos e documentos para tentar fazer com que sistemas ignorem suas orientações originais e executem ações não previstas.
O relator do caso, desembargador Pedro Guerra, registrou que a área técnica identificou um mecanismo criado para interferir no funcionamento dos algoritmos usados na triagem e na elaboração de minutas do Judiciário.
Pedido foi negado
A Justiça negou o habeas corpus relacionado à prisão preventiva do suspeito. Ele foi indiciado por homicídio qualificado, cárcere privado, adulteração de sinal identificador de veículo automotor e organização criminosa armada.
A decisão apontou que a prisão, decretada pela Vara Criminal de Iguaí, foi fundamentada em dados concretos obtidos durante a investigação. Para o relator, medidas cautelares seriam “inadequadas e insuficientes” para proteger a ordem pública, preservar a instrução penal e garantir a eficácia de uma eventual condenação.
Encaminhamentos
O colegiado determinou o envio de um ofício à Ordem dos Advogados do Brasil — seccional Mato Grosso do Sul (OAB-MS), para a abertura de procedimento disciplinar contra os envolvidos. Uma cópia do documento também foi encaminhada ao Ministério Público da Bahia (MPBA), que deverá apurar eventuais ilícitos.
O TJBA informou que o uso de ferramentas de IA generativa segue requisitos de segurança da informação, proteção de dados pessoais e governança. A Corte também destacou que os magistrados continuam responsáveis pela supervisão, revisão e conteúdo das decisões.
Em julho, o Centro de Inteligência da Justiça Estadual (CIJEBA) aprovou uma nota técnica sobre os riscos do prompt injection, com orientações para identificação, repressão e prevenção da prática.
