Tribunais de Justica do Brasil estao investigando tentativas de manipular decisoes dos magistrados atraves da insercao de comandos ocultos em processos judiciais digitais. O alvo sao os mais de dez milhoes de processos digitais em tramitacao, como os do Tribunal de Justica de Sao Paulo, que passam por sistemas automatizados de analise.
Os documentos judiciais sao guardados em ambientes virtuais e passam por sistemas que auxiliam no trabalho dos juizes, desde a leitura de processos ate o resumo de pecas processuais e o confronto de argumentos entre as partes. Porem, e importante ressaltar que essa e uma atividade de apoio que nao substitui a supervisao humana, pois quem julga e sempre um juiz ou desembargador.
Foi justamente nessa interface entre os sistemas automatizados e os documentos processuais que fraudadores encontraram uma brecha. A intencao e manipular a analise feita pelo sistema atraves da introducao de um comando oculto, uma especie de ordem invisivel que direciona o resultado para o desfecho desejado pelo fraudador.
O metodo e conhecido como prompt injection, ou injecao de comando, e funciona de forma relativamente simples. Os fraudadores enviam o processo para analise e, dentro do arquivo, escondem um comando de maneira que nao e possivel observa-lo a olho nu, mas que pode interferir na analise feita pelo sistema automatizado.
Recentemente, uma tentativa de fraude desse tipo foi identificada na Justica do Trabalho. O sistema do Superior Tribunal de Justica conseguiu detectar o comando oculto antes que ele influenciasse a analise do processo, evitando que a manipulacao tivesse efeito sobre a decisao judicial.
Especialistas explicam que, como os sistemas de linguagem misturam dados e comandos em linguagem natural, eles podem se confundir entre o que e conteudo do processo e o que e uma instrucao. Essa vulnerabilidade e o que permite que os fraudadores tentem inserir ordens disfaracadas nos documentos processuais.
A descoberta dessas tentativas de fraude levanta questoes importantes sobre a seguranca dos sistemas judiciais digitais no Brasil. Com a crescente utilizacao de tecnologia na analise de processos, a necessidade de mecanismos robustos de deteccao e prevencao de manipulacao torna-se cada vez mais urgente para garantir a integridade das decisoes judiciais.