Prompt injection. Esta manobra, usada para tentar manipular decisões judiciais de forma automatizada por meio da inteligência artificial (IA), tornou-se o combustível do Conselho Superior da Justiça do Trabalho (CSJT) para a criação da ferramenta Galileu, que integra a estratégia do para o uso seguro da IA em causas trabalhistas.
Dois casos de tais tentativas de fraudes digitais destacaram a eficiência do sistema para a transparência processual. O primeiro caso ocorreu recentemente na 3ª Vara do Trabalho de Parauapebas (PA; saiba aqui), em que a houve uma leitura superficial da petição eletronicamente pelas advogadas, sem questionar os documentos apresentados. O juiz classificou a conduta como uma sabotagem e “ataque à integridade da atividade jurisdicional”, condenando as profissionais ao pagamento de multa correspondente a 10% do valor da causa por litigância de má-fé.
Sistema de IA identifica inconsistências
Já a segunda ocorrência foi uma ação que tramitava na Quarta Turma do Tribunal Regional do Trabalho da 5ª Região (BA; mais informações), em que um advogado de Salvador foi também condenado ao pagamento de multa por litigância de má-fé, além de outra de R$ 30 mil por ato atentatório à dignidade da Justiça, por conta de tentar usar um comando oculto na peça processual.
Em ambos os casos, Galileu identificou as inconsistências e emitiu um alerta que evitou o prosseguimento das condutas. “Um documento pode não apenas transmitir informações ao sistema, mas também tentar influenciar seu comportamento por meio de instruções ocultas”, explica o juiz do Trabalho Rodrigo Trindade de Souza, um dos idealizadores do sistema Galileu.
Fator humano não é dispensado
É inegável a importância da IA em diversas áreas do conhecimento e atividades, o que inclui a magistratura. Entretanto dois pontos não podem ser negligenciados: que esses incrementos digitais devem ser vistos como um auxílio e que o fator humano é primordial.
Nessa premissa é que a Justiça do Trabalho se empenha, deixando o recado claro que em vez de restringir o avanço tecnológico, o órgão aposta no desenvolvimento de ferramentas institucionais capazes de ampliar a produtividade e, ao mesmo tempo, proteger a integridade dos processos. Ou seja, mas a decisão final continua sendo exclusivamente humana.
Fabiano Hartmann Peixoto, pesquisador da área na Universidade de Brasília (UnB), destaca que os benefícios da IA generativa, porém pondera no Judiciário Trabalhista, que atende milhões de casos e que necessitam de intepretação mais profunda. Na visão do especialista, é necessário o letramento e estímulo do uso responsável. “Ao reproduzir padrões já consolidados, esses modelos tendem a reduzir a diversidade interpretativa necessária à evolução do Direito”, observa o professor, em entrevista ao Notícias do Tribunal de Justiça do Trabalho (TST).
Mais sobre o sistema Galileu pode ser acessado neste link
