O Superior Tribunal de Justiça (STJ) instaurou, nesta quarta-feira (20), uma investigação para apurar o uso de comandos de inteligência artificial (IA) com o objetivo de fraudar seu sistema eletrônico de petições. A medida visa coibir tentativas de burlar os mecanismos de segurança do tribunal.
Por determinação do presidente do STJ, ministro Herman Benjamin, foram abertos um inquérito policial e um procedimento administrativo interno. O foco é investigar as supostas fraudes, que envolveriam advogados e escritórios de advocacia.
A decisão surge após técnicos do tribunal identificarem a inserção de petições contendo "prompt injection". Essa técnica consiste em manipular modelos de IA para favorecer indevidamente partes em processos eletrônicos.
Tais comandos ocultos são estrategicamente inseridos nos documentos com o intuito de forçar o sistema de inteligência artificial a ignorar filtros de seleção. O objetivo é permitir a admissão de petições que, de outra forma, não cumpririam os requisitos básicos de admissibilidade.
O STJ ressalta, no entanto, que seu sistema já possui mecanismos de segurança eficazes contra essa prática. Essas "travas" impedem que os comandos fraudulentos sejam executados pela plataforma de recebimento das petições.
Comentários
Para comentar realize o login em sua conta!
Login Cadastre-se