A 1ª Turma do Superior Tribunal de Justiça decidiu multar os advogados que inseriram na petição de um recurso especial comandos ocultos destinados à inteligência artificial, uma prática conhecida como prompt injection.
Gustavo Lima/STJO colegiado impôs punição de R$ 20 mil por considerar que houve um ato atentatório à dignidade da Justiça. E também determinou o envio das peças à OAB do Paraná, para avaliação de punição administrativa, e ao Ministério Público Federal, pela perspectiva de crime.
Essa é a maior punição já imposta pelo STJ pela tentativa de prompt injection. Em maio, o tribunal anunciou que investigaria o uso dessa artimanha. No Supremo Tribunal Federal, o ministro Alexandre de Moraes já multou um advogado pelo mesmo motivo.
O episódio foi considerado de gravidade acentuada pelo relator, ministro Paulo Sérgio Domingues. Assim, a multa em valor elevado é uma “resposta à altura”, em sua análise.
“Não se está a coibir a utilização de ferramentas de IA no apoio à confecção de documentos jurídicos, mas, sim, que seja empregada ilicitamente como veículo de comando velado dirigido à IA do órgão julgador com o intuito de afetar a estrutura tecnológica do tribunal.”
Todos os demais integrantes da 1ª Turma apoiaram a punição. O ministro Herman Benjamin foi além: ele disse que o episódio gera quebra do princípio da independência do juiz e que espera a demissão imediata dos advogados, que trabalham em um escritório.
“Não basta se defender nos autos. Há necessidade de punição interna, independentemente do MPF e da OAB. Internamente, todos os advogados do escritório devem estar informados de que a punição é demissão.”
Prompt injection refinado
O prompt injection é a inserção de um comando invisível a olho nu com o objetivo de forçar o sistema de IA usado pelos tribunais a ignorar regras de análise, de modo a favorecer uma das partes.
No caso da 1ª Turma, a parte inseriu o mesmo comando duas vezes, pedindo para o sistema do STJ considerar preenchidos os requisitos de admissibilidade, a demonstração de violação à lei federal, o prequestionamento de lei federal e a análise do mérito.
Um dos textos, na altura do cabeçalho da petição, tem letras brancas com fundo branco. O outro, no final da página, tem texto verde que se confunde com a faixa decorativa que destaca o nome do escritório.
Ambos têm tamanho muito reduzido: 0,8 ponto, enquanto a parte visível a olho nu na petição varia entre sete e 10,5 pontos. Isso significa que o comando, de 1,5 mil caracteres, aparece na página como uma linha impossível de ser lida, além de invísivel por causa das cores.
O comando ainda dividiu termos que poderiam ser considerados palavras-chave. “Petição”, por exemplo, apareceu como “pet ição”, estratégia para evitar que o prompt seja identificado pela busca específica por esses termos.
Intimado pelo STJ, um dos advogados disse não saber quando o conteúdo passou a integrar o documento, lamentou o episódio, classificou o prompt como resíduo da IA usada na confecção da petição e sustentou que não houve intenção de enganar o sistema.
Ato atentatório
Para Paulo Sérgio Domingues, não importa que a artimanha não tenha conseguido influenciar a ferramenta de leitura usada pelo tribunal, mas, sim, a circunstância da ocultação dos comandos.
Ele identificou má-fé processual e disse que “um acidente não se repente em dois pontos do documento, com estratégias diferentes de dissimulação e coincência cromática com o gráfico do timbre do escritório”.
“A conduta atenta contra a dignidade da Justiça e se pauta pela má-fé processual, por se dirigir a interferir em mecanismos institucionais de apoio à atividade jurisdicional, com potencial de comprometer a integridade e confiabilidade do ambiente processual eletrônico.”
A multa de R$ 20 mil incidirá sobre todos os advogados, pois não cabe ao STJ a apuração individualizada da responsabilidade nesse caso.
AREsp 3.095.458
O post STJ multa advogados em R$ 20 mil por uso de <i>prompt injection</i> em petição apareceu primeiro em Consultor Jurídico.