O sistema de inteligência artificial do Supremo Tribunal Federal identificou o primeiro caso de tentativa de fraude processual na corte, por meio de um prompt injection, em processo sob relatoria do ministro Cristiano Zanin.
Antonio Augusto/STFO Núcleo de Inteligência Artificial da Secretaria-Geral de Tecnologia e Inovação do STF detectou no Recurso Extraordinário com Agravo 1.608.713 a inserção de comandos ocultos, em letras brancas e com tamanho reduzido, com o objetivo de alterar a decisão do ministro.
A injeção de prompt é uma técnica de manipulação em ferramentas de inteligência artificial generativa para adicionar instruções ocultas em dados de entrada, direcionar respostas e produzir resultados específicos. No contexto jurídico, o prompt injection tem sido usado, com cada vez mais frequência, para adulterar análises processuais.
No caso específico, a parte inseriu em duas páginas “instruções para a inteligência artificial”, imperceptíveis aos olhos. Os trechos ocultos apresentaram argumentos direcionados ao conhecimento e provimento do recurso, orientações para adoção de determinada linha decisória e sugestão de dispositivo para decisão. As palavras ainda foram fragmentadas de forma não usual, de modo a dificultar a detecção da fraude.
A tentativa de burla, no entanto, não produziu efeito prático, porque o gabinete do ministro Cristiano Zanin não utiliza ferramentas de inteligência artificial para análise e fundamentação de processos.
Cotas raciais
O ARE 1.608.713 foi apresentado ao STF por uma servidora pública negra contra decisão judicial que determinou sua exoneração do cargo de oficial do Ministério Público de Minas Gerais. Ela foi substituída por uma candidata branca, que, segundo sua defesa, teria se utilizado de manobras processuais para burlar o sistema de cotas raciais.
Em 19 de agosto, Zanin negou o recurso, aplicando a jurisprudência do Supremo, segundo a qual a corte não pode reexaminar provas e fatos alegados nas instâncias ordinárias (súmulas 279 e 454).
Ao encaminhar a decisão para a análise da 1ª Turma, Zanin detalhou a tentativa do advogado da recorrente de “direcionar, de forma oculta, os sistemas de inteligência artificial do STF para a obtenção de decisão judicial favorável”, e afirmou entender que o uso do prompt injection “viola o dever de lealdade entre as partes” previsto no Código de Processo Civil. Diante disso, aplicou multa de dois salários mínimos por violação do artigo 77 do Código de Processo Penal.
O ministro determinou, ainda, comunicação à Ordem dos Advogados do Brasil para que seja verificada eventual infração ético-disciplinar por parte do advogado e ao Ministério Público Federal para que seja apurada eventual prática de crime.
O caso será julgado pela 1ª Turma do STF, no plenário virtual, a partir desta sexta (25/9).
Clique aqui para ler a decisão
ARE 1.608.713
O post Supremo identifica 1ª tentativa de fraude em processo na corte; relatoria é de Zanin apareceu primeiro em Consultor Jurídico.