A recente notícia sobre advogadas punidas por tentarem inserir um “prompt” oculto em petição reacendeu um debate que já não pode ser tratado como curiosidade tecnológica.
No caso noticiado, o juízo identificou texto em fonte branca sobre fundo branco, invisível ao leitor humano, mas legível por sistemas de inteligência artificial, com a intenção de influenciar a resposta da ferramenta usada no Judiciário.
O resultado foi a aplicação de multa por litigância de má-fé e a caracterização da conduta como ato atentatório à dignidade da Justiça.
Em outro caso recente, o TST também puniu empresa e advogado por apresentarem jurisprudência inexistente, possivelmente gerada por IA, reforçando que o processo não tolera atalhos construídos sobre falsidade.
Mas o que é, afinal, “prompt injection”?
Em termos simples, trata-se de uma técnica de manipulação de sistemas de IA em que instruções maliciosas, escondidas no próprio comando do usuário ou em conteúdo externo, são inseridas para desviar o modelo da sua finalidade original, contornar salvaguardas e produzir respostas indevidas.
A literatura técnica da OWASP (comunidade global sem fins lucrativos dedicada a melhorar a segurança de softwares) descreve esse ataque como uma vulnerabilidade relevante dos modelos de linguagem, capaz de gerar vazamento de dados, escalada de privilégios e saídas antiéticas.
A própria OpenAI (empresa de pesquisa e implementação de inteligência artificial) reconhece que esse tipo de ataque é um desafio de segurança de fronteira, especialmente quando a IA passa a lidar com conteúdos de múltiplas fontes.
No processo judicial, a prática é proibida porque fere o núcleo ético da atividade forense.
O Código de Processo Civil determina que todos os sujeitos do processo devem cooperar para uma decisão justa e efetiva, e impõe às partes e a seus procuradores o dever de atuarem com lealdade, boa-fé e veracidade. Além disso, responde por perdas e danos quem litiga de má-fé.
A Lei nº 8.906/1994 também estabelece que o advogado responde pelos atos que, no exercício profissional, praticar com dolo ou culpa.
Em termos constitucionais, o contraditório e a ampla defesa existem para equilibrar o jogo processual, não para autorizar engenharia de engano contra o próprio sistema de justiça.
O dano potencial vai muito além da multa aplicada no caso concreto. Um “prompt injection” pode induzir uma análise superficial, contaminar minutas, ocultar documentos relevantes, distorcer a leitura de fatos e até empurrar o julgador ou a parte contrária para uma conclusão baseada em premissas falsas.
Isso compromete a qualidade da prestação jurisdicional, desperdiça tempo público, aumenta a litigiosidade e corrói a confiança no processo.
Não por acaso, o próprio TST destacou, no episódio das decisões inexistentes, que a criação intencional de conteúdo jurídico fictício para induzir o juízo a erro extrapola o exercício regular do direito.
É justamente por isso que o uso indiscriminado de IA por advogados, juízes, promotores, servidores e estagiários precisa ser enfrentado com serenidade e rigor. A IA ajuda, mas também erra, alucina, simplifica demais e pode reproduzir vieses.
O CNJ, ao regulamentar o tema, afirmou que a IA no Judiciário deve promover o bem-estar dos jurisdicionados e a prestação equitativa da jurisdição, sempre com respeito aos direitos fundamentais, à segurança jurídica, à não discriminação, à transparência e à possibilidade de auditoria humana.
A atualização normativa de 2025 reforçou cautelas com dados sigilosos, curadoria, rastreabilidade e explicabilidade, justamente porque o processo judicial não pode ser entregue à opacidade de uma máquina sem controle.
Isso não significa rejeitar a inteligência artificial. Significa colocá-la no seu devido lugar. Bem usada, ela pode acelerar triagens, organizar grandes volumes de documentos, auxiliar pesquisas, comparar precedentes, sugerir roteiros de peças e ampliar o acesso à Justiça, sobretudo em um país de processos numerosos e estruturas desiguais.
Justiça!
*Este conteúdo é de responsabilidade do autor e não representa, necessariamente, a opinião do Diário de Uberlândia.
