Publicações

Um recente caso na Justiça do Trabalho colocou uma estratégia pouco conhecida no centro do debate jurídico brasileiro. Em reclamação trabalhista perante a 3ª Vara do Trabalho de Parauapebas/PA, o juízo identificou que a petição inicial continha comando oculto, escrito em fonte branca sobre fundo branco, direcionado a sistemas de inteligência artificial. A instrução buscava induzir eventual ferramenta a elaborar contestação superficial e a não impugnar documentos. O magistrado entendeu que a prática configurou ato atentatório à dignidade da Justiça e aplicou multa solidária de 10% sobre o valor da causa.

A técnica é conhecida como prompt injection. Em termos simples, trata-se da inserção de comandos invisíveis ao olho humano em um conteúdo que será lido por uma IA, com o objetivo de alterar indevidamente sua resposta. O risco pode ser direto, quando o usuário tenta fazer a ferramenta ignorar suas próprias regras, ou indireto, quando a instrução maliciosa está escondida em documentos, e-mails, páginas da internet, metadados, imagens ou arquivos aparentemente legítimos.

No contexto processual, a gravidade está no fato de que o documento deixa de ser apenas objeto de análise e passa a funcionar como vetor de manipulação. Uma petição, contrato ou relatório não contém somente fatos e fundamentos jurídicos, mas também pode carregar uma ordem oculta dirigida à camada automatizada que resume, organiza ou auxilia a elaboração de minutas. Por isso, o tema se conecta diretamente à boa-fé processual, à lealdade, à cooperação, ao contraditório e à confiança na integridade do processo eletrônico.

O episódio brasileiro ganhou repercussão porque o comando teria sido identificado pelo Galileu, ferramenta de IA generativa utilizada na Justiça do Trabalho como apoio à leitura de peças e à elaboração de minutas. O ponto central não é atacar o uso de IA no Judiciário, mas reconhecer que a adoção institucional dessas ferramentas exige mecanismos técnicos e jurídicos de proteção contra entradas contaminadas, especialmente quando o sistema processa documentos apresentados pelas próprias partes.

Esse debate se torna ainda mais relevante diante do lançamento, em 20 de maio de 2026, do projeto IA TJSP – julgar rápido, julgar muito, julgar bem. Segundo o Tribunal de Justiça de São Paulo, a iniciativa reúne diretrizes, ferramentas e orientações para uso de IA como apoio à atividade jurisdicional, em conformidade com a Resolução CNJ nº 615/2025. O portal interno centraliza recursos como o Transcreve TJSP, o Apoia, o Promptus, o Gerador de Ementas TJSP e o Jurisprudência GPT, sempre com revisão humana obrigatória e vedação ao uso da IA para tomada de decisões.

A conexão entre o caso de prompt injection e o IA TJSP é evidente: quanto mais tribunais utilizarem IA para transcrição, anonimização, pesquisa, geração de ementas, organização de informações e apoio à produtividade, maior será a necessidade de separar conteúdo processual de comando operacional. Se essa distinção não for bem controlada, documentos apresentados pelas partes podem tentar influenciar a forma como ferramentas auxiliares compreendem a controvérsia, ainda que a decisão final permaneça humana.

O alerta também vem do exterior. Um juiz federal do Alabama suspendeu um advogado por seis meses de atuação perante sua corte após concluir que ele apresentou peça com citações falsas e dificultou a investigação sobre eventual uso de IA generativa. Segundo a reportagem, o advogado teria apagado sua conta do ChatGPT poucos dias depois de ser ordenado a produzir registros relacionados à ferramenta. O juiz destacou que advogados não estão proibidos de usar IA, mas continuam obrigados a verificar a precisão das peças apresentadas ao Judiciário.

O caso norte-americano acrescenta uma camada importante ao debate. O problema não está apenas em usar IA, nem mesmo apenas em errar. O risco jurídico cresce quando há falta de verificação, ausência de transparência, destruição de evidências, resistência à apuração ou tentativa de ocultar o modo como a peça foi produzida. Em outras palavras, a responsabilidade profissional passa a envolver não só o conteúdo final da manifestação, mas também a governança do processo de elaboração.

Para escritórios de advocacia, a lição prática é imediata. Políticas internas de uso de IA devem vedar comandos ocultos, manipulação de documentos, uso de trechos invisíveis e qualquer tentativa de interferência indevida em sistemas da parte contrária ou do Judiciário. Também devem exigir conferência humana de citações, jurisprudência, fatos, cálculos e documentos; manutenção de registros mínimos quando a ferramenta for usada em tarefas relevantes; e orientação clara para que advogados jamais destruam evidências relacionadas a questionamentos judiciais ou disciplinares.

Além disso, documentos recebidos de terceiros precisam ser tratados como entradas potencialmente não confiáveis. Contratos, petições, pareceres, currículos, propostas comerciais e anexos podem conter texto oculto, comentários, metadados ou instruções embutidas capazes de contaminar ferramentas de IA. Isso exige cuidados como inspeção de documentos, limpeza de metadados, conversão segura de arquivos, revisão da saída gerada pela IA e limitação de permissões de agentes conectados a bases internas.

Fora do Judiciário, o prompt injection também pode afetar empresas que utilizam IA em atendimento, recursos humanos, análise contratual, compliance, marketing, financeiro ou segurança da informação. Um currículo pode tentar manipular uma triagem automatizada; um e-mail pode orientar um assistente de IA a ignorar políticas internas; um contrato pode induzir uma ferramenta de revisão a deixar de apontar riscos; e um agente conectado a sistemas corporativos pode executar comandos indevidos se não houver barreiras adequadas.

Os casos recentes indicam uma nova fase do debate sobre IA e Direito. A preocupação já não se limita a alucinações, citações inexistentes ou respostas imprecisas. Agora, entram em pauta a manipulação deliberada de sistemas, a integridade dos documentos, a preservação de evidências e a governança da atuação profissional com ferramentas generativas. A resposta adequada não é abandonar a IA, mas criar condições para que ela seja usada com segurança, lealdade e responsabilidade.

Fontes: migalhas | jota | Reuters | conselho superior da justiça do trabalho | Tribunal de Justiça de São Paulo | Resolução cnj nº 615/2025 | owasp llm prompt injection prevention cheat sheet