Nesta quarta-feira (20), o Superior Tribunal de Justiça (STJ) ordenou a instauração de um inquérito para verificar a utilização de comandos de inteligência artificial com o intuito de fraudar o sistema eletrônico de recebimento de petições da corte.

A decisão, proferida pelo presidente do STJ, Herman Benjamin, resultou na abertura de um inquérito policial e de um processo administrativo interno para investigar supostas tentativas de manipulação, que teriam sido perpetradas por advogados e bancas jurídicas.

Essa providência foi adotada depois que especialistas da corte detectaram a inserção de petições contendo "prompt injection", uma técnica empregada para ludibriar sistemas de inteligência artificial e beneficiar indevidamente litigantes no curso de um processo eletrônico.

Tais comandos disfarçados são incorporados aos documentos com o objetivo de induzir a IA a contornar os filtros de triagem, os quais bloqueiam, por exemplo, a aceitação de uma peça que não preenche os critérios essenciais de admissibilidade.

Conforme o STJ, a plataforma do tribunal já dispõe de mecanismos de segurança contra a aplicação de prompts, garantindo que essas instruções não sejam processadas pelo sistema de recebimento de petições.