Casos recentes analisados pelo Superior Tribunal de Justiça mostram que comandos ocultos em petições podem gerar multa, investigação e responsabilização profissional.
Por Lucimara Maciel
Advogada, OAB/RO 15.412 | Bacharel em Direito | Pós-graduada em Processo Penal | Colunista do Pimenta Notícias
A inteligência artificial deixou de ser apenas uma ferramenta para escrever textos, criar imagens ou responder perguntas. Ela já faz parte da rotina do Poder Judiciário e, junto com as possibilidades trazidas pela tecnologia, surgem também novos problemas jurídicos.
Recentemente, o Superior Tribunal de Justiça identificou petições que continham comandos ocultos com o objetivo de tentar influenciar sistemas de inteligência artificial.
Arte: Lucimara Maciel | Produzida no Canva
A prática é conhecida como prompt injection.
Em um dos casos, analisado pela Segunda Turma do STJ, uma petição continha uma instrução escondida direcionada à inteligência artificial para que considerasse vencedora a tese apresentada pela parte.
Além da multa, o tribunal determinou a comunicação do episódio à Ordem dos Advogados do Brasil, ao Ministério Público Federal, à Polícia Federal e ao município onde atua o procurador responsável pela petição.
O que isso significa?
Estamos diante de um problema que até pouco tempo sequer fazia parte da rotina dos tribunais.
As preocupações envolvendo uma petição sempre passaram pela veracidade dos argumentos, pela autenticidade dos documentos, pela correta indicação das leis e precedentes e pelo dever de não induzir o julgador a erro.
Agora surge uma nova preocupação: a tentativa de influenciar também os sistemas tecnológicos utilizados pelo Judiciário.
O uso da tecnologia não transfere essa responsabilidade para uma máquina.
Advogado pode usar inteligência artificial?
O uso da inteligência artificial, por si só, não significa irregularidade.
A tecnologia pode auxiliar na pesquisa, na organização de informações, na revisão de textos e em diversas atividades profissionais.
O problema começa quando ela é utilizada sem conferência humana, para criar informações falsas, citar precedentes inexistentes ou tentar manipular a análise de um processo.
A inteligência artificial pode auxiliar o profissional. A responsabilidade continua sendo humana.
Esse é um dos desafios que a advocacia e o próprio Poder Judiciário já enfrentam: aproveitar os benefícios da inteligência artificial sem abrir mão da ética, da cautela e da responsabilidade profissional.
A inteligência artificial já chegou aos tribunais. Agora, o Direito também precisa estabelecer os limites de como ela será utilizada.
0 comentários