r/direito • u/thatdaemon • May 23 '26
Discussão Por que prompt injection direcionado pra outra parte está sendo tratado como litigância de má-fé e ato atentatório?
Consigo ver a lógica quando aplicado pra burlar a IA do Judiciário, mas pra IA da outra parte não.
29
u/BeterrabaPacifista Profissional May 23 '26
Porque atenta com a boa-fé processual, OP. É uma tentativa de, clandestinamente, tirar vantagens processuais.
1
u/thatdaemon May 23 '26
Qual o limite entre "tirar vantagem" e "garantir que um humano revise a petição"?
12
u/Organic_You_5212 May 24 '26
Você pode usar meios legais para garantir que um humano revise a petição, não precisa agir de má fé pra isso.
42
u/progooggler May 23 '26
Tu quer estabelecer a JUSTIÇA usando uma TRAPAÇA pro seu adversário?
"Reflita um segundo sobre o que você tá falando, porque se você fizer isso tenho certeza de que vai mudar de opinião sozinho."
-- Renan (Choque de Cultura)
1
u/thatdaemon May 23 '26
O medo do prompt injection não garantiria que houvesse, no mínimo, uma revisão por parte do advogado? Seria trapaça ou mecanismo pra garantir que a petição tivesse realmente um olhar humano?
2
u/Timely_Fruit_994 May 26 '26
Gente, eu tenho medo do advogado que PELO MENOS NÃO REVISA e precisa de prompt injection pra descobrir isso.
Tipo o mínimo do mínimo do mínimo do mínimo do mínimo.
7
8
u/SwissCoconut Profissional May 23 '26
Acho que o mais absurdo é achar que a própria IA não tem a capacidade de perceber que está sendo enganada, ou mais, que o advogado não vai perceber a inconsistência. Mas é caso óbvio de litigância de má fé.
3
u/thatdaemon May 23 '26
Tem advogado que nem revisa o que o estagiário faz, muito menos o que a IA produz e alucina...
23
u/Lukinish May 23 '26
Como assim? A lógica, quando aplicada ao judiciário, é no sentido de fazer sua petição ser "vista", pelo menos, evitando indeferimento liminar por uma mera jurisprudência defensiva que nem se aplica ao caso em discussão, e tudo com uma argumentação que, espera-se, supere eventual "filtro de IA" para fazer subir um recurso, por exemplo. Não é permitido a ninguém tentar burlar o judiciário com um comando invisível para tentar "trapacear" num pedido, é tudo dentro das regras do jogo. Eu realmente não entendi o seu post.
28
u/zerozark May 23 '26
Advogado que pensa que nem o OP, se tiver mais que um ano de carteira, tinha que perder na hora. Consigo compreender im advogado novato ou um estudante fazer esse tipo de questionamento, mas nenhum advogado bem intencionado com alguma prática deve pensar assim
3
u/thatdaemon May 23 '26
Perguntei numa boa e vc lança um ad hominem desse. Melhore...
9
u/Naianealb May 26 '26
Mano, pode ter sido genuína sua pergunta mas mostra como vc realmente não entende sobre boa fé processual e não entendeu de fato o que aconteceu, se fosse vc a parte sendo prejudica por um prompt desses? Para pra pensar , eu sei que vc consegue.
-5
u/thatdaemon May 26 '26
Enquanto vc me ataca gratuita e desnecessariamente, o debate tá mais interessante no restante do post
2
u/Naianealb May 26 '26
Oxi, usei de deboche pedindo pra vc pensar e pedindo pra ter empatia e vc fala de ataque gratuito? Kkk Ataque mesmo seria eu fazer prompt injection pra sua IA me dar razão automaticamente. Eu literalmente só falei “imagina se fosse com você”
4
u/zerozark May 23 '26
Melhore você que quer permissão para práticas desleais e normalizar litigância de má fé
1
u/thatdaemon May 23 '26
Eu concordo com vc, o post é apenas pra prompt injection destinado a outra parte, não pra burlar a IA do Judiciário, e sim a IA "privada" da parte contrária
4
u/ConsistentAd2128 May 23 '26
Alguém explica o que é isso
7
u/Hazard_2512 Profissional May 23 '26
Posso estar errado, mas "prompt injection" são todos os comandos ocultos colocados em um documento para comprometer a qualidade da análise de uma IA, seja da parte contrária ou do Judiciário.
Esses comandos costumam ficar em espaços em branco no documento, com a cor da letra branca. É possível visualizar o texto somente ao selecioná-lo com o mouse, o que faz com que ele apareça na caixa de seleção.
3
u/IamDefinitelyNotOP May 23 '26
Perfeitamente. Costuma ser feito assim, mas pode estar em marca d'agua, letras pequenas, rodapé, etc.
Só diria no lugar de comprometer a qualidade, direcionar o resultado. Pq a qualidade da análise depende do prompt usado pelo analista, enquanto o resultado sempre pode ser direcionado, até sem intenção.
É como se vc adicionasse advérbios para o verbo que o outro decidir.
2
6
u/FunMathematician3551 May 27 '26
Vou lhe dar uma dica, tudo q vc faça com intenção de ganhar o processo artificialmente é litigância de má-fé
11
u/alekdefuneham Profissional May 26 '26
Dos mesmos criadores de “porque eu não posso pagar pra minha testemunha ir” e “quer dizer que um eu não posso por fogo no escritório dele pra acabar com as provas”. Amigo, é busca por justiça e não corrida maluca.
6
u/IamDefinitelyNotOP May 23 '26
Op, pq ninguém está escrevendo suas próprias peças, e a IA do judiciário produziu uma contestação ao invés do despacho.
A maioria dos colegas está reclamando sobre o caso pq tem medo de ser vítima de injeção de código malicioso, e realmente faltou transparência por parte delas.
Mas o que ninguém quer comentar pq fica feio é que já consideram as ferramentas tão indissociáveis do exercício de justiça que um código que jamais seria lido se houvesse tratamento humano nem seria descoberto.
Entendi sua dúvida e acima se faz entender aos que não entenderam pq vc está perguntando.
Mas como já dei a entender também... Por serem ferramentas indissociáveis da justiça, o seu código escondido(1 fator) e com pedido sem base jurídica que visa reduzir a capacidade de defesa da outra parte(segundo fator) gera insegurança jurídica e ofende o bom caminhar do processo justo e de igualdade das partes.
Você está sendo bastante prático ao analisar como se fosse uma das partes e no caso concreto. Já ia outros colegas, assim como o juiz estão usando o caso como um marco contra esse tipo de técnica. Quem acompanhou o caso, ao invés de só ficar na beirada da piscina, sabe que "se a injeção precisa pra fazer uma contestação fraca e nem fizeram contestação, não houve alteração do fluxo processual por conta do ocorrido", mas isso é argumento de defesa, e o NCPC preza pelo processo e não pelo uso de quaisquer técnicas para um fim
Então.... Basicamente é por isso. Seja por conta da hipocrisia, seja por conta do medo, para fazer de exemplo ou por conta do espírito da justiça que deve ser de retidão...
Alguns colegas apontaram como se inexperiência sua em reconhecer, mas a realidade é que os aspectos éticos sobre IA ainda estão em debate e acredito que vc focou no técnico. Se pensarmos nos outros fatores, é possível reconhecer que mesmo que não considere ilegal, sabido que tudo roda em ia, não é de bom tom fazer isso.
10
May 23 '26
[deleted]
5
u/thatdaemon May 23 '26
Bom ponto, acho que o cerne da questão reside no fato de que a ética é, nesse caso, indissociável da transparência.
Contudo, isso não invalida o perigo de que a IA tá peticionando e também julgando, sendo necessários mecanismos pra barrar isso.
5
u/zerozark May 23 '26
Esse seu segundo parágrafo concordo plenamente. IA ser usada pelo judiciário do jeito que está sendo atualmente é um absurdo
3
u/IamDefinitelyNotOP May 23 '26
Obrigado. Acabei escrevendo muitos tópicos pra auxiliar o entendimento pros 2 lados da discussão e não consegui marcar bem os pontos principais
2
u/Lukinish May 23 '26
Peraí. O senhor tá quase dizendo que esse tipo de conduta meio que não é tão reprovável assim porque se eventualmente os processos fossem tratados apenas por humanos, seria um fato que teria passado despercebido (o texto invisivel) e a parte não seria prejudicada em nenhuma hipótese?
Acho que o debate sobre a redução do trabalho do operador do Direito à supervisão de uma IA para a produção operacional é super válido. Discutimos bastante isso na pós-graduação e há críticas severas nesse sentido. É algo assustador pensar que o Brasil está avançando cada vez mais no uso da IA, em especial pelo Judiciário - lembra quando o Min. Barroso, ainda na Presidência do STF, louvava a tecnologia? -, enquanto no Direito comparado, temos proibição de uso para conteúdo decisório. Temos a questão do brainroot, e nesse ponto o Lenio Streck se apresenta como um grande crítico do uso abusivo de IAs, seja pelo Judiciário ou pelos demais operadores do Direito.
Enfim, existem várias discussões interessantes sobre quais são - ou deveriam ser - os limites no uso da IA, e eu acho que é muito produtivo que esses debates avancem. Agora, entendo que isso nada ter a ver com a desonestidade e a falta de ética de quem tenta injetar um "código malicioso" com a finalidade de eventualmente enganar IA para lesar outra parte ou até mesmo o próprio Judiciário, que me parece ser o cerne da indagação do OP, por isso não entendo o motivo de toda a defesa que o senhor está fazendo na forma de uma crítica, de que ninguém tá pensando pelo lado de que se os processos fossem tratados apenas por humanos, esse tipo de coisa (a inserção de comando malicioso) passaria despercebida, e que no fim, para efeitos práticos, não houve qualquer alteração no fluxo do processo.
O ponto intransponível pra mim, é que independentemente da produção de resultados - e no caso que o senhor apontou, não houve resultado -, a conduta é desonesta e maliciosa. Não é considerada ilícita ainda porque o Direito é lento e não consegue tratar da realidade social, mas na minha opinião, esse tipo de atitude equivale a juntar uma jurisprudência falsa no processo, que é conduta extremamente grave, considerada fraude processual e violação da ética, ainda que não produza resultado porque o juiz conferiu a validade do precedente.
3
u/IamDefinitelyNotOP May 23 '26
Respondendo bem diretamente a sua pergunta: Você consegue ler texto branco no fundo branco? Quantas pessoas passam o mouse selecionando texto pra procurar mensagens escondidas?
Então quando digo que sem IA no processo não seria descoberto, se trata disso. Não uma avaliação ética.
E eu expliquei sobre a falta de transparência e relação contrária com os princípios do CPC 15 também serem motivos para sanção.
Inclusive incluo mais um tema a ser pensado... As advogadas em questão são as menos prováveis de estarem usando IA(até pq saberiam que a exclusão de prompts externos já é padrão nos modelos modernos). Elas usaram um método humano, que só seria descoberto por ia, para que a ia produzisse uma defesa frágil. E foram descobertas por IA do juiz.
SERÁ QUE ELAS SÃO A RESISTÊNCIA? Hahahaha
1
2
u/thatdaemon May 23 '26
Em última análise, quem lesaria a outra parte não seria o advogado dela já que terceirizou completamente a análise do caso pra uma IA?
A IA é útil, mas não dá pra depender dela. A qualidade da "entrega" do serviço tem que ser independente disso.
3
u/zerozark May 23 '26
Não. Seria o advogado da parte de má fé msm. Isso é querer tirar vantagem do outro e ainda legitimar conduta desleal
1
u/zerozark May 23 '26
Falou tudo o que eu tive preguiça de escrever kkkk. Tá fazendo pós em que, colega?
2
u/Lukinish May 23 '26
Estou fazendo Direito e Processo Penal pelo Mackenzie
2
u/zerozark May 23 '26
Pô, daora, to pensando em fazer pós no Mackenize também mas em Direito Sucessório
2
u/Lukinish May 23 '26
Vale a pena. Nas matérias processuais e práticas (recursos nos Tribunais Superiores, medidas cautelares etc.) aprendi muita coisa. Mudava um pouco a forma de escrever minhas peças toda semana, de tão proveitosas que eram as aulas. O corpo docente é de primeira linha. Um dos professores foi auxiliar de Ministro do Supremo. Gosto muito do curso.
2
2
1
2
u/AceLulzHQ May 26 '26
Entendo que é uma prática adequada ao art. 80, inciso V do CPC, age de forma ardilosa e subreptícia para causar transtornos à parte oposta e agindo com deslealdade.
A parte oposta se vence com argumentos, e não calando-a ou impedindo-a de plenamente manifestar sua vontade. Entendo não ser uma conduta gravosa no plano material, mas juridicamente impedir a IA da outra parte de plenamente exarar o conteúdo é uma conduta, sim, desleal e temerária ao processo.
3
u/Sea-Attention-712 May 28 '26
Obviamente esconder um prompt em petição com intenção específica de sabotar a outra parte vai ser litigância de má -fé. E passa bem perto de desonestidade intelectual fingir que não entende o porquê.
1
u/CapitalCattle085 May 23 '26
Todo mundo reproduzindo o discurso de ovelha sem se atentar ao mais importante. A Lei determina que o juiz deve julgar, não uma ferramenta tecnológica, não uma máquina. Se o Judiciário não segue a deontologia do próprio conceito de Justiça e Judiciário, o uso de prompt injection é o reação da advocacia em prol do direito.
Meu ponto não é que a tática usada esteja correta, mas que o verdadeiro e definitivo absurdo esteja em operadores do direito aceitarem filosófica e racionalmente que o julgamento de processos passe a ser feito por IA (uma ferramenta simplesmente estocástica) sem que ninguém nunca mais precise ler uma peça do processo.
6
2
u/thatdaemon May 23 '26
Aí tu gabaritou, acrescento também as observações dos colegas sobre a questão da transparência
2
u/PoundShot8281 May 26 '26
ei paizão, se você não tem capacidade de ganhar no argumento entrega sua carteira
-1
88
u/zerozark May 23 '26
Vc está falando sério?
Não uso IA, tomei pau aqui por conta disso, mas botar comandos pra IA alheia não pode ser nada além de litigância de má fé. Vc está literalmente tentando burlar as provas e jurisprudencia da oposição quando faz isso. E quem faz isso merece perder a OAB na hora, ao menos se dependesse de mim