Imagine a cena: um tribunal, um julgamento de assassinato. A defesa, em busca de um argumento forte, apresenta testemunhas. Só que essas testemunhas, bem, elas não existem. Nunca existiram. E o advogado que as “encontrou” agora está em apuros, multado em 5 mil dólares. Parece roteiro de filme, não é? Mas a real é brutal, aconteceu de verdade.
O pulo do gato? A “ajuda” veio de uma inteligência artificial. Um advogado no Novo México usou o ChatGPT para buscar precedentes e acabou com uma lista de casos e testemunhas que eram pura invenção, alucinações da máquina. A história é chocante, e foi noticiada pelo The Verge. Ele confiou cegamente, sem verificar, e agora a reputação dele e a integridade do processo estão em jogo.
Sabe, eu venho falando há tempos que IA não é mágica. Não é um botão de “resolver tudo” que você aperta e o trabalho se faz sozinho. Essa história não é só sobre um advogado desatento; é um alerta pra todo mundo que vê na IA um atalho em vez de uma infraestrutura.
Aqui está o ponto crucial: a inteligência artificial tem um potencial imenso, claro, mas ela não anula a responsabilidade humana, especialmente em campos onde a verdade e a confiança são pilares, como na justiça. Confiar na IA sem supervisão é o mesmo que dirigir vendado, torcendo para o carro seguir reto.
A gente se ilude com a ideia de que a IA vai fazer o trabalho por nós, entregando tudo pronto e impecável. Mas ela é uma ferramenta, não um substituto para o pensamento crítico. Viramos um “Frankenstein digital” quando juntamos várias dessas ferramentas sem um fluxo coerente, sabe? O resultado é uma colcha de retalhos, cheia de falhas.
O advogado do Novo México não perdeu só dinheiro; ele perdeu credibilidade. E isso, no campo jurídico, vale mais do que qualquer multa. O Tribunal Superior do Trabalho, inclusive, já aplicou multas por litígio de má-fé em casos de precedentes falsos gerados por IA, como apontado pela ConJur. A irritação nos tribunais é real, e as consequências vão muito além de um processo. Elas corroem a confiança no sistema.
A IA não é sobre substituir a inteligência humana, mas sim sobre ser uma infraestrutura para clareza e execução. Ela deve nos dar mais tempo para pensar, para planejar, para verificar, e não menos. O valor dela é ser instalável em rotinas, em playbooks, transformando conhecimento em memória institucional. Não é para virar um robô sem alma.
A ilusão da eficiência sem supervisão
O mercado está infestado de promessas de “eficiência máxima” com IA. E a gente compra essa ideia, achando que vamos ser mais rápidos, mais produtivos, sem esforço. Mas velocidade sem direção é só um acidente esperando para acontecer. No caso do direito, onde cada palavra, cada precedente, cada testemunha importa, a IA que alucina pode ser catastrófica. Ela entrega o que acha que você quer, não necessariamente o que é a verdade. E se você não tiver um processo de verificação robusto, um ser humano ali para validar, a falha é inevitável.
O peso da responsabilidade é humano
Ninguém vai julgar a IA por má-fé. Quem responde é o profissional. A máquina não tem ética, não tem alma, não tem reputação a perder. O princípio do devido processo legal, garantido pela nossa Constituição, é a promessa de que decisões sobre direitos e liberdades serão tomadas com base em regras conhecidas e controladas. Quando a IA entra em cena, essa previsibilidade pode ser comprometida se não houver um filtro humano. As ameaças da IA ao processo são claras, e a Ordem dos Advogados do Brasil (OAB) já precisa atualizar seu Código de Ética e Disciplina para tipificar a manipulação de sistemas de IA, equiparando-a à subornação de testemunhas, como bem pontua o artigo da Migalhas. A confiança é construída com engenharia, não com um toque de mágica.
IA: infraestrutura de execução, não substituto do cérebro
Eu não acredito em IA como uma feature isolada. Eu cobro resultado. E resultado vem de rotina bem definida. A IA, nesse contexto, é um motor para a execução. Ela acelera tarefas repetitivas, organiza dados, identifica padrões. Mas o comando, o discernimento, a checagem final, tudo isso é do ser humano. O futuro não pertence a quem sabe mais sobre IA; pertence a quem transforma IA em rotina, rotina em resultado e resultado em liberdade. Liberdade para focar no que realmente importa: a estratégia, a ética, a verdade.
Alguém pode argumentar: “João, mas a IA está evoluindo rápido. Logo, essas ‘alucinações’ serão coisa do passado, e ela será confiável sozinha.” E eu concordo que a tecnologia avança a passos largos. A precisão dos modelos certamente vai melhorar. Mas a questão fundamental não é a capacidade da máquina de ser “perfeita”. É a nossa responsabilidade de garantir que, em ambientes críticos como a justiça, o último ponto de controle seja sempre humano. A IA pode ser um copiloto brilhante, mas o piloto somos nós. Nunca esqueça: processo não é burocracia, processo é liberdade repetível. É a liberdade de confiar que, mesmo com a tecnologia mais avançada, a decisão final ainda passa pelo crivo de um ser humano com consciência.
Então, como aplicamos isso no dia a dia? Simples: todo resultado gerado por IA em um contexto crítico, seja ele um precedente legal, uma análise de contrato ou uma sugestão de testemunha (que, por favor, não seja o caso), precisa ser duplamente verificado. Crie um playbook, um protocolo de checagem. Use a IA para rascunhar, para acelerar a pesquisa inicial, para organizar montanhas de dados. Mas, antes de levar qualquer coisa para um tribunal, passe um pente-fino humano, um processo de validação que seja tão rigoroso quanto sua própria reputação.
A IA é uma ferramenta poderosa, sim. Mas ferramentas exigem mestria. Em áreas sensíveis como a justiça, onde a verdade é o bem mais precioso e a reputação é a moeda mais cara, delegar a responsabilidade de verificar a realidade para um algoritmo é um erro que pode custar muito, muito caro. O jogo é construir confiança, e isso sempre exigirá uma dose essencial de humanidade e discernimento. Afinal, qual é o valor da eficiência se ela vem à custa da credibilidade?