Quanto mais você confia, menos você confere: o viés de automação no gabinete

As primeiras vezes que alguém usa IA no trabalho costumam ser as mais cuidadosas. Cada frase é relida, cada citação é conferida, cada dado é procurado na fonte. A desconfiança é alta, e a revisão acompanha.

Com o tempo, a ferramenta acerta. Acerta de novo. Acerta dez vezes seguidas. E a revisão vai ficando mais curta, sem que ninguém decida encurtá-la.

Não é preguiça nem descuido. É um fenômeno estudado há décadas, com nome próprio: viés de automação.

Quanto mais o sistema acerta, mais difícil fica perceber quando ele erra.

O que a pesquisa chama de viés de automação

Uma revisão sistemática publicada em 2012 no Journal of the American Medical Informatics Association (Goddard, Roudsari e Wyatt) reuniu 74 estudos sobre o tema e definiu o viés de automação como a tendência a depender demais da automação.

Os autores descrevem dois tipos de erro que nascem dele, e os dois têm tradução direta para o trabalho com minuta:

Erro de comissão: seguir a sugestão errada. O sistema propõe, a pessoa aceita, e a proposta estava errada. No gabinete, é a citação que entrou no texto porque veio pronta, o dado que ninguém foi procurar na fonte, a conclusão que passou porque estava bem escrita.

Erro de omissão: não agir porque o sistema não avisou. A pessoa confia que, se houvesse problema, a ferramenta apontaria. Como não apontou, não se olha. No gabinete, é o ponto que ficou de fora do resumo e ninguém sentiu falta, porque o resumo parecia completo.

O segundo é o mais traiçoeiro, porque não deixa marca no texto. É o mesmo problema que o critério de completude da rubrica de revisão de minuta tenta pegar: o que ficou de fora não aparece para ser corrigido.

Três coisas que a pesquisa encontrou e que pesam no Judiciário

Uma das referências mais citadas no tema é uma revisão de Parasuraman e Manzey, publicada em 2010 na revista Human Factors. Ela reúne estudos de áreas como aviação, saúde e controle de processos. Nenhuma delas é o Judiciário, e é preciso dizer isso com clareza. Mas três conclusões conversam diretamente com o trabalho de gabinete.

1. Experiência não protege

O fenômeno aparece tanto em iniciantes quanto em especialistas. Saber muito sobre a matéria não imuniza ninguém contra aceitar a sugestão errada de um sistema que costuma acertar.

Isso derruba uma intuição comum: a de que o risco é de quem está começando. Quem domina o assunto lê mais rápido, reconhece o formato certo e, justamente por isso, pode aceitar mais rápido um texto que tem o formato certo e o conteúdo errado.

2. Aviso e treinamento simples não bastam

Os autores registram que o viés de automação não é evitado só com treinamento ou instruções. Dizer "confira tudo" não faz ninguém conferir tudo.

A revisão de Goddard e colegas lista o treinamento entre as medidas que podem ajudar, junto com outras. As duas leituras se encaixam: aviso solto não muda comportamento; estrutura muda. Volta-se a isso mais abaixo.

3. Sobrecarga e pressa pioram

Os dois trabalhos apontam o ambiente como fator. Parasuraman e Manzey descrevem a complacência aparecendo em situação de várias tarefas ao mesmo tempo, quando o trabalho manual disputa atenção com o que está sendo automatizado. Goddard e colegas listam carga de trabalho, complexidade da tarefa e pressão de tempo entre os fatores que aumentam a dependência.

Esse é o ponto em que o tema deixa de ser só de tecnologia. A ferramenta é mais usada exatamente quando a fila está maior e o prazo está mais curto. E é exatamente nessas condições que a pesquisa encontra mais aceitação sem conferência.

Sobrecarga não é só um problema de saúde. É um problema de qualidade do que sai assinado.

O que a confiança faz com a revisão

A revisão de Goddard e colegas encontrou ainda um padrão de atitude: quanto maior a confiança no sistema e menor a confiança na própria decisão, maior a chance de aceitar uma recomendação errada.

Os dois lados importam. A confiança no sistema cresce sozinha, a cada acerto. A confiança na própria decisão encolhe em situações bem conhecidas: matéria nova, cansaço, cobrança de produtividade, sensação de que a ferramenta "sabe mais".

Não existe um nível certo de confiança para fixar uma vez e esquecer. O que existe é um jeito de fazer a revisão não depender do quanto você está confiando naquele dia.

O que ajuda: estrutura, não força de vontade

Se aviso não basta, o que sobra é desenhar o trabalho de um jeito que a conferência aconteça mesmo no dia ruim. Quatro medidas cabem na rotina, e nenhuma depende de ferramenta nova.

1. Critério fixado antes de ler o resultado. Quem decide o que vai conferir depois de ler um texto convincente já foi influenciado por ele. Uma lista curta, escrita antes, troca a sensação de "ficou bom" por perguntas objetivas. A rubrica de cinco critérios está em Como revisar uma minuta feita com IA.

2. Pedir que a ferramenta mostre de onde tirou. Cada afirmação de fato com o trecho da fonte, e o que for incerto marcado como incerto. A conferência deixa de ser uma releitura inteira e vira uma busca por marcador. O modelo de instrução está em Como padronizar instruções para IA.

3. Responsabilidade explícita. A revisão de Goddard e colegas cita a ênfase na responsabilização de quem usa como uma das medidas de mitigação. No Judiciário, isso já está na norma: a Res. CNJ 615/2025 trata a ferramenta como auxiliar e mantém integralmente com quem decide a responsabilidade pelo que foi decidido (art. 19, § 3º, II). Lembrar disso no momento da revisão não é ameaça: é o que dá peso à conferência.

4. Pedir informação, não decisão. Entre as medidas de desenho de sistema, os autores citam apresentar informação em vez de comando. Na prática: pedir à ferramenta que organize o material, liste pedidos e aponte lacunas, e não que diga o resultado. Quanto mais pronta a resposta chega, mais fácil é aceitá-la inteira.

O contraponto

"Então é melhor não usar?" Não é isso que a pesquisa diz. Os próprios autores da revisão de 2012 registram que o apoio de sistemas costuma melhorar o desempenho geral. O alerta é outro: esses sistemas criam tipos novos de erro, que não existiam antes, e que passam despercebidos se ninguém olhar para eles.

"Isso vale para IA generativa?" Os estudos reunidos nas duas revisões são, em boa parte, anteriores às ferramentas de texto que existem hoje, e tratam de sistemas de apoio à decisão de outras áreas. A transposição para o gabinete é uma leitura do Judiciário Sem Burnout, não um resultado dos estudos. Ela se sustenta num ponto simples: um texto fluente, que acerta quase sempre, reúne as condições que a pesquisa associa ao viés.

O que fica

O risco maior não está na primeira vez que se usa IA. Está na vigésima, quando ela já acertou dezenove e a revisão encolheu sem que ninguém percebesse.

Experiência não protege, aviso não basta, e pressa piora. O que protege é a conferência que não depende da confiança do dia: critério escrito antes, fonte pedida junto, responsabilidade lembrada e decisão mantida com quem assina.

Confiar na ferramenta é inevitável. Deixar de conferir não precisa ser.

---

Material de trabalho sempre anonimizado: dado de processo não vai pra IA nenhuma. O que pode e o que não pode sair está no guia gratuito O que nunca vai pra IA nenhuma.

Referências (conferidas em 21/10/2026).
Goddard K, Roudsari A, Wyatt JC. Automation bias: a systematic review of frequency, effect mediators, and mitigators. Journal of the American Medical Informatics Association, 19(1):121–127, 2012. Texto aberto: https://pmc.ncbi.nlm.nih.gov/articles/PMC3240751
Parasuraman R, Manzey DH. Complacency and Bias in Human Use of Automation: An Attentional Integration. Human Factors, 52(3):381–410, 2010. doi:10.1177/0018720810376055.
Conselho Nacional de Justiça. Resolução CNJ nº 615, de 11 de março de 2025, art. 19, § 3º, II — texto compilado: https://atos.cnj.jus.br/atos/detalhar/6001.
Os estudos citados são de aviação, saúde e controle de processos; a aplicação ao trabalho de gabinete é leitura do Judiciário Sem Burnout. Conteúdo informativo, não é consultoria jurídica personalizada.