A inteligência artificial comete erros graves — e em domínios como o direito, esses erros podem ter consequências devastadoras para clientes e profissionais. Cada interação com ferramentas como Claude ou ChatGPT traz um aviso discreto: «A IA pode cometer erros.» A maioria dos utilizadores ignora-o, mas especialistas alertam que esta frase não é uma formalidade. Trata-se de um alerta crítico para quem recorre à IA em contextos técnicos, complexos e legalmente sensíveis.
O perigo da confiança cega: quando a máquina aparenta certeza
Uma das características mais perigosas dos grandes modelos de linguagem atuais não é apenas o facto de estarem errados. É que estão errados com confiança. Ao contrário de profissionais cautelosos, os sistemas de IA não hesitam nem verificam duas vezes uma citação. Geram respostas fluidas, bem estruturadas e com tom autoritário, inserindo erros dentro de apresentações polidas que são fáceis de ignorar.
Alucinações como traço estrutural do sistema
Este fenómeno, designado por alucinação, não é uma falha que será corrigida na próxima atualização do modelo. É uma característica intrínseca ao funcionamento destes sistemas, que produzem resultados probabilísticos com base em padrões dos dados de treino — e quando chegam aos limites do seu conhecimento, continuam a gerar, de forma plausível e, por vezes, totalmente incorreta. Para um não especialista, esses erros são essencialmente invisíveis: o resultado parece correto, tem formato adequado e usa vocabulário jurídico apropriado. Não há nada à superfície que denuncie que a análise subjacente está equivocada.
Erros invisíveis na prática jurídica: exemplos reais
No domínio da assessoria jurídica — especificamente em compliance, defesa de colarinho branco e governação corporativa — as ferramentas de IA cometem regularmente erros significativos. Um especialista relata ter visto sistemas de IA citarem casos que não existem, distorcerem o teor de decisões reais, confundirem quadros regulatórios e gerarem análises de conformidade que soam autoritárias mas assentam em erros factuais ou legais.
O caso dos tribunais que nunca existiram
Um exemplo concreto: a IA pode inventar jurisprudência, criando referências a acórdãos que nunca foram proferidos. Para um profissional experiente, o erro salta à vista; para um jovem associado ou um não especialista, o texto parece credível. A diferença é crucial: um estagiário que erra produz um memorando que um sénior revê e corrige. Mas um sistema de IA que erra produz um resultado que, se usado sem revisão de um perito, pode nunca ser corrigido. As consequências jurídicas não são abstratas — análises erradas levam a decisões erradas, riscos não identificados, defesas falhadas e exposição regulatória.
A verificação humana como requisito estrutural
A lição não é que a IA seja inútil. Pelo contrário, é uma ferramenta genuinamente poderosa para pesquisa, redação, síntese, identificação de questões e aumento de produtividade. A lição é que a IA é um ponto de partida, não um ponto de chegada. Qualquer profissional que recorra à IA num campo técnico deve incorporar a verificação humana no seu fluxo de trabalho como um requisito estrutural, e não como um controlo de qualidade ocasional. Isto implica revisão especializada de análises jurídicas, médicas, financeiras ou científicas geradas por IA antes de serem utilizadas.
Além disso, é essencial a verificação de fontes: confirmar que citações, casos, regulamentos e dados existem realmente e dizem o que a IA afirma. O discernimento contextual só pode ser aplicado por um especialista no domínio. Por fim, as organizações devem estabelecer políticas explícitas que regulem o uso da IA em trabalhos de alto risco. Para departamentos jurídicos, funções de compliance, consultórios médicos e serviços financeiros que implementam IA à escala, esta não é uma opção — é uma obrigação de gestão de risco.
A indústria da IA celebra a capacidade, e essa celebração é merecida. No entanto, uma capacidade notável não elimina a responsabilidade de verificar. Na prática profissional, o padrão de diligência não se altera por existir uma nova ferramenta. Os advogados continuam responsáveis pela exatidão do seu trabalho jurídico, os responsáveis de compliance pela solidez das suas avaliações de risco e os médicos pela qualidade do seu julgamento clínico. A IA pode assistir todas essas funções, mas não pode substituir o perito humano que responde por elas.