Advogado multado em US$ 5 mil por testemunhas alucinadas por IA em um caso de assassinato
A Suprema Corte do Novo México está punindo um advogado por incluir testemunhas fabricadas por IA e depoimentos policiais falsos em um recurso para a condenação de seu cliente por assassinato, de acordo com um relatório do Reuters. Em um documento apresentado na quarta-feira, o tribunal multou Stephen Aarons em US$ 5.000 e o considerou por desacato por não ter “verificado as alegações factuais e a autoridade legal em seu relatório gerado por IA”.
O processo diz que o documento “continha falsos testemunhos de testemunhas totalmente inventadas”, juntamente com “falsos testemunhos” sobre as roupas e aparência do atirador. O juiz C. Shannon Bacon questionou como Aarons não estava ciente dos riscos representados pela IA durante uma audiência em agosto, onde admitiu usar o ChatGPT e pensar que isso geraria um “resumo à prova de balas” do julgamento. “Advogado, você assiste ao noticiário? Você ouve rádio? Você lê alguma coisa sobre o que está acontecendo no mundo?” O juiz Bacon disse, de acordo com Reuters. “Porque o problema com os advogados que dependem de alucinações de IA é uma história acima da dobra todos os dias.”
“Estou arrependido, mas espero que o conselho disciplinar leve em conta que foi um erro honesto”, disse Aarons em comunicado ao Reuters.
