O que a IA é — e por que ela erra com confiança

Perguntas frequentes

Como funciona a inteligência artificial que escreve textos?

Por trás dessas ferramentas há um modelo de linguagem: um sistema treinado sobre uma quantidade imensa de texto para prever qual continuação é mais plausível, dado tudo o que veio antes. Ele não sabe as coisas como uma pessoa sabe e não consulta um banco de fatos verificados; produz a sequência de palavras mais coerente com o padrão que aprendeu. Por isso é excelente onde há padrão forte, como reescrever com clareza, organizar ideias, traduzir e resumir. Para usá-lo bem, você não precisa de matemática, mas de um modelo mental correto, como quem aprende a dirigir sem saber projetar o motor.

Por que o ChatGPT e outras IAs inventam informações?

Porque, onde não há padrão forte, como um número específico, o nome de uma decisão judicial, uma data pouco conhecida ou a referência de um artigo, o modelo produz mesmo assim a continuação mais plausível, e plausível não é verdadeiro. Isso se chama alucinação. Ele não está mentindo no sentido humano; está fazendo aquilo para que foi treinado. Pior: não existe um mecanismo confiável de dúvida embutido, então o tom é igualmente seguro no acerto e no erro. A referência inventada parece tão boa quanto a verdadeira, e a fluência deixou de indicar confiabilidade. É como o ponto cego do carro: está em todo modelo.

Como tirar respostas melhores da inteligência artificial?

Dê contexto. A máquina só sabe o que você contou, mais o que aprendeu no treinamento: não conhece o seu negócio, os seus números, as suas restrições nem o que foi combinado ontem. O que você não contar ela preenche com o genérico, ou com o inventado. Um pedido genérico devolve algo genérico; o mesmo pedido com a situação, os limites e os problemas anteriores devolve algo de outra ordem de grandeza. Mesmo assim, trate o bom resultado como ponto de partida. Quem assina deve conferir tudo o que for específico, como número, nome, data e citação, e desconfiar do tom seguro, que não prova nada.