Verificação, dados sensíveis e responsabilidade

Perguntas frequentes

Quem é responsável por um erro cometido pela IA?

Quem assinou. A frase a inteligência artificial escreveu não funciona como defesa no trabalho, na faculdade nem na Justiça. Já houve advogados punidos por citar decisões que não existiam, estudantes reprovados por bibliografia inventada e empresas constrangidas por dados fabricados. Em todos os casos, a ferramenta fez o que sempre faz, produzir o plausível, e faltou alguém fazer a parte humana. O advogado não errou por usar a ferramenta, e sim por não abrir a decisão que citou. A regra não tem exceção: você responde por tudo o que entrega, independentemente de quem produziu.

Como verificar se uma resposta da IA está correta?

Siga cinco passos. Um: confira número, nome, data, lei e citação na fonte primária, sempre. Dois: se a máquina cita uma fonte, abra a fonte e veja se ela existe e diz aquilo; a alucinação mais perigosa é a fonte real citada dizendo o que não diz. Três: pergunte como ela chegou naquilo, para expor o caminho. Quatro: peça que argumente contra a própria resposta; se a contestação for mais forte, havia um problema. Cinco: aplique o teste do especialista, perguntando se um profissional experiente da área concordaria. Se você não consegue responder, não tem condição de assinar sozinho.

Que informações não devo colocar no ChatGPT ou em outras IAs?

Numa ferramenta de uso geral, nunca coloque dados pessoais de terceiros, como nome com CPF, endereço, telefone ou dado de saúde; informação sob sigilo profissional; segredo comercial de outra pessoa ou empresa; senhas e credenciais; ou documento protegido por acordo de confidencialidade. Há duas razões: a LGPD responsabiliza quem trata dado pessoal sem base legal, e você não controla o que acontece com aquilo depois. O caminho é anonimizar: troque nomes por códigos como cliente 1 e cliente 2, remova telefone e documento e, se preciso, use valores proporcionais. A máquina precisa da estrutura do problema, não da identidade das pessoas.