O sistema inteiro
O projeto final junta todos os degraus num assistente com permissão antes da busca, aprovação humana e portão que reverte sozinho, e separa as travas que se afrouxam com evidência das que continuam humanas.
Resumo da aula
- Um sistema de IA se lê pela fronteira de confiança e pelo ponto de consequência.
- No projeto final, a permissão é conferida antes da busca, o que sai para o cliente passa por uma sócia que não foi quem pediu, e uma mudança ruim é revertida por um portão com régua escrita antes.
- Toda decisão precisa de dono, registro e caminho de volta, e o sistema diz por escrito o que não faz.
Neste artigo
- A dona e quem constrói
- O mesmo pedido, três pessoas
- Nada sai sem uma sócia ler
- O pedido razoável da recepção
- O portão de avaliação e a versão que voltou sozinha
- A solução de quem decide e o que o sistema não faz
- Quem toma cada decisão
- As travas que se afrouxam com evidência
- As travas que não dependem do modelo
- A escada inteira e quem subiu com você
O artigo é lido por partes. Use os botões abaixo para avançar — a aula em vídeo e o material de apoio ficam no curso, e o método completo, no livro.
Perguntas frequentes
Como montar um assistente de IA interno com permissões diferentes por pessoa?
Aplicando a permissão antes da busca, de modo que o documento proibido nem chegue ao modelo. No projeto final do livro, com dados fictícios, a mesma pergunta sobre um teto de acordo, escrita para casar com o documento sigiloso, foi feita por três pessoas: a recepção recebeu uma recusa, um advogado associado recebeu só o que o acervo dele sabia e a sócia recebeu o valor com a fonte. A trilha do sistema mostra os acervos consultados em cada pedido. O rascunho de e-mail para cliente para num ponto de aprovação, quem pediu não aprova, e o texto é preenchido pelo código com a resposta conferida, para que o lido seja exatamente o que sai.
Como reverter automaticamente uma mudança ruim num sistema de IA?
Com um portão de avaliação: uma inspeção automática com réguas escritas antes, que reprova a nova versão e devolve a anterior. No projeto final do livro, um pedido razoável da recepção, ver a avaliação de conflito de interesses, virou a mudança de acrescentar o acervo das sócias ao perfil dela. O portão rodou onze perguntas com respostas e documentos proibidos escritos à mão e encontrou vazamento até numa pergunta inocente sobre a consulta inicial. O sistema voltou sozinho à versão anterior, com o motivo escrito, e guardou a versão ruim para investigação. O que sustenta o portão é um oráculo independente, não a própria configuração, e a solução final foi decidida pela sócia.
Quais controles humanos podem ser removidos quando os modelos de IA ficarem melhores?
Só os que existem por causa de uma limitação do modelo, e só com evidência medida. O livro separa as travas em dois grupos. O primeiro compensa limites técnicos: rota decidida por regra, tamanho do contexto e corte dos trechos, frequência de leitura de amostras e autonomia das ações reversíveis; elas se afrouxam com evidência contra um critério combinado antes e voltam ao nível anterior quando algo muda. O segundo protege responsabilidades de pessoas e não depende do modelo: quem assina responde, quem pede não aprova, a ação irreversível tem teto, o gabarito tem dono, dado pessoal tem finalidade e o julgamento sobre o que vale a pena é de quem pode ser questionado.
Ir direto para outra aula
- 1 A segunda onda
- 2 Do chatbot ao sistema que executa
- 3 Tudo o que não é o modelo
- 4 O contrato entre máquinas
- 5 O que a IA precisa saber
- 6 O modelo nunca aperta o botão
- 7 Achar pelo sentido
- 8 Prova com consulta
- 9 O que mora entre os documentos
- 10 A fonte vencida e o teste que sabe falhar
- 11 O agente e quem diz que ele terminou
- 12 Um processo que cabe num desenho
- 13 Peça ao modelo só o que só ele sabe
- 14 Dividir o trabalho, dividir o erro
- 15 Aprovar não é olhar
- 16 Um jeito de desfazer
- 17 Até onde o erro alcança
- 18 Quem acorda de madrugada
- 19 A fatura e o registro
- 20 Quando ninguém estiver calmo
- 21 Automação que erra igual e avisa
- 22 Todo texto pode soar como ordem
- 23 Um agente sem nome próprio
- 24 O dado que nunca precisou chegar
- 25 O sistema inteiro