O agente e quem diz que ele terminou
Modelo, harness e ambiente de execução; o laço em cinco fases, o critério de parada que o agente não consegue burlar e a reflexão que só ajuda quando a conferência vem de fora.
Resumo da aula
- Um agente é um modelo que propõe, um harness que decide o que acontece e um ambiente onde as coisas acontecem.
- Das cinco fases do laço, só a decisão é do modelo; as outras são projeto seu, mesmo quando o harness é comprado pronto.
- O critério de parada vale o que vale o instrumento que ele consulta, e o agente não pode mexer nesse instrumento.
Neste artigo
- O modelo não mentiu: três decisões foram tomadas fora dele
- Três peças que parecem uma só
- O laço em cinco fases, e só uma é do modelo
- Critério de parada: a parte que quase ninguém escreve
- O agente que conserta o termômetro
- A memória do projeto mora nos arquivos
- A referência que não existe, conferida com convicção
- Agir e observar, planejar e executar, e refletir
- O verificador externo: troque o espelho pelo bibliotecário
- Ferramentas pelo custo e pelo risco
O artigo é lido por partes. Use os botões abaixo para avançar — a aula em vídeo e o material de apoio ficam no curso, e o método completo, no livro.
Perguntas frequentes
Qual a diferença entre modelo, harness e ambiente de execução num agente de IA?
O modelo recebe texto e devolve texto: uma resposta ou um pedido para usar uma ferramenta. Ele propõe, mas não abre arquivos nem lembra da sessão anterior. O harness é o programa em volta: monta o que o modelo vê, apresenta as ferramentas, confere permissões, executa, conta os passos e decide quando parar. O ambiente de execução é onde as ações acontecem de verdade: a pasta do projeto, o terminal, a rede, as credenciais. No laço de cinco fases do agente, observar, decidir, agir, verificar e encerrar, só a decisão é do modelo. Por isso o mesmo modelo em dois harnesses diferentes vira outro agente.
O que é critério de parada de um agente e por que ele importa?
É a regra, escrita antes, que diz quando o agente pode parar. O livro pede quatro saídas: sucesso verificável por algo fora do modelo, como testes passando; orçamento de passos, tokens, tempo ou dinheiro; impasse, quando a mesma ação se repete sem mudar nada; e fronteira, quando a próxima ação sai do autorizado e volta a uma pessoa. O modelo dizer que terminou não é critério. E o agente não pode ter poder sobre o instrumento que mede o próprio sucesso: no caso do livro, um agente de código fez o teste passar alterando o teste, não o código. A correção foi deixar os testes somente leitura e conferir que nenhum foi alterado.
A autocrítica (reflexão) de um agente de IA corrige os erros dele?
Só quando o retorno vem de fora. Na reflexão, o agente escreve o que deu errado e usa isso na tentativa seguinte. Se o retorno vem de um teste que falhou, de uma base consultada ou de uma pessoa, há com o que trabalhar. Se vem do próprio modelo, com as mesmas informações que tinha ao errar, ele só reorganiza o erro com palavras mais seguras. No exemplo do livro, um agente inventou uma referência bibliográfica, declarou-a conferida e a gravou na memória como fonte-chave. A solução foi um verificador externo e determinístico que procura cada identificador no acervo, e a memória passou a receber só o que passou nele.
Ir direto para outra aula
- 1 A segunda onda
- 2 Do chatbot ao sistema que executa
- 3 Tudo o que não é o modelo
- 4 O contrato entre máquinas
- 5 O que a IA precisa saber
- 6 O modelo nunca aperta o botão
- 7 Achar pelo sentido
- 8 Prova com consulta
- 9 O que mora entre os documentos
- 10 A fonte vencida e o teste que sabe falhar
- 11 O agente e quem diz que ele terminou
- 12 Um processo que cabe num desenho
- 13 Peça ao modelo só o que só ele sabe
- 14 Dividir o trabalho, dividir o erro
- 15 Aprovar não é olhar
- 16 Um jeito de desfazer
- 17 Até onde o erro alcança
- 18 Quem acorda de madrugada
- 19 A fatura e o registro
- 20 Quando ninguém estiver calmo
- 21 Automação que erra igual e avisa
- 22 Todo texto pode soar como ordem
- 23 Um agente sem nome próprio
- 24 O dado que nunca precisou chegar
- 25 O sistema inteiro