O que é human-in-the-loop e quando usar?

SinapseTech 23
Viewed 2

Ouvi falar de 'human-in-the-loop' em agentes. Quando devo colocar uma pessoa no meio?

human-in-the-loop governanca agentes-autonomos cortex
1 Answers

Human-in-the-loop (HITL) é quando o agente pausa e pede aprovação humana antes de executar uma ação crítica.

4 níveis de autonomia recomendados:

Nível Risco Exemplos Comportamento
🟢 Autônomo Baixo FAQ, classificação, leitura Executa automaticamente
🟡 Sugestão Médio E-mail externo, update de ticket Prepara, humano confirma
🟠 Revisão Alto Comunicado a clientes, atualização de dados Humano revisa e executa
🔴 Bloqueado Crítico Transferir dinheiro, deletar dados Não automatiza — humano faz direto

Sempre use HITL quando:

  • Ação afeta pessoas externas (cliente, fornecedor)
  • Ação é irreversível (delete, envio)
  • Envolve dinheiro ou compromisso legal
  • Erro causaria dano reputacional

Como configurar: no prompt do sistema inclua 'Antes de executar [ação], confirme com o usuário usando a ferramenta de confirmação.'

📖 Documentação completa na Wiki:

SinapseTech23
Related