Neste artigo
“Ter humano no circuito” só funciona quando existe um ponto claro para a pessoa entender e decidir. Uma caixa de confirmação genérica, depois de dezenas de ações invisíveis, transfere responsabilidade sem dar controle. O objetivo é posicionar a aprovação antes da consequência relevante, com informação suficiente para aceitar, corrigir ou interromper.
Classifique as ações, não o agente inteiro
Ler um documento autorizado, preparar um rascunho e enviar uma mensagem são ações diferentes. Para cada ferramenta, registre qual sistema será afetado, que dados entram, se há efeito externo e se o resultado pode ser revertido. Um mesmo agente pode operar sem intervenção em uma consulta e pedir aprovação antes de alterar um registro.
Uma matriz simples ajuda:
| Ação | Exemplo | Controle inicial |
|---|---|---|
| Leitura | consultar artigo interno permitido | autorização na origem e registro de acesso |
| Preparação | redigir resposta de suporte | revisão do atendente antes do envio |
| Mudança reversível | criar rascunho em sistema | prévia, limite e possibilidade de desfazer |
| Mudança sensível | aprovar pagamento ou alterar contrato | decisão humana explícita no sistema responsável |
Essa matriz é uma proposta de desenho, não uma regra universal. O risco depende do contexto e das pessoas afetadas. O NIST AI RMF orienta a definir papéis e supervisão humana conforme o sistema e seu uso.
Mostre a intenção antes do clique
A tela de aprovação deve exibir objetivo, fonte, dados usados, alteração proposta e destino. Registre quem aprovou, quando e qual versão do conteúdo foi apresentada. Se o operador não consegue entender o que vai acontecer, o agente precisa voltar um passo e oferecer um resumo melhor.
Testes devem incluir instruções conflitantes, dados faltantes e ferramentas indisponíveis. O comportamento seguro pode ser parar, pedir contexto ou criar apenas um rascunho. Depois da implantação, acompanhe frequência de rejeições e correções: aprovações automáticas por hábito são sinal de desenho ruim.
O texto sobre limites de autonomia aprofunda o princípio. Em um projeto de IA aplicada, esses limites fazem parte do escopo e da avaliação, junto com integrações e responsabilidades.
Perguntas frequentes
Aprovação humana elimina o risco?
Não. Pessoas podem confirmar sem entender. A interface precisa apresentar evidência, consequência e opção de correção, enquanto o sistema continua aplicando permissões.
É possível ampliar autonomia depois?
Sim, quando houver dados de operação, baixa gravidade de erro e controles proporcionais. A mudança deve ser explícita, testada e reversível.
Guia do tema: Agentes de IA autônomos: delegando trabalho real à IA
