Guardian veto: quando IA precisa de freio
O Guardian é o agente que diz "não" quando os outros agentes querem agir. Sem ele, autonomia vira aposta. Aqui o desenho e os limites.
Um dos medos mais legítimos de quem ouve falar em "IA que opera o negócio sozinha" é o medo de perder o controle. E é um medo correto. Sistema autônomo sem freio vira ou produto chato, que pede confirmação pra tudo, ou produto perigoso, que toma decisões caras sem você saber. O Guardian é a forma da Nellia escapar dos dois extremos.
O que o Guardian faz
Sempre que um dos especialistas autônomos vai executar uma ação que toca gasto, deploy de código, criação de produto novo ou exposição de dados cross-tenant, o Guardian é consultado antes. Ele não decide se a ação é boa ou ruim; ele compara a ação contra a policy que você assinou. Se a policy diz que campanha não pode passar de R$ 500/dia, e o especialista quer subir uma de R$ 800, o Guardian veta. Sem override.
A diferença entre "IA tem permissão pra tentar" e "IA tem permissão pra fazer" é o Guardian. Ele garante que tentar nunca vire fazer sem alinhamento.
Por que veto absoluto, e não escalada com aprovação
A escolha de design mais importante é que o veto é absoluto. Não tem caminho "o especialista insiste e o Guardian cede". A única forma de subir o limite de gasto é mudar a policy declarada, num momento separado, com você no controle. Isso parece restritivo, mas é deliberado: quando você confia que o Guardian nunca cede, pode delegar mais autonomia pros especialistas em paralelo.
O que entra na policy
- →Limites de gasto por canal e por dia
- →Operações que exigem aprovação humana (criação de produto novo, mudança de pricing)
- →Permissões cross-tenant (quem pode ver dado de quem)
- →Janelas de horário em que ações específicas ficam bloqueadas
- →Lista de domínios e contas externas autorizados
Quando o Guardian veta
O veto não é silencioso. Sobe pro painel com a razão registrada, o especialista que tentou, qual policy bateu, e sugestão do que mudar pra reabrir. Você decide se quer ajustar a policy (e o veto vira aprovação retroativa), se quer manter o veto (e o sistema aprende), ou se quer pausar o especialista até conversar com a Nellia.
Autonomia sem freio é aposta. Freio sem caminho é teatro. O Guardian é o ponto onde os dois encontram um equilíbrio operacional.
Funciona porque é simples, é absoluto, e é visível. Funciona porque não pede pra você confiar na boa intenção da IA. Pede pra você confiar na policy que você mesmo assinou.