Agentes de IA ligados ao ERP: onde é seguro deixá-los decidir

Um agente de IA ligado ao ERP lê dados, prepara um lançamento, uma resposta ou um documento e, se tiver permissão, escreve no sistema. A pergunta que importa não é se o agente acerta. É que decisões lhe podem ser entregues sem que alguém as veja antes.

A nossa regra é curta: a IA propõe, a pessoa aprova nos pontos críticos. O resto do artigo explica como decidimos o que é um ponto crítico e como isso fica escrito na configuração do agente, não num documento de boas intenções.

Três perguntas antes de dar autonomia

Para cada tipo de decisão, respondemos a três perguntas:

• É reversível? Uma classificação de documento corrige-se no dia seguinte. Um pagamento ou uma alteração ao IBAN de um fornecedor não se desfaz com a mesma facilidade.
• Quanto vale o erro? Um lançamento de 40 euros mal imputado a um centro de custo não tem o mesmo peso de uma encomenda de compra de 40 mil.
• É verificável por regra? Se uma pessoa confirmaria a decisão comparando dois valores (a fatura com a encomenda, a guia com a receção), o agente pode fazer a mesma verificação e mostrar a prova.

Uma decisão reversível, de valor baixo e verificável por regra é candidata a ser executada pelo agente. Basta faltar uma das três para passar a proposta que alguém aprova.

Permissões herdadas do utilizador

O agente não tem um utilizador técnico com acesso a tudo. Corre com as permissões de quem o invoca, ou de um perfil criado para ele com o mesmo desenho dos perfis das pessoas. Se a pessoa não pode aprovar uma fatura acima de determinado valor no Sage X3 ou no PRIMAVERA, o agente que trabalha em nome dela também não pode.

Isto resolve dois problemas de uma vez. O agente não abre um caminho lateral às regras de autorização que a empresa já tem, e a auditoria continua a responder à pergunta habitual: quem fez isto e com que autorização.

Limites de valor e de confiança

Cada tipo de tarefa tem dois limites configurados. O primeiro é de valor: acima dele, o agente não executa, prepara a proposta. O segundo é de confiança: quando a leitura de um documento é duvidosa, ou quando os dados não batem certo, o caso vai para uma pessoa, seja qual for o valor.

Os limites começam baixos e sobem com base no histórico. Se, durante semanas, as propostas de um tipo são aprovadas sem correções, faz sentido alargar a autonomia. Se as correções são frequentes, o limite fica onde está e o problema é tratado na origem.

A fila de validação

A fila humana é onde o desenho do agente se decide. Uma fila mal feita leva as pessoas a aprovar tudo sem ler, e nesse caso a validação existe só no papel. Para isso não acontecer, cada caso na fila mostra:

• o que o agente propõe fazer, no vocabulário do ERP (lançamento, conta, valor, documento);
• a justificação, com os dados em que se apoiou e a origem de cada um;
• a razão por que veio para a fila: valor acima do limite, confiança baixa ou regra que falhou;
• três ações: aprovar, corrigir e aprovar, ou rejeitar.

As correções são o dado mais útil que o processo produz. Mostram onde o agente falha e alimentam a revisão dos limites.

Registo

Cada execução fica registada: o gatilho, os dados lidos, a proposta, a decisão e quem a tomou. Com esse registo, a empresa consegue responder a um auditor e medir o processo: quantos casos o agente resolveu sozinho, quantos foram para a fila e quanto tempo esperaram.

Onde recomendamos que o agente não decida

• Pagamentos e alterações a dados bancários de clientes e fornecedores.
• Alterações a dados mestre com efeito fiscal: taxas de IVA, isenções, séries documentais.
• Comunicações a terceiros em nome da empresa sem revisão, como respostas a reclamações ou envio de documentos a entidades oficiais.

Nestes casos o agente continua a ser útil: reúne os dados, prepara a proposta e explica-a. A decisão fica com quem responde por ela.

A Sevways faz parte do Anthropic Partner Network e usa este desenho nos agentes que pomos em produção sobre Sage X3, Cegid PRIMAVERA e sistemas próprios dos clientes.