Da resposta automatizada à execução de tarefas

A adoção empresarial da inteligência artificial está entrando em uma nova etapa. Sistemas inicialmente utilizados para resumir documentos ou produzir textos começam a ser conectados a ferramentas internas e autorizados a executar tarefas.

Esses sistemas são frequentemente chamados de agentes de IA. Eles podem receber um objetivo, organizar etapas e realizar ações com diferentes graus de autonomia.

Um sistema que redige uma minuta apresenta riscos relacionados a erro, sigilo, propriedade intelectual e revisão. Um agente que envia a minuta, altera um cadastro ou inicia uma compra acrescenta uma nova dimensão: a execução de atos em nome da organização.

A exposição aumenta quando o agente:

• acessa dados pessoais ou informações estratégicas; 
• se comunica com clientes e fornecedores; 
• altera registros corporativos; 
• movimenta recursos; 
• contrata serviços; 
• interage com outros sistemas automatizados. 

Nessas situações, a empresa precisa saber não apenas qual resposta foi produzida, mas também qual ação foi executada, sob qual autorização e com quais efeitos.

Identidade própria e rastreável

Cada agente deve possuir uma identidade técnica distinguível das contas pessoais de colaboradores.

O compartilhamento de credenciais ou a utilização de contas genéricas dificulta a atribuição de responsabilidades. A organização precisa conseguir separar o que foi realizado por uma pessoa, por um fluxo automatizado convencional e por um agente de IA.

A identificação também deve aparecer nos registros de sistema, nos relatórios de auditoria e, quando pertinente, nas interações com terceiros.

Permissões proporcionais à finalidade

O princípio do menor privilégio oferece uma referência importante: o agente deve ter acesso apenas aos sistemas, dados e funções indispensáveis para cumprir sua tarefa.

Um agente destinado a consultar o andamento de pedidos, por exemplo, não precisa necessariamente possuir autorização para alterar dados financeiros ou excluir registros.

As permissões também podem ser condicionadas por valor, tipo de documento, destinatário ou impacto da ação. Operações mais sensíveis devem exigir confirmação humana.

Aprovação humana em pontos críticos

A revisão humana não precisa ocorrer em toda microatividade. Ela deve ser posicionada nos momentos em que uma decisão pode produzir efeitos jurídicos, financeiros, reputacionais ou relevantes sobre pessoas.

Entre os exemplos estão:

• celebração ou alteração de contratos; 
• aprovação de pagamentos; 
• envio de comunicações externas sensíveis; 
• eliminação de dados; 
• classificação de pessoas; 
• decisões relacionadas a trabalho, crédito ou acesso a serviços. 

A aprovação precisa ser real. Um clique automático, sem acesso aos elementos que fundamentaram a ação, não representa supervisão adequada.

Registros e auditabilidade operacional

A empresa deve manter informações suficientes para reconstruir a atuação do agente. Isso pode incluir:

• objetivo recebido; 
• dados consultados; 
• sistemas acessados; 
• etapas executadas; 
• aprovações humanas; 
• falhas encontradas; 
• resultado final. 

O propósito não é armazenar indiscriminadamente todos os dados, mas produzir rastreabilidade compatível com o risco.

Suspensão e resposta a incidentes

Todo agente precisa ter uma forma rápida de interrupção. A organização deve saber quem pode suspender sua operação, revogar suas credenciais e impedir novas ações.

Também é necessário prever o que acontece depois da interrupção: preservação de registros, verificação dos sistemas afetados, comunicação interna, correção de dados e avaliação de eventuais notificações.

Contratos com fornecedores

Quando o agente é fornecido por terceiro, o contrato deve tratar de segurança, uso e retenção de dados, limites de responsabilidade, subcontratação, alterações relevantes do sistema, auditoria e resposta a incidentes.

Também devem ser avaliadas as condições em que o fornecedor pode modificar recursos ou ampliar a autonomia do agente. Uma funcionalidade inicialmente administrativa pode passar a executar tarefas mais sensíveis após uma atualização.

Autonomia não elimina responsabilidade

A governança de agentes de IA exige uma mudança de perspectiva. Não basta avaliar a qualidade das respostas. É preciso controlar a capacidade de agir.

Identidade, permissões limitadas, aprovação humana, registros e revogação formam uma estrutura mínima para que a organização preserve sua capacidade de decisão. A tecnologia pode executar etapas, mas a definição dos limites continua sendo uma responsabilidade empresarial.