Um agente de inteligência artificial (IA) pode atualizar um cadastro, preparar uma proposta, comparar documentos, abrir um chamado ou encaminhar uma cobrança. Quando essas ações entram na rotina operacional, surge uma pergunta que não pode ficar escondida na área de tecnologia, que é saber quem responde pelo que o sistema faz.
A resposta para essa questão jamais será o próprio robô. Sistemas digitais não ocupam cargos corporativos, não recebem delegação societária e não assumem as consequências de uma decisão equivocada. A responsabilidade permanece com a organização e precisa alcançar pessoas identificáveis. Sem essa definição clara, a automação cria uma zona cinzenta em que todos utilizam a ferramenta, ninguém a governa e o prejuízo só aparece quando uma falha atinge um cliente, um fornecedor ou um sistema crítico.
Alertas dos especialistas
Antes de expandir o uso dessa tecnologia no ambiente corporativo, as organizações precisam estabelecer limites claros de atuação.
“A adoção de agentes de IA exige uma mudança na forma como as empresas distribuem responsabilidades. Não basta saber qual agente executa determinada tarefa; é preciso definir quem acompanha sua atuação, quais limites foram estabelecidos e quem toma a decisão quando o sistema precisa de intervenção. Sem essa clareza, a autonomia tecnológica pode criar uma zona cinzenta dentro da própria organização”, afirmou Thelma Valverde, fundadora e executiva principal (CEO) da Cerebelo.AI.
Definição de diretrizes
Para evitar falhas operacionais e garantir a governança necessária, as companhias precisam estruturar seis pontos fundamentais antes de avançar na automação.
- Nomear um responsável pelo resultado: Cada agente de IA precisa ter um responsável de negócio e não apenas um supervisor técnico. Essa pessoa responde pela finalidade do sistema, acompanha a qualidade das entregas e decide quando a ferramenta precisa de ajustes. O nome do responsável deve estar devidamente registrado, acompanhado da área atendida e dos objetivos esperados.
- Definir a alçada de autonomia: Não basta declarar que o sistema pode executar tarefas. É necessário estabelecer o que ele pode fazer de forma autônoma, o que exige validação humana e o que permanece proibido. Atualizar um rascunho é diferente de enviar uma mensagem externa, assim como preparar uma ordem difere de autorizar um pagamento. A alçada precisa ponderar impactos financeiros, jurídicos, reputacionais e humanos.
- Limitar dados sistemas e credenciais: O agente deve acessar exclusivamente os dados necessários para o cumprimento de sua função. Permissões genéricas e amplas aceleram a implementação, mas aumentam os danos em cenários de erro, uso indevido ou integrações mal configuradas. A empresa deve monitorar os dados de entrada, os sistemas acionados e o cronograma de revisão das credenciais.
- Registrar decisões e ações: A supervisão sem rastreabilidade transforma a gestão em mera opinião. A organização precisa conseguir reconstruir as informações recebidas pelo agente, a regra aplicada, a ação executada e o resultado obtido. Embora nem todo raciocínio interno dos modelos seja auditável, as entradas, saídas, permissões, aprovações e eventos operacionais devem gerar evidências suficientes para investigação e melhoria contínua.
- Criar intervenção e contingência: Todo fluxo automatizado necessita de uma rota de exceção predefinida. A empresa deve determinar quem tem autoridade para interromper o agente, como a tarefa retorna para a gestão humana e qual procedimento adotar se a integração falhar ou se o comportamento sair do esperado. Essas respostas precisam ser estruturadas durante a implementação do sistema.
- Estabelecer revisão e desligamento: Os agentes tecnológicos não devem permanecer em atividade por pura inércia. A gestão precisa avaliar periodicamente o desempenho, os custos, a real necessidade, a segurança e a aderência aos processos. Caso o sistema perca a finalidade, seja substituído ou passe a gerar mais retrabalho do que valor, deve ser corrigido ou retirado de operação com total segurança.
ASCOM: Kelly Mantovani | PiaR Group
