A adoção de agentes de inteligência artificial capazes de acessar sistemas, movimentar informações e executar tarefas exige que as empresas estabeleçam limites claros de atuação. A avaliação é de Alcione Giovanella, Partner & Executive Diretor na CBYK, que defende a integração da governança ao planejamento e à operação dos negócios.

 

Segundo o executivo, a discussão ultrapassa a escolha de ferramentas tecnológicas. Envolve definir quais decisões podem ser automatizadas, quais dependem de aprovação humana e quem acompanha os riscos associados à atuação dos agentes.

 

A autonomia, nessa perspectiva, precisa ser proporcional ao impacto de cada tarefa. Consultas de baixo risco podem ter maior grau de automação, enquanto alterações cadastrais, movimentações financeiras relevantes e decisões que afetem clientes exigem controles mais rigorosos.

 

Permissões e supervisão

 

Giovanella utiliza o exemplo de um agente responsável por contas a pagar. A ferramenta pode consultar o sistema de gestão, conferir notas fiscais, verificar contratos e identificar divergências. Isso não significa que deva receber autorização irrestrita para alterar dados bancários de fornecedores, cadastrar beneficiários ou aprovar transações de alto valor.

 

A orientação é que cada agente tenha identidade digital própria e permissões compatíveis com sua função. O princípio é conceder apenas os acessos necessários à execução da tarefa, reduzindo a exposição da operação.

 

Para o executivo, essas definições precisam considerar risco financeiro, continuidade operacional, conformidade, experiência do cliente e reputação. A supervisão humana deve acompanhar a relevância das decisões, com critérios previamente estabelecidos para aprovação e intervenção.

 

Rastreabilidade das operações

 

Outro componente é a capacidade de reconstruir as ações executadas pela inteligência artificial. A empresa deve conseguir identificar qual agente atuou, quais informações foram consultadas, quais sistemas foram acessados e se houve participação humana.

 

Esse registro permite acompanhar o funcionamento das ferramentas, investigar falhas e avaliar se os limites definidos estão sendo respeitados.

 

Giovanella relata que a CBYK utiliza governança e telemetria na implementação de equipes estruturadas para trabalhar com IA. O acompanhamento relaciona o uso das ferramentas a indicadores de produtividade, qualidade das entregas, custos, esforço estimado e registros de auditoria.

 

Os resultados apresentados pela executiva decorrem de projetos acompanhados pela empresa e não constituem garantia de desempenho para outras operações.

 

Produtividade exige processos estruturados

 

Na avaliação de Giovanella, disponibilizar uma ferramenta de geração de código é diferente de reorganizar a engenharia de software para trabalhar com inteligência artificial.

 

Essa transformação envolve treinamento, especificações adequadas a cada projeto, limites de segurança, agentes especializados e integração com ferramentas de gestão e processos de desenvolvimento.

 

O monitoramento também deve permitir a identificação de riscos relacionados à segurança da informação, à propriedade intelectual e ao tratamento de dados pessoais.

 

O executivo sustenta que a expansão da autonomia precisa acompanhar os resultados observados e a capacidade de controlar riscos. Nesse modelo, governança e produtividade se complementam: os controles oferecem condições para ampliar o uso da tecnologia de forma consistente.

 

A análise é de Alcione Giovanella, Partner & Executive Director na CBYK.