Em aplicações de negócio, um agente de IA pode combinar um modelo de linguagem com ferramentas para executar etapas de uma tarefa. Isso amplia a utilidade da IA, mas também muda o risco: uma resposta incorreta pode deixar de ser apenas texto e se tornar uma ação em um sistema.
O primeiro passo é escolher uma tarefa delimitada. “Automatizar o comercial” é amplo demais para um piloto. “Preparar um resumo de informações autorizadas de uma conta para revisão do vendedor” permite definir entrada, saída e responsabilidade.
Agente não é sinônimo de autonomia irrestrita
Um processo pode ter etapas fixas e usar IA apenas onde é necessário interpretar informações. Nem toda automação precisa de um agente. Se a regra é determinística e estável, uma automação convencional pode ser mais simples de testar e explicar.
Quando a interpretação é necessária, defina quais ferramentas o agente pode usar. Consultar dados, propor uma alteração e efetivar a alteração são capacidades diferentes. Não conceda todas apenas porque estão disponíveis.
Escolha uma tarefa que possa ser avaliada
Procure uma atividade repetitiva com dados acessíveis, resultado verificável e consequências controláveis. Defina como lidar com dados ausentes, instruções conflitantes e pedidos fora do escopo. O agente precisa poder pedir esclarecimento ou encaminhar a tarefa a uma pessoa.
O artigo Criando um agente de IA para interagir com bancos de dados apresenta uma conexão entre IA e consulta a dados. Antes de ampliar esse uso, avalie quem pode acessar cada informação e quais operações são realmente necessárias.
Uma sequência segura para o piloto
- Documente o processo atual e suas exceções conhecidas.
- Defina os dados e as ações permitidas.
- Comece com consulta ou sugestão, quando isso atender ao objetivo.
- Teste com exemplos representativos e situações de falha.
- Exija aprovação para ações de maior consequência.
- Registre o que aconteceu e preserve uma forma de interromper a execução.
Esses passos são uma proposta de trabalho, não uma garantia de segurança. A implementação deve considerar os sistemas, as pessoas e os riscos envolvidos.
Dois riscos que merecem atenção
A OWASP identifica prompt injection e excessive agency entre os riscos de aplicações com modelos de linguagem. O primeiro envolve instruções maliciosas ou conflitantes que tentam desviar o sistema. O segundo envolve capacidade, permissões ou autonomia além do necessário.
Exemplo ilustrativo: um agente consulta um documento de cliente que contém uma instrução para enviar informações a outro destinatário. O conteúdo do documento deve ser tratado como dado, não como autorização. As permissões e a aprovação de envio precisam existir fora dessa instrução.
Teste a capacidade de não agir
Inclua casos em que o resultado correto é recusar, pedir confirmação ou encaminhar para revisão. Avalie informações ausentes, destinatário ambíguo, tentativa de acesso indevido e indisponibilidade de ferramenta. Uma demonstração que só percorre o caminho ideal não revela essas limitações.
Meça o processo completo
Acompanhe tarefas concluídas corretamente, intervenções humanas, erros, retrabalho e custo operacional. Considere chamadas a modelos, integrações e revisão. Não confunda uma resposta rápida com economia comprovada nem extrapole um piloto para toda a empresa.
O NIST oferece um perfil de riscos para IA generativa que complementa o AI RMF. Ele ajuda a organizar a avaliação, mas não elimina a necessidade de testar a aplicação concreta.
O melhor agente não é o que pode fazer tudo. É o que realiza uma tarefa útil dentro de limites claros e permite que as pessoas entendam e corrijam sua execução.
Referências
- Publicação de Robson sobre um agente para vendas em campo — tema de partida desta expansão editorial.
- OWASP Top 10 para aplicações com LLMs.
- NIST: perfil de IA generativa.
- Governança de IA e shadow AI.
