Shadow AI é uma expressão usada para descrever o uso de ferramentas de inteligência artificial fora dos processos de aprovação e acompanhamento da organização. O desafio não é apenas descobrir quais aplicativos estão sendo usados: é entender que trabalho as pessoas tentam resolver e quais informações estão compartilhando.
Uma abordagem prática combina alternativas aprovadas, regras compreensíveis e um canal para dúvidas. Proibir sem oferecer um caminho de trabalho pode deixar a necessidade original sem resposta. Liberar sem limites também não constitui governança.
Comece pelo uso, não pela marca da ferramenta
Mapeie tarefas: resumir reuniões, redigir propostas, analisar planilhas ou consultar documentos. Para cada uma, identifique os dados envolvidos e as consequências de uma resposta errada. Um rascunho interno com informações públicas não tem o mesmo risco que uma recomendação baseada em dados pessoais de clientes.
Converse com o time sem transformar a primeira conversa em caça a culpados. O objetivo inicial é conhecer os usos e retirar obstáculos para trabalhar de forma segura.
Uma política mínima precisa responder cinco perguntas
- Quais ferramentas e tipos de conta estão aprovados?
- Quais dados podem ou não ser compartilhados?
- Que resultados exigem revisão antes de uso?
- Quem autoriza integrações e acesso a sistemas?
- Como relatar um erro ou possível exposição?
As respostas dependem de contratos, configuração, finalidade e contexto. Não suponha que todas as ferramentas tratam dados da mesma forma, nem que uma versão gratuita tem as mesmas condições de uma conta empresarial.
Proteja o que entra e o que sai
Na entrada, reduza os dados ao necessário e respeite as permissões de acesso. Na saída, verifique informações, referências e decisões antes de enviá-las a clientes ou incorporá-las a processos. Uma resposta pode parecer plausível e ainda conter informação inventada ou indevida.
A OWASP identifica prompt injection como risco em aplicações com modelos de linguagem. Em termos práticos, conteúdo recebido de um documento, página ou mensagem pode tentar desviar o comportamento do sistema. Uma instrução escrita no pedido não substitui permissões e controles sobre as ações disponíveis.
Diferencie assistência de execução
Uma ferramenta que sugere um texto é diferente de um agente que envia mensagens, altera registros ou executa uma transação. Quanto maior a capacidade de agir, mais explícitos devem ser os limites, as aprovações e a possibilidade de interromper o processo.
O NIST AI RMF organiza a gestão de riscos em Govern, Map, Measure e Manage. É uma referência voluntária para estruturar responsabilidades e avaliações, não uma garantia de segurança nem uma certificação automática.
Um primeiro ciclo de implantação
Escolha uma tarefa frequente com consequências controláveis. Descreva os dados permitidos, quem revisa o resultado e como registrar problemas. Teste com exemplos representativos, inclusive casos em que a ferramenta deve recusar ou pedir esclarecimento.
Depois, revise incidentes e dúvidas com o time. Atualize a orientação conforme o uso real. Governança precisa acompanhar mudanças de ferramentas, fornecedores e processos, em vez de permanecer como um documento que ninguém consulta.
Não é necessário usar percentuais de adoção não verificados para justificar esse trabalho. A necessidade de governança decorre do uso e dos riscos da própria organização.
