Imagine uma empresa que usa um assistente de IA para organizar solicitações de clientes. Primeiro, ele identifica o assunto e encaminha cada pedido à equipe responsável. Depois, passa a sugerir respostas. Em uma nova etapa, alguém propõe permitir que ele conceda descontos e confirme condições comerciais.
A ferramenta pode ser a mesma nas três situações. A autorização que a empresa concede a ela muda a cada etapa.
Para o gestor, essa diferença precisa estar clara antes da implantação. Ler uma mensagem, recomendar uma resposta e assumir um compromisso com o cliente exigem controles diferentes. Ao definir o espaço de atuação da IA, a liderança precisa considerar a clareza dos critérios, as consequências de um erro e quem terá autoridade para intervir.
Comece pela decisão que você pretende delegar
“Usar IA no atendimento” descreve uma área de aplicação, mas ainda deixa aberta uma parte importante do trabalho. Dentro do atendimento, a equipe classifica solicitações, consulta informações, interpreta reclamações e negocia exceções.
Para avaliar a autonomia, descreva uma decisão por vez: encaminhar um pedido, confirmar uma informação ou autorizar uma condição comercial. Isso permite discutir o que o sistema pode fazer e em que ponto precisa chamar uma pessoa.
Em um artigo publicado pelo MIT Sloan, Beth Stackpole apresenta a AI Decision Matrix, desenvolvida por pesquisadores do MIT CISR. O framework combina dois eixos:
Ambiguidade: o quanto os dados e os critérios permitem chegar a uma resposta clara. Decisões com várias interpretações plausíveis têm maior ambiguidade.
Risco: a gravidade das consequências de uma escolha errada e a dificuldade de revertê-la.
Essa combinação distingue decisões rotineiras, de alto impacto, exploratórias e estratégicas, com diferentes formas de participação humana e da IA.
Para aplicar esses eixos à sua empresa, considere os exemplos hipotéticos a seguir. Eles são uma elaboração editorial da Volvox, sem representar casos de clientes ou resultados de implantação.
Quatro situações para avaliar a autonomia
Encaminhar uma solicitação interna
Uma equipe define categorias para pedidos internos e responsáveis por cada assunto. A IA sugere o destino, e um encaminhamento incorreto pode ser corrigido sem comprometer um prazo crítico.
Com critérios claros e consequências limitadas, o gestor pode avaliar a execução automática dentro desse escopo. Vale começar acompanhando os encaminhamentos e registrar os casos que exigiram correção.
O limite precisa fazer parte do desenho. Se uma mensagem indicar um incidente grave, ela deve seguir outro tratamento. A classificação inicial como “rotineira” depende dessas condições.
Confirmar uma condição comercial
Uma política comercial pode estabelecer quais condições se aplicam a cada cliente. Ainda assim, comunicar um preço incorreto ou confirmar uma condição sem autorização pode gerar um compromisso difícil de desfazer.
Esse exemplo combina critérios definidos com consequências relevantes. Em um piloto, o gestor pode permitir que a IA prepare a resposta, consulte a fonte aprovada e destaque divergências, mantendo a confirmação com a pessoa responsável.
Ao avaliar uma ampliação de autonomia, a empresa precisa testar os limites de autorização e o tratamento das exceções. O acesso ao cadastro do cliente, por si só, não define o que o assistente está autorizado a oferecer.
Explorar alternativas para uma campanha
Uma equipe pede à IA ideias para apresentar um serviço. Existem várias abordagens possíveis, e os rascunhos permanecem em um ambiente interno de revisão.
A equipe pode explorar alternativas com liberdade, compará-las e descartar as inadequadas. O risco permanece limitado enquanto as pessoas controlam o uso e a circulação do material.
Se a empresa permitir que o sistema publique, selecione públicos ou comprometa orçamento, o gestor terá de reavaliar o escopo. Essas permissões acrescentam consequências que não existiam na geração de ideias.
Escolher uma nova frente de negócio
Uma decisão de expansão pode envolver demanda incerta, capacidade da equipe, posicionamento e compromissos de longo prazo. Pessoas bem informadas podem chegar a conclusões diferentes porque atribuem pesos distintos a esses fatores.
Nesse contexto, a liderança pode usar IA para organizar informações, comparar cenários e explicitar premissas. Cabe aos responsáveis pelo negócio escolher quais riscos aceitar e como acompanhar os resultados.
Uma resposta bem articulada ajuda a discussão quando apresenta fundamentos verificáveis. A segurança com que o sistema escreve não substitui a análise das premissas.
Distribua responsabilidades antes, durante e depois da ação
No briefing original do MIT CISR, os pesquisadores dividem a decisão em três componentes: definir o problema e seus critérios, agir sobre ele e aprender com os resultados. A distribuição das atividades varia conforme risco e ambiguidade, preservando a responsabilidade humana.
Na aplicação que propomos, o gestor pode traduzir essa divisão em um registro curto para cada decisão:
Objetivo e critérios: qual situação a IA vai tratar, quais informações poderá usar e como a equipe reconhecerá um resultado adequado.
Permissões e exceções: o que ela pode consultar, recomendar ou executar; quais limites deve respeitar; quem recebe os casos fora do escopo.
Acompanhamento: quem confere os resultados, quais erros exigem interrupção e quem pode alterar ou suspender a automação.
Esse registro ajuda a conectar a configuração técnica à autoridade de quem responde pelo processo. Também permite revisar uma permissão específica sem precisar discutir toda a implantação do zero.
Dê condições reais para a supervisão humana
Se uma pessoa precisa aprovar a recomendação, ela deve conseguir conferir a informação de origem, entender o critério aplicado e identificar o efeito da ação proposta. Precisa também de tempo e autoridade para recusar ou pedir uma nova análise.
O AI Risk Management Framework 1.0 do NIST recomenda responsabilidades claras, definição dos papéis na supervisão e acompanhamento ao longo do uso. O documento também prevê mecanismos para intervir ou desativar sistemas que apresentem resultados incompatíveis com sua finalidade.
Para uma PME, uma aplicação prática é nomear o responsável pelo processo, definir uma rotina de conferência e manter um caminho conhecido para interromper a execução. A profundidade desse acompanhamento deve considerar o impacto da decisão e os recursos disponíveis para supervisioná-la.
Amplie a autonomia com evidências do processo
Antes de conceder novas permissões, teste o sistema com situações comuns, informações incompletas e exceções relevantes. Confira se ele reconhece quando precisa interromper a tarefa e solicitar ajuda.
Na avaliação, registre o tipo de erro e sua consequência. Um encaminhamento interno corrigido pela equipe e uma condição comercial enviada sem autorização exigem respostas diferentes, mesmo que ambos apareçam como uma única ocorrência no relatório.
Também revise os dados de entrada. Se duas áreas usam definições diferentes para a mesma informação, resolva a divergência ou estabeleça como tratá-la antes de delegar uma ação que depende dela.
A matriz organiza a discussão sobre autonomia. A empresa ainda precisa testar o comportamento do sistema no contexto em que ele será usado e rever os controles quando mudar o público, o volume ou as permissões.
Leve uma decisão para a próxima reunião de gestão
Na Volvox, partimos da decisão que a empresa precisa melhorar e conectamos contexto, processos, dados e responsáveis ao desenho da solução. Para aplicar IA, essa abordagem ajuda a definir o espaço de atuação da tecnologia e as condições de acompanhamento.
Escolha uma decisão recorrente da sua operação e registre sua ambiguidade, o impacto de um erro, a autonomia pretendida para a IA e o responsável por intervir. Discuta esse registro com a equipe antes de conceder novas permissões.
Esse é um primeiro passo concreto para usar IA nas decisões da empresa com critérios que a liderança consegue explicar e acompanhar.