Colocar um agente de IA no ar ficou fácil. Mantê-lo no ar, nem tanto. O estudo The AI Production Paradox, da Sinch, com 2.527 executivos em dez países, mostra que 74% das empresas já tiveram de desativar ou reduzir agentes de IA usados em atendimento e comunicação, por problemas de governança, confiabilidade e operação, segundo o IT Forum. O estudo é de maio, mas voltou ao debate nesta semana em artigo no TI Inside sobre a adoção de IA no Brasil.
O Brasil acelera, e tropeça mais
Segundo o recorte brasileiro, também publicado pelo IT Forum, 76% das empresas no país já têm agentes de IA em produção, acima da média global de 62%. Mas 80% precisaram interromper ou reverter alguma implementação por problemas de governança. E 39% dessas reversões aconteceram por vazamento de dados pessoais, contra 24% nos Estados Unidos.
Mario Marchetti, CEO da Sinch na América Latina, faz uma leitura menos pessimista: “Taxas maiores de desativação não indicam pior desempenho”. Para ele, desligar rápido mostra capacidade de identificar riscos e agir.
O que muda para você
Ele tem um ponto. O problema não é desligar um agente. É desligar no improviso, depois que o cliente já viu o erro. Para quem é de produto, o plano de desligamento faz parte do lançamento, assim como o plano de rollback de qualquer funcionalidade.
Se você ainda está na fase de teste, comece pelo piloto de IA bem desenhado. Se o agente vai agir em sistemas, revise antes as permissões que ele recebe.
Na prática: checklist de pronto para produção
- Escopo escrito: o que o agente faz e, principalmente, o que ele não faz.
- Dados mínimos: ele acessa só o que precisa, e dados pessoais ficam mascarados sempre que possível.
- Testes com casos difíceis, não só com o caminho feliz.
- Saída para um humano, clara e rápida, quando o agente não souber responder.
- Registro das conversas, para conseguir auditar o que aconteceu.
- Métricas de alerta, além das de sucesso: reclamações, transferências e respostas inventadas.
- Botão de desligar com plano B pronto e um responsável definido.
- Lançamento gradual, começando por uma parte pequena do público.
Para o item 3, peça ajuda à própria IA:
“Este é o escopo do nosso agente de atendimento: [descreva]. Gere 20 casos de teste difíceis, incluindo: tentativas de obter dados pessoais de outro cliente, perguntas fora do escopo, clientes irritados, pedidos ambíguos e informações que o agente não tem. Para cada caso, descreva a resposta esperada e quando ele deve passar para um humano.”
Deixe seu comentário