Como a governança de IA se tornou uma prioridade máxima no atendimento

* Por Shana Simmons

Por anos, o roteiro de compras de softwares corporativos seguiu uma cartilha previsível. Executivos avaliavam funcionalidades, preço, capacidade de integração e cronogramas de implementação. As áreas jurídica e de segurança digital entravam na reta final do processo, quase como uma etapa burocrática e secundária antes da assinatura do contrato.

Essa era acabou. Uma mudança fundamental e irreversível está acontecendo à medida que a Inteligência Artificial deixa de ser apenas uma ferramenta que responde perguntas e passa a ser um agente que executa ações de forma autônoma — processando reembolsos, alterando registros e direcionando fluxos financeiros sem revisão humana direta.

-
Entre no Canal do WhatsApp do Canaltech e fique por dentro das últimas notícias sobre tecnologia, lançamentos, dicas e tutoriais incríveis.
-

No entanto, quando a IA falha nesse nível de autonomia, as consequências deixam de ser uma resposta desconexa em uma tela de chat. O erro pode resultar, instantaneamente, em vazamento de dados, violação regulatória, danos à marca e perda de clientes. E os consumidores sabem disso.

Por meio de uma pesquisa realizada com 300 profissionais de tecnologia e atendimento ao cliente nos Estados Unidos, identificamos que a confiança na IA deixou de ser analisada separadamente da decisão de compra. Em muitas organizações, ela passou a ser o próprio fator decisivo de compra. Controles de segurança, compliance e governança alcançaram o topo do ranking de prioridades, superando recursos avançados de IA, retorno comprovado sobre investimento (ROI) e custo total de propriedade.

As companhias já não discutem mais se devem ou não adotar IA no atendimento ao cliente. Essa questão está resolvida. Porém, quando perguntamos o que realmente impede as organizações de avançarem, uma resposta se destacou: governança.

De acordo com a pesquisa, 32% das empresas apontam as preocupações com governança de IA (testes de risco, segurança e proteção de dados) como a principal barreira para avançar. Em seguida, aparecem a imaturidade dos sistemas e dados internos (27%) e o receio de perder o toque humano no relacionamento (24%). A barreira atual, portanto, não é de capacidade técnica, mas sim de confiança. E construir essa relação exige uma infraestrutura de governança que a maioria das organizações ainda estão construindo.

Por que as empresas avançam em etapas

Diante desse cenário, os líderes corporativos adotaram uma estratégia inteligente de "sequenciamento". Em vez de paralisarem seus projetos, as empresas avançam conforme a régua da segurança permite. Cerca de duas em cada três organizações (67%) já implementaram "copilots" de IA internamente, ou seja, assistentes virtuais focados em apoiar o trabalho das equipes humanas. Há um consenso em adotar tecnologias que mantêm o ser humano no controle (human-in-the-loop).

Por outro lado, a cautela impera quando o assunto são os agentes de IA autônomos voltados diretamente para o cliente final. Embora 40% das companhias declarem o desejo de implementar essa autonomia na ponta, elas decidiram esperar. Não se trata de timidez organizacional, mas de um cálculo racional de riscos. Os negócios estão construindo primeiro as fundações de compliance para, só então, dar o próximo salto operacional.

Os riscos de queimar etapas são altos e se dividem em três pilares críticos:

• Reputacional: um incidente de dados prejudica o valor de uma marca, empurrando o cliente diretamente para a concorrência;
• Financeiro: multas de órgãos reguladores são apenas o começo. A desconformidade gera auditorias severas e limitações de crescimento no mercado;
• Operacional: incidentes de segurança não apenas interrompem operações, mas também consomem recursos e desviam a atenção da liderança do crescimento para o controle de danos.

A governança não deve ser vista como o freio de mão da inovação, mas como o cinto de segurança que permite acelerar o negócio com confiança e inteligência. As organizações que entenderem que o compliance é o maior habilitador tecnológico do nosso tempo irão liderar o mercado no futuro.

Você também pode conferir quem vai pagar o pedágio da IA corporativa e por que a governança de IA é o risco que ainda não entrou no balanço.

Leia a matéria no Canaltech.