Governança de IA em Atendimento

O que é

Governança de IA em atendimento é o conjunto de regras, limites e verificações que uma empresa aplica antes de deixar uma IA generativa (chatbot, assistente de suporte, gerador de resposta) interagir diretamente com o cliente. Não é sobre a qualidade da resposta, é sobre o risco: o que a IA pode ou não dizer, e o que acontece quando ela erra.

Por que isso virou tema de CX, não só de tecnologia

Quando o atendimento passa a usar IA generativa, o risco de conteúdo deixa de ser só um problema técnico e vira um problema de experiência do cliente: uma resposta errada, ofensiva ou que vaza dado sensível chega direto para quem paga a conta. Times de CX que adotam IA no atendimento sem nenhuma checagem de governança estão, na prática, terceirizando parte do risco reputacional da empresa para um modelo que ninguém revisou linha a linha.

Uma referência real de taxonomia de risco

O Nemotron-Safety-Guard-Dataset-v3, publicado pela NVIDIA sob licença CC BY 4.0, treina modelos de segurança a classificar conteúdo de IA por categoria de risco, avaliado por humano ou por um júri de outros modelos de IA, em 12 idiomas (inglês, árabe, alemão, espanhol, francês, hindi, japonês, tailandês, chinês mandarim, neerlandês, italiano e coreano; português não está entre os 12 confirmados). O próprio schema do dataset traz como exemplo as categorias "Criminal Planning/Confessions" (planejamento ou confissão de atividade criminosa) e "Violence" (violência). Cada linha do dataset também é marcada com uma tag de origem: "generic" (conteúdo comum), "jailbreaking" (tentativa deliberada de burlar a segurança do modelo) ou "adapted" (adaptação cultural de um caso já visto em outro idioma). Essa distinção é prática: um chatbot de atendimento sofre mais tentativas do tipo "generic" (usuário real com pergunta ambígua) do que "jailbreaking" (ataque deliberado), e a resposta de governança para cada caso é diferente.

Não é uma norma brasileira nem um framework de compliance, é a taxonomia usada por quem treina modelos de segurança, mas serve como ponto de partida prático: qualquer categoria de risco, aplicada ao seu chatbot de atendimento, vira uma pergunta concreta de governança. Planejamento de atividade criminosa, por exemplo, vira "seu chatbot já respondeu, mesmo que por engano, como fazer algo ilegal?".

O que governança de IA em atendimento não é

Não é o mesmo que qualidade de resposta (se a IA respondeu bem ou mal ao pedido do cliente) nem o mesmo que LGPD isolada (que trata de dado pessoal, não do conteúdo gerado como um todo). Governança de IA em atendimento é mais amplo: cobre qualquer conteúdo que a IA pode gerar, sensível ou não, e a política de quem revisa, quem aprova e o que acontece quando o sistema erra.

Onde isso aparece na prática

Empresas maduras em governança de IA em atendimento costumam ter: uma lista explícita do que a IA nunca deve responder sozinha, um caminho claro de escalonamento para atendimento humano quando o risco é alto, e um registro do que a IA respondeu, consultável depois, no mesmo espírito do campo response_label_source do Nemotron-Safety-Guard-Dataset-v3, que registra se cada resposta foi avaliada por humano, por júri de IA, ou automaticamente recusada. Nenhuma dessas três práticas exige tecnologia complexa: são decisão e processo, não modelo.

Como avaliar o próprio atendimento

Uma primeira leitura de risco não exige auditoria técnica completa: começa por perguntar, categoria por categoria, se o chatbot já produziu esse tipo de conteúdo, mesmo que uma única vez. O Termômetro de Governança de IA no Atendimento aplica essa lógica em 8 perguntas, as 3 primeiras ancoradas nas categorias reais descritas acima.