IA pode ter viés. Como evitar em agentes da nossa empresa?
1 Answers
6 práticas fundamentais:
1. Teste com diversidade ANTES de publicar
Rode 50-100 perguntas variando: nomes (gênero, origem étnica), idade, geografia, classe socioeconômica inferível. Qualidade das respostas é similar?
2. Humano no loop em decisões sobre pessoas
Nunca automatize 100% decisões de contratação, promoção, crédito, saúde. IA sugere, humano decide.
3. Dados de treinamento / RAG limpos
- Use dados representativos, não só de 'ganhadores históricos'
- Remova correlações com atributos sensíveis (código postal → classe → raça inferida)
- Documente origem e critérios de seleção
4. Explicite imparcialidade no prompt do sistema
Trate todos os perfis com igual profundidade e qualidade.
Não faça suposições baseadas em nome, gênero inferido, origem.
Se a pergunta pedir decisão sobre pessoa, aponte critérios
OBJETIVOS e sugira revisão humana.
5. Monitoramento contínuo em produção
Trace métricas por grupo demográfico (quando dados permitem, respeitando LGPD). Detectar drift.
6. Canal de feedback/denúncia
Usuários reportam casos suspeitos. Comitê de IA analisa periodicamente.
Red flag: se o agente sistematicamente 'prefere' ou 'rejeita' perfis, pare e investigue antes de escalar.
📖 Documentação completa na Wiki:
Related