Como classificar risco de um novo caso de uso de IA?

Use classificação inspirada no EU AI Act, em 4 níveis:

🔴 Inaceitável (proibido)

• Sistemas de pontuação social
• Manipulação subliminar
• Reconhecimento biométrico em tempo real em espaço público
• Categorização por atributos sensíveis

🟠 Alto risco (supervisão rigorosa)

• IA em contratação/demissão
• Concessão de crédito/seguro
• Diagnóstico médico direto ao paciente
• Decisões que afetam direitos fundamentais
  → Requer: DPIA obrigatório, comitê aprova individualmente, supervisão humana, auditoria externa

🟡 Risco limitado (transparência)

• Chatbots
• Assistentes internos
• Recomendadores
  → Requer: informar que é IA, permitir escalar para humano

🟢 Risco mínimo (controles padrão)

• Sumarização de docs internos
• Tradução
• Análise agregada de dados

Árvore de decisão:

PERGUNTA → Decide risco:
├── Afeta decisões sobre pessoas (contratação, crédito, saúde)?
│     → SIM → 🟠 ALTO RISCO
├── Interage diretamente com pessoas externas?
│     → SIM → 🟡 LIMITADO
├── Viola direitos fundamentais?
│     → SIM → 🔴 INACEITÁVEL (não fazer)
└── Caso contrário → 🟢 MÍNIMO

📖 Documentação completa na Wiki:

• Governança de IA
• IA Responsável