Ética de IA: justiça, transparência, prestação de contas
O curso trata da substância ética que fica por baixo de frameworks de conformidade de IA, como a ISO 42001 e o AI Act europeu. Ele explica por que paridade demográfica, equalized odds e calibração em geral não valem juntas. Mostra onde o viés entra num pipeline: dados históricos, variáveis proxy, ciclos de realimentação e conjuntos de avaliação. Apresenta a avaliação desagregada, que revela falhas de subgrupos escondidas por um agregado. Separa divulgação, explicabilidade e interpretabilidade, discute prestação de contas, contestação e viés de automação, e fecha com os limites da ética como processo.
O que você vai aprender
- ✓Por que paridade demográfica, equalized odds e calibração entram em conflito quando as taxas-base diferem
- ✓Quatro pontos de entrada do viés num pipeline e o conserto de cada um
- ✓Avaliação desagregada com limites por grupo como checagem no CI
- ✓A diferença entre divulgação, explicabilidade e interpretabilidade
- ✓Papéis responsáveis, contestação, viés de automação e registro por decisão
- ✓O que continua sendo julgamento de engenharia depois de todo o processo
A camada sob os frameworks
O curso de nível Sênior "Sistema de gestão de IA: ISO 42001" deu a você o processo. Ele traz um inventário, uma política, uma avaliação de impacto, controles de ciclo de vida, uma trilha de evidências, um portão de release, uma auditoria. O curso de nível Sênior "Conformidade: o AI Act europeu" deu…
Ler a aula completa grátis →Currículo
7 aulasA camada sob os frameworks
Situa a ética em relação à ISO 42001 e ao AI Act europeu e apresenta quatro perguntas de trabalho.
Justiça não é uma coisa só
Mostra, com um exemplo de crédito, por que paridade demográfica, equalized odds e calibração em geral não valem juntas.
Onde o viés de fato entra
Descreve quatro portas de entrada do viés: dados históricos, variáveis proxy, ciclos de realimentação e conjuntos de avaliação.
Medindo justiça: avaliação desagregada
Explica como uma métrica agregada esconde falhas de subgrupos e como a avaliação por grupo no CI as detecta.
Três tipos de transparência
Separa divulgação, explicabilidade e interpretabilidade por público e técnica, incluindo os limites das explicações post-hoc.
Prestação de contas, contestabilidade e o registro
Trata de papéis responsáveis nomeados, caminhos reais de recurso, viés de automação e registro de cada decisão.
Os limites da ética como processo
Examina o que continua sendo julgamento do engenheiro sênior mesmo com todo o processo cumprido e os artefatos arquivados.