Sistema de gestão de IA: ISO 42001
O curso trata da ISO/IEC 42001, norma de sistema de gestão para IA publicada em dezembro de 2023. Ela certifica o processo de decisão de uma organização, e nunca um modelo específico. Apresenta o ciclo Plan-Do-Check-Act, as cláusulas 4 a 10 e o Anexo A. Também trata da política de IA, do inventário de sistemas, das avaliações de risco e de impacto, dos controles de ciclo de vida e do portão de release. Fecha com auditoria interna, ação corretiva e a montagem dessas peças numa aplicação Rails.
O que você vai aprender
- ✓Como uma norma de sistema de gestão certifica um processo em vez de um produto
- ✓Escrever uma política de IA e manter um inventário de sistemas de IA
- ✓Distinguir avaliação de risco de avaliação de impacto de sistemas de IA
- ✓Controles de ciclo de vida, da governança de dados à supervisão humana
- ✓Portões de release que conferem se as evidências existem e estão atualizadas
- ✓Auditoria interna, análise crítica pela direção e ação corretiva
Governando a decisão, não o código
Um auditor faz uma pergunta simples: "Me mostre quem aprovou colocar este modelo em produção, e o que essa pessoa olhou antes de dizer sim". O time tem o modelo. Tem o código. Tem uma thread no Slack em que alguém escreveu "parece bom, pode subir". O que ele não tem é nada que sobreviva à saída da…
Ler a aula completa grátis →Currículo
7 aulasGovernando a decisão, não o código
Explica o que é um sistema de gestão, por que a ISO 42001 certifica processos e como suas cláusulas se organizam.
A política de IA e o inventário de sistemas
Trata das obrigações da liderança na cláusula 5, da política de IA e do inventário de sistemas de IA.
Avaliação de risco versus avaliação de impacto
Separa a avaliação de risco, sobre custos para a organização, da avaliação de impacto, sobre efeitos nas pessoas.
Controles de ciclo de vida: do dado ao lançamento
Descreve os controles de ciclo de vida do Anexo A: governança de dados, decisões de design, testes e supervisão humana.
Registros operacionais e o portão de release
Mostra como um portão de release lê os registros operacionais e confere se existem e estão atualizados antes da entrega.
Auditoria, análise crítica e melhoria contínua
Cobre auditoria interna, análise crítica pela direção, não conformidade, ação corretiva e melhoria contínua, a metade Check e Act.
Montando um AIMS numa aplicação Rails
Liga inventário, política, registros de evidência, portão de release e auditoria num único fluxo dentro de uma aplicação Rails.