Quando os Dados Levam a uma Decisão Injusta
Período: Ensino Fundamental 1 | Ano: 5º Ano
Importante: Este material é meramente uma sugestão. Cabe ao educador adaptar as ideias oferecidas à realidade de sua turma, encontrando a melhor forma de aplicar o conteúdo.
Introdução: Investigar como dados inadequados ou escolhas humanas podem produzir resultados injustos em sistemas automatizados. A turma aprenderá a identificar possíveis vieses, comparar grupos e questionar resultados produzidos por modelos.
Passo a Passo para Execução
- Abrir o jogo Survival of the Best Fit.
- Ler a apresentação inicial sobre viés em sistemas de Inteligência Artificial.
- Jogar a primeira rodada seguindo as orientações da atividade.
- Observar quais características aparecem associadas às decisões tomadas.
- Registrar as escolhas realizadas e os efeitos produzidos pelo sistema.
- Reiniciar a experiência quando possível.
- Alterar conscientemente as escolhas de treinamento.
- Comparar os resultados de diferentes formas de treinamento.
- Identificar uma situação em que o modelo possa reproduzir um padrão aprendido dos dados.
- Registrar no caderno a diferença entre dado, decisão humana, modelo e resultado.
- Promover uma discussão sobre por que um sistema automatizado precisa ser avaliado.
- Pedir que cada dupla produza uma conclusão em três frases.
- Evitar transformar a atividade em julgamento de pessoas; o foco deve ser a análise do sistema e dos dados.
- Relacionar o jogo a processos de recomendação, classificação e seleção.
- Encerrar mostrando que 'ser automático' não significa 'ser sempre correto ou justo'.
Links e Recursos
Comentários
Survival of the Best Fit é útil porque coloca a criança dentro de uma situação em que ela participa da criação do conjunto de exemplos e depois observa o efeito das escolhas. Isso ajuda a compreender que o resultado de um sistema de IA não surge do nada. Dados, objetivos, critérios e escolhas humanas participam do processo. O termo auditoria significa examinar o funcionamento e os resultados para encontrar problemas e descobrir o que precisa ser melhorado.A Máquina de Selecionar Equipes
Os alunos observarão um sistema fictício que seleciona participantes com base em exemplos anteriores. O conjunto de treinamento será propositalmente desequilibrado. As crianças deverão identificar o problema e propor mudanças nos dados.Materiais Necessários
- Cartões de personagens fictícios com diferentes características
- Cartões de resultados de seleção
- Dois conjuntos de dados de treinamento: um desequilibrado e outro mais representativo
- Cartões de decisão do 'sistema'
- Tabela para contar resultados por grupo
- Calculadora simples, quando disponível
- Quadro branco
- Lápis, borracha e lápis de cor
- Cartões de hipótese
- Cartões de 'dado faltante' e 'dado repetido'
- Crachás de 'Auditor de Dados' e 'Analista'
- Fichas de relatório
Passo a Passo da Execução
- Perguntar se um computador consegue produzir uma decisão injusta mesmo sem ter sentimentos.
- Explicar que o sistema trabalha com dados e regras construídas por pessoas, portanto os dados e as escolhas feitas no desenvolvimento podem influenciar os resultados.
- Apresentar um conjunto de treinamento contendo muitos exemplos de um grupo e poucos exemplos de outro.
- Mostrar as decisões produzidas pelo sistema fictício.
- Contar quantas pessoas de cada grupo foram selecionadas.
- Perguntar se a diferença observada pode estar relacionada ao modo como os dados foram preparados.
- Identificar quais grupos aparecem pouco no treinamento.
- Criar um novo conjunto de dados mais equilibrado.
- Repetir a simulação.
- Comparar os resultados das duas situações.
- Discutir a diferença entre descobrir uma diferença nos resultados e provar sua causa.
- Explicar que auditoria significa examinar o sistema e seus resultados de forma cuidadosa.
- Pedir que cada equipe crie uma situação fictícia em que uma decisão automática precise ser verificada por uma pessoa.
- Reforçar que sistemas usados em situações importantes precisam ser avaliados com critérios adequados.
- Encerrar mostrando que IA não elimina a responsabilidade das pessoas que escolhem dados, objetivos e formas de utilização.