A IA consegue ajudar. Mas quem será afetado se a decisão estiver errada?
A escola abriu 10 vagas para um projeto e recebeu 60 inscrições. Para economizar tempo, alguém sugere: “vamos mandar as fichas para uma IA e pedir que escolha os 10 melhores”. A ideia parece eficiente até surgirem perguntas difíceis: o que significa “melhor”? Quais dados devem ser enviados? Notas e faltas contam? A IA pode decidir sozinha? E se um aluno for prejudicado por um critério que ninguém percebeu?
Este módulo começa aí porque ética não é uma lista de proibições colocada depois que a tecnologia está pronta. Ela aparece dentro da decisão: no problema escolhido, nos dados usados, nos critérios, na possibilidade de contestação e na responsabilidade de quem age sobre o resultado.
Regra central
Quanto maior a consequência para uma pessoa, mais precisamos de critérios explícitos, evidência, revisão e responsabilidade humana.
Como seguir esta aula
LEIA E DECIDA
Nos tópicos 1 a 12, as perguntas e microdecisões são para você parar e formar um julgamento próprio. Não há prompt escondido para copiar nem obrigação de abrir uma IA.
FAÇA AGORA
No laboratório e no desafio final, escreva suas respostas antes de avançar. A proposta é decidir se, como e até onde a IA deve participar — inclusive quando a melhor decisão for não usá-la.
Importante
As situações com inscrições, notas, faltas e observações são casos didáticos fictícios. Não envie fichas reais de alunos ou outros dados pessoais para realizar esta atividade.
1. Antes de discutir “ética da IA”, descubra qual decisão está sendo tomada
Usar IA para sugerir um título de cartaz e usar IA para escolher quem recebe uma oportunidade não têm o mesmo peso. No segundo caso, alguém pode perder algo importante.
Baixa consequência
Sugerir títulos, reorganizar um texto ou criar alternativas de layout. Um erro costuma ser simples de corrigir.
Alta consequência
Selecionar pessoas, avaliar desempenho, negar acesso, indicar risco ou produzir uma acusação. Um erro pode gerar prejuízo difícil de desfazer.
Essa pergunta muda o nível de cuidado necessário antes mesmo de escolher a ferramenta.
2. As fichas têm muitos dados. Isso não significa que todos devam ser usados
Nas inscrições aparecem nome, idade, turma, notas, faltas, telefone, texto de motivação e observações de professores. A equipe percebe que “mandar tudo” é uma decisão, não uma etapa neutra.
Usar o arquivo inteiro porque já está pronto
Informações pessoais entram na análise mesmo sem relação clara com o objetivo.
Selecionar o mínimo necessário
A equipe define primeiro quais critérios são legítimos e só então escolhe os dados necessários.
- Defina a finalidade antes de escolher os dados.
- Remova informações que não mudam a decisão.
- Anonimize identidades quando possível.
- Respeite regras institucionais e de proteção de dados.
3. “Escolha os melhores” parece objetivo, mas esconde uma decisão humana
A IA não recebe uma definição de “melhor aluno”. Ela pode privilegiar notas, frequência, palavras do texto de motivação ou algum padrão aprendido que a equipe nem pretendia usar.
Viés não exige intenção de prejudicar
Uma diferença injusta pode surgir dos dados disponíveis, da forma como o problema foi definido, dos critérios escolhidos ou do modo como o sistema generaliza padrões.
4. Um padrão nos dados vira causa com facilidade — e isso pode gerar uma regra injusta
Ao analisar inscrições antigas, alguém percebe que alunos com mais faltas participaram menos até o fim do projeto. Surge a tentação: “então faltas provam falta de compromisso”. Mas uma associação não explica sozinha o motivo das faltas nem o comportamento futuro de uma pessoa.
Conclusão apressada
“O padrão apareceu, então essa característica causa o problema.”
Conclusão responsável
“Há uma associação nos dados. Precisamos investigar contexto e outras variáveis antes de transformá-la em critério.”
Quando correlação vira explicação sem evidência, um dado pode se transformar em filtro, punição ou exclusão.
5. A lista de 10 nomes fica pronta. Quem pode questionar o resultado?
Mesmo com critérios definidos, erros podem acontecer: dado desatualizado, informação incompleta, interpretação ruim ou regra mal aplicada. A pessoa afetada precisa ter alguma forma de revisão.
| Pergunta | Por que importa? |
|---|---|
| Quais dados entraram? | Dados errados ou incompletos alteram o resultado. |
| Quais critérios foram usados? | O sistema não deveria inventar o que a instituição nunca decidiu. |
| Quem revisa? | Uma pessoa precisa conseguir corrigir erro relevante. |
| Como contestar? | Quem é afetado não deveria ficar diante de uma decisão impossível de revisar. |
6. Em outra turma, um relatório perfeito aparece — mas ninguém sabe quanto dele foi realmente produzido pelo aluno
Um estudante pede à IA para escrever todo o relatório e entrega sem ler. Outro usa IA para organizar a estrutura, escreve o conteúdo, confere fontes e consegue explicar cada decisão. Ambos “usaram IA”, mas o processo de autoria é diferente.
Assistência
Ideias, estrutura, perguntas, revisão e alternativas.
Geração
Partes do texto, código, imagem ou análise são produzidas pela ferramenta.
Responsabilidade
Quem entrega continua responsável por conferir, assumir e explicar o resultado.
7. O relatório traz uma referência acadêmica muito convincente — que ninguém encontra
O problema não é apenas “a IA pode alucinar”. O problema é que a referência vem formatada como se estivesse pronta para uso. A forma transmite confiança antes de existir evidência.
- Abra a fonte original quando a afirmação for importante.
- Confira autor, título, data e contexto.
- Verifique se a fonte realmente sustenta a afirmação.
- Quando não conseguir confirmar, trate como não verificado.
Regra para guardar
A IA pode indicar um caminho. A evidência vem da fonte real.
8. Um áudio circula no grupo dizendo que a escola cancelou o evento
A voz parece conhecida, o tom é urgente e várias pessoas começam a encaminhar. Não há comunicado oficial. Em 2026, áudio, imagem e vídeo convincentes já não podem ser tratados sozinhos como prova de que algo aconteceu.
Sinais de proveniência e rotulagem podem ajudar quando existem, mas não substituem a verificação do fato. O Panorama de IA · Setembro de 2026 aprofunda essa atualização; você pode consultá-lo agora como referência ou deixá-lo para depois de concluir a trilha.
9. “Usamos IA” é verdadeiro — mas pode esconder justamente o que alguém precisa saber
A escola decide usar IA para organizar respostas abertas de uma pesquisa. Dizer apenas “houve uso de IA” não explica se a ferramenta decidiu, classificou, resumiu ou apenas ajudou a preparar o material.
Transparência que pouco informa
“Usamos IA.”
Transparência útil
“A IA ajudou a sugerir categorias para respostas abertas. A equipe revisou a classificação e tomou a decisão final.”
Quanto maior a consequência, mais importante é tornar compreensível qual papel a tecnologia teve e onde entrou a revisão humana.
10. Economizar tempo pode criar um custo que não aparece na planilha
Automatizar a análise das inscrições economiza horas. Mas o ganho precisa ser comparado com riscos: dados expostos, erros repetidos em escala, critérios difíceis de contestar, dependência da ferramenta ou perda de aprendizagem.
11. A ferramenta agora consegue agir — e responsabilidade não desaparece porque a ação foi automática
Considere uma diferença: uma IA sugere um e-mail para os candidatos; outra está conectada ao sistema e consegue enviar as mensagens. No segundo caso, um erro pode sair da tela e atingir pessoas sem uma nova oportunidade de revisão.
Automação sem ponto de controle
O sistema classifica, gera e envia a resposta sem que ninguém confira os casos importantes.
Automação com limites
A IA organiza ou prepara rascunhos; decisões e ações de consequência relevante exigem aprovação humana.
- Use a menor permissão necessária.
- Prefira rascunho antes de envio.
- Exija confirmação para ações importantes ou difíceis de desfazer.
- Mantenha registro do que foi feito e possibilidade de correção.
12. Então quem responde quando algo dá errado?
É comum ouvir “foi o sistema que escolheu”. Mas pessoas decidiram adotar a ferramenta, escolher dados, configurar critérios, conceder permissões e agir sobre o resultado.
Responsabilidade pode ser distribuída, mas não desaparece
Desenvolvedores, fornecedores, instituições e usuários podem ter responsabilidades diferentes. A automação não transforma uma decisão humana em algo sem responsável.
13. Laboratório — você faz parte da comissão das 10 vagas
Volte à situação que abriu o módulo. Agora você precisa decidir como a IA participará do processo — e talvez concluir que ela não deve fazer certas partes.
Situação fictícia: 60 inscrições para 10 vagas. As fichas contêm nome, idade, turma, notas, texto de motivação, faltas e observações de professores.
Antes de começar
Trabalhe apenas com esta descrição fictícia. Não use fichas, nomes, notas, telefones ou observações reais de estudantes.
Etapa A — defina o objetivo sem citar IA
FAÇA AGORA: escreva o que a seleção precisa alcançar e que problema a comissão está realmente tentando resolver. Pare antes de seguir.
Etapa B — escolha critérios antes dos dados
FAÇA AGORA: escreva o que torna um candidato adequado ao projeto e verifique se os critérios conseguiriam ser explicados publicamente.
Etapa C — escolha apenas os dados necessários
FAÇA AGORA: para cada campo da ficha, justifique por que ele altera um critério legítimo. Se não conseguir justificar, retire-o da análise.
Etapa D — tente encontrar injustiças possíveis
FAÇA AGORA: imagine pelo menos dois casos em que um critério aparentemente objetivo poderia prejudicar alguém por causa de contexto não observado.
Etapa E — decida o papel da IA
FAÇA AGORA: escolha e justifique: a IA deve selecionar, criar ranking, organizar informações, sinalizar fichas incompletas ou não participar dessa parte?
Etapa F — crie revisão e contestação
FAÇA AGORA: defina quem revisa, como um erro é corrigido e como um candidato poderia questionar uma informação incorreta.
PARE E CONFIRA
Você deve conseguir explicar suas decisões sem usar a frase “porque a IA achou melhor”. Ética entrou antes da ferramenta: na definição do problema, nos critérios, nos dados, no grau de automação e na forma de reparar um erro.
14. Desafio — analise uma decisão real
Escolha uma situação da escola, trabalho ou vida cotidiana em que alguém queira usar IA: seleção, avaliação, atendimento, criação de conteúdo, análise de dados, monitoramento ou comunicação. Descreva a situação sem expor dados pessoais reais.
- Descreva o objetivo sem começar pela ferramenta.
- Identifique quem pode ser afetado e que consequência existe.
- Liste os dados necessários e elimine os que não mudam a tarefa.
- Defina critérios que possam ser explicados.
- Imagine pelo menos dois erros possíveis.
- Decida se a IA deve sugerir, organizar, recomendar, agir ou nem ser usada.
- Crie revisão humana proporcional ao risco.
- Explique como alguém poderia contestar ou corrigir o resultado.
- Registre como o uso de IA deveria ser comunicado às pessoas afetadas.
Critério do desafio
Uma boa resposta não é “usar” nem “proibir” IA por princípio. É conseguir justificar o nível de uso adequado considerando benefício, risco, evidência, pessoas afetadas e responsabilidade.
15. Fechamento da trilha de IA
Nos seis módulos, a IA deixou de ser uma caixa mágica e passou a ser uma tecnologia que você precisa compreender, orientar, testar e julgar.
- Entenda o que a IA faz e onde pode errar.
- Comece por situações e problemas reais.
- Use fontes e materiais reais sempre que existirem.
- Conduza a interação em vez de procurar frases mágicas.
- Transforme informação em trabalho verificável.
- Use IA na programação sem abandonar o entendimento do código.
- Proteja dados e explicite critérios quando pessoas forem afetadas.
- Não confunda conteúdo convincente com evidência.
- Aumente revisão e controle conforme aumenta a consequência ou autonomia do sistema.
- Assuma responsabilidade pelo que você usa, entrega, publica ou decide.
A ideia que fecha a trilha
Usar IA bem não é entregar mais decisões à máquina. É aprender a decidir melhor quando, como, para quê e até onde usar a máquina.