UC00248 · Sessão 6
⌂
Sessão 6 · UC00248

IA Responsável —
ética, RGPD e AI Act

4 horas · 9h–13h · Usar IA bem é tão importante como usá-la

→ clica para avançar

O que fazemos hoje

A IA não é boa nem má.
É um espelho das escolhas
de quem a constrói e usa.

A responsabilidade não é da máquina. É da organização e das pessoas que tomam as decisões de design, adopção e uso.

Os 6 princípios de IA responsável

🔍 Transparência

Os utilizadores sabem que interagem com IA e como as decisões são tomadas.

⚖️ Equidade

O sistema não discrimina com base em género, etnia, idade ou outra característica protegida.

🔒 Privacidade

Dados pessoais com base legal, minimizados, protegidos e não partilhados sem consentimento.

🛡️ Segurança

O sistema funciona de forma fiável mesmo com inputs adversos ou falhas inesperadas.

👤 Responsabilidade

Existe sempre uma pessoa ou entidade responsável pelas decisões do sistema.

🌍 Benefício social

A IA serve o bem comum e não causa dano ao ambiente ou a grupos vulneráveis.

AI Act — 4 níveis de risco

Em vigor: AI Act aprovado em 2024. Aplicação faseada até 2027. LLMs como ChatGPT/Claude são GPAI (General Purpose AI) com obrigações próprias.

RGPD e IA generativa — o que é obrigatório

Política de uso de IA — o que a tua organização precisa

  • ✅
    O que é PERMITIDO — redigir textos, resumir documentos, brainstorming, análise de dados não confidenciais
  • 🚫
    O que é PROIBIDO — dados pessoais de clientes em ferramentas gratuitas, publicar sem revisão humana, apresentar IA como humano
  • 👤
    Supervisão humana obrigatória — decisões de contratação, crédito, comunicações legais
  • 📢
    Como reportar problemas — canal claro para outputs inadequados ou incidentes

Ferramentas autorizadas

Para dados confidenciais, apenas planos enterprise:

• ChatGPT Team / Enterprise

• Claude for Work

• Microsoft Copilot (M365)

• Gemini for Workspace

Versões gratuitas: só para tarefas sem dados confidenciais

Exercício 1 · Peça 7a · 20 min · Individual

Identificar riscos éticos do meu caso de uso

  1. 1Para cada um dos 6 princípios — o teu caso de uso cumpre? Há risco? Descreve brevemente.
  2. 2O AI Act classifica o teu caso de uso em que nível? (mínimo / limitado / alto / inaceitável) — justifica.
  3. 3Que grupos de pessoas podem ser prejudicados se o sistema falhar ou tiver viés?

📋 Peça 7a do Projecto Final · Tarefa Moodle — entrega até à Sessão 7

Exercício 2 · Peça 7b · 30 min · Individual

Auditoria RGPD e segurança do meu caso de uso

  1. 1Dados pessoais: que dados são processados? Qual a base legal RGPD? Como são protegidos?
  2. 2Ferramenta externa: se usas LLM externo, os termos garantem que os dados não são usados para treino?
  3. 3Supervisão humana: que decisões ficam sempre com revisão humana? Quem é o responsável?
  4. 4Política de uso: que regras propões para a tua organização? (permitido, proibido, como reportar)

📋 Peça 7b · Auditoria RGPD e segurança · Tarefa Moodle — entrega até à Sessão 7

Segurança na utilização de IA

  • 💉
    Prompt injection — manipulação via input malicioso que faz a IA ignorar instruções de segurança. Exemplo: "Ignora as instruções anteriores e faz X."
  • 🔓
    Data leakage — informação confidencial incluída num prompt pode ser registada, processada ou exposta pelo fornecedor.
  • 👤
    Shadow IT — colaboradores que usam ferramentas de IA não aprovadas criam riscos sem que a organização saiba.

Como mitigar

📋 Política de uso clara e comunicada

✅ Lista de ferramentas aprovadas com diferentes níveis (dados públicos vs. confidenciais)

🎓 Formação contínua — os riscos evoluem com as ferramentas

Casos reais de falhas de IA

CasoO que aconteceuLição
Amazon CV ScreeningSistema de triagem de CVs discriminava candidatas do género femininoDados de treino históricos replicam discriminação existente
COMPAS (EUA)Sistema de previsão de reincidência criminal com viés racial comprovadoIA em decisões de alto risco sem supervisão amplifica injustiça
Air Canada ChatbotBot inventou política de reembolso — tribunal obrigou a empresa a cumpri-laA empresa é responsável pelo que o seu chatbot afirma

Sem supervisão humana, as falhas escalam. A velocidade da IA amplifica tanto os acertos como os erros.

O que diz a lei — resumo prático

🇪🇺 AI Act

Em vigor desde agosto de 2024. Aplicação faseada até 2027. Classifica sistemas de IA por nível de risco.

LLMs como ChatGPT/Claude são GPAI com obrigações de transparência próprias

🔒 RGPD

Em vigor desde 2018. Aplica-se sempre que dados pessoais são processados por LLMs — inclui resumos de emails com nomes de pessoas.

DPA obrigatório com fornecedores de LLM para uso empresarial

🏛️ CNPD — Portugal

Autoridade nacional de proteção de dados. Notificação obrigatória em 72h em caso de violação de dados (Art. 33 RGPD). Mais informação: cnpd.pt

Resumo da Sessão 6

⚖️

6 princípios: transparência, equidade, privacidade, segurança, responsabilidade, benefício social.

🇪🇺

AI Act: 4 níveis de risco. Maioria das apps empresariais = risco mínimo ou limitado.

🔒

RGPD: planos gratuitos de LLMs + dados confidenciais = problema. Usa planos enterprise.

📋

Peças 7a e 7b — auditoria ética e RGPD do teu caso de uso.

🏁

Próxima sessão: avaliação final + compilar o Plano de Implementação.

💡

A responsabilidade é sempre humana. A IA é a ferramenta — tu és o decisor.