🛡️ Module 6

Éthique, Sécurité
& Gouvernance IA

Utiliser l'IA de manière responsable : comprendre les risques, protéger les données et agir dans le respect des valeurs humaines.

⏱ 6 heures 📊 Niveau : Intermédiaire–Avancé 👥 Public : Décideurs, techniciens, formateurs
🎯

Objectifs pédagogiques

1

Éthique de l'IA — Fondements

⏱ ~75 min

1.1 Pourquoi l'éthique IA est cruciale

L'IA prend ou influence des décisions qui affectent des vies réelles : accès au crédit, embauche, diagnostics médicaux, surveillance. Sans cadre éthique, ces décisions peuvent discriminer, exclure ou nuire à grande échelle, souvent de manière invisible.

Cas réel : En 2018, Amazon a dû abandonner un algorithme de recrutement qui discriminait systématiquement les femmes, car il avait été entraîné sur 10 ans de CV historiques majoritairement masculins.

1.2 Les 7 principes éthiques de l'IA (UNESCO 2021)

⚖️

Proportionnalité

L'IA doit être adaptée à l'objectif, sans excès.

🔒

Sécurité

Robustesse, fiabilité, protection contre les abus.

🔍

Transparence

Explicabilité des décisions prises par l'IA.

🤝

Responsabilité

Des humains restent responsables des décisions IA.

🌍

Inclusion

Bénéfices pour tous, pas seulement les plus favorisés.

🌱

Durabilité

Impact environnemental de l'IA à considérer.

👤

Dignité humaine

L'IA doit respecter les droits et valeurs humains.

1.3 Dérives éthiques courantes

  • Surveillance de masse : reconnaissance faciale sans consentement
  • Manipulation : désinformation, deepfakes, contenu ciblé
  • Discrimination : algorithmes qui reproduisent et amplifient les inégalités
  • Opacité : "boîtes noires" dont les décisions ne peuvent être expliquées
  • Dépendance technologique : atrophie du jugement humain

1.4 La question des droits d'auteur

Quand une IA génère un texte ou une image, qui en est l'auteur ? La réglementation est encore floue. En pratique : soyez transparent sur l'usage de l'IA dans vos productions, et ne republiez pas du contenu généré sans vérification et adaptation.

💡 Règle pratique : L'IA génère, l'humain révise, valide et signe. La responsabilité finale reste toujours humaine.
2

Biais Algorithmiques

⏱ ~60 min

2.1 Qu'est-ce qu'un biais algorithmique ?

Un biais algorithmique est une erreur systématique dans les résultats d'un algorithme qui crée des traitements injustes ou inéquitables pour certains groupes. Il peut être intentionnel ou non, mais ses effets sont souvent invisibles.

2.2 Types de biais

📊

Biais de données

Les données d'entraînement sur-représentent certains groupes (hommes blancs, anglophones, urbains…).

🏷️

Biais d'étiquetage

Les humains qui annotent les données introduisent leurs propres préjugés.

📐

Biais de mesure

Les métriques choisies ne reflètent pas équitablement tous les groupes.

🔄

Biais de feedback

Les décisions passées (biaisées) alimentent de nouvelles décisions encore plus biaisées.

2.3 Biais dans le contexte africain

  • Sous-représentation linguistique : les langues africaines (Hasaniya, Peul, Soninké…) sont quasi absentes des corpus d'entraînement
  • Biais culturels : les normes, habillements et pratiques africaines sont mal comprises
  • Biais économiques : les modèles sont optimisés pour des économies formelles, pas pour l'informel dominant
  • Biais géographiques : les cartes et données de Mauritanie sont incomplètes dans les LLM

2.4 Comment détecter et atténuer les biais

  • Tester l'IA avec des données représentatives de votre population cible
  • Comparer les résultats pour différents groupes (genre, ethnie, région)
  • Documenter les biais identifiés et limiter les décisions automatisées dans les domaines sensibles
  • Impliquer des communautés diverses dans la conception et l'évaluation des systèmes IA
💡 Conseil : En Mauritanie, avant de déployer un système IA, demandez : "Ce système a-t-il été testé sur des données représentant notre population ? Qui en a été exclu ?"
3

Sécurité des Données & Confidentialité

⏱ ~60 min

3.1 Ce que vous risquez en utilisant l'IA publique

  • Fuite de données confidentielles : les conversations peuvent être utilisées pour améliorer les modèles
  • Réidentification : des données anonymisées peuvent être croisées pour identifier des personnes
  • Violations contractuelles : partager des informations client ou partenaire sans autorisation
  • Espionnage industriel : des secrets d'entreprise partagés avec une IA américaine/chinoise
⚠️ Ce qu'il ne faut JAMAIS partager dans une IA publique : numéros de carte, mots de passe, données médicales, identités de tiers, clauses contractuelles confidentielles, informations stratégiques de l'organisation.

3.2 Le RGPD et son applicabilité

Le Règlement Général sur la Protection des Données (RGPD) européen s'applique à toute organisation qui traite des données de résidents européens. La Mauritanie a sa propre loi sur la protection des données personnelles.

  • Droit à l'information : les personnes doivent savoir si leurs données sont traitées par une IA
  • Droit d'opposition : refuser une décision entièrement automatisée
  • Privacy by Design : intégrer la protection des données dès la conception

3.3 Bonnes pratiques de sécurité IA

🔐

Anonymisation

Remplacez noms, emails et données sensibles par des pseudonymes avant de les coller dans une IA.

🏠

On-premise

Pour les données très sensibles, utilisez des modèles hébergés localement (Ollama, LM Studio).

📋

Politique d'usage

Définissez une charte IA interne : ce qui est autorisé, interdit, et comment vérifier les sorties.

🧪

Audit régulier

Testez vos systèmes IA régulièrement pour détecter les dérives et les biais émergents.

4

Gouvernance et Réglementation IA

⏱ ~45 min

4.1 L'EU AI Act — Premier cadre mondial

Adopté en 2024, l'EU AI Act classe les systèmes IA par niveau de risque : inacceptable (interdit), élevé (réglementé), limité, minimal. Ses principes influenceront les réglementations mondiales, y compris africaines.

  • Interdit : notation sociale citoyenne, manipulation subliminale, reconnaissance faciale en temps réel dans l'espace public
  • Haut risque (réglementé) : recrutement, crédit, éducation, justice, infrastructure critique
  • Faible risque : chatbots, assistants personnels, génération de contenu

4.2 Stratégie IA en Afrique

  • Union Africaine : Cadre continental pour l'IA en Afrique (2024)
  • CEDEAO : Discussions sur une politique régionale de l'IA
  • Mauritanie : Loi sur la société de l'information, HAPA (audiovisuel), travaux du CNRST

4.3 Construire une gouvernance IA organisationnelle

📜

Charte IA

Document définissant les valeurs, usages autorisés et interdits de l'IA dans l'organisation.

👥

Comité IA

Groupe pluridisciplinaire (tech, RH, juridique, éthique) supervisant les projets IA.

📊

Registre IA

Inventaire des systèmes IA utilisés, leurs données, décisions prises et impacts.

🎓

Formation continue

Programme de sensibilisation éthique pour tous les employés utilisant l'IA.

💡 Message final M6 : La puissance de l'IA impose une responsabilité proportionnelle. Dans notre contexte mauritanien, nous devons être à la fois adopteurs éclairés et gardiens critiques — construire une IA qui reflète nos valeurs, notre culture et nos besoins réels.