IA responsable, éthique et RGPD

Séquence 1 — Trois cadres, trois questions différentes

• Le RGPD répond à « ai-je le droit d'utiliser ces données » — depuis 2018
• L'AI Act répond à « ce système est-il acceptable, et à quelles conditions »
• Les règles internes répondent à « qu'a décidé mon entreprise »
• Ce qui se cumule : un usage peut être licite au RGPD et interdit par l'AI Act

Séquence 2 — L'AI Act par les niveaux de risque

• Pratiques interdites : notation sociale, exploitation de vulnérabilités, reconnaissance des émotions au travail
• Haut risque : recrutement, accès au crédit, éducation, infrastructures — et les obligations qui suivent
• Risque limité : l'obligation de transparence, dire que l'on parle à une machine
• Risque minimal : le reste, sans obligation spécifique
• Les obligations du déployeur, distinctes de celles du fournisseur

Séquence 3 — Le RGPD appliqué à l'IA

• Base légale : intérêt légitime, contrat, consentement — ce que chacune impose
• Minimisation : la donnée qu'on ne collecte pas est celle qu'on n'a pas à protéger
• Décision automatisée et article 22 : le droit d'obtenir une intervention humaine
• Transfert hors Union européenne : la question que pose tout service en ligne
• Durées de conservation, et pourquoi un historique de conversation en est une

Séquence 4 — Biais, équité et discrimination

• Où naît le biais : données historiques, variable indirecte, boucle de rétroaction
• Discrimination directe et indirecte : la seconde est la plus fréquente en IA
• Ce qui se mesure : écart de taux d'erreur entre groupes, et non l'intention
• Ce qu'on documente : origine des données, choix retenus, écarts constatés
• Atelier : trois cas, identifier le biais et le risque juridique associé

Séquence 5 — Le réflexe de conformité

• Les cinq questions à se poser avant de déployer un usage d'IA
• Analyse d'impact : quand elle est obligatoire, ce qu'elle contient
• Qui alerter : délégué à la protection des données, référent sécurité, juridique
• Ce qui se consigne, et pourquoi la traçabilité protège autant qu'elle contraint
• Construire sa propre liste de contrôle, applicable dès le retour au poste