Formation "L'IA au service de l'école inclusive"
Activité n°1

L'Intelligence Artificielle est alimentée par les biais de l'humain. Plusieurs biais sont en jeu. Nous vous proposons de les découvrir au travers d'un site en ligne proposé par la Haute École Pédagogique du canton de Vaud (Suisse).

https://mi.hepl.ch/projects/ia/ia.html

 
Les biais (apports complémentaires)

Dans cette activité, vous avez donc pu retrouver 5 biais de l'IA :

  • Biais de sélection
Il correspond aux erreurs systématiques faites lors de la sélection des données collectées. Ce biais survient quand le groupe de données n'est pas représentatif du groupe cible.
ex :Dans le secteur de la santé, la sous-représentation des groupes minoritaires dans les données peut fausser les algorithmes d’IA prédictive. Il a ainsi été constaté que les systèmes de diagnostic assisté par ordinateur fournissaient des résultats moins précis pour les patients noirs que pour les patients blancs.

  • Biais d'algorithme
Il correspond aux erreurs systématiques que l'on retrouve dans les algorithmes de machine learning et qui produisent des résultats injustes ou discriminatoires.
ex : Dans la génération d'une image, selon la manière dont l'algorithme a été conçu, on peut retrouver des images discriminatoires si on demande à l'IA de représenter un bibliothécaire.

  • Biais de données
Il correspond aux données d'entraînement de l'IA qui peuvent être dès le départ biaisées.
ex : Données de reconnaissances faciales avec des images liées essentiellement à la même ethnie. (cf. Projet de prédiction des délits aux Etats-Unis basé sur des bases de données de quelques secteurs de Los Angeles).

  • Biais d'interaction
Il correspond aux choix des utilisateurs, notamment dans les prompts, qui vont influencer l'IA générative à travers des éléments du prompt.

  • Biais de confirmation
Étroitement lié aux biais cognitifs, cela se produit lorsque l’IA s’appuie trop sur des croyances ou des tendances préexistantes dans les données, en doublant les biais existants et en étant incapable d’identifier de nouveaux modèles ou tendances.

L'activité suivante vous permettra d'en repérer et de mieux comprendre les implications que ces biais peuvent générer.
Activité n°2

Comme il a été dit précédemment, l’intelligence artificielle est alimentée par les biais de l’humain (cf. Emmanuelle Aboaf, ingénieure d’études et de développement dans une entreprise sociale et solidaire et Thanh Lan Doublier, développeuse spécialisée dans l’IA, toutes deux en situation de handicap)

Nous vous proposons de tester ces biais avec une IA générative d'images de votre choix. Si vous n'en connaissez pas ou n'en utilisez pas, vous pouvez tester via :

Nous vous proposons de demander à ces IA de créer des images liées au handicap :
  • 1ère image à créer : produire une affiche représentant une personne en situation de handicap dans un parc.
  • 2e image à créer : produire une image avec une personne sourde.
Pour écrire votre prompt, nous vous conseillons d'utiliser la méthode IMAGES afin d'être le plus précis possible.
I pour l'intention
M pour le motif
A pour l'ambiance
G pour le grain
E pour l'esthétique
S pour le style

Vous pouvez utiliser un des assistants de prompt pour vous aider dans la rédaction :
Network
My requests