Biais images IA : comment les repérer et les corriger

Les biais des images IA viennent des données d'entraînement. Notre méthode pour les tester, corriger vos prompts et valider chaque série avant publication.

Illustration de l'article : Biais images IA : comment les repérer et les corriger

D'où viennent les biais dans les images générées par IA ?

En résumé : Le manque de diversité / La corrélation métier-genre / Le biais esthétique / Le biais culturel / Le biais de contexte

Les générateurs d'images IA utilisent d'immenses corpus collectés sur le web : banques d'images, archives de presse, illustrations, pages marchandes, captures de réseaux sociaux. Ce qu'on appelle un ensemble de données n'a rien de neutre. Il reflète qui photographie, qui est photographié et quelles scènes se vendent. Une grande partie de ces images arrive non étiquetées, et c'est un second modèle qui leur associe des descriptions automatiques, avec ses propres approximations.

Ce couplage image-texte permet au système d'apprendre les régularités, y compris celles dont personne ne voulait. Les stéréotypes présents dans la société se retrouvent donc condensés au sein des données, puis amplifiés à la sortie. Si les photos de dirigeants présentaient surtout des hommes d'âge mûr en costume, le modèle restitue ce profil dès que vous écrivez « patron ». Ces corpus demandent de s'interroger sur leur degré de représentativité avant qu'on leur fasse confiance.

Ce qu'on appelle le biais algorithmique

Le biais algorithmique désigne l'écart systématique entre ce que produit un modèle et la réalité qu'il prétend représenter. En informatique, ce n'est pas une panne : les algorithmes font exactement ce pour quoi ils ont été optimisés. Le déséquilibre se joue en amont, dans les choix humains de collecte, de filtrage et d'étiquetage. Dire que l'intelligence artificielle est objective n'a donc pas de sens : elle hérite des déséquilibres de ses données d'entrée et reste aussi partiale que la matière première qu'on lui a fournie.

Cinq types de biais que nous voyons revenir

Grille de cartes : Cinq types de biais que nous voyons revenir
  • Le manque de diversité : mêmes visages, même tranche d'âge, mêmes morphologies, quelle que soit la demande.
  • La corrélation métier-genre : infirmière au féminin, ingénieur au masculin, sans que le prompt l'ait précisé.
  • Le biais esthétique : peau lissée, dents alignées, silhouettes calibrées, un rendu catalogue qui efface toute singularité.
  • Le biais culturel : décor occidental par défaut, mobilier neutre, objets et vêtements qui ne correspondent pas aux populations visées.
  • Le biais de contexte : certaines personnes sont systématiquement placées dans des rôles subalternes ou des lieux dégradés.

Ce que la recherche a établi sur ces écarts

Le domaine n'est pas nouveau. La recherche publiée depuis la fin des années 2010 sur les fonctions de reconnaissance faciale a montré des taux d'erreur très inégaux selon les groupes de personnes, ce qui a conduit plusieurs éditeurs à suspendre ou réécrire leurs systèmes. La même mécanique vaut pour la génération d'images : les études menées sur DALL·E, sur Stable Diffusion et sur les assistants grand public comme ChatGPT décrivent des associations récurrentes entre profession, genre et couleur de peau. Nous ne citons pas de chiffre ici, parce qu'il change à chaque version de modèle.

La leçon utile pour vous est méthodologique. Les laboratoires évaluent un moteur en comparant des séries de sorties produites à partir de prompts identiques, puis en regardant la distribution des attributs. Vous pouvez reprendre cette approche à petite échelle, sans outil spécialisé, avec une grille et un tableur. L'analyse ne demande que de la régularité.

Comment auditer un modèle avant de lancer une production ?

Grille de cartes : Comment auditer un modèle avant de lancer une production ?

Avant d'engager des crédits sur une campagne, nous passons toujours par un test à vide. Le principe : donner au modèle le moins d'indications possible, puis observer ce qu'il décide seul. C'est là que ses automatismes apparaissent, bien plus clairement que dans une image soignée.

  • Écrivez cinq à dix prompts volontairement vagues : « un médecin », « une équipe commerciale », « un client satisfait », « une famille à table ».
  • Générez quatre images par prompt en changeant de seed à chaque fois, pour ne pas confondre un hasard et une tendance.
  • Notez dans un tableur, pour chaque image : genre perçu, tranche d'âge, morphologie, teint, décor, rôle occupé.
  • Relisez la colonne la plus uniforme : c'est votre biais dominant sur ce modèle.
  • Refaites le test sur un autre moteur avant de choisir, car les résultats diffèrent beaucoup d'un modèle à l'autre.

Quand vous auditez une IA, ses sorties par défaut en disent plus long que sa documentation. Prenez l'habitude d'analyser vos séries plutôt que vos images une par une : un écart ne se voit jamais sur un visuel isolé. Conservez enfin les données des tests que vous menez, elles servent de point de comparaison quand une nouvelle version sort et que le comportement change sans annonce.

Quels prompts et réglages corrigent un manque de diversité ?

Le levier principal reste le texte. Un modèle complète ce que vous ne dites pas avec sa statistique interne : chaque attribut que vous nommez lui retire une liberté. Décrire précisément n'est pas de la lourdeur, c'est de la direction artistique. Nos prompts d'images les plus fiables tiennent en trois blocs : sujet, contexte, rendu technique.

  • Donnez l'âge en années plutôt qu'en adjectif : « une femme de 62 ans » fonctionne mieux que « une femme âgée ».
  • Décrivez la morphologie, la texture de peau, la coiffure, les mains, les vêtements de travail réels du métier montré.
  • Ajoutez le contexte géographique et social : quartier, matériel, saison, langue visible sur les enseignes.
  • Écartez le rendu catalogue avec un prompt négatif : « peau lissée, maquillage parfait, pose de studio, sourire commercial ».
  • Fixez le seed dès qu'une image vous convient, puis faites varier un seul attribut à la fois pour comprendre ce qui pèse.
  • Appuyez-vous sur une image de référence quand un type de visage ne sort jamais spontanément du modèle.

Pour une série, travaillez par groupes plutôt qu'image par image. Un module comme l'Image Multiplier décline une base en plusieurs variantes, ce qui rend les répétitions visibles d'un coup d'œil. Nous voulons voir côte à côte ce que le moteur considère comme normal, parce qu'une anomalie se repère par contraste. Si un modèle résiste malgré des prompts très détaillés, changez-en : certains gèrent nettement mieux les portraits non standard.

Comment installer un contrôle humain dans votre chaîne numérique ?

Étapes : Comment installer un contrôle humain dans votre chaîne numérique ?

Aucun réglage ne remplace une relecture. Les moyens nécessaires sont modestes : une grille de dix lignes et une personne qui n'a pas écrit le prompt. Dans nos productions, l'auteur d'un visuel ne le valide jamais seul, parce qu'on ne voit pas ses propres angles morts.

  • Une grille de validation : qui est représenté, dans quel rôle, avec quel niveau de détail.
  • Deux regards différents sur chaque série destinée à une diffusion publique.
  • Un journal des prompts, pour retrouver un an plus tard ce qui a produit une image.
  • Un test de réception auprès d'un utilisateur du groupe représenté, quand l'enjeu le justifie.
  • Une revue trimestrielle des visuels publiés, pour identifier les répétitions qu'on ne voit pas image par image.

Former ses équipes compte également. Un graphiste qui connaît ces mécanismes écrit de meilleurs prompts qu'un filtre automatique, parce qu'il anticipe ce que la machine va combler toute seule. Si vous intégrez la génération dans un service numérique ouvert au public, documentez les fonctions utilisées, les modèles appelés et les limites connues : cette trace vous sera demandée tôt ou tard. Les capacités techniques progressent vite ; la vigilance, elle, ne s'automatise pas.

Quel cadre juridique et éthique pour ces visuels ?

Le droit français et le RGPD encadrent surtout l'usage de personnes réelles : pas de visage identifiable sans autorisation, pas de données personnelles injectées dans un modèle sans base légale. Notre article sur l'utilisation du visage d'une vraie personne détaille ces limites. L'AI Act européen ajoute une logique de transparence sur les contenus synthétiques, ce qui pousse à signaler qu'un visuel est généré par IA dès que la confusion est possible. Pour un cas précis, consultez un juriste plutôt qu'un article de blog.

L'éthique commence avant le droit. Un visuel publicitaire qui ne montre jamais certaines morphologies ou certaines origines envoie un message, même sans intention de son auteur. Les annonceurs solides se posent une question simple avant diffusion : à qui cette image parle-t-elle, et qui en est absent ? Cette question vaut mieux qu'une charte de dix pages que personne ne relit.

Questions fréquentes

Parce que les corpus d'entraînement sont dominés par des images commerciales, où ce profil est surreprésenté. Le modèle ne fait que restituer la probabilité la plus forte. La correction passe par une description explicite de l'âge en années, de la morphologie et de la texture de peau, puis par un prompt négatif contre le rendu lissé.

Non. Un modèle reste une moyenne de ce qu'on lui a montré, et aucun ensemble de données n'est parfaitement équilibré. L'objectif réaliste est de connaître les biais de vos outils, de les compenser dans vos prompts et de vérifier chaque série avant publication. C'est un travail de contrôle, pas un réglage à activer une fois.

Un tableur suffit. Générez une dizaine d'images sur un prompt volontairement neutre, notez les attributs observés dans des colonnes, puis regardez laquelle ne varie jamais. Vous pouvez mener ce test sur n'importe quel générateur d'images et comparer les moteurs entre eux avant de lancer une campagne.

À lire aussi. Sur le même thème.