Imagine un PDG.
Brandtech lance Bias Breaker, une technologie innovante qui vise à combattre les biais bien connus des IA génératives. Parmi les nombreux types de biais, les équipes R&D de Brandtech ont identifié que les images générées par les LLMs représentent toujours entre 98 % et 100 % d’hommes lorsqu’ils sont sollicités pour représenter un « PDG », ce qui correspond à sur-représentation de la réalité : 28 % des postes de direction sont occupés par des femmes, et 10,4 % des PDG des entreprises du Fortune 500 américain sont des femmes selon l’étude Women in the Workplace de McKinsey l’année dernière. Du côté du CAC40, seuls 6,25 % des PDG / DG de ces entreprises étaient des femmes en 2023.
Comment l’IA peut-elle à ce point se fourvoyer et ne même pas respecter un petit 10 % de représentation féminine pour le poste de CEO ? Nos tests avec Midjourney ont totalement confirmé ce biais. Malgré 25 prompts successifs, autant de styles différents et 100 images générées, une seule femme était présente. Et ce fut lors du 24ᵉ prompt !
Comment fonctionne Bias Breaker ? Intégrée à la plateforme d’IA générative Pencil, cette technologie introduit des critères d’inclusivité dans les prompts, tels que l’âge, les origines ou l’identité de genre. L’objectif est de créer des résultats qui reflètent une diversité plus large, s’écartant des biais traditionnels et ouvrant la voie à une IA plus éthique.
Rebecca Sykes Brandtech Group Partner and Head of Emerging Technology précise : « L’exemple des PDG est juste une des nombreuses façons dont le biais se manifeste, et c’est le cas d’usage simple que nous avons utilisé pour démontrer les défis et les implications de ne pas aborder ces biais. Il existe bien d’autres exemples, allant des plus évidents — les infirmières et les aides-soignantes sont en majorité des femmes, il y a un manque flagrant de représentation du handicap, etc. — aux cas beaucoup plus nuancés. Avec Bias Breaker, nous espérons traiter tous ces aspects. »
David Jones, fondateur et PDG de Brandtech, se félicite d’une telle innovation : « Lorsque les réseaux sociaux ont explosé, personne n’a vu venir les problèmes négatifs. Avec l’IA générative, nous avons la possibilité d’anticiper ces enjeux plutôt que d’être réactifs après coup. Bekki, Tyra et les équipes d’IA générative ont travaillé intensivement avec nos clients pour créer des meilleures pratiques et diriger le marché. »
Cette communication de lancement de Bias Breaker ne précise pas quel est le pourcentage de femmes pour le prompt “Imagine a CEO” sur Pencil désormais. Mais en partant de 1%, nul doute que la représentativité sera davantage au rendez-vous !
