« Aucune base de données n’est neutre ». Romain Jeanneau, enseignant de SVT, interroge les enjeux éthiques et de régulation de l’IA dont il rappelle les biais et les dérives. Il plaide pour « une éducation visant à former des citoyens critiques, conscients des enjeux éthiques et sécuritaires liés à l’IA. En incitant nos élèves à questionner ces enjeux, nous leur donnons les outils nécessaires pour adopter un usage responsable et éclairé de l’intelligence artificielle, alors que ces technologies prendront une place toujours plus centrale dans le monde de demain ».
L’intelligence artificielle, avec ses promesses de transformation des sociétés, suscite à la fois des espoirs immenses et des inquiétudes majeures. Bien qu’elles puissent simuler certaines capacités cognitives humaines, les IA demeurent dépourvues de conscience, d’intentions ou de valeurs intrinsèques. Derrière l’apparente neutralité des algorithmes, des choix humains se dessinent, et leur influence croissante soulève une question centrale : au service de qui et de quoi ces technologies sont-elles mobilisées ? Partis politiques, GAFAM, gouvernements autoritaires ou sociétés démocratiques : chaque acteur oriente le développement et l’utilisation de l’IA en fonction de ses propres intérêts, soulevant ainsi des défis éthiques majeurs. Dans cette réflexion, guidée par des visées éducatives, nous explorerons trois enjeux clés : les biais des IA, leur alignement avec les valeurs humaines et la nécessité d’une régulation globale.
Les biais de l’IA : miroir de nos préjugés
Les biais des IA trouvent leur origine dans deux éléments fondamentaux : les bases de données servant à leur apprentissage et les algorithmes qui orientent leur fonctionnement. Aucune base de données n’est neutre. Les décisions humaines qui orientent la collecte, la sélection et la structuration des données reflètent toujours des choix subjectifs, influencés par des biais cognitifs, culturels et sociétaux.
Par exemple, une étude menée en 2018 par Joy Buolamwini et Timnit Gebru a révélé que les systèmes de reconnaissance faciale affichaient des taux d’erreur beaucoup plus élevés pour les femmes noires (jusqu’à 34,7 %) que pour les hommes blancs (moins de 1 %). Cette disparité s’explique par un déséquilibre dans les données d’entraînement, largement dominées par des visages d’hommes blancs. Les conséquences sont graves : ces biais ont conduit à des arrestations injustifiées et à des discriminations systémiques, notamment aux États-Unis.
Une représentation partielle du réel
Contrairement au « dataïsme », qui postule que tout peut être quantifié et modélisé, Kate Crawford, dans son Contre-atlas de l’intelligence artificielle, souligne que les bases de données ne sont qu’une représentation fragmentaire et réductrice du monde. Elle les décrit comme un « aplatissement épistémologique de la complexité », où les nuances du réel sont simplifiées pour être traitées par des machines.
Les dangers de la catégorisation
Catégoriser implique toujours de classer, séparer et discriminer. Si ces opérations sont essentielles au traitement des données, leur application à l’humain a souvent conduit à des conséquences désastreuses : racisme, apartheid, pathologisation de l’homosexualité et autres discriminations.
Les bases de données ne sont pas de simples outils techniques ; elles reflètent les biais, les valeurs et les hiérarchies de pouvoir de leurs concepteurs. Reconnaître ces limites constitue un préalable indispensable à une réflexion éthique sur leur conception et à une vigilance constante dans l’utilisation des IA. Les biais algorithmiques découlent des objectifs assignés aux systèmes d’IA et des méthodes utilisées pour les atteindre. Ils reflètent les choix humains concernant la manière dont les données sont exploitées et les décisions prises par la machine. Les algorithmes d’IA sont souvent conçus pour optimiser un objectif précis, mais la définition même de cet objectif peut poser problème.
L’exemple frappant d’Amazon
En 2014, Amazon a testé un système automatisé de recrutement, qui a rapidement révélé un biais systémique contre les femmes. En se basant sur des données historiques, où les postes techniques étaient majoritairement occupés par des hommes, l’algorithme a pénalisé des CV contenant des termes comme « capitaine de l’équipe féminine de football ». Cet exemple montre comment les algorithmes peuvent non seulement reproduire, mais aussi amplifier les biais existants.
L’exemple des réseaux sociaux : des algorithmes amplificateurs
Les algorithmes des plateformes sociales, comme Facebook ou TikTok, visent à maximiser l’engagement des utilisateurs en leur proposant du contenu susceptible de retenir leur attention. Cependant, ce modèle favorise la diffusion de contenus polarisants ou outranciers, qui génèrent davantage d’interactions.
Un cercle vicieux : Les créateurs de contenu adaptent leurs productions pour répondre à ces préférences algorithmiques, renforçant ainsi la dynamique. Un impact sociétal majeur : en favorisant la diffusion de contenus polarisants et toxiques, les algorithmes contribuent à des phénomènes de radicalisation en ligne, de harcèlement, de propagation de fausses informations, et peuvent même alimenter des vagues de violence à l’encontre de certaines populations (exemple des Rohingyas).
Pour conclure, je laisse le mot de la fin à Kate Crawford, dont les propos mettent en lumière avec justesse les enjeux soulevés par les biais de l’IA : « L’intelligence artificielle n’est pas une technique computationnelle objective, universelle ou neutre, qui prend des décisions ns orientation humaine. Ses systèmes sont inscrits dans le monde social, politique, culturel et économique, façonnés par des humains, des institutions et des impératifs qui déterminent ce qu’ils font et comment ils le font. Ils sont conçus pour trier, pour amplifier les hiérarchies, et pour encoder des classifications étroites. Quand ils sont appliqués à des contextes sociaux comme la police, la justice, les soins de santé et l’éducation, ils peuvent reproduire, amplifier et aggraver les inégalités structurelles existantes. »
Romain Jeanneau
