Lors de la conférence TNW en juin, le Dutch D&I in Digital Benchmark 2023 montré comment les Pays-Bas sont à la traîne de l'Europe dans leurs efforts en matière de diversité et d'inclusion.
L'étude de référence a montré que le pourcentage de femmes occupant des postes techniques dans le secteur numérique néerlandais est passé de 21 pour cent en 2022 à 19 pour cent en 2023.
Alors que les Pays-Bas obtiennent un score inférieur de trois pour cent à la moyenne européenne et que près de la moitié des entreprises technologiques néerlandaises n’ont pris aucune mesure concrète pour faire progresser leurs initiatives D&I, l’indice de référence D&I a été un signal d’alarme pour le secteur numérique aux Pays-Bas.
« La baisse de la représentation des femmes dans le secteur technologique néerlandais est effectivement préoccupante », déclare Samaa Mohammad, membre de la communauté Diverse Leaders in Tech (DLiT) et fondateur de la Dutch AI Ethics Community.
La communauté Diverse Leaders in Tech (DLiT) est une initiative de Techleap.nl, une organisation néerlandaise à but non lucratif axée sur la croissance de scale-ups aux Pays-Bas.
Fort de l'expertise de plus de 150 leaders technologiques comme Mohammad, Techleap.nl vise à apporter une véritable diversité au secteur technologique néerlandais d'ici 2030.
Nécessité d’une approche D&I holistique
Afin d’inverser le déclin de la représentation des femmes dans le secteur technologique néerlandais, Mohammad soutient que le secteur doit adopter une approche holistique.
« Cela pourrait impliquer des mesures telles que la mise en place de programmes de mentorat et de parrainage pour encourager et soutenir les femmes dans ce domaine, la mise en œuvre de pratiques de recrutement pour atténuer les préjugés inconscients et la fourniture de conditions de travail flexibles qui peuvent aider à s'adapter à divers modes de vie et besoins », dit-elle.
Nous envisageons souvent la diversité du point de vue des employeurs et des efforts qu’ils déploient pour accroître la représentation.
Mohammad soutient cependant que pour parvenir à une véritable diversité, il faut Technologie néerlandaise ecosystem devrait commencer bien plus tôt.
Elle parle avec passion de l'expérience universitaire de ses amis, où seulement 1 pour cent de l'ensemble des étudiants en classe étaient des femmes ou des personnes de couleur.
Même si son étude sur l'IA comptait 40 % de femmes, puisqu'elle comprenait des cours de sciences humaines et d'informatique, les cours traditionnels axés sur la technologie restaient dominés par les hommes.
Ce manque de diversité entre les pairs dans la classe constitue clairement une pierre d’achoppement pour une société qui vise la diversité.
« Il n'est pas rare qu'une femme soit l'une des rares à suivre un cours de technologie ou team et finissent par abandonner en raison d'un environnement non inclusif », dit-elle en se basant sur sa propre expérience.
Elle plaide en faveur de la création d'un système éducatif ecosystem où les femmes et les femmes de couleur sont accueillies à bras ouverts.
En tant que leader de la diversité, Mohammad estime également qu’il est nécessaire de mettre en place des programmes de mentorat et de parrainage pour « encourager et soutenir les femmes dans ce domaine ».
Elle définit une approche holistique comme une approche dans laquelle des pratiques de recrutement sont mises en œuvre pour atténuer les préjugés inconscients et offrir des conditions de travail flexibles pour s'adapter à divers modes de vie et besoins.
« Il est important de créer une culture inclusive où chacun se sent valorisé et entendu », dit-elle, ajoutant : « il est essentiel de célébrer et de mettre en valeur les réalisations de diverses femmes dans le secteur de la technologie afin de fournir des modèles aux générations futures. »
Approche axée sur les données
Le Dutch D&I in Digital Benchmark 2023 a également montré comment les entreprises technologiques néerlandaises ne suivent que des paramètres traditionnels tels que l'âge, la nationalité et le sexe pour décrire leurs efforts en matière de diversité.
Cependant, il existe désormais de solides arguments en faveur du suivi des données au-delà de ces mesures traditionnelles.
Mohammad, qui est également membre du conseil d'administration de l'ONG Algorithm Audit & Digital Ethics Specialist chez Alliander, plaide en faveur du suivi de données supplémentaires comme moyen pour les entreprises de mieux comprendre et lutter contre les préjugés.
Mais elle conseille aux entreprises de s'assurer que ces données sont collectées de manière responsable et éthique.
«Toutes les données collectées doivent être anonymisées pour protéger la vie privée des individus, et elles doivent être utilisées uniquement dans le but d'améliorer la diversité et l'inclusion», remarque-t-elle.
Elle note en outre que les entreprises devraient être transparentes sur les données collectées et sur les raisons pour lesquelles elles devraient donner aux individus la possibilité de se désinscrire s'ils le souhaitent.
L’un des domaines dans lesquels les Pays-Bas semblent avoir pris du retard est celui du passage des bonnes intentions à un impact plus important grâce à la DEI basée sur les données.
En collectant des données supplémentaires, les Pays-Bas pourraient enfin rattraper leurs pairs européens et accélérer leurs objectifs en matière de diversité.
L’un des moyens d’y parvenir consiste à investir dans des capacités d’analyse de données pour en tirer des informations significatives, et elles doivent être prêtes à agir sur la base de ces informations pour générer un réel changement.
L’IA pour promouvoir la D&I
En tant qu’éthicien de l’IA, Mohammad considère AI jouer un rôle énorme dans la promotion de la diversité et de l’inclusion.
Elle explique comment l’IA peut être utilisée pour « analyser les pratiques d’embauche, de promotion et de rémunération afin d’identifier les modèles de préjugés ou de discrimination ».
DEI dans le benchmark technologique européen 2024
En outre, elle considère que l’IA joue un rôle dans l’atténuation des préjugés du processus décisionnel en garantissant que les décisions sont fondées sur des critères objectifs et ne tiennent compte d’aucun préjugé ou stéréotype personnel.
Cela pourrait être une surpriserise à certains, car il existe des cas avérés d'embauches facilitées par l'IA qui nuisent aux personnes de couleur, aux femmes et aux personnes handicapées.
Mohammad, qui a rédigé une thèse sur les biais sociaux dans les algorithmes de prise de décision automatisée, voit une voie claire à suivre pour éviter ces pièges.
Pour commencer, elle encourage toutes les entreprises à envisager l’atténuation des biais liés à l’IA du point de vue technique, de la culture d’entreprise et de la gouvernance.
Sur le plan technique, elle recommande d'atténuer les biais tout au long du processus de développement en sélectionnant des variables dans les données de formation qui peuvent avoir un impact important sur les biais.
« Une autre façon d’atténuer les biais consiste à utiliser diverses données de formation qui représentent un large éventail de perspectives et d’expériences », explique-t-elle.
Elle recommande également fortement l’utilisation de techniques telles que l’apprentissage automatique soucieux de l’équité, qui intègre explicitement des considérations d’équité dans le processus de conception algorithmique.
Elle ajoute : « Du point de vue de la gouvernance, il est important de construire une structure de gouvernance solide pour superviser l'IA et de s'assurer que les algorithmes construits sont conformes aux valeurs, à la mission et aux directives éthiques de l'entreprise. »
Le véritable défi, cependant, sera de former l’algorithme d’IA en conformité avec la culture de l’entreprise, et les données historiques pourraient ne pas être utiles car elles pourraient inclure des décisions ou des stéréotypes préjudiciables passés.
Pour surmonter ce défi, Mohammad encourage les entreprises à impliquer divers teams dans le développement et le déploiement de systèmes d’IA.
« [Cela permettra] d'apporter un plus large éventail de points de vue, y compris ceux de parties prenantes diversement représentées, ce qui peut aider à identifier et à atténuer les préjugés potentiels », note-t-elle.
Rôle de la communauté DLiT de Techleap.nl
Les Divers leaders de la technologie a été lancée par Techleap.nl plus tôt cette année dans le but principal de faire en sorte que la technologie néerlandaise ecosystem plus diversifiée.
La communauté, une collaboration de 150 leaders technologiques, vise à garantir que la diversité n'est plus une réflexion secondaire mais un caractère central dans les organisations du monde entier. Amsterdam et les Pays-Bas.
C'est la détermination de cette communauté qui pourrait changer la façon dont la technologie néerlandaise ecosystem regarde dans la prochaine demi-décennie.
« La communauté DLiT de Techleap.nl joue un rôle important dans la promotion de la diversité et de l'inclusion dans le secteur technologique néerlandais », note Mohammad.
Elle estime que les actions de la communauté visant à rassembler des leaders engagés de l'industrie favoriseront une culture de diversité et d'inclusion dans l'ensemble du secteur.
Qu'est-ce que la technologie néerlandaise ecosystem manque de guide ou de référence de référence pour démarrer les efforts de diversité et d'inclusion, la communauté DLiT est conçue pour combler cette lacune.
En partageant les meilleures pratiques, en apprenant de l'expérience d'autres leaders de l'industrie, en rendant visibles des personnes diverses et en se tenant mutuellement responsables des progrès, Mohammad soutient que la communauté DLiT se transformera pour devenir une plateforme à part entière.
« C'est déjà très précieux de voir et de rencontrer d'autres dirigeants de diverses origines », déclare Mohammad, ajoutant : « Cela montre qu'ils sont plus nombreux qu'on ne le pense et que la représentation compte. »
Alors que la technologie néerlandaise ecosystem a trouvé son milliardaire startup fondateurs, fintech des pionniers et mobility guerriers, la communauté DLiT élèvera « des modèles pour inspirer d’autres personnes diverses à poursuivre une carrière dans la technologie et à assumer un rôle de leadership ».
Cependant, la communauté ne se limite pas à défendre la diversité et l’inclusion, mais également à éduquer les dirigeants qui font partie de la mission.
Avec Mohammad rejoignant la communauté, techleap.nl aide les dirigeants à comprendre l'éthique de l'IA comme un élément essentiel pour toute personne impliquée dans l'industrie technologique.
« [L’éthique de l’IA] peut aider à orienter la prise de décision, à atténuer les risques et, à terme, conduire à des utilisations plus responsables et plus bénéfiques de l’IA », explique Mohammad.
Lorsqu'on lui demande comment elle va aider les membres de la communauté DLiT, Mohammad renverse la situation en affirmant que c'est la communauté qui l'aide à « mieux comprendre le rôle des divers leaders en matière d'IA et d'éthique, puisque son fondement réside dans la diversité et l'inclusion ».
« Nous ne pouvons pas avoir d'IA éthique sans une approche diversifiée et inclusive. teams et cultures d'entreprise », dit-elle.
« Ainsi, les membres de la communauté DLiT effectuent un travail fondamental pour le secteur technologique afin de créer des algorithmes éthiques », ajoute-t-elle.
Règlement IA
Alors que l’IA devient le sujet le plus discuté par les entreprises technologiques et leurs dirigeants, les appels à une réglementation se font déjà plus nombreux.
L’un des domaines qui confirme le plus Mohammad est celui des préjugés et de la conception de programmes d’IA qui n’exacerbent pas ces préjugés. À cet effet, elle souhaite que la réglementation vise directement ces écueils.
« Je crois que la réglementation dans le domaine de l’IA et de l’éthique doit être soigneusement conçue pour garantir que la technologie de l’IA profite aux gens sans exacerber les préjugés ou la discrimination existants », précise-t-elle.
Elle ajoute en outre qu’une telle réglementation devrait inclure des mesures visant à garantir la transparence des processus décisionnels en matière d’IA.
Elle est également favorable à des audits réglementaires indépendants obligatoires des systèmes d’IA en cas de parti pris et à l’application des conséquences en cas de non-conformité.
« Il devrait également y avoir des dispositions pour encourager le développement et l’utilisation de l’IA de manière à promouvoir la diversité et l’inclusion », ajoute-t-elle.
En un mot, Mohammad est un fervent partisan de l’IA et croit fermement que cette technologie peut aider les entreprises à faire progresser leur culturelle et les efforts d’inclusion.
Son principal argument en matière de réglementation est de s’assurer que l’IA soit centrée sur l’humain et conçue pour soutenir les humains.
Elle souhaite voir des principes similaires appliqués dans la réglementation néerlandaise à ceux discutés dans la loi européenne sur l’IA et dans la proposition de déclaration des droits de l’IA aux États-Unis.
L'objectif idéal de la réglementation, selon Mohammad, est de protéger les droits et la sécurité des citoyens tout en encourageant l'utilisation éthique de l'IA.