Les entreprises placent les données au cœur de leurs stratégies, conférant à ces dernières une influence croissante sur la vie quotidienne des consommateurs et des citoyens.
Afin de répondre aux préoccupations légitimes concernant d’éventuelles dérives, il devient impératif pour les entreprises de définir clairement leur position quant à l’usage éthique des données. Anne-Eole Meret-Conti, Senior Consultant en Data Management chez Wewyse, propose dans cet article une définition du cadre éthique d’utilisation des données au sein des entreprises.
1. Quel est le périmètre de l’éthique des données en entreprise ?
Aujourd’hui, les entreprises sont de plus en plus conscientes des risques éthiques liés à leurs données. La question de délimiter l’usage des données n’est pas nouvelle, comme en témoigne la loi Informatique et Libertés de 1978 en France, renforcée en 2018 par le Règlement Général sur la Protection des Données (RGPD) qui établit un cadre légal pour l’utilisation des données personnelles des citoyens européens.
La croissance exponentielle des données, particulièrement par les entreprises, intensifie ces risques et rend impératif l’établissement de règles communes dans de nouveaux domaines tels que l’intelligence artificielle. Depuis mars 2018, la Commission européenne travaille sur cette question, et au printemps 2021, elle a publié une proposition de règlement Intelligence Artificielle (Act IA).
L’existence d’un cadre juridique, tel que le RGPD actuel et le futur règlement européen sur , ne dispense pas les entreprises de se questionner sur l’aspect éthique de l’utilisation des données, car la légalité ne garantit pas l’éthique.
En outre, les données personnelles et l’intelligence artificielle, bien que cruciales, ne couvrent pas entièrement la question de l’éthique des données. Des questions telles que la possibilité pour une entreprise de vendre ses données à des tiers partageant des valeurs différentes méritent également d’être examinées.
Ainsi, la conformité au RGPD et la réduction des risques liés à l’intelligence artificielle sont des conditions nécessaires mais non suffisantes pour garantir un usage éthique des données au sein de l’entreprise.
2. Quelle définition pour un cadre éthique des données en entreprise ?
Revenons aux principes fondamentaux sans craindre d’être académiques : selon l’encyclopédie Larousse, chez Hegel, l’éthique concerne « l’organisation des rapports sociaux, par opposition à la moralité qui énonce les principes de l’action individuelle ».
Ainsi, un cadre éthique définit ce qui, au sein d’un groupe d’individus, est considéré comme une bonne ou une mauvaise conduite.
Il est crucial de souligner que l’éthique est intrinsèquement liée à une culture, une société ou un groupe d’individus. Par exemple, le système de crédit social chinois peut choquer certains Européens pour qui la liberté individuelle est une valeur fondamentale. Cependant, il repose sur une valeur forte de la société chinoise : l’harmonie des relations au sein de la communauté, atteinte dans ce cas par la régulation des comportements individuels.
Face à cette complexité, notre article propose de définir ce cadre au sein de l’entreprise. Selon nous, un cadre éthique d’utilisation des données au sein de l’entreprise devrait inclure les valeurs (et principes) que l’entreprise souhaite respecter et promouvoir, ainsi qu’une déclinaison opérationnelle permettant à chaque acteur de contribuer au respect de ces valeurs.
Malgré la complexité du sujet, nous conseillons aux entreprises de définir un cadre d’utilisation éthique des données en fonction de leurs valeurs, et de mettre en œuvre des actions concrètes pour les concrétiser. Dire c’est bien, mais agir c’est mieux.
3. Le cadre éthique d’utilisation de la donnée au sein de l’entreprise
Un cadre éthique d’utilisation des données repose sur les valeurs que l’entreprise souhaite promouvoir et respecter.
En s’appuyant sur ses propres valeurs, chaque entreprise peut définir son cadre éthique. Par exemple, La Poste en France promeut six valeurs historiques : ouverture, considération, équité, accessibilité, proximité et sens du service. Ces valeurs reflètent le positionnement du groupe en tant qu’entreprise publique de proximité, reconnue comme la plus grande de France.
Le cadre éthique peut également s’appuyer sur des valeurs collectives issues de la culture de l’entreprise ou de plusieurs cultures dans le cas d’une entreprise multinationale. Par exemple, chez Wemanity, la culture du Groupe inspire un triptyque de valeurs : l’amour du client, l’esprit d’humanité et de partage, l’agilité. Ces valeurs se déclinent localement dans nos valeurs : excellence, partage, créativité et éthique.
Réexprimer ces valeurs en lien avec les données
Ces valeurs ont une portée générale et sont rarement directement interprétables et applicables par les collaborateurs de l’entreprise dans leurs utilisations des données. Prenons l’exemple d’un algorithme de traitement de données qui améliore considérablement un service pour la majorité des clients, mais dont le biais dégrade de manière inversement proportionnelle ce service pour le reste des clients. Ce dilemme soulève la question de savoir si l’algorithme doit être optimisé pour améliorer le service rendu, conformément à l’excellence promue par l’entreprise, ou corrigé pour limiter le biais, favorisant ainsi une meilleure équité entre les clients.
Il n’est pas toujours possible pour les collaborateurs de prendre des décisions éclairées uniquement sur la base des valeurs promues par l’entreprise. C’est pourquoi un guide d’utilisation doit être défini et partagé.
Mettre en action ces valeurs dans le quotidien des collaborateurs
Proposer une déclinaison opérationnelle de ces valeurs dans le cadre de l’utilisation des données signifie fournir aux acteurs divers outils pour les mettre en œuvre dans leur quotidien et dans leurs projets, du membre du Comité Exécutif à l’opérateur chargé de la collecte de données. Ces outils peuvent inclure des grilles d’analyse des risques éthiques, des processus de validation et des procédures d’alerte, adaptés au niveau de responsabilité de chaque collaborateur dans le processus décisionnel.
Au sein d’une équipe Data Science, chaque Data Scientist peut ainsi intégrer ses valeurs en évaluant, avec une grille d’analyse des risques éthiques adaptée aux usages algorithmiques, le risque associé à un nouveau modèle qu’il développe. Il peut ensuite prendre les mesures nécessaires conformément au processus défini par l’entreprise, en consultant le Head of Data Science, le Product Owner, voire le comité d’éthique.
4. Un cadre d’utilisation éthique apporte de la valeur aux entreprises et Éthique
De nombreuses entreprises mettent en place une structure dédiée aux questions éthiques, souvent sous la forme d’un comité d’éthique ou d’un Chief Ethics Officer. Elles adoptent divers outils tels que des chartes éthiques, des codes de conduite, des procédures de signalement et des programmes de formation pour leurs employés.
La performance est souvent citée comme motif pour la création de comités d’éthique. Par exemple, Artelia soutient que « l’exemplarité éthique est un facteur de performance et de durabilité », tandis que SANOFI considère l’éthique comme un levier réel de création de valeur.
Cependant, la raison principale demeure la préservation de la réputation. EDF, par exemple, impose une conduite éthique stricte à ses employés non seulement pour des raisons de charte, mais surtout pour sauvegarder sa réputation. Véolia reconnaît que sa réputation, son image et sa cohésion dépendent largement de sa capacité à agir en accord avec ses valeurs.
La réputation d’une entreprise englobe plusieurs aspects tels que sa perception par les clients, ses relations avec les partenaires (entreprises ou administrations) et l’opinion de ses employés actuels et potentiels.
L’enjeu de la réputation peut être abordé à la fois comme un risque et comme une opportunité. Il peut s’agir de valoriser une approche éthique de l’utilisation des données pour renforcer la confiance des clients, de favoriser des partenariats avec des organismes ayant des exigences élevées, ou encore d’améliorer l’engagement des employés en les impliquant dans la préservation de la réputation de l’entreprise.
Établir un cadre éthique pour l’utilisation des données constitue un défi pour les entreprises, avec des obstacles variables en fonction de leur maturité en matière de pratiques éthiques et de gouvernance des données. Toutefois, face aux attentes croissantes des consommateurs et des législateurs, ce cadre revêt une importance cruciale pour les entreprises considérant leurs données comme un actif stratégique.
Pour entreprendre cette initiative, une entreprise peut s’appuyer sur des partenaires tels que Wewyse, qui incarnent les valeurs d’une utilisation éthique des données, pour naviguer dans ce processus fascinant et déterminant de définition d’un cadre éthique d’utilisation des données.
On en discute !