Deepomatic a toujours eu à cœur de produire des solutions bénéfiques au plus grand nombre. Mais l’enfer étant pavé de bonnes intentions, nous savons qu’il faut redoubler d’attention.
Pour la première fois, l’entreprise a réuni tous ses salariés pour réfléchir aux implications éthiques d’un cas d’usage bien précis dont certaines implications étaient susceptibles de rentrer en contradiction avec nos limites.
Pourquoi répondre à ce dilemme collectivement ? Comment définir des limites et faire sa « gymnastique éthique » ? On vous dit tout juste en dessous.
Lorsque l’on se met à investir ce vaste champ parfois obscur qu’est la RSE, on comprend rapidement que l’on peut distinguer deux grands types d’organisations (1) :
- D’un côté, celles que l’on appelle parfois impact native (2), et dont le business model répond directement à une problématique sociale et/ou environnementale.
- De l’autre côté, celles dont le business model peut répondre à des problématiques autres.
De plus en plus sensibles aux questions de durabilité, certaines entreprises de cette dernière catégorie essayent d’orienter leurs pratiques en ce sens et vont parfois jusqu’à se fixer pour objectif de ne plus mener à terme que des projets dits « à impact » (3). Cette nouvelle sémantique de l’impact, qui détrône progressivement celle de la responsabilité, suggère l’idée de mesure.
Si la démarche est louable et doit être saluée, force est de constater qu’évaluer la qualité éthique d’un projet s’avère bien compliqué, et ce pour plusieurs raisons :
- D’abord parce que les entreprises gravitent dans des systèmes concurrentiels et mondialisés d’une complexité inédite. Leurs représentants sont quotidiennement amenés à faire des choix dont les intrications dépassent parfois la faculté de compréhension d’un seul individu.
- On sait aussi que la volonté de bien faire ne suffit pas toujours à garantir la vertu d’un projet (4).
- Enfin, il parait toujours difficile d’anticiper des effets dont nous n’avons pas encore déployé les causes, particulièrement dans les cas où le projet proposé comporte suffisamment d’originalités pour qu’on le considère comme sans précédent.
Puisque les situations sont complexes et que l’intention n’est pas suffisante pour garantir l’impact positif d’un projet donné, sur quels critères peut-on se baser pour déterminer qu’un projet est bon ou mauvais ? Chez Deepomatic, cette question nous a donné pas mal de grain à moudre…
Conscient de la vigilance accrue dont il faut faire preuve dès que l’on manipule des technologies (5), nous avons toujours été soucieuse des répercussions de notre solution. Cette vigilance avait d’ailleurs été concrétisée dans un premier travail mené au cours d’un séminaire et qui nous avait permis de formuler collectivement une série de cas d’usage que nous ne souhaitions pas développer.
Malgré toute notre volonté, la théorie n’a pas résisté à la pratique : quand nous nous sommes vus proposés un cas que nous n’avions pas anticipé et qui flirtait avec les limites que nous nous étions fixés, nous avions du mal à apporter des justifications. Qu’à cela ne tienne ! On s’est emparé de la situation pour la transformer en opportunité réflexive : c’était l’occasion d’approfondir notre positionnement éthique.
Face à cette situation inédite, c’est une avalanche de questions qui s’est abattue sur nous. Elles étaient de toutes natures, allant de la pure méthodologie à des considérations de gouvernance : pour juger de la qualité éthique d’un cas d’usage, faut-il évaluer l’organisation ou le cas en lui-même ? Qui est légitime pour s’exprimer sur le sujet ? Une fois que nous aurons identifié les valeurs en tension, qui doit trancher sur leur hiérarchisation ?
Ayant tranché sur quelques-unes de ces questions, nous tenons aujourd’hui à faire état du dispositif que nous avons mis en place dans le double espoir qu’il puisse faire gagner du temps à d’autres et qu’il suscite des discussions.
PANORAMA DE NOS SOURCES D’INSPIRATION
Rassurez-vous tout de suite : on ne va pas prétendre avoir inventé la roue. Il existe évidemment un tas de méthodes d’évaluations d’impact qui peuvent tout à fait être pertinente dans de nombreuses situations. Dans notre cas, nos recherches ont montré qu’elles étaient insuffisamment adaptées à notre besoin, c’est-à-dire, un outil opérationnel permettant d’anticiper et comparer les différentes conséquences (à échelle de l’entreprise, de la société et de l’environnement) susceptibles de découler d’un cas d’usage donné dans le but de déterminer si nous souhaitions investir le projet. Dans cette perspective, on a décidé de définir un protocole sur mesure en amalgament différentes méthodologies. Opérons donc d’abord un petit détour par ces sources d’inspiration !
L’analyse organisationnelle
Comme évoqué précédemment, lorsque l’on hésite à investir un projet ou non, on réalise rapidement que l’on peut considérer le problème à l’aune de deux prismes : soit l’on évalue la qualité éthique du projet en lui-même, soit la qualité éthique de l’organisation ou le groupement d’individus à qui on destine le projet
Pour évaluer l’organisation, on peut s’appuyer sur différentes normes en reprenant par exemple des référentiels ISO 26000 (gouvernance, droits de l’Homme, relations et conditions de travail, environnement, bonnes pratiques des affaires, consommateurs et engagements sociétales) ou s’inspirer de certaines initiatives comme Moral Score qui permet aux consommateurs de comparer la politique de durabilité de différentes organisations en fonction de critères préétablis (6)
Chez Deepomatic, nous tâchons de prendre en compte le positionnement de l’organisation porteuse du cas d’usage mais nous faisons primer l’analyse du cas d’usage : si un projet permet d’accélérer la transformation d’un secteur ou d’un acteur, il serait dommage de l’empêcher. Dès lors, pour nous, la question consiste donc surtout à savoir comment évaluer un projet.
L’analyse situationnelle
Éthique appliquée
Si l’on a souvent tendance à penser que la philosophie manque de praticité, il n’en va pas de même pour toutes ses spécialités : l’éthique appliquée a pour objectif d’analyser les principes moraux à l’œuvre dans des circonstances bien précises. À partir des grandes théories éthiques (conséquentialisme, déontologisme, éthique des vertus etc.), la discipline décortique les justifications de nos actions.
Cette discipline a développé un ensemble de protocoles et des modes de délibérations éthiques. Généralement, leur but consiste à identifier les valeurs ou normes en conflit, ainsi que les conséquences probables de chaque scénario possible dans le but d’aboutir à un consensus (7). On les trouve très souvent employées dans le contexte médical (bioéthique) mais il est tout à fait possible d’appliquer ces principes à d’autres cas.
Des méthodes d’éthique appliquée, nous avons conservé la trame globale de la méthode délibération et sa finalité, c’est-à-dire conceptualiser les points de tension et aboutir à un consensus.
Analyse bénéfices / risques
Le management du risque (risk management) connait un certain succès depuis la fin des années 1980. Cette discipline permet aux organisations d’identifier et hiérarchiser les différents niveaux de risques auxquels elles sont soumises afin de les contrer ou de les minimiser.
Si les analyses éthiques sont souvent utilisées de manière réactives – c’est-à-dire une fois qu’un problème est survenu – les analyses du risque ont l’avantage d’être proactives et de chercher à anticiper les phénomènes avant leur occurrence. De plus, elles veillent à hiérarchiser les différents risques en fonction de leur probabilité d’occurrence.
Puisque nous cherchions nous-mêmes à anticiper les effets d’un cas d’usage sans précédent, nous voulions « ratisser large ». Les conséquences découlant du cas étaient donc susceptibles d’être plus ou moins probables. Du management du risque, nous avons donc conservé cette estimation et cette hiérarchisation des probabilités.
Cas d’usage technologique
La question de l’impact du numérique et de l’IA au sens large occupe pas mal l’espace public ces dernières années. En réaction à toutes les problématiques soulevées par ce thème, beaucoup d’outils ont vu le jour. Au vu du produit commercialisé par Deepomatic, il nous paraissait logique d’investir ce filon.
- Le Markkula Center for Applied Ethics de l’Université Santa Clara propose un modèle d’analyse des conflits éthiques autour des technologies. Il consiste principalement à répondre à une série de questions. Cette trame est surtout conçue pour rectifier un problème déjà existant et non pas pour déterminer si l’on souhaite investir un projet ou non.
- Doteveryone, think thank ayant existé entre 2015 et 2020, s’était fixé pour mission de promouvoir une technologie durable, inclusive et démocratique. Ils avaient été les promoteurs du programme Tech Transformed qui proposait un exercice de « consequences scanning » à destination de ceux qui font la technologie pour en prévenir les dérives éthiques. Bien que très inspirant, comme l’exemple précédent, le programme sert surtout à mitiger les problèmes qui pourraient survenir.
- Le Princeton Dialogues on AI and Ethics est le résultat d’une série de workshop tenus entre 2017 et 2018 et réunissant des spécialistes de la computer science, des politiques et des philosophes. Il propose l’analyse de cas d’usage fictionnels liés à l’IA. L’initiative donne de nombreuses pistes sur la manière dont on peut décrypter ces cas, mais elle ne propose pas d’outils opérationnels.
En plus de ne pas correspondre à notre cas concret, ces différentes méthodes ont le désavantage de ne pas traiter de la question environnementale. En effet, seul le coût sociétal est sérieusement considéré. Pourtant, à l’heure où l’empreinte du numérique est de plus en plus pointée du doigt, il serait temps de prendre en considération ce coût. C’est pourquoi nous avons tenu à ajouter cette dimension à notre analyse.
En somme, nous avons donc emprunter à l’éthique la structuration globale de l’atelier, à l’analyse du risque sa hiérarchisation des conséquences probables et les analyses de cas d’usage technologiques nous ont permis de cerner avec plus de précision les problématiques éthiques spécifiques au type d’outils que nous développons. Puis, forts de toutes ces recherches, nous nous sommes lancés dans la confection de notre outil sur mesure.
MÉTHODOLOGIE DÉPLOYÉE
Objectifs de l’atelier
Initialement, nous pensions que cet atelier aurait vocation à trancher définitivement au sujet du cas d’usage proposé. Mais faute d’être en mesure de faire intervenir des experts externes et d’avoir tranché sur certaines questions de gouvernance, nous avons choisi d’aborder la démarche de manière plus modeste et de plutôt chercher à :
- Permettre aux décideurs de prendre une décision éclairée, consciente de tous les enjeux sous-jacents. On a pris le parti de laisser la décision finale aux fondateurs mais tout en faisant en sorte qu’ils ne la prennent pas sans avoir consulté le collectif.
- Bien cerner les problématiques métiers à l’œuvre
Une participation ouverte
Seule la participation des fondateurs était obligatoire.
Deepomatic a fait le choix d’ouvrir l’atelier à tous ceux qui souhaitaient y participer. Nous sommes encore aujourd’hui à une échelle qui nous permet de tous nous rassembler, on s’est dit qu’il fallait en profiter.
À l’avenir, nous serons très probablement contraints de limiter la participation à un représentant de chaque corps de métiers.
Rôle du participant
- Chaque participant a reçu en amont de la séance une description aussi précise que possible du cas d’usage. Il était tenu d’en prendre connaissance.
- Il devait ensuite identifier les différentes conséquences qui lui paraissait pouvoir découler de ce cas.
- Le participant n’était pas tenu de s’exprimer uniquement en fonction de son expertise métiers : ces conséquences pouvaient être de toutes natures, positives comme et pouvaient avoir des impacts plus ou moins larges, allant de l’entreprise, aux individus ou la société au sens large et être plus ou moins probables. Chacune des conséquences devait être assortie des précisions suivantes :
- un degré de probabilité (exprimé de la manière suivante : peu probable, probable, très probable)
- risque ou bénéfice
- Il devait ensuite transmettre à la facilitatrice les impacts identifiés
Rôle de la facilitatrice
La facilitatrice avait pour objectifs de fluidifier les échanges et de faire émerger les grandes thématiques. Pour se faire, elle devait :
- Récupérer l’ensemble des conséquences identifiées par les participants
- Répartir les conséquences entre les participants : fatalement, il y avait beaucoup de redondances entre les différentes participations. Il fallait donc éviter les redites en équilibrant la quantité d’arguments par personne.
- Créer un support facilitant la visualisation des différents impacts en prenant soin de distinguer ceux qui relèvent du bénéfice ou plutôt du risque et en mettant en avant leur degré de probabilité. Pour se faire, les conséquences ont été réparties sur quatre cercles aux thématiques distinctes :
- Marque employeur (entreprise)
- Finance et business (entreprise)
- Individu
- Société et environnement
- La partie supérieure du cercle permettait d’identifier ce qui relevait du bénéfice et la partie inférieure ce qui relevait plutôt du risque. Un cercle comportait trois sous cercles en fonction du degré de probabilité de la conséquence (plus on est proche du cercle, plus la probabilité d’occurrence est forte)
- Alimenter au fur et à mesure le support visuel avec les nouvelles conséquences qui émergeaient des débats
Déroulé de l’atelier
- Après un bref rappel du contexte et des enjeux, le support visuel était affiché dès le début de la séance (10 min)
- Présentation des conséquences identifiés par les différents participants (20 min)
- Une première phase de vote (10 min)
La question posée consistait à savoir quelles étaient, d’après les participants, les conséquences les plus déterminantes parmi toutes celles identifiées (deux bénéfiques, deux risques) - Temps d’échanges et de synthèse (20 min)
- Un deuxième temps de vote (10 min)
Il s’agissait cette fois-ci de savoir si les participants étaient pour ou contre l’idée que Deepomatic se lance dans ce cas d’usage - Temps d’échanges et de synthèse (10 min)
Nous n’en sommes qu’à nos balbutiements : cette expérience était une première que l’on espère pouvoir réitérer. Dans cette perspective itérative, nous souhaitons partager nos constatations et les premiers enseignements que nous en avons tirés.
ENSEIGNEMENTS
Bien conceptualiser les points de tensions permet de tirer des conclusions génériques
Le cas d’usage qui nous occupait rentrait par certains aspects en contradiction avec les limites éthiques que nous nous étions fixés. Originairement, lorsque nous avons conçu cet exercice, nous pensions qu’en plus de permettre aux décideurs de choisir en connaissance de cause, cet exercice serait donc l’occasion d’affiner nos limites en les reformulant.
Malheureusement, il a été difficile de tirer des enseignements plus généraux de cet exercice. Les conséquences énoncés par les participants étaient remarquablement concrètes et spécifiques, ce qui n’a pas facilité la conceptualisation par laquelle il faut passer pour aboutir à un travail qui puisse être extrapolé. Idéalement, il aurait fallu parvenir à regrouper les conséquences sous forme de valeur pour déterminer celles que l’on fait primer sur les autres.
Les questions d’éthique en entreprise suscitent de l’engouement
Les collaborateurs de Deepomatic ont toujours eu une conscience éthique et civique assez prononcée. Mon poste de chargée de Développement durable est d’ailleurs la conséquence directe de cette conscience aiguisée. Je ne craignais donc pas véritablement que cet atelier soit un flop, mais je ne m’attendais pas pour autant à ce qu’il déclenche une telle vague d’enthousiasme chez les participants.
Sur les trente-neuf invités, trente-deux ont répondu présent (et on raconte que les absents l’ont sérieusement regretté !). Beaucoup de conversations informelles entre les employés ont précédé l’atelier et cet enthousiasme n’a fait qu’aller croissant, ce qui s’est ressenti dans la qualité de leur participation.
Il y a donc une soif d’éthique en entreprise, une envie de prendre de la hauteur et de participer aux organes de décision qu’il ne faut pas sous-estimer. J’en tire donc la conclusion que ces exercices ne doivent donc pas rester le monopole de quelques experts et de quelques dirigeants.
Exercer la réflexivité de ceux qui font la technologie est primordial
Peut être qu’à la lecture de ce billet, quelques lecteurs se sont dits que nous aurions mieux faire de réunir un comité éthique composé d’experts capable de nous éclairer de leur lumière savante. Je tiens à préciser que cet exercice mené là n’a absolument pas vocation à remplacer un tel comité mais plutôt à compléter ses conclusions.
L’intérêt de cet exercice résidait principalement dans son aptitude à mobiliser ceux qui font la technologie ou la vende pour prendre la hauteur sur les implications de leurs créations. Or, à l’heure où l’on parle sans cesse des terribles conséquences qui peuvent découler d’un produit conçu dans l’indifférence éthique, on peut se dire qu’un second garde fou n’est pas de trop.
De plus, chaque participant a compris le problème à l’aune du métier qui est le sien. Partager collectivement le résultat a été l’occasion pour chacun de prendre conscience de l’étendu des implications.
Et vous ? Qu’avez vous mis en place pour faire vivre l’éthique en entreprise ?
NOTES & SOURCES
(1) Cette distinction a été récemment rappelé dans un événement sur le métier de Chief Impact Officer organisé par la plateforme Vendredi. Voir « Le métier Chief Impact Officer raconté par 5 personnalités incontournables ».
(2) À entendre comme positive impact native bien sûr.
(3) Cela va parfois même jusqu’à se matérialiser dans des objectifs chiffrés comme x% de CA provenant de projets à impact.
(4) De nombreuses expériences de psychologie sociale le montre comme celle communément appelée l’expérience du bon samaritain. Elle montre que même les individus les mieux attentionnées peuvent faire des choix non éthique lorsque leur environnement s’avère pressurisant. Lire le descriptif du protocole ici.
(5) La question de la prévention des risques éthiques se pose avec encore plus de force dès lors qu’elle touche au champ des nouvelles technologies. D’abord en raison de son caractère innovant (il n’y a pas toujours de précédent similaire) mais aussi parce qu’elles sont susceptibles d’être utilisées par un grand nombre de personnes, dans des contextes variés. À ce sujet, voir le très bon article de Philiph A. E. Brey, « Anticiparoty Ethics for Emerging Technologies », Nanoethics 6(1), 1-13.
(6) Moral Score évalue les entreprises sur différents critères inspirés des Objectifs de Développement Durable fixés par l’ONU.
(7) Exemples de méthode de délibération éthique et de protocole d’analyse d’un cas éthique. Pour en savoir plus à propos des grands courants d’éthique normative, lire L’influence de l’odeur des croissants chauds sur la bonté humaine: et autres questions de philosophie morale expérimentale de Ruwen Ogien, Grasset, 2011.
Sources d’inspiration :
