Technologie d’intérêt public : combler les lacunes en matière de risques liés à l’innovation, partie 1

Roland Alston, Thought Leadership Program Leader
August 12, 2021

Cela ne fait aucun doute, les avantages de l’hyperautomatisation sont potentiellement illimités, avec des moyens presque infinis d’optimiser l’efficacité, la réduction des coûts et les avantages concurrentiels.

Un défi demeure toutefois : il s’agit de déterminer comment atténuer les potentiels risques en matière d’éthique et les conséquences involontaires de la généralisation de l’automatisation, alors que près des deux tiers (65 %) des cadres supérieurs ne sont pas en mesure d’expliquer les modalités des décisions ou des prédictions spécifiques des modèles d’intelligence artificielle (IA), et que 73 % ont du mal à obtenir le soutien de leur direction pour privilégier une intelligence artificielle éthique, selon une récente étude de la société d’analyse mondiale FICO.

Il est plus urgent que jamais de combler ces lacunes en matière de risques, car les entreprises du monde entier s’empressent d’exploiter l’intelligence artificielle, l’automatisation et une multitude d’autres technologies pour résoudre un ensemble de problèmes commerciaux (gestion de l’infrastructure informatique, amélioration de l’expérience client, protection contre les cybermenaces, prise de décisions médicales, transformation du travail à distance en un avantage concurrentiel, etc.).

Un nouveau mouvement d’innovation

Pour tirer le meilleur parti de la technologie, il ne suffit pas de créer et d’attendre que le reste se fasse tout seul. Il est préférable, selon un mouvement croissant de technologues d’intérêt public, d’adopter une approche de l’innovation centrée sur l’humain, assortie de stratégies commerciales d’investissement dans la recherche, l’éducation et les moyens de déployer des technologies qui protègent et profitent à la société.

Ce qui nous amène à quelque chose de très important : l’urgence de réduire le nombre de cas d’utilisation mal conçus qui sapent la confiance des consommateurs et amplifient les appels à la réglementation des technologies. 

« Les entreprises qui intègrent explicitement le cadre de la technologie d’intérêt public remarquent une réelle génération de valeur à la fois en termes de bénéfices, mais aussi en termes de confiance qu’elles génèrent auprès des communautés critiques avec lesquelles elles collaborent, qu’elles défendent et avec lesquelles elles interagissent par le biais de relations commerciales », déclare Michelle Shevin, l’une des principales porte-parole du mouvement en faveur de la technologie d’intérêt public (TIP) et responsable programme senior du PIT Catalyst Fund de la Ford Foundation.

Et d’ajouter : « nous pensons ainsi que la technologie d’intérêt public est vraiment au cœur d’un écosystème à long terme visant à établir responsabilité et confiance entre les partenaires et dans les relations avec les clients. C’est vraiment essentiel à la croissance des entreprises. »

« Par exemple, en tant que chef d’entreprise, vous n’avez pas envie de vous lancer dans la conception et le déploiement d’une technologie de reconnaissance faciale qui pourrait bientôt disparaître parce que personne n’a pensé à mettre en place des garde-fous, car personne n’a demandé l’avis des communautés qui pourraient être les plus concernées par cette technologie. »

Si ce sentiment vous exaspère, sachez qu’il existe des solutions. Des études montrent que les consommateurs de produits numériques se soucient moins des cyberattaques que de la façon dont les entreprises utilisent la technologie et leurs données. Voici quelques chiffres :

Selon une enquête du Pew Center menée en 2020, environ la moitié des consommateurs américains (47 %) estiment que les grandes entreprises technologiques devraient être davantage réglementées par les pouvoirs publics, contre seulement 11 % qui pensent qu’elles devraient l’être moins.

En d’autres termes, la relation du public vis-à-vis de l’extraordinaire évolution de la technologie, de l’accélération de la transformation numérique et ce que tout cela implique pour les entreprises et la société, est contrastée. Bonne nouvelle toutefois : centrer l’innovation sur l’humain peut changer le regard que la société porte sur la technologie, à condition que cela soit intentionnel. 

Qu’en est-il concrètement ? Visionnez l’épisode des « Experts du numérique » de cette semaine, dans lequel Michelle Shevin, leader d’opinion du mouvement en faveur de la TIP, nous donne un aperçu de ce dernier et de la manière dont il vise en priorité la confiance du public, une plus grande adoption des technologies, une meilleure équité en matière de technologie et de la façon dont anticipe la réglementation à l’ère de l’hyperautomatisation.

Notre conversation est condensée et modifiée pour plus de clarté.

Appian :

Bonjour Michelle, et bienvenue dans « Les experts du numérique ».

Michelle Shevin :

Merci de m’avoir invitée.

Appian :

Il est difficile de ne pas évoquer le COVID-19 dans nos discussions. Les tendances technologiques ne dérogent pas à la règle, bien au contraire. Commençons donc par là : où étiez-vous lorsque la pandémie a bouleversé nos vies ?

Michelle Shevin :

Je vivais à New York. Mais j’avais prévu de rendre visite à mes parents dans le Connecticut. Je ne suis pratiquement plus retournée en ville après ça. Mon bureau a fermé, d’abord temporairement, puis jusqu’à nouvel ordre. Voilà comment je me suis retrouvée dans le Connecticut depuis mars 2020. 

Appian :

Où êtes-vous dans le Connecticut ?

Michelle Shevin :

Je suis dans une zone rurale qu’on appelle le « coin tranquille » du Connecticut. C’est très boisé et calme, niché entre Providence, Boston, et Hartford. C’est, en quelque sorte, un bon endroit pour résister à la tempête (sous-entendu, le COVID). 

 

Un nouveau type de technologues est plus que nécessaire

Appian :

Le mouvement en faveur de la technologie d’intérêt public semble prendre de l’ampleur. C’est ce que vous dites dans l’un de vos articles récents publié dans Fast Company. Vous y affirmez, en gros, que nous avons besoin de davantage de technologues formés pour comprendre les ramifications éthiques, juridiques et politiques des technologies auxquelles ils donnent vie. Parlez-nous de cela et aussi de ce que vous appelez le « cadre juridique de l’intérêt public de la TIP ».

Michelle Shevin :

Le droit d’intérêt public est un modèle mental utile à garder en tête. Dans les années 1950 et 1960, nous avions un grand besoin d’expertise juridique qui comprenait également les exigences du mouvement des droits civiques et, à cette époque, les bailleurs de fonds ont commencé à faire de gros investissements dans des fonds de défense juridique, des institutions comme l’ACLU, des cliniques juridiques universitaires et des infrastructures pro-bono pour les cabinets d’avocats privés, par exemple.

Le droit d’intérêt public étant florissant, nous avons souvent du mal à imaginer aujourd’hui qu’une infrastructure aussi importante pour la justice a dû être créée intentionnellement. Et pourtant, c’est bien le cas. Et, toujours en quête de justice, nous pensons qu’il est maintenant, et plus que jamais, temps d’investir dans la technologie d’intérêt public. Il s’agit en partie de répondre aux dommages croissants de l’ère du « avancer vite, quitte à tout bouleverser » qui a caractérisé une grande partie de la transformation numérique jusqu’à présent. 

La nécessité pour les acteurs de la philanthropie d’un nouveau cadre visant à garantir que la technologie est développée, déployée, conçue, réglementée et utilisée de manière à protéger les droits des consommateurs et à améliorer la vie des citoyens, paraît ainsi plus qu’évidente. L’initiative TIP a donc pour objectif de créer ce nouveau cadre. On parle ici d’un domaine en pleine expansion, composé d’un autre type de technologues, qui tend à être plus interdisciplinaire et intersectionnel. 

Appian :

C’est-à-dire ?

Michelle Shevin :

Ils ne s’agit pas forcément d’informaticiens, de programmeurs ou de développeurs classiques. Ils peuvent être journalistes, artistes, défenseurs des droits. Oui, il peut aussi s’agir de codeurs et de programmeurs, c’est vrai. Et ce sont ces différents types de de technologues qui exigent vraiment que les technologies soient créées et utilisées de manière responsable. Vous avez peut-être déjà entendu parler de « technologie responsable », de « technologie éthique » ou de « technologie en faveur du bien ». La technologie d’intérêt public fait écho à tous ces cadres. C’est une sorte de grand lieu, domaine ou mouvement où les technologues peuvent attirer l’attention sur les secteurs au sein desquels la technologie peut permettre de fournir des services de meilleur qualité et contribuer à la résolution de problèmes de taille. 

Appian :

Ainsi, la technologie d’intérêt public est vraiment différent de l’expertise traditionnelle en informatique ou en science des données.

Michelle Shevin :

L’informatique et la science des données reconnaissent de plus en plus ce fait, ce qui n’était pas le cas jusqu’à présent. Les centres de technologie d’intérêt public reconnaissent que les groupes historiquement marginalisés sont le plus souvent lésés par la technologie. Les données sont affectées par les inégalités structurelles. L’informatique n’est pas à l’abri des rapports de force. Les technologues d’intérêt public ont les connaissances et l’expérience nécessaires pour créer des technologies propices à l’évolution de valeurs telles que la justice et l’équité, en plus, par exemple, de l’optimisation des résultats des entreprises, de la marge bénéficiaire, des économies de coûts ou de l’efficacité. Comme vous pouvez l’imaginer, la technologie d’intérêt public est un domaine extrêmement diversifié. Elle englobe une multitude de catégories d’emploi et concerne des personnes aux antécédents variés. Notre mouvement représente mieux les intérêts publics aux États-Unis et à l’étranger. 

 

L’humain avant la technologie

Appian :

Ainsi, lorsque l’on parle de technologie équitable, il s’agit de s’assurer que les technologies que nous développons ne nuisent pas aux personnes ou n’aggravent pas la fracture numérique. Mais au-delà de l’impact social et des bonnes actions, quel est l’intérêt commercial de la technologie d’intérêt public, et pourquoi les chefs d’entreprise devraient-ils s’y intéresser ? 

Michelle Shevin :

Le secteur privé est un élément essentiel de l’écosystème de la TIP. Il abrite selon nous potentiel gigantesque d’approfondissement des engagements et de nos notions en matière de responsabilité en son sein. Une grande partie du développement technologique passe par le secteur privé, véritable pièce centrale du puzzle. En d’autres termes, les entreprises qui mettent l’accent sur les valeurs d’intérêt public dans la manière dont elles recrutent les talents, abordent la technologie et entretiennent les systèmes techniques créeront des produits et des services plus fiables. Du point de vue de la Ford Foundation, l’infrastructure à créer et à financer pour soutenir cet écosystème doit impliquer le secteur privé, le secteur public, le monde universitaire et la société civile. Nous cherchons donc vraiment à promouvoir le progrès dans cet espace et dans ce domaine.

Appian :

Donc, si je suis un chef d’entreprise soucieux de stimuler l’innovation dans un esprit d’intérêt public, quelle est la marche à suivre ?

Michelle Shevin :

Il est avant tout essentiel de comprendre ce qu’est la technologie d’intérêt public, et comment des valeurs telles que l’équité, la transparence et la responsabilité deviennent prioritaires dans un cadre commercial. Nous avons constaté, de manière anecdotique et à grande échelle, à quel point l’adoption d’une approche TIP peut transformer les entreprises. L’année dernière, des entreprises comme Twitter, par exemple, ont recruté davantage de technologues d’intérêt public.

Nous avons également vu des entreprises adopter la TIP et générer une valeur réelle non seulement en termes de bénéfices, mais aussi en termes de confiance des communautés critiques avec lesquelles elles travaillent. Ces entreprises s’engagent auprès des communautés par le biais de relations commerciales. Pour elles, c’est un moyen désormais incontournable de créer un écosystème et de gagner la confiance de toutes les parties prenantes et de nouer des relations saines avec les clients.

Appian :

Mais les chefs d’entreprise peuvent se montrer sceptiques face à des termes comme « technologie d’intérêt public » et penser qu’il s’agit d’une autre façon de dire que nous avons besoin de plus de réglementation en la matière.

Michelle Shevin :

Il est important de faire la distinction, car la réglementation est inévitable et essentielle, mais a la réputation d’entraver l’innovation. En revanche, en tant que domaine et ensemble d’approches intersectorielles visant à centrer les valeurs d’intérêt public que sont l’équité, la transparence et la justice dans la manière dont nous concevons et appliquons la technologie, la technologie d’intérêt public est essentielle à la croissance et à la longévité de votre entreprise. Nous parlons donc de la PIT comme d’un moyen d’anticiper les réglementations et les normes à venir ainsi que les évolutions de taille dans les obstacles réglementaires et de conformité dans l’environnement.

Michelle Shevin, responsable programme senior, Ford Foundation

 

(Le prochain épisode de Technologie d’intérêt public : combler les lacunes en matière de risques liés à l’innovation, avec la participation de Michelle Shevin de la Ford Foundation, sera bientôt disponible ici, restez à l’affût !)