Les avantages de la transformation numérique sont potentiellement illimités, avec des moyens presque infinis de nous garder connectés grâce à une technologie qui optimise l'efficacité, la réduction des coûts et les avantages concurrentiels.
Un défi demeure toutefois : il s’agit de déterminer comment atténuer les potentiels risques en matière d’éthique et les conséquences involontaires de la généralisation d'une technologie émergente, alors que près des deux tiers (65 %) des cadres supérieurs ne sont pas en mesure d’expliquer les modalités des décisions ou des prédictions spécifiques des modèles d’intelligence artificielle (IA), et que 73 % ont du mal à obtenir le soutien de leur direction pour privilégier une intelligence artificielle éthique, selon une récente étude de la société d’analyse mondiale FICO.
Voilà une bonne transition vers le thème opportun de la Journée mondiale de l'utilisabilité de cette année : la conception de notre monde en ligne : confiance, éthique et intégrité. Cet événement mondial démarre le 11 novembre 2021. Des communautés issues de la technologie, de l'industrie, du gouvernement et d'autres secteurs étudieront les moyens de rendre la technologie plus facile d'accès et plus simple à utiliser.
La crise du COVID-19 a accéléré le rythme déjà effréné de la transformation numérique, qui touche désormais pratiquement tous les aspects de notre vie. Aujourd'hui, les défis sont donc les suivants :
- Comment instaurer un climat de confiance dans ce que le cabinet d'analystes Gartner appelle l'ère de l'hyperautomatisation ?
- Quelles sont les conséquences éthiques de la façon dont nous concevons les technologies ?
- Comment intégrer l'accessibilité et l'inclusion lorsque nous concevons des technologies, pour quelles soient accessibles à tous ?
C'est là qu'intervient la technologie d'intérêt public (TIP). Pour tirer le meilleur parti de la technologie, il ne suffit pas de créer et d’attendre que le reste se fasse tout seul. Il est préférable, selon les principaux porte-paroles d'un mouvement croissant de technologues d’intérêt public, d’adopter une approche de l’innovation centrée sur l’humain, assortie de stratégies d’investissement dans la recherche, l’éducation et les moyens de déployer des technologies qui protègent et profitent à la société. Ce qui nous amène à un point très important ces derniers temps : la réduction du nombre de cas d’utilisation mal conçus qui sapent la confiance des consommateurs et amplifient les appels à la réglementation des technologies.
« Les entreprises qui intègrent explicitement le cadre de la technologie d’intérêt public remarquent une réelle génération de valeur à la fois en termes de bénéfices, mais aussi en termes de confiance qu’elles génèrent auprès des communautés critiques avec lesquelles elles collaborent, qu’elles défendent et avec lesquelles elles interagissent par le biais de relations commerciales », déclare Michelle Shevin, l’une des principales porte-parole du mouvement en faveur de la technologie d’intérêt public (TIP) et responsable programme senior du PIT Catalyst Fund de la Ford Foundation.
Et d’ajouter : « nous pensons ainsi que la technologie d’intérêt public est vraiment au cœur d’un écosystème à long terme visant à établir responsabilité et confiance entre les partenaires et dans les relations avec les clients. C’est vraiment essentiel à la croissance des entreprises. »
« Par exemple, en tant que chef d’entreprise, vous n’avez pas envie de vous lancer dans la conception et le déploiement d’une technologie de reconnaissance faciale qui pourrait bientôt disparaître parce que personne n’a pensé à mettre en place des garde-fous, car personne n’a demandé l’avis des communautés qui pourraient être les plus concernées par cette technologie. »
Si ce sentiment vous donne envie de lever les yeux au ciel, ne le faites pas. Une étude mondiale menée par McKinsey montre que nous pouvons améliorer la convivialité en innovant autour des trois dimensions suivantes, considérées comme les plus importantes :
- Améliorer la confiance dans les services numériques en renforçant la confidentialité et la sécurité. Environ 44 % des consommateurs interrogés n'ont pas entièrement confiance dans les services numériques.
- Améliorer l'expérience utilisateur sur les canaux numériques en améliorant les interfaces utilisateur (UX/UI). Environ 56 % des utilisateurs insatisfaits ont fait part de l'inconfort de l'UX/UI numérique ou du manque d'informations sur les produits et services.
- Améliorer l'expérience des consommateurs en rendant tous les produits et services disponibles sous forme numérique. 43 % des consommateurs disent préférer le numérique pour des raisons de commodité et de disponibilité.
En d’autres termes, la relation du public vis-à-vis de l’accélération de la transformation numérique et de tout ce que cela implique pour le monde post-COVID est contrastée. Bonne nouvelle toutefois : centrer l’innovation numérique sur l’humain peut changer le regard que la société porte sur la technologie, à condition que cela soit intentionnel. Ce qui nous amène à Michelle Shevin, leader d'opinion du mouvement en faveur de la TIP, qui nous donne un aperçu de ce dernier et de la manière dont il vise en priorité la confiance du public, une plus grande adoption des technologies, une meilleure équité en matière de technologie et de la façon dont est anticipée la réglementation à l’ère de l’hyperautomatisation. Les questions ont été modifiées pour plus de clarté et de concision.
Un nouveau type de technologues est plus que nécessaire
Appian :
Le mouvement en faveur de la technologie d’intérêt public semble prendre de l’ampleur. C’est ce que vous dites dans l’un de vos articles récents publié dans Fast Company. Vous y affirmez, en gros, que nous avons besoin de davantage de technologues formés pour comprendre les ramifications éthiques, juridiques et politiques des technologies auxquelles ils donnent vie. Parlez-nous de cela et aussi de ce que vous appelez le « cadre juridique de l’intérêt public de la TIP ».
Michelle Shevin :
Le droit d’intérêt public est un modèle mental utile à garder en tête. Dans les années 1950 et 1960, nous avions un grand besoin d’expertise juridique qui comprenait également les exigences du mouvement des droits civiques et, à cette époque, les bailleurs de fonds ont commencé à faire de gros investissements dans des fonds de défense juridique, des institutions comme l’ACLU, des cliniques juridiques universitaires et des infrastructures pro-bono pour les cabinets d’avocats privés, par exemple.
Le droit d’intérêt public étant florissant, nous avons souvent du mal à imaginer aujourd’hui qu’une infrastructure aussi importante pour la justice a dû être créée intentionnellement. Et pourtant, c’est bien le cas. Et, toujours en quête de justice, nous pensons qu’il est maintenant, et plus que jamais, temps d’investir dans la technologie d’intérêt public. Il s’agit en partie de répondre aux dommages croissants de l’ère du « avancer vite, quitte à tout bouleverser » qui a caractérisé une grande partie de la transformation numérique jusqu’à présent.
La nécessité pour les acteurs de la philanthropie d’un nouveau cadre visant à garantir que la technologie est développée, déployée, conçue, réglementée et utilisée de manière à protéger les droits des consommateurs et à améliorer la vie des citoyens, paraît ainsi plus qu’évidente. L’initiative TIP a donc pour objectif de créer ce nouveau cadre. On parle ici d’un domaine en pleine expansion, composé d’un autre type de technologues, qui tend à être plus interdisciplinaire et intersectionnel.
Appian :
C’est-à-dire ?
Michelle Shevin :
Ils ne s’agit pas forcément d’informaticiens, de programmeurs ou de développeurs classiques. Ils peuvent être journalistes, artistes, défenseurs des droits. Oui, il peut aussi s’agir de codeurs et de programmeurs, c’est vrai. Et ce sont ces différents types de de technologues qui exigent vraiment que les technologies soient créées et utilisées de manière responsable. Vous avez peut-être déjà entendu parler de « technologie responsable », de « technologie éthique » ou de « technologie en faveur du bien ». La technologie d’intérêt public fait écho à tous ces cadres. C’est une sorte de grand lieu, domaine ou mouvement où les technologues peuvent attirer l’attention sur les secteurs au sein desquels la technologie peut permettre de fournir des services de meilleur qualité et contribuer à la résolution de problèmes de taille.
Appian :
Ainsi, la technologie d’intérêt public est vraiment différent de l’expertise traditionnelle en informatique ou en science des données.
Michelle Shevin :
L’informatique et la science des données reconnaissent de plus en plus ce fait, ce qui n’était pas le cas jusqu’à présent. Les centres de technologie d’intérêt public reconnaissent que les groupes historiquement marginalisés sont le plus souvent lésés par la technologie. Les données sont affectées par les inégalités structurelles. L’informatique n’est pas à l’abri des rapports de force. Les technologues d’intérêt public ont les connaissances et l’expérience nécessaires pour créer des technologies propices à l’évolution de valeurs telles que la justice et l’équité, en plus, par exemple, de l’optimisation des résultats des entreprises, de la marge bénéficiaire, des économies de coûts ou de l’efficacité. Comme vous pouvez l’imaginer, la technologie d’intérêt public est un domaine extrêmement diversifié. Elle englobe une multitude de catégories d’emploi et concerne des personnes aux antécédents variés. Notre mouvement représente mieux les intérêts publics aux États-Unis et à l’étranger.
Les personnes et la technologie, dans cet ordre
Appian :
Ainsi, lorsque l’on parle de technologie équitable, il s’agit de s’assurer que les technologies que nous développons ne nuisent pas aux personnes ou n’aggravent pas la fracture numérique. Mais au-delà de l’impact social et des bonnes actions, quel est l’intérêt commercial de la technologie d’intérêt public, et pourquoi les chefs d’entreprise devraient-ils s’y intéresser ?
Michelle Shevin :
Le secteur privé est un élément essentiel de l’écosystème de la TIP. Il abrite selon nous un très grand potentiel d’approfondissement des engagements et de nos notions en matière de responsabilité en son sein. Une grande partie du développement technologique passe par le secteur privé, véritable pièce centrale du puzzle. En d’autres termes, les entreprises qui mettent l’accent sur les valeurs d’intérêt public dans la manière dont elles recrutent les talents, abordent la technologie et entretiennent les systèmes techniques créeront des produits et des services plus fiables.
Appian :
Donc, si je suis un chef d’entreprise soucieux d'améliorer la convivialité et de stimuler l’innovation dans un esprit d’intérêt public, quelle est la marche à suivre ?
Michelle Shevin :
Il est avant tout essentiel de comprendre ce qu’est la technologie d’intérêt public, et comment des valeurs telles que l’équité, la transparence et la responsabilité deviennent prioritaires dans un cadre commercial. Nous avons constaté, de manière anecdotique et à grande échelle, à quel point l’adoption d’une approche TIP peut transformer les entreprises. L’année dernière, des entreprises comme Twitter, par exemple, ont recruté davantage de technologues d’intérêt public.
Nous avons également vu des entreprises adopter la TIP et générer une valeur réelle non seulement en termes de bénéfices, mais aussi en termes de confiance des communautés critiques avec lesquelles elles travaillent. Ces entreprises s’engagent auprès des communautés par le biais de relations commerciales. Pour elles, c’est un moyen désormais incontournable de créer un écosystème et de gagner la confiance de toutes les parties prenantes et de nouer des relations saines avec les clients.
Appian :
Mais les chefs d’entreprise peuvent se montrer sceptiques face à des termes comme « technologie d’intérêt public » et penser qu’il s’agit d’une autre façon de dire que nous avons besoin de plus de réglementation en la matière.
Michelle Shevin :
Il est important de faire la distinction, car la réglementation est inévitable et essentielle, mais a la réputation d’entraver l’innovation. En revanche, en tant que domaine et ensemble d’approches intersectorielles visant à centrer les valeurs d’intérêt public que sont l’équité, la transparence et la justice dans la manière dont nous concevons et appliquons la technologie, la technologie d’intérêt public est essentielle à la croissance et à la longévité de votre entreprise.
Nous parlons donc de la TIP comme d’un moyen d’anticiper les réglementations et les normes à venir ainsi que les évolutions de taille dans les obstacles réglementaires et de conformité dans l’environnement.
Parfois, il est bon de freiner l'innovation
Appian :
Vous avez dit que l'un des rôles des technologues d'intérêt public est de nous aider à construire et à déployer une technologie plus centrée sur l'humain. Qu'entendez-vous par là ?
Michelle Shevin :
Oui, lorsque tout le monde est excité par la prochaine grande innovation, la TIP nous encourage parfois à ralentir et à examiner de plus près comment les tendances technologiques peuvent nuire et nuisent aux communautés marginalisées, et comment nous pouvons empêcher cela.
J'ai lu une récente enquête de FICO qui a révélé que de nombreux cadres sont mal équipés pour assurer les implications éthiques de l'utilisation des systèmes d'IA. Par exemple, lorsqu'on leur a demandé quels étaient les normes et les processus en place pour régir l'utilisation de l'IA, seuls 38 % ont répondu que leur entreprise avait mis en place des mesures de détection et d'atténuation des biais dans les données. Et seulement 6 % ont déclaré qu'ils essayaient de s'assurer que leurs équipes de développement étaient diversifiées.
C'est donc un aperçu très décevant de la situation actuelle en matière de gouvernance informatique et, bien sûr, de gouvernance de l'hyperautomatisation. Nous avons vu à maintes reprises comment les biais algorithmiques ont déjà causé des dommages réels aux communautés marginalisées, n'est-ce pas ? Nous avons vu de fausses arrestations, une surveillance accrue, une marginalisation croissante des personnes qui n'ont pas accès aux systèmes qui peuvent exiger qu'elles soient lisibles par les machines ou visibles par les systèmes d'IA. Donc c'est vraiment là que la technologie d'intérêt public entre en jeu.
Appian :
De manière pragmatique, quels conseils donneriez-vous aux entreprises qui souhaitent donner la priorité à la confiance, à la diversité, à l'équité et à l'inclusion dans le cadre de leur stratégie de transformation numérique ?
Michelle Shevin :
Mon conseil pragmatique est donc de penser aux conséquences de la technologie que vous concevez et de faire tout ce qui est en votre pouvoir pour concevoir et utiliser la technologie de manière à éviter de nuire aux communautés marginalisées. Envisagez d'adopter et d'intégrer des cadres qui aident à centrer les valeurs de confiance et de responsabilité, de la même manière que nous donnons la priorité à la réduction des coûts, à l'efficacité, au profit et à la rapidité.
PS : (Ce blog a été initialement publié sur Appian.com, ici.)
