Technologie d’intérêt public​ ​: combler les lacunes en matière de risques liés à l’innovation, 2​ ​è ​partie

Roland Alston, Product Marketing Manager
August 19, 2021

Constatez les avantages de l'hyperautomatisation tout autour de vous : elle fait évoluer les processus métier plus rapidement qu'un algorithme, fluidifie l'engagement client et favorise la transformation de l'entreprise.

À long terme, cette tendance créera probablement une nouvelle génération d'emplois. Mais à court terme, elle peut aussi susciter l'inquiétude des travailleurs qui craignent de perdre leur emploi à cause de l'explosion de l'hyperautomatisation post-COVID. Voici quelques chiffres pour mieux comprendre cette perspective :

  • Les recherches montrent que 43 % des entreprises prévoient de réduire leurs effectifs grâce à l'intégration des technologies. Mais 34 % prévoient d'augmenter le nombre d'emplois pour la même raison, selon le Forum économique mondial.
  • Selon Gartner, 65 % des entreprises qui ont déployé l'automatisation des processus robotiques introduiront l'intelligence artificielle, dont l'apprentissage automatique et des algorithmes de traitement du langage naturel d'ici 2022.

Alors, comment les entreprises peuvent-elles atténuer la peur de l'automatisation ? Et si elles y parviennent, comment les chefs d'entreprise peuvent-ils s'assurer que les avantages nets de l'hyperautomatisation à long terme l'emportent sur les inconvénients à court terme ? Ce qui nous amène au dernier épisode de cette conversation en deux parties avec Michelle Shevin, responsable programme senior, technologie et société, chez Ford Foundation (@michebox).

S'adapter à l'évolution stupéfiante de l'hyperautomatisation pourrait revenir à s'endormir au volant d'une voiture autonome, estime M. Shevin. Il est préférable d'automatiser sans perdre la touche humaine. Mieux vaut intégrer les personnes et les machines pour qu'elles se complètent. Et mieux vaut adopter la technologie d'intérêt public (TIP) pour atténuer les complications causées par des algorithmes défaillants, se prémunir contre la surréglementation et favoriser l'équité et l'inclusion numériques à l'ère de l'hyperautomatisation. Entamons cette conversation opportune avec Michelle Shevin, leader d'opinion en matière de TIP.

Appian :

Vous avez parlé de la TIP comme d'un état d'esprit qui peut aider les chefs d'entreprise à anticiper les futures questions de conformité et de réglementation liées au côté humain de la technologie, par exemple, l'équité numérique, l'inclusion et la transparence. Pouvez-vous nous en dire plus à ce sujet ?

Michelle Shevin :

Au fond, la technologie d'intérêt public est un moyen de se prémunir contre les conséquences involontaires d'une technologie défaillante ou contre les conséquences sociales auxquelles personne n'a jamais pensé en premier lieu. Ainsi, nous pensons que la TIP crée vraiment une entreprise plus forte. Et ce n'est pas seulement pour vos équipes de développement de produits. C'est pour vos politiques et vos équipes juridiques. Et cela devient vraiment une sorte de tissu fondamental dans l'entreprise.

En effet, la TIP ne concerne pas seulement la façon dont nous concevons la technologie aujourd'hui et dont nous adaptons la technologie que nous avons conçue hier. Il s'agit aussi de regarder vers l'avenir et de se préparer à s'adapter et à anticiper les défis à venir.

À propos de la TIP et de la crise de COVID-19

Appian :

En parlant de défis, nous subissons toujours les contrecoups de la crise de COVID-19. Enfin, nous ne sommes pas encore totalement sortis de l'auberge. Comme vous le savez, la pandémie a provoqué des perturbations massives au sein des entreprises. Et tous ces changements, y compris l'augmentation du travail à distance, signifient que les entreprises doivent être plus agiles. Alors, en pensant à l'impact de la crise de COVID-19, comment la pandémie a-t-elle influencé ce que les entreprises pensent de la TIP ?

Michelle Shevin :

Pour faire court, la pandémie a prouvé l'intérêt commercial de la TIP. Elle a vraiment accéléré et amplifié les efforts. La réaction des entreprises à la pandémie montre pourquoi nous devons encore développer l'infrastructure dans ce domaine. Mais dans les domaines où nous constatons un élan en faveur de la TIP, elle apporte déjà de la valeur.

Appian :

Pouvez-vous en donner quelques exemples ?

Michelle Shevin :

Dans le secteur public, nous avons vu pourquoi la TIP est pertinente pour le déploiement du vaccin. Au début du déploiement, les villes et les États américains ne disposaient pas de l'infrastructure numérique nécessaire à une prise de rendez-vous rapide, facile et efficace pour la vaccination. Il s'agissait d'une question d'équité et pas seulement d'accès.

Je pense que l'absence d'une réponse intersectorielle forte, capable d'exploiter la puissance de la technologie et de limiter ses effets néfastes, a fini par entraver notre réponse à la crise de COVID-19. D'un autre côté, nous avons pu constater que les technologues d'intérêt public ont eu un impact sur la pandémie grâce à un effort bénévole qui a permis d'envoyer des équipes de technologues hautement qualifiés pour soutenir les responsables des gouvernements des collectivités locales et des États américains afin de parer à la menace du coronavirus.

Les comtés ont été en mesure d'améliorer leur présence numérique en réponse à l'augmentation massive du trafic sur leurs sites web. Et les villes ont pu mettre en ligne des programmes visant, par exemple, à aider les personnes confinées à domicile à obtenir des repas.

Il a donc été incroyable de voir comment un effort en matière de TIP a pu se mettre en place très rapidement et avoir un impact fort en termes d'amélioration de l'accès du public à des ressources telles que les allocations de chômage et d'autres filets de sécurité, et d'aider les localités et les États américains à déterminer la meilleure approche pour le déploiement des vaccins.

Appian :

Il ne s'agit cependant pas de solutions à long terme, n'est-ce pas ? La plupart des acteurs sont bénévoles.

Michelle Shevin :

Il s'agit de bénévoles qui affluent pour combler les lacunes critiques. Mais c'est un excellent exemple de la façon dont le fait de mettre en avant ce cadre de TIP et de penser à la conception de la technologie avec l'équité et la responsabilité au premier plan peut vraiment faire une énorme différence.

Former les futurs technologues

Appian :

Changeons de sujet et parlons d'un article que vous avez récemment publié dans le magazine Fast Company, où vous parlez d'un réseau universitaire TIP (PIT-UN). De quoi s'agit-il et quel est le lien avec le travail que vous dirigez à la Ford Foundation ?

Michelle Shevin :

Il s'agit d'une infrastructure spécifique que nous (la Ford Foundation) avons contribué à mettre en place aux côtés de plusieurs de nos pairs investisseurs. Le réseau universitaire TIP est géré par New America, et c'est un partenariat de collèges et d'universités qui s'engagent spécifiquement à former la prochaine génération de technologues d'intérêt public. Ainsi, ils prennent leurs diplômes en informatique et en science des données et s'assurent qu'ils sont exposés à l'éthique, au droit et à la politique tout au long de leur formation.

Appian :

Ces écoles forment donc une nouvelle cohorte de technologues d'intérêt public ayant une formation interdisciplinaire.

Michelle Shevin :

Oui, il y a maintenant 43 institutions d'enseignement supérieur différentes dans le réseau PIT-UN. Il s'agit d'écoles publiques, d'instituts polytechniques, de collèges communautaires, d'universités et d'autres établissements, ce qui est d'ailleurs ce que j'aime le plus dans ce réseau universitaire.

Le réseau comprend un certain nombre d'universités qui envoient traditionnellement beaucoup de diplômés dans le domaine de la technologie, comme Stanford et Harvard, mais il y a un effort explicite pour inclure des collèges comme le Miami Dade College et l'université Howard et d'autres écoles au sein desquelles de nombreux étudiants sont issus de communautés historiquement marginalisées.

Appian :

Alors, est-ce que c'est juste pour essayer de faire ce qui est juste ? Quelle est l'importance d'inclure des étudiants issus de communautés marginalisées dans le mouvement TIP ?

Michelle Shevin :

C'est important car nous savons que l'inclusion des expériences de divers étudiants rendra le domaine de la TIP et le réseau universitaire lui-même beaucoup plus forts. Ce sont ces étudiants qui deviendront des leaders dans ce domaine. C'est donc vraiment passionnant.

Les connaissances interdisciplinaires qui sont générées par le réseau universitaire TIP permettent vraiment aux étudiants des institutions du réseau de mieux comprendre les défis que la technologie peut soit aggraver, soit nous aider à résoudre.


Appian :

Comment les chefs d'entreprise réagissent-ils à la tendance de la TIP ? Et quel impact pensez-vous que ce mouvement aura sur l'avenir de la transformation numérique ?

Michelle Shevin :

Je pense donc que les grandes entreprises technologiques et autres continueront à embaucher un nombre croissant de technologues d'intérêt public spécialisés dans des questions telles que les droits civils, la confidentialité, la sécurité et la gouvernance. Et lorsque ces entreprises concevront des produits et des services, nous aurons plus d'avantages et moins d'inconvénients, ce qui se traduira par une technologie et des entreprises beaucoup plus solides dans l'ensemble.

Une bonne façon d'aborder l'automatisation : ne pas nuire

Appian :

Enfin, parlons de la TIP et de l'avenir de l'automatisation. L'hyperautomatisation est au cœur des discussions. Quel rôle pensez-vous que la TIP jouera dans l'évolution de l'hyperautomatisation ?

Michelle Shevin :

L'hyperautomatisation a beaucoup à voir avec la façon dont l'IA et d'autres outils sont utilisés pour automatiser et adapter les processus métier. Les technologues d'intérêt public s'efforcent donc d'aider les entreprises à utiliser l'IA et l'automatisation de manière responsable. Ainsi, des concepts tels que la reconnaissance des émotions ou la technologie conçue pour prédire des choses complexes sur la vie ou le comportement des gens font de plus en plus parler d'eux. Nous assistons également à l'automatisation du processus d'embauche, l'IA étant utilisée pour analyser les entretiens vidéo.

Appian :

Alors, que pensez-vous de ces tendances du point de vue d'un technologue de l'intérêt public ?

Michelle Shevin :

Nombre de ces cas d'utilisation relèvent encore de la science-fiction et ce pour une bonne raison. Ils ne sont pas scientifiquement fondés, mais ils sont quand même mis en œuvre. Les technologues d'intérêt public sont donc très doués pour couper court au battage publicitaire et nous aider à nous concentrer sur ce que la technologie est réellement capable de faire, et sur les impacts probables lorsqu'elle est appliquée de manière inappropriée ou lorsqu'elle promet de faire quelque chose qu'elle ne peut pas vraiment faire de manière équitable et qu'elle est appliquée et que, bien sûr, des personnes sont lésées.

Parfois, il est bon de freiner l'innovation

Appian :

Restons un instant sur le côté humain de l'automatisation. Vous avez dit que l'un des rôles des technologues d'intérêt public est de nous aider à construire et à déployer une technologie plus centrée sur l'humain. Qu'entendez-vous par là ?

Michelle Shevin :

Oui, lorsque tout le monde est excité par la prochaine grande innovation, la TIP nous encourage parfois à ralentir et à examiner de plus près comment les tendances technologiques peuvent nuire et nuisent aux communautés marginalisées, et comment nous pouvons empêcher cela.

J'ai lu une récente enquête de FICO qui a révélé que de nombreux cadres sont mal équipés pour assurer les implications éthiques de l'utilisation des systèmes d'IA. Par exemple, lorsqu'on leur a demandé quels étaient les normes et les processus en place pour régir l'utilisation de l'IA, seuls 38 % ont répondu que leur entreprise avait mis en place des mesures de détection et d'atténuation des biais dans les données. Et seulement 6 % ont déclaré qu'ils essayaient de s'assurer que leurs équipes de développement étaient diversifiées.

C'est donc un aperçu très décevant de la situation actuelle en matière de gouvernance informatique et, bien sûr, de gouvernance de l'hyperautomatisation. Nous avons vu à maintes reprises comment les biais algorithmiques ont déjà causé des dommages réels aux communautés marginalisées, n'est-ce pas ? Nous avons vu de fausses arrestations, une surveillance accrue, une marginalisation croissante des personnes qui n'ont pas accès aux systèmes qui peuvent exiger qu'elles soient lisibles par les machines ou visibles par les systèmes d'IA. Donc c'est vraiment là que la technologie d'intérêt public entre en jeu.

Les entreprises à la croisée des chemins

Appian :

Alors, quand vous regardez l'horizon, quel rôle pensez-vous que la TIP jouera dans l'avenir des entreprises ?

Michelle Shevin :

D'un point de vue stratégique, le secteur privé est à la croisée des chemins. Nous sommes confrontés à la propagation de la désinformation, aux problèmes de confidentialité, aux fuites, aux piratages. Nous avons les biais de l'intelligence artificielle. Nous avons vraiment vu la confiance du public être affectée par tous ces problèmes. Et cela est particulièrement le cas pour le secteur de la technologie. Les critiques et les appels à la régulation continuent de gagner en force. Mais les responsables publics ont tendance à être mal équipés pour gérer les conséquences que nous constatons tout autour de nous.

C'est donc le moment idéal pour le secteur privé de s'engager et de prendre les devants dans ce domaine. Et cela s'explique en partie par le fait que, bien que les entreprises technologiques disposent des meilleurs talents en la matière, elles manquent souvent de volonté ou d'expertise pour anticiper les inconvénients de la technologie et les prévenir lors de la création de produits et de services.

Au lieu de cela, ils essayent de rattraper le temps perdu lorsque le mal est déjà fait. J'ai lu récemment une interview de Satya Nadella, de Microsoft, qui a soulevé un point important : les dirigeants doivent d'abord se préoccuper des effets secondaires involontaires de la technologie. Ainsi, les entreprises risquent vraiment une mauvaise réputation et une mauvaise réglementation lorsqu'elles n'anticipent pas les inconvénients de leur technologie.

Appian :

Donc, d'un point de vue pratique, quelle est la solution ? Quel est le mode d'emploi pour y parvenir ?

Michelle Shevin :

Mon conseil pragmatique aux chefs d'entreprise est donc d'engager des technologues d'intérêt public. Tenez compte des conséquences de la technologie que vous construisez, et faites tout votre possible pour construire et utiliser la technologie d'une manière qui évite de nuire aux communautés marginalisées. Envisagez d'adopter et d'incorporer des cadres qui aident à centrer les valeurs de confiance et de responsabilité comme nous donnons la priorité aux économies, à l'efficacité, au profit et à la rapidité.

PS : (Pour en savoir plus sur la technologie d'intérêt public, lisez la première partie de cet article en deux parties ici.)

 

Michelle Shevin, responsable programme senior, Ford Foundation