L’IA va-t-elle rendre les êtres humains obsolètes ? Pas à court terme (partie 1)

Il s’agit du premier épisode d’une série en deux parties sur l’intelligence artificielle (IA), avec l’expert en IA Vincent Conitzer, professeur de sciences informatiques à l’université Duke @conitzer.

Le conflit entre machines et êtres humains ne date pas d’hier. Cependant, ce qui a changé, c’est la vitesse stupéfiante à laquelle les machines gagnent en intelligence.

Si vous regardez autour de vous, vous verrez que l’automatisation intelligente est devenue monnaie courante. (Vous n’avez qu’à poser la question à Siri et Alexa.)

Comme l’Internet des objets croît plus rapidement que quiconque n’aurait pu l’imaginer, il y a fort à parier que l’IA sera bientôt intégrée à plus d’un milliard d’appareils.

Bientôt, les machines pourront apprendre des machines. L’IA, quant à elle, sera capable d’apprendre de ses expériences, de s’adapter à son environnement, de prévoir certains résultats et de modifier ses fonctionnalités pour répondre à vos attentes.

Les pessimistes pensent que tout cela finira par rendre les êtres humains obsolètes.

À cause de l’automatisation intelligente, de nombreux emplois risquent de rejoindre la liste des victimes de ces perturbations.

Cependant, il existe toujours des postes qui requièrent de l’empathie et une certaine aptitude à prendre du recul pour évaluer la situation dans son ensemble. Jusqu’ici, ce type de professions reste majoritairement épargné par ces perturbations.

La question est donc la suivante : l’essor de l’IA va-t-il chambouler tout cela ?

Avec nous, l’expert en IA Vincent Conitzer, qui a beaucoup écrit à propos de l’impact de l’IA et de l’automatisation intelligente sur les êtres humains.

M. Conitzer, professeur de sciences informatiques, d’économie et de philosophie à l’université Duke, nous explique pourquoi l’IA et l’automatisation intelligente vont continuer à bouleverser le monde du travail sans pour autant rendre les êtres humains obsolètes, du moins pas à court terme.

Nous espérons que vous apprécierez cet échange.

Appian : Bonjour Professeur. Bienvenue chez Appian. Dans l’un de vos articles, récemment paru dans le Wall Street Journal, vous expliquez qu’à l’ère de l’IA et de l’automatisation intelligente, le fait d’être humain a toujours ses avantages. Que voulez-vous dire par là ?

M. Conitzer : Cet article détaille ce que l’IA peut et ne peut pas faire. Certaines personnes ont exprimé de nombreuses inquiétudes à propos de l’IA : c’est une technologie partiale et non objective, qui, pour certaines d’entre elles, pourrait bien finir par dominer le monde. Je souhaitais aider autrui à interpréter tous ces arguments ; c’est donc ce que j’explique globalement dans mon article.

Ce que l’IA peut et ne peut pas faire

Appian : Oui, vous écrivez sur les forces et les faiblesses de l’IA, ainsi que sur certains de ses échecs pour le moins surprenants. Mais si l’IA parvient à combler ses lacunes, en quoi la situation serait-elle différente ?

M. Conitzer :

Je pense qu’aujourd’hui, l’IA doit encore faire face à d’importants obstacles. Je dirais que de nos jours, l’IA excelle dans le domaine de ce que nous appelons souvent l’« IA faible ». Il s’agit d’un type d’IA conçue pour résoudre des problèmes précis, notamment ceux qui nécessitent de réaliser maintes et maintes fois les mêmes entrées. Généralement, dans ces situations, la méthode d’évaluation de la réussite est évidente et l’objectif à atteindre est clair.

Appian : Quels sont les professions les plus affectées par cette IA faible ?

M. Conitzer : Cela peut par exemple toucher les radiologues, qui doivent observer des images pour y déceler certaines caractéristiques. Quelques entreprises fabriquent déjà des robots capables de retourner des steaks et les voitures autonomes se développent également ; celles-ci peuvent d’ailleurs représenter un défi supplémentaire, car beaucoup d’imprévus peuvent survenir lorsque vous conduisez en ville. Et c’est là que les êtres humains ont une chance de briller.

https://twitter.com/conitzer/status/1034763427200348160

Appian : Donc les postes aux tâches répétitives et prévisibles sont les plus susceptibles de subir des perturbations…

M. Conitzer :

En effet, si telle ou telle tâche est moins axée sur les répétitions et la prévisibilité, si une meilleure compréhension du monde et des interactions sociales est nécessaire et s’il faut faire preuve de flexibilité pour s’adapter aux évènements imprévus, il s’agit là de postes tout indiqués pour les êtres humains.

Voici l’un de mes exemples préférés : les enseignants en maternelle. Ils doivent être attentifs à de nombreux paramètres différents. Il faut également qu’ils fassent preuve de beaucoup de bon sens. Ils gèrent les relations sociales avec les enfants et les parents. Tous les jours, ils se retrouvent face à des situations jamais vues auparavant et ils n’ont d’autre choix que de s’y adapter.

Au-delà des limites de l’IA faible

Appian : L’IA faible n’est donc pas en mesure de résoudre ce type de problèmes qualitatifs… Mais alors, quel est le contraire de l’IA faible ? Quel autre choix avons-nous ?

M. Conitzer : L’intelligence artificielle forte. Ce système d’IA pourrait faire bien plus que simplement surpasser les personnes dans le cadre de l’exécution de tâches bien précises. Il existe déjà des systèmes qui sont meilleurs que les êtres humains lorsqu’il s’agit d’observer des images. Pour autant, il n’est pas aisé d’appliquer instantanément ces systèmes à la réalisation d’autres tâches.

Le type de missions que les personnes doivent remplir dans le cadre de leurs fonctions nécessite généralement beaucoup de flexibilité et de bon sens. Il est plutôt simple pour les personnes de déceler un petit problème au niveau d’un ensemble de données. Si par exemple vous classez des images et qu’un beau jour, vous remarquez de réels changements, vous pouvez prendre un peu de recul et vous demandez ce qu’il se passe.

https://twitter.com/conitzer/status/1047476999684599809

Les personnes sont plus douées pour évaluer la situation dans son ensemble

Appian : Et les systèmes d’IA actuels ne sont pas en mesure de faire cela ?

M. Conitzer : Ils peuvent peut-être détecter les changements, mais ils sont incapables de les envisager sous un angle plus large.

C’est d’ailleurs cette incapacité qui est à l’origine de certaines erreurs amusantes commises par les systèmes d’IA. Un groupe de chercheurs de l’université Carnegie Mellon possédait un système de vision par ordinateur conçu pour reconnaître des personnes et des images. Ces chercheurs ont créé des montures de lunettes colorées qu’ils portaient pour essayer d’induire en erreur le système d’IA.

Il est étrange de penser que cela ait pu faire une quelconque différence, n’est-ce pas ? Car il s’agissait des mêmes personnes, elles portaient juste des lunettes pour modifier un peu leur apparence. Cependant, le système s’est complètement emmêlé les pinceaux ; il ne parvenait plus à classer les personnes correctement à cause de cela.

Voici l’explication : le système n’est pas vraiment capable de conceptualiser les différents aspects d’une même image. Il n’était donc pas en mesure de comprendre que les chercheurs s’amusaient simplement à porter des lunettes. Le système n’était juste pas conçu pour cela.

L’IA faible est donc incapable de prendre en compte le contexte général qui entoure un sujet et la manière dont la situation peut évoluer. Tous ces paramètres sont importants lorsque vous déployez une IA dans le monde réel.

Ils constituent également une bonne leçon que les cadres supérieurs doivent retenir. Le fait est que l’IA n’a pas la solution à tout. Pour qu’elle fonctionne, elle doit être appliquée à une tâche prévisible, qui se répète régulièrement et à maintes reprises.

Lorsque les attentes et les objectifs doivent faire l’objet d’une interprétation plus large, alors la main-d’œuvre humaine est indispensable.

https://twitter.com/conitzer/status/1056869598258180096

Appian : Cela me rappelle un article du New York Times… Il y était expliqué qu’un système d’IA avait refusé un prêt immobilier à Ben Bernanke, un ancien président de la Réserve fédérale des États-Unis, car il avait récemment changé de poste et était donc considéré comme un candidat à haut risque dans le cadre du refinancement de son emprunt. Je pense que la décision d’un être humain n’aurait pas été la même.

M. Conitzer : En effet (rires). Je n’ai pas eu accès au rapport de crédit de M. Bernanke, donc je ne sais pas quelle décision a finalement été prise. Ceci étant dit, en principe, toutes sortes de problèmes peuvent survenir dans le processus d’approbation d’un prêt.

Et dans ce cas précis, je ne pense pas que le système aurait pu réfléchir et conclure « Oh, mais c’est Ben Bernanke, nous le connaissons bien et je pense que nous ne prenons aucun risque en lui accordant ce prêt ».

Si vous utilisez l’IA pour classer des personnes, pour déterminer si elles devraient obtenir un prêt ou être envoyées en prison, cela peut ne pas fonctionner aussi bien que vous l’attendiez.

Il n’est pas seulement question d’automatiser les emplois

Appian : Beaucoup de discussions tournent également autour du conflit entre l’IA et la main-d’œuvre humaine et de la manière dont celui-ci va affecter les travailleurs. Mais vous pensez que nous devrions aussi nous concentrer sur la manière dont l’IA peut rendre les emplois plus sûrs et plus simples.

M. Conitzer : Exactement. L’IA peut simplifier la vie des personnes de bien des façons. Plus tôt, j’ai dit que l’IA était capable d’effectuer le même type de tâches que les radiologues. Pour autant, ces emplois ne risquent pas de disparaître de sitôt.

Cependant, l’IA pourrait améliorer les capacités de ces radiologues. Par exemple, le logiciel pourrait déceler des détails susceptibles de leur échapper. Il pourrait aussi être en mesure de hiérarchiser différentes images avant qu’ils ne les examinent…

Et il en va de même pour d’autres professions.

L’IA n’est donc pas uniquement une question d’automatisation des emplois. Il s’agit plutôt d’automatiser des tâches pour lesquelles l’IA est plus performante que les êtres humains. L’automatisation de celles-ci peut rendre service aux personnes qui n’ont plus à s’en occuper par la suite. Ainsi, elles disposent de plus de temps pour effectuer les tâches qu’elles apprécient davantage.

Appian : Alors, nous ne devrions pas craindre que l’automatisation entraîne la suppression de certains emplois ? S’agit-il simplement d’une mode ?

M. Conitzer : Pas exactement. À l’avenir, il se peut que nous ayons besoin de moins de personnes pour effectuer la même quantité de travail.

Cependant, pour la plupart des professions, je pense qu’il n’est pas réaliste de dire que des catégories professionnelles entières vont être automatisées. La présence d’être humains dans le processus sera toujours possible, ne serait-ce que pour contrôler le robot et analyser les données renvoyées par celui-ci.

Appian : Certains experts s’inquiètent de la militarisation de l’automatisation intelligente, qui pourrait permettre de prendre des décisions vitales sur le terrain. Que pensez-vous de cet argument ?

M. Conitzer :

Voici la véritable question : sommes-nous d’accord pour que ce soit des algorithmes qui prennent ce genre de décisions, sans aucune intervention humaine ? Je pense que cette idée dérange de nombreuses personnes.

Elles veulent s’assurer de la présence systématique d’un être humain lorsque des décisions vitales sont prises par un système d’IA.

Mais qu’est-ce qui définit un contrôle humain véritablement utile ? Le débat est permanent et personne n’a le même avis sur la question.

Rendez-vous la semaine prochaine pour la deuxième partie de cette série.