La face obscure de l'intelligence artificielle, il est encore temps de faire marche arrière (Éthique et IA, 1re partie)

[caption id="pièce jointe_34316" align="alignleft" width="359"] Joanna Bryson, experte en IA et informaticienne à l'Université de Bath, au Royaume-Uni[/caption]

En réalité, l'intelligence artificielle (IA) bouleverse tout ce que nous connaissons. Elle secoue les marchés du travail du monde entier, ainsi que de nombreux secteurs industriels, comme la fabrication, la santé, les transports ou encore le commerce de détail.

Les géants du numérique misent tout sur l'IA. Les agences gouvernementales investissent des milliards. Dans les conseils d'administration et les groupes dirigeants, les voix en faveur de considérations éthiques dans le cadre de l'utilisation de l'IA commencent à se faire entendre.

Une question fondamentale se pose : l'IA peut-elle prendre des décisions qui affectent nos vies, de manière juste, et devons-nous lui faire confiance ?

Classée parmi les 50 influenceurs à suivre sur Twitter par Cognilytica, Joanna Bryson s'est récemment entretenue avec Appian, pour nous éclairer sur la complexité de l'IA sur le plan éthique :

• • Conséquences des biais de l'IA dans l'entreprise et dans la société
  • Comment éliminer les biais de l'IA ?
  • Ignorer les devoirs de diligence raisonnable dans le domaine du développement logiciel : un réel danger
  • Pourquoi aucune réglementation n'est mise en place pour éliminer l'ingrédient secret (l'apprentissage profond) des innovations en matière d'IA ?
  • L'importance de comprendre la vérité et les conséquences de l'IA

Vérité ou conséquences

Joanna Bryson nous met en garde contre une approche « rapide et dommageable » visant à populariser l'IA. Elle s'inquiète aussi du peu de diligence dont nous faisons preuve dans le cadre des processus de développement logiciel. Preuve à l'appui : dans l'Idaho, l'IA utilisée dans un système automatisé a soudainement supprimé les allocations d'invalidité de milliers de personnes.

Le système s'est appuyé sur des données incorrectes et sur une formule viciée qui a déterminé de manière arbitraire la répartition des allocations.

Aux dernières nouvelles, les responsables impliqués refusaient de révéler la méthode de travail de l'IA (sous couvert de la propriété intellectuelle).

Le manque de transparence a provoqué la colère des citoyens. Un recours collectif a été déposé et la Cour de justice a tranché en faveur des dépositaires, en forçant les responsables de l'agence à remanier le système défaillant.

https://twitter.com/j2bryson/status/1036347036310953986

L'importance de la transparence

La situation est complexe. L'IA touche presque tous les aspects de notre vie.

Chaque jour, les systèmes intelligents prennent des milliards de décisions.

Ils sont partout et décident de tout : qui peut se laver les mains avec un distributeur de savon, qui peut obtenir sa liberté conditionnelle, qui peut obtenir un prêt, qui est embauché, qui est licencié, et bien plus.

Selon Joanna Bryson, nous devons impérativement comprendre comment l'IA prend ces décisions, comment elle décide des informations à nous communiquer et de celles à masquer, et qui est responsable en cas de problème ?

Rejoignez-nous la semaine prochaine pour découvrir la première partie de notre entretien passionnant avec Joanna Bryson, influenceuse spécialiste de l'IA, personnalité reconnue.

Elle vous ouvrira les yeux sur l'importance de l'éthique dans le domaine de l'IA.