Face à la montée de l'automatisation intelligente, l'éthique joue un rôle plus important que jamais

<figure class="wp-caption alignleft" id="attachment_34087" style="width: 247px"><img alt="" class="wp-image-34087" height="278" src="https://assets.appian.com/uploads/assets/sites/4/2018/08/Todd-Lohr.jpg" width="247"/><figcaption>Todd Lohr, Directeur, Habilitation et automatisation technologiques, KPMG</figcaption></figure>

Si vous écoutez les bruits qui courent, l'automatisation intelligente file un mauvais coton, les algorithmes biaisés sont partout, et personne ne semble s'en soucier.

Mais il est peut-être encore trop tôt pour déclarer la mort d'une automatisation socialement responsable.

La vérité est que les attentes éthiques augmentent plus rapidement que jamais.  Il s'avère que <a href="http://www.conecomm.com/research-blog/2017-csr-study#download-the-research">76 %</a> des consommateurs affirment qu'ils refuseraient de faire des affaires avec une société si elle se prononçait en faveur de sujets contraires à leurs croyances.

Pour suivre les attentes, rester pertinentes, gagner la confiance des consommateurs, attirer et conserver les employés les plus talentueux, les grandes marques répondent aux appels à l'action sur le plan éthique.

Google, par exemple, a choisi d'adopter un nouveau <a href="https://blog.google/topics/ai/ai-principles/">code de déontologie</a> en ce qui concerne l'intelligence artificielle.

Amazon a choisi de prôner une plus grande gouvernance de la technologie de reconnaissance faciale.

Et Microsoft a <a href="https://blogs.microsoft.com/on-the-issues/2018/07/13/facial-recognition-technology-the-need-for-public-regulation-and-corporate-responsibility/">fait appel au Congrès</a> pour réglementer la façon et les lieux d'utilisation de la technologie intelligente.

En d'autres termes, si l'automatisation intelligente joue un rôle dans votre organisation, il est certainement préférable que vous réfléchissiez aux questions d'éthique.

<blockquote><span style="font-weight: 400">Comment un CXO (responsable de l'expérience client) potentiel multiplie-t-il les appels à l'action sur le plan éthique à une période de croissance exponentielle de l'automatisation intelligente ?</span></blockquote>

<span style="font-weight: 400"> Il peut être utile de demander des conseils à un expert.</span>

Ce qui nous amène à Todd Lohr, Directeur, Habilitation et automatisation technologiques chez KPMG.

Lohr dirige le cabinet de KPMG aux États-Unis pour la question de l'automatisation des processus, à savoir notamment la gestion des processus métier, la robotic process automation et les technologies cognitives.

Appian s'est entretenu avec Lohr pour discuter des considérations éthiques à l'ère de l'automatisation intelligente.

Nous espérons que vous apprécierez cet échange.

<strong>Appian :</strong> Tout le monde parle de la technologie qui se cache derrière l'explosion de l'automatisation intelligente. Mais est-ce que vous vous êtes aussi intéressé à la partie éthique, humaine de l'histoire ?

<strong>Lohr : </strong>

<blockquote>Eh bien, l'un des principaux domaines d'intérêt chez KPMG est le côté humain de la transformation numérique. Et l'un des sujets qui prennent de plus en plus d'ampleur auprès des CXO est l'utilisation éthique de l'IA et de l'automatisation intelligente.</blockquote>

Vous savez, si vous écoutez les bruits qui courent, 50 % de l'effectif est exposé à un risque de perturbation de ses activités à cause de l'automatisation intelligente. La question importante à se poser, c'est : qu'est-ce que cela signifie pour les employés et la société ?

Et en tant que dirigeant, quelles sont vos obligations sociales vis-à-vis de votre effectif face à ces perturbations ?

L'autre domaine dans lequel je me spécialise est la convergence technologique.

https://twitter.com/tjlohr/status/1027265679815131136

<h2>Associer des technologies pour résoudre les gros problèmes</h2>

<strong>Appian :</strong> En plus de l'éthique en matière de technologie, l'un des autres domaines dans lesquels vous êtes spécialisé est la convergence technologique. Pouvez-vous expliquer de quoi il s'agit pour les dirigeants qui ne sont pas dans le domaine technologique ?

<strong>Lohr :</strong>

<blockquote>On ne voit plus d'entreprises avoir recours à une seule technologie pour surmonter un défi commercial. Mais elles se demandent : « Comment combiner plusieurs technologies pour résoudre les problèmes et tirer profit d'opportunités commerciales ? »</blockquote>

Comme Appian avec sa <a href="/platform/low-code/">plate-forme de développement d'applications rapide Low-Code</a>. Elle dispose d'une base à laquelle vous pouvez rattacher des technologies comme <a href="/platform/robotic-process-automation-rpa/">la robotic process automation avec Bue Prism</a> et grâce à laquelle vous pouvez doter Google d'API qui vous permettent de faire de l'apprentissage automatique.

Cette approche vous permet de résoudre des problèmes de plus en plus complexes, utilisant de plus en plus de technologies qui sont conçues simultanément. On voit donc ce type de convergence sur le marché, où l'on commence vraiment à rassembler différents éléments pour fournir des solutions puissantes.

<h2>L’aspect humain de l’automatisation</h2>

<strong>Appian :</strong> À propos de résolution de problèmes complexes, pensez-vous que les CXO seront en mesure de gérer les perturbations pour l'effectif générées par l'automatisation intelligente ?

<strong>Lohr :</strong> J'ai généralement un point de vue plutôt utopiste. Nous parlons beaucoup de l'automatisation et de l'automatisation intelligente, et nous perdons de vue le fait qu'il y aura également une grande augmentation du travail humain.

<strong>Appian :</strong> Que voulez-vous dire par augmentation ? Et quel impact cela aura-t-il sur le travail futur ?

<strong>Lohr :</strong> Vous allez voir que l'automatisation crée de nouvelles manières de travailler, ainsi que de la valeur. Au niveau de l'entreprise, cela se traduit par une transition du travail vers des tâches à plus haute valeur.

https://youtu.be/Cwu8ilN5vSk

<h2>Libérer du temps aux individus pour qu'ils effectuent les tâches à haute valeur</h2>

<strong>Lohr :</strong> Nous avons observé ce phénomène au moment de la révolution industrielle, ainsi qu'avec l'automatisation des usines, et maintenant il concerne le travail intellectuel. L'automatisation n'est pas un phénomène nouveau. Mais elle touche des emplois que, je pense, les individus imaginaient protégés. C'est parce que la plupart d'entre nous avons grandi dans une ère où nous savions que la fabrication serait automatisée, mais pas les emplois de bureau.

<blockquote>Mais cela signifie également que l'automatisation va libérer de la capacité pour des tâches à valeur ajoutée. Les entreprises vont modifier leur modèle économique pour offrir un service clientèle amélioré et plus rapide. Cela va permettre d'avoir une nouvelle vision des canaux de vente et des modèles d'exploitation, ainsi que de la gestion quotidienne des activités.</blockquote>

<h2>Votre effectif a-t-il les compétences pour gagner ?</h2>

<strong>Appian :</strong> Pour les dirigeants, quels sont les grands défis que vont présenter ces perturbations ? Quelles sont les principales questions auxquelles les chefs d'entreprise et responsables informatiques doivent être préparés à répondre ?

<strong>Lohr :</strong> Le défi va être le suivant : lorsque vous examinez votre effectif, disposez-vous de la bonne combinaison de compétences et de talents ?

Dans 5 à 10 ans, lorsque l'automatisation sera profondément enracinée, vos employés disposeront-ils toujours des compétences dont votre entreprise aura besoin ?

<blockquote>Il va falloir que davantage de personnes promeuvent la création et des interactions de personne à personne, mais il faudra également libérer de la capacité pour assurer un service clientèle plus personnalisé auprès des clients individuels. Vous observerez ce type de changements dans de nombreux secteurs à tous les niveaux.</blockquote>

<strong>Appian :</strong> Il n'y aura pas que les tâches des cols bleus classiques qui seront perturbées, mais également celles des travailleurs du savoir en col blanc.

<strong>Lohr :</strong> Oui, déjà il y a 10 ans avec l'externalisation, ce sont les tâches de ce qu'on pourrait appeler les cols blancs, comme l'entrée des données, qui ont été touchées.

Mais l'automatisation intelligente s'intègre assez rapidement et concerne les avocats, les médecins et les consultants.

Moi, c'est ce que je fais.   Je prends beaucoup d'informations, les digère et formule des hypothèses auprès de mes clients. Et c'est tout à fait ce que l'automatisation intelligente peut faire.

Vous observerez donc des perturbations dans tous les secteurs où il existe un travail intellectuel, en particulier dans les secteurs des services.

Selon la sagesse populaire, ce type d'automatisation n'était pertinent que pour la création de produits.

<h2>Êtes-vous prêt à affronter les perturbations au niveau de l'effectif ?</h2>

<strong>Appian:</strong> pensez-vous que les dirigeants accordent une priorité suffisante à la préparation et à l'anticipation des perturbations au sein de l'entreprise? Est-ce en haut de leur liste de priorités?

<strong>Lohr:</strong> Je pense que certains, oui. Mais en général, je dirais que non.

<blockquote>Je pense que, de manière générale, certaines entreprises ne sont pas préparées à l'impact de l'automatisation intelligente.  Je parle en particulier de l'intelligence artificielle, de l'apprentissage automatique et de toutes les technologies émergentes qui vont arriver dans les 5 à 10 prochaines années.</blockquote>

<strong>Appian :</strong> Vous semblez avancer un laps de temps relativement court, qui se compte en années, pas en décennies.

<strong>Lohr :</strong> C'est ce que je dis toujours aux chefs d'entreprise. Cela va se produire durant notre vie professionnelle. Et nous devons nous y préparer.

J'ai l'impression que beaucoup ont comme état d'esprit : « L'IA n'est que de la science-fiction. »  <a href="https://www.appian.com/blog/artificial-intelligence-from-science-fiction-to-alexa/">Cela fait 50 ans que l'on parle de l'IA</a>.

Et si l'on repense aux 20 dernières années, on se dit : « On a soulevé ce sujet il y a plusieurs dizaines d'années, et rien ne s'est réellement produit. »

<h2>Les cinq prochaines années seront très différentes des 20 dernières</h2>

Mais le problème avec cet état d'esprit est que l'IA présente une courbe de croissance exponentielle.

Par conséquent, les cinq prochaines années seront différentes des 20 dernières, car nous sommes au point d'inflexion de la courbe de croissance exponentielle.

Cela signifie que cette technologie va arriver sur le marché bien plus rapidement.

<strong>Appian :</strong> Ce qui me permet d'enchaîner sur le sujet de l'éducation et de la façon dont nous formons les futurs employés. Nos écoles enseignent-elles les bonnes compétences pour les emplois du futur ?

<strong>Lohr :</strong>

<blockquote>Nos écoles forment aux métiers qui existent aujourd'hui et aux métiers d'hier. Elles ne forment pas à l'effectif ou aux emplois de demain. Le plus gros défi à relever est donc la vitesse à laquelle nous pouvons remédier à cette situation.</blockquote>

Je pense que les dirigeants et les décideurs politiques saisissent le concept du phénomène. Mais je ne sais pas s'ils sont préparés à la vitesse à laquelle cela va se produire.

Et je ne sais pas si les individus se rendent compte de l'ampleur de ce phénomène et de l'impact qu'il va avoir sur leurs modèles commerciaux et d'exploitation.

<h2>Les agents conversationnels deviennent à la mode dans l'assistance à la clientèle</h2>

<strong>Appian :</strong> Revenons aux aspects humains de l'automatisation intelligente ; selon vous, quel impact va avoir l'automatisation intelligente sur l'expérience client ? Comment va-t-elle changer la façon dont les entreprises interagissent avec les consommateurs et leurs clients ?

<strong>Lohr :</strong>

<blockquote>L'une des constatations que l'on peut faire aujourd'hui en ce qui concerne les interactions du service clientèle, au moment de la vente comme de l'après-vente, est qu'il y a beaucoup plus d'assistance intelligente et d'automatisation sous la forme d'assistants numériques, comme Alexa et Google.</blockquote>

On voit que les individus commencent à demander des services différemment. Avant, il s'agissait de libre-service. Aujourd'hui, la reconnaissance vocale est adoptée comme la plus naturelle de toutes les interfaces.

<strong>Appian :</strong> Il y a également beaucoup de bruit autour de l'adoption croissante d'agents conversationnels dans le service clientèle.

<strong>Lohr : </strong>Oui, on constate le développement d'agents conversationnels sur ce marché. On observe l'émergence d'un grand nombre de technologies pour assurer l'automatisation.

Ce qui change par rapport à avant, c'est que lorsque les entreprises étudiaient comment générer des bénéfices dans leurs centres d'appels, elles se posaient généralement deux questions : combien ça coûte ?  Et comment déplacer le curseur vers le service clientèle, la fidélisation et la valeur du cycle de vie du client ?

Et généralement, la réduction du coût de cette fonction entraînait une dégradation du service clientèle, n'est-ce pas ? On observe le phénomène inverse aujourd'hui, l'automatisation offrant un niveau de service de qualité et un libre-service plus personnalisé pour bien moins cher qu'avec des agents réels, sans faire patienter les clients pendant 20 minutes.

Cela va changer la conjoncture économique dans ce domaine.

<h2>La démarche de responsabilité sociale vis-à-vis de l'automatisation</h2>

<strong>Appian :</strong> Vous parliez tout à l'heure des considérations éthiques en matière d'automatisation intelligente. J'aimerais en parler du point de vue de la prise de décisions. Quelles directives donneriez-vous aux CXO pour les aider à prendre de meilleures décisions à propos de l'automatisation du travail ?

<strong>Lohr :</strong> Oui, je pense que de nombreuses entreprises ont des lignes directrices et une philosophie sur la manière de prendre des décisions d'entreprise. Ce que j'ignore, c'est comment cela se manifeste sur la manière d'adopter la technologie.

J'ai tendance à considérer l'éthique de la prise de décisions en matière d'automatisation de la même manière que l'impact qu'ont les initiatives « écolos » sur les décisions d'entreprise. C'est dans la même veine.

<strong>Appian :</strong> On dirait bien une démarche de responsabilité d'entreprise.

<strong>Lohr :</strong>

<blockquote>Oui. Les entreprises vont devoir déterminer comment adopter les technologies d'automatisation en se demandant comment elles vont remplacer les employés, les compléter ou bien changer fondamentalement la composition de leur effectif.  Je pense que de nombreuses entreprises vont étudier la responsabilité d'entreprise à cet égard, car des études montrent que les consommateurs veulent traiter et ne traiteront qu'avec des sociétés socialement responsables.</blockquote>

Pensez à tous les réseaux sociaux qui existent aujourd'hui. Imaginez simplement que vous y laissiez des messages indiquant que votre entreprise remplace 10 000 employés par des robots et que ça ait l'effet d'une bombe. Ce type de tollé est une réalité pour de nombreuses organisations, et je pense qu'ils devront y répondre d'une manière socialement responsable.

<h2>Guider les employés à travers le processus numérique</h2>

<strong>Appian :</strong> Selon vous, ce n'est donc pas uniquement la conjoncture économique qui guidera l'automatisation...

<strong>Lohr :</strong>

<blockquote>De nombreux dirigeants m'ont dit qu'ils sentaient avoir la responsabilité, en tant que responsables, d'aider leurs employés à travers le processus de transformation numérique.</blockquote>

Les grandes entreprises vont adopter des programmes visant à former leur effectif. Et elles se posent des questions de type : Comment envisager les talents de mon entreprise d'une autre manière ?

Quelle est ma stratégie pour préparer les employés à de nouvelles catégories d'emplois ? Comment prendre soin des employés qui vont être touchés ?

Je pense qu'il va y avoir de nombreuses conversations de ce type dans les grandes entreprises.

Quand on pense à l'éthique en matière d'IA, il y a donc effectivement cet aspect de responsabilité sociale qui est lié.

<h2>Être conscient du risque en matière de réglementation</h2>

<strong>Appian :</strong> J'ai vu beaucoup de reportages d'actualités à propos du grand pourcentage des tâches que nous effectuons qui pourraient être automatisées avec cette technologie qui existe aujourd'hui. Si cela se produit, qu'est ce que cela signifiera pour les activités et la société en général ?

<strong>Lohr :</strong> D'abord, cela modifierait la composition même de chaque organisation. Cela aurait de grandes répercussions sur notre société dans son ensemble. Et si les entreprises ne commencent pas à essayer de gérer cette question, je pense que les gouvernements commenceront à s'y intéresser, à ralentir le rythme du changement, à codifier, comme c'est le cas avec la réglementation qui est examinée en Europe sur l'automatisation fiscale.

Ce type de réglementation changerait la conjoncture économique et ralentirait le rythme de l'automatisation. Je pense que l'on va beaucoup plus voir ce type de raisonnement aux États-Unis.

<strong>Appian :</strong> Dans le même ordre d'idées, il existe un courant de pensée axé sur les préoccupations éthiques en ce qui concerne le problème de la création de préjugés dans le développement de l'IA et de l'apprentissage automatique. Qu'en pensez-vous ?

<strong>Lohr :  </strong>

<blockquote>Oui, il existe des préoccupations éthiques en ce qui concerne les préjugés en matière d'IA. Par exemple, lorsque nous enseignons l'IA et l'apprentissage automatique, comment maintenir les préjugés en dehors du processus ? On s'inquiète également de la façon dont nous monétisons l'IA et la démocratisons, afin qu'elle ne termine pas dans les mains de quelques personnes uniquement.</blockquote>

Cela fait partie des sujets qui, selon moi, font le plus écho chez les hauts dirigeants d'entreprise actuellement.

Si je suis sur le point d'automatiser de grandes parts de mon effectif, quelles sont les responsabilités que j'ai envers mes employés ?Comment vais-je guider mes talents face à ce phénomène ? Que puis-je faire, en tant que dirigeant, pour accompagner mon entreprise tout au long de ce processus ?

<h2>Briser les mythes autour de l'automatisation</h2>

<strong>Appian :</strong> Lorsque vous discutez avec les CXO, quelles sont les préjugés les plus répandues qu'ils peuvent avoir à propos de l'automatisation intelligente ?

<strong>Lohr :</strong> L'idée fausse la plus répandue est probablement... D'abord, il y a beaucoup de battage à ce sujet sur le marché. Je commencerais par là.

<blockquote>Nous ne considérons pas l'automatisation intelligente comme une simple technologie, mais comme un spectre ou un ensemble infini non dénombrable de technologies, de l'automatisation reposant sur les règles plus basique à la véritable intelligence artificielle.</blockquote>

Et je pense qu'il est plus complexe de déterminer les technologies qui existent actuellement et celles qui émergent.

Par exemple, la <a href="https://www.appian.com/blog/rpa-thing-care/">robotic process automation</a> est très en vogue en ce moment. Et les individus commencent à le comprendre.<strong>Appian :</strong> Qu'est-ce que cela signifie, et quel est le rôle de l'apprentissage automatique dans ce phénomène ? Et quel rôle joue l'IA dans votre stratégie en matière d'automatisation intelligente ?

<strong>Lohr :</strong> Cela va un peu dans le même sens que le concept de spectre. Nous appelons cela l'automatisation intelligente.

Mais il y a de nombreuses technologies sur le marché qui ne sont pas ultra-intelligentes. Pour la plupart, il s'agit d'une automatisation basée sur des règles classique. Elle s'est simplement améliorée ces dernières années.

<h2>Le dilemme du choix des logiciels</h2>

<strong>Appian :</strong> L'un des principaux défis pour les CXO est de passer outre le battage autour de ce phénomène et de sélectionner le bon logiciel. Faire le bon choix pourrait déterminer votre réussite ou votre échec.

<strong>Lohr : </strong>

<blockquote>Il y a des milliers de fournisseurs sur le marché de l'automatisation intelligente. Il en existe tellement aujourd'hui que nous avons créé un algorithme d'apprentissage automatique pour surveiller les sociétés d'apprentissage automatique (rires) sur Internet.</blockquote>

Nous avons donc un indice de la tendance à l'automatisation qui surveille le marché pour nous, car nous ne pouvons pas suivre le rythme et les changements du marché.

Et cela entraîne également des complications, toutes ces technologies différentes et ce qu'elles peuvent faire, ainsi que le changement constant. Par conséquent, dès que vous avez élaboré une stratégie, elle n'est déjà plus pertinente.

<strong>Appian :</strong> Comment gérer cela ? Comment un CXO peut-il déterminer ce à quoi il doit penser et ce qu'il doit faire pour devancer la courbe ?

<strong>Lohr :</strong> Je pense que le gros défi est de comprendre les technologies qui existent aujourd'hui. Ils doivent investir dans ces dernières et les gérer comme portefeuille. En d'autres termes, se dire : « Voilà mon portefeuille de technologies perturbatrices. Et voilà l'impact qu'il va avoir sur mon modèle commercial et d'exploitation.

Voilà ce que je fais au cours de périodes différentes. Voilà ce que je vais faire pour gérer les perturbations à court terme. Et voilà ce que je fais pour les gérer au cours des trois prochaines années. »

<h2>Il est temps de repenser votre guide de l'automatisation</h2>

<strong>Appian :</strong> Nous avons parlé de la nécessité pour les CXO de trouver leur boussole éthique pour investir dans l'automatisation intelligente. Mais vous avez également déjà dit que nous devons procéder à un changement fondamental en ce qui concerne notre manière d'envisager la technologie. Que voulez-vous dire ?

<strong>Lohr :</strong>

<blockquote>Nous quittons un paradigme où les individus créent des technologies pour automatiser le travail pour un autre où les individus créent des technologies qui créent à leur tour des technologies pour automatiser le travail.</blockquote>

Et c'est la valeur transformative d'un changement fondamental de notre manière d'envisager la technologie et l'automatisation.

Aujourd'hui, si vous me disiez « Todd, je veux automatiser ce service. », j'amènerais plusieurs personnes et nous créerions plusieurs systèmes.

Nous configurerions les technologies que nous serions sur le point d'utiliser. Si vous partiez à l'étranger, nous créerions la solution pour automatiser ce transfert.

C'est ainsi que nous voyons les choses aujourd'hui, avec les individus qui créent la technologie pour automatiser le travail.

D'ici deux ou trois ans, j'installerai un logiciel de bureau qui surveillerait tout le monde à son poste de travail.

Avec le temps, il comprendra ce que vous faites. Et il se mettra à vous compléter.

Il dira : « Je pense que vous devez faire cela après. » Et je dirai oui. Et je le formerai. Et six mois plus tard, il sera capable d'automatiser ce travail.

<blockquote>Notre rôle, en tant que technologues, sera donc de créer les technologies. Et le rôle des technologies sera de créer l’automatisation. C'est le changement fondamental qui va déterminer la vitesse de la transformation.</blockquote>

<h2>L'apprentissage automatique : la prochaine grande tendance</h2>

<strong>Appian :</strong> Dernière question. Selon vous, en 2018 et les années suivantes, quelles sont les grandes tendances auxquelles les CXO devront faire attention ?

<strong>Lohr :</strong> L'adoption réelle tend à suivre le "hype cycle" à environ un an d'écart. 2017 a représenté le pic du "hype cycle" pour la robotic process automation.

Et aujourd'hui, nous remarquons que de grandes entreprises adoptent la RPA qui est coordonnée avec les améliorations opérationnelles et la réduction des coûts administratifs.

2018 sera l'année de l'agent conversationnel.

Vous pourrez donc observer, jusqu'à la fin de cette année et en 2019, que de nombreuses entreprises transforment foncièrement leur organisation de service clientèle ou leurs capacités en matière de ventes en étant très axées sur le numérique grâce à Alexa ou Google, ou ce que nous appelons des interactions intelligentes.

<blockquote>Puis, 2020 et 2021 seront les années de l'adoption généralisée de la technologie fondée sur l'apprentissage automatique.</blockquote>

L'apprentissage automatique commencera à trouver sa place à tous les niveaux de votre entreprise.

<h2>Écouter davantage Todd Lohr s'exprimer</h2>

Pour en savoir plus sur comment tirer le plus profit de l'automatisation intelligente, écoutez la conversation passionnante que vous trouverez dans le podcast ci-dessous et à laquelle participent de grands spécialistes :

<ul>

<li>Todd Lohr, Directeur, Habilitation et automatisation technologiques chez KPMG</li>

<li>Neil Ward-Dutton, Directeur de recherche chez MWD Advisors</li>

<li>Anne McClelland, Vice-présidente, Partenariats technologiques mondiaux chez Blue Prism</li>

<li>Malcolm Ross, Vice-président, Marketing produits chez Appian.</li>

</ul>

[podcast id="15597734" text="Introduction to Intelligent Automation - A Strategy Based on RPA, BPM and AI Technologies"]