Technologie im öffentlichen Interesse: Schließung der Risikolücke bei Innovationen, Teil​ 2

Roland Alston, Product Marketing Manager
August 19, 2021

In Ihrem Umfeld sehen Sie die Vorteile der Hyperautomatisierung bereits überall, denn sie skaliert Geschäftsprozesse schneller als ein Beschleunigungsalgorithmus, sorgt für eine nahtlose Kundeninteraktion und treibt die Unternehmenstransformation von A bis Z voran.

Langfristig wird dieser Trend wahrscheinlich eine neue Generation von Arbeitsplätzen schaffen. Kurzfristig kann er jedoch auch Ängste bei den Arbeitnehmern schüren, die in der Zeit des Hyperautomatisierungsbooms nach COVID den Verlust ihres Arbeitsplatzes befürchten. Um diese Ängste zu relativieren:

  • Untersuchungen zeigen, dass 43 % der Unternehmen planen, ihren Personalbestand durch die Integration von Technologien zu verringern. Aber 34 % planen aus demselben Grund eine Ausweitung der Arbeitsplätze, so das Weltwirtschaftsforum.
  • Laut Gartner werden bis 2022 65 % der Unternehmen, die eine robotergesteuerte Prozessautomatisierung einsetzen, Algorithmen für künstliche Intelligenz, maschinelles Lernen und natürliche Sprachverarbeitung einführen.

Wie können Unternehmen also die Angst vor der Automatisierung abbauen? Und wenn sie das können, wie können Führungskräfte sicherstellen, dass der Nettonutzen der Hyperautomatisierung im Laufe der Zeit den kurzfristigen Schmerz überwiegt? Das bringt uns zur letzten Folge dieses zweiteiligen Gesprächs mit Michelle Shevin, Senior Program Manager, Technology and Society bei der Ford Foundation (@michebox).

Die erstaunliche Entwicklung der Hyperautomatisierung auf die leichte Schulter zu nehmen, wäre so, als würde man am Steuer eines selbstfahrenden Autos einschlafen, sagt Shevin. Man sollte sich der Automatisierung widmen, ohne die menschliche Note zu verlieren, Menschen und Maschinen integrieren, sodass sie sich gegenseitig ergänzen, und Technologien im öffentlichen Interesse (Public Interest Technology, PIT) einsetzen, um das Chaos von fehlgeleiteten Algorithmen zu entschärfen, sich gegen Überregulierung zu wappnen und digitale Gerechtigkeit und Inklusion im Zeitalter der Hyperautomatisierung zu fördern. Genug gesagt. Lassen Sie uns dieses aktuelle Gespräch mit der PIT-Vordenkerin Michelle Shevin zu Ende führen.

Appian:

Sie haben über PIT als eine Denkweise gesprochen, die Führungskräften dabei helfen kann, künftige Compliance- und Regulierungsfragen im Zusammenhang mit der menschlichen Seite der Technologie zu antizipieren, also Themen wie digitale Gerechtigkeit, Integration und Transparenz. Könnten Sie das näher erläutern?

Shevin:

Im Grunde genommen ist Technologie im öffentlichen Interesse eine Möglichkeit, sich gegen unbeabsichtigte Folgen der Technologie, die sich nicht bewährt hat, oder gegen gesellschaftliche Konsequenzen, an die niemand jemals gedacht hat, zu wappnen. Wir glauben also, dass PIT zu einem stärkeren Unternehmen führt. Und das gilt nicht nur für Ihre Produktentwicklungsteams, sondern auch für Ihre Strategie- und Ihre Rechtsabteilungen. Und es wird zu einer Art Bindegewebe für das gesamte Unternehmen ...

„... Denn bei PIT geht es nicht nur darum, wie wir die Technologie heute gestalten und wie wir die Technologie, die wir gestern entwickelt haben, anpassen. Es geht auch darum, in die Zukunft zu blicken und sich auf die kommenden Herausforderungen vorzubereiten und diese ebenfalls zu antizipieren.“

Zu PIT und der COVID-Krise

Appian:

Apropos Herausforderungen: Wir haben immer noch mit den Nachwehen der COVID-Krise zu kämpfen. Wir sind also noch nicht ganz über den Berg. Wie Sie wissen, hat COVID einen massiven Wandel für Unternehmen verursacht. Aufgrund dieser Veränderungen, darunter auch der zunehmende Einsatz des Homeoffice, müssen Unternehmen flexibler sein. Wenn Sie also über die Auswirkungen von COVID nachdenken, wie hat die Pandemie die Wahrnehmung von PIT durch die Unternehmen beeinflusst?

Shevin:

Die wirklich kurze Antwort ist, dass COVID den Business Case für PIT bewiesen hat. Es hat die Bemühungen um eine Beschleunigung und Verstärkung der Dynamik in diesem Bereich vorangetrieben. Die längere Antwort lautet, dass die Reaktion der Unternehmen auf COVID zeigt, warum wir die Infrastruktur in diesem Bereich noch ausbauen müssen. Aber in den Bereichen, in denen wir eine Dynamik für PIT sehen, bietet sie bereits einen Mehrwert.

Appian:

Können Sie dafür einige Beispiele nennen?

Shevin:

Im öffentlichen Dienst haben wir gesehen, warum PIT für die Einführung von Impfstoffen relevant ist. Zu Beginn der Einführung fehlte den Städten und Bundesstaaten der USA die digitale Infrastruktur für eine schnelle, einfache und effiziente Registrierung von Impfterminen. Dies war eine Frage der Gerechtigkeit und nicht nur des Zugangs.

Ich denke, dass das Fehlen einer starken, sektorübergreifenden Reaktion, die die Macht der Technologie mobilisieren und ihre Schäden begrenzen könnte, unsere Maßnahmen gegen COVID-19 letztendlich behindert hat. Andererseits haben wir gesehen, wie Technologen im Bereich des öffentlichen Interesses im Zusammenhang mit der Pandemie etwas bewirken konnten, indem sie auf freiwilliger Basis hochqualifizierte Technologenteams entsandten, um Beamte in staatlichen und lokalen Behörden bei der Bekämpfung des Coronavirus zu unterstützen.

Die Counties konnten ihr digitales Angebot als Reaktion auf den massiv gestiegenen Datenverkehr auf ihren Websites verbessern. Und die Städte konnten Programme online stellen, um beispielsweise Menschen, die ans Haus gebunden sind, zu helfen, Mahlzeiten zu bekommen.

„Es war unglaublich zu sehen, wie eine PIT-Initiative sehr schnell zustande kam und eine unglaubliche Wirkung hatte, was den Zugang der Öffentlichkeit zu Dingen wie wichtigen Arbeitslosenunterstützungen und anderen Sicherheitsnetzen betrifft, und den Staaten und Ortschaften half, den besten Ansatz für die Einführung von Impfstoffen zu finden.

Appian:

Aber das sind doch keine langfristigen Lösungen, oder? Es sind im Grunde alles Freiwillige.

Shevin:

Es sind viele Freiwillige, die einspringen, um Lücken zu füllen. Aber es ist ein großartiges Beispiel dafür, wie die Einbeziehung dieses PIT-Rahmens in den Vordergrund und das Nachdenken über die Entwicklung von Technologien, bei denen Gerechtigkeit und Verantwortlichkeit im Vordergrund stehen, wirklich einen enormen Unterschied machen können.

Ausbildung künftiger Technologen

Appian:

Lassen Sie uns einen anderen Gang einlegen und über einen Artikel sprechen, den Sie kürzlich in der Zeitschrift Fast Company veröffentlicht haben und in dem Sie über das sogenannte PIT-Universitätsnetzwerk (PIT-UN) berichten. Was ist das und wie hängt es mit der PIT-Arbeit zusammen, die Sie bei der Ford Foundation leiten?

Shevin:

Es handelt sich dabei um eine spezielle Infrastruktur, die wir (Ford Foundation) zusammen mit mehreren unserer anderen Geldgeber mit aufgebaut haben. Das PIT-Universitätsnetzwerk wird von New America geleitet und ist eine Partnerschaft von Hochschulen und Universitäten, die sich speziell für die Ausbildung der nächsten Generation von Technologen im öffentlichen Interesse einsetzen. Sie stellen also sicher, dass ihre Informatik- und Datenwissenschaftsstudenten auf ihrem Weg als Technologen in der Ausbildung mit Ethik, Recht und Politik in Berührung kommen.

Appian:

Diese Schulen bilden also eine neue Kohorte von Technologen im öffentlichen Interesse mit interdisziplinärer Ausbildung aus.

Shevin:

Ja, mittlerweile gibt es 43 verschiedene Hochschuleinrichtungen im PIT-UN-Netz. Sie umfassen staatliche Schulen, polytechnische Institute, Community Colleges, die Ivy League und mehr. Und das ist es, was ich an dem Universitätsnetzwerk wirklich liebe.

Das Netzwerk umfasst eine Reihe von Universitäten, die traditionell viele Absolventen in die Technologiebranche schicken, wie Stanford und Harvard, aber es gibt auch ausdrückliche Bemühungen, Hochschulen wie das Miami Dade College und die Howard University sowie andere Schulen einzubeziehen, die einen großen Anteil von Studierenden aus historisch marginalisierten Gesellschaftsgruppen haben.

Appian:

Geht es also nur um den Versuch, das Richtige zu tun? Welche Bedeutung hat die Einbeziehung von Studierenden aus marginalisierten Gemeinschaftsgruppen in die PIT-Bewegung?

Shevin:

Das ist wichtig, denn wir wissen, dass die Einbeziehung der Erfahrungen von Studierenden unterschiedlicher Fachrichtungen den Bereich PIT und das Universitätsnetzwerk selbst wesentlich stärken wird. Das sind die Studierenden, die in diesem Bereich als Führungskräfte tätig werden. Es ist also wirklich sehr aufregend, das zu sehen.

„Und das interdisziplinäre Wissen, das durch das PIT-Universitätsnetzwerk generiert wird, ermöglicht es den Studierenden innerhalb der Netzwerkinstitutionen, die Herausforderungen besser zu verstehen, die die Technologie entweder verschlimmern oder uns bei der Lösung helfen kann.“


Appian:

Wie reagieren Führungskräfte auf den PIT-Trend? Und welche Auswirkungen wird die Bewegung Ihrer Meinung nach auf die Zukunft der digitalen Transformation haben?

Shevin:

Ich denke, dass die Tech-Riesen und andere Unternehmen weiterhin eine wachsende Zahl von Technologen einstellen werden, die sich mit Fragen wie Bürgerrechten, Datenschutz, Sicherheit und Governance auskennen. Und wenn diese Unternehmen Produkte und Dienstleistungen entwickeln, werden wir mehr Vorteile und weniger Nachteile erleben, was insgesamt zu viel stärkeren Technologien und Unternehmen führt.

Ein guter Ansatz für die Automatisierung: Keinen Schaden anrichten

Appian:

Sprechen wir abschließend über PIT und die Zukunft der Unternehmensautomatisierung. Die Hyperautomatisierung bestimmt einen Großteil der Diskussion um die Unternehmensautomatisierung. Welche Rolle spielt PIT Ihrer Meinung nach bei der Entwicklung der Hyperautomatisierung?

Shevin:

Hyperautomatisierung hat viel damit zu tun, wie KI und andere Tools zur Automatisierung und Skalierung von Geschäftsprozessen eingesetzt werden. Technologen des öffentlichen Interesses konzentrieren sich also darauf, Unternehmen dabei zu helfen, KI und Automatisierung verantwortungsvoll zu nutzen. So werden immer mehr Dinge wie die Erkennung von Emotionen oder Technologien zur Vorhersage komplexer Dinge über das Leben oder Verhalten von Menschen bekannt. Wir sehen auch die Automatisierung des Einstellungsprozesses mit KI, die zur Analyse von Videointerviews eingesetzt wird.

Appian:

Was halten Sie also von diesen Trends aus der Sicht eines Technologen des öffentlichen Interesses?

Shevin:

Viele dieser Anwendungsfälle sind noch im Bereich der Science-Fiction angesiedelt, und das aus gutem Grund. Sie sind wissenschaftlich nicht fundiert, aber sie werden trotzdem umgesetzt, nicht? Technologen, die im Bereich des öffentlichen Interesses tätig sind, können den Marketing-Hype gut durchschauen und helfen dabei, uns darauf zu konzentrieren, was die Technologie tatsächlich leisten und welche Auswirkungen sie haben kann, wenn sie unangemessen eingesetzt wird oder wenn sie etwas zu leisten verspricht, was sie in Wirklichkeit nicht leisten kann, und dann eingesetzt wird – und dabei werden natürlich Menschen geschädigt.

Manchmal ist es in Ordnung, bei der Innovation auf die Bremse zu treten

Appian:

Bleiben wir noch einen Moment bei der menschlichen Seite der Automatisierung. Sie haben gesagt, dass eine der Aufgaben von Technologen des öffentlichen Interesses darin besteht, uns bei der Entwicklung und dem Einsatz von Technologien zu helfen, die verstärkt auf den Menschen ausgerichtet sind. Was haben Sie damit gemeint?

Shevin:

Ja, wenn alle von der nächsten großen Innovation begeistert sind, ermutigt uns PIT manchmal dazu, auf die Bremse zu treten und genauer zu untersuchen, wie technologische Trends marginalisierten Gemeinschaften schaden können und wie wir dies verhindern können.

Ich habe eine kürzlich durchgeführte Umfrage von FICO gelesen, aus der hervorging, dass viele Führungskräfte nur unzureichend in der Lage sind, die ethischen Auswirkungen der Nutzung von KI-Systemen zu berücksichtigen. Auf die Frage nach den Standards und Prozessen zur Regelung der KI-Nutzung gaben beispielsweise nur 38 % der Befragten an, dass ihre Unternehmen Maßnahmen zur Erkennung und Eindämmung von Datenverzerrungen eingeführt haben. Und nur 6 % gaben an, dass sie versuchen, sicherzustellen, dass ihre Entwicklungsteams divers sind.

Das ist also eine wirklich enttäuschende Momentaufnahme dessen, wo wir stehen, wenn es um IT-Governance und natürlich um die Governance der Hyperautomatisierung geht. Wir haben immer wieder gesehen, wie algorithmische Voreingenommenheit bereits tatsächliche Schäden für marginalisierte Gesellschaftsgruppen verursacht hat. Wir haben falsche Verhaftungen erlebt, verstärkte Überwachung, zunehmende Marginalisierung von Menschen, die keinen Zugang zu Systemen haben, die von ihnen verlangen, dass sie maschinenlesbar oder sichtbar für KI-Systeme sind. Hier kommt also die Technologie im öffentlichen Interesse ins Spiel.

Unternehmen am Scheideweg

Appian:

Wenn Sie einen Blick über den Tellerrand werfen, welche Rolle wird PIT Ihrer Meinung nach in der Zukunft der Wirtschaft spielen?

Shevin:

Strategisch gesehen befindet sich der private Sektor an einem Scheideweg. Wir haben es mit der Verbreitung von Fehlinformationen, Datenschutzproblemen, undichten Stellen und Hacks zu tun. Wir haben eine Art Einseitigkeit bei der künstlichen Intelligenz. Wir haben gesehen, wie das Vertrauen der Öffentlichkeit durch all diese Themen beeinträchtigt wurde. Und das ist besonders für die Technologiebranche relevant. Die Kritik und der Ruf nach Regulierung werden immer lauter. Aber die Behörden sind in der Regel nicht in der Lage, mit den Folgen umzugehen, die wir um uns herum sehen.

„Es ist also ein großer Moment für den privaten Sektor, hier eine Führungsrolle zu übernehmen. Und das liegt zum Teil daran, dass Technologieunternehmen zwar über Spitzenkräfte verfügen, ihnen aber oft die Bereitschaft oder das Fachwissen fehlt, die Nachteile der Technologie zu erkennen und sie bei der Entwicklung von Produkten und Dienstleistungen zu vermeiden.“

Stattdessen haben sie versucht, den Schaden zu beheben, nachdem er bereits eingetreten war. Ich habe vor kurzem dieses Interview mit Satya Nadella von Microsoft gelesen, und er hat einen wichtigen Punkt angesprochen: Führungskräfte müssen sich zuerst um die unbeabsichtigten Nebenwirkungen der Technologie kümmern. Unternehmen riskieren also einen schlechten Ruf und schlechte Vorschriften, wenn sie die Nachteile ihrer Technologie nicht voraussehen.

Appian:

Wie sieht also die praktische Lösung aus? Wie sieht das Playbook für diese Aufgabe aus?

Shevin:

Mein pragmatischer Rat an Führungskräfte lautet daher, Technologen für das öffentliche Interesse einzustellen. Bedenken Sie die Folgen der Technologie, die Sie entwickeln, und bemühen Sie sich, die Technologie so zu entwickeln und zu nutzen, dass marginalisierte Gemeinschaften nicht geschädigt werden. Überlegen Sie, ob Sie nicht Rahmenbedingungen einführen und integrieren sollten, die das Vertrauen und die Verantwortlichkeit in den Mittelpunkt stellen, so wie wir Kosteneinsparungen, Effizienz, Gewinn und Geschwindigkeit in den Vordergrund stellen.

PS: (Wenn Sie mehr über Technologie im öffentlichen Interesse erfahren möchten, lesen Sie den ersten Teil dieses zweiteiligen Beitrags hier.)

 

Michelle Shevin, Senior Program Manager, Ford Foundation