Technologie im öffentlichen Interesse: Schließung der Risikolücke bei Innovationen, Teil 1

Roland Alston, Thought Leadership Program Leader
August 12, 2021

Es steht außer Frage, dass die Vorteile der Hyperautomatisierung potenziell grenzenlos sind und nahezu unendlich viele Möglichkeiten zur Optimierung der Effizienz, zur Kosteneinsparung und zum Erreichen von Wettbewerbsvorteilen bieten.

Die Herausforderung besteht jedoch darin, mögliche ethische Risiken und unbeabsichtigte Folgen der Verbreitung der Automatisierung zu minimieren, wenn fast zwei Drittel (65 %) der Führungskräfte nicht erklären können, wie bestimmte Entscheidungen oder Vorhersagen mithilfe von künstlicher Intelligenz (KI) getroffen werden, und 73 % Schwierigkeiten haben, die notwendige Unterstützung auf der Führungsebene für die Priorisierung der KI-Ethik zu erhalten. Dies geht aus einer aktuellen Studie des globalen Analyseunternehmens FICO hervor.

Die Schließung dieser Risikolücke ist dringender denn je, da Unternehmen überall darum ringen, die Vorteile von KI, Automatisierung und einer breiten Palette anderer Technologien zu nutzen, um eine Vielzahl von Geschäftsproblemen zu lösen – von der Verwaltung der IT-Infrastruktur über die Verbesserung des Kundenerlebnisses, den Schutz vor Cyber-Bedrohungen und medizinische Entscheidungen bis hin zur Umwandlung von Homeoffice in einen Wettbewerbsvorteil.

Eine neue Innovationsbewegung

Um Technologien optimal zu nutzen, reicht es nicht aus, sie lediglich zu bauen. Besser ist es, so argumentiert eine wachsende Bewegung von Technologen für das öffentliche Interesse, einen menschenorientierten Innovationsansatz mit Geschäftsstrategien zu verfolgen, die in die Forschung, Bildung und Bereitstellung von Technologien zum Schutz und Nutzen der Gesellschaft investieren.

Damit wird etwas sehr Wichtiges angesprochen: die Notwendigkeit, schlecht konzipierte Anwendungsfälle zu minimieren, die das Vertrauen der Verbraucher beeinträchtigen und den Ruf nach einer Regulierung der Technologie verstärken.

„Unternehmen, die bewusst das öffentliche Interesse in ihre Technologien einbeziehen, sehen zunehmend einen echten Mehrwert sowohl in Bezug auf ihre Gewinne als auch in Bezug auf das Vertrauen, das sie bei den wichtigen Gemeinschaften schaffen, mit denen sie zusammenarbeiten, für die sie sich einsetzen und mit denen sie durch Geschäftsbeziehungen in Kontakt treten,“ sagt Michelle Shevin, eine führende Stimme in der PIT-Bewegung (Public Interest Technology) und Senior Program Manager des PIT Catalyst Fund bei der Ford Foundation.

„Wir sind der Meinung, dass die Technologie für das öffentliche Interesse für ein langfristiges Ökosystem zum Aufbau von Verantwortlichkeit und Vertrauen in den verschiedenen Gruppen und Kundenbeziehungen von zentraler Bedeutung ist,“ so Shevin. „Wir glauben, dass sie für das Unternehmenswachstum eine Schlüsselrolle spielt.“

„Als Führungskraft möchten Sie beispielsweise nicht 20 Schritte in die Entwicklung und den Einsatz von Gesichtserkennungstechnologien unternehmen, die schon bald verboten werden könnten, da niemand daran gedacht hat, Schutzmaßnahmen zu ergreifen, weil niemand wiederum die Gemeinschaften befragt hat, die von dieser Technologie besonders betroffen sein könnten.“

Auch wenn Ihnen bei diesem Gedanken der Sinn danach steht, die Augen zu verdrehen: Untersuchungen zeigen, dass sich digitale Verbraucher weniger Sorgen über Cyberangriffe machen, sondern vielmehr darüber, wie Unternehmen die Technologie und ihre Daten nutzen. Hier sind die Ergebnisse:

Etwa die Hälfte der Verbraucher in den USA (47 %) ist der Meinung, dass die großen Technologieunternehmen stärker als bisher von den Behörden reguliert werden sollten. Und nur 11 % sind der Meinung, dass Technologieunternehmen weniger reguliert werden sollten, wie eine im Jahr 2020 durchgeführte Umfrage des Pew Center ergab.

Mit anderen Worten: Die Menschen sind sich uneins über die erstaunliche Entwicklung der Technologie, die Beschleunigung der digitalen Transformation und die Auswirkungen auf Wirtschaft und Gesellschaft. Aber hier ist die gute Nachricht. Ein menschenorientierter Innovationsansatz kann die Sichtweise der Menschen auf die Technologie verändern – wenn er mit Absicht erfolgt.

Wie würde diese Situation nun aussehen? Schalten Sie diese Woche bei Digital Masters ein, wo uns die PIT-Vordenkerin Michelle Shevin einen Einblick in die PIT-Bewegung gibt und erklärt, wie diese Bewegung das Vertrauen der Öffentlichkeit stärkt, die Einführung von Technologien beschleunigt, die Gleichberechtigung fördert und die Regulierung im Zeitalter der Hyperautomatisierung vorsieht.

Unser Gespräch wurde zur besseren Verständlichkeit gekürzt und bearbeitet.

Appian:

Hallo Michelle, willkommen bei Digital Masters.

Shevin:

Vielen Dank für die Einladung.

Appian:

Heutzutage ist es schwer, über etwas zu sprechen, ohne dabei COVID-19 zu erwähnen. Und ich denke, das gilt ganz besonders, wenn es darum geht, über Technologietrends zu sprechen. Fangen wir also damit an. Wo waren Sie, als die Pandemie ausbrach?

Shevin:

Ich lebte in New York. Aber ich hatte eine Reise geplant, um meine Eltern in Connecticut zu besuchen. Danach bin ich so gut wie nicht mehr in die Stadt zurückgekehrt. Mein Büro wurde geschlossen, zunächst vorübergehend und dann auf unbestimmte Zeit. Und so bin ich seit März 2020 in Connecticut.

Appian:

Wo in Connecticut befinden Sie sich nun?

Shevin:

Ich wohne in einer ländlichen Gegend, die man die ruhige Ecke von Connecticut nennt. Sie ist sehr bewaldet, ruhig und liegt zwischen Providence, Boston und Hartford. Es war ein guter Ort, um den (COVID)-Sturm zu überstehen.

 

Wir brauchen eine neue Art von Technologen

Appian:

Die PIT-Bewegung (Public Interest Technology) scheint an Schwung zu gewinnen. Sie sprachen darüber in einem kürzlich von Ihnen verfassten Fast Company-Artikel. Sie haben grundsätzlich argumentiert, dass wir mehr Technologen brauchen, die die ethischen, rechtlichen und politischen Auswirkungen der von ihnen geschaffenen Technologie berücksichtigen. Sprechen wir darüber und auch über das, was Sie als öffentliches Interesse im Zeichen von PIT verstehen.

Shevin:

Das Recht des öffentlichen Interesses ist ein nützliches Denkmodell, das man im Hinterkopf behalten sollte. In den 1950er und 1960er Jahren gab es einen großen Bedarf an juristischem Fachwissen, das auch die Forderungen der Bürgerrechtsbewegung umfasste, und zu dieser Zeit begannen Geldgeber, in großem Umfang in Rechtsverteidigungsfonds und Institutionen wie die ACLU, in juristische Universitätskliniken und in gemeinnützige Infrastrukturen für private Anwaltskanzleien zu investieren.

Da das Recht des öffentlichen Interesses ein florierendes Feld ist, sagen wir oft, dass es heute schwer vorstellbar ist, dass diese wichtige Infrastruktur für die Verfolgung der Gerechtigkeit absichtlich aufgebaut werden musste, aber das ist der Fall. Und in diesem kontinuierlichen Streben nach Gerechtigkeit sehen wir nun einen großen Moment, um in Technologien für das öffentliche Interesse zu investieren. Dabei geht es zum Teil darum, auf die wachsenden Schäden der Ära des schnellen Handelns zu reagieren, die bisher einen Großteil der digitalen Transformation geprägt hat.

Den Akteuren in der Philanthropie ist also klar geworden, dass wir einen neuen Rahmen brauchen, um sicherzustellen, dass Technologien so entwickelt, eingesetzt, gestaltet, reguliert und genutzt werden, dass die Rechte der Verbraucher geschützt und das Leben der Menschen verbessert werden. PIT soll also dieser neue Rahmen sein. Es handelt sich um ein wachsendes Feld, das sich aus einer anderen Art von Technologen zusammensetzt, die eher interdisziplinär und intersektional sind.

Appian:

Könnten Sie das näher erläutern?

Shevin:

Sie sind vielleicht nicht die klassischen Informatiker, Programmierer oder Entwickler. Sie könnten Journalisten, Künstler, Anwälte und ebenso auch Entwickler und Programmierer sein. Und es ist diese andere Art von Technologen, die wirklich erwartet und fordert, dass Technologien verantwortungsvoll geschaffen und genutzt werden. Sie haben vielleicht schon von den Begriffen „Responsible Tech“, „Ethical Tech“ oder „Tech for Good“ gehört. Nun, PIT passt zu all diesen Begriffen. Es ist eine Art großes Zelt. Es ist eine Bewegung, ein Bereich und ein Zuhause für Technologen, die aufzeigen, wo Technologie bessere Dienstleistungen erbringen und zur Lösung großer Probleme beitragen kann.

Appian:

PIT unterscheidet sich also deutlich von der traditionellen Informatik oder den Datenwissenschaften.

Shevin:

Die Mainstream-Informatik und die Datenwissenschaft erkennen dies zunehmend an, was bisher nicht der Fall war. Im Zentrum des öffentlichen Interesses steht die Erkenntnis, dass historisch marginalisierte Gruppen am häufigsten durch Technologie geschädigt werden. Daten werden durch strukturelle Ungleichheit beeinträchtigt. Die Datenverarbeitung ist nicht immun gegen Machtdynamiken. Technologen im öffentlichen Interesse sind Menschen, die über das Wissen und die Erfahrung verfügen, um Technologien zu entwickeln, die Werte wie Gerechtigkeit und Gleichberechtigung tatsächlich fördern und nicht nur auf die Optimierung des Geschäftsergebnisses, der Gewinnspanne, der Kosteneinsparungen oder der Effizienz ausgerichtet sind. Wie Sie sich vorstellen können, ist PIT ein äußerst vielfältiger Bereich. Es umfasst verschiedene Berufskategorien und ist bewusst vielfältig, was die Hintergründe der Menschen angeht. Und deshalb ist es eine Gruppe, die die öffentlichen Interessen in den USA und im Ausland besser vertritt.

 

Menschen und Technologie – in dieser Reihenfolge

Appian:

Wenn man also von gerechter Technologie spricht, geht es darum, sicherzustellen, dass die von uns entwickelten Technologien den Menschen nicht schaden oder die digitale Kluft noch größer machen, als sie ohnehin schon ist. Aber über die sozialen Auswirkungen hinaus und das Richtige zu tun, was spricht für PIT, und warum sollten sich Führungskräfte dafür interessieren?

Shevin:

Der private Sektor ist ein entscheidender Bestandteil des PIT-Ökosystems und auch ein Ort, an dem es unserer Meinung nach ein enormes Potenzial für die Verstärkung von Verpflichtungen und die Erweiterung unserer Vorstellungen davon gibt, wie Verantwortlichkeit im privaten Sektor aussieht. Und natürlich findet ein Großteil der Technologieentwicklung in der Privatwirtschaft statt, was den Privatsektor zu einem äußerst wichtigen Knotenpunkt macht. Einfach ausgedrückt: Unternehmen, die bei der Einstellung von Talenten, der Herangehensweise an Technologien und der Wartung technischer Systeme die Werte des öffentlichen Interesses in den Mittelpunkt stellen, werden stärkere Produkte und Dienstleistungen entwickeln. Und wenn wir aus der Sicht der (Ford) Foundation darüber nachdenken, welche Infrastruktur aufgebaut und finanziert werden muss, um dieses Ökosystem zu unterstützen, dann handelt es sich um eine Infrastruktur, die speziell innerhalb des privaten Sektors, des öffentlichen Sektors, der akademischen Welt und der Zivilgesellschaft und über deren Grenzen hinweg besteht. Es geht uns also darum, den Fortschritt in diesem Raum und in diesem Bereich zu fördern.

Appian:

Wenn ich also eine Führungskraft bin, die Innovation im Sinne des öffentlichen Interesses vorantreiben will, wie sieht dann das Playbook aus, um das zu erreichen?

Shevin:

Zunächst einmal ist es wichtig zu verstehen, was PIT ist und wie Werte wie Gerechtigkeit, Transparenz und Verantwortlichkeit in einem geschäftlichen Rahmen priorisiert werden. Wir haben anekdotisch und in großem Maßstab gesehen, wie transformativ die Einführung einer PIT-Mentalität für Unternehmen sein kann. Wenn Sie sich Unternehmen wie Twitter ansehen, werden Sie feststellen, dass sie im letzten Jahr immer mehr Technologen für das öffentliche Interesse eingestellt haben.

Wir haben auch gesehen, dass Unternehmen PIT annehmen und einen echten Mehrwert schaffen, nicht nur in Bezug auf den Gewinn, sondern auch in Bezug auf das Vertrauen, das sie bei wichtigen Gemeinschaften, mit denen sie arbeiten, entwickeln. Wir sehen, dass sich diese Unternehmen durch Geschäftsbeziehungen mit den Gemeinschaften engagieren. Für Unternehmen ist dies der Schlüssel zum Aufbau eines Ökosystems und zur Vertrauensbildung in allen Bevölkerungsgruppen und Kundenbeziehungen.

Appian:

Doch Führungskräfte können Begriffen wie Technologie im öffentlichen Interesse skeptisch gegenüberstehen. Sie könnte nämlich als weitere Möglichkeit aufgefasst werden, um zu zeigen, dass mehr Vorschriften im Technologiebereich notwendig sind.

Shevin:

Das ist eine wichtige Unterscheidung, denn Vorschriften sind unvermeidlich und wichtig, haben aber den Ruf, ein Klotz am Bein zu sein, der Innovationen hemmen kann. Aber als ein Bereich und eine Reihe von Ansätzen, die sektorübergreifend arbeiten, um Werte des öffentlichen Interesses wie Gleichheit, Transparenz und Gerechtigkeit in den Mittelpunkt der Art und Weise zu stellen, wie wir Technologie entwickeln und anwenden, ist die Technologie im öffentlichen Interesse für das Wachstum und die Nachhaltigkeit Ihres Unternehmens entscheidend. Wir sprechen also über PIT als eine Möglichkeit, bevorstehende Vorschriften und Normen sowie wichtige Veränderungen im Umfeld der gesetzlichen Hürden und der Compliance frühzeitig zu erkennen.

Michelle Shevin, Senior Program Manager, Ford Foundation

 

(Hier finden Sie schon bald die nächste Folge von Technologie im öffentlichen Interesse: Schließung der Risikolücke bei Innovationen, mit Michelle Shevin von der Ford Foundation).