Technologien im öffentlichen Interesse: Schließung der digitalen Vertrauenslücke

Roland Alston, Product Marketing Manager
November 11, 2021
World Usability Day

 

Die Vorteile der digitalen Transformation sind potenziell grenzenlos. Es gibt nahezu unendlich viele Möglichkeiten, uns mit Technologien zu verbinden, die Effizienz, Kosteneinsparungen und Wettbewerbsvorteile optimieren.

Doch hier liegt die Herausforderung: Wie lassen sich potenzielle ethische Risiken und unbeabsichtigte Folgen der Verbreitung neuer Technologien minimieren, wenn fast zwei Drittel (65 %) der Führungskräfte nicht erklären können, wie bestimmte Entscheidungen oder Vorhersagen mithilfe von künstlicher Intelligenz (KI) getroffen werden, und 73 % Schwierigkeiten haben, die notwendige Unterstützung auf Führungsebene für die Priorisierung der KI-Ethik zu erhalten. Dies geht aus einer aktuellen Studie des globalen Analyseunternehmens FICO hervor.

Genau hier knüpft das aktuelle Thema des diesjährigen World Usability Day an, unter dem Motto „Design of our Online World: Trust, Ethics, and Integrity“. Diese weltweite Veranstaltung findet am 11. November 2021 statt, und Gemeinschaften aus der Technologiebranche, der Industrie, Behörden und anderen Bereichen erforschen Möglichkeiten, den Zugang zur Technologie zu erleichtern und ihre Nutzung zu vereinfachen.

Die COVID-19-Krise hat das ohnehin schon rasante Tempo der digitalen Transformation beschleunigt, die nun praktisch jeden Aspekt unseres Lebens erreicht. Die Herausforderung lautet nun also: 

  • Wie schaffen wir Vertrauen in dem, was das Analystenunternehmen Gartner das Zeitalter der Hyperautomatisierung nennt?
  • Welche ethischen Auswirkungen hat die Art und Weise, wie wir Technologie entwickeln?
  • Wie können wir Barrierefreiheit und Inklusion gewährleisten, damit unsere Technologie für alle zugänglich ist?

Hier kommen Technologien im öffentlichen Interesse (Public Interest Technology, PIT) ins Spiel. Um Technologien optimal zu nutzen, reicht es nicht aus, sie lediglich zu bauen. Besser ist es – so argumentieren führende Stimmen in einer wachsenden Bewegung von Technologen im öffentlichen Interesse –, einen menschenorientierten Innovationsansatz mit Strategien zu verfolgen, die in die Forschung, Bildung und Bereitstellung von Technologien zum Schutz und Nutzen der Gesellschaft investieren. Damit kommen wir zu einem Punkt, der heutzutage sehr wichtig ist: die Eindämmung von schlecht konzipierten Anwendungsfällen, die das Vertrauen der Verbraucher untergraben und den Ruf nach einer Regulierung der Technologie verstärken.

„Unternehmen, die bewusst das öffentliche Interesse in ihre Technologien einbeziehen, sehen zunehmend einen echten Mehrwert sowohl in Bezug auf ihre Gewinne als auch in Bezug auf das Vertrauen, das sie bei den wichtigen Gemeinschaften schaffen, mit denen sie zusammenarbeiten, für die sie sich einsetzen und mit denen sie durch Geschäftsbeziehungen in Kontakt treten,“ sagt Michelle Shevin, eine führende Stimme in der PIT-Bewegung (Public Interest Technology) und Senior Program Manager des PIT Catalyst Fund bei der Ford Foundation.

„Wir sind der Meinung, dass die Technologie für das öffentliche Interesse für ein langfristiges Ökosystem zum Aufbau von Verantwortlichkeit und Vertrauen in den verschiedenen Gruppen und Kundenbeziehungen von zentraler Bedeutung ist,“ so Shevin. „Wir glauben, dass sie für das Unternehmenswachstum eine Schlüsselrolle spielt.“

„Als Führungskraft möchten Sie beispielsweise nicht 20 Schritte in die Entwicklung und den Einsatz von Gesichtserkennungstechnologien unternehmen, die schon bald verboten werden könnten, da niemand daran gedacht hat, Schutzmaßnahmen zu ergreifen, weil niemand wiederum die Gemeinschaften befragt hat, die von dieser Technologie besonders betroffen sein könnten.“

Auch wenn Ihnen bei diesem Gedanken der Sinn danach steht, die Augen zu verdrehen: Eine weltweite Studie von McKinsey zeigt, dass wir die Benutzerfreundlichkeit verbessern können, indem wir die drei Dimensionen innovieren, die den Menschen am wichtigsten sind:

  • Stärkung des Vertrauens in digitale Dienste durch mehr Datenschutz und Sicherheit. Etwa 44 % der befragten Verbraucher haben kein volles Vertrauen in digitale Dienste.
  • Verbesserung des Benutzererlebnisses in digitalen Kanälen durch Optimierung der Benutzeroberflächen (UX/UI). Etwa 56 % der unzufriedenen Benutzer gaben an, dass sie mit der digitalen UX/UI nicht zufrieden sind oder es an Informationen über Produkte und Dienstleistungen mangelt.
  • Verbesserung des Kundenerlebnisses, indem alle Produkte und Dienstleistungen digital zugänglich sind. 43 % der Verbraucher geben an, dass sie aus Gründen der Bequemlichkeit und Verfügbarkeit digitale Angebote bevorzugen.

Mit anderen Worten: Die Menschen sind uneins über die Beschleunigung der digitalen Transformation und darüber, was das alles für die Welt nach COVID bedeutet. Aber hier ist die gute Nachricht. Ein menschenorientierter Ansatz bei der digitalen Innovation kann die Sichtweise der Menschen auf die Technologie verändern – wenn dieser Ansatz mit Absicht erfolgt. Michelle Shevin, Vordenkerin der PIT-Bewegung, erläutert, wie die PIT-Bewegung das öffentliche Vertrauen stärkt, die Einführung von Technologien beschleunigt, die Gleichberechtigung fördert und die Regulierung im Zeitalter der Hyperautomatisierung vorsieht. Die Fragen wurde zur besseren Verständlichkeit gekürzt und bearbeitet.

Wir brauchen eine neue Art von Technologen

Appian:

Die PIT-Bewegung (Public Interest Technology) scheint an Schwung zu gewinnen. Sie sprachen darüber in einem kürzlich von Ihnen verfassten Fast Company-Artikel. Sie haben grundsätzlich argumentiert, dass wir mehr Technologen brauchen, die die ethischen, rechtlichen und politischen Auswirkungen der von ihnen geschaffenen Technologie berücksichtigen. Sprechen wir darüber und auch über das, was Sie als öffentliches Interesse im Zeichen von PIT verstehen.

Shevin:

Das Recht des öffentlichen Interesses ist ein nützliches Denkmodell, das man im Hinterkopf behalten sollte. In den 1950er und 1960er Jahren gab es einen großen Bedarf an juristischem Fachwissen, das auch die Forderungen der Bürgerrechtsbewegung umfasste, und zu dieser Zeit begannen Geldgeber, in großem Umfang in Rechtsverteidigungsfonds und Institutionen wie die ACLU, in juristische Universitätskliniken und in gemeinnützige Infrastrukturen für private Anwaltskanzleien zu investieren.

Da das Recht des öffentlichen Interesses ein florierendes Feld ist, sagen wir oft, dass es heute schwer vorstellbar ist, dass diese wichtige Infrastruktur für die Verfolgung der Gerechtigkeit absichtlich aufgebaut werden musste, aber das ist der Fall. Und in diesem kontinuierlichen Streben nach Gerechtigkeit sehen wir nun einen großen Moment, um in Technologien für das öffentliche Interesse zu investieren. Dabei geht es zum Teil darum, auf die wachsenden Schäden der Ära des schnellen Handelns zu reagieren, die bisher einen Großteil der digitalen Transformation geprägt hat.

Den Akteuren in der Philanthropie ist also klar geworden, dass wir ein neues Framework brauchen, um sicherzustellen, dass Technologien so entwickelt, eingesetzt, gestaltet, reguliert und genutzt werden, dass die Rechte der Verbraucher geschützt und das Leben der Menschen verbessert werden. PIT soll also dieser neue Rahmen sein. Es handelt sich um ein wachsendes Feld, das sich aus einer anderen Art von Technologen zusammensetzt, die eher interdisziplinär und intersektional agieren.

Appian:

Könnten Sie das näher erläutern?

Shevin:

Sie sind vielleicht nicht die klassischen Informatiker, Programmierer oder Entwickler. Sie könnten Journalisten, Künstler, Anwälte und ebenso auch Entwickler und Programmierer sein. Und es ist diese andere Art von Technologen, die wirklich erwartet und fordert, dass Technologien verantwortungsvoll geschaffen und genutzt werden. Sie haben vielleicht schon von den Begriffen „Responsible Tech“, „Ethical Tech“ oder „Tech for Good“ gehört. Nun, PIT passt zu all diesen Begriffen. Es ist eine Art großes Zelt. Es ist eine Bewegung, ein Bereich und ein Zuhause für Technologen, die aufzeigen, wo Technologie bessere Dienstleistungen erbringen und zur Lösung großer Probleme beitragen kann.

Appian:

PIT unterscheidet sich also deutlich von der traditionellen Informatik oder Datenwissenschaft.

Shevin:

Die Mainstream-Informatik und die Datenwissenschaft erkennen dies zunehmend an, was bisher nicht der Fall war. Im Zentrum des öffentlichen Interesses steht die Erkenntnis, dass historisch marginalisierte Gruppen am häufigsten durch Technologie geschädigt werden. Daten werden durch strukturelle Ungleichheit beeinträchtigt. Die Datenverarbeitung ist nicht immun gegen Machtdynamiken. Technologen im öffentlichen Interesse sind Menschen, die über das Wissen und die Erfahrung verfügen, um Technologien zu entwickeln, die Werte wie Gerechtigkeit und Gleichberechtigung tatsächlich fördern und nicht nur auf die Optimierung des Geschäftsergebnisses, der Gewinnspanne, der Kosteneinsparungen oder der Effizienz ausgerichtet sind. Wie Sie sich vorstellen können, ist PIT ein äußerst vielfältiger Bereich. Es umfasst verschiedene Berufskategorien und ist bewusst vielfältig, was die Hintergründe der Menschen angeht. Und deshalb ist es eine Gruppe, die die öffentlichen Interessen in den USA und im Ausland besser vertritt.

Menschen und Technologie – in dieser Reihenfolge

Appian:

Wenn man also von gerechter Technologie spricht, geht es darum, sicherzustellen, dass die von uns entwickelten Technologien den Menschen nicht schaden oder die digitale Kluft noch größer machen, als sie ohnehin schon ist. Aber über die sozialen Auswirkungen hinaus und das Richtige zu tun, was spricht für PIT, und warum sollten sich Führungskräfte dafür interessieren?

Shevin:

Der private Sektor ist ein entscheidender Bestandteil des PIT-Ökosystems und auch ein Ort, an dem es unserer Meinung nach ein enormes Potenzial für die Verstärkung von Verpflichtungen und die Erweiterung unserer Vorstellungen davon gibt, wie Verantwortlichkeit im privaten Sektor aussieht. Und natürlich findet ein Großteil der Technologieentwicklung in der Privatwirtschaft statt, was den Privatsektor zu einem äußerst wichtigen Knotenpunkt macht. Einfach ausgedrückt: Unternehmen, die bei der Einstellung von Talenten, der Herangehensweise an Technologien und der Wartung technischer Systeme die Werte des öffentlichen Interesses in den Mittelpunkt stellen, werden bessere Produkte und Dienstleistungen entwickeln.

Appian:

Wie sieht das Playbook nun für eine Führungskraft aus, die sich für die Verbesserung der Benutzerfreundlichkeit und das Vorantreiben von Innovationen einsetzt und dabei das öffentliche Interesse im Sinn hat?

Shevin:

Zunächst einmal ist es wichtig zu verstehen, was PIT ist und wie Werte wie Gerechtigkeit, Transparenz und Verantwortlichkeit in einem geschäftlichen Rahmen priorisiert werden. Wir haben anekdotisch und in großem Maßstab gesehen, wie transformativ die Einführung einer PIT-Mentalität für Unternehmen sein kann. Wenn Sie sich Unternehmen wie Twitter ansehen, werden Sie feststellen, dass sie im letzten Jahr immer mehr Technologen für das öffentliche Interesse eingestellt haben.

Wir haben auch gesehen, dass Unternehmen PIT annehmen und einen echten Mehrwert schaffen, nicht nur in Bezug auf den Gewinn, sondern auch in Bezug auf das Vertrauen, das sie bei wichtigen Gemeinschaften, mit denen sie arbeiten, entwickeln. Wir sehen, dass sich diese Unternehmen durch Geschäftsbeziehungen mit den Gemeinschaften engagieren. Für Unternehmen ist dies der Schlüssel zum Aufbau eines Ökosystems und zur Vertrauensbildung in allen Bevölkerungsgruppen und Kundenbeziehungen.

Appian:

Doch Führungskräfte können Begriffen wie Technologie im öffentlichen Interesse skeptisch gegenüberstehen. Sie könnte nämlich als weitere Möglichkeit aufgefasst werden, um zu zeigen, dass mehr Vorschriften im Technologiebereich notwendig sind.

Shevin:

Das ist eine wichtige Unterscheidung, denn Vorschriften sind unvermeidlich und wichtig, haben aber den Ruf, ein Klotz am Bein zu sein, der Innovationen hemmen kann. Aber als ein Bereich und eine Reihe von Ansätzen, die sektorenübergreifend arbeiten, um Werte des öffentlichen Interesses wie Gleichheit, Transparenz und Gerechtigkeit in den Mittelpunkt der Art und Weise zu stellen, wie wir Technologie entwickeln und anwenden, sind Technologien im öffentlichen Interesse für das Wachstum und die Nachhaltigkeit Ihres Unternehmens entscheidend.

Wir sprechen also über PIT als eine Möglichkeit, bevorstehende Vorschriften und Normen sowie wichtige Veränderungen im Umfeld der gesetzlichen Hürden und der Compliance frühzeitig zu erkennen.

Manchmal ist es in Ordnung, bei der Innovation auf die Bremse zu treten

Appian:

Sie haben gesagt, dass eine der Aufgaben von Technologen des öffentlichen Interesses darin besteht, uns bei der Entwicklung und dem Einsatz von Technologien zu helfen, die verstärkt auf den Menschen ausgerichtet sind. Was haben Sie damit gemeint?

Shevin:

Ja, wenn alle von der nächsten großen Innovation begeistert sind, ermutigt uns PIT manchmal dazu, auf die Bremse zu treten und genauer zu untersuchen, wie technologische Trends marginalisierten Gemeinschaften schaden und wie wir dies verhindern können.

Ich habe eine kürzlich durchgeführte Umfrage von FICO gelesen, aus der hervorging, dass viele Führungskräfte nur unzureichend in der Lage sind, die ethischen Auswirkungen der Nutzung von KI-Systemen zu berücksichtigen. Auf die Frage nach den Standards und Prozessen zur Regelung der KI-Nutzung gaben beispielsweise nur 38 % der Befragten an, dass ihre Unternehmen Maßnahmen zur Erkennung und Eindämmung von Datenverzerrungen eingeführt haben. Und nur 6 % gaben an, dass sie versuchen, sicherzustellen, dass ihre Entwicklungsteams divers sind.

Das ist also eine wirklich enttäuschende Momentaufnahme dessen, wo wir stehen, wenn es um IT-Governance und natürlich um die Governance der Hyperautomatisierung geht. Wir haben immer wieder gesehen, wie algorithmische Voreingenommenheit bereits tatsächliche Schäden für marginalisierte Gesellschaftsgruppen verursacht hat. Wir haben falsche Verhaftungen erlebt, verstärkte Überwachung, zunehmende Marginalisierung von Menschen, die keinen Zugang zu Systemen haben, die von ihnen verlangen, dass sie maschinenlesbar oder sichtbar für KI-Systeme sind. Hier kommt also die Technologie im öffentlichen Interesse ins Spiel.

Appian: 

Ganz pragmatisch gesprochen: Was raten Sie Unternehmen, die Vertrauen, Diversität, Gleichberechtigung und Inklusion als Teil ihrer digitalen Transformationsstrategie priorisieren möchten?

Shevin:

Mein pragmatischer Rat ist, die Folgen der von Ihnen entwickelten Technologie zu berücksichtigen und sicherzustellen, dass die Technologie so entwickelt und eingesetzt wird, dass marginalisierte Gemeinschaften nicht benachteiligt werden. Überlegen Sie, Rahmenbedingungen einzuführen und zu integrieren, die das Vertrauen und die Verantwortlichkeit in den Mittelpunkt stellen, so wie wir Kosteneinsparungen, Effizienz, Gewinn und Geschwindigkeit priorisieren.

PS: (Dieser Blog wurde ursprünglich auf Appian.com hier veröffentlicht).