Technische Neuerungen haben Nebeneffekte – in positiver und negativer Hinsicht. Die Diskriminierung von Menschen durch Algorithmen, die wiederum von Menschen gemacht wurden ist eine Entwicklung innerhalb der Digitalisierung, die nicht nur unsere Aufmerksamkeit verlangt, sondern gegen die wir aktiv angehen müssen, schreibt die Politologin und Philosophin Cindy-Ricarda Roberts in diesem Beitrag.
Zu Beginn des letzten Jahrhunderts waren die Straßen voller Pferdeäpfel. Die Menschen hatten buchstäblich die Nase voll von der Verunreinigung durch die Pferde. Dennoch waren die meisten am Anfang ebenso skeptisch gegenüber dem Auto, wobei dessen Entwicklung mitunter positiv aufgrund der “geringeren Verunreinigung” der Umwelt bewertet wurde.
Mit der Digitalisierung verhält es sich wohl ähnlich. Von den neuesten Wearables wie Smartwatches bis zum intelligenten Haus, scheint sich die Welt zunehmend einem digitalen Wandlungsprozess zu unterziehen. Während vor 20 Jahren die gängigsten Kommunikationsformen noch das Telefon sowie Briefe darstellten, lässt sich die Welt heute nicht mehr ohne Smartphones, dem Internet und all den digitalen Anwendungsmöglichkeiten denken. Waren Handys im Jahr 2000 noch nicht einmal in der Lage, Bilder zu verschicken, wird mit dem Smartphone heute virtuell face-to-face telefoniert, werden E-Mails von unterwegs geschrieben, Filme im Zug angesehen oder die Bankgeschäfte im Wartezimmer des Arztes getätigt. Das Smartphone ist dabei aber nur eine von diversen smarten Anwendungen. Durch die Wearables, Smartphones, und zunehmend auch Smart Homes entstehen so unentwegt neue Informationen über deren Nutzer. Seien es Bewegungsmuster durch Navigationssysteme, das Lese- oder Kaufverhalten auf Online-Seiten oder Daten über die häuslichen Gewohnheiten durch Smart Homes. Ständig produzieren Smart-Applikationen Daten über uns. Zugleich basieren diese wiederum auf Daten, mit denen sie trainiert wurden oder die sie empfangen, um ihre Dienstleistung zu gewährleisten bzw. zu verbessern. Die Benutzung einer gängigen Navigations-App zeigt das bereits anschaulich, wenn dort in Echtzeit Staus oder Wetterdaten abgerufen werden können, die mitunter wiederum auf den Informationen anderer Nutzer basieren.
Mit steigender Datenmenge steigt auch die Diskriminierung
Um diese Masse an Daten (Big Data) zu verarbeiten, dienen den Menschen längst intelligente Systeme, das heißt algorithmische bzw. Maschine-Learning Systeme, die letztlich auch in Anwendungen Künstlicher Intelligenz (KI) münden. Der Algorithmus hinter der Google-Suchmaschine ist beispielsweise eine solche Anwendung. Die Digitalisierung bringt deshalb sowohl Vor- als auch Nachteile mit sich. Denn welcher Mensch könnte eine solche Menge an Daten heute schon in der Zeit verarbeiten? Es ist daher gewissermaßen notwendig, die entsprechenden Tools und Anwendungsmöglichkeiten zu nutzen, die einen Umgang mit einer solchen Masse an Daten auch sinnvoll möglich machen. Digitalisierung und intelligente Systeme können den Menschen auf verschiedene Weise helfen. Ältere Menschen könnten beispielsweise von der Smart House Technologie profitieren, indem ihnen zusätzliche Unterstützung durch smarte Anwendungen geboten würde. Ein Beispiel wäre die automatische Meldung durch einen Sensor, wenn die Haustür versehentlich nicht geschlossen, die Jalousien nicht hochgefahren oder der Herd nicht ausgeschaltet wurde. Auch das Einkaufen von zu Hause aus ist heute zunehmend kein Problem. Sich in einer fremden Stadt zurechtfinden, dank online Diensten machbar.
Gleichzeitig nimmt mit der zunehmenden Masse an Daten und einem anwachsenden Einsatz algorithmischer Systeme auch das Potenzial zu, dass sich bestimmte unbewusste Wertungen und Interpretationen bei der Implementierung von Algorithmen in Softwares “einschleichen”, die zu unerwünschten Ergebnissen führen. So diskriminierte etwa Amazon aufgrund eines Algorithmus bei der Auswahl potenzieller Bewerberinnen und Bewerber alle Personen, die nicht männlich waren. Der Grund hierfür lag in den Daten, mit denen die “intelligente” Software trainiert wurde, sodass offengelegt werden konnte, dass zuvor wohl vorwiegend Männer bei der Besetzung von Stellen bevorzugt wurden. Dies führte letztlich dazu, dass Amazon seinen Algorithmus bzw. dessen Trainingsdatensatz verbesserte und den Fehler behob.
Ein weiteres, ähnliches Beispiel lieferte kürzlich Instagram. Während Social-Media-Kanäle grundsätzlich eine sinnvolle Möglichkeit darstellen, Bilder und Inhalte mit Freunden und Followern zu teilen, oder mit Personen in Kontakt zu bleiben, ist es ethisch hingegen durchaus kritisch zu betrachten, wie viele und welche Art von Informationen insgesamt über uns und von uns generiert werden. Die australische Comedian Celeste Barber zum Beispiel hat mit Witz und Charme ein Foto des Modells Candice Swanepoel nachgestellt und auf Instagram geteilt. Während das Modell auf ihrem geposteten Foto sogar noch weniger Bekleidung zeigte und es das Ziel von Barber war, weibliche Schönheitsideale in Frage zu stellen, wurde das Foto der Comedian sofort durch den Algorithmus von Instagram gelöscht. Als Grund hierfür wurde später seitens Instagram deklariert, dass es ein Fehler des Algorithmus gewesen sei, woraufhin sich Instagram bei Barber entschuldigte. Fakt ist allerdings, dass so etwas auch weniger bekannten Persönlichkeiten passiert. Der Algorithmus von Instagram folgt dabei dem Nutzerverhalten, also dem, was die Nutzer melden oder als positiv durch einen Like markieren. Die Software versucht dabei das, was beispielsweise als „schön“ deklariert wird oder die Nutzer als unangebracht melden, als Muster zu erkennen, zu erlernen und anzuwenden. Derartige unbewusste Wertungen (“Biase”), die wie im obigen Beispiel auch zu illegitimer Diskriminierung führen können, stellen so letztlich nur einen Spiegel gesellschaftlicher Gegebenheiten dar. Nichtsdestoweniger ist die Diskriminierung durch Algorithmen ein reales Risiko, welches strukturell durch den zunehmenden Gebrauch algorithmischer Systeme in Softwareanwendungen erhöht wird.
Digitale Entwicklungen haben eine politische Dimension
Die Anwendung solcher Programme, kann aber auch die soziale Sicherheit erhöhen. Sowohl die Ermittlungsarbeit seitens der Polizei als auch die schlichte Anwesenheit von Kameras auf öffentlichen Plätzen, verringert die Kriminalität und kann helfen, diese zu bekämpfen. In China sind derzeit 200 Millionen Kameras im öffentlichen Raum installiert. Dies kann einerseits mehr Sicherheit bedeuten, anderseits geht das auch mit einem zunehmenden Grad an Überwachung einher. Mit Besorgnis wird weltweit das Punkte-System in China beobachtet. Dieses belohnt soziales Verhalten wie etwa einen Besuch bei Verwandten wie der Großmutter, und sanktioniert zugleich unerwünschtes Verhalten. So wurde chinesischen Bürgern mit negativem Scoring schon das Recht auf Reisefreiheit verwehrt.
Gerade im Bereich der Medien zeigt sich spätestens eine gewisse Herausforderung in Bezug auf die politische Dimension digitaler Entwicklungen. Medien lassen uns wissen, was in Hongkong geschieht, oder wie sich Waldbrände in Kalifornien entwickeln. Medien geben uns in weiten Teilen die Information über unsere Umwelt. Soziale Medien haben sich dabei als Stütze für Proteste erwiesen, wie die Geschehnisse des Arabischen Frühlings, Proteste in der Türkei oder in Belarus gezeigt haben. Die massenhafte Verbreitung von Falschnachrichten, oder der Cambridge Analytica Skandal verdeutlichen jedoch auch das kritische Potenzial digitaler Medien. Der Fall des britischen Datenanalyse-Unternehmens Cambridge Analytica, das unentschlossene Wählergruppen gezielt mit bestimmten Informationen versorgte, um deren Wahlverhalten zu beeinflussen, zeigte die Datenmacht sowie die Machtstellung der großen non-europäischen Tech-Konzerne überdeutlich.
Schließlich sollten wir heute aber zur Kenntnis nehmen, dass die Digitalisierung so unaufhaltsam ist wie die Entwicklung vom Pferdefuhrwerk zum Automobil. Dabei können über diese genauso wenig ethische Aussagen gemacht werden, wie über das Auto an sich, dessen Nutzung positive wie negative Effekte hat. Was aus der Digitalisierung gemacht wird, sollte nicht alleine den Tech-Unternehmen überlassen werden. Bürgerinnen und Bürger sollten hier mehr Entscheidungsgewalt bekommen und diese auch aktiv wahrnehmen. Rahmenbedingungen durch ethische Richtlinien und gesetzliche Regelungen zu finden und zu schaffen ist gerade im Zeitalter fortschreitender Digitalisierung von grundlegender Bedeutung.
Nach der Verunreinigung durch Pferdemist folgte mit der Erfindung des Automobils die Umweltzerstörung durch Abgase. Technische Entwicklungen bringen sekundäre Effekte mit sich, mit denen sich eine Gesellschaft aktiv auseinandersetzen muss. Was wir mit den “Pferdeäpfeln” der Digitalisierung machen und ob wir die Digitalisierung zu unser aller Vor- oder Nachteil gestalten, liegt an uns.
Cindy-Ricarda Roberts ist assoziierte Mitarbeiterin am Zentrum für Ethik der Medien und der Digitalen Gesellschaft (zem::dg) und wissenschaftliche Mitarbeiterin am Lehrstuhl für Medienethik der Hochschule für Philosophie München.
Hinweis:
Die Autorin ist eine der vier Mentorinnen im Zukunfts-Lab-Team. Darüber hinaus ist sie als Referentin während der Tagung “Digitalethik & Junge politische Philosophie” vom 4. bis 6.12.2020 an der Evangelischen Akademie Tutzing zu Gast. Informationen zur Veranstaltung finden Sie hier.
Bild: Cindy-Ricarda Roberts (Foto: privat)
Liebe Frau Roberts,
Pferdeäpfel sind/waren eine Kostbarkeit. Als Kind musste ich hinter einem Pferdewagen – mit Handfeger und Schaufel bewaffnet – herlaufen und sofort zugreifen, wenn die Pferde äppelten. Die Ausbeute kam dann an die Erdbeer-
pflanzen.
Ich bin gespannt, ob es noch weitere Kommentare dieser Art gibt.
Mit freundlichen Grüßen
Barbara Koops