Besonders spannend finde ich an dem Thema Algorithmen, wie aus simplen Rechenhilfen die komplexen Programme von heute werden konnten, von denen manche Expert*innen behaupten, dass sie in nicht allzu weiter Zukunft die Denkleistung des Menschen in vielerlei Hinsicht übertreffen werden. Dabei gibt es jedoch ethische Fragen, mit denen man sich auseinandersetzen sollte.

In meinem dreimonatigen Praktikum beim Museum für Kommunikation im Projekt Leben & Lernen X.0 habe ich mich durch den Podcast “Was sind Algorithmen?” mit diesem Thema beschäftigt, was mich zum weiteren Nachdenken über die Auswirkungen von Algorithmen anregte. Das war der Anstoß zum Verfassen dieses Blog-Beitrags.

Ich will mich vor allem mit den Auswirkungen von Algorithmen auf unser Leben und auf die Gesellschaft auseinandersetzen. Dabei beziehe ich mich einerseits auf den Podcast “Was sind Algorithmen?” und auf den Debattendienstag “Siri, Amazon & Co. Von Datenkraken und smarten Assistenten”. Andererseits auf Literatur, die ich zu dem Thema gefunden habe. Zuerst möchte ich klären, was Algorithmen eigentlich genau sind und wie sie einen so großen Einfluss auf unser Leben haben. Dabei will ich verdeutlichen, warum es wichtig ist, sich mit dem Thema auseinanderzusetzen, zudem zeige ich gleich schon erste Lösungsansätze zu Problemstellungen auf.

Was sind Algorithmen?

Ein Algorithmus ist eine exakte Handlungsanweisung zur Lösung eines Problems. Er kann also auch eine Rechenanweisung auf einem Papier darstellen. Um der Exaktheit gerecht zu werden, eignet sich vor allem die Mathematik mit ihrer genauen Zahlensprache. Durch Programme am Computer kann die Rechenleistung vervielfacht werden. Fast immer wird deshalb von Algorithmen im Zusammenhang mit Computerprogrammen gesprochen.

Die Erfindung des Computers ermöglichte eine stark ansteigende Komplexität von Algorithmen. Auch wenn Computer anfangs nur mathematische Rechnungen lösten, die sonst Menschen durchgeführt hätten, sind sie mittlerweile mit unzähligen weiteren Funktionen ausgestattet, die aber alle auf dem Prinzip der Algorithmen basieren. Bestimmte Arten von Algorithmen bilden sich durch die Zugabe von Feedback selbst weiter, sie lernen also dazu.

Algorithmen sortieren unsere Daten vor

Man könnte behaupten, dass die Gesellschaft mittlerweile auf Algorithmen angewiesen ist. Felix Stalder schreibt in seinem Buch „Kultur der Digitalität“, dass die Komplexität der Gesellschaft ohne die Auswertung von Big Data, mithilfe von Algorithmen, für den Menschen nicht analysierbar und verständlich sei (vgl. Stalder 2017: 182). Jedoch kann es auch gefährlich sein, sich auf Daten zu beziehen, die von einem Programm erstellt wurden, in dessen Funktionsweise man keinen Einblick hat. Und so ist es bei den meisten Programmen auf unserem Computer oder bei den Apps auf unserem Smartphone. Technischen Geräten wird oft ein großes Vertrauen entgegengebracht, da diese keine menschlichen Fehler beinhalten sollen.

Algorithmen beeinflussen unser Weltbild

Inwiefern kann man sagen, dass unser Weltbild von Algorithmen beeinflusst wird? Viele Menschen nutzen auf ihren Computern und Smartphones dauerhaft Programme, die durch Algorithmen funktionieren. Ein Beispiel sind die Suchmaschinen, die von vielen Menschen zum Aufsuchen von Informationen genutzt werden. Es gibt viel zu viele Informationen im Internet, um sich selbst das brauchbare Wissen herauszusuchen. Gibt man seine Suchanfrage ein, sortiert die Suchmaschine anhand eines komplizierten Algorithmus die Suchergebnisse. Welche Variablen für den Algorithmus eine Rolle spielen, ist oft nicht bekannt. Dadurch bleibt unklar, auf der Grundlage welcher Kriterien die Beiträge, die mir angezeigt werden gefiltert werden, und ob ich das selbst überhaupt so möchte. Vielleicht treibt der Suchalgorithmus mich auch in eine Richtung, in die ich gar nicht möchte, indem er meine Absichten falsch einschätzt und mir unpassende Ergebnisse anzeigt. Zusätzlich können Daten von mir erhoben werden, über deren Verwendung ich nichts weiß. Die Suchmaschine (bei den meisten Menschen Google) hat also die Macht darüber, welches Wissen generiert wird oder welche Nachrichten mich erreichen, und trägt somit zu meinem Weltbild bei. Die Beeinflussung des Weltbilds durch Algorithmen verdeutlicht auch Jörn Müller-Quade im Podcast über Algorithmen.

Diskriminierung durch Algorithmen

Wie kann es dann aber sein, dass ein Algorithmus Rassismus, Sexismus oder andere Diskriminierungsformen fördert? Ein Algorithmus an sich ist grundsätzlich ein neutrales Computerprogramm. Jedoch muss man immer beachten, dass er von einem oder mehreren Menschen entwickelt wurde, deren Ansichten durch den Algorithmus reproduziert werden (vgl. Stalder 2017: 193). Es liegt in der Hand des Menschen, welches Datenmaterial er dem Algorithmus zur Verwendung gibt und Daten können nicht neutral sein, weil man sich in der Auswahl der Daten immer entscheiden und begrenzen muss (vgl. Stalder 2017: 193). Gibt man dem Algorithmus als Input nur Informationen über weiße Personen, wird sein Output schwarze Personen vielleicht gar nicht als Menschen erkennen und somit ausgrenzen.

Hannah Fry gibt in ihrem Buch „Hello World – Was Algorithmen können und wie sie unser Leben verändern“ ein Beispiel für Sexismus durch Algorithmen. Sie bezieht sich auf eine Studie von 2015, in der herausgefunden wurde, „dass Google Frauen im Web sehr viel weniger Werbung für gut bezahlte Führungsjobs anzeigte als Männern“ (vgl. Fry 2019: 50; Datta et al. 2015: PDF). Als sie bei Google Images nach Mathematikprofessoren suchte, fand sie hauptsächlich Bilder von weißen Männern mittleren AIters (vgl. Fry 2019: 87). Hannah Fry schlägt vor dass es besser sein könnte, anstatt der Widerspiegelung der realen Welt mit ihren Ungerechtigkeiten, Algorithmen eine erstrebenswerte Gesellschaft darstellen zu lassen (vgl. Fry 2019: 87).

Lösungsansätze aus dem Debatten-Dienstag

Aber vielleicht können Algorithmen auch dafür verwendet werden, Ungleichheiten zu vermindern? Schließlich umgehen sie die Arten von Fehlern, die Menschen machen. Komplett neutral können sie aber wie gesagt nicht sein. Es wäre gut, wenn Algorithmen mehr überprüft werden würden, damit sie nicht zum Erhalt oder zur Intensivierung von Ungleichheiten in der Gesellschaft beitragen. Beim Debatten-Dienstag war unter anderem Veronika Thiel von Algorithmwatch, einer gemeinnützigen Organisation, die Algorithmen, welche die Gesellschaft in ihrer Entscheidungsfindung beeinflussen, betrachtet und einordnet. Somit wird die Funktionsweise der Algorithmen nachvollziehbar gemacht und aufgedeckt und die öffentliche Diskussion über sie gefördert.

Aber sollten nicht auch schon die Gesetze ausreichen, um Algorithmen fair zu gestalten? Den Expert*innen des Debatten-Dienstags zufolge mangelt es hier jedoch an der Ausführung und die Gesetzeslage ist hier auch noch nicht ausreichend geklärt. Es bleibt also leider an dem/der Einzelnen hängen, sich über die Funktionsweise von Algorithmen zu informieren, was leichter gesagt als getan ist. Hilfreich wäre es auch, wenn in den Schulen schon der Umgang mit digitalen Medien und deren Gefahren und Möglichkeiten gelehrt werden würde und das kritische Nachdenken gefördert werden würde. Gut wäre, wenn es solche Bildungsangebote auch für Erwachsene geben würde.

Seiten, auf denen man sich über Algorithmen informieren kann, sind außerdem:

Datenschutz

Generell mangelt es bezüglich des Schutzes von Daten an Transparenz. Der Datenschutz ist ein weiterer viel diskutierter Bereich.

Die meisten Menschen sind sich nicht darüber bewusst, welche Daten das Smartphone speichert und was mit diesen Daten passiert. Zu dieser Problematik äußert sich auch Jörn Müller-Quade im Podcast. Doch wo ist die Grenze, welche Daten werden wirklich benötigt, um uns hilfreiche Funktionen anzubieten und an wann werden die Daten missbraucht? Und ist die momentane Gesetzeslage ausreichend, beziehungsweise halten sich die Unternehmen daran? Hilfreich wäre es, offenzulegen, was gespeichert und weitergegeben wird und außerdem die Möglichkeit zu haben, selbst mitzubestimmen. Zum Beispiel könnte man die Filter, nach denen die Suchergebnisse einem angezeigt werden, selbst bestimmen.

Künstliche Intelligenz

Können Algorithmen intelligenter als Menschen sein? Dass Algorithmen als intelligent bezeichnet werden können, zeigt der Begriff „Künstliche Intelligenz“. Selbstlernende Algorithmen entwickeln sich in solch einer Komplexität weiter, dass man ihre Arbeitsweise nicht mehr nachvollziehen kann. Das kann einschüchternd wirken. Aber in welchen Feldern übertreffen Maschinen den Menschen bisher? Sie sind dazu in der Lage, den Mensch im Schach oder in anderen Spielen zu besiegen. Man muss ihnen dabei noch nicht einmal die Regeln beibringen. Durch das Machine Learning bringen sie sich diese selbst bei. Computer können schneller rechnen als Menschen und schneller lernen, aber bestimmte Fähigkeiten, die der Mensch im Laufe der Evolution ausgebildet hat, kann ein Computer nicht oder nur schwer nachahmen. Menschen nehmen ihre Umwelt anders wahr, sie erkennen andere Lebewesen intuitiv. Sie können andere Menschen einschätzen und eine Konversation mit ihnen führen. Der Unterschied liegt also in der Verteilung der Intelligenz auf unterschiedliche Bereiche, in denen entweder die Natürliche Intelligenz oder die Künstliche Intelligenz besser abschneidet. Darüber, inwiefern Künstliche Intelligenz in Zukunft den Menschen übertreffen wird, wird in der Wissenschaft stark diskutiert. Dieses Thema wird weiter vertieft im Podcast “Was ist Künstliche Intelligenz?”.

Fazit

Es gibt noch viele weitere Bereiche, in denen Algorithmen vorkommen, und über die man reflektieren und diskutieren sollte. Dieser Blog-Post greift ein paar dieser Themen auf und soll zum Nachdenken anregen. Bisher gibt es noch einen Mangel an Aufklärung und Transparenz hinsichtlich Algorithmen. Dies ist einerseits eine Kritik an der Politik und an der bisherigen Verwendung von Algorithmen in kommerziellen Unternehmen, aber auch eine Ermutigung zum Selberlernen, über die Algorithmen, die uns täglich beeinflussen, ohne dass wir uns dabei immer bewusst sind.

Literatur:

  • Datta, Amit/Tschantz, Michael Carl/Datta, Anupam (2015): Automated experiments on ad privacy settings. In: Proceedings on Privacy Enhancing Technologies I (2015), S. 92-112. PDF
  • Fry, Hannah (2019): Hello World – Was Algorithmen können und wie sie unser Leben verändern. (Sonderauflage für die Zentralen für politische Bildung) 2. Aufl. München: Verlag C.H.Beck oHG.
  • Stalder, Felix (2017): Kultur der Digitalität. 3. Aufl. Berlin: Suhrkamp Verlag.

Quellen:

Autorin: Irma Perizonius

Irma Perizonius ist Praktikantin beim Projekt Leben & Lernen X.0 des Museums für Kommunikation Frankfurt. Sie studiert Soziologie mit dem Nebenfach Philosophie an der Goethe-Universität Frankfurt.