Algorithmen – Was wir wissen müssen

Algorithmen – Was wir wissen müssen

Besonders spannend finde ich an dem Thema Algorithmen, wie aus simplen Rechenhilfen die komplexen Programme von heute werden konnten, von denen manche Expert*innen behaupten, dass sie in nicht allzu weiter Zukunft die Denkleistung des Menschen in vielerlei Hinsicht übertreffen werden. Dabei gibt es jedoch ethische Fragen, mit denen man sich auseinandersetzen sollte.

In meinem dreimonatigen Praktikum beim Museum für Kommunikation im Projekt Leben & Lernen X.0 habe ich mich durch den Podcast „Was sind Algorithmen?“ mit diesem Thema beschäftigt, was mich zum weiteren Nachdenken über die Auswirkungen von Algorithmen anregte. Das war der Anstoß zum Verfassen dieses Blog-Beitrags.

Ich will mich vor allem mit den Auswirkungen von Algorithmen auf unser Leben und auf die Gesellschaft auseinandersetzen. Dabei beziehe ich mich einerseits auf den Podcast „Was sind Algorithmen?“ und auf den Debattendienstag „Siri, Amazon & Co. Von Datenkraken und smarten Assistenten“. Andererseits auf Literatur, die ich zu dem Thema gefunden habe. Zuerst möchte ich klären, was Algorithmen eigentlich genau sind und wie sie einen so großen Einfluss auf unser Leben haben. Dabei will ich verdeutlichen, warum es wichtig ist, sich mit dem Thema auseinanderzusetzen, zudem zeige ich gleich schon erste Lösungsansätze zu Problemstellungen auf.

Was sind Algorithmen?

Ein Algorithmus ist eine exakte Handlungsanweisung zur Lösung eines Problems. Er kann also auch eine Rechenanweisung auf einem Papier darstellen. Um der Exaktheit gerecht zu werden, eignet sich vor allem die Mathematik mit ihrer genauen Zahlensprache. Durch Programme am Computer kann die Rechenleistung vervielfacht werden. Fast immer wird deshalb von Algorithmen im Zusammenhang mit Computerprogrammen gesprochen.

Die Erfindung des Computers ermöglichte eine stark ansteigende Komplexität von Algorithmen. Auch wenn Computer anfangs nur mathematische Rechnungen lösten, die sonst Menschen durchgeführt hätten, sind sie mittlerweile mit unzähligen weiteren Funktionen ausgestattet, die aber alle auf dem Prinzip der Algorithmen basieren. Bestimmte Arten von Algorithmen bilden sich durch die Zugabe von Feedback selbst weiter, sie lernen also dazu.

Algorithmen sortieren unsere Daten vor

Man könnte behaupten, dass die Gesellschaft mittlerweile auf Algorithmen angewiesen ist. Felix Stalder schreibt in seinem Buch „Kultur der Digitalität“, dass die Komplexität der Gesellschaft ohne die Auswertung von Big Data, mithilfe von Algorithmen, für den Menschen nicht analysierbar und verständlich sei (vgl. Stalder 2017: 182). Jedoch kann es auch gefährlich sein, sich auf Daten zu beziehen, die von einem Programm erstellt wurden, in dessen Funktionsweise man keinen Einblick hat. Und so ist es bei den meisten Programmen auf unserem Computer oder bei den Apps auf unserem Smartphone. Technischen Geräten wird oft ein großes Vertrauen entgegengebracht, da diese keine menschlichen Fehler beinhalten sollen.

Algorithmen beeinflussen unser Weltbild

Inwiefern kann man sagen, dass unser Weltbild von Algorithmen beeinflusst wird? Viele Menschen nutzen auf ihren Computern und Smartphones dauerhaft Programme, die durch Algorithmen funktionieren. Ein Beispiel sind die Suchmaschinen, die von vielen Menschen zum Aufsuchen von Informationen genutzt werden. Es gibt viel zu viele Informationen im Internet, um sich selbst das brauchbare Wissen herauszusuchen. Gibt man seine Suchanfrage ein, sortiert die Suchmaschine anhand eines komplizierten Algorithmus die Suchergebnisse. Welche Variablen für den Algorithmus eine Rolle spielen, ist oft nicht bekannt. Dadurch bleibt unklar, auf der Grundlage welcher Kriterien die Beiträge, die mir angezeigt werden gefiltert werden, und ob ich das selbst überhaupt so möchte. Vielleicht treibt der Suchalgorithmus mich auch in eine Richtung, in die ich gar nicht möchte, indem er meine Absichten falsch einschätzt und mir unpassende Ergebnisse anzeigt. Zusätzlich können Daten von mir erhoben werden, über deren Verwendung ich nichts weiß. Die Suchmaschine (bei den meisten Menschen Google) hat also die Macht darüber, welches Wissen generiert wird oder welche Nachrichten mich erreichen, und trägt somit zu meinem Weltbild bei. Die Beeinflussung des Weltbilds durch Algorithmen verdeutlicht auch Jörn Müller-Quade im Podcast über Algorithmen.

Diskriminierung durch Algorithmen

Wie kann es dann aber sein, dass ein Algorithmus Rassismus, Sexismus oder andere Diskriminierungsformen fördert? Ein Algorithmus an sich ist grundsätzlich ein neutrales Computerprogramm. Jedoch muss man immer beachten, dass er von einem oder mehreren Menschen entwickelt wurde, deren Ansichten durch den Algorithmus reproduziert werden (vgl. Stalder 2017: 193). Es liegt in der Hand des Menschen, welches Datenmaterial er dem Algorithmus zur Verwendung gibt und Daten können nicht neutral sein, weil man sich in der Auswahl der Daten immer entscheiden und begrenzen muss (vgl. Stalder 2017: 193). Gibt man dem Algorithmus als Input nur Informationen über weiße Personen, wird sein Output schwarze Personen vielleicht gar nicht als Menschen erkennen und somit ausgrenzen.

Hannah Fry gibt in ihrem Buch „Hello World – Was Algorithmen können und wie sie unser Leben verändern“ ein Beispiel für Sexismus durch Algorithmen. Sie bezieht sich auf eine Studie von 2015, in der herausgefunden wurde, „dass Google Frauen im Web sehr viel weniger Werbung für gut bezahlte Führungsjobs anzeigte als Männern“ (vgl. Fry 2019: 50; Datta et al. 2015: PDF). Als sie bei Google Images nach Mathematikprofessoren suchte, fand sie hauptsächlich Bilder von weißen Männern mittleren AIters (vgl. Fry 2019: 87). Hannah Fry schlägt vor dass es besser sein könnte, anstatt der Widerspiegelung der realen Welt mit ihren Ungerechtigkeiten, Algorithmen eine erstrebenswerte Gesellschaft darstellen zu lassen (vgl. Fry 2019: 87).

Lösungsansätze aus dem Debatten-Dienstag

Aber vielleicht können Algorithmen auch dafür verwendet werden, Ungleichheiten zu vermindern? Schließlich umgehen sie die Arten von Fehlern, die Menschen machen. Komplett neutral können sie aber wie gesagt nicht sein. Es wäre gut, wenn Algorithmen mehr überprüft werden würden, damit sie nicht zum Erhalt oder zur Intensivierung von Ungleichheiten in der Gesellschaft beitragen. Beim Debatten-Dienstag war unter anderem Veronika Thiel von Algorithmwatch, einer gemeinnützigen Organisation, die Algorithmen, welche die Gesellschaft in ihrer Entscheidungsfindung beeinflussen, betrachtet und einordnet. Somit wird die Funktionsweise der Algorithmen nachvollziehbar gemacht und aufgedeckt und die öffentliche Diskussion über sie gefördert.

Aber sollten nicht auch schon die Gesetze ausreichen, um Algorithmen fair zu gestalten? Den Expert*innen des Debatten-Dienstags zufolge mangelt es hier jedoch an der Ausführung und die Gesetzeslage ist hier auch noch nicht ausreichend geklärt. Es bleibt also leider an dem/der Einzelnen hängen, sich über die Funktionsweise von Algorithmen zu informieren, was leichter gesagt als getan ist. Hilfreich wäre es auch, wenn in den Schulen schon der Umgang mit digitalen Medien und deren Gefahren und Möglichkeiten gelehrt werden würde und das kritische Nachdenken gefördert werden würde. Gut wäre, wenn es solche Bildungsangebote auch für Erwachsene geben würde.

Seiten, auf denen man sich über Algorithmen informieren kann, sind außerdem:

Datenschutz

Generell mangelt es bezüglich des Schutzes von Daten an Transparenz. Der Datenschutz ist ein weiterer viel diskutierter Bereich.

Die meisten Menschen sind sich nicht darüber bewusst, welche Daten das Smartphone speichert und was mit diesen Daten passiert. Zu dieser Problematik äußert sich auch Jörn Müller-Quade im Podcast. Doch wo ist die Grenze, welche Daten werden wirklich benötigt, um uns hilfreiche Funktionen anzubieten und an wann werden die Daten missbraucht? Und ist die momentane Gesetzeslage ausreichend, beziehungsweise halten sich die Unternehmen daran? Hilfreich wäre es, offenzulegen, was gespeichert und weitergegeben wird und außerdem die Möglichkeit zu haben, selbst mitzubestimmen. Zum Beispiel könnte man die Filter, nach denen die Suchergebnisse einem angezeigt werden, selbst bestimmen.

Künstliche Intelligenz

Können Algorithmen intelligenter als Menschen sein? Dass Algorithmen als intelligent bezeichnet werden können, zeigt der Begriff „Künstliche Intelligenz“. Selbstlernende Algorithmen entwickeln sich in solch einer Komplexität weiter, dass man ihre Arbeitsweise nicht mehr nachvollziehen kann. Das kann einschüchternd wirken. Aber in welchen Feldern übertreffen Maschinen den Menschen bisher? Sie sind dazu in der Lage, den Mensch im Schach oder in anderen Spielen zu besiegen. Man muss ihnen dabei noch nicht einmal die Regeln beibringen. Durch das Machine Learning bringen sie sich diese selbst bei. Computer können schneller rechnen als Menschen und schneller lernen, aber bestimmte Fähigkeiten, die der Mensch im Laufe der Evolution ausgebildet hat, kann ein Computer nicht oder nur schwer nachahmen. Menschen nehmen ihre Umwelt anders wahr, sie erkennen andere Lebewesen intuitiv. Sie können andere Menschen einschätzen und eine Konversation mit ihnen führen. Der Unterschied liegt also in der Verteilung der Intelligenz auf unterschiedliche Bereiche, in denen entweder die Natürliche Intelligenz oder die Künstliche Intelligenz besser abschneidet. Darüber, inwiefern Künstliche Intelligenz in Zukunft den Menschen übertreffen wird, wird in der Wissenschaft stark diskutiert. Dieses Thema wird weiter vertieft im Podcast „Was ist Künstliche Intelligenz?“.

Fazit

Es gibt noch viele weitere Bereiche, in denen Algorithmen vorkommen, und über die man reflektieren und diskutieren sollte. Dieser Blog-Post greift ein paar dieser Themen auf und soll zum Nachdenken anregen. Bisher gibt es noch einen Mangel an Aufklärung und Transparenz hinsichtlich Algorithmen. Dies ist einerseits eine Kritik an der Politik und an der bisherigen Verwendung von Algorithmen in kommerziellen Unternehmen, aber auch eine Ermutigung zum Selberlernen, über die Algorithmen, die uns täglich beeinflussen, ohne dass wir uns dabei immer bewusst sind.

Literatur:

  • Datta, Amit/Tschantz, Michael Carl/Datta, Anupam (2015): Automated experiments on ad privacy settings. In: Proceedings on Privacy Enhancing Technologies I (2015), S. 92-112. PDF
  • Fry, Hannah (2019): Hello World – Was Algorithmen können und wie sie unser Leben verändern. (Sonderauflage für die Zentralen für politische Bildung) 2. Aufl. München: Verlag C.H.Beck oHG.
  • Stalder, Felix (2017): Kultur der Digitalität. 3. Aufl. Berlin: Suhrkamp Verlag.

Quellen:

Autorin: Irma Perizonius

Irma Perizonius ist Praktikantin beim Projekt Leben & Lernen X.0 des Museums für Kommunikation Frankfurt. Sie studiert Soziologie mit dem Nebenfach Philosophie an der Goethe-Universität Frankfurt.

Episode 4: Was ist Künstliche Intelligenz?

Episode 4: Was ist Künstliche Intelligenz?

Der Erklärpodcast zum Digitalen Wandel widmet sich zentralen Begriffen der Digitalisierung: Von A wie Algorithmen bis S wie Social Scoring reicht das Themenspektrum. Der Podcast ist Teil des Dialogprojekts „Leben & Lernen X.0“ am Museum für Kommunikation Frankfurt, in dem im Dialog mit der Bürgerschaft Fragen zur Zukunft der Bildung, Arbeit und Demokratie verhandelt werden.

In der vierten Episode des Erklärpodcasts zum Digitalen Wandel fragt Gastgeberin Tine Nowak Leben X.0-Podcasts: Was ist Künstliche Intelligenz? Die Direktorin des Museums für Kommunikation Berlin Anja Schaluschke ist in dieser Episode als Co-Moderatorin dabei. Mit einem Blick in die Wikipedia und mit drei unterschiedlichen Perspektiven auf den Begriff von Thomas Damberger, Chris Boos und Jörn Müller-Quade, diskutieren Tine Nowak und Anja Schaluschke gemeinsam über die Geschichte, Gegenwart und Zukunft von Künstlicher Intelligenz.

00:00:17 – Begrüßung
Diese Episode wurde im Museum für Kommunikation Berlin aufgezeichnet. Co-Moderatiorin ist Anja Schaluschke, sie ist die Direktorin des Berliner Museums, das wie die Museen für Kommunikation in Frankfurt und Nürnberg zur Museumsstiftung Post und Telekommunikation gehört.

00:00:53 – Museum für Kommunikation Berlin
Das Berliner Museum wurde als Reichspostmuseum von Heinrich von Stephan gegründet. Im Lichthof des historischen Gebäudes begrüßen Roboter die Besucher*innen. Sie interagieren mit den Besucher*innen, aber deren Möglichkeiten sind limitiert. In den USA gibt es Museumsroboter wie Pepper, die künstliche Intellegenz nutzen.

00:05:56 – Leben X.0-Podcast
Der Podcast erläutert in jeder Episode ein Buzzword der Digitalisierung, die Begriffe wurden durch Publikumsvoting ermittelt.  Immer eine* andere* Museumskollegin oder ein -kollege aus der Museumsstiftung ist als Co-Moderation dabei, zudem wird der Begriff in der Wikipedia nachgeschlagen und es gibt Erläuterungen von drei verschiedenen Expert*innen.

00:07:06 – Definitionsversuch
Anja Schaluschke fragt sich, wie allein Intelligenz zu definieren sei, dementsprechend schwer wird es dann Künstliche Intelligenz zu beschreiben. Tine Nowak hebt hervor, dass die Zukunftsvisionen zu KI, die man aus Science Fiction kennt, momentan noch weit weg erscheinen, obwohl es ein Gegenwartsphänomen ist.

00:10:37 – Wikipedia: Künstliche Intelligenz
Wie in jeder Folge wird als Ausgangspunkt des Podcasts der erste Absatz des Wikipedia-Artikels zum Thema vorgelesen. Der Artikel über Künstliche Intelligenz gibt eine knappe Definition, die die automatische Durchführung von intelligentem Verhalten und das maschinelle Lernen miteinschließt. Es wird außerdem betont, dass der Begriff unklar ist, da es an einer eindeutigen Definition von Intelligenz mangelt. Es wird zu den Gesprächspartnern übergeleitet, die sich vor allem mit den Auswirkungen von Künstlicher Intelligenz auf unsere Gesellschaft befassen.

00:15:45 – Thomas Damberger
Dr. Thomas Damberger ist Vertretungsprofessor an der Leuphana Universität in Lüneburg. Er ist Bildungswissenschaftler und Erziehungswissenschaftler im Bereich der Medienpädagogik und befasst sich mit Künstlicher Intelligenz, indem er sich die Aspekte anschaut, die uns als Gesellschaft betreffen. Es ist seiner Meinung nach wichtig, die Phänomene zu verstehen, damit man sich auf zukünftige Problemstellungen vorbereiten kann. Außerdem ist es von Bedeutung, zu verstehen, inwieweit algorithmische Systeme unser Weltbild beeinflussen. Zuerst erwähnt wurde der Begriff der Künstlichen Intelligenz 1956 von John McCarthy. Mit anderen Wissenschaftler*innen traf er sich auf einer Konferenz zu diesem Thema. Er beschrieb das Anliegen so, dass eine Maschine das tun soll, wozu ein Mensch Intelligenz benötigen würde. Dafür ist es wichtig zu bestimmen, wie Denken funktioniert. Im Prinzip beschäftigte sich auch schon Alan Turing 1950 mit KI, auch wenn er nicht diesen Begriff verwendete. Er entwickelte den Turing-Test, durch den herausgefunden werden soll, ob eine Maschine in ihrem Denken dem Mensch gleichkommt. Im Laufe der Zeit kam es zu mehreren Meilensteinen der KI-Entwicklung, wie einem Computer, der das Dame-Spiel beherrschte, der Simulation ELIZA, dem Schachsieg von Deep Blue 1997 und Watson, einem Computerprogramm, das 2011 mehrmals eine Quizshow gewann, da es zur Semantik-Analyse fähig war. Ein weiterer Höhepunkt der KI-Forschung fand 2016 statt, als Google das Programm AlphaGo entwickelte, dass das komplizierte Spiel Go erlernte. Um das zu erlernen, was Menschen intuitiv taten, hatte das Programm Millionen Male gegen sich selbst gespielt. Als eine Schwierigkeit bei der Definition von KI sieht Thomas Damberger, dass man Intelligenz auch beim Menschen nicht einfach messen kann. Die Kriterien von Intelligenztests haben sich laufend geändert und mittlerweile gibt es mehrere verschiedene Definitionen von Intelligenz. Eine schwache KI ist ist auf einen Bereich von Intelligenz beschränkt während eine starke KI eine universelle Intelligenz besitzen soll. Ob es möglich ist, diese zu erschaffen, wird noch stark debattiert.

00:39:12 – Chris Boos
Chris Boos ist CEO der Firma arago GmbH und Mitglied des Digitalrats der Bundesregierung. Er sieht bei dem Begriff der Künstlichen Intelligenz das Problem, das dieser den Menschen Angst einjagt, die sie nicht zu haben bräuchten. Für ihn wäre der Begriff „künstlicher“ oder „maschineller Problemlöser“ eine bessere Beschreibung. Chris Boos zufolge gab es in der Entwicklung von KI Höhen und Tiefpunkte, aber mittlerweile ist Maschinelles Lernen ein wichtiges Thema geworden. Da viel in diesem Bereich geforscht und angewandt wird, wird es nach dem jetzigen Hype wahrscheinlich keine so spürbare Krise in diesem Gebiet geben. Seine Firma Arago bietet eine Plattform, um verschiedenste Abläufe zu automatisieren und Probleme zu lösen. Auch im Museum könnte eine KI hilfreich sein, um Daten zu sammeln, aber auch, um Objekte wiederzuerkennen und Entscheidungen über sie zu treffen. Chris Boos sagt zwar, dass ein Großteil der Arbeit, die Menschen heute erledigen, in Zukunft von Maschinen übernommen werden wird, beschreibt dabei aber kein Schreckensszenario der Arbeitslosigkeit. Es gibt noch viele andere Baustellen, bei denen die Arbeit von Menschen benötigt wird und nur Menschen sind in der Lage, kreativ neue Lösungen zu finden. Eine Bedrohung von KI ist seiner Meinung nach auch noch lange nicht in Sicht, da das Gehirn viel zu komplex ist, um es nachzubauen und Maschinen kein Bewusstsein und keine Ziele haben. Es ist wichtig, sich nicht vor technologischen Entwicklungen zu scheuen, sondern weiter zu forschen, um in Zukunft wirtschaftlich nicht zurückzufallen.

00:59:28 – Jörn Müller-Quade
Prof. Dr. Jörn Müller-Quade ist bereits bekannt aus der Podcast-Folge zu Algorithmen. Er ist Informatiker und Kryptograph am Karlsruher Institut für Technologie (KIT) und leitet außerdem die Arbeitsgruppe IT-Sicherheit und Privacy der Plattform Lernende Systeme, einem Projekt des Bundesministeriums für Bildung und Forschung. Er befasst sich mit der Frage, wie KI in Zukunft die IT-Sicherheit verändern wird. In diesem Bereich sieht er zwar Möglichkeiten, aber auch Bedrohungen, die KI Angriffe auf Systeme darstellen können. Im Projekt des Bundesministeriums befasst Jörn Müller-Quade sich mit den Auswirkungen lernender Systeme auf die Gesellschaft, insbesondere auf den Arbeitsmarkt. Die rechtliche Situation und ethische Fragen werden behandelt. „Künstlich“ bedeutet für ihn, dass Algorithmen anstatt von biologischen Systemen Probleme lösen und „Intelligenz“ heißt für ihn, dass Aufgaben erledigt werden, die nicht schon einprogrammiert waren, und dass Autonomie vorhanden ist. Momentan ist der Fokus sehr stark auf lernende Systeme gerichtet, wobei das Gebiet der KI größer ist. Ein Beispiel dafür ist das Prinzip der Logik, welches schon bei Leibniz, vor der Erfindung des Computers, vorkam und ein anderes Prinzip ist das der genetischen KI. Durch die momentane Verwendung des Prinzips der neuronalen Netze ergibt sich die Black Box-Problematik, bei der nicht zu durchschauen ist, ob ein Algorithmus schwerwiegende Fehler macht. Im Moment ist es noch schwer einzuschätzen, in welchem Ausmaß sich KI entwickeln wird.

01:13:12 – Resümee und Ausblick
Durch den Podcast wird deutlich, dass man sich gegenwärtig stark mit dem Maschinellen Lernen beschäftigt, welches jedoch nur ein Teilgebiet der KI darstellt. Andere Bereiche wie die genetische KI können auch technisches Potenzial aufweisen. Science Fiction beschäftigt sich hauptsächlich mit neuronalen Systemen, die das menschliche Denken nachahmen, bis hin zu Formen des künstlichen Bewusstseins. Da die Definition der Wikipedia sehr offen formuliert ist, trifft sie auch nach dem Verlauf des Podcasts noch zu. Die Gesprächspartner vertiefen die verschiedenen Bereiche Automatisierung, Intelligenz, Denken und maschinelles Lernen und greifen außerdem das Definitionsproblem der KI auf. Es wird zudem aufgezeigt, wie viel in diesem Bereich geforscht wird und was für Fragen sich für die Zukunft stellen. Die nächste Podcast-Folge mit der Frage „Was ist Big Data?“ erscheint am 21.10.2019.

Gibt es zu der Episode noch offene Fragen oder Ergänzungen? Dann schreibt uns per Mail oder Twitter (@mfk_frankfurt mit Hashtag #LebenX0). Wenn die Episode oder der Podcast Euch gefallen hat, dann könnt Ihr uns mit einer Bewertung oder Rezension bei iTunes eine Freude machen.

Ein Podcast des Museums für Kommunikation Frankfurt (Museumsstiftung Post und Telekommunikation).

Gäste: Thomas Damberger, Chris Boos, Jörn Müller-Quade
Co-Moderatorin: Anja Schaluschke
Redaktion/Produktion: Tine Nowak
Lizenz: CC-BY SA 4.0
Intro-Musik: “F” by Initials DC (mit freundlicher Genehmigung). Remix mit Tonfragmenten aus der Sammlung der MSPT durch Uvo Pauls.

 

Autorinnen: Tine Nowak / Irma Perizonius