Buchempfehlung

Katharina Zweig: Ein Algorithmus hat kein Taktgefühl

Wo künstliche Intelligenz sich irrt, warum uns das betrifft und was wir dagegen tun können
Heyne München 2019, 320 Seiten, 20 Euro

Katharina Zweig wird oft als Deutschlands wichtigste Informatikerin bezeichnet. Die IT-Expertin für Sozioinformatik wird zum Wissenschaftsrat geladen und ins Kanzleramt. Vor fünf Jahren wurde die Vordenkerin als eine von 39 „Digitalen Köpfen“ Deutschlands ausgezeichnet. Ihr Thema ist künstliche Intelligenz, kurz KI. Aber eigentlich geht es der Wissenschaftlerin um Ethik in einer Welt, in der Maschinen immer mehr Entscheidungen treffen. Jetzt zieht Katharina Zweig die Algorithmen zur Rechenschaft und behauptet scherzhaft: „Algorithmen haben kein Taktgefühl.“ Die Informatikprofessorin beschreibt, „wo künstliche Intelligenz sich irrt, warum uns das betrifft und was wir dagegen tun können.“

Den derzeitigen Hype um KI sieht Katharina Zweig kritisch, weil der Begriff Ängste oder Euphorie hervorrufen. „Was wir im Moment diskutieren ist, dass ‚künstliche Intelligenz über den Menschen entscheidet‘ oder solche Sprüche und das stimmt nicht“, sagt die Biochemikerin im Gespräch mit unserer Autorin. „Das liegt daran, dass immer nur von dem Algorithmus und der KI gesprochen wir, als wäre das ein Subjekt, dass man einfach regulieren könnte.“ Für die Forscherin sind es zunächst einfach nur Softwareprogramme, die von Menschen eingesetzt und entwickelt werden, um beispielsweise über andere Menschen zu urteilen. Aber es sei enorm wichtig, die Basis der Entscheidungen genau zu kennen, vor allem wenn Algorithmen über Menschen entscheiden. Und erst recht, wenn es um selbstlernende Software geht. „Um die zu verstehen, müsse man keineswegs erst Informatik studieren.“

Wie macht man sich Daten nutzbar?

Konkret erforscht Katharina Zweig seit über 15 Jahren, welche Vorteile die massenhafte Auswertung von Daten bringen kann. Wie man sich die Daten nutzbar macht, aber auch, welche eklatanten Fehler dabei gemacht werden können. Die Informatikerin hat früh erkannt, wie fundamental wichtig das Thema Künstliche Intelligenz für die Gesellschaft ist und versteht sich als Aufklärerin im besten Sinne. Und zwar auch für Laien. Jeder benutzt tagtäglich Algorithmen, aber kaum einer weiß, wie sie funktionieren. Nur dass KI Probleme machen kann, das haben inzwischen alle kapiert, weiß die Wissenschaftlerin.

Versteht ein Computer den Kontext einer menschlichen Handlung?

Wann sind Algorithmen bei der Entscheidungsfindung besser als Menschen? Und wann nicht? Und welche ethischen Richtlinien sind notwendig, damit sich der Nutzen von KI nicht ins Gegenteil verkehrt? Mit diesen Fragen beschäftigt sich Katharina Zweig in ihrem Buch Ein Algorithmus hat kein Taktgefühl. Wie ein roter Faden zieht sich der Wunsch der Autorin durch das Buch: Dass jeder versteht, wie die Programme gemacht und vor allem, wie deren Ergebnisse ausgelegt werden. Dafür braucht es ihrer Meinung nach ein paar technische Grundlagen, die man verstanden haben muss, „aber nicht sehr viel mehr“. Der Rest ist für Katharina Zweig „Herzenssache und Kopfsache“. Mit der Frage nach dem Taktgefühl eines Algorithmus ist für sie die Frage nach dem Kontext gemeint. „Kann ein Computer ausreichend verstehen, was der Kontext einer menschlichen Handlung ist“, sagt die Bioinformatikerin.

Algorithmen sind keine geheime Macht

Der Wissenschaftlerin eilt der Ruf voraus, dass sie komplexe Themen leicht verständlich erklären kann. Und das stimmt offenbar! In zahlreichen Vorträgen, mit denen die Professorin seit Jahren durch das Land reist und die auch im Internet zu finden sind, weist sie gut nachvollziehbar und verständlich darauf hin: Algorithmen mit simplen Handlungsanweisungen, wie sie bei Rechtschreibprogrammen, Navigationssystemen oder Suchmaschinen verwendet werden, sind harmlos und „keine geheime Macht“, wie Katharina Zweig es nennt. Ihr geht es vor allem darum, dass auch Nicht-Informatiker Verständnis für die Technik und ihre mitunter verstörenden Auswirkungen auf die Gesellschaft entwickeln. Sie war lange selbst Algorithmen-Designerin und weiß: Das Aufbereiten von Daten durch Algorithmen bringt enorme Chancen. Damit jeder es schafft, zu verstehen, wie Algorithmen funktionieren, hat die Informatikerin im ersten Teil des Buches einen „Werkzeugkoffer“ gepackt, ehe sie in den „Maschinenraum“ steigt.

„Ohne Gehirn und Herz wird es nicht gehen.“

Gleichzeitig warnt die Informatikerin, die sich selbst bisweilen als Data-Scientist bezeichnet, vor übermäßigem Vertrauen in KI. Katharina Zweig bezeichnet vor allem Resultate von Algorithmen, die Menschen klassifizieren, als „entseelte Entscheidungen“, wenn diese Algorithmen nicht von Anfang an einer rigorosen Qualitätskontrolle unterworfen werden. Das wichtigste Arbeitsgerät ist dabei für die zweifache Mutter überraschenderweise „das Gehirn und das Herz, ohne das wird es nicht gehen.“

Wer entscheidet, was eine gute Entscheidung ist?

Wenn es beispielsweise um die Frage geht, ob Kriminelle wieder straffällig werden oder nicht. „Manche Regierungen in den USA haben entschieden, dass das mit Maschinen bewertet werden soll“, weiß die Autorin. Deshalb stellt sich für Katharina Zweig immer auch die Frage: Wer entscheidet, was eine gute Entscheidung ist? Ihrer Meinung „kriegt das die Maschine nicht zu 100 Prozent perfekt hin“. Für die Forscherin ist das eben „keineswegs nur eine technische Entscheidung, sondern eine Frage des Herzens und des Gehirns, was wir für die Gesellschaft am besten halten“.

In Deutschland einmalig: Sozioinformatik an der TU Kaiserslautern

Federführend hat Katharina Zweig an der Technischen Universität Kaiserslautern den bis dahin unbekannten Studiengang Sozioinformatik gestaltet, den ersten dieser Art deutschlandweit. Ihre Studentinnen und Studenten lernen Programmieren genauso wie die Grundlagen empirischer Sozialforschung und Psychologie sowie Ökonomie, Recht und Ethik. Vor drei Jahren zählte die Forscherin zu den Mitgründern der Plattform AlgorithmWatch, der für Transparenz im Digitalen eintritt. Hierfür wurde der Berliner Thinktank mit der Theodor-Heuss-Medaille ausgezeichnet. Und für ihre engagierte Wissenschaftskommunikation bekam die gut vernetzte Politikberaterin dieses Jahr den renommierten Communicator-Preis.

Zu verstehen und sich einzumischen ist extrem wichtig

Zu verstehen und sich einzumischen, hält Katharina Zweig für extrem wichtig. Vor allem da, wo Maschinen „lernen“, also künstliche Intelligenzen eingesetzt werden. Diese errechnen nicht einfach nur Ergebnisse, sondern erkennen Verbindungen zwischen Daten und interpretieren sie. Informatikern sei nicht immer klar, wann sie eine Entscheidung über einen Algorithmus treffen, die eigentlich die Gesellschaft demokratisch hätte entscheiden müssen, weiß die Professorin. Oft würden in einem Algorithmus an vielen Stellen ethische Grundannahmen der Person stecken, die ihn geschrieben hat. Und zwar völlig unbewusst. Wie schnell es dabei zu Fehlurteilen kommen kann, zeigt die Wissenschaftlerin gut nachvollziehbar an einigen Beispielen.

Der Algorithmus trägt keine Verantwortung

Die Informatikerin lehnt den Einsatz von KI ab, wenn es etwa um autonome Waffensysteme oder die Identifizierung von Terroristen geht. Und persönlich findet sie „die Vorstellung, von einem Algorithmus bewertet zu werden „immer noch sehr schräg und sehr schwierig“. Wenn man aber nachweisen kann, „dass das Gesamtsystem aus menschlicher Entscheidung und maschineller Unterstützung nachher tatsächlich zum Beispiel mehr Menschen in den Arbeitsmarkt zurückverhilft und dass das gerechter verteilt wird, dann können wir damit leben.“ Wichtig ist Katharina Zweig, „dass klar ist, wer die Verantwortung trägt und das ist nicht der Algorithmus. Der Algorithmus an sich ist nicht unmoralisch, sondern er wird in einer Situation unmoralisch verwendet oder naiv verwendet. Seine Verwendung kann unmoralisch sein, wenn nicht nachgewiesen wurde, dass er bessere Entscheidungen trifft als die Menschen, die das vorher gemacht haben.“

Anfang des Jahres hat Katharina Zweig mit einem ehemaligen Doktoranden und ihrem Mann Winfried, einem Pädagogen, ein Beratungsunternehmen gegründet, das auf Vertrauen setzt: Trusted AI (www.trusted-ai.com). Um Softwaremissbrauch zu verhindern, haben sie gemeinsam eine Risikomatrix geschaffen, mit der Algorithmen reguliert werden können. Für die Forscherin ist vor allem dort eine strenge Überprüfung angebracht, wo es um die Bewertung von Menschen gehe, die zu einer Schlechterstellung führen könnte. Die gebürtige Hamburgerin wünscht sich für Europa einen einheitlichen Qualitätssicherungsprozess für Algorithmen. Kein Gesetz, sondern einen begleiteten Einbettungs- und Entwicklungsprozess. Entscheidungen über Algorithmen müssten ihrer Meinung nach viel häufiger demokratisch getroffen werden. Dann hätte Europa einen wichtigen Standortvorteil bei künftigen Entwicklungen.

Fazit: Ein kluges-durchaus leicht verständliches Buch

Lebendig, unterhaltsam und leicht verständlich erläutert Katharina Zweig nicht nur das kleine ABC der Informatik, wie sie es nennt. Sie greift immer wieder auf Beispiele aus dem Alltag zurück, wenn es um technische Grundlagen, um Grundbegriffe oder um naturwissenschaftliche Erkenntnisse geht. Selbst wenn es um so etwas schwer zu fassendes wie Ethik geht, erweist sich die Informatikerin als wunderbare Erzählerin. Beim Lesen begleiten einen viele kleine Zeichnungen der Autorin und die Comicfigur KAI (aus KI und AI, englisch für artificial intelligence). Weil KAI es ist, der nicht gleich alles versteht, fühlt man sich beim Lesen entlastet. So macht es einem Katharina Zweig leicht, allmählich zu verstehen, wo KI sich irrt und wie man am besten die Kontrolle behält.

Film-Porträt der Communicator-Preisträgerin 2019 Prof. Dr. Katharina Anna Zweig

zurück zur Übersicht