Rechtsanwaltskanzlei Vera Hahn in Reutlingen

Datenzeitalter gerechter gestalten

Angriff der Algorithmen. Wie sie Wahlen manipulieren, Berufschancen zerstören und unsere Gesundheit gefährden. Cathy O’Neil. Hanser (2017), ISBN 9783446256682; EUR 24,00.

Wenige, mit denen ich spreche, benutzen anonyme Suchmaschinen anstelle von Google. Diese anonymen Suchmaschinen suchen über die eigenen Server, ohne mich als Suchenden zu identifizieren. Es werden also weder meine IP noch Tracking-Cookies verwendet. Der Suchmaschine Startpage.com wurde zum Beispiel per EU-Datenschutzzertifizierung die Einhaltung der Anonymität bescheinigt. Vielleicht würden diese anonymen Suchmaschinen mehr Menschen nutzen, wenn sie dieses Buch gelesen hätten.

Da Algorithmen Handlungsanweisungen sind, um ein Problem oder eine Fragestellung durch ein Durchlaufen von zahlreichen Einzelschritten zu lösen bzw. zu beantworten, sollten wir sie besser verstehen. Und die Folgen des Einsatzes von Algorithmen zum Beispiel in Suchmaschinen abschätzen können. Was passiert und welche Algorithmen-Praktiken werden eingesetzt. Denn WIE solch eine Fragestellung beantwortet wird, sollte ich als Fragende/r doch durchschauen können, will ich nicht manipuliert oder einseitig informiert werden.

Die Autorin ist Data Scientist, die aber ihren Beruf als Hedgefonds-Managerin aufgab, um zu Beschäftigungen mit Systemen zu wechseln, die dem Gemeinwohl dienen können. Sie schildert und erklärt zahlreiche spannende Fälle, wie Algorithmen für bedenkliche Systeme und Modelle mit höchst ungerechtem Ergebnis eingesetzt wurden und werden. Sie kommt zu dem Schluss, dass mathematische Modelle unsere Helfer und nicht unsere Gebieter sein sollten. Wir sollten die Systeme daher mit menschlichen Wertvorstellungen ausstatten und die Annahmen, die zur Erlangung von Ergebnissen aufgestellt werden müssen, auf Gerechtigkeit und Sinnhaftigkeit überprüfen. Sie schafft es, Schlussfolgerungen für Standards für den Einsatz von Algorithmen und Best Practices für Data Scientists zu ziehen, ohne mit unverständlichen technischen Details zu überfordern. Eine Betrachtung der eingesetzten Algorithmen wäre gesamtwirtschaftlich durchzuführen und zum Beispiel auch versteckte Kosten und unbekannte Variablen bei Datensammlungen offenzulegen. Die Bedrohung der Demokratie und ihrer für sie essenziellen Wahlen werden im Kontext der US-Wahlen, die Trump zum Sieg verhalfen, in erschreckender Weise aufgezeigt.

Die Autorin fordert, schnellstmöglich Gerechtigkeit und Rechenschaftspflicht in das Datenzeitalter zu überführen. Die Algorithmen und damit entwickelten Modelle, die eben auch empfindliche Schäden und fatale Ungerechtigkeiten auslösen können, sollten nicht den Entwicklern, Implementierenden oder großen Internetgiganten überlassen werden. Wir sollten den Algorithmen mehr misstrauen und uns der Datensammlung widersetzen. Die Nutzung einer anonymen Suchmaschine wäre meines Erachtens schon mal ein Anfang. Die Datensammlungen nicht als unbedeutend abzutun, entspräche darüber hinaus dem selbstbestimmten Willen, die Kontrolle und Klarheit über unsere Daten nicht an ein paar Internetgiganten abzugeben. Warum sollten wir diesen vertrauen, obwohl sie uns über ihre Methoden völlig im Unklaren lassen? Geht doch beispielsweise die Krankheit eines Menschen niemanden etwas an und würde daher auch kaum jemand offen auf der Straße darüber reden, so vertrauen viele die Angaben zu ihrer Krankheit dem globalen Konzern ihrer Suchmaschine an, der diese Daten munter sammelt. Nicht die Menge der Daten macht die Information des Einzelnen unbedeutend, sondern die Gefahr besteht in der Masse und folglich möglichen Kategorisierung.

Es sollte ein Ziel unserer Gesellschaft sein, dass jeder selbstbestimmt die Verantwortung für seine Daten übernehmen kann, auch um dem Missbrauch zum Nachteil einzelner oder bestimmter Gruppen vorzugreifen. Niemand möchte wohl als Teil einer Gruppe von Menschen nach beliebigen Kriterien identifiziert, kategorisiert und dann willkürlich ausgegrenzt, gezielt manipuliert oder ohne Transparenz in unbekannte Schubladen gesteckt werden.