Algorithmen vs. Humanismus

Wir müssen uns Gedanken machen über die Welt, in der wir in Zukunft leben wollen. Denn Algorithmen übernehmen immer Dinge in unserem Leben. Und verändern uns dabei ohne, dass wir es merken.  

Klar, es gibt eine ganze Menge Dinge, über die man sich im Moment Gedanken machen. Trump. Brexit. Bundestagswahl. Griechenland. Europa. All diese Dinge und Menschen verändern unsere Welt und sozialen Strukturen. Aber es gibt noch etwas anderes, was unser Leben vielleicht sogar noch nachhaltiger verändert: Algorithmen.

Technologische Quantensprünge haben die Menschheit schon mehrfach verändert. Der Buchdruck hat die Alphabetisierungsrate in Europa und der Welt massiv nach oben gedrückt und damit auch die Aufklärung und das Zeitalter der Philosophie beflügelt. Der mechanische Webstuhl, die Dampfmaschine und die daraus resultierende industrielle Revolution ebenfalls. Die Elektrizität hat Licht in unser Leben gebracht und auch die Wärme in unsere Wohnungen. Auch das Internet hat unser Leben schon verändert und ist zum einem integralen Bestandteil geworden. Doch jetzt kommen intelligente Algorithmen die neuronale Netzwerke steuern und tief in unser Leben und die Entscheidungsgrundlagen eingreifen, die wir alle haben.

Amazon ist ein gutes Beispiel dafür. Der relativ dumme Algorithmus, der uns sagt, was andere Menschen, die dieses Produkt gekauft haben, sonst noch so geshoppt haben, ist vielleicht auf den ersten Blick langweilig. Aber wer hat nicht schon mal geklickt und etwas entdeckt, was er dann gekauft hat? Die Kaufentscheidung wurde nicht mehr alleine von dem angetrieben, was ich brauche, sondern was mir vorgeschlagen wurde. Eine kleine Entmündigung.

Zukünftig werden diese Algorithmen aber intelligenter, weil sie immer mehr Daten über uns sammeln. Sie werden uns beobachten, Veränderungen wahrnehmen. Wenn wir Liebeskummer haben und zum zehnten Mal das Frank Sinatra Album „In the wee small hours“ hören, wird Spotify erkennen, dass wir gerade emotional verletzt sind und der nächste „Mix der Woche“ besteht dann aus Schnulzen. Rufen wir das Sinatra Album per Alexa ab, weiß Amazon schnell Bescheid und schlägt dann beim nächste Besuch Ratgeber für Liebeskummer vor.

Das ist alles ganz amüsant und vielleicht nicht so schlimm auf den ersten Blick. Jedenfalls nicht schlimmer als Liebeskummer. Aber Algorithmen arbeiten weiter und gehen tiefer. Versicherungen nutzen sie schon lange für die Risikoanalyse. Verständlich, denn Versicherungen waren bisher Solidargemeinschaften, so eine Analyse hilft Gefahr von der Gemeinschaft abzuwenden. Aber gerade Versicherungen sind gerade dabei, die Solidargemeinschaft aufzukündigen.

Für Autofahrer werden Telematik-Tarife angeboten. Dabei werden Fahrweise und Leistung analysiert. Fährt der Kunde ordentlich und sehr vorsichtig, kann er ein bisschen Geld sparen. Niemand schaut sich die Daten wirklich mehr an. Algorithmen übernehmen diese Aufgabe. Da viele aber nicht nur ihre Kfz-Versicherung bei einem Anbieter haben, sondern auch gleich noch die Lebens- und Krankenversicherung, besteht die Gefahr, dass diese Daten intern ausgetauscht werden. Du fährst zu schnell und hast deswegen einen schlechten Wert bei der Kfz-Versicherung? Dann wird die Prämie für deine Krankenversicherung gleich mal angehoben, weil das Risiko eines Unfalls steigt.

Du hörst gerne Leonard Cohen? Leute die Cohen hören, haben ein x-faches Risiko an einer Depression zu leiden. Die Krankenversicherung wird teuerer. Klingt blöd? Machen die Krankenversicherungen jetzt schon, in dem sie Daten erheben. Will man in eine PKV muss einen ellenlangen Fragebogen ausfüllen. Und wehe, man hat man die depressive Verstimmung vergessen, für die man vor sieben Jahren mal ein paar Medikamente bekommen hat.

Das war früher per Kugelschreiber in Fragebögen aufgenommen wurde, wird jetzt automatisch erfasst. Zwar sind die Datenbanken meist noch getrennt, aber die Unternehmen wissen, dass sie da auf einen teuren Schatz sitzen. Den sie zur Not auch mal meistbietend verkaufen können. Google macht es vor.

Einige Unternehmen experimentieren mit sogenannten „user behaviour prediction“, also dem Versuch herauszufinden, was der Kunde als nächstes macht oder mögen könnte. In den USA probiert ernsthaft mittels Software „crime prediction“ zu etablieren. Teilweise mit erstaunlichen Ergebnisse.

Bisher waren die Datensammlungen harmlos, weil niemand etwas damit anfangen konnte. Jetzt werden sehr intelligente Algorithmen programmiert die über Deep-Learning-Netzwerke auch alte Datensätze durchforsten und verknüpfen. Während man selber nicht mal weiß, was man vor zehn Jahre mal in irgendeinem Online Dings eingetragen hat, sammeln die Netzwerke nun die Daten zusammen und verknüpfen sie zu einem Bild.

Schon jetzt lassen wir uns von Algorithmen leiten. Egal, ob beim Einkauf oder beim Sport. Wir lassen uns motivieren von dem, was Algorithmen für uns als richtig oder wichtig empfinden. Das Problem dabei: Algorithmen kennen (noch) keine Grauzonen. Wie Versicherungen erreichen sie einen Mittelwert von etwas, was sich im Rahmen dessen bewegt, was gut sein könnte. Und wenn es für eine Mehrheit gut ist, dann wird ja wohl stimmen.

Die Befürchtung ist, dass Algorithmen in Zukunft dafür sorgen, dass alles gleich wird. Das man als Mensch unbedingt dem Mittelwert entspricht. Dass man nicht ausbricht. Aber Menschen sind komplexer und Algorithmen kennen weder Fantasie noch den Wunsch etwas zu entdecken. Sie kennen keine Gefühle, sie können sie nur interpretieren.

Das Diktat von Algorithmen schneidet das Menschliche ab. Und der Mensch besteht aus falschen Entscheidungen, Irrationalitäten, Ängsten, Freude und der Lust, einfach mal plötzlich was anders zu machen. Menschen rauchen, auch wenn sie wissen, dass es falsch ist. Menschen haben Lust auf einen Baum zu steigen, auch wenn sie wissen, dass ein morscher Ast Konsequenzen haben kann. Menschen ändern sich komplett, weil irgendwas leid sind.

Algorithmen können das alles nicht, sie beobachten nur. Sie ziehen ihre Schlüsse daraus, was sie kennen, was die Mehrheit der anderen Menschen macht. Aber so kann der Mensch nicht leben, denn in so einem Leben entsteht keine Kreativität, keine Kunst. So geht man am Ende ein und lebt ein vorprogrammiertes Leben, das keine Höhen und keine Tiefen kennt, sondern nur den Mittelwert.

Wir müssen aufpassen, wie wir mit Algorithmen umgehen. In welchen Bereichen des Lebens wir sie reinlassen, weil sie uns helfen, und in welchen wir ihnen ihre Arbeit verbieten. Und wir müssen heute damit anfangen. Es braucht Gesetze für Algorithmen, die klar vorschreiben, was sie dürfen und was nicht. Die nicht Effizienz oder die Gewinne eines Unternehmen beschützen, sondern den Menschen in all seiner Vielfalt. Gesetze, die dafür sorgen, dass wir frei von der Angst leben können, dass irgendein Algorithmus uns dabei bremst, dass zu sein, was wir sein wollen. Anders zu sein, als andere Menschen.

Wenn wir diese Gesetze nicht heute schaffen, dann laufen wir Gefahr in eine komplett gentrifizierte, genullte, mittelwertige Gesellschaft abzurutschen, in der es nichts anderes mehr gibt, als das Diktat des Algorithmus. Und in so einer Gesellschaft möchte wohl niemand leben.

4 Antworten zu „Algorithmen vs. Humanismus“

  1. Ich glaube, es sind erschreckend viele Leute, die in so einer Gesellschaft leben möchten. Nämlich ein Großteil derer, die sich für die (schweigende) Mehrheit halten. Alles ausgrenzen, wozu man sich selbst nicht zugehörig fühlt. Unter Teenagern ist „Mainstream“ längst kein Schimpfwort mehr.

    Ich denke, es verhält sich genau andersrum: Algorithmen sind deshalb so deshalb so beliebt, weil die Menschheit immer langweiliger wird.

    Ansonsten gilt: Besonders PKVs verbieten, Einheitskrankenkasse für alle.

  2. Prometheus

    Ein guter, wichtiger Text, Don, danke dafür!

    Die NZZ hatte vor einiger Zeit auch schonmal nen Artikel zum Thema Apps/Algorithmen und Stadt-Wahrnehmung, den finde ich auch lesenswert, geht in die gleiche Richtung:
    https://www.nzz.ch/feuilleton/smartphone-apps-veraendern-die-stadt-wenn-algorithmen-uns-fuehren-ld.136761

  3. Früher gab es dieses Musikgeschäft in der Altstadt mit einem „richtigen“ Musikalienhändler. Noten durfte man nicht eben schnell durchblättern – auf Verlangen wurden die vom Verkäufer aus dem Regal genommen und auf einen mit grünem Filz bespannten kleinen Tisch gelegt. Mit der Mahnung, nichts zu knicken. Das war … ungewohnt.

    Genauso ungewohnt: der Mann konnte sich merken, was man gekauft hat. Nach zwei, drei Besuchen hat er angefangen, auf neu erschienene CDs und Noten hinzuweisen. Die Empfehlungen waren immer großartig und die meisten CDs hätte ich selbst nicht entdeckt. Ich war beeindruckt und begeistert und habe einen Haufen Geld dort gelassen. Leider wurde das Geschäft schon vor Jahren geschlossen.

    Bei Amazon war ich Anfangs genauso begeistert über die Vorschläge, die aus meinen Käufen resultierte. Bis es mir unheimlich wurde. Irgendwann hatte ich den Eindruck, dass die genau wissen, was in meinen Regalen steht. Und ich habe angefangen, meine Käufe über mehrere Online-Shops zu streuen und Bücher gleich beim örtlichen Buchhändler zu bestellen. Nicht ganz so bequem, aber weniger beunruhigend.

    Bei Daten kommt es immer auf die Interpretation an. Habe gerade eine Studie über beliebte Autofarben gelesen, die zu dem Schluss kam, dass die Leute Weiß bevorzugen, gefolgt von Silber und Schwarz. In den Kommentaren zum Artikel wurde dieses Bild schnell korrigiert: Weiß sei die einzige Farbe, die es bei vielen Herstellern ohne Aufpreis geben würde. Und weil viele Neuwagen von Firmen gekauft würden, seien die meistens silbern oder schwarz.

    Wir bräuchten dringend Regeln. Aber woher sollen die kommen, solange die Politiker von Neuland sprechen? Ich hatte ja auf die Piraten gehofft; leider vergeblich.

  4. @Klaus das mit den Farben ist ein interessanter Punkt. Ich habe auch am meisten Respekt davor, WIE etwas interpretiert wird. Am Ende jeder Datensammlei und jedes Algorithmusdenkens wird nämlich nicht mehr der Mensch nach seinem Standpunkt oder seiner Version der Dinge gefragt. Es gilt mehr das „Wort“ eines Algorithmus als das des Menschen.