Unkategorisiert – Seite 13 – Alexandra Borchardt

25. Januar 2019

Warum wir das Effizienz-Diktat brechen müssen

Es gehe vor allem darum, »sinnstiftende Verbindungen unter Freunden zu fördern«, hatte Mark Zuckerberg gesagt. Mit diesen Worten begründete der Facebook-Chef offiziell, dass der Algorithmus des Plattformunternehmens Beiträge von Privatleuten bald höher bewerten würde als jene von Medien. Das Ergebnis zeigte sich prompt. Während die Nutzer/innen nach wie vor viel Zeit in den digitalen sozialen Netzwerken verbringen, stoßen sie dort nun auf deutlich weniger Journalismus, wie der Digital News Report des Reuters Instituts for the Study of Journalism der Universität Oxford ergab.
Dies ist nur ein Beispiel das zeigt: Die Macht der Techkonzerne über unser Leben ist gewaltig und sie wächst. Wenn Facebook am Algorithmus schraubt, sehen wir andere Beiträge von Freunden und Fremden. Wenn Google das Gleiche tut, erscheinen Suchergebnisse in veränderten Reihenfolgen. Und Amazon prägt nicht nur unsere Einkaufs- oder Musikpräferenzen, es wird sich – wie die Wettbewerber – mithilfe von omnipräsenten Sprachassistenten massiv in unser Leben einschleichen. Software, meist aus den Schmieden mächtiger Konzerne, beeinflusst aber nicht nur unsere Vorlieben und unser Verhalten. In Form von künstlicher Intelligenz wird sie mit uns darum konkurrieren, wer welche Aufgaben im Alltag erledigen wird: Maschine oder Mensch.
Müssen wir uns davor fürchten? Immerhin nehmen uns Roboter stupide Arbeiten ab, Suchmaschinen liefern uns mehr Antworten, als uns Fragen einfallen, und Autopiloten haben das Fliegen sicherer gemacht als eine Autofahrt ins Büro. Ginge es der Menschheit also nicht besser, wenn sie ihre Probleme den großen Softwarefabriken anvertraute, um sie von Algorithmen lösen zu lassen? Schließlich können diese auf (fast) unendlich viel mehr Daten zurückgreifen und sind dabei weniger störanfällig als das menschliche Gehirn.
Allerdings glauben nicht einmal die Protagonisten des Silicon Valley, dass künstliche Intelligenz nur harmlos ist. Tesla-Gründer Elon Musk formulierte seine Bedenken einmal so: »Wir bewegen uns entweder in Richtung Superintelligenz oder auf das Ende der Zivilisation zu.« Nun ist Alarmismus selten hilfreich. Szenarien, in denen Roboter die Macht an sich reißen und die Menschheit auslöschen, passen deutlich besser in Science-Fiction-Lektüre als in die reale Welt. Aber das ist noch lange kein Grund, sich in das kleine Glück der Bequemlichkeit zu flüchten und die Entwicklung der Digitalisierung hinzunehmen wie das Wetter. Denn Software wird von Menschen gemacht und eingesetzt. Wir Menschen müssen deshalb dafür Verantwortung übernehmen.

Optimierung für die breite Masse
Die Algorithmen selbst sind dabei erst einmal nicht mehr als Rechenoperationen, wenn man so will, die Gehirnströme des Computers. Sie rechnen aus, wie wir am besten von A nach B kommen, geben uns Buchempfehlungen und können aus vier Zutaten ein Rezept komponieren. Sie steuern Rasenmäher wie Drohnen, helfen bei der Partnerwahl und könnten Hochleister bei der Diagnose von Krankheiten werden. Allerdings sortieren sie auch Bewerber/innen für Jobs oder Bankkredite aus. Sie fällen also wichtige Urteile darüber, wie viel Vertrauen ein Mensch verdient. 2017 hat das amerikanische Forschungsinstitut PEW Research 1.500 Fachleute zu ihrer Meinung über künstliche Intelligenz befragt. 38 % meinten, dass in einer von Algorithmen getriebenen Welt die Vorteile überwiegen werden, 37 % waren vom Gegenteil überzeugt. Der Rest sagte, beides würde sich die Waage halten. Aber eines besorgte alle: dass Menschen Verantwortung nur zu gerne an Software abtreten. Und das muss schiefgehen.
Dabei spielt es keine Rolle, in welchem der beiden Systeme man sich bewegt, die sich derzeit in der digitalen Welt herauskristallisieren. Das eine ist das amerikanische, von kommerziellen Interessen getriebene, das den nimmersatten Konsumenten erschaffen möchte. Das andere das chinesische, hinter dem ein autoritärer Staat steckt, dessen Vision der ideal ans System angepasste Staatsbürger ist. In beiden Welten verschwindet zunehmend die Freiheit, wie wir sie kennen.
Dort, wo wir rund um die Uhr über allerlei Geräte mit Supercomputern vernetzt sind, wo nicht nur Smartphones sondern auch »intelligente« Uhren, Kleidung, Häuser, Autos und bald vieles mehr im Minutentakt Daten über unser Verhalten sammeln und senden, lässt sich schon qua Logik das nicht mehr sicherstellen, was wir bislang unter Freiheit verstehen: einigermaßen unbeobachtet von staatlicher oder kommerzieller Kontrolle experimentieren, diskutieren, Ideen haben, uns bewegen, konsumieren, Beziehungen pflegen, ja lieben. Dort, wo mindestens zwei große Garanten der Freiheit – Bargeld und Landkarten – von Bezahl-Apps und Ortungssystemen abgelöst werden, wo intime Gespräche zunehmend von elektronisch dokumentierten Chats ersetzt werden, wird Freiheit eine andere Gestalt bekommen. Und dort, wo Algorithmen uns mindestens sanft beeinflussen, uns aber auch konkret steuern können, wandelt sich das Bild von Freiheit immens.
In einer von Algorithmen getriebenen Welt gelten wichtige Gesetzmäßigkeiten. Erstens, Effizienz geht vor Fairness. Algorithmen empfehlen, was für die Masse gilt, nicht für den Einzelnen. Zwar können sie Vorschläge je nach Datensatz individualisieren, aber generell rechnen sie in Wahrscheinlichkeiten. Der Schutz Einzelner zählt wenig, besondere Lebensumstände werden nicht berücksichtigt. Nun ist das Leben ohne Algorithmen auch nicht fair, der »Nasenfaktor«, also letztlich das Gefühl bestimmt viele Entscheidungen. Aber in der Demokratie ist der Schutz des Individuums ein hohes Gut, jeder hat ein Recht auf ein faires Verfahren, selbst Verbrecher.

Vergangenheit siegt über Zukunft
Weil sich Algorithmen auf vorhandene Daten stützen, sind sie kondensierte Stereotype – es sei denn, sie werden anders programmiert. Ist zum Beispiel eine Stelle für Ingenieure ausgeschrieben, sind bislang erfolgreiche Ingenieure die Blaupause. Männliche Kandidaten haben deshalb bessere Chancen. Von Algorithmen gesteuerte Prozesse produzieren keine Innovationen. Sie funktionieren nach dem Grundsatz »weiter wie bisher, nur effizienter«. Anders ausgedrückt: Wer sich damit beschäftigt, das Fax besser zu machen, wird nie die E-Mail erfinden. Außerdem machen sie faul. Statt Neues auszuprobieren und selbst zu denken, verlässt man sich auf mundgerecht servierte Lösungen. »Künstliche Intelligenz kann niemals etwas erschaffen, das sich Menschen vorher nicht ausgedacht haben«, sagt die Soziologin Gina Neff vom Oxford Internet Institute.
Die US-amerikanische Mathematikerin Cathy O’Neil illustriert in ihrem Buch Angriff der Algorithmen, wie diese auf Kosten der Armen arbeiten: Firmen platzieren mithilfe von Software Werbung für zweifelhafte, überteuerte Produkte gezielt bei Menschen, die sie als anfällig identifizieren. Die elektronischen Werkzeuge sortieren Bewerber um Jobs oder Kredite nach Wohnbezirken; wohl dem, der eine ordentliche Postleitzahl hat. Ganz zu schweigen von den Auswirkungen künstlicher Intelligenz auf den Arbeitsmarkt. Wissenschaftler haben ausgerechnet, dass es noch 125 Jahre dauern wird, bis menschliche Arbeitskraft vollkommen durch Maschinen ersetzt wird, aber viele Jobs wie Lkw-Fahrer, Verkäufer oder Call-Center-Agent könnten schon bald verschwinden.
Anders ausgedrückt: Laut gewinnt immer. Das Phänomen kennt man von Google, elektronischen Kaufhäusern oder Hotelportalen. Sucht man nach einem Produkt, werden einem die beliebtesten vorgeschlagen. Viele greifen dann zu. Damit macht man starke Produkte stärker, die schwächeren verschwinden. Algorithmen können deshalb die Gesellschaft spalten. Der Echokammer-Effekt ist dem Blockbuster-Effekt sehr ähnlich. Algorithmen kalkulieren, welche Nachrichten jemanden besonders interessieren könnten und versorgt ihn bevorzugt damit. Tatsächlich nutzen Menschen zwar mehr Informationsquellen als früher, sie sortieren Meldungen aber eher nach ihren Präferenzen. Zum Beispiel können sich rechte Gruppierungen verstärkt international vernetzen und Meinungen, die manch einem früher peinlich waren, sind heute salonfähig.
Einige dieser Mechanismen stehen der Demokratie entgegen. Zunächst einmal regiert in der Demokratie nicht der Lauteste, der Blockbuster. Die Gewaltenteilung, ein austariertes System von »checks and balances«, also aus Überprüfung und Ausgleich, sorgt dafür, dass auch Minderheiten und Schwache geschützt werden und ihre Bürgerrechte ausüben können. Hinzu kommt das Prinzip der Repräsentation: Auch wer sich nicht ständig beteiligt, bewertet, abstimmt, hat Rechte, die ihm nicht genommen werden können. Privatsphäre und der Schutz der Menschenwürde sind die Lebensgrundlagen der Demokratie, Datenschutz ist deshalb zentral.
Ganz wichtig: In der Demokratie gibt es nicht die eine »beste« Lösung, die von einem Algorithmus ausgerechnet werden kann. Es geht immer um die tragfähigste Lösung, die ausgehandelt werden muss. Das ist die Logik der Politik. Zum Beispiel fühlt sich der eine frei, wenn er eine Zigarette rauchen kann, der andere, wenn er den Rauch nicht ertragen muss. Die Freiheit des einen endet immer dort, wo die des anderen beginnt. Das Tempo der digitalen Welt steht der Demokratie entgegen. Letztere ist mit voller Absicht langsam, von Versuch und Irrtum geprägt. Ihr Verständnis von Effizienz hat nichts mit Geschwindigkeit zu tun. In der Demokratie gibt es Brüche, Rückschritte, aber auch Durchbrüche in neue Zeiten. Kein Algorithmus hätte je den Mauerfall herbeigeführt. Demokratie ist von Menschen für Menschen gemacht, nicht für Maschinen.
Wichtigste Aufgabe muss es deshalb sein, die Macht der Monopole einzuschränken, ob das nun mächtige Konzerne oder starre Autokratien sind. Und es gilt, das Effizienzdiktat zu brechen. Wenn wir Menschen mit dem Computer um Effizienz konkurrieren wollen, haben wir schon verloren, in dieser Disziplin wird uns der Rechner immer schlagen. Wir müssen in der digitalen Welt menschliche Stärken ausspielen: Fantasie, Intuition, Empathie, Kooperation über Grenzen und Gegensätze hinweg, die Fähigkeit, auch mal größer und anders zu denken. Nur so lässt sich aus Krieg Frieden schaffen, aus Zerstörung Schöpfung, aus Einfalt jene Vielfalt, die uns stark macht.

Dieser Beitrag erschien in Neue Gesellschaft Frankfurter Hefte, Ausgabe 1/2 2019

19. Oktober 201819. Oktober 2018

Was kostet die Freiheit?

Algorithmen können Gleichberechtigung fördern, Social Media kann zum Wählen motivieren: Technologie ermöglicht den Menschen, ihre Rechte zu verteidigen. Aber sie liefert autoritaeren Staaten auch die Mittel, durch Überwachung und Zensur genau diese Freiheit zu beschneiden. Über ein Dilemma und das, was zu tun ist.

In der Redaktion der schwedischen Tageszeitung Dagens Nyheter ist man ziemlich stolz auf dieses Ding: den Gender Bot. Das Programm wertet für jeden einzelnen Text aus, wie hoch der Anteil männlicher und weiblicher Gesprächspartner oder Protagonisten darin ist, die Autoren bekommen ihre Bilanz dann einmal im Monat per Mail zugestellt, ganz unverbindlich, wie der Nachrichtenchef betont. Und trotzdem dürfte so manch ein Textfabrikant zusammenzucken. Schon wieder zu 90 Prozent Männer zitiert? Spätestens bis zum nächsten Jahresgespräch muss das wohl anders werden.

Man selbst findet das zunächst ziemlich genial. Endlich einmal wird Software dazu genutzt, auf simple Art gesellschaftlichen Wandel voranzutreiben. Allerdings fallen einem sofort jene Kollegen ein, die hier an Bevormundung denken würden. Das Fachwort dafür ist aber „Nudging“. Das ist jene sanfte Form der Beeinflussung, bei der man denkt, aus freien Stücken zu handeln, dabei hat einem irgendjemand schon die gefälligen Alternativen vorsortiert, meistens ein Algorithmus. Der Schrittzähler animiert einen zu mehr Bewegung, die Likes der Freunde unter den Facebook-Posts spornen einen dazu an, noch mehr von sich preiszugeben, und das bequeme One-Click-Shopping lässt einen zusätzlich dies und das in den Einkaufswagen schaufeln, obwohl man eigentlich nur schnell was nachschauen wollte. In der von Software gesteuerten Welt wird „genudged“, dass es nur so säuselt.

Und das Prinzip dahinter ist ja schlau. Statt überall mit Regeln, Verboten, Gesetzen, Vorschriften zu kommen, vertraut es darauf, dass der Mensch schon einsehen wird, wie er sich per digitalem Stupser zu einem besseren Selbst entwickeln kann. Ist das Bewusstsein erst einmal geschaffen, kommt das Handeln ganz von selbst. Jetzt gilt es nur noch zu definieren, was dieses bessere Selbst ist – also zum Beispiel jemand, der seine Stereotype bekämpft und auf Gleichstellung achtet, seinen Körper fit hält und brav zur Wahl geht, wenn er daran erinnert wird. Facebook hatte vor Jahren ein entsprechendes Experiment initiiert, als noch gar nicht die Rede von Russlands Rolle im amerikanischen Wahlkampf war. Ergebnis: Bürger, die auf Facebook gesehen hatten, dass ihre Freunde schon im Wahllokal waren, machten sich häufiger auf den Weg dorthin als die Vergleichsgruppe. Ein Nörgler ist, wer Böses dabei denkt.

Man kann aber auch ins Grübeln kommen. China zum Beispiel treibt die Digitalisierung massiv voran mit dem Ziel, den angepassten, produktiven, anständigen Bürger zu kreieren. Einen Bürger, der die Regeln nicht nur aus freien Stücken beachtet, sondern in Konkurrenz mit seinen Nachbarn übererfüllt voller Hoffnung auf Vergünstigungen. Nun spricht nichts gegen angenehme Nachbarn. Der Nebeneffekt ist aber: Wer sich widersetzt, lässt sich schnell identifizieren und sanktionieren.

Denn das ist der Haken an dieser digitalen Welt und der Freiheit, die darin wohnt: Man kann arbeiten, wann und von wo aus man will, man kann rund um die Uhr einkaufen, online einen Partner suchen, und wenn man sich traut, seinen Staatspräsidenten elektronisch beschimpfen. Aber man muss damit rechnen, dabei beobachtet zu werden. Von Vorgesetzten, die Arbeitsleistungen kontrollieren und auswerten, von Konzernen, die analysieren, welche Produkte sie einem noch unterjubeln könnten, von Versicherungen, die unser Lebenswandel interessiert, oder von irgendeiner Staatsmacht, die einem unangenehm auf die Pelle rücken kann, wenn der politische Wind plötzlich aus einer anderen Richtung bläst. Hat einem bislang allein das schlechte Gewissen zu schaffen gemacht, wenn man mal während der Arbeitszeit shoppen gegangen ist oder halb öffentlich über die Chefin gelästert hat, bekommt man es künftig womöglich mit ganz anderen Instanzen zu tun.

Wer sich online widersetzt, lässt sich schnell identifizieren Deshalb kommt jetzt der Warnhinweis: Wir müssen um den Schutz unserer Daten ringen. Das gelingt nur bedingt, wenn wir uns der digitalen Auswertung zuweilen aktiv und individuell entziehen, die Geräte mal abschalten, Vorlieben für uns behalten, nicht rund um die Uhr auf jedes rote Lämpchen reagieren, das uns das Smartphone hinwirft. Bürgerrechte wie der Schutz der Privatsphäre, der Wohnung, der freien Meinungsäußerung, ja der menschlichen Würde und körperlichen Unversehrtheit lassen sich nur politisch absichern. Dafür müssen wir streiten. Die Politik muss den Tech-Konzernen Regeln setzen, wie all jene Geräte gestaltet werden, denen wir unbedarft unsere Wünsche, Fragen, Vorlieben, Leistungsdaten und Gedanken anvertrauen, und es muss ebensolche Regeln dazu geben, was mit unseren Daten passiert – zum Beispiel wer darauf zugreifen darf und wann sie gelöscht werden. Das wird das digitale Leben womöglich etwas unbequemer machen. Aber auf lange Sicht werden wir freier sein. Frei genug, um die Welt nach unseren demokratisch vereinbarten Werten zu gestalten, beispielsweise per Gender Bot.

Dieser Text erschien zuerst in Sueddeutsche Zeitung Plan W – Frauen veraendern Wirtschaft, am 22. September 2018

10. August 2018

Rettet die Freiheit in die digitale Welt!

Offenbar war ein echter Datenskandal nötig, um die Debatte über die Freiheit in der digitalen Welt voll zu entfachen. Denn tatsächlich ahnten Bürger schon vor den Enthüllungen rund um Cambridge Analytica, dass ihre Daten bei Facebook – und nicht nur dort – ziemlich transparent und abrufbar gelagert werden. Nun musste Facebook-Chef Mark Zuckerberg zum Büßen antreten. Und siehe da: Die europäische Idee vom Datenschutz, der bislang der Geruch von Gängelei anhaftete, duftet in der Not selbst für ihn nach Freiheit.

Dabei hat Freiheit noch nie bedeutet, dass jeder jederzeit machen kann, was ihm gerade passt. Denn die des einen hört immer dort auf, wo die des anderen beginnt. Deshalb gibt es wahre Freiheit nur, wenn sich alle auf ein paar Regeln verständigt haben. Als kleinster gemeinsamer Nenner gelten die Grundrechte. Und selbst diese müssen im digitalen Zeitalter verteidigt werden. Die Freiheit der Gedanken, die Unverletzlichkeit des Körpers und der Wohnung, das Recht auf ein faires Verfahren – alles wird durch die neuen Möglichkeiten berührt.

Bislang hat die Digitalisierung vor allem polarisiert. Während die einen technologiebesoffen ihre eigenen Powerpoint-Vorträge bewundern, prognostizieren die anderen angesichts des Roboter-Zeitalters den Untergang der Zivilisation. Letzteres ist übrigens kein Privileg analoger Smartphone-Verweigerer. Kein geringerer als Silicon-Valley-Visionär Elon Musk hat die Möglichkeit des Weltuntergangs skizziert, gäbe man bei der Entwicklung von künstlicher Intelligenz das Steuer aus der Hand.

Die zentrale Botschaft: Der Mensch muss die Technik gestalten, nicht die Technik den Menschen. Nur so lässt sich Freiheit bewahren. Und nur in Freiheit gedeihen Menschlichkeit und jene Innovationen, die die Welt zu einem besseren Ort nicht nur für jene machen, die die modernen Produktionsmittel besitzen: Daten.

Bürger sein statt Konsument oder Untertan

Derzeit gibt es die digitale Welt grob gesagt in zwei Varianten. Variante eins ist die Konsumgesellschaft kapitalistischer Prägung, die von monopolistischen Konzernen getrieben wird. Variante zwei ist der autoritäre Staat, in dem das Monopol bei der Regierung liegt.

Der Antrieb der kapitalistischen Version ist die Bequemlichkeit, schon manch einer hat sie mit Freiheit verwechselt. Bürger werden als Konsumenten gebraucht, deren Aufgabe es ist, unablässig Daten zu produzieren. Diese werden in Algorithmen eingespeist, die zu weiterem Konsum verleiten und gleichzeitig Anwendungen der künstlichen Intelligenz füttern sollen. Der Consumer wird zum Prosumer.

In dieser Welt herrschen neben Apple, Facebook, Google und Amazon. Vor allem die Geschäftsmodelle letzterer basieren darauf, Aufmerksamkeit zu erlangen und neue Bedürfnisse zu wecken. Die Plattformen suggerieren dem Konsumenten Freiheit, aber in der Regel strukturieren sie seine Wahlmöglichkeiten so, dass er möglichst oft zugreift. Geht es nur um den Kauf einer Kaffeemaschine, sind die Folgen algorithmischer Beeinflussung zu verschmerzen. Werden aber Informationen und Meinungen, die jemand zu sehen bekommt, zu stark strukturiert, leidet der Wettbewerb der Ideen.

In der autoritären Version der digitalen Welt setzt der Staat mit Hilfe von Vernetzung plus Datenanalyse seine Agenda durch. Dazu benutzt er eine Mischung aus Abschreckung („big brother is watching you“), Ablenkung (wer konsumiert, politisiert nicht) und Anreizen. China exerziert derzeit vor, wie das funktioniert. Es gibt ein Punktesystem für die Bürger, nach dem Privilegien verteilt werden. Mit Freiheit hat das nichts zu tun.

Soll die digitale Welt eine freie sein, muss sie den selbstbestimmten Bürger fördern. Datenschutz und eine sichere Beteiligung an politischen Prozessen gehören genauso dazu wie die Transparenz öffentlicher Institutionen. Ebenso wie es staatliche Aufgabe ist, einen sicheren öffentlichen Raum zu schaffen, muss es einen sicheren digitalen Raum geben, in dem sich jeder frei äußern kann aber auch zu benehmen weiß. Die Analogie zur Straße passt, denn Verkehrsregeln sind auch dann allgemeingültig, wenn die eine oder andere Strecke privatisiert ist.

Auf das Design kommt es an

Smartphones machen süchtig, heißt es. Wissenschaftler sagen, sie funktionieren wie kleine Dopamin-Pumpen, die uns mit Glückshormonen fluten, wenn wir viele „Likes“ kassieren und uns hormonell beuteln, wenn in unserer „Inbox“ Leere herrscht. Algorithmen können den Massengeschmack fördern, weil sie kondensierte Vergangenheit sind und immer das nach oben spülen, was die Vielen mögen. Und Apps machen Nutzer zu gläsernen Menschen. Aber all das geschieht nur, wenn man es geschehen lässt.

Viel zu lange wurde die digitale Welt als quasi gottgegeben hingenommen, manch eine Prozessionen ins Silicon Valley mutete wie eine religiöse Handlung an. Doch mit dem Wissen schwindet manch spiritueller Zauber. Alle Geräte, die uns mit dem weltweiten Datennetz verbinden, alle Algorithmen, die uns steuern, alle Apps kann man so oder so bauen oder programmieren. Das digitale Zeitalter muss das Zeitalter guten Designs werden. Es gilt, Geschäftsmodelle, Technik, und die Politik zu gestalten, die sie reguliert.

Brecht das Effizienz-Diktat!

Ein weiterer Anfängerfehler könnte uns Zukunft kosten: wenn Digitalisierung allein dazu genutzt wird, Effizienz zu steigern. Innovationen entstehen, wenn Menschen Luft haben zum Denken, Ausprobieren, Kooperieren, durch Zufälle. Wenn wir uns auf Effizienz konzentrieren, konkurrieren wir mit Maschinen, und dann haben wir schon verloren. Wir müssen das trainieren, was uns von Robotern unterscheidet: Empathie, Gesprächskultur, Kreativität, Beziehungspflege. Denn das wird den Menschen 4.0 ausmachen.