An Heiligabend bekamen die Social-Media-Aktivistinnen Anna-Lena von Hodenberg und Josephine Ballon von HateAid – einer Organisation, die sich gegen Hass im Internet engagiert – von der US-Regierung ein ungeliebtes Weihnachtsgeschenk.
Wegen angeblicher Zensur wurden sie und weitere Europäer, die sich für ein nach rechtsstaatlichen Prinzipien funktionierendes Internet einsetzen, mit einem Einreiseverbot in die Vereinigten Staaten belegt. Noch am selben Tag gab es Reaktionen aus der Politik, die diesen Schritt zurecht als inakzeptabel bezeichneten.
Über die unmittelbaren Folgen hinaus zeigt uns die Maßnahme der US-Regierung vor allem eines: wie wenig Hoffnung wir auf eine Selbstbeschränkung der Digitalplattformen und eine Regulierung der Algorithmen haben können.
Intensive Nutzung sozialer Medien bedroht geistige Entwicklung von Kindern und Jugendlichen
Seit Monaten wird in der EU über Altersbeschränkungen für soziale Medien diskutiert, nachdem die Forschung Alarm geschlagen hat, dass die zu intensive Nutzung sozialer Medien die gesunde geistige Entwicklung von Kindern und Jugendlichen bedroht. Soziale Medien sind aber nicht nur für Heranwachsende ein Problem.
Algorithmen teilen vor allem emotional aufgeladene Posts, Hassbotschaften und Fake News
Mittlerweile sind sie zum Sprengstoff für den gesellschaftlichen Zusammenhalt als Ganzes geworden, weil die Algorithmen allen voran emotional aufgeladene Posts, Hassbotschaften und Fake News teilen, anstatt Nutzern ein ausgewogenes Bild verschiedener Ansichten und Meinungen zu präsentieren.
Statt Foren öffentlicher Debatte sind die sozialen Medien zu Schmierblättern verkommen, in denen man ungestraft diffamieren und Hass verbreiten darf. Und zynischerweise werden jene, die sich dagegen einsetzen, nun der Zensur beschuldigt.
Wie das Geschäftsmodell der Digitalplattformen funktioniert
Aber warum befördern die Algorithmen der Digitalplattformen überhaupt Hass, Hetze und Fake News? Um das zu verstehen, müssen wir zunächst einen Blick darauf werfen, wie die Aufmerksamkeitsökonomie funktioniert, auf der das Geschäftsmodell der Digitalplattformen beruht.
Hass und Hetze treiben die Algorithmen der Digitalplattformen
Digitale Plattformen – ob es sich nun um Kleinanzeigen, Immobilienseiten, Dating-Apps oder die großen sozialen Medien handelt – funktionieren alle nach dem grundlegend gleichen Muster.
Sie bringen durch eine technische Infrastruktur (App oder Website) unterschiedliche Nutzergruppen zusammen: Wohnungssuchende und Vermieter, Käufer und Verkäufer, Singles, oder Personen, die Unterhaltung oder Austausch mit anderen suchen.
Der Schmierstoff, der Plattformen funktionieren lässt, sind Nutzerdaten und Algorithmen, die diese auswerten. Sucht man z.B. eine Wohnung oder ein Hotelzimmer, möchte man selbstverständlich nicht unnötig lange damit zubringen, die Ergebnisseiten zu durchforsten.
Prinzipiell sind Algorithmen und Digitalplattformen eine gute Sache
Stattdessen freut man sich, dank Filterfunktionen und personalisierter Algorithmen zuerst Ergebnisse zu sehen, die für einen persönlich relevant sind.
Das Gleiche gilt für Filme oder Songs, die durch Algorithmen vorgeschlagen werden. Prinzipiell sind algorithmische Filter und Digitalplattformen also eine gute Sache, da sie uns helfen, schneller und bequemer das zu finden, wonach wir suchen.
Der Betrieb von Online-Plattformen kostet allerdings eine Unsumme – nicht nur für die notwendige IT-Infrastruktur, sondern allen voran auch für den Kampf um Marktanteile. Dieser ist in der digitalen Welt aufgrund der dort vorherrschenden "Netzwerkeffekte" besonders ausgeprägt.
Plattformen investieren sehr viel darin, eine marktbeherrschende Stellung aufzubauen
Netzwerkeffekte bedeuten, dass der Mehrwert der Nutzung einer Online-Plattform umso größer ist, je mehr andere Marktteilnehmer sich bereits auf dieser versammeln. Als Wohnungssuchender möchte man natürlich auf die Plattform zugreifen, auf der die meisten Wohnungen angeboten werden, und eine Messenger-App nützt nur dann, wenn die eigenen Freunde diese auch benutzen.
Entsprechend investieren Plattformen sehr viel darin, eine marktbeherrschende Stellung aufzubauen, weil sie sonst selbst vom Markt gedrängt werden. Wir sehen diesen Kampf um Marktanteile mit jedem neuen Plattform-Typus aufs Neue: Vor wenigen Jahren wurde er zwischen den Online-Lieferdiensten geführt, jetzt vor allem im Bereich generativer KI.
Es gibt diverse Möglichkeiten, aus Nutzerdaten Geld zu machen
Dort versuchen sich die Marktführer von OpenAI, Google und Anthropic mit immer leistungsstärkeren Modellen gegenseitig zu übertrumpfen. Um das zu finanzieren, greifen die Plattformbetreiber auf die eine Ressource zurück, die sie reichlich zur Verfügung haben: Nutzerdaten.
Es gibt diverse Möglichkeiten, aus Nutzerdaten Geld zu machen, und bei den sozialen Medien sehen wir, zu welchen Blüten die Datengier führt: In der Aufmerksamkeitökonomie der Plattformen gilt es, Nutzer möglichst lange vor die Bildschirme zu fesseln, denn so kann ihnen mehr personalisierte Werbung vorgespielt werden.
Der schöne Nebeneffekt ist, dass Nutzer durch ihr Klick- und Konsumverhalten noch helfen, die Algorithmen weiter zuzuschneidern und die Abhängigkeit vom nächsten "Reel" weiter zu vergrößern.
Emotionen und Suchtpotenziale von Nutzern werden gezielt angesprochen
Die Wissenschaft hat längst gezeigt, dass die Mechanismen der Vorschlagsalgorithmen und endlosen Newsfeeds sich an einarmigen Banditen in Spielkasinos orientieren. Alles wird so ausgerichtet, dass Nutzer möglichst viel Zeit auf den Plattformen verbringen, Werbung konsumieren und immer mehr Daten freiwillig abgeben.
Um diesen Prozess am Laufen zu halten, gibt es keine bessere Methode, als Emotionen und Suchtpotenziale von Nutzern gezielt anzusprechen. Keine Nachricht ist so neuartig wie Fake News, und keine Aussage so aufregend wie aufpeitschende Hassrede.
Gesellschaftlicher Zersetzung durch soziale Medien etwas entgegensetzen
Statt eines neutralen Forums für den Austausch von Ideen und Meinungen sind die amerikanischen Plattformen deshalb – und zwar mutwillig durch das Design der Vorschlagsalgorithmen – zu Orten des Hasses und der Verleumdung geworden.
Dabei könnten Algorithmen problemlos anders aufgesetzt werden, indem sie etwa Posts in chronologischer Reihenfolge anzeigen und so das Teilen von Hassbotschaften und Fake News deutlich reduzieren.
Aus Sicht der US-Regierung, die mit den Plattformbaronen gemeinsame Sache macht, ist es deshalb nur folgerichtig, Social-Media-Aktivisten aus Deutschland die Einreise zu verwehren und ihre Arbeit zu erschweren. Denn nichts wäre ein schlimmerer Schlag gegen die zügellose Plattformökonomie als eine Social-Media-Welt ohne Hass und Hetze, ohne bewusst geschürte Emotionen und Fake News.
Digitale Souveränität ist mehr als nur Mikrochips und Rechenzentren
Das Verhalten der US-Regierung führt uns die Abhängigkeit von amerikanischen (und chinesischen) Digitalplattformen vor Augen, die den Markt für soziale Medien und Online-Kommunikation vollständig kontrollieren. Um Hass und Hetze von unseren Smartphones zu bekommen, braucht es endlich eine Alternative aus Europa.
Digitale Souveränität – das Stichwort der Stunde in europäischen Ministerien und Konzernzentralen – muss also deutlich weiter gefasst werden als bisher. Digitale Souveränität heißt nicht nur, Mikrochips und Halbleiter in Europa herzustellen.
Es heißt allen voran, auch der gesellschaftlichen Zersetzung durch soziale Medien etwas entgegenzusetzen durch eigene Plattformen, die nach europäischen Werten funktionieren.
Wir brauchen endlich eine eigene Kommunikationsplattformen
Es führt kein Weg mehr daran vorbei: wenn wir europäische Rechte im Internet durchsetzen wollen, brauchen wir endlich eigene Kommunikationsplattformen. Wir machen bei der derzeitigen Debatte um digitale Souveränität den Fehler, den wir schon in der Vergangenheit gemacht haben, uns ausschließlich auf das Physische zu konzentrieren: auf die Anzahl an in Europa produzierten Chips und Halbleitern und auf die Anzahl und Größe von KI-Rechenzentren.
Dabei verlieren wir aus den Augen, dass die digitale Transformation vor allem im Digitalen selbst stattfindet. Die Daten sind frei, aber im Moment kennen sie nur einen Weg: von europäischen Nutzern als Futter für die Datenkraken der amerikanischen Plattformen.
Die Bundesregierung und die EU-Kommission sind nun gefragt. Sie müssen eine glaubhafte Digitalstrategie entwerfen, die sich nicht nur damit begnügt, nach jahrelangen Verfahren Milliardenstrafen gegen Google und Co. durchzusetzen, sondern die an einer wirklichen Alternative zur Dominanz der US-Plattformen arbeitet. Die grundlegende technische Infrastruktur ist da für die Erschaffung eines europäischen sozialen Netzwerks.
Ein Internet für 400 Millionen Europäer ohne Hass und Hetze
So wie sich der europäische Finanzdienstleister Wero als Alternative für Paypal etabliert, so muss eine an europäischen Werten orientierte und auf wissenschaftlichen Erkenntnissen beruhende soziale Kommunikationsplattform aus Europa und für Europa eine wirkliche Alternative werden, um der Manipulation durch die Algorithmen der sozialen Medien etwas entgegenzuhalten.
Auch wenn es derart utopisch erscheint, den amerikanischen Plattformen eine Alternative entgegenzusetzen, müssen wir unser Licht nicht unter den Scheffel stellen: So hat die europäische Datenschutz-Grundverordnung seinerzeit zu einer Anpassung des Datenschutzes weltweit geführt, weil Plattformen nicht den Zugang zum europäischen Markt verlieren wollten.
Genauso können wir nun wieder die Größe des europäischen Marktes nutzen, um die nötigen Netzwerkeffekte in Gang zu bringen und so eine wettbewerbsfähige europäische Social-Media-Plattform zu schaffen. Alles, was wir brauchen, ist die Vorstellungskraft, dass ein anderes Internet möglich ist, ein Internet, das 400 Millionen Europäern eine Alternative zu Hass und Hetze im Netz bietet.
Dr. Fabian Braesemann lehrt Künstliche Intelligenz & Zukunft der Arbeit am Oxford Internet Institute, ist Mitglied am Complexity Science Hub in Wien und Forscher am Einstein Center Digital Future in Berlin. Er ist Teil unseres EXPERTS Circle. Die Inhalte stellen seine persönliche Auffassung auf Basis seiner individuellen Expertise dar.