Faschismus 2.0 – Das wandelnde Gesicht der Social-Media-Zensur

Eine KI-gesteuerte Inhaltsmoderation beeinflusst subtil die öffentliche Meinung und das politische Engagement.

von Paul Lancefield

Facebook verdient damit im Vereinigten Königreich nur etwa 34 Pfund pro Jahr an einem durchschnittlichen Kunden – etwas weniger als 3 Pfund pro Monat – und das vor Abzug der Kosten.

Es gibt also offensichtlich keinen Spielraum oder keine Motivation für einen Kundenservice, oder eine Kundenbetreuung auf menschlicher Ebene. Der Benutzer ist nicht der Kunde, sondern das Produkt, dessen Daten an Werbetreibende verkauft werden.

Benutzer haben also keine direkte Kundenbeziehung zur Plattform. Das Netzwerk hat keinen direkten Anreiz, sich zuerst um den Benutzer zu „kümmern“, bevor es um den Werbetreibenden geht.

Und egal, wo man sich auf dem Spektrum zwischen „absoluter Meinungsfreiheit“ und „private Unternehmen haben das Recht, jeden Benutzer zu zensieren“ befindet, bei so geringen Gewinnspannen ist es unvermeidlich, dass maschinelle Verarbeitung zum Moderieren von Posts und zur Handhabung der Kundenschnittstelle eingesetzt werden muss.

Aber es ist eine Tatsache, dass die Kundenverarbeitungs- und -verwaltungsfunktionen, die soziale Netzwerke jetzt entwickeln, auf vielfältige Weise genutzt werden und über die Moderation hinausgehen.

Und es ist auch wahr, dass diese automatisierte Verarbeitung in großem Maßstab erfolgt und jetzt auf jeden Beitrag jedes Mitglieds angewendet wird. 68% der US-Wähler sind auf Facebook. In Großbritannien sind es 66% und in Frankreich 73,2%.

Die Zahlen sind für alle demokratischen Länder im Westen ähnlich. Daher ist es von entscheidender Bedeutung, dass die angewandten Regeln politisch neutral sind.

Die Macht, die in der Fähigkeit steckt, die Beiträge aller Benutzer maschinell zu verarbeiten, ist viel tiefgreifender, als viele vielleicht erkennen. Und obwohl es nicht direkt diktieren kann, was Benutzer in ihren Nachrichten schreiben, hat es die Fähigkeit, grundlegend zu beeinflussen, welche Nachrichten Anklang finden.

Soziale Mediendienste sind zu De-facto-Marktplätzen geworden. Die meisten würden zustimmen, dass ihre Unternehmenseigentümer es vermeiden sollten, jemals ihre Hand in die Waagschale zu legen und die Politik beeinflussen zu wollen.

Darüber hinaus, wie jeder Facebook-Benutzer weiß, wird das System, insbesondere wenn es um politisch sensible Themen geht, die Reichweite einer Person einschränken – manchmal sogar in extremem Ausmass. Oder der Benutzer wird einfach für einen bestimmten Zeitraum, oder vollständig, aus dem Netzwerk verbannt.

Wir können also die Frage stellen: Woher wissen wir, dass die Social-Media-Konzerne, wenn sie über so viel Zensurmacht verfügen, nicht unethische politische Einmischung betreiben? Kann man ihnen diese Verantwortung anvertrauen? Ich werde auf diese Frage zurückkommen, aber es ist klar, dass das Vertrauen in diese Konzerne zutiefst fehl am Platz ist.

Die Pandemie hat vielen Menschen die Augen dafür geöffnet, wie viel Kontrolle die Verantwortlichen unserer sozialen Netzwerke ausüben. Sie schreiben die Regeln, um das Engagement für von ihnen favorisierte Beiträge zu steigern, und machen die Followerzahlen bestimmter Personen wertvoller.

Umgekehrt erleben Nutzer, die gegen den Strom – oder gegen die Erzählung des Establishments -schwimmen, eine subtile Verringerung ihres Engagements, oder sogar einen Totalverlust. Oder aber, sie können vollständig vom Dienst ausgeschlossen werden.

Und die Beweise zeigen, dass bei Facebook, Twitter und YouTube, intensiv nach „Andersdenkern“ Ausschau gehalten wurde, wenn etwas entgegen den Prinzipien der Demokratie durchschimmerte.

Als Elon Musk Twitter kaufte, lud er die unabhängigen Journalisten Matt Taibbi, Bari Weiss und Michael Schellenburger in die Twitter-Büros ein, um die interne Unternehmenskommunikation zu untersuchen und herauszufinden, in welchem ​​Ausmaß die Vorbesitzer die Tweets der Nutzer zensiert hatten.

Die Twitter Files sind das Ergebnis, und sie zeigen deutlich, dass es eine Einmischung in großem Umfang gegeben hat, und dass es in vielen Fällen auch aus politischen Gründen geschah. Das Twitter Files-Team hat sich so eingerichtet, dass Regierungsbehörden fest in das Unternehmen eingebettet sind, US-Bürger überwachen und zensieren.

Die Bürger anderer Nationen und Regierungsbehörden forderten regelmäßig starke Zensurmaßnahmen. Aber darüber hinaus deckten sie auf, dass ein ähnliches Maß an Einmischung in andere Social-Media-Netzwerke, wie Facebook, stattgefunden hat.

Aber seit Twitter Beweise für die Einmischung eingereicht hat, ist eine neue und möglicherweise noch größere Einmischungsgefahr aufgetaucht. KI, die Künstliche Intelligenz.

Es gab eine Zeit, in der es so schien, als wären Algorithmen das einzige Gesprächsthema, über das digitale Marketer diskutieren konnten. Und da es auf der Ebene einzelner Beiträge keinen Spielraum für menschliche Eingriffe gibt, wurden Algorithmen verwendet.

Am Anfang waren sie recht einfach, wie die Gleichungen, die wir im Matheunterricht in der Schule geübt haben, so dass sie relativ einfach zu berechnen waren. Der Aufstieg von Google wurde von einer einfachen, aber brillanten Idee angetrieben: Externe Links zu einer Webseite, die als Indikator für die Relevanz dienen.

Doch Algorithmen sind inzwischen komplexeren Modellen des maschinellen Lernens gewichen, die im Kern zwar immer noch auf Algorithmen basieren. Diese werden jedoch inzwischen automatisch generiert und sind so umfangreich, dass jeder menschliche Versuch, sie zu entwirren, zum Scheitern verurteilt ist.

Daher beschränken wir unsere Überlegungen dazu auf das, was sie leisten können und welche wichtigen Dinge sie unterscheiden können, anstatt genau zu wissen, wie der Code funktioniert. Und jetzt sind wir in eine dritte Technologiegeneration eingetreten. Das maschinelle Lernen hat sich in die Entwicklung von „Large Language Models“ (LLMs) oder, populärer, KI verwandelt.

Und mit dieser jüngsten Entwicklung haben Korporatisten enorme und beängstigende neue Möglichkeiten für Macht und Kontrolle gefunden.

Die Erstellung von LLMs beinhaltet Schulungen. Die Schulung vermittelt ihnen spezifische Fähigkeiten und Vorurteile. Der Zweck der Schulung besteht darin, Lücken zu füllen, sodass es keine offensichtlichen Lücken in der Fähigkeit der LLMs gibt, mit Bausteinen der menschlichen Konzeptualisierung und Sprache umzugehen.

Und das ist das Unterscheidungsmerkmal von LLMs: Wir können uns mit ihnen unterhalten, die Konversation fließt und die Grammatik und der Inhalt erscheinen normal, flüssig und vollständig. Im Idealfall verhält sich ein LLM wie ein kultivierter englischer Butler – höflich, informativ und korrekt, ohne unhöflich zu sein. Aber auch eine spezifische Ausbildung verleiht dem LLM sein Können.

Im Kontext sozialer Medien – und hier wird das beängstigende Ausmaß der Macht deutlich – werden LLMs als Fluraufsicht eingesetzt, um die „Inhaltsmoderation“ durchzusetzen. Metas Llama Guard ist ein Paradebeispiel dafür, da er nicht nur darauf trainiert ist, zu moderieren, sondern auch, über Benutzer zu berichten.

Und diese Berichtsfunktion verkörpert nicht nur die Möglichkeit zu berichten, sondern durch diese Berichtsdaten auch die Gewinnung von Möglichkeiten, Einfluss zu nehmen und Vorschläge über den Benutzer und den Benutzer selbst zu machen.

Und wenn ich Vorschläge sage, kann ein LLM nicht nur die offensichtliche Art von Vorschlägen machen, die der Benutzer begrüßen und gerne annehmen würde, sondern auch eine hinterhältigere unbewusste Art, die manipulativ und auf Kontrolle ausgelegt sein kann.

Es liegen noch keine Beweise vor – soweit ich weiß – dass LLMs im Besonderen auf diese Weise verwendet werden, noch nicht. Aber die Fähigkeit ist mit Sicherheit vorhanden, und wenn vergangenes Verhalten auf zukünftige Entwicklungen hindeutet, wird sie wahrscheinlich auch so eingesetzt.

Sie müssen sich nur die Folge von Derren Browns Fernsehshow „Derren Brown: The Heist“ aus dem Jahr 2006 ansehen, in der er eine Gruppe Fremder davon überzeugt, einen Banküberfall zu begehen, um zu verstehen, wie tiefgreifend und mächtig der Einsatz von Suggestion sein kann.

Für diejenigen, die Derren Brown nicht kennen: Er ist ein Bühnenhypnotiseur und Mentalist, der die Macht der Suggestion gegenüber der Hypnose betont – die meisten seiner Shows enthalten überhaupt keine Hypnose. Allein durch die Macht der Suggestion bringt er Menschen dazu, die außergewöhnlichsten Dinge zu tun.

„Derren-Brown-artige“ Vorschläge funktionieren, weil das menschliche Gehirn tatsächlich viel weniger beweglich und viel linearer ist, als wir gerne denken. Bewusstsein ist eine wertvolle Ressource und viele Handlungen, die wir häufig ausführen, werden zur Gewohnheit, sodass wir sie ohne Nachdenken ausführen können und so das Bewusstsein für die Stellen bewahren können, an denen es am meisten gebraucht wird.

Durch Gewohnheit wechseln wir in einem Auto mit Schaltgetriebe den Gang, ohne darüber nachdenken zu müssen. Wir alle kennen das Spiel, bei dem man eine festgelegte Zeit hat, um sich eine Liste von Dingen wie Ländern auszudenken, die mit dem Buchstaben A endet.

Wenn man vor einer Menschenmenge auf die Probe gestellt wird, kann es manchmal schwierig sein, überhaupt etwas zu finden. Das Gehirn ist oft nicht so gut darin, kreativ zu denken oder sich schnell bewusst auf der Stelle zu erinnern.

Aber wenn Ihnen jemand, mit dem Sie ein paar Minuten vor dem Spiel gesprochen haben, von seinem Urlaub in Kenia erzählt, können Sie sicher sein, dass Kenia die erste Antwort ist, die Ihnen in den Sinn kommt. Darüber hinaus wird die Assoziation automatisch erfolgen, ob wir es wollen oder nicht! So funktioniert das Gehirn nun einmal.

Wenn Informationen genau zum richtigen Zeitpunkt und auf die richtige Weise übermittelt werden, kann man fast sicher sein, dass ein bestimmter Vorschlag befolgt wird. Derren Brown versteht das und ist ein Meister darin, es auszunutzen.

Suchmaschinen und Social-Media-Plattformen verfügen über eine enorme Macht, das Verhalten durch subtile Vorschläge zu beeinflussen. Und tatsächlich gibt es genug Beweise dafür, dass Facebook und Google auf diese Weise fungieren.

Professor und Forscher Dr. Robert Epstein hat Google sozusagen „überführt“, als es das Suchvorschlagsfeld manipulierte, das unter dem Textfeld erscheint, in das Benutzer eine Suchanfrage eingeben. Die ganze Episode wurde noch schmutziger, als klar wurde, dass sie trügerisch waren.

Bis zu einem gewissen Grad waren sie sich darüber im Klaren, dass ihre Experimente unethisch sind. Ich werde nicht alle Einzelheiten wiedergeben, aber sehen Sie sich die Links dazu an – es ist eine interessante Geschichte für sich.

Nutzer sind bei der Verwendung der Linkvorschlagsfunktion von Google in einer besonders vertrauensvollen und aufnahmebereiten Verfassung und bemerken nicht, wenn die Ergebnisse Handlungs- und Handlungsvorschläge enthalten, die keineswegs die beste Antwort auf die Suchanfrage darstellen, sondern darauf abzielen, die nachfolgenden Aktionen des Nutzers zu manipulieren.

In Bezug auf Social-Media-Posts ist der Einsatz von Vorschlägen oft viel subtiler, was es schwieriger macht, sie zu erkennen und ihnen zu widerstehen. Eine LLM-Analyse der Datenbank mit Benutzerposts kann verwandte Posts aufdecken, die Handlungsvorschläge liefern. Hier kann das Netzwerk die Tatsache nutzen, dass es viele Millionen Benutzernachrichten zur Verfügung hat, darunter auch Nachrichten, die bevorzugte Ergebnisse vorschlagen.

Solche Nachrichten können ausgewählt und bevorzugt in Benutzer-Feeds beworben werden. Natürlich ist eine Inhaltsmoderation notwendig, um mit inakzeptabler Sprache und asozialem Verhalten umzugehen. Es gibt jedoch eine große Grauzone, in der unangenehme Meinungen als „Hassrede“ bezeichnet werden können. Und weil es sich um eine Grauzone handelt, gibt es viel Spielraum für das soziale Netzwerk, in den persönlichen, politischen und freien Meinungsäußerungsraum einzudringen.

Der Begriff „Hassrede“ war ein sehr wirksames Mittel, um den Einsatz des Verbotshammers zu rechtfertigen. Die größte Sorge besteht jedoch jetzt darin, dass mit der Einführung von LLMs ein wichtiger historischer Meilenstein fast ohne ein Flüstern überschritten wurde. Dies stellt ein ganz neues Niveau solcher Einschränkungen und Bedrohungen für die Kommunikationsfreiheit der Benutzer dar.

Ausserdem beinhaltet dieser Meilenstein, dass LLMs nun zur Steuerung menschlichen Verhaltens eingesetzt werden, und nicht umgekehrt. Das Erreichen dieses Meilensteins wurde kaum bemerkt, da wir zuvor bereits einfachere Algorithmen hatten, die diese Rolle erfüllten, und dies geschah ohnehin im Dunkeln.

Benutzer sehen es nicht, bis sie auf offensichtliche Weise davon betroffen sind. Aber trotzdem gibt es genügend Gründe zu glauben, dass wir in Zukunft zurückblicken und erkennen werden, dass dieser Meilenstein eine Art kritischer Wendepunkt war, nach dem eine Art „Sky-Net“-ähnliche Zukunft unvermeidlich wurde.

Erst letzte Woche hat der britische Premierminister Keir Starmer eine Polizeiinitiative angekündigt, um soziale Medien zu nutzen. Man will diejenigen identifizieren, die an der Unterdrückung öffentlicher Unruhen beteiligt sind. Dies zeigt auf, wie die automatisierte Berichterstattung über LLMs über die sozialen Medien hinaus, und im Kontext der Strafverfolgung, eingesetzt werden soll.

Es gibt noch keine Einzelheiten darüber, wie diese Überwachung erfolgen soll. Aber da sie Erfahrung mit der Präsentation von Technologieprojekten haben, können Sie sicher sein, dass die Regierung eine Liste von Technologieunternehmen haben wird, die Lösungen vorschlagen. Und Sie können sicher sein, dass LLMs als integraler Bestandteil von fast allen davon angepriesen werden!

Wir haben also festgestellt, dass die sozialen Medien eingeschränkt und proprietär sind, und die Etablierung neuer Machtstrukturen in den Medien ermöglicht haben. Wir haben gesehen, dass Social-Media-Eigentümer die Macht haben, die Viralität eines Posts zu unterdrücken oder zu steigern.

Ausserdem haben sie nun eine Überwachung und Berichterstattung durch LLM (KI) implementiert, die sich voraussichtlich auf die Polizeiarbeit in der realen Welt ausweiten wird.

Wir haben durch die Twitter-Dateien gelernt, dass Social-Media-Unternehmen während der Pandemie gegen Gesetze verstoßen und ihre Bereitschaft gezeigt haben, mit Regierungsbehörden zusammenzuarbeiten, um missliebige Ansichten zu zensieren und zu unterdrücken.