Vor ein paar Monaten sorgte bei einem Produktbewertungstreffen bei einem großen Technologieunternehmen eine täuschend einfache Frage für Stillstand. Ein leitender Ingenieur hatte gerade ein Replace eines Empfehlungssystems vorgestellt – nichts Ungewöhnliches, eine Reihe von Verfeinerungen zur Verbesserung des Engagements. Am Ende der Präsentation fragte jemand: Warum erscheint dieser bestimmte Inhalt zuerst und nicht ein anderer?
Was folgte, battle keine Meinungsverschiedenheit oder auch nur eine technische Erklärung, sondern ein Zögern, das quick philosophisch wirkte. Der Ingenieur begann, die Faktoren zu skizzieren – Benutzerhistorie, Interaktionsmuster, Modellvorhersagen, Inhaltsmerkmale –, aber die Erklärung wurde immer weiter und verzweigte sich in Abhängigkeiten, Interaktionen und Wahrscheinlichkeiten. Nach ein oder zwei Minuten wurde klar, dass die Antwort nicht unvollständig battle. Es battle strukturell unmöglich, es auf eine einzige Ursache zusammenzufassen.
Das System hat Entscheidungen nicht in der Artwork und Weise getroffen, wie wir es erwarten.
Dieser Second, der in der Branche durchaus bekannt ist, findet selten Eingang in die öffentliche Diskussion über Technologie. Wir neigen dazu, uns digitale Macht mit Begriffen aus früheren Zeiten vorzustellen: Jemand legt die Regeln fest, jemand setzt sie durch, jemand profitiert davon. Selbst die kritischsten Berichte – ob von Regulierungsbehörden, Ökonomen oder Journalisten – gehen oft davon aus, dass hinter jedem Ergebnis ein erkennbarer Kontrollort steht.
Aber die Architektur, die heute die On-line-Sichtbarkeit regelt, verhält sich nicht so.
Was Sie sehen, ist nicht an einem einzigen Ort ausgewählt. Es ist zusammengebaut.
Im letzten Jahrzehnt haben sich digitale Plattformen zu Systemen entwickelt, bei denen Ergebnisse aus der Interaktion mehrerer Ebenen entstehen: auf Verhaltensdaten trainierte Rating-Algorithmen, Schnittstellendesigns, die bestimmte Aktionen privilegieren, Werbemechanismen, die wirtschaftliche Anreize schaffen, und Benutzeraktivitäten, die kontinuierlich in das System zurückgemeldet werden. Jede Komponente ist isoliert verständlich. Zusammen bilden sie etwas, das eher einem Ökosystem als einem Mechanismus ähnelt.
Dies ist nicht ganz ohne Präzedenzfall. Ökonomen beschreiben Märkte seit langem als verteilte Systeme. Die zentrale Erkenntnis von Friedrich Hayek battle, dass kein einzelner Akteur über alle Informationen verfügt, die zur Koordinierung der Wirtschaftstätigkeit erforderlich sind, und dass Preise als Signale dienen, die verstreutes Wissen aggregieren. Aber auch in Hayeks Rahmen blieb der Koordinationsmechanismus lesbar.
In digitalen Systemen ist der koordinierende Mechanismus nicht mehr allein der Preis. Es ist Sichtbarkeit – und Sichtbarkeit wird durch eine Struktur bestimmt, die weder vollständig clear noch vollständig zentralisiert ist.
Herbert Simon, der Jahrzehnte vor dem Web schrieb, warnte davor, dass die menschliche Entscheidungsfindung unter Bedingungen begrenzter Rationalität abläuft. Wir vereinfachen, wir nähern uns an, wir verlassen uns auf Teilmodelle der Realität. Was heute auffällt, ist nicht nur, dass Individuen auf diese Weise eingeschränkt sind, sondern auch, dass die Systeme, die wir aufbauen, dieselben Einschränkungen widerspiegeln. Ingenieure verstehen Komponenten. Produktteams verstehen Kennzahlen. Vermarkter verstehen Leistungssignale. Aber das System als Ganzes geht über jede Einzelperspektive hinaus.
Selbst innerhalb der Unternehmen, die diese Systeme entwickeln, gibt es kein vollständiges Echtzeitverständnis darüber, wie Ergebnisse erzielt werden.
An diesem Punkt scheint die aktuelle Diskussion über künstliche Intelligenz seltsam fehl am Platz zu sein. Ein Großteil der Aufmerksamkeit – sowohl in der Industrie als auch im öffentlichen Diskurs – hat sich auf Instruments verlagert: wie man Modelle anregt, wie man Ausgaben generiert, wie man KI in Arbeitsabläufe integriert. Dies sind praktische Fragen, aber sie bewegen sich auf der oberflächlichen Ebene der Interaktion.
Was weitgehend ungeprüft bleibt, ist die Architektur, innerhalb derer diese Instruments funktionieren.
Wenn ein neues Modell in ein Empfehlungssystem eingeführt oder eine prädiktive Optimierung zu einer Werbeplattform hinzugefügt wird, ersetzt es nicht die bestehende Struktur. Es wird zu einer weiteren Schicht darin. Jede Ebene wird lokal, oft von verschiedenen Groups, nach unterschiedlichen Metriken optimiert. Das Ergebnis ist ein System, das leistungsfähiger, aber nicht unbedingt kohärenter wird.
Ein leitender Forscher für maschinelles Lernen beschrieb mir einmal große Plattformen als „Systeme, die wir steuern, anstatt sie zu kontrollieren“. Der Unterschied ist subtil, aber wichtig. Lenken impliziert Einfluss ohne vollständige Kontrolle, Anpassung ohne vollständige Vorhersehbarkeit.
Dies hat Folgen, die über die Technik hinausgehen.
Im Advertising beispielsweise ist der Wandel bereits sichtbar. Traditionelle Modelle gehen davon aus, dass der Einfluss durch Botschaften erfolgt: Identifizieren Sie eine Zielgruppe, formulieren Sie einen Vorschlag und liefern Sie ihn über einen Kanal. Doch in digitalen Umgebungen ist der Kanal nicht mehr impartial. Es gestaltet aktiv, welche Botschaften in welcher Reihenfolge und mit welcher Häufigkeit gesehen werden.
Untersuchungen des Ehrenberg-Bass-Instituts betonen seit langem die Bedeutung der „mentalen Verfügbarkeit“ – der Wahrscheinlichkeit, dass einem in einer Kaufsituation eine Marke in den Sinn kommt. In digitalen Systemen wird diese Verfügbarkeit zunehmend durch algorithmischen Abruf vermittelt. Es geht nicht nur darum, in Erinnerung zu bleiben. Es geht darum, aufgetaucht zu sein.
In der Praxis haben sich Vermarkter schneller an diese Realität angepasst als die meisten theoretischen Rahmenwerke. Sie führen kontinuierliche Experimente durch und passen kreative Formate, Timing und Focusing on-Strategien an. Sie beobachten, welche Signale das System zu belohnen scheint und richten sich danach aus. Eine erfolgreiche Kampagne ist nicht nur eine, die überzeugt, sondern auch eine, die der Logik der Verbreitung entspricht.
Und doch ist das Verständnis auch hier nur teilweise gegeben.
Führungskräfte sprechen vom „Arbeiten mit dem Algorithmus“, doch dieser Ausdruck ist eher eine Metapher als eine Methode. Was sie wirklich tun, ist, auf Ausgaben zu reagieren, Muster abzuleiten und zu iterieren. Erfolge sind oft erst im Nachhinein erkennbar.
Dadurch entsteht eine eigenartige Dynamik. Das System erzeugt hochstrukturierte Ergebnisse – bestimmte Produkte gewinnen an Sichtbarkeit, bestimmte Narrative verbreiten sich, bestimmte Verhaltensweisen werden verstärkt –, aber der Prozess, durch den diese Ergebnisse entstehen, bleibt selbst von denen, die am stärksten an ihrer Gestaltung beteiligt sind, nur teilweise verstanden.
Shoshana Zuboff hat argumentiert, dass digitale Plattformen eine Type von Macht ausüben, die durch die Gestaltung von Verhalten statt durch die Erteilung von Befehlen erfolgt. Diese Einsicht bleibt wichtig, setzt jedoch ein Maß an bewusstem Design voraus, das mit zunehmender Komplexität der Systeme immer schwieriger aufrechtzuerhalten ist. Einfluss entsteht zunehmend nicht mehr durch eine einzelne Strategie, sondern durch das Zusammenspiel vieler kleiner Optimierungen.
Die politische Theoretikerin Hannah Arendt unterschied einst zwischen Macht als etwas, das von Individuen gehalten wird, und Macht als etwas, das aus Strukturen entsteht. Im digitalen Umfeld scheint sich die Macht entscheidend in Richtung Letzterer verlagert zu haben. Es ist in die Konfiguration des Programs eingebettet – in die Gewichtung von Signalen, den Aufbau von Rückkopplungsschleifen und die Ausrichtung von Anreizen.
Deshalb ist es so schwierig, es herauszufordern.
Regulierungsdebatten konzentrieren sich oft auf einzelne Themen: Inhaltsmoderation, Wettbewerb, Datenschutz. Diese sind wichtig, aber sie neigen dazu, Plattformen so zu behandeln, als wären sie traditionelle Institutionen, die in der Lage sind, klare, zentralisierte Entscheidungen zu treffen. In Wirklichkeit sind viele der folgenreichsten Ergebnisse nicht das Ergebnis expliziter Entscheidungen, sondern systemischer Interaktionen.
Man kann nicht auf einen einzigen Second verweisen und sagen: Hier ist es passiert.
Was die Sache besonders kompliziert macht, ist, dass die Nutzer selbst Teil des Programs sind. Jede Interaktion – jeder Klick, jedes Scrollen, jede Pause – wirkt sich auf die Modelle aus, die die zukünftige Sichtbarkeit prägen. Verhalten wird zur Eingabe, Eingabe zur Ausgabe und der Zyklus geht weiter.
In diesem Sinne handelt das System nicht einfach nur auf Benutzer ein. Es entwickelt sich gemeinsam mit ihnen weiter.
Das bringt uns zurück zur ursprünglichen Frage.
Wer entscheidet, was Sie on-line sehen?
Die genaueste Antwort ist auch die am wenigsten befriedigende. Es gibt keinen einzigen Entscheidungsträger. Was Sie sehen, ist das Ergebnis eines verteilten Prozesses, in dem Algorithmen, Schnittstellen, wirtschaftliche Anreize und menschliches Verhalten kontinuierlich interagieren und Ergebnisse erzeugen, die strukturiert, aber nicht zentral gesteuert sind.
Das bedeutet nicht, dass die Macht verschwunden ist. Wenn überhaupt, ist es allgegenwärtiger geworden. Aber es ist auch schwieriger zu identifizieren, weil es sich nicht mehr als Kontrolle darstellt.
Es präsentiert sich als die natürliche Type des Programs.
Und vielleicht ist das die wichtigste Veränderung. Wir bewegen uns nicht länger in einem Raum, in dem Entscheidungen an sichtbaren Orten getroffen werden. Wir bewegen uns in einem System, das Entscheidungen als Nebenprodukt seines eigenen Betriebs hervorbringt.
Aus diesem Grund scheint die Frage, wer entscheidet, immer schwieriger zu beantworten.
Nicht, weil es keine Antwort gibt.
Sondern weil die Antwort nicht mehr zu der Artwork und Weise passt, wie wir es von der Funktionsweise von Entscheidungen erwarten.