Vor ein paar Monaten sorgte bei einem Produktbewertungstreffen bei einem großen Technologieunternehmen eine täuschend einfache Frage für Stillstand. Ein leitender Ingenieur hatte gerade ein Replace eines Empfehlungssystems vorgestellt – nichts Ungewöhnliches, eine Reihe von Verfeinerungen zur Verbesserung des Engagements. Am Ende der Präsentation fragte jemand: Warum erscheint dieser bestimmte Inhalt zuerst und nicht ein anderer?

Was folgte, battle keine Meinungsverschiedenheit oder auch nur eine technische Erklärung, sondern ein Zögern, das quick philosophisch wirkte. Der Ingenieur begann, die Faktoren zu skizzieren – Benutzerhistorie, Interaktionsmuster, Modellvorhersagen, Inhaltsmerkmale –, aber die Erklärung wurde immer weiter und verzweigte sich in Abhängigkeiten, Interaktionen und Wahrscheinlichkeiten. Nach ein oder zwei Minuten wurde klar, dass die Antwort nicht unvollständig battle. Es battle strukturell unmöglich, es auf eine einzige Ursache zusammenzufassen.

Das System hat Entscheidungen nicht in der Artwork und Weise getroffen, wie wir es erwarten.

Dieser Second, der in der Branche durchaus bekannt ist, findet selten Eingang in die öffentliche Diskussion über Technologie. Wir neigen dazu, uns digitale Macht mit Begriffen aus früheren Zeiten vorzustellen: Jemand legt die Regeln fest, jemand setzt sie durch, jemand profitiert davon. Selbst die kritischsten Berichte – ob von Regulierungsbehörden, Ökonomen oder Journalisten – gehen oft davon aus, dass hinter jedem Ergebnis ein erkennbarer Kontrollort steht.

Aber die Architektur, die heute die On-line-Sichtbarkeit regelt, verhält sich nicht so.

Was Sie sehen, ist nicht an einem einzigen Ort ausgewählt. Es ist zusammengebaut.

Im letzten Jahrzehnt haben sich digitale Plattformen zu Systemen entwickelt, bei denen Ergebnisse aus der Interaktion mehrerer Ebenen entstehen: auf Verhaltensdaten trainierte Rating-Algorithmen, Schnittstellendesigns, die bestimmte Aktionen privilegieren, Werbemechanismen, die wirtschaftliche Anreize schaffen, und Benutzeraktivitäten, die kontinuierlich in das System zurückgemeldet werden. Jede Komponente ist isoliert verständlich. Zusammen bilden sie etwas, das eher einem Ökosystem als einem Mechanismus ähnelt.

Dies ist nicht ganz ohne Präzedenzfall. Ökonomen beschreiben Märkte seit langem als verteilte Systeme. Die zentrale Erkenntnis von Friedrich Hayek battle, dass kein einzelner Akteur über alle Informationen verfügt, die zur Koordinierung der Wirtschaftstätigkeit erforderlich sind, und dass Preise als Signale dienen, die verstreutes Wissen aggregieren. Aber auch in Hayeks Rahmen blieb der Koordinationsmechanismus lesbar.

In digitalen Systemen ist der koordinierende Mechanismus nicht mehr allein der Preis. Es ist Sichtbarkeit – und Sichtbarkeit wird durch eine Struktur bestimmt, die weder vollständig clear noch vollständig zentralisiert ist.

Herbert Simon, der Jahrzehnte vor dem Web schrieb, warnte davor, dass die menschliche Entscheidungsfindung unter Bedingungen begrenzter Rationalität abläuft. Wir vereinfachen, wir nähern uns an, wir verlassen uns auf Teilmodelle der Realität. Was heute auffällt, ist nicht nur, dass Individuen auf diese Weise eingeschränkt sind, sondern auch, dass die Systeme, die wir aufbauen, dieselben Einschränkungen widerspiegeln. Ingenieure verstehen Komponenten. Produktteams verstehen Kennzahlen. Vermarkter verstehen Leistungssignale. Aber das System als Ganzes geht über jede Einzelperspektive hinaus.

Selbst innerhalb der Unternehmen, die diese Systeme entwickeln, gibt es kein vollständiges Echtzeitverständnis darüber, wie Ergebnisse erzielt werden.

An diesem Punkt scheint die aktuelle Diskussion über künstliche Intelligenz seltsam fehl am Platz zu sein. Ein Großteil der Aufmerksamkeit – sowohl in der Industrie als auch im öffentlichen Diskurs – hat sich auf Instruments verlagert: wie man Modelle anregt, wie man Ausgaben generiert, wie man KI in Arbeitsabläufe integriert. Dies sind praktische Fragen, aber sie bewegen sich auf der oberflächlichen Ebene der Interaktion.

Was weitgehend ungeprüft bleibt, ist die Architektur, innerhalb derer diese Instruments funktionieren.

Wenn ein neues Modell in ein Empfehlungssystem eingeführt oder eine prädiktive Optimierung zu einer Werbeplattform hinzugefügt wird, ersetzt es nicht die bestehende Struktur. Es wird zu einer weiteren Schicht darin. Jede Ebene wird lokal, oft von verschiedenen Groups, nach unterschiedlichen Metriken optimiert. Das Ergebnis ist ein System, das leistungsfähiger, aber nicht unbedingt kohärenter wird.

Ein leitender Forscher für maschinelles Lernen beschrieb mir einmal große Plattformen als „Systeme, die wir steuern, anstatt sie zu kontrollieren“. Der Unterschied ist subtil, aber wichtig. Lenken impliziert Einfluss ohne vollständige Kontrolle, Anpassung ohne vollständige Vorhersehbarkeit.

Dies hat Folgen, die über die Technik hinausgehen.

Im Advertising beispielsweise ist der Wandel bereits sichtbar. Traditionelle Modelle gehen davon aus, dass der Einfluss durch Botschaften erfolgt: Identifizieren Sie eine Zielgruppe, formulieren Sie einen Vorschlag und liefern Sie ihn über einen Kanal. Doch in digitalen Umgebungen ist der Kanal nicht mehr impartial. Es gestaltet aktiv, welche Botschaften in welcher Reihenfolge und mit welcher Häufigkeit gesehen werden.

Untersuchungen des Ehrenberg-Bass-Instituts betonen seit langem die Bedeutung der „mentalen Verfügbarkeit“ – der Wahrscheinlichkeit, dass einem in einer Kaufsituation eine Marke in den Sinn kommt. In digitalen Systemen wird diese Verfügbarkeit zunehmend durch algorithmischen Abruf vermittelt. Es geht nicht nur darum, in Erinnerung zu bleiben. Es geht darum, aufgetaucht zu sein.

In der Praxis haben sich Vermarkter schneller an diese Realität angepasst als die meisten theoretischen Rahmenwerke. Sie führen kontinuierliche Experimente durch und passen kreative Formate, Timing und Focusing on-Strategien an. Sie beobachten, welche Signale das System zu belohnen scheint und richten sich danach aus. Eine erfolgreiche Kampagne ist nicht nur eine, die überzeugt, sondern auch eine, die der Logik der Verbreitung entspricht.

Und doch ist das Verständnis auch hier nur teilweise gegeben.

Führungskräfte sprechen vom „Arbeiten mit dem Algorithmus“, doch dieser Ausdruck ist eher eine Metapher als eine Methode. Was sie wirklich tun, ist, auf Ausgaben zu reagieren, Muster abzuleiten und zu iterieren. Erfolge sind oft erst im Nachhinein erkennbar.

Dadurch entsteht eine eigenartige Dynamik. Das System erzeugt hochstrukturierte Ergebnisse – bestimmte Produkte gewinnen an Sichtbarkeit, bestimmte Narrative verbreiten sich, bestimmte Verhaltensweisen werden verstärkt –, aber der Prozess, durch den diese Ergebnisse entstehen, bleibt selbst von denen, die am stärksten an ihrer Gestaltung beteiligt sind, nur teilweise verstanden.

Shoshana Zuboff hat argumentiert, dass digitale Plattformen eine Type von Macht ausüben, die durch die Gestaltung von Verhalten statt durch die Erteilung von Befehlen erfolgt. Diese Einsicht bleibt wichtig, setzt jedoch ein Maß an bewusstem Design voraus, das mit zunehmender Komplexität der Systeme immer schwieriger aufrechtzuerhalten ist. Einfluss entsteht zunehmend nicht mehr durch eine einzelne Strategie, sondern durch das Zusammenspiel vieler kleiner Optimierungen.

Die politische Theoretikerin Hannah Arendt unterschied einst zwischen Macht als etwas, das von Individuen gehalten wird, und Macht als etwas, das aus Strukturen entsteht. Im digitalen Umfeld scheint sich die Macht entscheidend in Richtung Letzterer verlagert zu haben. Es ist in die Konfiguration des Programs eingebettet – in die Gewichtung von Signalen, den Aufbau von Rückkopplungsschleifen und die Ausrichtung von Anreizen.

Deshalb ist es so schwierig, es herauszufordern.

Regulierungsdebatten konzentrieren sich oft auf einzelne Themen: Inhaltsmoderation, Wettbewerb, Datenschutz. Diese sind wichtig, aber sie neigen dazu, Plattformen so zu behandeln, als wären sie traditionelle Institutionen, die in der Lage sind, klare, zentralisierte Entscheidungen zu treffen. In Wirklichkeit sind viele der folgenreichsten Ergebnisse nicht das Ergebnis expliziter Entscheidungen, sondern systemischer Interaktionen.

Man kann nicht auf einen einzigen Second verweisen und sagen: Hier ist es passiert.

Was die Sache besonders kompliziert macht, ist, dass die Nutzer selbst Teil des Programs sind. Jede Interaktion – jeder Klick, jedes Scrollen, jede Pause – wirkt sich auf die Modelle aus, die die zukünftige Sichtbarkeit prägen. Verhalten wird zur Eingabe, Eingabe zur Ausgabe und der Zyklus geht weiter.

In diesem Sinne handelt das System nicht einfach nur auf Benutzer ein. Es entwickelt sich gemeinsam mit ihnen weiter.

Das bringt uns zurück zur ursprünglichen Frage.

Wer entscheidet, was Sie on-line sehen?

Die genaueste Antwort ist auch die am wenigsten befriedigende. Es gibt keinen einzigen Entscheidungsträger. Was Sie sehen, ist das Ergebnis eines verteilten Prozesses, in dem Algorithmen, Schnittstellen, wirtschaftliche Anreize und menschliches Verhalten kontinuierlich interagieren und Ergebnisse erzeugen, die strukturiert, aber nicht zentral gesteuert sind.

Das bedeutet nicht, dass die Macht verschwunden ist. Wenn überhaupt, ist es allgegenwärtiger geworden. Aber es ist auch schwieriger zu identifizieren, weil es sich nicht mehr als Kontrolle darstellt.

Es präsentiert sich als die natürliche Type des Programs.

Und vielleicht ist das die wichtigste Veränderung. Wir bewegen uns nicht länger in einem Raum, in dem Entscheidungen an sichtbaren Orten getroffen werden. Wir bewegen uns in einem System, das Entscheidungen als Nebenprodukt seines eigenen Betriebs hervorbringt.

Aus diesem Grund scheint die Frage, wer entscheidet, immer schwieriger zu beantworten.

Nicht, weil es keine Antwort gibt.

Sondern weil die Antwort nicht mehr zu der Artwork und Weise passt, wie wir es von der Funktionsweise von Entscheidungen erwarten.

---

Hervorgehobener Bildnachweis

Organisationen auf der ganzen Welt bereiten sich auf ein Jahr voller KI-Transformation, Sicherheitsherausforderungen und Nachhaltigkeitsanforderungen vor

NetApp^® (NASDAQ: NTAP), das Unternehmen für intelligente Dateninfrastruktur, hat sein zweites Jahresjahr veröffentlicht Bericht zur DatenkomplexitätDarin wird untersucht, wie globale Unternehmen mit der zunehmenden Komplexität der Verwaltung ihrer Daten für KI umgehen. Der diesjährige Bericht bietet einen globalen Überblick darüber, wie sich KI im Jahr 2025 und darüber hinaus auf Unternehmen auswirken wird, und bietet Einblicke, die Unternehmen dabei helfen, das Potenzial von KI zu nutzen und gleichzeitig die Komplexitäten und Risiken zu bewältigen, die mit dieser transformativen Technologie einhergehen.

„2025 zeichnet sich als entscheidendes Jahr für KI ab, da Unternehmen vom Experimentieren zur Skalierung ihrer KI-Fähigkeiten übergehen“, sagte Gabie Boko, Chief Advertising and marketing Officer von NetApp. „Der diesjährige Information Complexity Report zeigt, dass Unternehmen erhebliche Investitionen tätigen, um Innovation und Effizienz voranzutreiben. Diese Bemühungen werden jedoch nur dann erfolgreich sein, wenn globale Technologiemanager die wachsenden Herausforderungen der Datenkomplexität, -sicherheit und -nachhaltigkeit bewältigen können. Eine intelligente Dateninfrastruktur mit einheitlicher Datenspeicherung als Herzstück wird der Schlüssel zur Erschließung des KI-Potenzials sein.“

KI-Investitionen: Wird KI die Financial institution sprengen?

Zwei Drittel der Unternehmen weltweit geben an, dass ihre Daten entweder vollständig oder größtenteils für KI optimiert sind – das bedeutet, dass ihre Daten für KI-Anwendungsfälle zugänglich, genau und intestine dokumentiert sind. Trotz dieser Fortschritte wird das Jahr 2025 jedoch weiterhin Investitionen in KI und Datenmanagement erfordern. Tatsächlich glauben 40 % der weltweiten Technologiemanager, dass ihre Unternehmen im Jahr 2025 beispiellose Investitionen in KI und Datenmanagement erfordern werden. Während Unternehmen Fortschritte bei der Optimierung von Daten für KI gemacht haben, wird das Erreichen zukünftiger Durchbrüche noch mehr Engagement und Ressourcen erfordern.

Datensilos: Werden Ihre Daten den KI-Erfolg behindern?

Die Datenvereinheitlichung entwickelt sich zu einem entscheidenden Treiber für den KI-Erfolg. 79 % der globalen Tech-Führungskräfte erkennen die Bedeutung der Datenvereinheitlichung für optimale KI-Ergebnisse an. Unternehmen, die über eine einheitliche Datenspeicherung verfügen, konnten Datensilos beseitigen, indem sie Daten unabhängig von Typ und Standort in hybriden Multicloud-Umgebungen miteinander verbinden, sodass sie jederzeit zugänglich sind. Unternehmen, die der Vereinheitlichung von Daten Priorität einräumen, werden ihre KI-Ziele im Jahr 2025 eher erreichen. Nur 23 % der Unternehmen, die der Vereinheitlichung von Daten Priorität einräumen, geben an, dass sie ihre Ziele nicht erreichen werden, im Vergleich zu 30 % der Unternehmen, die der Vereinheitlichung von Daten keine Priorität einräumen. Investitionen in Datenmanagement und Infrastruktur sind für Unternehmen zur obersten Priorität geworden, und Führungskräfte legen doppelt so viel Wert darauf wie andere Initiativen im Zusammenhang mit KI – Tendenz steigend. Mit Blick auf die Zukunft werden Unternehmen, die sich für die Datenvereinheitlichung einsetzen, besser in der Lage sein, die transformative Kraft der KI voll auszuschöpfen und sicherzustellen, dass sie in einem zunehmend wettbewerbsintensiven Umfeld die Nase vorn haben.

Datensicherheit: Werden Cyber-Bedrohungen mit der KI zunehmen?

Globale Tech-Führungskräfte rechnen mit einem erheblichen Anstieg der Sicherheitsbedrohungen neben der KI-Einführung, wobei 41 % einen starken Anstieg im Jahr 2025 prognostizieren. Datenschutz- und Sicherheitsbedenken bleiben im Jahresvergleich weltweit die größten Herausforderungen, wobei KI-führende Länder wie Indien, In Japan und den Vereinigten Staaten (die auf dem Weg zur KI weiter fortgeschritten sind) ist die Wahrscheinlichkeit, dass die Zahl der Sicherheitsprobleme zunimmt, quick doppelt so hoch wie in Ländern mit KI-Rückstand wie Deutschland, Frankreich und Spanien.

Der Aufstieg der KI hat die Angriffsfläche vieler Unternehmen vergrößert und neue Herausforderungen mit sich gebracht, etwa den Schutz der KI-Modelle selbst, die Verteidigung von Datensätzen, die Angriffen stärker ausgesetzt sind, und die Sicherstellung, dass Daten für die Verwendung in KI-Anwendungen verfügbar und sicher sind. KI-gesteuerte Sicherheitsherausforderungen belasten die Köpfe globaler Technologieführer stark, wobei 59 % diese Bedrohungen als einen der größten globalen Stressfaktoren bezeichnen. Dieser erhöhte Fokus spiegelt die wachsende Komplexität von Cyberrisiken wider. Führungskräfte auf Vorstands- und C-Suite-Ebene priorisieren weiterhin Cybersicherheit und Ransomware-Schutz, wobei 38 % sie als ihre höchste Priorität einstufen. Es gibt jedoch einen Lichtblick: Die von den Unternehmen umgesetzten strategischen Maßnahmen scheinen sich auszuzahlen. Der Fokus auf Cybersicherheit als oberste Priorität ist seit 2023 um 17 % zurückgegangen – ein vielversprechendes Zeichen dafür, dass Fortschritte bei der Bekämpfung dieser sich ständig weiterentwickelnden Bedrohungen erzielt werden.

Datennachhaltigkeit: Gefährdet KI den Planeten?

Da sich die Einführung von KI beschleunigt, rechnen 34 % der weltweiten Technologiemanager mit großen Veränderungen in den Nachhaltigkeitsprozessen von Unternehmen und 33 % erwarten neue staatliche Energierichtlinien und -investitionen. KI-gesteuertes Datenwachstum und die Infrastruktur, die erforderlich ist, um Daten in geschäftlichen Wert umzuwandeln, verbrauchen viel Energie, was den Nachhaltigkeitszielen zuwiderläuft, wobei KI-führende Länder größere Auswirkungen haben als KI-schwächere Länder. Die Reduzierung des CO2-Fußabdrucks ist nach wie vor äußerst wichtig oder sehr wichtig, insbesondere in Regionen mit hoher KI-Einführung, obwohl ihr Fokus von Jahr zu Jahr zurückgegangen ist, von 84 % der Unternehmen im Jahr 2023 auf 72 % im Jahr 2024. Die künftige Herausforderung wird darin bestehen, die Umweltkosten zu bewältigen KI bei gleichzeitiger Maximierung ihres Innovationspotenzials.

Der diesjährige Information Complexity Report hebt einen entscheidenden Wandel hervor: Unternehmen, die in eine intelligente Dateninfrastruktur investieren, Sicherheit priorisieren und Nachhaltigkeit berücksichtigen, machen nicht nur ihre Abläufe zukunftssicher, sondern verschaffen sich auch einen erheblichen Wettbewerbsvorteil in der KI-gesteuerten Landschaft.

„Das transformative Potenzial von KI hängt von sicheren, skalierbaren und nachhaltigen Datenstrategien ab“, sagte Krish Vitaldevara, Senior Vice President und Basic Supervisor von NetApp. „Die führenden Unternehmen im Bereich Superior Analytics und KI sind diejenigen, die über einheitliche und intestine katalogisierte Daten, robuste Sicherheit und Compliance für wise Informationen sowie ein klares Verständnis dafür verfügen, wie sich Daten entwickeln. Durch die Bewältigung dieser Herausforderungen können sie Innovationen vorantreiben und gleichzeitig Belastbarkeit, Verantwortung und zeitnahe Erkenntnisse im neuen KI-Zeitalter gewährleisten.“

Melden Sie sich für die kostenlosen insideAI-Information an E-newsletter.

Begleiten Sie uns auf Twitter: https://twitter.com/InsideBigData1

Treten Sie uns auf LinkedIn bei: https://www.linkedin.com/firm/insideainews/

Begleiten Sie uns auf Fb: https://www.fb.com/insideAINEWSNOW

Schauen Sie bei uns vorbei YouTube!