Liquid AI wurde veröffentlicht Antidoomeine Open-Supply-Methode, die auf einen häufigen Fehlermodus in Argumentationsmodellen abzielt. Dieser Fehlermodus ist der Untergangsschleife. In einer Doom-Schleife gibt ein Modell eine Spanne aus. Anschließend wird dieser Zeitraum immer wieder wiederholt. Die Ausgabe wird fortgesetzt, bis das Kontextfenster erschöpft ist. Kleine Argumentationsmodelle sind hierfür anfälliger, insbesondere bei langen Denkspuren und schwierigen Problemen.

An einem frühen Kontrollpunkt von LFM2.5-2.6B10,2 % der Abschlüsse bei schwierigen Mathematik- und Codierungsaufforderungen führten zu sich wiederholenden Schleifen. Nach dem Antidoom-Coaching sank diese Fee auf 1,4 %. Die Bewertungsergebnisse verbesserten sich durchweg, was ausschließlich auf die geringere Anzahl von Schleifen zurückzuführen ist.

TL;DR

• Antidoom reduziert Doom-Loops, indem es nur das erste Loop-Begin-Token neu trainiert.
• FTPO verteilt die Wahrscheinlichkeit auf mehrere kohärente Alternativen, nicht auf einen Ersatz.
• LFM2.5-2.6B-Looping sank um 10,2 % auf 1,4 %; Qwen3.5-4B fiel um 22,9 % auf 1 %.
• Die Pipeline läuft in wenigen Stunden und der gesamte Stack ist Open Supply.

Was ist Antidoom?

Antidoom ist eine gezielte Lösung, keine umfassende Stichprobenänderung. Es findet den genauen Token, der eine Schleife beginnt. Anschließend wird das Modell darauf trainiert, kohärente Alternativen an dieser einzelnen Place zu bevorzugen. Der Relaxation der Distribution bleibt weitgehend unberührt.

Die Methode passt sich an Antislop. Es trainiert auf ausgewählten/abgelehnten Paaren, die ein einzelnes Abschluss-Token darstellen. Der Trainingsalgorithmus ist Endgültige Token-Präferenzoptimierung (FTPO)was DPO ähnelt.

Das Coaching bringt dem Modell nichts Neues über Mathematik oder Code bei. Es beseitigt die Schleife, die blockierte Antworten verursachte, die das Modell bereits erzeugen konnte.

Anatomie eines Doom Loops

Das Workforce von Liquid AI führt Doom Loops auf drei zusammenarbeitende Mechanismen zurück:

Mechanismus 1: Übertrainierte Token plus Unsicherheit. Es ist wahrscheinlicher, dass einige Token generell ausgewählt werden. Bekannte Beispiele in freier Wildbahn sind „delve“ und „testomony“. Das Workforce von Liquid AI stellt fest, dass dies auf synthetische Daten im Trainingssatz zurückzuführen sein kann. In Argumentationsspuren enthalten Fortsetzungen mit hoher Priorität häufig Diskursmarkierungen wie „Warten“ oder „Alternativ“. Diese Token sind nicht grundsätzlich schlecht. Sie können einen sinnvollen Strategiewechsel, einen Verifizierungsschritt oder eine Verzweigung markieren. Wenn das Modell unsicher ist oder feststeckt, werden sie stattdessen zu attraktiven Fallback-Fortsetzungen.

Für einen frühen LFM2.5-2.6B-Prüfpunkt waren die häufigsten Schleifenstarttoken die folgenden.

Mechanismus 2: Der vorherige Kontext verstärkt die Schleife. Jede Wiederholung verschiebt jeden Token in der Spanne in Richtung der Wahrscheinlichkeit, dass Duan et al. Studie dies in ihrer Arbeit zum Zirkelschluss. Sie verknüpfen es mit einem „V-förmigen“ Aufmerksamkeitsmuster. Sie stellen fest, dass die semantische Wiederholung der textlichen Wiederholung vorausgeht.

Mechanismus 3: Gieriges Sampling. Reasoning-Modelle werden normalerweise bei niedriger Temperatur betrieben, um stabile, reproduzierbare Spuren zu erhalten. Bei Temperatur 0 wird immer der wahrscheinlichste Token ausgewählt. Eine lokal verstärkte Schleife hat dann keinen Ausgang. Liquid AI meldet erhebliche Schleifen, selbst bei einer Temperatur von 0,67. Niedrigere Temperaturen verschärfen das Downside.

Wie Antidoom den Fehler lokalisiert

Antidoom generiert Vervollständigungen auf einer prompten Mischung, die bei niedriger Temperatur Schleifen hervorrufen soll. Diese Mischung wird wie folgt geliefert LiquidAI/antidoom-mix-v1.0 Datensatz. Eine Schleife wird erkannt, wenn sich ein Abschnitt mindestens viermal wiederholt und mindestens 60 Zeichen umfasst.

Die Methode zielt dann auf die erstes Token der ersten Wiederholung. An dieser Place werden die High-k-Log-Prob-Alternativen des Basismodells verwendet. Es filtert kurzes oder nicht alphanumerisches Rauschen. Es werden bis zu 20 believable Ersatznamen gespeichert gewählt Token.

Jede Trainingszeile ist ein Tupel von Eingabeaufforderungspräfixen, eins abgelehnt Token und ein oder mehrere gewählt Token. Die ausgewählten und abgelehnten Verteilungen werden vor dem Coaching reguliert. Ansonsten mögen ein paar Übeltäter Warten, AdditionallyUnd Die würde dominieren und eine übermäßige Unterdrückung würde das Denken verschlechtern.

Die Erkennungsregel selbst lässt sich einfach im Code angeben. Der folgende Ausschnitt dient der Veranschaulichung.

# A loop = a unit repeating >=4 occasions, spanning >=60 characters.
# Returns the index of the primary token of the primary repeat (the goal), else None.
def find_loop(textual content, min_repeats=4, min_chars=60):
    n = len(textual content)
    for span in vary(1, n // min_repeats + 1):
        begin = 0
        whereas begin + span * min_repeats <= n:
            unit = textual content(begin:begin + span)
            repeats = 1
            pos = begin + span
            whereas textual content(pos:pos + span) == unit:
                repeats += 1
                pos += span
            if repeats >= min_repeats and span * repeats >= min_chars:
                return begin + span          # first token of the primary repeat
            begin += 1
    return None

Jede erkannte Schleife wird dann zu einer Trainingszeile. Die Struktur ist ein einfaches Tupel.

# One FTPO coaching row, per the publish's (prefix, rejected, chosen) format.
row = {
    "immediate": prefix_up_to_the_loop,   # textual content earlier than the primary repeat
    "rejected": " Wait",               # the one token that began the loop
    "chosen": (" So", " Since", " The", " Due to this fact"),  # as much as 20 options
}

Endgültige Token-Präferenzoptimierung (FTPO)

FTPO ist ein Präferenzoptimierungsalgorithmus ähnlich wie DPO. Ein Trainingsbeispiel besteht aus einer Eingabeaufforderung, einer ausgewählten Fortsetzung und einer abgelehnten Fortsetzung. Es ist darauf ausgelegt, eine Handvoll Token zu ändern, ansonsten wird das Modell nur minimal beeinträchtigt.

FTPO unterscheidet sich von DPO in vier Punkten:

1. Abschließendes Token-Coaching: Es trainiert nur das abschließende Token einer Sequenz, die sich in der Mitte der Generierung befindet.
2. Mehrere ausgewählte Token professional Probe: Es verteilt die Wahrscheinlichkeit auf eine Gruppe von Alternativen, sodass ein übertrainierter Token nicht einfach durch einen anderen ersetzt wird.
3. KL-ähnlicher Verlust im Logit-Raum: Es lässt den Softmax weg und berechnet die Abweichung von der Referenz in Logits, wodurch Druck auf nicht verwandte Token vermieden wird.
4. Zweiteilige Regularisierung: Ausgewählte und abgelehnte Logits bewegen sich freier, während das verbleibende Vokabular streng eingeschränkt bleibt.

In der Antidoom-Implementierung trainiert das Modell für eine Epoche mit LoRA. Hohe LoRA-Ränge von 128–256 lieferten die besten Ergebnisse. Das Coaching deckt alle Aufmerksamkeits- und MLP-Projektionen ab lm_head. Die Lernraten liegen bei etwa 4e-6 bis 2e-5.

Das Coaching nutzt frühes Anhalten chosen_winder Anteil der Stichproben, bei denen ausgewählte Token abgelehnt wurden. Anhalten bei chosen_win=0.35 Senkung der Doom-Loop-Raten von 20-30 % auf 1-2 %. Längeres Coaching führte tendenziell zu einer Verschlechterung des Modells.

Für den frühen LFM2.5-2.6B-Checkpoint dauerte die Generierung des Trainingssatzes auf 8x MI325-GPUs etwa eine Stunde. Das Coaching dauerte dann etwa ein bis zwei Stunden auf einer einzelnen MI325-GPU. Die Generierung stoppt, nachdem 20.000 Paare gesammelt wurden.

Wie Antidoom im Vergleich zu den üblichen Fixes abschneidet

Ergebnisse

Nach dem Coaching sank die Doom-Looping-Fee am frühen LFM2.5-2.6B-Kontrollpunkt von 10,2 % auf 1,4 %. Die Bewertungsergebnisse verbesserten sich durchweg, was ausschließlich auf die Reduzierung der Schleifenbildung zurückzuführen ist.

Das Workforce von Liquid AI hat die Pipeline ebenfalls weitergeführt Qwen3.5-4Bvon dem bekannt ist, dass es während des Denkens eine Schleife bildet. Die Doom-Looping-Fee sank bei gieriger Stichprobe von 22,9 % auf 1 %. Die Evaluierungswerte stiegen deutlich an.

Mit steigender Temperatur änderte sich die Bewertungspunktzahl umgekehrt zur Doom-Loop-Fee. Nach dem Coaching zeigten beide Modelle einen Leistungsabfall in der Nähe von temp=1,0. Dies ist zu erwarten, da die Probenahme bei höheren Temperaturen weniger bevorzugte Token begünstigen kann. Sobald die Schleife entfernt wurde, lieferte die nahezu gierige Stichprobe in den getesteten Modellen die besten Ergebnisse.

Das Liquid AI-Workforce weist auf einen verwandten Punkt zur gängigen Praxis hin. Der Glaube, dass höhere Temperaturen das Denken unterstützen, kann mit der Wirkung von Doom-Looping in Verbindung gebracht werden. Sobald die Schleifen verschwunden sind, schneidet in ihren Checks die Close to-Greed-Sampling-Methode am besten ab.

Mehrere Runden können helfen. Die erste Runde lehnt schleifenverursachende Token ab und gewichtet sich auf Alternativen um. Das kann neue Schwachstellen aufdecken, auf die dann eine zweite Runde abzielt.

Interaktiver Erklärer

Anwendungsfälle mit Beispielen

• Argumentationsmodelle auf dem Gerät: Argumentationsmodelle mit weniger als 1 GB wie die LFM2.5-Familie können bei harten Eingabeaufforderungen mitten im Proof ins Stocken geraten. Antidoom stellt die Genauigkeit wieder her, die diese Schleifen gekostet haben.
• Kleine Codierungsagenten: Ein 4B-Codierungsmodell kann einen harten Debugging-Hint durchlaufen und sein Kontextfenster zerstören. Durch das Entfernen der Schleife kann der Repair erreicht werden, den er bereits kannte.
• Kontrolle der Agent-Pipeline-Kosten: Schleifen verbrauchen Token, bis der Kontext erschöpft ist. Wenn Sie sie reduzieren, werden unnötige Token und Latenzzeiten bei langen Agent-Läufen reduziert.
• Reparatur nach dem Coaching. Groups, die fein abgestimmte Argumentationskontrollpunkte bereitstellen, können Antidoom in wenigen Stunden als Bereinigungsdurchlauf ausführen.

Stärken und Herausforderungen

Stärken:

• Zielgerichtet: Es bearbeitet das erste Schleifentoken und lässt den Relaxation der Verteilung weitgehend intakt.
• Schnell: Die gesamte Pipeline läuft in wenigen Stunden.
• Gemessen: LFM2.5-2.6B fiel um 10,2 % auf 1,4 %; Qwen3.5-4B fiel um 22,9 % auf 1 %.
• Open Supply: Generierung, Erkennung und der FTPO-Coach sind alle veröffentlicht.
• Stellt wieder her, nicht lehrt: Es stellt Antworten wieder her, die das Modell bereits liefern konnte.

Herausforderungen:

• Dadurch können neue Fehlerquellen aufgedeckt werden, sodass manchmal mehrere Runden erforderlich sind.
• Übermäßiges Coaching verschlechtert das Modell, additionally stoppen Sie frühzeitig chosen_win ist erforderlich.
• Die gemeldeten Ergebnisse beziehen sich auf LFM-Kontrollpunkte und Qwen3.5-4B, beides kleine Argumentationsmodelle.
• Nach dem Coaching kann die Leistung auf etwa 1,0 sinken.
• Jedes Modell benötigt einen eigenen generierten Schleifendatensatz.

Schauen Sie sich das an Technische Particulars Und GitHub-Repo. Sie können uns auch gerne weiter folgen Twitter und vergessen Sie nicht, bei uns mitzumachen 150k+ML SubReddit und Abonnieren Unser E-newsletter. Warten! Bist du im Telegram? Jetzt können Sie uns auch per Telegram kontaktieren.

Möchten Sie mit uns zusammenarbeiten, um Ihr GitHub-Repo ODER Ihre Hugging Face Web page ODER Produktveröffentlichung ODER Ihr Webinar usw. zu bewerben? Vernetzen Sie sich mit uns

Speicherentscheidungen kommen oft in beruhigenden Worten an: sicher, bequem, flexibel, trendy. Das ist die Broschürenversion. Für ein Unternehmen ist die eigentliche Frage, ob die Einrichtung auch dann noch funktioniert, wenn sich die Zeitpläne ändern, der Personalbestand knapp wird oder das Risiko wichtiger ist als der äußere Schein.

Für Haushalte geht es vor allem um Bequemlichkeit. Für ernsthafte Käufer geht es um Kontinuität, Zugangsdisziplin und darum, ob ein Versprechen den täglichen Gebrauch übersteht. Eine polierte Foyer ist schön, aber der tiefere Check ist einfach: Reduziert die Bedienung die Reibung oder fügt sie sie leise hinzu?

Datengesteuert Urteilsvermögen hilft, indem es schwierigere Fragen zur Servicekonsistenz, zur Wartungsreaktion, zum Zugriffsfluss und zu den versteckten Kosten von Fehlern stellt. Die beste Wahl ist selten die lauteste. Es ist derjenige, der weiterarbeitet, wenn der Druck steigt.

Warum diese Wahl mehr Gewicht hat, als die meisten Menschen zugeben

Auf dem Papier scheint die Lagerung eine grundlegende Immobilienentscheidung zu sein. In der Praxis berührt es Kontinuität, Kundenvertrauen und betriebliche Belastung. Eine schwache Web site führt zu kleinen Fehlern, die sich verschlimmern: verpasster Zugriff, verwirrte Abrechnung, schlechte Wartung und Zeitverlust des Personals durch vermeidbare Probleme.

Für Unternehmen sind diese Fehler nicht kosmetischer Natur. Sie wirken sich auf Haftungsrisiken, Zeitverluste und Reputationsschäden aus, die sich nie sauber in einer Budgetlinie niederschlagen. Ein Speicheranbieter kann entweder die Stabilität unterstützen oder zu einer wiederkehrenden Unterbrechung führen. Hier wird der Unterschied zwischen durchschnittlichen Optionen und deutlich NSA-Speicher das funktioniert tatsächlich langfristig.

Der Markt ist voll von ausgefeilten Ansprüchen. Die Lücke liegt in der Ausführung. Diese Lücke ist wichtig, weil der falsche Anbieter nicht nur Geld kostet; es verbraucht Aufmerksamkeit. Und Aufmerksamkeit ist teuer.

Dies gilt insbesondere dann, wenn die Groups bereits überlastet sind. Wenn ein Unternehmen saisonale Bestände, archivierte Dateien, Werkzeuge oder Überlaufgeräte verwaltet, wird die Speicherung Teil des Betriebsmodells. Durch eine gute Passform bleiben diese Elemente zugänglich, ohne dass ein weiterer Verwaltungsprozess entsteht.

Die effektivsten Käufer denken in nachgelagerten Effekten. Verbringen die Mitarbeiter weniger Zeit mit Suchen, Koordinieren und Nachprüfen? Bleiben die Vermögenswerte in dem Zustand, in dem sie platziert wurden? Bleibt die Anlage nutzbar, wenn die Nachfrage steigt oder sich die Abläufe ändern? Das sind geschäftliche Fragen, keine Fragen zur Ausstattung.

Was Sie überprüfen sollten, bevor Sie dem Raum vertrauen

Starke Bediener blicken über die Verkaufssprache hinaus und in die Mechanik. Die folgenden Fragen unterscheiden eine funktionierende Einrichtung von einer lediglich attraktiven.

Stellen Sie sich die Entscheidung so vor, wie Sie einen Anbieter oder eine Softwareplattform bewerten würden: nicht nur hinsichtlich der Funktionen, sondern auch hinsichtlich der Fehlermöglichkeiten. Was passiert, wenn das System ausgelastet ist, wenn etwas kaputt geht, oder wenn ein Kunde schnell Hilfe benötigt?

1) Sauberkeit ist keine Selbstverständlichkeit. Es ist ein Sign.:

Eine gepflegte Immobilie spiegelt in der Regel eine strengere Kontrolle hinter den Kulissen wider. Dazu gehören Wartungsdisziplin, Schädlingsbekämpfung und Mitarbeiter, die Probleme bemerken, bevor die Kunden es bemerken. Schmutz, kaputte Beleuchtung, klebrige Türen und lockere Zugangsverfahren gehen oft Hand in Hand.

Achten Sie auf Konsistenz auf der gesamten Web site und nicht auf eine elegante Büroecke. Wenn sich ein Ort in den Bereichen, die die Kunden sehen können, umsorgt fühlt, ist es wahrscheinlicher, dass er in den Bereichen, die für die Kunden nicht sichtbar sind, sorgfältig verwaltet wird. Das ist wichtig, wenn Menschen Inventar, Aufzeichnungen, Ausrüstung oder persönliche Gegenstände aufbewahren, die nicht aus einer Laune heraus ersetzt werden können.

Für Geschäftsanwender wirkt sich Sauberkeit auch auf die Geschwindigkeit aus. Freie Gänge, trockene Böden und funktionsfähige Wagen oder Ladeflächen sparen Zeit und verringern das Schadensrisiko. Eine aufgeräumte Web site ist normalerweise eine effizientere Web site.

2) Zugangs- und Klimakontrolle sollten zum realen Anwendungsfall passen:

Nicht jeder Kunde benötigt das gleiche Setup. Einige erfordern eine schnelle Beladung mit dem Auto. Andere brauchen stabile Bedingungen für wise Gegenstände. Bei der richtigen Entscheidung geht es weniger um die Stapelung der Ausstattung als vielmehr darum, die Einrichtung an die tatsächliche Belastung des Mieters anzupassen.

Wenn ein Unternehmen elektronische Geräte, Papierakten, Marketingmaterialien oder saisonale Lagerbestände lagert, ist die Klimatisierung möglicherweise weniger ein Luxus als vielmehr ein Schutz vor Verlust. Doch die Bequemlichkeit wirkt sich in beide Richtungen aus: Ein einfacher Zugang kann den Betrieb beschleunigen, kann aber auch zu Ineffizienz führen, wenn Groups ohne Disziplin einlagern.

Die entscheidende Frage ist, ob das Zugriffsmuster den Workflow unterstützt. Wenn sich Gegenstände häufig bewegen, kommt es auf den kürzesten Weg an. Wenn Gegenstände langfristig und zerbrechlich sind, ist die Umweltstabilität wichtiger. Ein datenorientierter Käufer sollte die Risiken auswählen, die am wichtigsten sind, und nicht die Funktionen, die nur nützlich klingen.

• Klimaschutz reduziert das Schadensrisiko für wise Güter.
• Wenn es auf Zeit und schweres Heben ankommt, ist der Zugang über das Auto hilfreich.
• Durch die Lagerung von Fahrzeugen kann eine Überlastung behoben werden, allerdings nur, wenn die Richtlinien klar sind.

3) Markenpolitur nicht mit Betriebssicherheit verwechseln:

Dies ist der häufigste Fehler: Ein Käufer sieht eine saubere Web site, ein freundliches Schild und ein modernes Versprechen und geht dann davon aus, dass das Backend ebenso stark ist. Manchmal ist es so. Manchmal ist es nur intestine gekleidet.

Der blinde Fleck ist die Personalbesetzung. Eine Web site kann hervorragend aussehen und dennoch scheitern, wenn das Group dünn ist, die Fluktuation hoch ist oder die Verfahren zu stark von einem fähigen Supervisor abhängen. Kunden erleben kein Leitbild. Sie erleben, ob sich das Tor öffnet, das Konto korrekt ist und das Downside ohne eine zweite Verfolgung gelöst wird.

Ein intelligenter Überprüfungsprozess umfasst das Serviceverhalten und nicht nur die körperliche Verfassung. Wie schnell werden Anrufe zurückgerufen? Wie klar sind die Regeln? Werden Ausnahmen konsistent behandelt? Zuverlässigkeit zeigt sich oft schon in kleinsten Interaktionen.

Ein einfacher Vorgang zum Tätigen des Anrufs

Ein disziplinierter Käufer braucht keine komplizierten Rahmenbedingungen. Es braucht einen kurzen Textual content, der den Vergleich auf der Substanz und nicht auf dem Glanz erzwingt.

Ziel ist es, Rätselraten zu reduzieren. Wenn die Optionen ähnlich aussehen, ist in der Regel die beste diejenige mit weniger Überraschungen und klareren Regeln.

1. Besuchen Sie die Einrichtung zu zwei verschiedenen Zeiten. Einer sollte während der normalen Geschäftszeiten sein und einer, wenn der Druck höher ist. Beobachten Sie den Verkehrsfluss, die Personalverfügbarkeit, das Torverhalten und ob sich das Anwesen auch bei hohem Andrang noch organisiert anfühlt.
2. Stellen Sie direkte Fragen zu Wartung, Zugangsrichtlinien, Versicherungserwartungen und der Handhabung von Ausnahmen. Vage Antworten sind ein Warnzeichen. Sie kaufen nicht nur Platz. Sie kaufen die Zuverlässigkeit des Prozesses.
3. Vergleichen Sie Standorte anhand der Ausfallkosten, nicht nur anhand der monatlichen Charge. Ein billigeres Gerät, das zu Zeitverlust, beschädigten Waren oder wiederholten Anrufen führt, ist nicht billiger. Es handelt sich um aufgeschobene Schmerzen mit beigefügter Quittung.
4. Überprüfen Sie die Vertragssprache mit der gleichen Sorgfalt, die Sie auch bei wiederkehrenden Lieferantenverträgen anwenden würden. Achten Sie auf Gebühren, Kündigungsfristen, Zugangsbeschränkungen und darauf, was passiert, wenn sich die Bedingungen ändern.
5. Ordnen Sie die Einrichtung dem Artikelprofil zu. Langzeitarchive, Lagerbestände mit schnellem Umschlag, Werkzeuge und Fahrzeuge stellen unterschiedliche Anforderungen an einen Standort. Die beste Wahl ist diejenige, die die tatsächliche Nutzung unterstützt und nicht die hypothetische Bequemlichkeit.

Die besten Speicherentscheidungen unterstützen den Relaxation des Unternehmens

Die stärksten Betreiber verstehen, dass die Speicherung Teil eines umfassenderen Techniques ist. Es schützt das Betriebskapital, organisiert Aufzeichnungen und Vermögenswerte und gibt den Groups Bewegungsfreiheit, ohne das Büro, das Lager oder den Heimstandort zu überfüllen.

Deshalb kann Skalierung nützlich sein, wenn sie mit Konsistenz gepaart ist. Ein Netzwerk mit breiter Abdeckung und Standardpraktiken kann ein stabileres Erlebnis bieten als eine einmalige Web site, die ausschließlich auf den guten Absichten einer Individual basiert. Aber Größe allein reicht nicht aus. Der wahre Wert liegt in der wiederholbaren Ausführung: saubere Anlagen, klare Erwartungen und Supervisor, die Probleme lösen, anstatt sie weiterzugeben.

Für Unternehmen, die Wert auf Daten und Prozesse legen, ist das beste Sign kein beeindruckender Slogan. Es ist ein Beweis für Disziplin im Laufe der Zeit. Gelten standortübergreifend die gleichen Requirements? Sind die Verfahren konsistent? Werden Probleme so gehandhabt, dass die Unsicherheit für den Kunden verringert wird?

Die Entscheidung hat auch eine strategische Seite. Wenn die Lagerung intestine funktioniert, verschwenden Groups keine Energie mehr für vermeidbare Logistik und können sich auf ihre Kernarbeit konzentrieren. Für sich genommen ist das eine kleine Effizienz, über ein Vierteljahr oder ein Jahr hinweg jedoch eine sinnvolle.

Wählen Sie den Ort, der sich wie ein System verhält, nicht wie ein Slogan

Ernsthafte Käufer sollten bestmöglich skeptisch sein. Schönes Branding ist einfach. Zuverlässiger Betrieb ist schwieriger. Der Unterschied zeigt sich in kleinen Momenten: ein Rückruf, ein funktionierendes Tor, eine Einrichtung, die in Ordnung bleibt, ein Supervisor, der weiß, worauf es ankommt.

In einem Markt, in dem Unternehmen versuchen, Verschwendung zu begrenzen, Vermögenswerte zu schützen und sich auf die Kernarbeit zu konzentrieren, sollte die Lagerung kein weiteres schwaches Glied sein. Wählen Sie die Choice, bei der Vertrauen als Betriebsstandard und nicht als Marketinglinie behandelt wird.

Für SaaS-Unternehmen (Software program as a Service) ist die Überwachung und Verwaltung ihrer Produktdaten von entscheidender Bedeutung. Für diejenigen, die dies nicht verstehen, wenn sie einen Vorfall bemerken. Der Schaden ist bereits angerichtet. Für Unternehmen in Schwierigkeiten das kann tödlich sein.

Um dies zu verhindern, habe ich einen mit der Datenbank verknüpften n8n-Workflow erstellt, der die Daten täglich analysiert und erkennt, ob es einen Vorfall gibt. In diesem Fall wird ein Protokoll- und Benachrichtigungssystem so schnell wie möglich mit der Untersuchung beginnen. Außerdem habe ich ein Dashboard erstellt, damit das Workforce die Ergebnisse in Echtzeit sehen konnte.

Kontext

Eine auf Datenvisualisierung und automatisiertes Reporting spezialisierte B2B-SaaS-Plattform bedient rund 4500 Kunden, verteilt auf drei Segmente:

• Kleinunternehmen
• Mittelklasse
• Unternehmen

Die wöchentliche Produktnutzung übersteigt 30.000 aktive Konten mit starken Abhängigkeiten von Echtzeitdaten (Pipelines, APIs, Dashboards, Hintergrundjobs).

Das Produktteam arbeitet eng zusammen mit:

• Wachstum (Akquise, Aktivierung, Onboarding)
• Umsatz (Preisgestaltung, ARPU, Abwanderung)
• SRE/Infrastruktur (Zuverlässigkeit, Verfügbarkeit)
• Information Engineering (Pipelines, Datenaktualität)
• Assist und Kundenerfolg

Im vergangenen Jahr verzeichnete das Unternehmen eine steigende Zahl von Vorfällen. Zwischen Oktober und Dezember stieg die Gesamtzahl der Vorfälle von 250 auf 450 Steigerung um 80 %. Mit diesem Anstieg gab es mehr als 45 schwerwiegende und kritische Vorfälle, von denen Tausende von Benutzern betroffen waren. Die am stärksten betroffenen Kennzahlen waren:

• api_error_rate
• checkout_success_rate
• net_mrr_delta
• data_freshness_lag_minutes
• Abwanderungsrate

Wenn Vorfälle auftreten, a Unternehmen wird beurteilt von seinen Kunden basierend auf der Artwork und Weise, wie es damit umgeht und reagiert. Während die Das Produktteam wird geschätzt dafür, wie sie es geschafft und dafür gesorgt haben, dass so etwas nicht noch einmal passiert.

Ein einmaliger Vorfall kann passieren, aber ein zweimaliger Vorfall ist ein Fehler.

Auswirkungen auf das Geschäft

• Höhere Volatilität bei den wiederkehrenden Nettoumsätzen
• Ein auffälliges Rückgang der aktiven Konten über mehrere aufeinanderfolgende Wochen
• Mehrere Unternehmenskunden melden und beschweren sich über das veraltete Dashboard (mit einer Verspätung von mehr als 45 Minuten)

Insgesamt waren zwischen 30.000 und 60.000 Benutzer betroffen. Auch das Vertrauen der Kunden in die Produktzuverlässigkeit litt darunter. Unter den Nichtverlängerungen sind 45 % gaben an, dass dies ihr Hauptgrund sei.

Warum ist dieses Drawback kritisch?

Als Datenplattform kann sich das Unternehmen Folgendes nicht leisten:

• langsame oder veraltete Daten
• API-Fehler
• Pipeline-Ausfälle
• Verpasste oder verzögerte Synchronisierungen
• Ungenaues Dashboard
• Abwanderungen (Herabstufungen, Stornierungen)

Intern verteilten sich die Vorfälle auf mehrere Systeme:

• Ideen zur Produktverfolgung
• Slack für Benachrichtigungen
• PostgreSQL zur Speicherung
• Sogar auf Google Sheets für den Kundensupport

Es gab keine einzige Quelle der Wahrheit. Das Produktteam muss alle Daten manuell mit Querverweisen versehen und noch einmal überprüfen, nach Traits suchen und sie zusammensetzen. Es conflict eine Untersuchung und die Lösung eines Rätsels, wodurch sie jede Woche so viele Stunden verloren.

Lösung: Automatisierung einer Vorfallsystemwarnung mit N8N und Erstellung eines Daten-Dashboards. So werden Vorfälle erkannt, verfolgt, gelöst und verstanden.

Warum n8n?

Derzeit gibt es mehrere Automatisierungsplattformen und -lösungen. Aber nicht alle entsprechen den Bedürfnissen und Anforderungen. Es ist wichtig, je nach Bedarf das Richtige auszuwählen.

Die spezifischen Anforderungen bestanden darin, Zugriff auf eine Datenbank zu haben, ohne dass eine API erforderlich ist (n8n unterstützt API), visuelle Arbeitsabläufe und Knoten, die auch für technisch nicht versierte Personen verständlich sind, benutzerdefinierte codierte Knoten, selbst gehostete Optionen und kosteneffektive Skalierung. Unter den vorhandenen Plattformen wie Zapier, Make oder n8n fiel die Wahl additionally auf Letzteres.

Entwerfen des Product Well being Rating

Zunächst müssen die wichtigsten Kennzahlen ermittelt und berechnet werden.

Influence-Rating: einfache Funktion von Schweregrad + Delta + Benutzerskala

impact_score = (
            severity_weights(severity) * 10
            + abs(delta_pct) * 0.8
            + np.log1p(affected_users)
        )
        impact_score = spherical(float(impact_score), 2)

Priorität: abgeleitet aus Schweregrad + Auswirkung

if severity == "important" or impact_score > 60:
            precedence = "P1"
        elif severity == "excessive" or impact_score > 40:
            precedence = "P2"
        elif severity == "medium":
            precedence = "P3"
        else:
            precedence = "P4"

Produktgesundheitsbewertung

def compute_product_health_score(incidents, metrics):
    """
    Rating = 100 - sum(penalties)
    Manufacturing model handles 15+ elements
    """
    # Key perception: penalties have totally different max weights
    penalties = {
        'quantity': min(40, incident_rate * 13),      # 40% max
        'severity': calculate_severity_sum(incidents), # 25% max  
        'customers': min(15, log(customers) / log(50000) * 15), # 15% max
        'traits': calculate_business_trends(metrics)    # 20% max
    }
    
    rating = 100 - sum(penalties.values())
    
    if rating >= 80: return rating, " Steady"
    elif rating >= 60: return rating, " Underneath watch"
    else: return rating, " In danger"

Entwerfen des automatisierten Erkennungssystems mit n8n

Dieses System besteht aus 4 Streams:

• Stream 1: Ruft aktuelle Umsatzkennzahlen ab, identifiziert ungewöhnliche Spitzen in der Abwanderungs-MRR und erstellt bei Bedarf Vorfälle.

const rows = objects.map(merchandise => merchandise.json);

if (rows.size < 8) {
  return ();
}

rows.kind((a, b) => new Date(a.date) - new Date(b.date));

const values = rows.map(r => parseFloat(r.churn_mrr || 0));

const lastIndex = rows.size - 1;
const lastRow = rows(lastIndex);
const lastValue = values(lastIndex);

const window = 7;
const baselineValues = values.slice(lastIndex - window, lastIndex);

const imply = baselineValues.scale back((s, v) => s + v, 0) / baselineValues.size;
const variance = baselineValues
  .map(v => Math.pow(v - imply, 2))
  .scale back((s, v) => s + v, 0) / baselineValues.size;
const std = Math.sqrt(variance);

if (std === 0) {
  return ();
}

const z = (lastValue - imply) / std;
const deltaPct = imply === 0 ? null : ((lastValue - imply) / imply) * 100;

if (z > 2) {
  const anomaly = {
    date: lastRow.date,
    metric_name: 'churn_mrr',
    baseline_value: imply,
    actual_value: lastValue,
    z_score: z,
    delta_pct: deltaPct,
    severity:
      deltaPct !== null && deltaPct > 50 ? 'excessive'
      : deltaPct !== null && deltaPct > 25 ? 'medium'
      : 'low',
  };

  return ({ json: anomaly });
}

return ();

• Stream 2: Monitore verfügen über Nutzungsmetriken, um plötzliche Rückgänge bei Akzeptanz oder Engagement zu erkennen.
  Vorfälle werden mit Schweregrad, Kontext und Warnungen an das Produktteam protokolliert.

• Stream 3: Sammelt für jeden offenen Vorfall zusätzlichen Kontext aus der Datenbank (z. B. Abwanderung nach Land oder Plan), generiert mithilfe von KI eine klare Grundursachenhypothese und schlägt die nächsten Schritte vor, sendet einen zusammenfassenden Bericht an Slack und per E-Mail und aktualisiert den Vorfall

• Stream 4: Jeden Morgen fasst der Workflow alle Vorfälle des Vortages zusammen, erstellt eine Notion-Seite zur Dokumentation und sendet einen Bericht an das Führungsteam

Wir haben ähnliche Erkennungsknoten für 8 verschiedene Metriken eingesetzt und die Z-Rating-Richtung basierend darauf angepasst, ob Erhöhungen oder Verringerungen problematisch waren.

Der Der KI-Agent erhält zusätzlichen Kontext durch SQL-Abfragen (Abwanderung nach Land, nach Plan, nach Phase), um genauere Ursachenhypothesen zu generieren. Und all diese Daten werden täglich gesammelt und per E-Mail versendet.

Der Workflow generiert täglich zusammenfassende Berichte, in denen alle Vorfälle nach Metrik und Schweregrad zusammengefasst und per E-Mail und Slack an die Beteiligten verteilt werden.

Das Armaturenbrett

Das Dashboard konsolidiert alle Signale an einem Ort. Eine automatische Produktgesundheitsbewertung mit eine 0-100-Foundation berechnet sich mit:

• Vorfallvolumen
• Schweregradgewichtung
• Offener vs. gelöster Standing
• Anzahl der betroffenen Benutzer
• Geschäftstrends (MRR)
• Nutzungstrends (aktive Konten)

Eine Segmentaufschlüsselung, um zu ermitteln, welche Kundengruppen am stärksten betroffen sind:

Eine wöchentliche Heatmap und Zeitreihen-Trenddiagramme zur Identifizierung wiederkehrender Muster:

Und eine detaillierte Vorfallansicht, zusammengestellt von:

• Geschäftskontext
• Dimension und Phase
• Grundursachenhypothese
• Artwork des Vorfalls
• Eine KI-Zusammenfassung zur Beschleunigung der Kommunikation und Diagnosen aus dem n8n-Workflow

Diagnose:

Der Produktgesundheitsscore vermerkt das tatsächliche Produkt 24/100 mit dem Standing „gefährdet“ mit:

• 45 Hohe und kritische Vorfälle
• 36 Vorfälle in den letzten 7 Tagen
• 33.385 geschätzte betroffene Benutzer. Negativer Development bei Abwanderung und DAU
• Mehrere Spitzen bei api_error_rate und Rückgänge bei checkout_success_rate

Größte Auswirkung professional Phase:

• Unternehmen → Kritische Probleme mit der Aktualität der Daten
• Mittelstand → wiederkehrende Vorfälle bei der Funktionseinführung
• KMU → Schwankungen bei Onboarding und Aktivierung

Auswirkungen

Das Ziel dieses Dashboards besteht nicht nur darin, Vorfälle zu analysieren und Muster zu erkennen, sondern der Organisation auch eine schnellere Reaktion mit einem detaillierten Überblick zu ermöglichen.

Uns ist ein aufgefallen 35 % Reduzierung kritischer Vorfälle nach 2 Monaten. Die SRE- und DATA-Groups identifizierten dank der einheitlichen Daten die wiederkehrende Grundursache einiger schwerwiegender Probleme und konnten diese beheben und die Wartung überwachen. Dank der KI-Zusammenfassungen und aller Metriken hat sich die Reaktionszeit bei Vorfällen erheblich verbessert, sodass sie wissen, wo Nachforschungen angestellt werden müssen.

Eine KI-gestützte Ursachenanalyse

Der Einsatz von KI kann viel Zeit sparen. Vor allem, wenn eine Untersuchung in verschiedenen Datenbanken erforderlich ist und Sie nicht wissen, wo Sie anfangen sollen. Das Hinzufügen eines KI-Agenten zur Schleife kann sparen Sie viel Zeit dank seiner Geschwindigkeit bei der Datenverarbeitung. Um dies zu erreichen, a detaillierte aufforderung ist notwendig, da der Agent einen Menschen ersetzen wird. Um möglichst genaue Ergebnisse zu erhalten, muss additionally auch die KI den Kontext verstehen und eine Anleitung erhalten. Andernfalls könnte es Nachforschungen anstellen und irrelevante Schlussfolgerungen ziehen. Vergessen Sie nicht Stellen Sie sicher, dass Sie die Ursache des Issues vollständig verstehen.

You're a Product Information & Income Analyst.

We detected an incident:
{{ $json.incident }}

Right here is churn MRR by nation (high offenders first):
{{ $json.churn_by_country }}

Right here is churn MRR by plan:
{{ $json.churn_by_plan }}

1. Summarize what occurred in easy enterprise language.
2. Establish essentially the most impacted segments (nation, plan).
3. Suggest 3-5 believable hypotheses (product points, value adjustments, bugs, market occasions).
4. Suggest 3 concrete subsequent steps for the Product staff.

Es ist unbedingt zu beachten, dass nach Erhalt der Ergebnisse eine abschließende Kontrolle erforderlich ist, um sicherzustellen, dass die Analyse korrekt durchgeführt wurde. KI ist ein Werkzeug, Aber es kann auch schief gehen, additionally nicht nur darauf; Es ist ein hilfreiches Werkzeug. Für dieses System schlägt die KI vor Die drei wahrscheinlichsten Grundursachen für jeden Vorfall.

Eine bessere Abstimmung mit dem Führungsteam und eine datenbasierte Berichterstattung. Mit tiefergehenden Analysen wurde alles datengesteuerter, nicht mehr Instinct oder Berichte durch Segmentierung. Dies führte auch zu einem verbesserten Prozess.

Fazit und Erkenntnisse

Zusammenfassend lässt sich sagen, dass der Aufbau eines Produktgesundheits-Dashboards mehrere Vorteile hat:

• Erkennen Sie damaging Traits (MRR, DAU, Engagement) früher
• Reduzieren Sie kritische Vorfälle durch die Identifizierung von Grundursachenmustern
• Verstehen Sie die tatsächlichen Auswirkungen auf das Geschäft (betroffene Benutzer, Abwanderungsrisiko)
• Priorisieren Sie die Produkt-Roadmap basierend auf Risiko und Auswirkungen
• Richten Sie Produkte, Daten, SRE und Umsatz auf einer einzigen Informationsquelle aus

Genau das fehlt vielen Unternehmen: ein einheitlicher Datenansatz.

Der Einsatz des n8n-Workflows hat in zweierlei Hinsicht geholfen: Die Probleme konnten so schnell wie möglich gelöst werden und die Daten konnten an einem Ort gesammelt werden. Das Automatisierungstool trug dazu bei, den Zeitaufwand für diese Aufgabe zu reduzieren, da das Unternehmen noch im laufenden Betrieb conflict.

Lektionen für Produktteams

• Fangen Sie einfach an: Der Aufbau eines Automatisierungssystems und eines Dashboards muss klar definiert sein. Sie erstellen kein Produkt für die Kunden, sondern ein Produkt für Ihre Mitarbeiter. Es ist wichtig, dass Sie die Bedürfnisse jedes Groups verstehen, da es Ihre Hauptbenutzer sind. Halten Sie sich vor diesem Hintergrund zunächst an das Produkt, das Ihr MVP sein und alle Ihre Anforderungen erfüllen wird. Dann können Sie es verbessern, indem Sie Funktionen oder Metriken hinzufügen.
• Einheitliche Kennzahlen sind wichtiger als eine perfekte Erkennung: Wir müssen bedenken, dass ihnen nicht nur die Zeitersparnis, sondern auch das Verständnis zu verdanken ist. Eine gute Erkennung ist unerlässlich, aber wenn die Metriken ungenau sind, wird die eingesparte Zeit dadurch verschwendet, dass die Groups nach den Metriken suchen, die über verschiedene Umgebungen verteilt sind
• Automatisierung spart 10 Stunden professional Woche der manuellen Untersuchung: Durch die Automatisierung einiger manueller und wiederkehrender Aufgaben sparen Sie Stunden bei der Untersuchung, da wir beim Workflow für Vorfallwarnungen direkt wissen, wo wir zuerst nachforschen müssen, welche Hypothese die Ursache hat und welche Maßnahmen wir ergreifen müssen.
• Dokumentieren Sie alles: Eine ordnungsgemäße und detaillierte Dokumentation ist ein Muss und ermöglicht allen Beteiligten ein klares Verständnis und eine klare Sicht auf das Geschehen. Auch die Dokumentation ist ein Datenelement.

Wer bin ich?

Ich bin Yassin, ein Projektmanager, der sich auf Information Science spezialisiert hat, um die Lücke zwischen Geschäftsentscheidungen und technischen Systemen zu schließen. Das Erlernen von Python, SQL und Analytics hat es mir ermöglicht, Produkterkenntnisse und Automatisierungsworkflows zu entwerfen, die die Anforderungen der Groups mit dem Verhalten der Daten verbinden. Lasst uns weitermachen Linkedin

OpenAI scheint Inhalte von Reddit für das Coaching von ChatGPT zu einer Entbindung zu sein, was einen Drehpunkt für zuverlässigere und überprüfbare Informationsquellen signalisiert. Diese Entscheidung spiegelt eine grundlegende Verschiebung der Entwicklung des KI -Modells wider und priorisiert die Genauigkeit gegenüber Crowdsourced -Gesprächsdaten.

Der Grund für die Verschiebung

Reddit struggle jahrelang eine wertvolle Ressource für die Ausbildung von KI, da die Vielzahl von Diskussionen einen natürlichen, konversativen Stil lieferte, der den Modellen half, den Dialog zu lernen. Diese Daten umfassten jedoch auch erhebliche Nachteile wie Fehlinformationen, Inhalte von geringer Qualität und Benutzer, die aktiv versuchen, Diskussionen zu manipulieren, um die KI-Antworten zu beeinflussen.

Diese gemeldete Veränderung ist Teil eines breiteren Branchentrends, der auf die Verwendung vertrauenswürdiger und überprüfbarer Datenquellen drängt. Ziel ist es, die Genauigkeit von AI-generierten Inhalten zu verbessern, die Ausbreitung von Fehlinformationen zu verringern und die Modelle schwieriger zu manipulieren.

Was bedeutet dies für Benutzer

Die Abwanderung von Reddit beinhaltet einen Kompromiss.

Benutzer können erwarten, konsistentere und faktenbasierte Antworten von zu erhalten Chatgpt. Andererseits können die schrullige, gemeinschaftsgetriebene Persönlichkeit, die Reddits vielfältige Inhalte für die Antworten des Modells gebracht haben, im Laufe der Zeit verblassen.

Dieser Fokus auf Glaubwürdigkeit unterstreicht die Zukunft der KI -Entwicklung, in der Transparenz und Vertrauen in Schulungsdaten immer wesentlich werden. Da KI -Modelle zunehmend in professionelle, akademische und Geschäftsumgebungen integriert werden, hat die Nachfrage nach Zuverlässigkeit Vorrang vor chaotischer und unvorhersehbarer Natur nicht abgetanter On-line -Foren.

Ausgewähltes Bildnachweis

Fühlen Sie, wenn alles scheint Um intestine zu arbeiten, bis Sie unter die Motorhaube schauen und feststellen, dass Ihr System 10 × mehr Kraftstoff verbrennt, als es nötig ist?

Wir hatten ein Consumer -Skript, das Anfragen abfeuerte, um unsere Eingabeaufforderungen zu validieren, die mit asynchronen Python -Code erstellt und in einem Jupyter -Notizbuch reibungslos ausgeführt wurden. Sauber, einfach und schnell. Wir haben es regelmäßig durchgeführt, um unsere Modelle zu testen und Bewertungsdaten zu sammeln. Keine roten Fahnen. Keine Warnungen.

Aber unter dieser polierten Oberfläche lief etwas leise schief.

Wir sahen keine Misserfolge. Wir bekamen keine Ausnahmen. Wir haben nicht einmal Langsamkeit bemerkt. Aber unser System leistete viel mehr Arbeit als nötig, und wir haben es nicht bemerkt.

In diesem Beitrag gehen wir durch, wie wir das Downside entdeckt haben, was es verursacht hat und wie a Einfache strukturelle Veränderung in unserem asynchronisierten Code reduzierte den LLM -Verkehr und die Kosten um 90%, um 90%. mit praktisch ohne Geschwindigkeits- oder Funktionsverlust.

Nun, faire Warnung, Das Lesen dieses Beitrags wird Ihre LLM -Kosten nicht auf magische Weise um 90% senken. Aber das Mitnehmen hier ist breiter: Kleine, übersehene Entwurfsentscheidungen, manchmal nur wenige Codezeilen, können zu massiven Ineffizienzen führen. Wenn Sie beabsichtigt, wie Ihr Code ausgeführt wird, können Sie auf lange Sicht Zeit, Geld und Frustration sparen.

Die Repair selbst könnte zuerst Nische fühlen. Es beinhaltet die Feinheiten von Pythons asynchronem Verhalten, wie Aufgaben geplant und versandt werden. Wenn Sie mit Python vertraut sind und async/awaitSie werden mehr aus den Code -Beispielen herausholen, aber selbst wenn dies nicht der Fall ist, gibt es immer noch viel zu genießen. Denn in der wahren Geschichte hier geht es nicht nur um LLMs oder Python, sondern um Verantwortungsbewusst, effizientes Engineering.

Lass uns eingraben.

Das Setup

Um die Validierung zu automatisieren, verwenden wir einen vordefinierten Datensatz und lösen unser System über ein Consumer -Skript aus. Die Validierung konzentriert sich auf a Kleine Untergruppe des Datensatzes, so wird der Clientcode erst nach Erhalt einer bestimmten Anzahl von Antworten aufhört.

Hier ist eine vereinfachte Model unseres Kunden in Python:

import asyncio
from aiohttp import ClientSession
from tqdm.asyncio import tqdm_asyncio

URL = "http://localhost:8000/instance"
NUMBER_OF_REQUESTS = 100
STOP_AFTER = 10

async def fetch(session: ClientSession, url: str) -> bool:
    async with session.get(url) as response:
        physique = await response.json()
        return physique("worth")

async def most important():
    outcomes = ()

    async with ClientSession() as session:
        duties = (fetch(session, URL) for _ in vary(NUMBER_OF_REQUESTS))

        for future in tqdm_asyncio.as_completed(duties, whole=NUMBER_OF_REQUESTS, desc="Fetching"):
            response = await future
            if response is True:
                outcomes.append(response)
                if len(outcomes) >= STOP_AFTER:
                    print(f"n Stopped after receiving {STOP_AFTER} true responses.")
                    break

asyncio.run(most important())

Dieses Skript liest Anfragen von einem Datensatz, feuert sie gleichzeitig aus und stoppt, sobald wir genug gesammelt haben true Antworten für unsere Bewertung. In der Produktion ist die Logik komplexer und basiert auf der Vielfalt der Antworten, die wir benötigen. Aber die Struktur ist die gleiche.

Verwenden wir einen Dummy -Fastapi -Server, um das echte Verhalten zu simulieren:

import asyncio
import fastapi
import uvicorn
import random

app = fastapi.FastAPI()

@app.get("/instance")
async def instance():
    sleeping_time = random.uniform(1, 2)
    await asyncio.sleep(sleeping_time)
    return {"worth": random.alternative((True, False))}

if __name__ == "__main__":
    uvicorn.run(app, host="0.0.0.0", port=8000)

Lassen Sie uns nun diesen Dummy -Server anfeuern und den Consumer ausführen. Sie werden so etwas aus dem Consumer -Terminal sehen:

Können Sie das Downside erkennen?

Hübsch! Schnell, sauber und… warte alles wie erwartet?

An der Oberfläche, es scheint Wie der Kunde das Richtige tut: Anfragen zu senden, 10 zu erhalten true Antworten, dann anhalten.

Aber ist es?

Fügen wir unserem Server ein paar Druckanweisungen hinzu, um zu sehen, was er tatsächlich unter der Haube tut:

import asyncio
import fastapi
import uvicorn
import random

app = fastapi.FastAPI()

@app.get("/instance")
async def instance():
    print("Bought a request")
    sleeping_time = random.uniform(1, 2)
    print(f"Sleeping for {sleeping_time:.2f} seconds")
    await asyncio.sleep(sleeping_time)
    worth = random.alternative((True, False))
    print(f"Returning worth: {worth}")
    return {"worth": worth}

if __name__ == "__main__":
    uvicorn.run(app, host="0.0.0", port=8000)

Jetzt alles erneut ausführen.

Sie werden anfangen, solche Protokolle zu sehen:

Bought a request
Sleeping for 1.11 seconds
Bought a request
Sleeping for 1.29 seconds
Bought a request
Sleeping for 1.98 seconds
...
Returning worth: True
Returning worth: False
Returning worth: False
...

Schauen Sie sich die Serverprotokolle genauer an. Sie werden etwas Unerwartetes bemerken: Anstatt nur 14 Anfragen zu verarbeiten, wie wir in der Fortschrittsleiste sehen, übernimmt der Server alle 100. Obwohl der Kunde nach Erhalt 10 anhält true Antworten, es sendet immer noch jede Anfrage im Voraus. Infolgedessen muss der Server alle verarbeiten.

Es ist ein einfacher Fehler zu verpassenVor allem, weil alles aus der Sicht des Kunden korrekt zu funktionieren scheint: Antworten kommen schnell ein, die Fortschrittsbalken sind Fortschritte und das Skript verlässt früh. Aber hinter den Kulissen werden alle 100 Anfragen sofort gesendet, unabhängig davon, wann wir uns entscheiden, nicht mehr zuzuhören. Dies führt zu 10 × mehr Verkehr als nötig, steigern Sie die Kosten, die Erhöhung der Final und die Risikobeschränkungen.

Die Hauptfrage lautet additionally: Warum passiert das und wie können wir sicherstellen, dass wir nur die Anfragen senden, die wir tatsächlich benötigen? Die Antwort stellte sich als eine kleine, aber mächtige Veränderung heraus.

Die Wurzel des Issues liegt darin, wie die Aufgaben geplant sind. In unserem ursprünglichen Code erstellen wir eine Liste von 100 Aufgaben auf einmal:

duties = (fetch(session, URL) for _ in vary(NUMBER_OF_REQUESTS))

for future in tqdm_asyncio.as_completed(duties, whole=NUMBER_OF_REQUESTS, desc="Fetching"):
    response = await future

Wenn Sie eine Liste von Coroutinen an übergeben as_completedPython wickelt sofort jede Coroutine in a Job und plant es auf der Occasion -Schleife. Dies geschieht, bevor Sie über den Schleifenkörper iteriert werden. Sobald eine Coroutine zu einer wird JobDie Ereignisschleife wird sofort im Hintergrund ausgeführt.

as_completed selbst kontrolliert die Parallelität nicht, es einfach wartet darauf, dass die Aufgaben beendet werden und sie nacheinander in der Reihenfolge, die sie erledigen. Betrachten Sie es als Iterator über abgeschlossene Futures, nicht als Verkehrscontroller. Dies bedeutet, dass zu dem Zeitpunkt, an dem Sie beginnen, zu schleifen, Alle 100 Anfragen sind bereits im Gange. Nach 10 ausbrechen true Die Ergebnisse hinderen Sie daran, den Relaxation zu verarbeiten, aber es hindert sie nicht daran, gesendet zu werden.

Um dies zu beheben, haben wir vorgestellt A Semaphor Genauigkeit einschränken. Das Semaphor fügt ein leichtes Schloss im Inneren hinzu fetch so dass nur eine feste Anzahl von Anforderungen gleichzeitig beginnen kann. Der Relaxation bleibt im Pause und wartet auf einen Slot. Sobald wir unseren Stoppzustand erreicht haben, erwerben die Pautenaufgaben nie das Schloss, so dass sie ihre Anfragen nie senden.

Hier ist die angepasste Model:

import asyncio
from aiohttp import ClientSession
from tqdm.asyncio import tqdm_asyncio

URL = "http://localhost:8000/instance"
NUMBER_OF_REQUESTS = 100
STOP_AFTER = 10

async def fetch(session: ClientSession, url: str, semaphore: asyncio.Semaphore) -> str:
    async with semaphore:
        async with session.get(url) as response:
            physique = await response.json()
            return physique("worth")

async def most important():
    outcomes = ()
    semaphore = asyncio.Semaphore(int(STOP_AFTER * 1.5))

    async with ClientSession() as session:
        duties = (fetch(session, URL, semaphore) for _ in vary(NUMBER_OF_REQUESTS))

        for future in tqdm_asyncio.as_completed(duties, whole=NUMBER_OF_REQUESTS, desc="Fetching"):
            response = await future
            if response:
                outcomes.append(response)
                if len(outcomes) >= STOP_AFTER:
                    print(f"n Stopped after receiving {STOP_AFTER} true responses.")
                    break

asyncio.run(most important())

Mit dieser Änderung definieren wir immer noch 100 Anfragen im Voraus, aber aber Nur eine kleine Gruppe darf gleichzeitig laufen15 in diesem Beispiel. Wenn wir unseren Stoppzustand frühzeitig erreichen, stoppt die Occasion -Schleife, bevor wir weitere Anfragen gestartet haben. Dadurch reagiert das Verhalten und reduziert gleichzeitig unnötige Anrufe.

Jetzt werden die Serverprotokolle nur etwa 20 angezeigt "Bought a request/Returning response" Einträge. Auf der Kundenseite erscheint die Fortschrittsleiste mit dem Unique identisch.

Mit dieser Änderung sahen wir sofortige Auswirkungen: 90% Reduzierung des Anforderungsvolumens und LLM -Kostenohne merkwürdige Verschlechterung der Kundenerfahrung. Es verbesserte auch den Durchsatz im gesamten Staff, reduzierte die Warteschlange und beseitigte die Charge-Restrict-Probleme unserer LLM-Anbieter.

Diese kleine strukturelle Anpassung machte unsere Validierungspipeline dramatisch effizienter, ohne dem Code viel Komplexität zu verleihen. Es ist eine gute Erinnerung daran, dass sich der Steuerfluss in asynchronen Systemen nicht immer so verhalten, wie Sie es annehmen, es sei denn, Sie sind explizit darüber, wie Aufgaben geplant sind und wann sie ausgeführt werden sollten.

Bonus Perception: Schließen der Ereignisschleife

Wenn wir den ursprünglichen Clientcode ohne ausgeführt hätten asyncio.runWir hätten das Downside vielleicht früher bemerkt.
Wenn wir beispielsweise so ein manuelles Occasion -Loop -Administration wie folgt verwendet hatten:

loop = asyncio.get_event_loop()
loop.run_until_complete(most important())
loop.shut()

Python hätte Warnungen gedruckt wie:

Diese Warnungen erscheinen, wenn das Programm beendet wird, während noch unvollendete asynchronen Aufgaben in der Schleife geplant sind. Wenn wir einen Bildschirm voller Warnungen gesehen hätten, hätte er wahrscheinlich viel früher eine rote Fahne ausgelöst.

Warum haben wir diese Warnung bei der Verwendung nicht gesehen? asyncio.run()?

Weil asyncio.run() Kümmert sich um die Reinigung hinter den Kulissen. Es wird nicht nur Ihre Coroutine und Ihren Ausgang ausgeführt, sondern auch alle verbleibenden Aufgaben abgebaut, bis sie fertig ist, und erst dann die Ereignisschleife abschließt. Dieses integrierte Sicherheitsnetz verhindert, dass diese „anhängigen Aufgaben“ Warnungen angezeigt werden, auch wenn Ihr Code leise mehr Aufgaben eröffnet hat, als er nötig struggle.

Infolgedessen es unterdrückt diese Warnungen für „ausstehende Aufgaben“ Wenn Sie die Schleife manuell schließen mit loop.shut() nach run_until_complete()Alle übrig gebliebenen Aufgaben, die nicht erwartet wurden, werden immer noch herumhängen. Python erkennt, dass Sie die Schleife gewaltsam abschließen, während die Arbeiten noch geplant sind, und warnt Sie davor.

Dies kann nicht heißen, dass jedes asynchrische Python -Programm vermeiden sollte asyncio.run() oder immer benutzen loop.run_until_complete() mit einem Handbuch loop.shut(). Aber es zeigt etwas Wichtiges: Sie sollten sich bewusst sein, welche Aufgaben noch ausgeführt werden, wenn Ihr Programm austritt. Zumindest ist es eine gute Idee, vor dem Abschalten ausstehende Aufgaben zu überwachen oder zu protokollieren.

Letzte Gedanken

Indem wir den Kontrollfluss zurücktreten und überdenken konnten, konnten wir unseren Validierungsprozess dramatisch effizienter gestalten – Nicht durch Hinzufügen von mehr Infrastruktur, sondern indem wir das verwendeten, was wir bereits sorgfältiger hatten. Ein paar Zeilen der Codeänderung führten zu a 90% Kostenreduzierung ohne zusätzliche Komplexität. Es löste Charge-Restrict-Fehler, reduzierte Systemlast auf und ermöglichte es dem Staff, Bewertungen häufiger durchzuführen, ohne Engpässe zu verursachen.

Es ist eine wichtige Erinnerung daran„Clear“ asynchronisierter Code bedeutet nicht immer effizienter Code, es ist entscheidend, die Verwendung von Systemressourcen beabsichtigt zu sein, wie wir Systemressourcen verwenden. Verantwortungsbewusstes, effizientes Engineering ist mehr als nur das Schreiben von Code, der funktioniert. Es geht darum, Systeme zu entwerfen, die Zeit, Geld und gemeinsame Ressourcen respektieren, insbesondere in kollaborativen Umgebungen. Wenn Sie Compute als gemeinsames Vermögenswert anstelle eines unendlichen Swimming pools behandeln, profitieren alle davon: Systemsskala besser, Groups bewegen sich schneller und die Kosten bleiben vorhersehbar.

Egal, ob Sie LLM -Anrufe tätigen, Kubernetes -Jobs starten oder Daten in Stapeln verarbeiten, innehalten und sich fragen: Verwende ich nur das, was ich Wirklich brauchen?

Oft sind die Antwort und die Verbesserung nur eine Codezeile entfernt.

NEW YORK-Das digitale Transformationsunternehmen GFT hat seine Arbeit angekündigt, um die Cloud- und KI-Projekte von US- und Canadian Monetary Establishments mit Wynxx, seinem neuen Produktentwicklungsprodukt von KI-betrieben, voranzutreiben.

Während Finanzinstitute ihre Legacy -Systeme modernisieren, einschließlich des Übergangs in die Cloud und die Bereitstellung neuer KI -Anwendungsfälle im gesamten Unternehmen, suchen sie nach Möglichkeiten, die Qualität zu erhalten und gleichzeitig die Kosten zu senken. Das Wynxx von GFT ermöglicht dies und verringert die Zeit, die die Cloud- und KI -Funktionen für den Begin von bis zu 95percentdauern. Das proprietäre KI-Software hat eine globale Tier-1-Investmentbank bereits ermöglicht, die Zeit zu verkürzen, die eine Cloud-Bereitstellungsentwicklungsaufgabe von über einen Monat auf nur einen Tag dauerte.

Finanzinstitute möchten die Effizienz von KI -gesteuerten Effizienz nutzen – weniger als 40% haben sogar den ersten Schritt unternommen: alles in Cloud -Umgebungen. Dies liegt hauptsächlich daran, dass für die meisten Finanzinstitutionen digitale Transformationsprojekte wie der Umzug in die Cloud ein komplexes Unterfangen sind, das bedeutende Entwicklerressourcen erfordern. Infolgedessen stehen diese Finanzinstitute vor Herausforderungen, um die Macht der KI zu nutzen, die in der Regel auf zentralisierten Cloud -Ökosystemen beruht -, um einen Wettbewerbsvorteil zu erzielen, indem sie die Betriebskosten senken und gleichzeitig das Kundenerlebnis verbessern.

Vor diesem Hintergrund bringt GFT WYNXX in die USA und Kanada und ermöglicht es Finanzinstituten, die für die digitalen Transformationsprojekte in großen Maßstäben erforderliche Entwicklerzeit und Ressourcen zu verkürzen. Das neue Produkt ermöglicht Finanzinstituten, die Effizienz bei wichtigen digitalen Transformationsprojekten erheblich zu steigern, einschließlich:

• Der Übergang von dezentralen, älteren Systemen zu einer umfassenden Cloud -Umgebung. GFT arbeitet mit führenden Hyperscalern – einschließlich AWS und Google – zusammen, um ein Cloud -Umfeld zu liefern, das die einzigartigen Bedürfnisse der einzelnen Finanzinstitute entspricht. Da die Cloud -Bereitstellungen in einigen Fällen Monate oder sogar Jahre dauern, wechseln die Institutionen in der Regel langsam und schrittweise in die Cloud. Mit Wynxx kann GFT nun die gleichen führenden Cloud -Transformationsdienste liefern, so dass es über 20 Jahre schneller wird, sodass Unternehmen mehr Zeit damit verbringen können, neue AI -Lösungen zu innovieren, die die Cloud -Infrastruktur nutzen.
• Bleiben Sie mit den neuesten Fortschritten in der Automatisierung auf dem Laufenden. Die meisten Finanzinstitutionen haben in den letzten Jahren irgendeine Kind der Automatisierung in Arbeitsabläufen wie Betrugsprävention, Anti -Geld -Wäsche und vielem mehr genutzt. Diese Technologien verbessern sich jedoch im Laufe der Zeit weiter. Die Aktualisierung älterer Automatisierungs -Instruments stellt jedoch eine Herausforderung dar, insbesondere wenn Lücken in der Codedokumentation vorhanden sind (was erklärt, wie der Code funktioniert). Mit WYNXX kann GFT nun die für die Dokumentation erforderliche Zeit um über 90percentverkürzen und gleichzeitig die höchste Qualität sicherstellen, um die Komplexität in neuen Updates zu verringern.
• Injizieren KI in manuelle, fehleranfällige Aufgaben, um Angebote zu skalieren und den Umsatz zu steigern. In den letzten Jahren haben sich finanzielle Angebote wie Personal Credit schnell gestiegen. Die meisten Unternehmen können ihre manuelle Kreditrisikoanalyse jedoch nicht mit dem Preis skalieren, der für die Befriedigung dieser Nachfrage erforderlich ist, ohne dass die Genauigkeit und anschließend Einnahmen bei Kreditentscheidungen gefährdet. Gleichzeitig wird der Aufbau eines proprietären Ai-Credit score-Analysesystems mit allen internen Risikokontrollen und -Parametern des Unternehmens aufgrund der erforderlichen Entwicklerstunden häufig ausgezeichnet. Jetzt ermöglicht WYNXX GFT, benutzerdefinierte Softwarelösungen zu erstellen, die mit den vorhandenen Systemen des Finanzunternehmens interagieren und gleichzeitig seine internen Risikopräferenzen und -kontrollen berücksichtigen.

„In den letzten über 35 Jahren hat GFT den Ruf für die Bereitstellung der effektiven, benutzerdefinierten konfigurierten Technologie -Finanzdienstleistungen aufgebaut und beibehalten GFT. „Mit Wynxx können wir jetzt die gleiche Servicequalität anbieten, die unsere Kunden von uns in kürzerer Zeitspanne erwarten.

Der Begin von Wynxx ist der jüngste Schritt in der GFT-Pläne, bis 2025 ein vollständig ausgerichtetes Unternehmen zu werden, bei dem KI nicht nur für die internen Aktivitäten des Unternehmens, sondern auch für die von ihm angebotenen Dienstleistungen von zentraler Bedeutung sein wird.

In den letzten Wochen haben wir die Veröffentlichung mächtiger LLMs wie Qwen 3 Moe, Kimi K2 und Grok 4 gesehen. Wir werden in absehbarer Zeit so rasante Verbesserungen sehen und die LLMs miteinander zu vergleichen, wir benötigen Benchmarks. In diesem Artikel diskutiere ich den neu veröffentlichten ARC AGI 3 -Benchmark und warum Frontier LLMs Schwierigkeiten haben, alle Aufgaben auf dem Benchmark zu erledigen.

Motivation

Meine Motivation, diesen Artikel zu schreiben, ist es, den neuesten Entwicklungen in der LLM -Technologie auf dem Laufenden zu halten. Erst in den letzten Wochen haben wir das gesehen Kimi K2 Modell (Greatest Open-SoUrce -Modell, wenn freigegeben), Qwen 3 235B-A22B (derzeit Bestes Open-Supply-Modell), Grok 4und so weiter. Im LLM -Bereich ist so viel passiert, und eine Möglichkeit, die Benchmarks zu verfolgen, besteht darin, die Benchmarks zu verfolgen.

Ich denke, der AGI-Benchmark ist besonders interessant, vor allem, weil ich sehen möchte, ob LLMs in der Intelligenz auf menschlicher Ebene mithalten können. Arc Agi -Rätsel werden so gemacht, dass Menschen sie vervollständigen können, aber LLMs werden kämpfen.

Sie können auch meinen Artikel lesen Bei der Verwendung von Kontexttechnik, um die LLM -Leistung erheblich zu verbessern und schau dir an Meine Web site, die alle meine Informationen und Artikel enthält.

Inhaltsverzeichnis

Einführung in ARC AGI

ARC AGI ist im Wesentlichen ein Puzzlespiel des Muster -Matchings.

• ARC AGI 1: Sie erhalten eine Reihe von Eingabe-Output-Paaren und müssen das Muster vervollständigen
• Bogen Agi 2: Ähnlich wie beim ersten Benchmark, das Muster -Matching für Eingangs- und Ausgangsbeispiele durchführt
• Bogen Agi 3: Hier spielen Sie ein Spiel, in dem Sie Ihren Block in den Torbereich bewegen müssen, aber einige erforderliche Schritte dazwischen

Ich finde es cool, diese Puzzlespiele zu testen und sie selbst zu vervollständigen. Dann sehen Sie, wie LLMs zunächst mit den Benchmarks zu kämpfen haben, und dann ihre Leistung mit besseren Modellen erhöhen. Openai zum Beispiel erzielte:

• 7,8% mit O1 Mini
• 75% mit O3-Tiefe
• 88% mit O3-Hoch

Wie Sie auch im Bild unten sehen können:

Spielen Sie den ARC AGI -Benchmark

Sie können auch die Bogen -AGI -Benchmarks selbst ausprobieren oder eine KI erstellen, um die Aufgaben auszuführen. Gehe zum ARC AGI 3 Web site und fang an, das Spiel zu spielen.

Der springende Punkt der Spiele ist, dass Sie keine Anweisungen haben und die Regeln selbst herausfinden müssen. Ich genieße dieses Konzept, da es darstellt, dass es ohne Hilfe ein völlig neues Downside herausfindet. Dies unterstreicht Ihre Fähigkeit, neue Umgebungen zu lernen, sich an sie anzupassen und Probleme zu lösen.

Sie können sehen Eine Aufnahme von mir, wie ich Arc Agi 3 hier spieleauf die Probleme zum ersten Mal auf die Probleme. Ich konnte den Hyperlink leider nicht in den Artikel einbetten. Es conflict jedoch tremendous interessant, den Benchmark zu testen und sich vorzustellen, dass ein LLM durchgehen muss, um ihn zu lösen. Ich beobachte zuerst die Umwelt und was passiert, wenn ich die verschiedenen Aktionen ausführe. Eine Aktion in diesem Fall besteht darin, eine der relevanten Tasten zu drücken. Einige Aktionen tun nichts, während andere die Umwelt beeinflussen. Ich gehe dann weiter, um das Ziel des Puzzles aufzudecken (zum Beispiel das Ziel in den Zielbereich) und versuche, dieses Ziel zu erreichen.

Warum Frontier -Modelle 0% erreichen

Dieser Artikel Staaten, dass, wenn Frontier -Modelle in der Vorschau der ARC AGI 3 getestet wurden, 0percenterreichten. Dies magazine für manche Menschen enttäuschend klingen, wenn man bedenkt, dass Sie wahrscheinlich relativ schnell viele Aufgaben selbst erledigen konnten.

Wie ich bereits diskutierte, hatten mehrere OpenAI -Modelle Erfolg mit den früheren AGI -Benchmarks, wobei ihr bestes Modell in der ersten Model 88% erreichte. Die Modelle erreichten jedoch zunächst 0percentoder in den niedrigen einstelligen Prozentsätzen.

Ich habe ein paar Theorien dafür, warum Frontier -Modelle keine Aufgaben auf ARC AGI 3 ausführen konnten:

Kontextlänge

Wenn Sie an ARC AGI 3 arbeiten, erhalten Sie keine Informationen über das Spiel. Das Modell muss somit eine Vielzahl von Aktionen ausprobieren, die Ausgabe dieser Aktionen sehen (zum Beispiel passiert nichts oder ein Block usw.). Das Modell muss dann die Maßnahmen, die es ergriffen hat, zusammen mit der Ausgabe bewerten und seine nächsten Bewegungen berücksichtigen.

Ich glaube, der Aktionsraum auf Arc AGI 3 ist sehr groß und es ist daher schwierig für die Modelle, sowohl zu experimentieren, um die richtige Aktion zu finden als auch die Wiederholung erfolgloser Handlungen zu vermeiden. Die Modelle haben im Wesentlichen ein Downside mit ihrer Kontextlänge und der Verwendung der vollen Länge.

Ich habe kürzlich einen interessanten Artikel von Manus darüber gelesen, wie sie ihre Agenten entwickeln und ihr Gedächtnis verwalten. Sie können Techniken verwenden, z. Ein Dateisystem zum Speichern eines wichtigen Kontextes. Ich glaube, dies wird der Schlüssel zur Steigerung der Leistung des ARC AGI 3 -Benchmarks sein.

Trainingsdatensatz

Ein weiterer Hauptgrund, warum Grenzmodelle nicht in der Lage sind, Bogen -AGI 3 -Aufgaben erfolgreich auszuführen, ist, dass sich die Aufgaben sehr von ihrem Trainingsdatensatz unterscheiden. LLMs wird bei einer Aufgabe quick immer besser abschneiden, wenn eine solche Aufgabe (oder eine ähnliche) im Trainingsdatensatz enthalten ist. In diesem Fall glaube ich, dass LLMs beispielsweise nur wenige Trainingsdaten zum Arbeiten mit Spielen haben. Darüber hinaus sind hier ein wichtiger Punkt auch die Agenten -Trainingsdaten für die LLMs.

Mit Agenten -Trainingsdaten meine ich Daten, bei denen das LLM Instruments verwendet und Aktionen ausführt. Ich glaube, wir sehen einen raschen Anstieg der als Wirkstoffe verwendeten LLMs, und daher nimmt die proportionale Menge an Trainingsdaten für das Agentenverhalten rasch zu. Es könnte jedoch sein, dass aktuelle Frontier -Modelle immer noch nicht so intestine darin sind, solche Aktionen auszuführen, obwohl sie in den kommenden Monaten wahrscheinlich schnell zunehmen wird.

Einige Menschen werden hervorheben, wie dies beweist, dass LLMs keine wirkliche Intelligenz haben: Der springende Punkt der Intelligenz (und der AGI -Benchmark) besteht darin, Aufgaben ohne Hinweise zu verstehen, nur indem sie die Umwelt untersuchen. Bis zu einem gewissen Grad stimme ich diesem Punkt zu und hoffe, dass Modelle aufgrund einer erhöhten Modellinformation und nicht wegen der Benchmark -Verfolgungsjagd, ein Konzept, das ich später in diesem Artikel untersuche, besser auf Arc Agi abschneiden.

Benchmark -Leistung in der Zukunft

Ich glaube, wir werden in Zukunft eine enorme Verbesserung der Modellleistung bei ARC AGI 3 verzeichnen. Vor allem, weil ich denke, dass Sie KI-Agenten erstellen können, die für die Agentenleistung fein abgestimmt sind und ihre Erinnerung optimum nutzen können. Ich glaube, relativ billige Verbesserungen können verwendet werden, um die Leistung erheblich zu verbessern, obwohl ich auch teurere Verbesserungen erwarte (z.

Benchmark -Verfolgungsjagd

Ich denke, es ist wichtig, einen Abschnitt über die Verfolgung von Benchmark zu verlassen. Benchmark -Verfolgungsjagd ist das Konzept der LLM -Anbieter, die optimale Punktzahlen für Benchmarks verfolgen, anstatt einfach die besten oder intelligentesten LLMs zu schaffen. Dies ist ein Downside, da die Korrelation zwischen der Benchmark -Leistung und der LLM -Intelligenz nicht 100percentbeträgt.

In der Verstärkungslernwelt würde das Benchmark -Verfolgungsjagd als Belohnungshacking bezeichnet. Ein Szenario, in dem der Agent einen Weg erteilt, die Umgebung zu hacken, in der er sich befindet, um eine Belohnung zu erhalten, ohne eine Aufgabe ordnungsgemäß auszuführen.

Der Grund, warum LLM -Anbieter dies tun, ist, dass die Menschen normalerweise zwei Dinge betrachten, wenn ein neues Modell veröffentlicht wird:

• Benchmark -Leistung
• Stimmung

Die Benchmark-Leistung wird normalerweise an bekannten Benchmarks wie SWE-Bench und Arc Agi gemessen. Vibe -Checks sind auch ein Weg, wie LLMs oft von der Öffentlichkeit gemessen werden (ich sage nicht, dass es eine gute Möglichkeit zum Testen des Modells ist, ich sage einfach, dass es in der Praxis passiert). Das Downside dabei ist jedoch, dass ich glaube, dass es recht einfach ist, Menschen mit der Stimmung eines Modells zu beeindrucken, da die Vibe -Überprüfung einen sehr kleinen Prozentsatz des Aktionsraums für die LLM versucht. Möglicherweise stellen Sie ihm nur bestimmte Fragen, die im Net verfügbar sind, oder bitten Sie sie, eine Anwendung zu programmieren, die das Modell bereits in seinen Trainingsdaten festgelegt hat.

Sie sollten additionally einen Benchmark selbst haben, beispielsweise einen internen Datensatz, der nicht ins Web durchgeführt wurde. Anschließend können Sie den LLM am besten für Ihren Anwendungsfall reduzieren und mit dieser LLM priorisieren.

Abschluss

In diesem Artikel habe ich LLM -Benchmarks diskutiert und warum sie für den Vergleich von LLMs wichtig sind. Ich habe Sie in den neu veröffentlichten ARC AGI 3 -Benchmark vorgestellt. Dieser Benchmark ist tremendous interessant, wenn man bedenkt, dass Menschen leicht einige der Aufgaben erledigen können, während Frontier -Modelle 0percenterzielen. Dies stellt somit eine Aufgabe dar, bei der die menschliche Intelligenz LLMs immer noch übertrifft.

Wenn wir voranschreiten, werden wir glaube, dass wir bei ARC AGI 3 rasante Verbesserungen bei der LLM -Leistung verzeichnen werden, obwohl ich hoffe, dass dies nicht das Ergebnis der Benchmark -Verfolgung sein wird, sondern die Verbesserung der LLMs in der Geheimdienste.

KI-Technologie ist für die Verbesserung unserer allgemeinen Lebensqualität sehr wichtig geworden. Wir haben über einige der vielen Vorteile gesprochen, die es bietet, sowie über die Tatsache, dass dies erwartet wird das weltweite BIP bis 2030 um 4,9 Billionen US-Greenback steigern.

Allerdings haben wir nicht so viel über einige der praktischen Vorteile der KI gesprochen, wie zum Beispiel die Tatsache, dass sie unsere Gesellschaft sicherer macht. Es trägt unter anderem dazu bei, unser Leben sicherer zu machen, indem intelligente Fußgängerüberwege geschaffen werden, die zu weniger Todesfällen führen können.

Dies ist nur eines von vielen Wie KI intelligente Städte schafft. Lesen Sie weiter, um mehr zu erfahren.

Sind Good CrossWalks das neueste Beispiel dafür, wie KI uns sicherer machen kann?

In unseren zunehmend überfüllten und urbanisierten Städten ist eine besorgniserregende Zunahme der Verkehrsunfälle mit Fußgängern zu verzeichnen. Um Weltweit sterben 1,19 Millionen Menschen bei Verkehrsunfällennach Angaben der UN. Bei einem erheblichen Anteil dieser Todesfälle handelt es sich um Fußgänger, was deren Verwundbarkeit im Straßenverkehr verdeutlicht.

Da der Verkehr in großen städtischen Gebieten weiter zunimmt, besteht ein dringender Bedarf an innovativen Lösungen zum Schutz von Fußgängern. Zu den vielversprechendsten Fortschritten gehören intelligente Zebrastreifen, die mithilfe von Technologie die Sicherheit von Fußgängern verbessern und Unfälle reduzieren.

Wie intelligente Zebrastreifen funktionieren

Intelligente Zebrastreifen Nutzen Sie verschiedene Technologien, einschließlich KI, um das Gehen sicherer zu machen. Diese Kreuzungen verfügen über Sensoren, die erkennen können, wenn sich eine Individual in der Nähe der Straße befindet oder diese bereits überquert. Wenn Sensoren eine Individual erkennen, schalten sie Signale wie blinkende Lichter oder LED-Streifen auf der Straße ein. So zeigt es Autofahrern an, dass jemand überquert. Um Autofahrern zu helfen, können einige intelligente Kreuzungen mit Ampeln synchronisiert werden, um sicherzustellen, dass Autos automatisch anhalten, wenn Fußgänger überqueren.

Diese Systeme analysieren Verkehrsmuster anhand von Echtzeitdaten, um potenzielle Kollisionsorte und -zeiten vorherzusagen. Darüber hinaus passen solche intelligenten Kreuzungen die Signalzeiten an und kommunizieren mit Fahrzeugen, um die Fußgängersicherheit zu verbessern. Sie erreichen dies, ohne dass sich die Verkehrsstaus, insbesondere in belebten städtischen Gebieten, erhöhen.

Können intelligente Zebrastreifen künftige Unfälle verhindern?

An einem Montagmorgen ereignete sich im Norden von St. Louis ein tragischer Fußgängerunfall. Es lag in der Nähe der Lee Avenue und der East Prairie Avenue, nur ein paar Blocks vom Fairground Park entfernt.

Gegen 1:50 Uhr morgens erfasste ein Fahrzeug einen Fußgänger und flüchtete vom Unfallort, wobei der Fußgänger tödlich verletzt wurde. Die St. Louis Metropolitan Police Division untersucht derzeit die Fahrerflucht. Der Vorfall unterstreicht jedoch die dringende Notwendigkeit besserer Fußgängerschutzmaßnahmen in Städten wie St. Louis.

In Fällen wie diesen sind Familien häufig am Boden zerstört. Sie benötigen möglicherweise rechtlichen Beistand, um die Folgen dieser herzzerreißenden Ereignisse zu bewältigen. In einem solchen Kontext ein Einheimischer Anwalt für Autounfälle in St. Louis kann als unterstützende Hand dienen. Sie können Familien dabei unterstützen, ihre Ansprüche und Entscheidungen bei der Suche nach Gerechtigkeit und Entschädigung zu verstehen.

Dennoch unterstreichen diese Vorfälle auch, wie wichtig der Einsatz intelligenter Zebrastreifentechnologie ist, um künftige Unfälle zu verhindern. Durch den Einsatz von Sensoren zur Erkennung von Fußgängern können solche Zebrastreifen die Fahrer in Echtzeit warnen und so die Sicherheit erhöhen. Darüber hinaus gewährleistet das System die Sicherheit in Bereichen mit schlechter Sicht oder hohem Verkehrsaufkommen und verhindert möglicherweise Unfälle wie den in St. Louis.

Aktuelle Implementierung intelligenter Zebrastreifen in Städten

Mehrere Großstädte haben bereits damit begonnen, intelligente Zebrastreifentechnologie einzuführen. In Dubai beispielsweise wurden im Jahr 2023 von Derq 14 KI-gestützte intelligente Fußgängerüberwegsysteme im gesamten Dubai Silicon Oasis installiert. Diese Systeme passen den Zeitpunkt der grünen Ampel an, um Fußgängern mehr Zeit zum sicheren Überqueren stark befahrener Kreuzungen zu geben. Dies ist eines der Beispiele dafür die Vorteile des Internets der Dinge.

Marbella hat kürzlich auch LED-beleuchtete Zebrastreifen mit Bewegungssensortechnologie eingeführt. Diese sollen die Sichtbarkeit von Fußgängern für Autofahrer verbessern, insbesondere bei schlechtem Wetter oder in der Nacht. Darüber hinaus trägt dieses System zu einer nachhaltigeren städtischen Infrastruktur bei. Die energieeffizienten LED-Leuchten reduzieren den Gesamtstromverbrauch und stehen im Einklang mit Marbellas umfassenderen Umweltzielen.

In mehreren US-Städten an der Westküste wurde ein experimentelles System aufgerufen Adaptive Verkehrssignale wird getestet. Ziel der Initiative ist es, eine bessere Synchronisierung der Ampeln unter Berücksichtigung der Fußgängerbewegung zu ermöglichen. Diese Signale erkennen Fußgänger und passen ihr Timing entsprechend an, wodurch sowohl das Unfallrisiko als auch die Verkehrsstaus minimiert werden.

Herausforderungen bei der Einführung von Good Crosswalk

Obwohl intelligente Zebrastreifen das Potenzial haben, die Sicherheit von Fußgängern zu erhöhen, wird ihre breite Akzeptanz behindert. Die Einrichtung und der Betrieb dieser Systeme können teuer sein, insbesondere für Gemeinden mit veralteter Infrastruktur. Die Integration intelligenter Zebrastreifentechnologie in bestehende Verkehrssysteme erfordert Planung und Zusammenarbeit zwischen Stadtbeamten, Verkehrsabteilungen und Technologieunternehmen.

Darüber hinaus bleibt das Fahrerverhalten eine Herausforderung. Intelligente Zebrastreifen können zwar Unfälle reduzieren, sie können jedoch nicht die Risiken beseitigen, die mit rücksichtslosem oder abgelenktem Fahren einhergehen. TorHoerman Legislation weist darauf hin, dass eine der Hauptursachen für Verkehrsunfälle in den Vereinigten Staaten abgelenktes Fahren ist.

Um die Sicherheit von Fußgängern zu gewährleisten, sind daher neben der Implementierung intelligenter Kreuzungstechnologie auch Kampagnen zur Sensibilisierung der Öffentlichkeit unerlässlich. Darüber hinaus ist eine strengere Durchsetzung der Verkehrsregeln erforderlich, um die Verkehrssicherheit weiter zu erhöhen.

Im Zuge der Weiterentwicklung intelligenter Städte werden intelligente Fußgängerüberwege eine wesentliche Rolle bei der Verbesserung der Fußgängersicherheit und der Stadtplanung spielen. Diese Technologie allein kann das Downside jedoch nicht lösen. Es kann nur die Risiken verringern, Leben retten und die Straßen für alle sicherer machen.

FAQs

1. Was unterscheidet intelligente Zebrastreifen von herkömmlichen Zebrastreifen?

Intelligente Zebrastreifen nutzen Sensoren, LED-Leuchten und Echtzeit-Verkehrsdatensysteme, um Fahrer vor Fußgängern zu warnen. Im Gegenteil, herkömmliche Zebrastreifen sind ausschließlich auf statische Schilder und Verkehrssignale angewiesen, was Unfälle nicht immer wirksam verhindern kann. Darüber hinaus bieten intelligente Zebrastreifen auch eine adaptive Signalzeitsteuerung, während herkömmliche Zebrastreifen mit festen Timern arbeiten.

2. Können intelligente Zebrastreifen alle Fußgängerunfälle verhindern?

Moderne Fußgängerüberwege können das Unfallrisiko deutlich senken. Allerdings können sie Vorfälle, insbesondere solche, die durch rücksichtsloses oder abgelenktes Fahren verursacht werden, nicht verhindern. Darüber hinaus können diese Systeme zwar Fahrzeuge und Fußgänger warnen, sind jedoch durch die bestehende Straßeninfrastruktur eingeschränkt. Neben der Technik sind auch Sicherheitsmaßnahmen erforderlich.

3. Wie hoch sind die Kosten für die Set up intelligenter Zebrastreifen?

Der Aufwand variiert je nach Technologie und Standort. Insgesamt können intelligente Zebrastreifen aufgrund der Anforderungen an Sensoren, Beleuchtungssysteme und Echtzeit-Datenintegration kostspielig sein. Dennoch kann der potenzielle Nutzen in Kind geretteter Leben die Kosten überwiegen.

Intelligente Zebrastreifen stellen einen vielversprechenden Schritt vorwärts bei der Reduzierung von Fußgängerzonen dar, insbesondere in belebten städtischen Umgebungen. Ihr Erfolg hängt jedoch von einer breiteren Akzeptanz, der Integration in die bestehende Infrastruktur und ergänzenden Maßnahmen zur Bewältigung des Fahrerverhaltens ab.

In unseren immer größer werdenden Städten sind Verkehrsstaus nach wie vor eine ständige Herausforderung, die täglich Millionen von Menschen betrifft. Sie führen nicht nur zu Zeitverlusten und erhöhtem Stress für Pendler, sondern tragen auch erheblich zur Luftverschmutzung und den damit verbundenen Gesundheitsrisiken bei. Angesichts dieser vielschichtigen Herausforderungen hat Google AI eine ehrgeizige Initiative namens Projekt Grünes Licht.

Dieses Projekt zielt darauf ab, den Verkehrsfluss zu optimieren, den Smog zu reduzieren und den Stadtbewohnern durch die Nutzung künstlicher Intelligenz (KI) wertvolle Zeit zu sparen. Wir werden uns damit befassen, wie das Projekt Inexperienced Mild funktioniert, welche Auswirkungen es auf Verkehrsmuster hat, wie es zur Reduzierung des Smogs beiträgt und wie viel Zeit Pendler insgesamt sparen.

Projekt „Inexperienced Mild“ verstehen

Google KI Das Projekt Inexperienced Mild nutzt fortschrittliche Algorithmen des maschinellen Lernens und Echtzeit-Datenanalyse, um Verkehrssignale in städtischen Gebieten zu verwalten und zu optimieren. Durch das Sammeln von Daten aus verschiedenen Quellen, darunter Verkehrskameras, Sensoren und GPS-Geräte, kann das KI-System fundierte Entscheidungen treffen, um die Ampelschaltungen dynamisch anzupassen. Dies trägt nicht nur zur Reduzierung von Staus bei, sondern verbessert auch die Gesamteffizienz städtischer Verkehrsnetze.

Optimierung von Verkehrsmustern

Eines der Hauptziele von Challenge Inexperienced Mild ist es, Verkehrsmuster zu glätten. Herkömmliche Verkehrsmanagementsysteme basieren häufig auf statischen Ampelplänen, die angesichts schwankender Verkehrsmengen ineffizient sein können. Challenge Inexperienced Mild hingegen nutzt KI, um adaptive Signalsteuerungssysteme zu erstellen, die auf Echtzeit-Verkehrsbedingungen reagieren.

Echtzeit-Datenintegration

Der Kern der Effizienz von Challenge Inexperienced Mild liegt in seiner Fähigkeit, riesige Mengen an Echtzeitdaten zu integrieren und zu verarbeiten. An strategischen Standorten platzierte Verkehrskameras und Sensoren speisen kontinuierlich Informationsströme in das KI-System ein. Zu diesen Daten gehören Fahrzeugzahlen, Geschwindigkeiten und Warteschlangenlängen, die die KI analysiert, um die aktuelle Verkehrslage zu verstehen.

Während der Hauptverkehrszeit kann die KI beispielsweise ein erhöhtes Verkehrsaufkommen erkennen und die Ampeln so anpassen, dass auf stark befahrenen Straßen längere Grünphasen möglich sind. Dadurch werden Wartezeiten verkürzt und Engpässe vermieden. Umgekehrt kann die KI außerhalb der Hauptverkehrszeiten die Grünphasen auf weniger stark befahrenen Straßen verkürzen, um einen gleichmäßigen Verkehrsfluss aufrechtzuerhalten.

Prädiktive Analysen

Zusätzlich zu Echtzeitanpassungen nutzt Challenge Inexperienced Mild prädiktive Analysen, um Verkehrsbedingungen vorherzusehen. Durch die Analyse historischer Verkehrsdaten und die Identifizierung von Mustern kann die KI vorhersagen, wann und wo wahrscheinlich Staus auftreten werden. Dies ermöglicht proaktive Anpassungen der Ampeln, bevor es überhaupt zu Staus kommt, was einen reibungsloseren Verkehrsfluss gewährleistet und die Wahrscheinlichkeit von Verkehrsstaus verringert.

Reduzierung von Verkehrsstaus

Stau ist nicht nur eine Unannehmlichkeit; es hat weitreichende wirtschaftliche und ökologische Folgen. Längeres Leerlaufen im Verkehr erhöht den Kraftstoffverbrauch und die Emissionen und trägt so zur Luftverschmutzung und zum Klimawandel bei. Das dynamische Verkehrsmanagementsystem von Challenge Inexperienced Mild geht diese Probleme direkt an.

Verringerung der Leerlaufzeit

Einer der direkten Vorteile des Projekts ist die Reduzierung der Leerlaufzeiten. Herkömmliche Ampeln führen häufig dazu, dass Fahrzeuge an Kreuzungen im Leerlauf stehen und Schadstoffe in die Luft ausstoßen. Durch die Optimierung der Ampeln zur Reduzierung unnötiger Stopps und Begins minimiert das Projekt Inexperienced Mild die Leerlaufzeiten der Fahrzeuge, was zu einer Verringerung des Kraftstoffverbrauchs und der Emissionen führt.

Glättung des Verkehrsflusses

Ein reibungsloser Verkehrsfluss spart nicht nur Zeit, sondern reduziert auch das Cease-and-Go-Verkehrsgeschehen, das maßgeblich zur Luftverschmutzung beiträgt. Wenn Fahrzeuge eine gleichmäßige Geschwindigkeit beibehalten können, ohne häufig bremsen und beschleunigen zu müssen, sind sie effizienter und erzeugen weniger Emissionen. Die Fähigkeit des Projekts, die Signalzeiten in Echtzeit anzupassen, sorgt dafür, dass der Verkehr reibungslos fließt, und reduziert so die Umweltbelastung des städtischen Verkehrs.

Auswirkungen auf Smog und Luftqualität

Luftverschmutzung, insbesondere Smog, ist in vielen städtischen Gebieten ein großes Drawback. Fahrzeugabgase sind eine Hauptquelle von Schadstoffen wie Stickoxiden (NOx) und Feinstaub (PM), die zur Bildung von Smog beitragen und ernsthafte Gesundheitsrisiken bergen. Durch die Optimierung des Verkehrsflusses trägt das Projekt Inexperienced Mild entscheidend zur Verbesserung der Luftqualität bei.

Reduzierung der Emissionen

Wie bereits erwähnt führen reduzierter Leerlauf und ein gleichmäßigerer Verkehrsfluss zu geringerer Kraftstoffverbrauch und Emissionen. Studien haben gezeigt, dass Fahrzeuge beim Beschleunigen aus dem Stand mehr Schadstoffe ausstoßen als bei konstanter Geschwindigkeit. Durch die Minimierung des Cease-and-Go-Verkehrs trägt das Projekt dazu bei, die Gesamtemissionsniveaus in städtischen Gebieten zu senken.

Gesundheitliche Vorteile

Eine verbesserte Luftqualität hat direkte gesundheitliche Vorteile für die Stadtbevölkerung. Eine geringere Belastung mit Schadstoffen wie NOx und Feinstaub kann zu einer geringeren Zahl von Atemwegs- und Herz-Kreislauf-Erkrankungen führen. Für gefährdete Gruppen wie Kinder, ältere Menschen und Personen mit Vorerkrankungen können diese Verbesserungen besonders bedeutsam sein.

Zeitersparnis für Pendler

Einer der greifbarsten Vorteile des Projekts ist die Zeitersparnis für Pendler. In vielen Städten kann Verkehrsstauung zu erheblichen Verzögerungen im täglichen Pendelverkehr führen, was sich auf Produktivität und Lebensqualität auswirkt. Durch die Optimierung der Verkehrsampeln sorgt das Projekt Inexperienced Mild dafür, dass Pendler weniger Zeit im Stau verbringen und mehr Zeit für ihre eigentlichen Aktivitäten haben.

Kürzere Pendelzeiten

Der wichtigste Erfolgsmaßstab für das Projekt ist die Verkürzung der durchschnittlichen Pendelzeiten. Durch die Analyse von Verkehrsdaten vor und nach der Implementierung des KI-Methods können Städte die erzielten Zeiteinsparungen quantifizieren. In vielen Fällen haben Pendler von erheblichen Verkürzungen der Fahrzeiten berichtet, wodurch das tägliche Pendeln weniger stressig und vorhersehbarer wurde.

Wirtschaftliche Vorteile

Zeitersparnis im Verkehr bedeutet Wirtschaftliche Vorteile auch. Reduzierte Reisezeiten bedeuten, dass den Menschen mehr Zeit für produktive Aktivitäten bleibt, sei es Arbeit, Freizeit oder Familienzeit. Für Unternehmen können kürzere Pendelzeiten zu einer höheren Mitarbeiterproduktivität und geringeren Transportkosten führen.

Fallstudien und Anwendungen aus der Praxis

Mehrere Städte auf der ganzen Welt haben das Projekt oder ähnliche KI-gesteuerte Verkehrsmanagementsysteme eingeführt und beeindruckende Ergebnisse erzielt. Hier untersuchen wir einige Fallstudien, um die Auswirkungen dieser Initiativen zu veranschaulichen.

Beispiel: Stadt San Francisco

San Francisco, eine Stadt, die für ihre Verkehrsstaus bekannt ist, hat das Projekt in Schlüsselbereichen umgesetzt, um den Verkehrsfluss zu verbessern. Durch die Nutzung von Echtzeitdaten und prädiktiver Analytik konnte die Stadt die durchschnittlichen Fahrzeiten während der Stoßzeiten um 15 % verkürzen. Darüber hinaus sanken die Fahrzeugemissionen um 10 %, was zu einer verbesserten Luftqualität beitrug.

Beispiel: Stadt Bangalore

Im indischen Bangalore sind Verkehrsstaus aufgrund der raschen Urbanisierung und des hohen Verkehrsaufkommens eine große Herausforderung. Das Projekt wurde an mehreren stark befahrenen Kreuzungen eingeführt und führte zu einer 20-prozentigen Reduzierung der Verkehrsverzögerungen. Pendler berichteten von deutlich verbesserten Fahrzeiten und die Luftverschmutzung in der Stadt nahm spürbar ab.

Zukünftige Richtungen und Innovationen

Während das Projekt bereits erhebliche Vorteile gezeigt hat, versprechen laufende Fortschritte in der künstlichen Intelligenz und Datenanalyse noch größere Verbesserungen im Verkehrsmanagement und der städtischen Mobilität.

Integration mit autonomen Fahrzeugen

Der Aufstieg autonomer Fahrzeuge (AVs) bietet neue Möglichkeiten zur Optimierung des Verkehrsflusses. Das Projekt Inexperienced Mild kann mit AVs integriert werden, um ein besser koordiniertes und effizienteres Verkehrsnetz zu schaffen. Durch die Kommunikation mit Ampeln und anderen AVs können diese Fahrzeuge die städtische Umgebung reibungsloser navigieren und so Staus und Emissionen weiter reduzieren.

Erweitern von Datenquellen

Da Städte weiter wachsen, werden auch das Volumen und die Vielfalt der für das Verkehrsmanagement verfügbaren Daten zunehmen. Das Projekt Inexperienced Mild kann Daten aus zusätzlichen Quellen wie Mitfahrdiensten, öffentlichen Verkehrssystemen und sogar von Pendlern genutzten mobilen Apps integrieren. Diese Fülle an Daten wird genauere und umfassendere Verkehrsvorhersagen und -optimierungen ermöglichen.

Verbesserung des öffentlichen Nahverkehrs

Bei der Verbesserung des Verkehrsflusses geht es nicht nur um die Optimierung des Individualverkehrs. Das Projekt Inexperienced Mild kann auch zur Verbesserung öffentlicher Verkehrssysteme eingesetzt werden. Indem es Bussen und Straßenbahnen an Kreuzungen Vorrang einräumt, kann das KI-System den öffentlichen Nahverkehr für Pendler zu einer attraktiveren und effizienteren Possibility machen und so die Zahl privater Fahrzeuge auf den Straßen reduzieren.

Und schlussendlich

Das Projekt von Google AI stellt einen bedeutenden Fortschritt bei der Bewältigung der komplexen Herausforderungen des städtischen Verkehrsmanagements dar. Durch die Nutzung von Echtzeitdaten, prädiktiver Analytik und fortschrittlichen Algorithmen des maschinellen Lernens optimiert das Projekt Verkehrsmuster, reduziert Staus und senkt Emissionen, was letztendlich zu einer verbesserten Luftqualität und erheblichen Zeiteinsparungen für Pendler führt.

Während sich das Projekt weiterentwickelt und neue Technologien integriert, wird sein Potenzial, die urbane Mobilität zu verändern und die Lebensqualität in Städten auf der ganzen Welt zu verbessern, nur noch größer. Durch Initiativen wie Challenge Inexperienced Mild kommen wir einer Zukunft näher, in der Good Cities die Macht der KI nutzen, um effizientere, nachhaltigere und lebenswertere städtische Umgebungen zu schaffen.

Datenarbeiter haben nun Zugriff auf alle neuesten KI-Fortschritte und eine anpassbare Reihe von Steuerelementen zur Verwaltung des GenAI-Risikos

KNIMEeines der führenden Open-Supply-Unternehmen für Datenwissenschaft und KI, kündigt eine neue Model an, die Unternehmen dabei helfen soll, ihre Nutzung von GenAI sicher zu skalieren. Die neuen GenAI-Funktionen ermöglichen es Organisationen, auf mehr KI-Modelle zuzugreifen, zu steuern, welche KI-Modelle von ihren Datenwissenschaftsteams verwendet werden, und sicherzustellen, dass keine vertraulichen Daten verloren gehen.

Der mit GenAI verbundene Risikofaktor ist derzeit einer der größten Hemmfaktoren für eine breite Einführung von GenAI. 44 Prozent der Organisationen haben bereits zugegeben, unfavorable Folgen von GenAI-bezogenen Risiken zu spüren bekommen zu haben.¹ Und 27 % haben sich dazu entschlossen, die Nutzung von GenAI schlicht und ergreifend zu verbieten, um dieses Risiko zu managen.² GenAI wird die transformierende Technologie unseres Jahrzehnts sein und Unternehmen liefern sich ein Wettrennen um ihre Einführung. Doch die angstbasierte Abkehr von GenAI ist ein klares Zeichen dafür, dass die Menschen Werkzeuge brauchen, um das Risiko zu managen.

Aus diesem Grund bietet die neueste Model von KNIME Zugriff auf die neueste und beste GenAI-Technologie mit einem anpassbaren Satz interner Steuerelemente, die von dediziertem Modell-Routing über PII-Anonymisierung bis hin zum Zugriffsmanagement und mehr reichen.

Mit KNIME müssen Unternehmen nicht mehr auf völlige Verbote zurückgreifen, sondern können GenAI sicher und gemäß ihrer eigenen Risikobewertung und internen Richtlinien verwenden. Jedes Unternehmen möchte GenAI in seine Arbeit integrieren, Effizienzsteigerungen erzielen und seine Pilotprojekte in die Produktion überführen. Mit dieser Model der KNIME Analytics Platform und des KNIME Enterprise Hub können sie genau das tun.

„Die Steuerung von Information-Science-Prozessen ist – oder sollte es zumindest sein – schon seit Jahren auf dem Radar der Leute. Die Risiken, die GenAI birgt, helfen den Leuten, das zu erkennen“, sagte Michael Berthold, Gründer und CEO von KNIME. „KNIME wurde von Anfang an entwickelt, um die kontinuierliche, sichere Bereitstellung von Information-Science-Prozessen zu unterstützen, daher conflict es für uns ein Kinderspiel, einen anpassbaren Satz von Steuerelementen um GenAI herum hinzuzufügen. KNIME bietet eine einheitliche Umgebung für Datenwissenschaftler, die Innovation und Kontrolle in Einklang bringt, indem sie Datenarbeitern Zugriff auf so viele neue GenAI-Funktionen wie möglich gibt und ihnen gleichzeitig ermöglicht, Risiken zu kontrollieren, indem sie die richtigen Steuerungsmechanismen implementieren.“

Jetzt können KNIME-Benutzer auf alle neuesten GenAI-Fortschritte und -Technologien in KNIME zugreifen. Benutzer können sich mit den neuesten Modellen von kommerziellen KI-Anbietern wie OpenAI, Azure OpenAI Service und Databricks verbinden. Sie können auch auf die neuesten Fortschritte in lokalen LLMs wie Llama 3 zugreifen, um mit den neuesten Modellen auf ihren lokalen Rechnern zu arbeiten. Sie können sich mit lokalen und Distant-Hugging Face Textual content Embedding Inference-Servern verbinden, um auf eine breite Palette von Open-Supply-Einbettungsmodellen für Aufgaben wie semantische Suche und Merkmalsextraktion zuzugreifen. Sie können sich auch problemlos mit geschützten Hugging Face Inference Endpoints verbinden, um schnell viele GenAI-Modelle zum Experimentieren hochzufahren. Benutzer können jetzt auch Dokumente für die Retrieval Augmented Technology (RAG) in einem einzigen Schritt aufteilen, um Zeit zu sparen.

KNIME bietet jetzt auch ein GenAI-Gateway, mit dem die IT zentral konfigurieren kann, auf welche GenAI-Anbieter und -Knoten Teammitglieder zugreifen und diese verwenden können. Diese zentrale Verwaltung von GenAI-Anbietern und -Modellen verbessert Governance und Sicherheit und ermöglicht es der IT, den Modellzugriff im Einklang mit den Unternehmensrichtlinien zu steuern.

Mit den neuen Integrationen von Presidio und Giskard können Benutzer jetzt sicher mit Daten und LLMs arbeiten. Die neuen Funktionen von KNIME auf Foundation von Microsoft Presidio helfen beim Schutz persönlich identifizierbarer Informationen (PII) beim Teilen von Daten mit externen LLM-Anbietern. Diese Funktionen können vertrauliche Informationen wie Namen, Telefonnummern und Kreditkartennummern in Textdaten erkennen und anonymisieren, um zu verhindern, dass sie an GenAI-Instruments gesendet werden. Damit werden wichtige Bedenken hinsichtlich Datenschutz und Compliance bei der Verwendung von GenAI ausgeräumt. Darüber hinaus hilft eine neue Giskard-basierte Erweiterung Benutzern, Probleme in Finish-to-Finish-Maschinenlern-Workflows zu erkennen und Robustheit und Verzerrung für zuverlässigere Bereitstellungen zu bewerten.

Mit dieser KNIME-Model können Unternehmen ihre GenAI-Anwendungsfälle sicher in die Produktion überführen – mit allen neuesten Fortschritten in der GenAI-Technologie und einem umfassenden Satz von Kontrollen zur Risikobewältigung. Alle diese Funktionen unterstützen KNIMEs Engagement, Datenwissenschaft und -analyse intuitiv und für jedermann zugänglich zu machen.

1. McKinsey: Der Stand der KI Anfang 2024
2. Cisco-Datenschutzstudie

Melden Sie sich für die kostenlosen insideAI Information an Publication.

Folgen Sie uns auf Twitter: https://twitter.com/InsideBigData1

Folgen Sie uns auf LinkedIn: https://www.linkedin.com/firm/insideainews/

Folge uns auf Fb: https://www.fb.com/insideAINEWSNOW