Bild vom Herausgeber

# Die fragile Pipeline

Die Anziehungskraft des Standes der Technik im modernen maschinellen Lernen ist immens. Forschungsteams und technische Abteilungen sind gleichermaßen besessen von der Modellarchitektur, von der Optimierung von Hyperparametern bis zum Experimentieren mit neuartigen Aufmerksamkeitsmechanismen, alles auf der Suche nach den neuesten Benchmarks. Doch während die Entwicklung eines etwas genaueren Modells ein hehres Unterfangen ist, ignorieren viele Groups einen viel größeren Innovationshebel: die Effizienz der Pipeline, die sie unterstützt.

Effizienz der Pipeline ist der stille Motor der Produktivität beim maschinellen Lernen. Es ist nicht nur eine Maßnahme zur Kosteneinsparung Ihrer Cloud-Rechnung, obwohl der ROI dort durchaus erheblich sein kann. Es geht grundsätzlich um die Iterationslücke — die Zeit, die zwischen einer Hypothese und einem validierten Ergebnis vergeht.

Ein Group mit einer langsamen, fragilen Pipeline wird effektiv gedrosselt. Wenn Ihre Trainingsläufe aufgrund von I/O-Engpässen 24 Stunden dauern, können Sie nur sieben Hypothesen professional Woche seriell testen. Wenn Sie dieselbe Pipeline so optimieren können, dass sie in zwei Stunden ausgeführt wird, erhöht sich Ihre Entdeckungsrate um eine Größenordnung. Auf lange Sicht gewinnt in der Regel das Group, das schneller iteriert, unabhängig davon, wessen Architektur zu Beginn ausgefeilter conflict.

Um die Iterationslücke zu schließen, müssen Sie Ihre Pipeline als erstklassiges technisches Produkt behandeln. Hier sind fünf kritische Bereiche, die es zu prüfen gilt, mit praktischen Strategien, um die Zeit Ihres Groups zurückzugewinnen.

# 1.Beheben von Dateneingabeengpässen: Das Downside der hungrigen GPU

Die teuerste Komponente eines Machine-Studying-Stacks ist oft ein Excessive-Finish-Grafikprozessor (GPU), der ungenutzt herumläuft. Wenn Ihre Überwachungstools während des aktiven Trainings eine GPU-Auslastung von 20 bis 30 % anzeigen, liegt kein Rechenproblem vor. Sie haben ein Daten-E/A-Downside. Ihr Modell ist bereit und willens zu lernen, aber es hungert nach Beispielen.

// Das reale Szenario

Stellen Sie sich ein Pc-Imaginative and prescient-Group vor, das ein ResNet-Modell anhand eines Datensatzes von mehreren Millionen Bildern trainiert, die in einem Objektspeicher wie gespeichert sind Amazon S3. Bei der Speicherung als einzelne Dateien löst jede Trainingsepoche Millionen von Netzwerkanfragen mit hoher Latenz aus. Die Zentraleinheit (CPU) verbringt mehr Zyklen mit dem Netzwerk-Overhead und der JPEG-Dekodierung als mit der Speisung der GPU. Das Hinzufügen weiterer GPUs ist in diesem Szenario tatsächlich kontraproduktiv. Der Engpass bleibt der physische E/A-Vorgang, und Sie zahlen einfach mehr für den gleichen Durchsatz.

// Die Lösung

• Vorab teilen und bündeln: Hören Sie auf, einzelne Dateien zu lesen. Für ein Coaching mit hohem Durchsatz sollten Sie Daten in größeren, zusammenhängenden Formaten wie bündeln ParkettTFRecord oder WebDataset. Dies ermöglicht sequentielle Lesevorgänge, die deutlich schneller sind als der wahlfreie Zugriff auf Tausende kleiner Dateien.
• Laden parallelisieren: Moderne Frameworks (PyTorch, JAX, TensorFlow) stellen Datenlader bereit, die mehrere Arbeitsprozesse unterstützen. Stellen Sie sicher, dass Sie sie effektiv nutzen. Daten für den nächsten Stapel sollten vorab abgerufen, erweitert und im Speicher warten, bevor die GPU den aktuellen Gradientenschritt überhaupt abschließt.
• Upstream-Filterung: Wenn Sie nur auf einer Teilmenge Ihrer Daten trainieren (z. B. „Benutzer der letzten 30 Tage“), filtern Sie diese Daten auf der Speicherebene mithilfe partitionierter Abfragen, anstatt den gesamten Datensatz zu laden und im Arbeitsspeicher zu filtern.

# 2. Zahlung der Vorverarbeitungssteuer

Führen Sie jedes Mal, wenn Sie ein Experiment durchführen, genau dieselbe Datenbereinigung, Tokenisierung oder Funktionsverknüpfung erneut durch? Wenn ja, zahlen Sie eine „Vorverarbeitungssteuer“, die sich mit jeder Iteration erhöht.

// Das reale Szenario

Ein Group zur Abwanderungsvorhersage führt wöchentlich Dutzende Experimente durch. Ihre Pipeline beginnt damit, rohe Clickstream-Protokolle zu aggregieren und sie mit relationalen demografischen Tabellen zu verknüpfen, ein Prozess, der, sagen wir, vier Stunden dauert. Selbst wenn der Datenwissenschaftler nur eine andere Lernrate oder einen leicht anderen Modellkopf testet, führt er den gesamten vierstündigen Vorverarbeitungsvorgang erneut aus. Das ist verschwendete Rechenleistung und, was noch wichtiger ist, verschwendete menschliche Zeit.

// Die Lösung

• Entkoppeln Sie Funktionen vom Coaching: Gestalten Sie Ihre Pipeline so, dass Function-Engineering und Modelltraining unabhängige Phasen sind. Die Ausgabe der Function-Pipeline sollte ein sauberes, unveränderliches Artefakt sein.
• Artefaktversionierung und Caching: Verwenden Sie Instruments wie DVC, MLflowoder einfache S3-Versionierung zum Speichern verarbeiteter Funktionssätze. Berechnen Sie beim Starten eines neuen Laufs einen Hash Ihrer Eingabedaten und Transformationslogik. Wenn ein passendes Artefakt vorhanden ist, überspringen Sie die Vorverarbeitung und laden Sie die zwischengespeicherten Daten direkt.
• Function-Shops: Für ausgereifte Organisationen kann ein Function Retailer als zentrales Repository fungieren, in dem teure Transformationen einmal berechnet und für mehrere Trainings- und Inferenzaufgaben wiederverwendet werden.

# 3. Die richtige Dimensionierung der Rechenleistung für das Downside

Nicht jedes maschinelle Lernproblem erfordert eine NVIDIA H100. Überdimensionierung ist eine häufige Kind von Effizienzdefiziten, die häufig auf die Einstellung „Commonplace auf GPU“ zurückzuführen ist.

// Das reale Szenario

Es kommt häufig vor, dass Datenwissenschaftler GPU-lastige Instanzen hochfahren, um Bäume mit Gradientenverstärkung zu trainieren (z. B XGBoost oder LightGBM) für mittelgroße Tabellendaten. Sofern die spezifische Implementierung nicht für CUDA optimiert ist, bleibt die GPU leer, während die CPU Schwierigkeiten hat, mitzuhalten. Umgekehrt führt das Coaching eines großen Transformatormodells auf einer einzelnen Maschine ohne Nutzung der gemischten Präzision (FP16/BF16) zu speicherbedingten Abstürzen und einem deutlich langsameren Durchsatz, als die {Hardware} leisten kann.

// Die Lösung

• Passen Sie die {Hardware} an die Arbeitslast an: Reservieren Sie GPUs für Deep-Studying-Workloads (Imaginative and prescient, Verarbeitung natürlicher Sprache (NLP), umfangreiche Einbettungen). Für die meisten tabellarischen und klassischen Machine-Studying-Workloads sind CPU-Instanzen mit hohem Arbeitsspeicher schneller und kostengünstiger.
• Maximieren Sie den Durchsatz durch Stapeln: Wenn Sie eine GPU verwenden, sättigen Sie diese. Erhöhen Sie die Stapelgröße, bis Sie sich der Speichergrenze der Karte nähern. Kleine Batchgrößen auf großen GPUs führen zu einer massiven Verschwendung von Taktzyklen.
• Gemischte Präzision: Verwenden Sie immer Blended-Precision-Coaching, sofern dies unterstützt wird. Es reduziert den Speicherbedarf und erhöht den Durchsatz auf moderner {Hardware} mit vernachlässigbarer Auswirkung auf die endgültige Genauigkeit.
• Schnell scheitern: Frühes Stoppen implementieren. Wenn Ihr Validierungsverlust bis zur Epoche 10 ein Plateau erreicht hat oder explodiert, hat es keinen Sinn, die verbleibenden 90 Epochen abzuschließen.

# 4. Bewertungsgenauigkeit vs. Suggestions-Geschwindigkeit

Strenge ist wichtig, aber unangebrachte Strenge kann die Entwicklung lähmen. Wenn Ihre Bewertungsschleife so umfangreich ist, dass sie Ihre Trainingszeit dominiert, berechnen Sie wahrscheinlich Metriken, die Sie für Zwischenentscheidungen nicht benötigen.

// Das reale Szenario

Ein Group zur Betrugserkennung ist stolz auf seine wissenschaftliche Genauigkeit. Während eines Trainingslaufs lösen sie am Ende jeder Epoche eine vollständige Kreuzvalidierungssuite aus. Diese Suite berechnet Konfidenzintervalle, die Präzisionsrückruffläche unter der Kurve (PR-AUC) und F1-Scores über Hunderte von Wahrscheinlichkeitsschwellenwerten hinweg. Während die Trainingsepoche selbst 5 Minuten dauert, dauert die Auswertung 20 Minuten. Die Feedbackschleife wird von der Generierung von Metriken dominiert, die niemand tatsächlich überprüft, bis der endgültige Modellkandidat ausgewählt ist.

// Die Lösung

• Abgestufte Bewertungsstrategie: Implementieren Sie einen „Schnellmodus“ für die Validierung während des Trainings. Verwenden Sie einen kleineren, statistisch signifikanten Holdout-Satz und konzentrieren Sie sich auf zentrale Proxy-Metriken (z. B. Validierungsverlust, einfache Genauigkeit). Sparen Sie sich die teure, umfassende Evaluierungssuite für die endgültigen Kandidatenmodelle oder regelmäßige „Checkpoint“-Überprüfungen auf.
• Geschichtete Probenahme: Möglicherweise benötigen Sie nicht den gesamten Validierungssatz, um zu verstehen, ob ein Modell konvergiert. Eine intestine geschichtete Stichprobe liefert oft die gleichen richtungsweisenden Erkenntnisse zu einem Bruchteil der Rechenkosten.
• Vermeiden Sie redundante Schlussfolgerungen: Stellen Sie sicher, dass Sie Vorhersagen zwischenspeichern. Wenn Sie fünf verschiedene Metriken für denselben Validierungssatz berechnen müssen, führen Sie die Inferenz einmal aus und verwenden Sie die Ergebnisse erneut, anstatt den Vorwärtsdurchlauf für jede Metrik erneut auszuführen.

# 5. Frühzeitige Lösung für Inferenzbeschränkungen

Ein Modell mit einer Genauigkeit von 99 % ist ein Risiko, wenn es in einem System mit einem Latenzbudget von 200 ms 800 ms dauert, um eine Vorhersage zurückzugeben. Effizienz ist nicht nur ein Schulungsproblem; Es handelt sich um eine Bereitstellungsanforderung.

// Das reale Szenario

Eine Empfehlungsmaschine funktioniert in einem Forschungsnotizbuch einwandfrei und zeigt eine Steigerung der Klickrate (CTR) um 10 %. Sobald es jedoch hinter einer Anwendungsprogrammierschnittstelle (API) bereitgestellt wird, kommt es zu Latenzspitzen. Das Group erkennt, dass das Modell auf komplexen Berechnungen von Laufzeitfunktionen beruht, die in einem Batch-Pocket book trivial sind, in einer Reside-Umgebung jedoch teure Datenbanksuchen erfordern. Das Modell ist technisch überlegen, aber operativ nicht realisierbar.

// Die Lösung

• Inferenz als Einschränkung: Definieren Sie Ihre betrieblichen Einschränkungen – Latenz, Speicherbedarf und Abfragen professional Sekunde (QPS) – bevor Sie mit dem Coaching beginnen. Wenn ein Modell diese Benchmarks nicht erfüllen kann, kommt es unabhängig von seiner Leistung auf einem Testgerät nicht für die Produktion in Frage.
• Minimieren Sie den Unterschied zwischen Coaching und Bereitstellung: Stellen Sie sicher, dass die während des Trainings verwendete Vorverarbeitungslogik mit der Logik in Ihrer Bereitstellungsumgebung identisch ist. Logische Nichtübereinstimmungen sind eine Hauptursache für stille Fehler beim maschinellen Lernen in der Produktion.
• Optimierung und Quantisierung: Nutzen Sie Instruments wie ONNX-Laufzeit, TensorRToder Quantisierung, um die maximale Leistung aus Ihrer Produktionshardware herauszuholen.
• Batch-Inferenz: Wenn Ihr Anwendungsfall nicht unbedingt eine Echtzeitbewertung erfordert, wechseln Sie zur asynchronen Batch-Inferenz. Es ist exponentiell effizienter, 10.000 Benutzer auf einmal zu bewerten, als 10.000 einzelne API-Anfragen zu bearbeiten.

# Fazit: Effizienz ist ein Merkmal

Die Optimierung Ihrer Pipeline ist keine „Hausmeisterarbeit“; Es handelt sich um Excessive-Leverage-Engineering. Durch die Reduzierung der Iterationslücke sparen Sie nicht nur Cloud-Kosten, sondern erhöhen auch die Gesamtmenge an Informationen, die Ihr Group produzieren kann.

Ihr nächster Schritt ist einfach: Wählen Sie einen Engpass aus dieser Liste aus und prüfen Sie ihn diese Woche. Messen Sie die Zeit bis zum Ergebnis vor und nach der Reparatur. Sie werden wahrscheinlich feststellen, dass eine schnelle Pipeline immer besser ist als eine ausgefallene Architektur, einfach weil Sie dadurch schneller lernen können als die Konkurrenz.

Matthew Mayo (@mattmayo13) hat einen Grasp-Abschluss in Informatik und ein Diplom in Knowledge Mining. Als geschäftsführender Herausgeber von KDnuggets & Statistikund Mitherausgeber bei Beherrschung des maschinellen LernensZiel von Matthew ist es, komplexe datenwissenschaftliche Konzepte zugänglich zu machen. Zu seinen beruflichen Interessen zählen die Verarbeitung natürlicher Sprache, Sprachmodelle, Algorithmen für maschinelles Lernen und die Erforschung neuer KI. Seine Mission ist es, das Wissen in der Datenwissenschaftsgemeinschaft zu demokratisieren. Matthew programmiert seit seinem sechsten Lebensjahr.

Bild von Editor | Chatgpt

# Einführung

Das maschinelle Lernen ist ein wesentlicher Bestandteil vieler Unternehmen geworden, und Unternehmen, die es nicht nutzen, wird das Risiko zurückgelassen. Angesichts der Tatsache, dass kritische Modelle einen Wettbewerbsvorteil bieten, ist es natürlich, dass viele Unternehmen sie in ihre Systeme integrieren möchten.

Es gibt viele Möglichkeiten, ein Pipeline -System für maschinelles Lernen einzurichten, um ein Unternehmen zu unterstützen, und eine Choice besteht darin, es mit einem Cloud -Anbieter zu hosten. Die Entwicklung und Bereitstellung maschineller Lernmodelle in der Cloud haben viele Vorteile, einschließlich Skalierbarkeit, Kosteneffizienz und vereinfachter Prozesse im Vergleich zum Aufbau der gesamten Pipeline im Haus.

Die Auswahl der Cloud -Anbieter liegt beim Unternehmen. In diesem Artikel werden wir jedoch untersuchen, wie eine Pipeline für maschinelles Lernen auf der Google Cloud -Plattform (GCP) eingerichtet wird.

Fangen wir an.

# Vorbereitung

Sie müssen ein Google -Konto haben, bevor Sie fortfahren, da wir die GCP verwenden werden. Wenn Sie ein Konto erstellt haben, greifen Sie auf die zu Google Cloud Console.

Erstellen Sie in der Konsole ein neues Projekt.

Dann müssen Sie vor allem Ihre Abrechnungskonfiguration einrichten. Auf der GCP -Plattform müssen Sie Ihre Zahlungsinformationen registrieren, bevor Sie die meisten Dinge auf der Plattform tun können, auch mit einem kostenlosen Testkonto. Sie müssen sich jedoch keine Sorgen machen, da das Beispiel, das wir verwenden, nicht viel von Ihrem kostenlosen Kredit verbraucht.

Bitte geben Sie alle für den Begin des Projekts erforderlichen Abrechnungsinformationen an. Möglicherweise benötigen Sie auch Ihre Steuerinformationen und eine Kreditkarte, um sicherzustellen, dass sie fertig sind.

Lassen Sie uns bei allem mit GCP unsere Pipeline für maschinelles Lernen aufbauen.

# Pipeline für maschinelles Lernen mit Google Cloud -Plattform

Um unsere Pipeline für maschinelles Lernen aufzubauen, benötigen wir einen Beispiel -Datensatz. Wir werden die verwenden Herzinfarktvorhersage Datensatz von Kaggle für dieses Tutorial. Laden Sie die Daten herunter und speichern Sie sie für den Second irgendwo.

Als nächstes müssen wir den Datenspeicher für unseren Datensatz einrichten, den die Pipeline für maschinelles Lernen verwendet. Dazu müssen wir einen Speicherbucker für unseren Datensatz erstellen. Suchen Sie nach „Cloud -Speicher“, um einen Eimer zu erstellen. Es muss einen eindeutigen globalen Namen haben. Im Second müssen Sie keine der Standardeinstellungen ändern. Klicken Sie einfach auf die Schaltfläche Erstellen.

Wenn der Eimer erstellt wurde, laden Sie Ihre CSV -Datei darauf hoch. Wenn Sie dies richtig gemacht haben, sehen Sie den Datensatz im Eimer.

Als nächstes erstellen wir eine neue Tabelle, die wir mit dem BigQuery -Service abfragen können. Suchen Sie nach „BigQuery“ und klicken Sie auf „Daten hinzufügen“. Wählen Sie ‚Google Cloud Storage‘ und wählen Sie die CSV -Datei aus dem zuvor erstellten Bucket aus.

Füllen Sie die Informationen, insbesondere das Projektziel, das Datensatzformular aus (erstellen Sie einen neuen Datensatz oder wählen Sie einen vorhandenen) und den Tabellennamen. Wählen Sie für das Schema „automatische Erkennung“ und erstellen Sie dann die Tabelle.

Wenn Sie es erfolgreich erstellt haben, können Sie die Tabelle abfragen, um festzustellen, ob Sie auf den Datensatz zugreifen können.

Suchen Sie als Nächstes nach Scheitelpunkt AI und aktivieren Sie alle empfohlenen APIs. Sobald dies fertig ist, wählen Sie ‚Colab Enterprise‘.

Wählen Sie ‚Pocket book erstellen‘, um das Notizbuch zu erstellen, das wir für unsere einfache Pipeline für maschinelles Lernen verwenden.

Wenn Sie mit Google Colab vertraut sind, sieht die Schnittstelle sehr ähnlich aus. Sie können ein Notizbuch aus einer externen Quelle importieren, wenn Sie möchten.

Stellen Sie mit dem Pocket book eine Laufzeit her. Derzeit reicht der Standardmaschinenart aus, da wir nicht viele Ressourcen benötigen.

Beginnen wir unsere Entwicklung von maschinellem Lernen, indem wir Daten aus unserer BigQuery -Tabelle abfragen. Zunächst müssen wir den BigQuery -Consumer mit dem folgenden Code initialisieren.

from google.cloud import bigquery

shopper = bigquery.Consumer()

Fragen wir dann unseren Datensatz in der BigQuery -Tabelle mit dem folgenden Code ab. Ändern Sie die Projekt -ID, den Datensatz und den Tabellennamen so, dass sie dem, was Sie zuvor erstellt haben, übereinstimmen.

# TODO: Change along with your venture ID, dataset, and desk identify
question = """
SELECT *
FROM `your-project-id.your_dataset.heart_attack`
LIMIT 1000
"""
query_job = shopper.question(question)

df = query_job.to_dataframe()

Die Daten befinden sich jetzt in einem Pandas -Datenframe in unserem Pocket book. Lassen Sie uns unsere Zielvariable (‚Ergebnis‘) in ein numerisches Etikett verwandeln.

import pandas as pd
from sklearn.model_selection import train_test_split
from sklearn.linear_model import LogisticRegression
from sklearn.metrics import accuracy_score

df('Final result') = df('Final result').apply(lambda x: 1 if x == 'Coronary heart Assault' else 0)

Als nächstes bereiten wir unser Trainings- und Testen von Datensätzen vor.

df = df.select_dtypes('quantity')

X = df.drop('Final result', axis=1)
y = df('Final result')

X_train, X_test, y_train, y_test = train_test_split(X, y, test_size=0.3, random_state=42)

Notiz: df = df.select_dtypes('quantity') wird verwendet, um das Beispiel zu vereinfachen, indem alle nicht numerischen Spalten fallen gelassen werden. In einem realen Szenario ist dies ein aggressiver Schritt, der nützliche kategorische Merkmale verwerfen könnte. Dies geschieht hier zum Einfachheit halber und normalerweise wird in der Regel technische oder codierende Codierung berücksichtigt.

Sobald die Daten fertig sind, schulen wir ein Modell und bewerten Sie seine Leistung.

mannequin = LogisticRegression()
mannequin.match(X_train, y_train)

y_pred = mannequin.predict(X_test)
print(f"Mannequin Accuracy: {accuracy_score(y_test, y_pred)}")

Die Modellgenauigkeit beträgt nur etwa 0,5. Dies könnte sicherlich verbessert werden, aber für dieses Beispiel werden wir mit diesem einfachen Modell fortfahren.

Verwenden wir nun unser Modell, um Vorhersagen zu treffen und die Ergebnisse vorzubereiten.

result_df = X_test.copy()
result_df('precise') = y_test.values
result_df('predicted') = y_pred
result_df.reset_index(inplace=True)

Schließlich werden wir die Vorhersagen unseres Modells in einer neuen BigQuery -Tabelle speichern. Beachten Sie, dass der folgende Code die Zieltabelle überschreibt, wenn sie bereits vorhanden ist, anstatt sich daran anzuschließen.

# TODO: Change along with your venture ID and vacation spot dataset/desk
destination_table = "your-project-id.your_dataset.heart_attack_predictions"
job_config = bigquery.LoadJobConfig(write_disposition=bigquery.WriteDisposition.WRITE_TRUNCATE)
load_job = shopper.load_table_from_dataframe(result_df, destination_table, job_config=job_config)
load_job.outcome()

Damit haben Sie in einem Scheitelpunkt -AI -Pocket book eine einfache Pipeline für maschinelles Lernen erstellt.

Um diesen Vorgang zu optimieren, können Sie das Pocket book so planen, dass sie automatisch ausgeführt werden. Gehen Sie zu den Aktionen Ihres Notebooks und wählen Sie „Zeitplan“.

Wählen Sie die Frequenz aus, die das Notizbuch benötigt, um beispielsweise jeden Dienstag oder am ersten Tag des Monats auszuführen. Dies ist eine einfache Möglichkeit, um sicherzustellen, dass die Pipeline für maschinelles Lernen nach Bedarf ausgeführt wird.

Das ist es, eine einfache Pipeline für maschinelles Lernen auf GCP einzurichten. Es gibt viele andere, produktionsbereitere Möglichkeiten, eine Pipeline einzurichten, z.

# Abschluss

Die Google Cloud -Plattform bietet den Benutzern eine einfache Möglichkeit, eine Pipeline für maschinelles Lernen einzurichten. In diesem Artikel haben wir gelernt, wie man eine Pipeline mit verschiedenen Cloud -Diensten wie Cloud -Speicher, BigQuery und Vertex AI einrichtet. Durch das Erstellen der Pipeline in Pocket book -Type und das Planen, um sie automatisch auszuführen, können wir eine einfache funktionale Pipeline erstellen.

Ich hoffe das hat geholfen!

Cornellius Yudha Wijaya ist ein Information Science Assistant Supervisor und Datenautor. Während er in Vollzeit bei Allianz Indonesien arbeitet, liebt er es, Python- und Datentipps über soziale Medien und das Schreiben von Medien zu teilen. Cornellius schreibt über eine Vielzahl von KI- und maschinellen Lernthemen.