Mit ChatGPT erstelltes Bild

Haben Sie Probleme, die Leistung Ihres Modells während der Testphasen zu verbessern? Selbst wenn Sie das Modell verbessern, schlägt es in der Produktion aus unbekannten Gründen kläglich fehl. Wenn Sie mit ähnlichen Problemen kämpfen, sind Sie hier richtig.

In diesem Weblog gebe ich Ihnen 7 Tipps, wie Sie Ihr Modell präzise und stabil machen. Wenn Sie diese Tipps befolgen, können Sie sicher sein, dass Ihr Modell auch bei unbekannten Daten eine bessere Leistung erbringt.

Warum sollten Sie auf meinen Rat hören? Ich bin seit quick vier Jahren in diesem Bereich tätig, habe an über 80 Maschinenlaufwettbewerben teilgenommen und an mehreren Finish-to-Finish-Maschinenlernprojekten gearbeitet. Außerdem habe ich jahrelang vielen Experten geholfen, bessere und zuverlässigere Modelle zu erstellen.

1. Bereinigen Sie die Daten

Das Bereinigen der Daten ist der wichtigste Teil. Sie müssen fehlende Werte ergänzen, Ausreißer behandeln, die Daten standardisieren und die Datengültigkeit sicherstellen. Manchmal funktioniert das Bereinigen mit einem Python-Skript nicht wirklich. Sie müssen sich jede einzelne Probe einzeln ansehen, um sicherzustellen, dass es keine Probleme gibt. Ich weiß, dass es viel Zeit in Anspruch nehmen wird, aber glauben Sie mir, das Bereinigen der Daten ist der wichtigste Teil des Ökosystems des maschinellen Lernens.

Als ich beispielsweise ein Modell zur automatischen Spracherkennung trainierte, stieß ich im Datensatz auf mehrere Probleme, die sich nicht durch einfaches Entfernen von Zeichen lösen ließen. Ich musste mir die Audiodatei anhören und die genaue Transkription neu schreiben. Einige Transkriptionen waren ziemlich vage und ergaben keinen Sinn.

2. Weitere Daten hinzufügen

Eine Erhöhung des Datenvolumens kann häufig zu einer verbesserten Modellleistung führen. Das Hinzufügen relevanterer und vielfältigerer Daten zum Trainingssatz kann dem Modell helfen, mehr Muster zu lernen und bessere Vorhersagen zu treffen. Wenn Ihrem Modell die Vielfalt fehlt, kann es bei der Mehrheitsklasse eine gute Leistung erbringen, bei der Minderheitsklasse jedoch eine schlechte.

Viele Datenwissenschaftler verwenden mittlerweile Generative Adversarial Networks (GAN), um vielfältigere Datensätze zu generieren. Dies erreichen sie, indem sie das GAN-Modell anhand vorhandener Daten trainieren und es dann zur Generierung eines synthetischen Datensatzes verwenden.

3. Funktionsentwicklung

Beim Characteristic Engineering werden neue Options aus vorhandenen Daten erstellt und auch unnötige Options entfernt, die weniger zur Entscheidungsfindung des Modells beitragen. Dadurch erhält das Modell relevantere Informationen, um Vorhersagen zu treffen.

Sie müssen eine SHAP-Analyse durchführen, die Wichtigkeit der Funktionen analysieren und bestimmen, welche Funktionen für den Entscheidungsprozess wichtig sind. Anschließend können diese verwendet werden, um neue Funktionen zu erstellen und irrelevante aus dem Datensatz zu entfernen. Dieser Prozess erfordert ein gründliches Verständnis des Geschäftsanwendungsfalls und jeder Funktion im Element. Wenn Sie die Funktionen und ihren Nutzen für das Geschäft nicht verstehen, gehen Sie den Weg blind.

4. Kreuzvalidierung

Kreuzvalidierung ist eine Technik, mit der die Leistung eines Modells anhand mehrerer Datenteilmengen bewertet wird. Dadurch wird das Risiko einer Überanpassung verringert und eine zuverlässigere Schätzung der Verallgemeinerungsfähigkeit des Modells ermöglicht. Dadurch erhalten Sie Informationen darüber, ob Ihr Modell stabil genug ist oder nicht.

Die Berechnung der Genauigkeit des gesamten Testsatzes liefert möglicherweise keine vollständigen Informationen zur Leistung Ihres Modells. Beispielsweise kann das erste Fünftel des Testsatzes eine Genauigkeit von 100 % aufweisen, während das zweite Fünftel mit nur 50 % Genauigkeit schlecht abschneidet. Trotzdem kann die Gesamtgenauigkeit immer noch bei etwa 85 % liegen. Diese Diskrepanz weist darauf hin, dass das Modell instabil ist und sauberere und vielfältigere Daten zum erneuten Trainieren benötigt.

Anstatt eine einfache Modellbewertung durchzuführen, empfehle ich, eine Kreuzvalidierung zu verwenden und diese mit verschiedenen Metriken zu versehen, anhand derer Sie das Modell testen möchten.

5. Hyperparameter-Optimierung

Das Trainieren des Modells mit Standardparametern magazine einfach und schnell erscheinen, aber Sie verpassen eine verbesserte Leistung, da Ihr Modell in den meisten Fällen nicht optimiert ist. Um die Leistung Ihres Modells während des Assessments zu steigern, wird dringend empfohlen, eine gründliche Hyperparameteroptimierung an maschinellen Lernalgorithmen durchzuführen und diese Parameter zu speichern, damit Sie sie beim nächsten Mal zum Trainieren oder Neutrainieren Ihrer Modelle verwenden können.

Bei der Hyperparameter-Optimierung werden externe Konfigurationen angepasst, um die Modellleistung zu optimieren. Das Finden des richtigen Gleichgewichts zwischen Überanpassung und Unteranpassung ist entscheidend für die Verbesserung der Genauigkeit und Zuverlässigkeit des Modells. Dadurch kann die Genauigkeit des Modells manchmal von 85 % auf 92 % verbessert werden, was im Bereich des maschinellen Lernens recht bedeutsam ist.

6. Experimentieren Sie mit verschiedenen Algorithmen

Die Modellauswahl und das Experimentieren mit verschiedenen Algorithmen ist entscheidend, um die beste Lösung für die gegebenen Daten zu finden. Beschränken Sie sich nicht nur auf einfache Algorithmen für tabellarische Daten. Wenn Ihre Daten mehrere Merkmale und 10.000 Beispiele aufweisen, sollten Sie neuronale Netzwerke in Betracht ziehen. Manchmal kann sogar die logistische Regression erstaunliche Ergebnisse für die Textklassifizierung liefern, die mit Deep-Studying-Modellen wie LSTM nicht erreicht werden können.

Beginnen Sie mit einfachen Algorithmen und experimentieren Sie dann langsam mit fortgeschrittenen Algorithmen, um eine noch bessere Leistung zu erzielen.

7. Ensemblebildung

Beim Ensemble-Lernen werden mehrere Modelle kombiniert, um die allgemeine Vorhersageleistung zu verbessern. Der Aufbau eines Ensembles von Modellen, jedes mit seinen eigenen Stärken, kann zu stabileren und genaueren Modellen führen.

Durch die Zusammenstellung der Modelle habe ich oft bessere Ergebnisse erzielt, manchmal sogar eine High-10-Platzierung bei Wettbewerben im Bereich maschinelles Lernen. Werfen Sie leistungsschwache Modelle nicht weg, sondern kombinieren Sie sie mit einer Gruppe leistungsstarker Modelle, und Ihre Gesamtgenauigkeit wird steigen.

Das Zusammenstellen, Bereinigen des Datensatzes und das Characteristic Engineering waren für mich die drei besten Strategien, um Wettbewerbe zu gewinnen und selbst bei unbekannten Datensätzen eine hohe Leistung zu erzielen.

Abschließende Gedanken

Es gibt noch weitere Tipps, die nur in bestimmten Bereichen des maschinellen Lernens funktionieren. In der Computervision müssen wir uns beispielsweise auf Bilderweiterung, Modellarchitektur, Vorverarbeitungstechniken und Transferlernen konzentrieren. Die oben besprochenen sieben Tipps – Bereinigen der Daten, Hinzufügen weiterer Daten, Characteristic Engineering, Kreuzvalidierung, Hyperparameteroptimierung, Experimentieren mit verschiedenen Algorithmen und Ensemblebildung – sind jedoch universell anwendbar und für alle Modelle des maschinellen Lernens von Vorteil. Durch die Implementierung dieser Strategien können Sie die Genauigkeit, Zuverlässigkeit und Robustheit Ihrer Vorhersagemodelle erheblich verbessern, was zu besseren Erkenntnissen und fundierteren Entscheidungen führt.

Abid Ali Awan (@1abidaliawan) ist ein zertifizierter Datenwissenschaftler, der gerne Modelle für maschinelles Lernen erstellt. Derzeit konzentriert er sich auf die Erstellung von Inhalten und das Schreiben technischer Blogs zu Technologien für maschinelles Lernen und Datenwissenschaft. Abid hat einen Grasp-Abschluss in Technologiemanagement und einen Bachelor-Abschluss in Telekommunikationstechnik. Seine Imaginative and prescient ist es, mithilfe eines Graph-Neural-Networks ein KI-Produkt für Studenten zu entwickeln, die mit psychischen Erkrankungen zu kämpfen haben.

Bild vom Autor

Maschinelles Lernen ist eine Artwork Computeralgorithmus, der Maschinen beim Lernen unterstützt, ohne dass eine explizite Programmierung erforderlich ist.

Heute finden sich Anwendungen für maschinelles Lernen überall – in Navigationssystemen, Movie-Streaming-Plattformen und E-Commerce-Anwendungen.

Tatsächlich haben Sie vom Aufwachen am Morgen bis zum Schlafengehen wahrscheinlich mit Dutzenden von Modellen des maschinellen Lernens interagiert, ohne es überhaupt zu merken.

Es wird erwartet, dass die Branche des maschinellen Lernens zwischen 2024 und 2030 um über 36 % wächst.

Angesichts der Tatsache, dass nahezu jedes große Unternehmen aktiv in KI investiert, können Sie nur davon profitieren, Ihre Fähigkeiten im Bereich maschinelles Lernen zu verbessern.

Egal, ob Sie ein Information-Science-Fanatic, Entwickler oder jemand sind, der sein Wissen in diesem Bereich verbessern möchte, hier sind 5 häufig verwendete Modelle des maschinellen Lernens, die Sie kennen sollten:

1. Lineare Regression

Die lineare Regression ist das am häufigsten verwendete maschinelle Lernmodell zur Durchführung quantitativer Aufgaben.

Dieser Algorithmus wird verwendet, um ein kontinuierliches Ergebnis (y) unter Verwendung einer oder mehrerer unabhängiger Variablen (X) vorherzusagen.

Sie würden beispielsweise eine lineare Regression anwenden, wenn Sie die Aufgabe hätten, die Preise von Häusern auf Grundlage ihrer Größe vorherzusagen.

In diesem Fall ist die Hausgröße Ihre unabhängige Variable X, die zur Vorhersage des Hauspreises verwendet wird, der die unabhängige Variable ist.

Dies geschieht durch die Anpassung einer linearen Gleichung, die die Beziehung zwischen X und y modelliert, dargestellt durch y=mX+c.

Das folgende Diagramm stellt eine lineare Regression dar, die die Beziehung zwischen Hauspreis und -größe modelliert:

Bild vom Autor

Lernressource

Um mehr über die Instinct hinter der linearen Regression und ihre mathematische Funktionsweise zu erfahren, empfehle ich Ihnen, sich anzusehen Krish Naiks YouTube-Tutorial zum Thema.

2. Logistische Regression

Die logistische Regression ist ein Klassifizierungsmodell, das zur Vorhersage eines diskreten Ergebnisses bei einer oder mehreren unabhängigen Variablen verwendet wird.

Anhand der Anzahl negativer Schlüsselwörter in einem Satz lässt sich mithilfe der logistischen Regression beispielsweise vorhersagen, ob eine bestimmte Nachricht als legitim oder als Spam eingestuft werden sollte.

Hier ist ein Diagramm, das zeigt, wie die logistische Regression funktioniert:

Bild vom Autor

Beachten Sie, dass die logistische Regression im Gegensatz zur linearen Regression, die eine gerade Linie darstellt, als S-förmige Kurve modelliert wird.

Wie aus der obigen Kurve ersichtlich, steigt mit der Anzahl der auszuschließenden Schlüsselwörter auch die Wahrscheinlichkeit, dass die Nachricht als Spam eingestuft wird.

Die x-Achse dieser Kurve stellt die Anzahl der negativen Schlüsselwörter dar und die y-Achse zeigt die Wahrscheinlichkeit, dass es sich bei der E-Mail um Spam handelt.

Typischerweise weist bei der logistischen Regression eine Wahrscheinlichkeit von 0,5 oder mehr auf ein positives Ergebnis hin – in diesem Kontext bedeutet es, dass es sich bei der Nachricht um Spam handelt.

Umgekehrt weist eine Wahrscheinlichkeit von weniger als 0,5 auf ein negatives Ergebnis hin und bedeutet, dass es sich bei der Nachricht nicht um Spam handelt.

Lernressource

Wenn Sie mehr über logistische Regression erfahren möchten, StatQuests Tutorial zur logistischen Regression ist ein guter Ausgangspunkt.

3. Entscheidungsbäume

Entscheidungsbäume sind ein beliebtes maschinelles Lernmodell, das sowohl für Klassifizierungs- als auch für Regressionsaufgaben verwendet wird.

Sie funktionieren, indem sie den Datensatz anhand seiner Merkmale aufschlüsseln und eine baumartige Struktur zur Modellierung dieser Daten erstellen.

Vereinfacht ausgedrückt ermöglichen uns Entscheidungsbäume, Daten kontinuierlich anhand bestimmter Parameter aufzuteilen, bis eine endgültige Entscheidung getroffen ist.

Hier ist ein Beispiel für einen einfachen Entscheidungsbaum, der bestimmt, ob eine Particular person an einem bestimmten Tag ein Eis essen sollte:

Bild vom Autor

• Der Baum beginnt mit dem Wetter und ermittelt, ob es zum Eisessen geeignet ist.
• Wenn das Wetter heat ist, geht es weiter zum nächsten Knoten, Gesundheit. Andernfalls lautet die Entscheidung Nein und es gibt keine weiteren Splits.
• Beim nächsten Knoten gilt: Wenn die Particular person gesund ist, kann sie das Eis essen. Andernfalls sollte sie darauf verzichten.

Beachten Sie, wie die Daten an jedem Knoten im Entscheidungsbaum aufgeteilt werden und der Klassifizierungsprozess dadurch in einfache, überschaubare Fragen zerlegt wird.

Sie können einen ähnlichen Entscheidungsbaum für Regressionsaufgaben mit einem quantitativen Ergebnis zeichnen, und die Instinct hinter dem Prozess bliebe dieselbe.

Lernressource

Um mehr über Entscheidungsbäume zu erfahren, empfehle ich Ihnen, sich anzusehen Video-Tutorial von StatsQuest zum Thema.

4. Zufällige Wälder

Das Random-Forest-Modell kombiniert die Vorhersagen mehrerer Entscheidungsbäume und gibt eine einzelne Ausgabe zurück.

Intuitiv sollte dieses Modell eine bessere Leistung erbringen als ein einzelner Entscheidungsbaum, da es die Fähigkeiten mehrerer Vorhersagemodelle nutzt.

Dies geschieht mit Hilfe einer Technik namens Bagging oder Bootstrap-Aggregation.

Und so funktioniert das Bagging:

Mithilfe einer statistischen Technik namens Bootstrap wird der Datensatz mehrfach mit Zurücklegen abgetastet.

Anschließend wird für jeden Beispieldatensatz ein Entscheidungsbaum trainiert. Die Ergebnisse aller Bäume werden schließlich zu einer einzigen Vorhersage kombiniert.

Bei einem Regressionsproblem wird die endgültige Ausgabe durch Mittelung der Vorhersagen jedes Entscheidungsbaums generiert. Bei Klassifizierungsproblemen wird eine Mehrheitsklassenvorhersage gemacht.

Lernressource
Sie können zuschauen Krish Naiks Tutorial zu Random Forests um mehr über die Theorie und Instinct hinter dem Modell zu erfahren.

5. Ok-Means-Clustering

Alle bisher besprochenen Modelle des maschinellen Lernens fallen unter den Oberbegriff einer Methode namens „überwachtes Lernen“.

Überwachtes Lernen ist eine Technik, bei der ein gekennzeichneter Datensatz verwendet wird, um Algorithmen zur Vorhersage eines Ergebnisses zu trainieren.

Im Gegensatz dazu ist unüberwachtes Lernen eine Technik, die nicht mit gekennzeichneten Daten arbeitet. Stattdessen erkennt sie Muster in den Daten, ohne darauf trainiert zu sein, nach welchen spezifischen Ergebnissen sie suchen soll.

Ok-Means-Clustering ist ein unüberwachtes Lernmodell, das im Wesentlichen unmarkierte Daten aufnimmt und jeden Datenpunkt einem Cluster zuweist.

Die Beobachtungen gehören zum Cluster mit dem nächsten Mittelwert.

Hier ist eine visuelle Darstellung des Ok-Means-Clustermodells:

Bild vom Autor

Beachten Sie, wie der Algorithmus jeden Datenpunkt in drei verschiedene Cluster gruppiert hat, die jeweils durch eine andere Farbe dargestellt werden. Diese Cluster werden basierend auf ihrer Nähe zum Schwerpunkt gruppiert, der durch ein rotes X-Image gekennzeichnet ist.

Einfach ausgedrückt weisen alle Datenpunkte in Cluster 1 ähnliche Merkmale auf, weshalb sie zusammen gruppiert werden. Dasselbe Prinzip gilt für Cluster 2 und 3.

Beim Erstellen eines Ok-Means-Clustermodells müssen Sie die Anzahl der Cluster, die Sie generieren möchten, explizit angeben.

Dies lässt sich mithilfe der sogenannten Ellbogenmethode erreichen. Dabei werden die Fehlerwerte des Modells mit verschiedenen Clusterwerten in einem Liniendiagramm dargestellt. Anschließend wählen Sie den Wendepunkt der Kurve oder ihren „Ellbogen“ als optimale Anzahl von Clustern.

Hier ist eine visuelle Darstellung der Ellenbogenmethode:

Bild vom Autor

Beachten Sie, dass der Wendepunkt dieser Kurve bei der 3-Cluster-Markierung liegt, was bedeutet, dass die optimale Anzahl von Clustern für diesen Algorithmus 3 ist.

Lernressource

Wenn Sie mehr über das Thema erfahren möchten, bietet StatQuest eine
8-minütiges Video das die Funktionsweise des Ok-Means-Clusterings klar erklärt.

Nächste Schritte

Die in diesem Artikel erläuterten Algorithmen des maschinellen Lernens werden häufig in branchenweiten Anwendungen wie Prognosen, Spam-Erkennung, Kreditgenehmigung und Kundensegmentierung eingesetzt.

Wenn Sie es geschafft haben, bis hierher zu folgen, herzlichen Glückwunsch! Sie verfügen nun über ein solides Verständnis der am häufigsten verwendeten Vorhersagealgorithmen und haben den ersten Schritt in das Feld des maschinellen Lernens getan.

Aber die Reise endet hier nicht.

Um Ihr Verständnis von Modellen des maschinellen Lernens zu festigen und sie auf reale Anwendungen anwenden zu können, empfehle ich Ihnen, eine Programmiersprache wie Python oder R zu lernen.

Freecodecamps Python für Anfänger Kurs
Kurs ist ein guter Ausgangspunkt. Wenn Sie in Ihrer Programmierreise stecken bleiben, habe ich eine YouTube-Video darin wird erklärt, wie man das Programmieren von Grund auf lernt.

Sobald Sie das Programmieren gelernt haben, können Sie diese Modelle mithilfe von Bibliotheken wie Scikit-Study und Keras in die Praxis umsetzen.

Um Ihre Fähigkeiten in den Bereichen Datenwissenschaft und maschinelles Lernen zu verbessern, empfehle ich Ihnen, mithilfe von generativen KI-Modellen wie ChatGPT einen maßgeschneiderten Lernpfad für sich selbst zu erstellen. Hier finden Sie eine detailliertere Roadmap, die Ihnen den Einstieg in die Nutzung erleichtert ChatGPT, um Datenwissenschaft zu lernen.

Natassha Selvaraj ist eine autodidaktische Datenwissenschaftlerin mit einer Leidenschaft für das Schreiben. Natassha schreibt über alles, was mit Datenwissenschaft zu tun hat, und ist eine wahre Meisterin aller Datenthemen. Sie können mit ihr in Kontakt treten auf LinkedIn oder schau dir ihre Youtube Kanal.