Begleiter zu Enterprise Doc Intelligencedie Serie, deren Philosophie in dargelegt ist Stärken Sie den Experten. Es zoomt heran Stein 3 (Abruf) der Vier-Stein-Architektur und der Oberflächen sind die Lektionen, die in den meisten Tutorials übersprungen werden.

Die Mainstream-Geschichte hat Retrieval als Betten Sie die Frage ein, geben Sie top-k per Kosinus zurück und ordnen Sie sie optionally available neu. Wir sind mit quick jedem Teil davon nicht einverstanden. Abruf ist Filtern nach strukturierten Tabellenkeine Suche nach Freitext. Einbettungen sind der optionale Fallback, nicht die Grundlage. Anker und Kontext sind zwei Granularitäten, nicht eine. Jede dieser Positionen ist eine Place, die wir verteidigen können, mit absehbaren Konsequenzen.

Ausführbare Begleit-Notebooks finden Sie auf GitHub: doc-intel/notebooks-vol1.

Die naive Grundlinie, auf die dieser Artikel zurückgreift

Die naive Pipeline zerlegt das Dokument in Stücke, bettet jeden Teil ein, bettet die Frage ein und ordnet sie nach dem Kosinus. Dieses einzelne Sign ist undurchsichtig und zerstört die Struktur des Dokuments. Wir behalten das Dokument als line_df + toc_df und lassen Sie drei Abrufsignale parallel laufen (Schlüsselwort auf Zeilen, TOC-Argumentation, Einbettungskosinus), und lassen Sie dann einen LLM-Arbiter am Ende einmal rangieren, wobei alle drei Treffermengen im Blick sind.

Nachfolgend sind die sechs ungelehrten Lektionen dieses Bausteins aufgeführt.

Lektion 1 – Beim Abrufen handelt es sich um Filtern, nicht um Suchen

Sobald das Parsen abgeschlossen ist, ist das Abrufen mit einem SQL-ähnlichen Filterproblem erledigt line_df Und toc_dfdie Umkehrung des Chunk-Embed-Cosine-High-Okay-Frameworks. Der Wechsel ist einfach zu erklären: Die Frage hat Spalten, das Dokument hat Spalten und der Abruf ist der Be a part of.

Warum es wichtig ist. Suchen Und Filter sind keine Synonyme, die beiden Operationen haben unterschiedliche Mechanismen. Suchen Bewertet jeden Kandidaten anhand einer kontinuierlichen Ähnlichkeit (cosine , BM25), erzwingt a top-k Cutoff und gibt immer etwas zurück, auch wenn die Antwort nicht im Dokument enthalten ist. Filter wendet eine boolesche Bedingung an (line.accommodates("X") , toc.title in (...)), behält jede Zeile, die übereinstimmt, und nicht mehr, und kann zurückkehren null Zeilen, wenn das Dokument die Antwort nicht enthält. Die Audit-Konsequenz ist der größte Teil der Lücke: Der Zustand eines Filters ist eine Zeile überprüfbaren Codes, der in sechs Monaten auf die gleiche Weise ausgeführt wird; Das Rating einer Suche hängt davon ab, welche Dimensionen der Einbettung wichtig sind, und Sie können dieses Urteil nicht wiederholen, ohne das Modell erneut auszuführen.

Konkreter Kontrast. Der Benutzer fragt „Welche Positionskodierung verwendet das Papier?“. Naive RAG bettet die Frage ein, bewertet mehr als 300 Blöcke und gibt die High 5 zurück. Filter der Serie RAG line_df wo die Zeile enthält "positional encoding" (4 Treffer), Filter toc_df wo der Abschnittstitel enthält "positional" (1 Abschnitt, 3.5 Positionskodierung), und der Schiedsrichter sieht beides, Anker: die Linie; Geltungsbereich: der Abschnitt. Kein Kosinus erforderlich.

→ Artikel 7A: Beim Abrufen handelt es sich um eine Filterung, nicht um eine Suche legt das mentale Modell dar.

Lektion 2 – Anker und Kontext, getrennt gehalten

Sie verankern sich in der einzelnen Zeile, in der „premium“ (präzise) erwähnt wird, übergeben aber den gesamten umgebenden Abschnitt an era (ausreichender Kontext); Wenn man sie zusammenführt, werden Präzision und Deckung in einem Zug beeinträchtigt. High-k zwingt Sie zur Auswahl: Kleine Teile verlieren den Kontext, große Teile verlieren die Präzision. Wir bekommen beides, indem wir sie auseinanderhalten.

Konkreter Kontrast. Bei einer Definitionsfrage ist der Anker die eine Zeile ( "the deductible is the quantity the insured pays earlier than protection begins" ), der Geltungsbereich ist der Absatz um ihn herum (drei Kontextsätze, die der LLM benötigt, um die Antwort zu formulieren). Naive top-k gibt entweder die Zeile (kein Kontext) oder den Absatz (Anker unklar) zurück. Rückgabe von Serienabrufen Anker + Umfang als typisiertes Paar.

→ Artikel 7A: Beim Abrufen handelt es sich um eine Filterung, nicht um eine Suche zieht die Grenze zwischen Anker und Kontext.

Lektion 3 – Einbettungen kommen an letzter Stelle, nicht an erster Stelle

Schlüsselwörter werden immer ausgeführt (billig, deterministisch); Das eigene Inhaltsverzeichnis des Dokuments ist eine erstklassige Retrieval-Methode. Einbettungen sind das optionale Endsignal, nur wenn eine Nichtübereinstimmung des Wortschatzes zu erwarten ist. Der Reflex der Ära 2024 beginnt mit Einbettungen; Wir belassen sie für die Fälle, in denen die billigeren Signale ausgefallen sind.

Konkreter Kontrast. Eine sachliche Recherche zur Versicherungspolice: „Datum des Inkrafttretens?“. Naive RAG bettet ein und gibt 5 Chunks zurück. Serie läuft Schlüsselwort weiter "efficient" Und "date" → 1 Zeile gefunden → erledigt. Einbettungen wurden nie ausgeführt. Kosten: ein regulärer Ausdruck line_df; ein paar Millisekunden. Die 2-Cent-Cosinus-Suche fand nicht statt.

→ Artikel 7B: Die richtigen Anker finden baut die Drei-Sign-Pipeline auf.

Lektion 4 – Schlüsselwörter beweisen Abwesenheit; Einbettungen können nicht

Eine Null bei der Stichwortsuche bedeutet, dass die Antwort tatsächlich nicht vorhanden ist; Eine Null bei der Einbettung von Ähnlichkeit könnte Abwesenheit oder einfach nur unterschiedliche Wörter sein, Einbettungen sind additionally eine Verfeinerung und kein Entscheidungspunkt. Diese Asymmetrie gilt für Schlüsselwörter als primäres Sign in Unternehmens-RAG.

Konkreter Kontrast. Der Benutzer fragt „Deckt dieser Vertrag Erdbebenschäden ab?“ auf einer Nur-Überschwemmungs-Politik. Stichwortsuche nach "earthquake" gibt null Übereinstimmungen zurück line_df . Die Pipeline kann versendet werden answer_found = False selbstbewusst. Das Einbetten des Kosinus ergibt 5 Blöcke (die thematisch am nächsten stehenden Zeilen). Naturkatastrophen ) und der LLM könnte, wenn er sie sieht, auf ein falsches Ja schließen. Schlüsselwörter haben den Tag gerettet.

→ Artikel 7B: Die richtigen Anker finden erklärt die Schlüsselwort-First-Disziplin.

Lektion 5 – Kookkurrenz schlägt BM25 bei schmalen Korpora

BM25 rangiert nach Begriffshäufigkeit, aber die Enterprise-Antwortform besteht aus einer Erwähnung eines Themas neben einem bestimmten Wert, sodass Kookkurrenz-Boosts und hochwertige Regex-Anker die statistische IDF bei engen Korpora übertreffen. Die IDF-Annahmen stimmen nicht mit einem Korpus aus 20 Dokumenten überein, in dem jeder Begriff nach Wikipedia-Requirements „selten“ ist.

Konkreter Kontrast. Die Frage ist „Wie hoch ist der abzugsfähige Betrag?“. BM25 rangiert nach Häufigkeit von "deductible"; Die Zeile, die zwölfmal in einem Glossarabschnitt vorkommt, steht an erster Stelle. Die Suche nach Kookkurrenz ordnet Zeilen, die enthalten beide "deductible" und eine Zahl; die eigentliche Politiklinie ( "the deductible is $1000" ) steht an erster Stelle, weil es gemeinsam mit auftritt $1000 und der LLM kann den Wert sauber extrahieren.

→ Artikel 7B: Die richtigen Anker finden misst das gleichzeitige Auftreten von BM25.

Lektion 6 – Ein LLM-Durchgang über das Inhaltsverzeichnis

Übergabe der Reihe 20-100 toc_df Einem kleinen Modell zuzuordnen und zu fragen, welche Abschnitte die Frage beantworten, kostet einen zwischengespeicherten Aufruf und fängt die Paraphrasen („frühzeitig verlassen“ ≈ „Beendigung“) bei der Schlüsselwortübereinstimmung ab.

TOC-Argumentation ist eines der am wenigsten genutzten Abrufsignale in der Produktions-RAG.

Konkreter Kontrast. Der Benutzer fragt „Wann kann ich die Police vorzeitig verlassen?“. Teilstring-Übereinstimmung aktiviert "depart" gibt null TOC-Einträge zurück. Ein LLM-Aufruf für den gesamten TOC-Rückgabeabschnitt (28 Zeilen, passt in eine einzelne kleine Eingabeaufforderung). „Kündigung und Stornierung“die richtige Umschreibung. Ein zwischengespeicherter LLM-Aufruf, danach deterministisch, und der richtige Anker.

→ Artikel 7B Gründe über das Inhaltsverzeichnis und Artikel 7C: Ein LLM als Schiedsrichter fügt der Schiedsrichter hinzu.

Den sechs Lektionen ist ein einziger Schritt gemeinsam: Verzichten Sie auf den Chunk-Embed-Cosine-Reflex und behandeln Sie das Abrufen stattdessen als Filterung auf strukturierten Tabellen. Schlüsselwörter werden immer ausgeführt, weil sie Abwesenheit beweisen; Das Inhaltsverzeichnis ist ein erstklassiges Sign, da das Dokument seine Struktur bereits deklariert hat. Einbettungen sind die optionale Verfeinerung, nicht die Grundlage. Die Deep-Dives (7A, 7B, 7C, 7bis) liefern ausführbaren Code auf echten Dokumenten; Dieses Stück ist der Katalog, der auf sie verweist.

Branchen- und berufsübergreifend

Das gleiche Drei-Sign-Abrufmuster (Schlüsselwort on line_df + Argumentation weiter toc_df + Einbettung von Fallback) gilt in jeder Area. Der Wortschatz und die TOC-Tiefe sind unterschiedlich; die Signalhierarchie nicht. Fünf Sektoren unten, ein Abrufmuster, eine Prüfverfolgung professional Anruf.

Einbettungen werden nur in der medizinischen Zeile ausgelöst, in der das Vokabular des Benutzers ( „Tachykardie“ ) weicht von der des Dokuments ab ( „schnelle Herzfrequenz“ ). Die anderen vier Zeilen werden vollständig nach Schlüsselwort + Inhaltsverzeichnis aufgelöst. Schlüsselwörter beweisen Abwesenheit (Lektion 4), das Inhaltsverzeichnis fängt Paraphrasen auf (Lektion 6) und die Aufteilung zwischen Anker und Geltungsbereich hält Präzision und Kontext in jeder Zeile auseinander (Lektion 2). Der Kostengradient ist actual: Die vier nach Schlüsselwörtern aufgelösten Zeilen werden in Millisekunden mit null LLM-Tokens ausgeführt; Die medizinische Reihe zahlt für einen Einbettungsdurchgang und einen Schiedsrichteranruf.

Quellen und weiterführende Literatur

Die Mainstream-Literatur zum Thema Retrieval ist geprägt von webbasierter Suche und kürzeren Verbraucherkorpora. Der Serienansatz geht von einem Kleinunternehmenskorpus aus, dessen Struktur bekannt ist und das Vokabular den Trumpf darstellt.

• Beim Abrufen handelt es sich um eine Filterung, nicht um eine Suche (Artikel 7A). Der veröffentlichte Psychological-Mannequin-Artikel: Retrieval as Filtering on Structured Tables.
• Einbettungen sind keine Zauberei (Artikel 2). Der veröffentlichte Fehlermodi-Katalog zum Einbetten von Ähnlichkeit.
• Reranker sind auch keine Zauberei (Artikel 2bis). Wann sich der Cross-Encoder rechnet und wann nicht.

ChatGPT ist ein typisches einmonatiges Praktikumsproblem im Datenbereich. Das Drawback wurde in gewisser Weise „gelöst“, aber ich bin mir nicht sicher, ob es das bedeutet, was ich mir vorgestellt habe. Für Daten- und KI-Praktiker ist dies mittlerweile eine sehr praktische Frage. Viele Groups nutzen Praktikanten oder Forschungsspitzen, um Ideen zu erkunden: Ist KI jetzt intestine genug? Geht es bei diesen Projekten nur um das endgültige Artefakt?

Praktikanten als Entdecker

Die Erstellung einer Technologie-Roadmap bei einem Daten-Startup in der Frühphase unterscheidet sich nicht wesentlich von einer typischen Videospiel-Karte:

Die Roadmap ist nicht nur viel umfassender als das, was Sie tun können, sondern auch was Sie können sehen. Wenn wir nur einen Blick über den „(Produkt-)Horizont“ werfen könnten, indem wir einen Entdecker schicken, um die Karte zu räumen, dann würden wir uns darüber im Klaren sein, was Sie erwartet sobald du dort angekommen bist (Der Entdecker könnte sterben, daher ist die Analogie bis zu einem gewissen Punkt intestine).

Bauplan (welches Ich conflict Mitbegründer im Jahr 2024) hat die (für seine Größe) ungewöhnliche Entscheidung getroffen, Sommerpraktika an Prime-Institutionen (Columbia College, CMU, College of Wisconsin–Madison) anzubieten, um einen Blick über den Horizont zu werfen. Es hat bisher sehr intestine funktioniert. Abgesehen von einem besseren Einstellungstrichter, einem besseren Ansehen in der Gemeinschaft und einer gewissen sozialen Schlagkraft wurden Untersuchungen durchgeführt ihren Weg in unser Produktund werden im Zuge des Unternehmenswachstums zu strategischen Vermögenswerten.

Während ich Praktikumsangebote für den Sommer 2026 verschicke, sagt mir die Hälfte meines X-Feeds, dass ich alles falsch mache. Alles andere als ein hypothetisches Drawback, in unterschiedlichen Stadien, Größen und Einschränkungen, alle Daten- und KI-Groups Heute stehen vor der gleichen Frage: Gibt es jetzt eine bessere Möglichkeit, Forschungsspitzen mit Agenten durchzuführen? Wenn ja, was ist ein gutes, getestetes KI-Setup, das sich leicht anpassen lässt?

In der Hoffnung, dass unsere Erfahrung und Perspektive für viele Datenpraktiker wertvoll sein werden, ist dies unser Aufbau und die Lehren, die wir aus einem echten Forschungsschub durch die Kombination mit ChatGPT gezogen haben.

Zuerst kamen sie, um die Berater zu holen, und ich habe mich nicht dazu geäußert …

In einer Zeit, in der KI eine Bedrohung für Wissensarbeiter darstellt, scheinen die Junior-Positionen diejenigen zu sein, die zuerst fallen. Warum sollte McKinsey einen Ivy-League-Analysten engagieren, wenn ein 200-Greenback-Abonnement schneller mehr Berichte produziert? In letzter Zeit scheint mein Feed darauf hinzudeuten, dass die KI möglicherweise auch hinter Forschern her ist und Akademiker versuchen, sich selbst zu automatisieren – „völlig autonome Forschung von der Idee zum Papier“ – und Professoren diskutieren darüber, ob das so ist Stellen Sie keine Assistenten mehr ein.

Es gibt offensichtliche Argumente, sich dem Development zu widersetzen. Wir können das angreifen Ergebnisund argumentieren, dass die Technologie immer noch fehlerhaft ist, sodass die versprochene „Ivy League“-Parität einfach nicht gegeben ist. Wir können argumentieren, dass die Gesellschaftsvertrag wird gebrochen: Natürlich waren junge Forscher immer (in gewissem Sinne) eine „Final“, aber diese Final conflict sowohl eine Möglichkeit, sie voranzutreiben, als auch eine Investition in die nächste Era. Wir können auch das Potenzial hervorheben Langzeitschäden einen wohlverstandenen Denkprozess durch einen neuen, ungetesteten Arbeitsablauf zu ersetzen.

Obwohl hinter all diesen Argumenten Gewicht steckt, könnten oberflächlich betrachtet parallele Argumente für die Erfindung von Autos oder was auch immer ausgelegt werden. Es gibt immer eine Zeit und einen Ort für diese Debatten, aber mein Interesse Heute ist viel lokaler und persönlicher: Wie würde es sich anfühlen, wenn ICH Sollte ich meine Praktikanten für ein 200-Greenback-Abonnement im Stich lassen?

Additionally (nicht unähnlich diese Physik (Experiment, das ich kürzlich entdeckt habe) Ich habe versucht, den Monat eines Praktikanten mit ChatGPT in ein Wochenende zu quetschen.

Auch wenn das genaue Drawback nicht besonders wichtig ist, kann es hilfreich sein, den Rahmen des Praktikums festzulegen, um ein Gefühl dafür zu bekommen Typ was Praktikanten bei Bauplan machen (gerne überspringen!). Bauplan ist eine verzweigte Datenplattform: Agenten und Menschen können Git-ähnliche Zweige auf ihrer Plattform öffnen Tische. Infolgedessen kann dieselbe Tabelle in verschiedenen Zweigen unterschiedliche Versionen haben. In unserem motivierenden Beispiel Acme Inc. ist ein On-line-Händler, bei dem ein Schwarm von Datenagenten damit beauftragt ist, unterschiedliche Vorhersagen über die Verkäufe von morgen zu treffen:

Im Idealfall würde ein Mensch die Arbeit überprüfen, die Ergebnisse vergleichen und gegenüberstellen und sie dann zusammenführen Vorhersagen Tabelle als Die kanonische Datendarstellung. Was aber, wenn jemand eine Frage stellt, bevor das passiert?

Bestehende Systeme würden sich einfach weigern, eine Antwort zu geben, selbst wenn sich das intuitiv als Verschwendung anfühlt: Zwei Agenten, die den monatlichen Umsatz berechnen, sind sich möglicherweise nicht einig über die genaue Zahl, aber beide sind sich einig, dass der Umsatz im Vergleich zum Vorquartal um mehr als 10 % gestiegen ist. Mit anderen Worten: Auch wenn es keine systemweit vereinbarte Model der Daten gibt, können wir könnte noch viele interessante Fragen beantworten.

Unser Praktikumsziel ist es dann, einen Prototyp eines solchen Techniques zu bauen. Es erfordert das Erlernen von Verzweigungen, das Erlernen neuer Mathematik, das Entwerfen einer Lösung auf der Grundlage von Bauplan sowie die Erstellung eines Textual content-zu-SQL-Moduls (einfach) und eines benutzerdefinierten Abfragepfads (schwer).

Das KI-Setup

Bauplaner hatten kürzlich das Privileg, den einzigartigen Wes McKinney bei einer Dwell-Demo seines Setups zu sehen, additionally habe ich beschlossen, es zu übernehmen (mit einigen kleinen Änderungen):

• ChatGPT 5.2 zum Planen und Entscheiden von Strategien (z. B. wie man einen Benchmark entwirft, der den Unterschied zwischen technischen Ansätzen hervorhebt);
• Claude Code in Visible Studio, um die eigentliche Entwicklungsschleife durchzuführen;
• Roborev um Commits lokal kontradiktorisch zu überprüfen. Die von Codex unterstützten Bewertungen heben potenzielle Probleme hervor und schlagen Verbesserungen vor.
• Roborev überprüft etwa alle 10 Commits, um die Projektkomplexität zu bändigen: Diese Überprüfungen nehmen einen architektonischen Standpunkt ein und helfen dabei, die Aufblähung zu reduzieren.

Der wahre Schatz waren die Freunde, die wir unterwegs kennengelernt haben

Da ich den Gedanken nicht ertragen kann, dass KI für mich schreibt (weil ich ehrlich gesagt auch den Gedanken nicht ertragen kann, dass Praktikanten das für mich tun), habe ich den letzten Textual content geschrieben ich selbst. Da Praktika in der Regel damit enden, dass die Ergebnisse mit der Group geteilt werden, hatte ich am Ende genug Dinge für ein ACM SAO Papier, „Alles überall auf einmal abfragen“.

In gewisser Hinsicht hatte die X-Crowd Recht: Selbst wenn man eine Qualitätsinkongruenz zugab, habe ich die KI 48 Stunden lang betreut, um, sagen wir, 80 % dessen zu erledigen, was Wochen gedauert hätte. Interessanterweise ist Babysitten von anderer Natur: Die KI ist so begierig darauf, zufrieden zu sein, dass sie am Ende oft „schummelt“, um durch fest codierte Verknüpfungen oberflächliche Ergebnisse zu erzielen. Während viele Daten- und KI-Probleme oberflächlich betrachtet leicht zu überprüfen sind, lassen sie sich unserer Erfahrung nach auch leicht ausspielen: Dies gilt insbesondere dann, wenn die Interpretation des Versuchsaufbaus differenziert ist oder die endgültige Metrik nicht eindeutig ist: Sie sollten dreimal überprüfen, ob Ihre KI-Agenten bergauf klettern oder nur so tun.

Andererseits muss die KI nicht über Tarskis Modelle oder Wahrheitsschwemme aufgeklärt werden, da das Anhängen einiger Papiere ausreicht, um sofort loslegen zu können. Die Ergebnisse waren auch „greifbar“: Ich habe eine intestine aussehende Net-App, ohne D3.js erneut in die Hand nehmen zu müssen (10 Jahre nach meinem letzten Mal!), und ein Demo-Skript, das Agenten-Pipelines und Geschäftsfragen über Zweige simuliert. Wenn Sie das glauben (wie ich). Prototypen schlagen im Allgemeinen PowerPoint (oder Papiere) besteht kein Zweifel am gelieferten KI-Stack etwas.

Schwieriger in Worte zu fassen ist, was nicht geliefert wurde, oder genauer gesagt, was ICH dabei verloren. Bei aller Aufregung über das unglaubliche Diagramm und den überraschenden Benchmark hat nichts davon wirklich mehr hervorgebracht Verständnis. Ich bin nicht klüger geworden, weil ich den Forschungsvorgang durchlaufen habe: Ich habe etwas mehr Instinct als zuvor (z. B. wie ich besser zu guten SQL-Übersetzungen auffordern kann), aber meine mentalen Modelle haben weitgehend die gleiche Auflösung wie zu Beginn. Die Arbeit mit Praktikanten kann zeitaufwändig und manchmal sogar frustrierend sein, aber sie bringt bei ihnen immer bessere Gedanken hervor Und mich selbst: Indem sie sie erklären und betreuen, erklären und betreuen sie mich in gewisser Weise auch.

Wenn ich jetzt Ergebnisse bekomme, ohne viel zu lernen, fühle ich mich unwohl, vor allem weil nicht klar ist, ob das so ist sollte wichtig sein. Ich meine nicht, ob es auf globaler Ebene wichtig ist: Natürlich Wenn unsere Kinder nicht mehr lernen und unsere Wissenschaftler das Denken auf ein Gespräch verlagern, ist das schlecht. Ich bin jetzt nur noch bescheiden darauf konzentriert Das: Ist es für mich, für mein Unternehmen, für meine Investoren von Bedeutung?

Die lokale, persönliche Antwort ist weniger eindeutig – es sei denn, Sie haben ein sehr übertriebenes Selbstbewusstsein. Ich weiß, wie man programmiert, und ich könnte wahrscheinlich noch ein wenig mathematische Logik beibringen, daher geht dieses Projekt in gewisser Weise sowieso nicht auf neue Wege: Vielleicht ist es das auch nicht so viel zu lernen Hier (abgesehen von der Machbarkeit des Ganzen, die ich natürlich von Anfang an vermutet habe) und dem Unbehagen, das ich empfinde, ist das Erbe einer früheren Denkweise. OderVielleicht gibt es keine Aufgabe, die zu bescheiden ist, um eine etwas bessere Model von mir selbst zu werden: die Kleinarbeit zu erledigen, unsere APIs mit einem Diagramm zu verbinden, DataFusion 13 Mal nicht zu kompilieren, hin und her zu gehen, wie man Abfragen für einen überzeugenden Benchmark auswählt, bei dem kein anderes System unseren Abfragepfad ausdrücken – geschweige denn berechnen – kann. Ich fühle mich unwohl, weil reale Projekte für reale, nicht zu sehr egoistische Menschen eine sehr große Oberfläche von Problemen aufweisen, bei denen es sich offensichtlich weder um das Denken nach den ersten Prinzipien noch um offensichtliche Implementierungsdetails handelt.

Ich habe kein Drawback Heute (Morgen werden wir sehen…) mit der vereinfachenden Ansicht, dass Menschen denken sollten und LLMs die Matplotlib-Syntax korrigieren sollten. Aber ich habe mit der großen Grauzone zu kämpfen dazwischenund die innere Stimme flüstert das durch die Behandlung alles Als Implementierungsdetail werden meine Gedanken bald nicht mehr scharf sein. Werden wir wie diese VCs, die „Muster anpassen“ und alle Nuancen verlieren? Ist der Sinn eines Beweises, der einen Satz beweist (jedoch Außerirdisch aussehend, könnte der Beweis sein) oder uns einen Roman geben Verständnis?

Die Zukunft kann (ein bisschen) warten

Beobachten meine Entscheidungen (und nicht meine Gefühle) für den Sommer 2026 offenbaren tatsächlich die Konsequenzen dieses Experiments. Bauplan hat zwei (menschliche) Praktikanten eingestellt, zwei junge, talentierte, motivierte Informatiker, die dafür verantwortlich sind, die Grenzen unserer Produktkarte im Hinblick auf die Finish-to-Finish-KI-Optimierung (Fähigkeitsentwicklung mit GEPA) und die Skalierung von Git-for-Knowledge zu erkunden. Aus praktischer Sicht habe ich die gleiche Entscheidung getroffen wie vor diesem Projekt. Allerdings glaube ich nicht, dass ich unversehrt davongekommen bin: Meine Gefühle werden sich irgendwann in neuen Konzepten kristallisieren und dann meine Entscheidungen beeinflussen.

Einerseits als großer Fan des Kleiner PrinzMir ist nicht entgangen, dass es die mit dieser Rose verschwendete Zeit conflict, die es wichtig gemacht hat: Die Zeit, die ich diesen Sommer mit meinen Praktikanten verbringe, wird sie (glaube ich) und unser gemeinsames Projekt noch wichtiger machen. Andererseits trifft das meine heutige Stimmung nur teilweise zu. Ich musste im Internetarchiv stöbern, um etwas wiederherzustellen, an das ich mich kürzlich aus dem Jahr 2006 erinnerte (anscheinend ist die mathematische Logik nicht das Einzige, woran ich mich aus meinen Zwanzigern erinnere). Dies ist der Eintrag Nr. 1 in Blenders „50 Am schlimmsten Dinge, die mit Musik passieren können“:

#01. KINDER HEUTE

Damals hatten wir keine Ihrer schicken iPods, Klingeltöne und Downloads. Wir hatten nicht den Luxus und die Bequemlichkeit Ihrer Hodensackringe und Ihrer World Broad Net-Protokolle. Als wir das neue URIAH HEEP-Album stehlen wollten, konnten wir nicht einfach im Web danach suchen, sondern mussten es auf die altmodische Artwork und Weise tun – indem wir zum Laden gingen (bergauf, in beide Richtungen) und 12″ Vinyl unter unsere Pullover schoben (die wir selbst stricken mussten). Das ist der Grund, warum ihr heulenden Peitschenhiebe den wahren Wert der Musik nicht zu schätzen weißt. Oder Uriah Heep. Und jetzt verschwinde von unserem Rasen!

Werden wir den „wahren Wert der Dinge“ immer noch zu schätzen wissen, wenn wir sie jetzt bequem von unseren Laptops aus „stehlen“ können?

Wir sehen uns, Agenten-Cowboys

Vielen Dank an Luca, Colin und Ethan für ihre Kommentare zu einem früheren Entwurf dieses Artikels.

Wenn Sie ein Bauplan-Praktikant werden und coole Daten- und KI-Sachen machen möchten (wie Das oder Das oder Das), ich akzeptiere immer noch menschliche Kandidaten: Nehmen Sie Kontakt auf!

Bild vom Herausgeber

# Das/die Downside(e) des selbstgehosteten LLM

„Betreiben Sie Ihr eigenes großes Sprachmodell (LLM)“ ist das „Starten Sie einfach Ihr eigenes Unternehmen“ des Jahres 2026. Klingt wie ein Traum: keine API-Kosten, keine Daten verlassen Ihre Server, volle Kontrolle über das Modell. Dann tut man es tatsächlich und die Realität taucht ungebeten auf. Der GPU geht mitten in der Inferenz der Speicher aus. Das Modell halluziniert schlimmer als die gehostete Model. Latenz ist peinlich. Irgendwie haben Sie drei Wochenenden mit etwas verbracht, das grundlegende Fragen immer noch nicht zuverlässig beantworten kann.

In diesem Artikel geht es um Was passiert eigentlich, wenn man selbst gehostete LLMs ernst nimmt?: Nicht die Benchmarks, nicht der Hype, sondern die tatsächlichen betrieblichen Reibungspunkte, die in den meisten Tutorials vollständig übersprungen werden.

# Der {Hardware}-Realitätscheck

Die meisten Tutorials gehen beiläufig davon aus, dass Sie eine leistungsstarke GPU herumliegen haben. Die Wahrheit ist, dass für den komfortablen Betrieb eines 7B-Parametermodells mindestens 16 GB VRAM erforderlich sind, und sobald Sie sich dem 13B- oder 70B-Bereich nähern, sind Sie auf der Suche nach einem der beiden bei Multi-GPU-Setups oder erhebliche Kompromisse zwischen Qualität und Geschwindigkeit durch Quantisierung. Cloud-GPUs helfen, aber dann zahlen Sie auf Umwegen wieder professional Token.

Die Kluft zwischen „es läuft“ und „es läuft intestine“ ist größer als die meisten Menschen erwarten. Und wenn Sie auf etwas abzielen, das an die Produktion angrenzt, ist „es läuft“ ein schrecklicher Ort, an dem man aufhören sollte. Infrastrukturentscheidungen, die zu Beginn eines Self-Internet hosting-Projekts getroffen werden, können sich verschlimmern, und es ist schmerzhaft, sie später auszutauschen.

# Quantisierung: Schonung oder Kompromiss?

Die Quantisierung ist die häufigste Problemumgehung für {Hardware}-Einschränkungen, und es lohnt sich zu verstehen, womit Sie tatsächlich handeln. Wenn Sie ein Modell von FP16 auf INT4 reduzierenkomprimieren Sie die Gewichtsdarstellung erheblich. Das Modell wird schneller und kleiner, aber die Präzision seiner internen Berechnungen nimmt in einer Weise ab, die nicht immer sofort erkennbar ist.

Für allgemeine Chats oder Zusammenfassungen reicht oft eine geringere Quantisierung aus. Wo es zu schmerzen beginnt, sind Denkaufgaben, strukturierte Ausgabegenerierung und alles, was eine sorgfältige Befolgung von Anweisungen erfordert. Ein Modell, das die JSON-Ausgabe im FP16 zuverlässig verarbeitet, könnte im vierten Quartal damit beginnen, fehlerhafte Schemata zu produzieren.

Es gibt keine allgemeingültige Antwort, aber die Problemumgehung ist größtenteils empirisch: Testen Sie Ihren spezifischen Anwendungsfall über Quantisierungsstufen hinweg, bevor Sie sich verpflichten. Muster treten in der Regel schnell auf, wenn Sie in beiden Versionen genügend Eingabeaufforderungen durchlaufen.

# Kontextfenster und Erinnerung: Die unsichtbare Decke

Eine Sache, die die Leute überrascht, ist, wie schnell sich Kontextfenster insbesondere in echten Arbeitsabläufen füllen wenn Sie es während der Verwendung messen müssen Ollama. Ein 4K-Kontextfenster hört sich intestine an, bis Sie eine RAG-Pipeline (Retrieval-Augmented Era) erstellen und plötzlich eine Systemeingabeaufforderung, abgerufene Blöcke, einen Konversationsverlauf und die eigentliche Frage des Benutzers gleichzeitig einfügen. Dieses Fenster verschwindet schneller als erwartet.

Es gibt jedoch längere Kontextmodelle Das Ausführen eines 32K-Kontextfensters bei voller Aufmerksamkeit ist rechenintensiv. Die Speichernutzung skaliert bei normaler Aufmerksamkeit ungefähr quadratisch mit der Kontextlänge, was bedeutet, dass eine Verdoppelung Ihres Kontextfensters Ihren Speicherbedarf mehr als vervierfachen kann.

Die praktischen Lösungen umfassen eine aggressive Aufteilung, die Beschneidung des Gesprächsverlaufs und eine sehr selektive Auswahl dessen, was überhaupt in den Kontext einfließt. Das ist weniger elegant als unbegrenzter Speicher, erzwingt aber eine Artwork sofortige Disziplin, die ohnehin oft die Ausgabequalität verbessert.

# Latenz ist der Rückkopplungsschleifen-Killer

Selbstgehostete Modelle sind oft langsamer als ihre API-Gegenstücke, und das ist wichtiger, als man zunächst annimmt. Wenn die Schlussfolgerung für eine bescheidene Antwort 10 bis 15 Sekunden dauert, verlangsamt sich die Entwicklungsschleife merklich. Eingabeaufforderungen testen, Ausgabeformate iterieren, Ketten debuggen – alles wird mit Warten aufgefüllt.

Streaming-Antworten verbessern das Benutzererlebnis, verkürzen jedoch nicht die Gesamtzeit bis zur Fertigstellung. Bei Hintergrund- oder Batch-Aufgaben ist die Latenz weniger kritisch. Bei allem Interaktiven wird es zu einem echten Usability-Downside. Der ehrliche Workaround ist Investition: bessere {Hardware}, optimierte Serving-Frameworks wie vLLM oder Ollama mit der richtigen Konfiguration oder Batch-Anfragen, wenn der Workflow dies zulässt. Ein Teil davon sind einfach die Kosten für den Besitz des Stacks.

# Schnelle Verhaltensabweichungen zwischen den Modellen

Hier ist etwas, das quick jeden stutzig macht, der von gehostet auf selbst gehostet umsteigt: Eingabeaufforderungsvorlagen sind enorm wichtig und modellspezifisch. Eine Systemeingabeaufforderung, die perfekt mit einem gehosteten Frontier-Modell funktioniert, kann bei einer Mistral- oder LLaMA-Feinabstimmung zu einer inkohärenten Ausgabe führen. Die Modelle sind nicht kaputt; Sie sind in verschiedenen Formaten geschult und reagieren entsprechend.

Jede Modellfamilie hat ihre eigene erwartete Befehlsstruktur. LLaMA-Modelle trainierten mit dem Alpaka Format Erwarten Sie ein Muster, auf Chats abgestimmte Modelle erwarten ein anderes, und wenn Sie die falsche Vorlage verwenden, erleben Sie den verwirrten Versuch des Modells, auf fehlerhafte Eingaben zu reagieren, und nicht einen echten Funktionsausfall. Die meisten Serving-Frameworks erledigen dies automatisch, es lohnt sich jedoch, dies manuell zu überprüfen. Wenn sich die Ausgaben merkwürdig unpassend oder inkonsistent anfühlen, sollten Sie zunächst die Eingabeaufforderungsvorlage überprüfen.

# Die Feinabstimmung klingt einfach, bis sie es nicht mehr ist

Irgendwann, Die meisten Selbsthoster denken über eine Feinabstimmung nach. Das Basismodell bewältigt den allgemeinen Fall intestine, aber es gibt eine bestimmte Domäne, einen bestimmten Ton oder eine bestimmte Aufgabenstruktur, die wirklich von einem auf Ihren Daten trainierten Modell profitieren würde. Theoretisch macht es Sinn. Sie würden nicht dasselbe Modell verwenden für Finanzanalysen wie Sie es beim Codieren von three.js-Animationen tun würden, oder? Natürlich nicht.

Daher glaube ich, dass die Zukunft nicht darin bestehen wird, dass Google plötzlich ein Opus 4.6-ähnliches Modell herausbringt, das auf einer NVIDIA-Karte der 40er-Serie läuft. Stattdessen werden wir wahrscheinlich Modelle sehen, die für bestimmte Nischen, Aufgaben und Anwendungen entwickelt wurden – was zu weniger Parametern und einer besseren Ressourcenzuweisung führt.

In der Praxis ist die Feinabstimmung sogar mit LoRA oder QLoRA erfordert saubere und intestine formatierte Trainingsdatenaussagekräftige Berechnungen, sorgfältige Auswahl der Hyperparameter und ein zuverlässiger Auswertungsaufbau. Die meisten ersten Versuche führen zu einem Modell, das in Bezug auf Ihre Domäne eindeutig falsch ist, und zwar in einer Weise, in der das Basismodell nicht der Fall struggle.

Die Lektion, die die meisten Menschen auf die harte Tour lernen, ist, dass die Datenqualität wichtiger ist als die Datenquantität. Ein paar Hundert sorgfältig zusammengestellte Beispiele werden in der Regel Tausende von lauten Beispielen übertreffen. Es ist eine mühsame Arbeit, und es gibt keine Abkürzung.

# Letzte Gedanken

Ein LLM selbst zu hosten ist gleichzeitig praktikabler und schwieriger als angekündigt. Die Instruments sind wirklich intestine geworden: Ollama, vLLM und das breitere offene Modell-Ökosystem haben die Hürde deutlich gesenkt.

Aber die Hardwarekosten, die Kompromisse bei der Quantisierung, das schnelle Gerangel und die Feinabstimmungskurve sind alle actual. Wenn Sie einen reibungslosen Drop-in-Ersatz für eine gehostete API erwarten, werden Sie frustriert sein. Erwarten Sie, ein System zu besitzen, das Geduld und Iteration belohnt, und das Bild sieht viel besser aus. Die harten Lektionen sind dabei keine Fehler. Sie sind der Prozess.

Nahla Davies ist Softwareentwickler und technischer Autor. Bevor sie sich hauptberuflich dem technischen Schreiben widmete, schaffte sie es – neben anderen faszinierenden Dingen –, als leitende Programmiererin bei einer Inc. 5.000-Organisation für experimentelles Branding zu arbeiten, zu deren Kunden Samsung, Time Warner, Netflix und Sony gehören.

Arbeit als Ingenieur für maschinelles Lernen bei a Große Technologie Unternehmen.

Auf dem Papier hatte ich einen Traumjob:

• Flexibles Arbeiten
• Intelligente und freundliche Kollegen
• Tolle Vergünstigungen und Vorteile
• Gute Work-Life-Stability
• Kaum Treffen
• Und meine Vergütung betrug weit über 100.000 US-Greenback

Trotz alledem hatte ich immer das Gefühl, dass etwas fehlte.

Anfangs dachte ich, es wäre eine Part und ich müsste ihr mehr Zeit geben, aber das Gefühl schien im Laufe der Monate nie zu verschwinden.

Wenn überhaupt, wurde es stärker und ich begann, mich unmotiviert zu fühlen.

Ich liebe diesen Bereich so sehr; Ich blogge und filme buchstäblich seit über drei Jahren YouTube-Movies über Datenwissenschaft und maschinelles Lernen, aber im vergangenen Jahr hatte ich nicht mehr den gleichen Spaß daran.

Das hat mich wirklich genervt, da ich mich noch relativ am Anfang meiner Reise befinde und es noch so viel zu lernen gibt.

Ich wusste, dass sich etwas ändern musste.

Ich wollte die Leidenschaft und Aufregung wiedererlangen, die ich noch vor zwei Jahren hatte.

In diesem Artikel möchte ich daher erläutern, warum ich schließlich meinen Job als Ingenieur für maschinelles Lernen gekündigt habe, und eine various Sichtweise darauf bieten, wie diese „Traumjobs“ tatsächlich aussehen.

Selbstverständlich ist dies nur meine Meinung zu meiner kurzen Erfahrung in einem einzelnen Workforce und sollte nicht als Spiegelbild des Unternehmens oder seiner Mitarbeiter verstanden werden.

Tempo

Auch wenn Huge Tech offensichtlich Technologieunternehmen sind, heißt das nicht, dass sie beim Testen und Iterieren von Ideen so schnell vorankommen.

Wenn Unternehmen wachsen, stellen sie natürlich mehr Mitarbeiter ein und fügen ihrer Unternehmensstruktur weitere Ebenen hinzu. Anschließend schleicht sich langsam die Bürokratie ein.

Es gibt nicht viel, was Sie tun können, um es zu vermeiden.

Dies geschieht, wenn es dem Unternehmen normalerweise sehr intestine geht und es erhebliche Gewinne erzielt.

Wie das alte Sprichwort sagt:

Wenn es nicht kaputt ist, reparieren Sie es nicht

Daher ist es weniger wahrscheinlich, dass diese Unternehmen neue Ideen oder Strategien testen, um ihr Geschäftsergebnis zu schützen.

Sie sind sozusagen weniger bereit, größere und riskantere Schwankungen vorzunehmen.

Ich verstehe, es macht absolut Sinn.

Für Menschen wie mich passt diese Artwork von Kultur jedoch einfach nicht.

Ehrlich gesagt bin ich ein sehr kämpferischer, pragmatischer und handlungsorientierter Mensch.

Ich mache mir nicht die Mühe, jedes einzelne komplizierte Element zu testen oder zu viel Zeit mit völlig zufälligen Dingen zu verbringen „was ist, wenn“ Fragen und das Abtauchen in den Analyse-Lähmungs-Kaninchenbau.

Meiner Meinung nach besteht die beste Strategie darin, zu 80 % darauf zu vertrauen, dass Ihre Idee durch Offline-Exams, Worst-Case-Szenario-Modellierung usw. funktioniert, und sie dann in die Produktion zu schicken, um zu sehen, was passiert.

Manche Leute denken vielleicht, dass das leichtsinnig und irgendwie dumm ist.

Das ist in Ordnung, ich habe gelernt, dass man nie alle zufriedenstellen kann.

Für mich macht dieser Ansatz viel mehr Spaß und ist motivierender, da man seine Kreation regelmäßig in die Welt hinausgehen sieht.

Sicher, manchmal wird man völlig aussteigen, aber das ist der Sinn dieses Prozesses.

Es ist iterativ, und Sie lernen und bauen beim nächsten Mal ein besseres Produkt.

Leider passt diese Arbeitsweise meiner Erfahrung nach nicht zur Kultur großer Unternehmen oder zumindest nicht zu bestimmten Groups.

Um es deutlich zu sagen: Es passte nicht zu meiner Arbeitsweise und ich hatte Mühe, motiviert zu bleiben.

Mangel an Zweck

Es ist ein Klischee zu sagen, man sei nur ein kleines Rädchen in einer großen Maschine, aber genau so habe ich mich gefühlt.

Nach ein paar Monaten wurde mir klar, dass meine Arbeit nicht so wichtig struggle.

Sicher, es erzeugte Wirkung, aber im Großen und Ganzen struggle es nur ein Tropfen auf den heißen Stein.

Ob ich dort struggle oder nicht, das Unternehmen würde reibungslos laufen, Gewinne erwirtschaften und den Aktionären weiterhin Einnahmen bescheren.

Verstehen Sie mich nicht falsch, ich verstehe, dass es ein perfektes Beispiel für gutes Geschäft und die Artwork und Weise ist, wie ein Unternehmen geführt werden sollte.

Allerdings fühlte ich mich dadurch ein wenig wertlos und sinnlos. Alles, was ich tat, struggle im Grunde zwecklos, und das hat meine Motivation wirklich beeinträchtigt.

Das hat wahrscheinlich etwas mit meinem Ego zu tun, aber ich wollte das Gefühl haben, wirklich geschätzt zu werden und letztendlich die Verantwortung dafür zu haben, wohin das Unternehmen geht.

Wenn ich ein Unternehmen verlasse, möchte ich, dass sie es spüren.

Nützlich zu sein ist das, was mir Sinn verleiht, und das habe ich im letzten Jahr letztendlich nicht gespürt.

Interne Werkzeuge

Dies ist zwar etwas abwegig, aber viele dieser großen Unternehmen verfügen über zahlreiche interne Instruments, die sie im Laufe der Jahre entwickelt haben, um die Produktivität zu steigern.

Anstatt beispielsweise direkt mit AWS zusammenzuarbeiten, lässt das Unternehmen seine Infrastrukturingenieure Wrapper rund um AWS erstellen, um die Nutzung seiner Kerndienste zu vereinfachen und Rollenberechtigungen besser zu verwalten.

Google ist ein Unternehmen, das dafür bekannt ist, über viele interne Instruments zu verfügen, aber Viele Quellen geben an, dass sie sehr intestine sind.

Auch wenn das auf dem Papier großartig klingt, lernt man nicht, wie man Dinge wie AWS richtig nutzt, sodass man keine übertragbaren Fähigkeiten erwirbt, die man in anderen Rollen anwenden kann, wenn man sich entschließt, das Unternehmen zu verlassen.

Meiner Erfahrung nach gab es viele interne Instruments für grundlegende Fähigkeiten, die ich erlernen wollte:

1. Nutzung von Cloud-Systemen
2. Aufbau einer Modellbereitstellungsinfrastruktur
3. Automatisierungen auf Git/GitHub einrichten

Diese wurden einem einfach auf einem Teller serviert und ich musste nicht zweimal darüber nachdenken.

Klar, es verbessert die Produktivität, das gebe ich Ihnen zu.

Aber ich bin jemand, der ständig wirklich verstehen möchte, was unter der Haube vor sich geht, denn wenn etwas kaputt geht, möchte ich wissen, wie ich es reparieren kann.

Ich hatte nicht das Gefühl, daraus viel gelernt zu haben, und das ist auch nicht das, was ich an diesem Punkt meiner Karriere will.

Kleiner Umfang

Im gesamten Unternehmen gab es rund 100 Ingenieure für maschinelles Lernen und in der gesamten Daten-, maschinellen Lern- und Wissenschaftsorganisation etwa fünfmal so viele.

Angesichts dieser Mitarbeiterzahl waren viele Produkte und Algorithmen so ausgereift, dass es äußerst schwierig struggle, weitere Fortschritte zu erzielen oder eine wesentliche Wirkung zu erzielen.

Es ist nicht unbedingt eine schlechte Sache, und es ist eindeutig meine Aufgabe, Wege zur Verbesserung zu finden.

Dafür wurde ich bezahlt.

Wenn jedoch Hunderte von Personen über ein Jahrzehnt hinweg an demselben Algorithmus arbeiten oder gearbeitet haben, ist der Umfang der Verbesserungen, die Sie vornehmen können, sehr gering.

Die einzige wirkliche Various besteht darin, die Herangehensweise an das Downside neu zu definieren. Aber wie ich eingangs sagte, wird kein etabliertes, profitables Unternehmen ein Jahr damit verbringen wollen, ein ganzes System neu zu gestalten.

Es ist einfach nicht praktikabel und in den Augen der Führungsebene auch nicht lohnenswert.

Ein Großteil der Arbeit, die ich verrichtete, bestand aus mehr Wartung und der Aufrechterhaltung des Betriebs.

Es gab nicht viel Spielraum, um neue Funktionen oder Algorithmen zu implementieren, und mit der Zeit wurde die Arbeit langweilig und unmotivierend, wie ich eingangs erwähnte.

Was kommt als nächstes?

Der einfache Weg bestand für mich darin, zu bleiben, schließlich zum leitenden Ingenieur für maschinelles Lernen befördert zu werden und für das nächste Jahrzehnt einen bequemen, intestine bezahlten Job zu haben.

Aber wo ist da der Spaß?

Ich bin erst 26 Jahre alt und eines habe ich im letzten Jahr über mich selbst gelernt: Ich scheue keine Risiken und bin viel unternehmerischer als ich zunächst dachte.

Ich möchte große Dinge bauen, die sonst niemand hat, und der Welt meinen kleinen Stempel aufdrücken.

Viele Leute werden mit den Augen rollen oder sich über mich lustig machen, wenn ich das sage, was sie schon einmal direkt vor meinen Augen getan haben.

Aber das ist der Preis, den Sie zahlen, wenn Sie wahnhaft optimistisch sind und Dinge wollen, vor denen andere zu viel Angst haben, sie auszuprobieren oder gar zu sagen.

Deshalb habe ich beschlossen, eine volle 180-Grad-Kurve zu machen. Ich werde vom Huge Tech zum sechsten Mitarbeiter bei einem Startup.

Große Veränderung, mit großem Risiko. Aber wie heißt es so schön:

Nichts ändert sich, wenn sich nichts ändert.

Ich freue mich sehr auf dieses neue Abenteuer und kann es kaum erwarten, beim Bau eines Einhorns zu helfen.

Eine andere Sache!

Abonnieren Sie meinen kostenlosen E-newsletter, in dem ich wöchentlich Tipps, Einblicke und Ratschläge aus meiner Erfahrung als praktizierender Datenwissenschaftler und Ingenieur für maschinelles Lernen teile. Außerdem erhalten Sie als Abonnent meine KOSTENLOSE Lebenslaufvorlage!

Die Daten verteilen
Wöchentliche E-Mails, die Ihnen helfen, Ihren ersten Job im Bereich Datenwissenschaft oder maschinelles Lernen zu findenE-newsletter.egorhowell.com

Verbinde dich mit mir

) in maschineller Lernarbeit sind gleich.

Codieren, auf Ergebnisse warten, sie interpretieren, wieder zum Codieren zurückkehren. Außerdem einige Zwischenpräsentationen der eigenen Fortschritte vor dem Administration*. Dass die Dinge größtenteils gleich sind, bedeutet jedoch nicht, dass es nichts zu lernen gibt. Ganz im Gegenteil! Vor zwei bis drei Jahren begann ich, täglich die Lektionen aufzuschreiben, die ich aus meiner ML-Arbeit gelernt habe. Dennoch hinterlässt mir bis heute jeder Monat eine Handvoll kleiner Lektionen. Hier sind drei Lektionen aus dem letzten Monat.

Mit Menschen in Kontakt treten (kein ML beteiligt)

Wenn die Weihnachtsferienzeit näher rückt, beginnen die Versammlungen zum Jahresende. Oftmals bestehen diese Zusammenkünfte aus informellen Gesprächen. Es wird nicht viel „Arbeit“ erledigt – was natürlich ist, da es sich dabei häufig um After-Work-Occasions handelt. Normalerweise überspringe ich solche Veranstaltungen. Für die Weihnachtszeit habe ich das jedoch nicht getan. Ich habe in den letzten Wochen an einigen After-Work-Treffen teilgenommen und einfach nur geredet – nichts Dringendes, nichts Tiefgründiges. Das gesellige Beisammensein warfare intestine und ich hatte viel Spaß.

Es hat mich daran erinnert, dass unsere Arbeitsprojekte nicht nur auf Code und Pc basieren. Sie werden mit dem Treibstoff betrieben, über einen langen Zeitraum mit anderen zusammenzuarbeiten. Hier können kleine Momente – ein Witz, eine kurze Geschichte, eine gemeinsame Beschwerde über fehlerhafte GPUs – den Motor wieder aufleben lassen und die Zusammenarbeit reibungsloser gestalten, wenn es später einmal angespannt wird.

Denken Sie mal aus einer anderen Perspektive darüber nach: Ihre Kollegen müssen noch viele Jahre mit Ihnen zusammenleben. Und du mit ihnen. Wenn das ein „Lager“ wäre – nein, nein, nicht intestine. Aber wenn das ein „Gemeinsam“ ist – ja, auf jeden Fall intestine.

Wenn additionally die Einladungen zu einem Treffen Ihres Unternehmens oder Forschungsinstituts in Ihrem Postfach landen: Melden Sie sich an.

Copilot hat mich nicht unbedingt schneller gemacht

Im vergangenen Monat habe ich ein neues Projekt aufgesetzt und eine Liste von Algorithmen an ein neues Downside angepasst.

Eines Tages, als ich gedankenlos Zeit im Web verschwendete, stieß ich auf eine MIT-Studie**, die darauf hinwies, dass (starke) KI-Unterstützung – insbesondere vor Wenn Sie die Arbeit erledigen, kann dies die Erinnerung erheblich beeinträchtigen, das Engagement verringern und die Identifikation schwächen mit das Ergebnis. Zugegebenermaßen wurde in der Studie das Schreiben von Essays als Testziel verwendet, aber das Codieren eines Algorithmus ist eine ähnlich kreative Aufgabe.

Additionally habe ich etwas Einfaches versucht: Ich habe Copilot in VS Code vollständig deaktiviert.

Nach einigen Wochen waren meine (subjektiven und selbst eingeschätzten, additionally stark voreingenommenen) Ergebnisse: kein spürbarer Unterschied für meine Kernaufgaben.

Das Schreiben von Trainingsschleifen, die Lader, die Trainingsanatomie – ich kenne sie intestine. In diesen Fällen führten KI-Vorschläge nicht zu mehr Geschwindigkeit; manchmal fügten sie sogar Reibung hinzu. Denken Sie einfach darüber nach Korrektur der KI-Ausgaben, die vorhanden sind quick richtig.

Diese Erkenntnis steht ein wenig im Gegensatz zu dem, was ich vor ein oder zwei Monaten empfunden habe, als ich den Eindruck hatte, dass Copilot mich effizienter gemacht hat.

Als ich über die Unterschiede zwischen den beiden Momenten nachdachte, kam ich zu dem Schluss, dass es einen Effekt gibt domänenabhängig. Wenn ich mich in einem neuen Bereich befinde (z. B. Ladeplanung), hilft mir die Unterstützung dabei, schneller vor Ort zu sein. In meinen Heimatdomänen sind die Vorteile marginal – und können mit versteckten Nachteilen einhergehen, die man erst nach Jahren bemerkt.

Meine aktuelle Meinung zu den KI-Assistenten (die ich nur zum Codieren über Copilot verwendet habe): Sie sind intestine Rampe hoch auf unbekanntes Terrain. Bei Kernaufgaben, die den Großteil Ihres Gehalts ausmachen, ist dies bestenfalls elective.

Somit kann ich für die Zukunft weitere empfehlen

• Schreiben Sie den ersten Durchgang selbst; Verwenden Sie KI nur zum Polieren (Benennung, kleine Refaktoren, Exams).
• Überprüfen Sie ehrlich die erklärten Vorteile von KI: 5 Tage mit ausgeschalteter KI, 5 Tage mit eingeschalteter KI. Verfolgen Sie zwischen ihnen: erledigte Aufgaben, gefundene Fehler, Zeit bis zum Abschluss, wie intestine Sie sich erinnern können, und erklären Sie den Code einen Tag später.
• Per Fingertipp umschalten: Binden Sie einen Hotkey, um Vorschläge zu aktivieren/deaktivieren. Wenn Sie jede Minute danach greifen, verwenden Sie es wahrscheinlich zu häufig.

Sorgfältig kalibrierter Pragmatismus

Als ML-Leute können wir über Particulars nachdenken. Ein Beispiel ist, welche Lernrate für das Coaching verwendet werden soll. Oder verwenden Sie eine feste Lernrate, anstatt sie in festen Schritten abzubauen. Oder ob eine Cosinus-Annealing-Strategie verwendet werden soll.

Sie sehen, selbst für den einfachen LR-Fall kann man sich schnell viele Optionen einfallen lassen; was sollen wir wählen? Ich habe mich kürzlich bei einer Model davon im Kreis gedreht.

In diesen Momenten hat es mir geholfen, herauszuzoomen: Was bedeutet das Endbenutzer kümmert es dich? Meistens sind es Latenz, Genauigkeit, Stabilität und oft in erster Linie die Kosten. Es ist ihnen egal, welchen LR-Zeitplan Sie gewählt haben – es sei denn, er betrifft diese vier. Das deutet auf einen langweiligen, aber nützlichen Ansatz hin: Wählen Sie die einfachste praktikable Choice und bleiben Sie dabei.

Einige Standardeinstellungen decken die meisten Fälle ab. Baseline-Optimierer. Vanilla LR mit einem Meilenstein des Verfalls. Eine einfache Regel zum frühen Stoppen. Wenn die Kennzahlen schlecht sind, gehen Sie zu ausgefalleneren Entscheidungen über. Wenn sie intestine sind, machen Sie weiter. Aber werfen Sie nicht alles auf einmal auf das Downside.

---

* Es scheint, dass selbst bei Deepmind, dem wahrscheinlich erfolgreichsten reinen Forschungsinstitut (zumindest früher), Forscher müssen das Administration zufriedenstellen

** Die Studie ist verfügbar oder arXiv unter: https://arxiv.org/abs/2506.08872

Bild von Autor | Canva & Chatgpt

# Einführung

Github ist die Anlaufstelle für Anfänger geworden, die neue Programmiersprachen, Konzepte und Fähigkeiten lernen möchten. Angesichts des wachsenden Interesses an Agentic AI zeigt die Plattform zunehmend reale Projekte, die sich auf „Agenten -Workflows“ konzentrieren und sie zu einem idealen Umfeld machen, um zu lernen und zu bauen.

Eine bemerkenswerte Ressource ist Microsoft/Ai-Brokers-for-Beinnersmit einem 12-nicht-Lesson-Kurs, der die Grundlagen des Bauens von KI-Agenten abdeckt. Jede Lektion ist so konzipiert, dass sie für sich selbst stehen und es Ihnen ermöglicht, an jedem Punkt zu beginnen, der Ihren Bedürfnissen entspricht. Dieses Repository bietet auch mehrsprachige Unterstützung und gewährleistet die Lernenden eine breitere Zugänglichkeit. Jede Lektion in diesem Kurs enthält Codebeispiele, die in der gefunden werden können code_samples Ordner.

Darüber hinaus verwendet dieser Kurs Azure AI Foundry Und Github -Modellkataloge zum Interagieren mit Sprachmodellen. Es umfasst auch mehrere AI -Agenten -Frameworks und Dienste wie Azure AI Agent ServiceAnwesend Semantischer KernelUnd Autogen.

Um Ihren Entscheidungsprozess zu erleichtern und einen klaren Überblick darüber zu geben, was Sie lernen, werden wir jede Lektion im Element überprüfen. Dieser Leitfaden dient als hilfreiche Ressource für Anfänger, die sich in Bezug auf die Auswahl eines Ausgangspunkts möglicherweise ungewiss fühlen.

# 1. Intro zu AI -Agenten und Agenten -Anwendungsfällen

Diese Lektion führt KI-Agenten ein-Systeme, die von Großsprachenmodellen (LLMs) betrieben werden, die ihre Umgebung, den Vernunft für Werkzeuge und Kenntnisse und das Handeln erfassen-und die wichtigsten Agententypen (einfacher/modellbasierter Reflex-, Ziel-/Dienstprogramm-, Lern-, hierarchische und Multi-Agent-Systeme (MAS) durch Reisebücher-Beispiele untersucht.

Sie erfahren, wann Agenten auf offene, mehrstufige und verbesserbare Aufgaben sowie die grundlegenden Bausteine ​​von Agentenlösungen angewendet werden sollen: Definieren von Werkzeugen, Aktionen und Verhaltensweisen.

# 2. Erforschen von AI -Agenten -Frameworks

In dieser Lektion werden AI-Agenten-Frameworks mit vorgefertigten Komponenten und Abstraktionen untersucht, mit denen Sie Agenten schneller prototypen, iterieren und einsetzen können, indem Sie gemeinsame Herausforderungen standardisieren und die Skalierbarkeit und die Effizienz von Entwicklern steigern.

Sie vergleichen Microsoft Autogen, Semantic Kernel und den verwalteten Azure AI -Agentendienst und erfahren, wann Sie in Ihr vorhandenes Azure -Ökosystem integriert werden müssen, anstatt eigenständige Instruments zu verwenden.

# 3.. AI -Agenten -Designmuster verstehen

In dieser Lektion werden AI-Agenten-Design-Prinzipien eingeführt, einen menschlich-zentrierten Benutzererfahrungsansatz (UX) zum Aufbau kundenorientierter Agentenerlebnisse inmitten der inhärenten Unklarheit der generativen KI.

Sie werden erfahren, was die Prinzipien sind, praktische Richtlinien für die Anwendung und Beispiele für ihre Verwendung, wobei der Schwerpunkt auf Agenten liegt, die menschliche Fähigkeiten erweitern und skalieren, Wissenslücken füllen, die Zusammenarbeit erleichtern und Menschen helfen, durch unterstützende, zielgerichtete Interaktionen zu besseren Versionen von sich selbst zu werden.

# 4. Instrument verwenden Designmuster

Diese Lektion führt das Entwurfsmuster des Werkzeugnutzungsmusters ein, mit dem LLM-Antriebsmittel den Zugriff auf externe Instruments wie Funktionen und APIs kontrolliert haben, sodass sie Aktionen über das Generieren von Textual content übernehmen können.

Sie erfahren über wichtige Anwendungsfälle, einschließlich dynamischer Datenabnahme, Codeausführung, Workflow -Automatisierung, Integrationen von Kundenunterstützung und Erzeugung/Bearbeitung von Inhalten. Darüber hinaus werden die wesentlichen Bausteine ​​dieses Entwurfsmusters wie genau definierte Werkzeugschemata, Routing- und Auswahllogik, Ausführungssandboxing, Speicher und Beobachtungen sowie Fehlerbehebung (einschließlich Zeitüberschreitungs- und Wiederholungsmechanismen) behandelt.

# 5. Agentenlappen

Diese Lektion erklärt die Agenten-Abruf-Technology (RAG), einen multi-stufigen Abruf-und-renovierende Ansatz, der von großen Sprachmodellen (LLMs) angetrieben wird. In diesem Ansatz plant die Modellaktionen, wechseln zwischen Werkzeug-/Funktionsaufrufen und strukturierten Ausgaben, bewerten Ergebnisse, verfeinern Abfragen und wiederholt den Vorgang, bis sie eine zufriedenstellende Antwort erhalten. Es verwendet häufig eine Maker-Checker-Schleife, um die Korrektheit zu verbessern und sich von missgebildeten Fragen zu erholen.

Sie erfahren über die Situationen, in denen sich der Agentenlappen auszeichnet, insbesondere in korrekten Szenarien und erweiterten Werkzeug-integrierten Workflows wie API-Aufrufen. Darüber hinaus werden Sie feststellen, wie die Übernahme des Besitzes des Argumentationsprozesses und die Verwendung iterativer Schleifen die Zuverlässigkeit und die Ergebnisse verbessern kann.

# 6. Aufbau vertrauenswürdiger KI -Agenten

Diese Lektion lehrt Sie, wie Sie vertrauenswürdige KI -Agenten aufbauen, indem Sie ein robustes System -Nachrichten -Framework (Meta -Eingabeaufforderungen, grundlegende Eingabeaufforderungen und iterative Verfeinerungen), die Durchsetzung von Sicherheits- und Finest Practices und die Bereitstellung einer qualitativ hochwertigen Benutzererfahrung erstellen.

Sie lernen, Risiken zu identifizieren und zu mildern, wie z. B. schnelle/Zielinjektion, nicht autorisierte Systemzugriffszugriff, Serviceüberlastung, Data-Base-Vergiftung und Kaskadierfehler.

# 7. Planungsmuster Planungsdesign

Diese Lektion konzentriert sich auf die Planung von Designs für KI -Agenten. Beginnen Sie mit der Definition eines klaren Gesamtziels und Festlegung von Erfolgskriterien. Brechen Sie dann komplexe Aufgaben in geordnete und überschaubare Unteraufgaben auf.

Verwenden Sie strukturierte Ausgangsformate, um zuverlässige, maschinenlesbare Antworten zu gewährleisten, und implementieren Sie eine ereignisgesteuerte Orchestrierung, um dynamische Aufgaben und unerwartete Eingänge anzugehen. Rüsten Sie Agenten mit den entsprechenden Werkzeugen und Richtlinien für wann und wie sie verwendet werden.

Bewerten Sie kontinuierlich die Ergebnisse der Unteraufgaben, messen Sie die Leistung und iterieren Sie, um die endgültigen Ergebnisse zu verbessern.

# 8. Konstruktionsmuster mit mehreren Agenten

Diese Lektion erklärt das Design-Design-Muster mit mehreren Agenten, bei dem mehrere spezialisierte Agenten koordiniert werden, um an einem gemeinsamen Ziel zusammenzuarbeiten. Dieser Ansatz ist besonders effektiv für komplexe, Cross-Domänen oder parallelisierbare Aufgaben, die von der Aufteilung der Arbeit und koordinierten Handoffs profitieren.

In dieser Lektion erfahren Sie die Kernbausteine ​​dieses Entwurfsmusters: einen Orchestrator/Controller, rollendefinierte Agenten, gemeinsame Speicher-/Zustands-, Kommunikationsprotokolle und Routing-/Hand-Off-Strategien, einschließlich sequentieller, gleichzeitiger und Gruppen-Chat-Muster.

# 9. Metakognitionsdesignmuster

Diese Lektion führt die Metakognition vor, die für KI -Agenten als „Denken über das Denken“ verstanden werden kann. Metakognition ermöglicht es diesen Agenten, ihre eigenen Argumentationsprozesse zu überwachen, ihre Entscheidungen zu erklären und sich anhand von Rückmeldungen und früheren Erfahrungen anzupassen.

Sie lernen Planungs- und Bewertungstechniken wie Reflexions-, Kritik- und Maker-Checker-Muster. Diese Methoden fördern die Selbstkorrektur, helfen, Fehler zu identifizieren und endlose Argumentationsschleifen zu verhindern. Darüber hinaus werden diese Techniken die Transparenz verbessern, die Qualität des Denkens verbessern und eine bessere Anpassung und Wahrnehmung unterstützen.

# 10. AI -Agenten in der Produktion

Diese Lektion zeigt, wie „Black Field“ -Agenteile in „Glass Field“ -Systeme verwandelt werden können, indem robuste Beobachtbarkeits- und Bewertungstechniken implementiert werden. Sie werden Läufe als Spuren (die Finish-to-Finish-Aufgaben darstellen) und Spannweiten (Petitionen für bestimmte Schritte mit Sprachmodellen oder Instruments) unter Verwendung von Plattformen wie Plattformen wie Plattformen wie Langfuse und Azure AI Foundry. Mit diesem Ansatz können Sie Debugging- und Root-Trigger-Analyse durchführen, Latenz und Kosten verwalten und Audits für Vertrauen, Sicherheit und Compliance durchführen.

Sie lernen, welche Aspekte zu bewerten sind, wie z. B. Ausgangsqualität, Sicherheit, Erfolgs Erfolg, Latenz und Kosten, und wenden Strategien zur Verbesserung der Leistung und Effektivität an.

# 11. Verwenden von Agentenprotokollen

Diese Lektion führt Agentenprotokolle ein, die die Artwork und Weise standardisieren, wie sich KI -Agenten verbinden und zusammenarbeiten. Wir werden drei wichtige Protokolle untersuchen:

Modellkontextprotokoll (MCP)das einen konsistenten, Shopper-Server-Zugriff auf Instruments, Ressourcen und Eingabeaufforderungen bietet und als „Universaladapter“ für Kontext und Funktionen fungiert.

Agent-zu-Agent-Protokoll (A2A)die sichere sichere, interoperable Kommunikations- und Aufgabendelegation zwischen Agenten gewährleistet und die MCP ergänzt.

Net -Protokoll für natürliche Sprache (NLWeb)was natürliche Schnittstellen für Web sites ermöglicht, sodass Agenten Webinhalte entdecken und mit ihnen interagieren können.

In dieser Lektion lernen Sie den Zweck und die Vorteile jedes Protokolls, wie sie große Sprachmodelle (LLMs) ermöglichen, mit Werkzeugen und anderen Agenten zu kommunizieren und wo sich jedes in größere Architekturen einfügt.

# 12. Kontext -Engineering für KI -Agenten

Diese Lektion führt die Kontext -Engineering ein, die die disziplinierte Praxis der Bereitstellung von Agenten mit den richtigen Informationen, im richtigen Format und zum richtigen Zeitpunkt darstellt. Dieser Ansatz ermöglicht es ihnen, ihre nächsten Schritte effektiv zu planen und über das einmalige Schreiben hinauszugehen.

Sie werden erfahren, wie sich Kontextetechnik von der schnellen Engineering unterscheidet, da es sich um eine fortlaufende, dynamische Kuration und nicht um statische Anweisungen handelt. Darüber hinaus werden Sie verstehen, warum Strategien wie das Schreiben, Auswahl, Komprimieren und Isolieren von Informationen für die Zuverlässigkeit von wesentlicher Bedeutung sind, insbesondere angesichts der Einschränkungen von eingeschränkten Kontextfenstern.

# Letzte Gedanken

Das Github -Kurs Bietet alles, was Sie brauchen, um KI -Agenten zu bauen. Es enthält umfassende Lektionen, kurze Movies und Runnable Python -Code. Sie können Themen in jeder Reihenfolge untersuchen und Proben mit GitHub -Modellen (kostenlos verfügbar) oder Azure AI -Gießerei ausführen.

Darüber hinaus haben Sie die Möglichkeit, mit Microsoft Azure AI Agent Service, Semantic Kernel und Autogen zusammenzuarbeiten. Dieser Kurs ist Group-getrieben und Open Supply; Beiträge sind willkommen, Probleme werden gefördert und es ist für Sie lizenziert, dass Sie eine Gabelung und Ausweitung haben.

Abid Ali Awan (@1abidaliawan) ist ein zertifizierter Datenwissenschaftler, der es liebt, maschinelles Lernenmodelle zu bauen. Derzeit konzentriert er sich auf die Erstellung von Inhalten und das Schreiben von technischen Blogs über maschinelles Lernen und Datenwissenschaftstechnologien. Abid hat einen Grasp -Abschluss in Technologiemanagement und einen Bachelor -Abschluss in Telekommunikationstechnik. Seine Imaginative and prescient ist es, ein KI -Produkt zu bauen, das ein Diagramm neuronales Netzwerk für Schüler mit psychische Erkrankungen mit kämpfender Krankheiten unterhält.

Im maschinellen Lernen sind gleich.

Codierung, Warten auf Ergebnisse, Interpretation, Rückkehr zur Codierung. Außerdem einige Zwischenpräsentationen des eigenen Fortschritts. Aber die Dinge, die meistens gleich sind, bedeutet nicht, dass es nichts zu lernen gibt. Ganz im Gegenteil! Vor zwei bis drei Jahren begann ich die tägliche Gewohnheit, Lektionen aufzuschreiben, die ich aus meiner ML -Arbeit gelernt habe. Beim Rückblick einige der Lektionen aus diesem Monat fand ich drei praktische Lektionen, die auffallen:

1. Protokollieren Sie weiter einfach
2. Verwenden Sie ein experimentelles Notizbuch
3. Über Nacht rennen im Auge

Protokollieren Sie weiter einfach

Jahrelang habe ich Gewichte und Vorurteile (W & B) als mein Experiment-Logger verwendet. Tatsächlich conflict ich einmal unter den High 5% aller aktiven Benutzer. Die Statistiken in der folgenden Abbildung zeigen mir, dass ich zu diesem Zeitpunkt quick 25000 Modelle trainiert habe, kumulative 5000 Stunden Berechnung verwendet und mehr als 500 Hyperparameter -Suchvorgänge durchgeführt habe. Ich habe es für Papiere, für große Projekte wie Wettervorhersage mit großen Datensätzen und für die Verfolgung unzähliger kleiner Experimente verwendet.

Und W & B ist wirklich ein tolles Werkzeug: Wenn Sie schöne Dashboards wünschen und mit einem Workforce zusammenarbeiten, sind W & B SHINES. Und bis vor kurzem, als ich Daten aus geschulten neuronalen Netzwerken rekonstruierte, leitete ich mehrere Hyperparameter -Sweeps und die Visualisierungsfunktionen von W & B waren von unschätzbarem Wert. Ich könnte Rekonstruktionen direkt über Läufe vergleichen.

Aber ich erkannte, dass W & B für die meisten meiner Forschungsprojekte übertrieben conflict. Ich habe selten individuelle Läufe überprüft, und sobald ein Projekt abgeschlossen conflict, saßen die Protokolle nur da, und ich machte nichts mit ihnen. Als ich das genannte Datenrekonstruktionsprojekt dann neu gestaltete, habe ich die W & B -Integration explizit entfernt. Nicht, weil etwas daran nicht stimmte, sondern weil es nicht notwendig conflict.

Jetzt ist mein Setup viel einfacher. Ich habe gerade ausgewählte Metriken bei CSV- und Textdateien protokolliert und direkt auf die Festplatte geschrieben. Bei Hyperparameter -Suchanfragen verlasse ich mich auf Optuna. Nicht einmal die verteilte Model mit einem zentralen Server – nur lokaler Optuna, speichern Sie Studienzustände in einer Gurkendatei. Wenn etwas abstürzt, lade ich neu und gehe fort. Pragmatisch und ausreichend (für meine Anwendungsfälle).

Der wichtigste Einblick hier ist Folgendes: Protokollierung ist nicht die Arbeit. Es ist ein Unterstützungssystem. Verbringen Sie 99% Ihrer Zeit damit, sich für das zu entscheiden, was Sie protokollieren möchten – Gradienten? Gewichte? Verteilungen? Und mit welcher Frequenz? – kann Sie leicht von der tatsächlichen Forschung ablenken. Für mich sind einfache, lokale Protokollierungsabdeckungen alle Bedürfnisse mit minimaler Einrichtungsanstrengung.

Führen Sie experimentelle Labornotizenbücher

Im Dezember 1939 schrieb William Shockley eine Idee in sein Labor -Notizbuch: Ersetzen Sie Vakuumrohre durch Halbleiter. Ungefähr 20 Jahre später erhielten Shockley und zwei Kollegen in Bell Labs Nobelpreise für die Erfindung des modernen Transistors.

Während die meisten von uns keine nobelwürdigen Einträge in unsere Notizbücher schreiben, können wir trotzdem aus dem Prinzip lernen. Zugegeben, im maschinellen Lernen verfügen unsere Laboraten weder Chemikalien noch Testrohre, wie wir uns alle vorstellen, wenn wir an ein Labor denken. Stattdessen sind unsere Labore oft unsere Laptop; Das gleiche Gerät, mit dem ich diese Zeilen schreibe, hat im Laufe der Jahre unzählige Modelle geschult. Und diese Labors sind von Natur aus portabel, insbesondere wenn wir uns aus der Ferne auf Hochleistungs-Berechnen-Clustern entwickeln. Noch besser ist diese Cluster dank von hochqualifiziertem administrativen Zeug rund um die Uhr-also ist immer Zeit, ein Experiment durchzuführen!

Aber die Frage ist, welches Experiment? Hier stellte mich ein ehemaliger Kollege die Idee vor, ein Labornotiok aufzuspalten, und in letzter Zeit bin ich in einfachster Type zurückgekehrt. Bevor ich langjährige Experimente beginne, schreibe ich auf:

Was ich teste und warum ich es teste.

Dann, wenn ich später – normalerweise am nächsten Morgen – zurückkomme, kann ich sofort sehen, welche Ergebnisse bereit sind und was ich gehofft hatte zu lernen. Es ist einfach, aber es verändert den Workflow. Anstatt nur „erneut zu übertragen“, bis es funktioniert, werden diese speziellen Experimente Teil einer dokumentierten Rückkopplungsschleife. Fehler sind leichter zu interpretieren. Erfolge sind leichter zu replizieren.

Führen Sie Experimente über Nacht durch

Das ist ein kleiner, aber schmerzhafter Unterricht, den ich diesen Monat (wieder) gelernt habe.

An einem Freitagabend entdeckte ich einen Fehler, der meine Experimentergebnisse beeinflussen könnte. Ich habe es gepatcht und die Experimente zur Validierung wieder aufgenommen. Am Samstagmorgen waren die Läufe beendet – aber als ich die Ergebnisse inspizierte, wurde mir klar, dass ich vergessen hatte, eine wichtige Ablation aufzunehmen. Was bedeutete … ein weiterer ganzen Tag des Wartens.

In ML ist über Nacht Zeit kostbar. Für uns Programmierer ist es Ruhe. Für unsere Experimente ist es Arbeit. Wenn wir während des Schlafenes kein Experiment laufen, verschwenden wir freie Rechenzyklen effektiv.

Das bedeutet nicht, dass Sie Experimente nur aus Gründen des Himmels durchführen sollten. Aber wann immer es einen sinnvollen Begin gibt, ist es die perfekte Zeit, sie abends zu starten. Cluster werden oft untergeblieben und Ressourcen sind schneller verfügbar, und vor allem werden Sie Ergebnisse zum Analysieren am nächsten Morgen haben.

Ein einfacher Trick ist, dies absichtlich zu planen. Wie Cal Newport in seinem Buch „Deep Work“ erwähnt, beginnen gute Arbeitstage in der Nacht zuvor. Wenn Sie heute die Aufgaben von morgen kennen, können Sie die richtigen Experimente rechtzeitig einrichten.

---

* Das ist W & B nicht verprügelt (es wäre genauso gewesen mit, z. B. MLFlow), sondern die Benutzer aufzufordern, zu bewerten, was ihre Projektziele sind, und dann die meiste Zeit damit verbringen, diese Ziele mit äußerster Fokus zu verfolgen.

** Fußnote: Nur Zusammenarbeit reicht in meinen Augen nicht aus, um mit solchen gemeinsamen Dashboards zu rechtfertigen. Sie müssen mehr Einblicke aus solchen gemeinsamen Instruments erhalten als die Zeit, die sie aufgebraucht haben.

https://www.youtube.com/watch?v=0JMPH-o2iH4

Das Einbrechen in eine Karriere in der Daten kann eine Herausforderung sein, insbesondere für diejenigen, die sich nicht sicher sind, wo sie anfangen sollen oder wie sie sich in einem wettbewerbsfähigen Arbeitsmarkt abheben können. Deshalb haben wir uns mit Kishawna Peck zusammengesetzt, CEO von Womxn in Information Scienceder Erkenntnisse, die aus über einem Jahrzehnt führender Datenteams gewonnen, Programme erstellt und Tausende von Lernenden auf ihren Datenreisen unterstützt wurden.

Ein nicht-traditioneller Weg in Daten

Kishawnas Reise in die Daten struggle nicht einfach. Sie studierte zunächst die Soziologie, bevor sie in die Wirtschaft wechselte, obwohl sie den mathematischen Hintergrund fehlte, den viele ihrer Kollegen hatten. Sie unterrichtete sich Berechnung und Statistiken, konfrontierte akademische Rückschläge und das Lernen durch Versuch und Irrtum und beharrte durch Neugier und Entschlossenheit.

Während ihrer gesamten Karriere wurde sie oft die erste Daten in verschiedenen Organisationen, was bedeutete, Groups und Prozesse von Grund auf zu etablieren. Diese Erfahrungen lehrten sie, wie sie mit minimaler Dateninfrastruktur umgebunden werden und den Wert von Daten in Räumen demonstrieren, in denen sie nicht ausreichend waren. Später gründete sie Kanadas erste Frauen in der Information Science Convention. Aufbau einer Gemeinschaft von über 4.000 Mitgliedern. Heute ist sie für ihre Beiträge zur KI und für die Datenkompetenz anerkannt – Akkompeten, die nie Teil eines vorgegebenen Plans waren, sondern aus der Nutzung von Möglichkeiten und dem kontinuierlichen Lernen entstanden sind.

Kishawna betont, dass der Ausgangspunkt der eigenen ihre Zukunft im Bereich Daten nicht diktiert.

Wesentliche Fähigkeiten für eine Datenkarriere

Um eine starke Grundlage für Daten aufzubauen, hebt Kishawna die folgenden Kernkompetenzen hervor:

• Technische Kenntnisse: Lerne SQL mit Datenbanken arbeiten, Python oder R zur Analyseund Instruments, um Daten klar zu visualisieren.
• Effektive Kommunikation: Die Fähigkeit, Datenerblicke in das nicht-technische Zielgruppen zu erklären, ist genauso wichtig wie die Durchführung der Analyse selbst.
• Problemlösung: Analytisches Denken und Liebe zum Element helfen dabei, Rohdaten in umsetzbare Erkenntnisse umzuwandeln.
• Neugier und Anpassungsfähigkeit: Die Datenindustrie entwickelt sich rasant und macht es wichtig, sich mit neuen Entwicklungen zu beschäftigen und kontinuierlich zu lernen.

Überbrückung der Lücke: vom Anfänger bis zu Jobbereitschaft

Kishawna beschreibt einen strukturierten Ansatz zum Übergang in eine Datenkarriere:

1. Karriereziele identifizieren: Verständnis verschiedener Datenrollen – zum Beispiel als DatenanalystDatenwissenschaftler und Dateningenieur– Individuen richten ihr Lernen mit den Erwartungen der Branche aus. Verschiedene Felder können bestimmte Werkzeuge bevorzugen. Zum Beispiel verwendet das Gesundheitswesen häufig R, während Technologieunternehmen häufig auf Python verlassen.
2. Aktuelle Fähigkeiten bewerten: Der Vergleich der persönlichen Erfahrung mit Jobbeschreibungen hilft bei der Identifizierung von Talent -Lücken. Instruments wie Begriff oder KI-basierte Plattformen können einen Lernplan strukturieren.
3. Einen Lernplan erstellen: Ein strukturierter Ansatz sollte sich auf technische Fähigkeiten sowie auf Mushy Abilities wie Kommunikation und kritisches Denken konzentrieren. Praktische Lernplattformen wie DataQuest bieten Möglichkeiten, Wissen durch reale Projekte anzuwenden.

Ein starkes Portfolio aufbauen

Ein intestine ausgearbeitetes Portfolio ist für das Präsentieren von Fachkenntnissen von wesentlicher Bedeutung. Kishawna rät den Lernenden, Themen zu erforschen, die mit ihnen in Anspruch nehmen, wie z. Ein starkes Portfolio sollte eine überzeugende Geschichte erzählen, indem sie das Downside, die Methodik und Erkenntnisse beschreiben. Das Ziel ist zu zeigen, dass Sie können ein Projekt durcharbeiten von Anfang bis Ende.

Wo kann man Ihre Arbeit teilen
Hostet dein Portfolio auf GitHubeine persönliche Web site oder Tableau Public. Stellen Sie sicher, dass es organisiert, klar und leicht zu navigieren ist. Präsentationsangelegenheiten – Sie möchten, dass die Leute Ihre Arbeit verstehen, ohne einen technischen Hintergrund zu benötigen.

Strategien für Netzwerk- und Arbeitssuche

Kishawna unterstreicht die Bedeutung der Networking, die über die einfache Suche nach Beschäftigungsmöglichkeiten hinausgeht. Die Beschäftigung mit Branchenfachleuten, Besuchen von Veranstaltungen und dem Beitritt zu On-line -Communities bietet wertvolle Lernerfahrungen. Insbesondere mittelgroße Unternehmen bieten hervorragende praktische Möglichkeiten für Fachleute für Frühkarriere.

Bei der Vorbereitung auf Interviews sollten die Kandidaten bereit sein, ihren Ansatz zur Problemlösung zu artikulieren, Projektherausforderungen zu diskutieren und die von ihnen abgeleiteten Erkenntnisse zu erklären. Arbeitgeber schätzen kritisches Denken genauso wie technische Ausführung.

Bedenken auf gemeinsame Bedenken

Viele anstrengend Datenfachleute machen sich Sorgen um ihre mathematischen Kenntnisse. Während fortgeschrittene mathematische Fähigkeiten nicht immer erforderlich sind, grundlegende statistische Konzepte verstehen– wie Mittelwert, Median und Ausreißer – sind entscheidend für die effektive Interpretation von Daten.

Bedenken hinsichtlich des Ersetzens von KI -Ersetzen von Datenrollen sind ebenfalls häufig. Kishawna versichert den Lernenden, dass die Automatisierung, während sie sich wiederholende Aufgaben erwerben kann, das menschliche Urteilsvermögen, das für strategische Entscheidungsfindung und ethische Dateninterpretation erforderlich ist, nicht ersetzen kann.

Umsetzbare Schritte zum Einstieg

Für diejenigen, die das Feld betreten möchten, bietet Kishawna eine Roadmap:

1. Setzen Sie klare Ziele: Definieren Sie die gewünschte Rolle und Industrie.
2. Fähigkeiten bewerten: Identifizieren Sie Stärken und Lücken.
3. Fangen Sie an zu lernen: Erstellen Sie technische und analytische Fähigkeiten durch strukturierte Ressourcen.
4. Erstellen Sie ein Portfolio: Arbeit an Projekten, die die reale Problemlösung demonstrieren.
5. Netzwerk mit Zweck: Beschäftige dich mit Gemeinschaften und baue sinnvolle berufliche Verbindungen auf.

Letzte Gedanken

Kishawnas Reise zeigt, dass der Erfolg in der Datenwissenschaft keinen linearen Weg erfordert. Persistenz, Neugier und Anpassungsfähigkeit sind weitaus wichtiger als alle Antworten von Anfang an. Sie ermutigt aufstrebende Datenfachleute, sich auf das Wachstum zu konzentrieren, geduldig mit sich selbst zu sein und einen Schritt nach dem anderen zu tun.

Wenn Sie bereit sind, loszulegen, entdecken Sie Die Lernpfade von DataQuest und laden Sie die herunter Winterbogen Arbeitsbuch Um Ihnen dabei zu helfen, Ihre Fähigkeiten zu bewerten und klare, umsetzbare Ziele für Ihre Karrierereise zu setzen.