Meine ersten Schritte in der mathematischen Modellierung habe ich vor etwa 9 Jahren gemacht, als ich noch Scholar battle. Nach meinem Bachelor-Abschluss in Mathematik, der sehr theorielastig battle, wählte ich für mein Grasp-Studium einige Kurse, die sich mit der mathematischen Modellierung und Optimierung wirtschaftlicher Probleme befassten. Mein Lieblingsthema damals waren Zeitreihen. Es battle relativ entspannt, einen Überblick über verschiedene Modellierungsansätze zu bekommen. Bewährte Methoden waren seit über einem Jahrzehnt im Einsatz und hatten sich nicht schnell verändert.
Ähnliche Voraussetzungen gab es bis vor wenigen Jahren beim Einstieg in die Welt der Knowledge Science. Die grundlegenden Techniken und Modelle waren relativ schnell zu erlernen. In der Umsetzung wurde vieles gelöst von Grund auf neueigene Netzwerke wurden programmiert und bearbeitet. Neue Instruments & Technologien wurden begrüßt und ausprobiert.
Heute ist das Gefühl anders. Wirft man nun einen Blick auf die X- oder LinkedIn-Feeds, erhält man beinahe wöchentlich Neuigkeiten über wichtige Instruments und Entwicklungen.
Seit dem Hype um LLMs mit der Veröffentlichung von ChatGPT im November 2022 ist es extrem geworden. Das Rennen zwischen Open Supply und Closed Supply ist eröffnet. Google zog mit Gemini nach, Meta veröffentlichte LLama und die Stanford College stellte Alpaca vor. Anwendungen werden mit Instruments wie Langchain operationalisiert und es entstehen eine ganze Reihe von Instruments zur Standardisierung von Anwendungen. Tuning-Mechanismen werden kontinuierlich verbessert. Und dann battle da noch die Veröffentlichung von xgboost 2.
Das Rad scheint sich mit immer höherer Geschwindigkeit zu drehen. In den letzten Jahren ist dies vor allem auf methodische Durchbrüche in der GenAI und die ständig wachsende Toolbox im MLOps-Bereich zurückzuführen.
Und es ist wichtig zu verfolgen: Was passiert auf dem Markt? Gerade wenn man in dieser Branche als Berater arbeitet. Unsere Kunden wollen wissen: Was ist das heiße, neue Zeug? Wie können wir es gewinnbringend einsetzen?
Heute heißt es, am Ball zu bleiben! Wer das nicht schafft, verliert schnell den Anschluss.
Ist das der Fall?
Als ich das letzte Mal an einer großen Konferenz teilnahm, lag ich zwei Nächte wach und konnte kaum schlafen. Das lag nicht nur an der Nervosität vor einem Vortrag, sondern auch an der Unmenge an Informationen, die in so kurzer Zeit auf mich einprasseln.
Konferenzen sind fantastisch. Ich lerne gerne neue Leute kennen, lerne verschiedene Ansätze kennen und tausche Ideen und Probleme aus, die für mich vielleicht völlig neu sind. Trotzdem konnte ich in diesen Nächten nicht schlafen. Die Ich muss das später genauer prüfen-Liste scheint unmöglich zu bewältigen. FOMO (Angst, etwas zu verpassen) setzt ein. Gedanken kommen auf wie „ist es nicht schon zu spät, auf den GenAI-Zug aufzuspringen?„Dass auch ich Teil des Bias battle, übersah ich in diesem Second. In meinem Vortrag ging es um einen Use Case, den wir bei einem Kunden umgesetzt haben. Zwei Jahre Arbeit komprimiert in dreißig Minuten. Hat das Publikum wie beabsichtigt wertvolle Impulse und Denkanstöße mitgenommen? Oder hat der Beitrag auch subtil FOMO ausgelöst?
Ein weiteres Phänomen, das immer wieder auftritt, ist das Imposter-Syndrom (1). Es beschreibt das Aufkommen starker Zweifel an den eigenen Fähigkeiten, gepaart mit der Angst, als „Betrüger“ entlarvt zu werden. Menschen, die am Imposter-Syndrom leiden, haben oft das Gefühl, für die Positionen oder Aufgaben, die sie innehaben, nicht fähig oder qualifiziert zu sein. Dies kann auch durch Vergleiche mit anderen entstehen und zu einer momentanen Selbstwahrnehmung führen: „Ich kann eigentlich nichts Gutes tun.”
Aus ehrlichen Gesprächen mit Menschen aus meinem Arbeitsumfeld weiß ich, dass dieses Gefühl bei vielen immer mal wieder auftritt. Ich habe mit Menschen gesprochen, denen ich ein sehr hohes Maß an Erfahrung und Fachwissen zuschreiben würde. Quick alle kannten dieses Gefühl.
Die Variabilität der Technologien und der rasante Fortschritt im Bereich der KI können hierfür zusätzliche Auslöser sein.
Was ist das Kernelement von Knowledge Science? Es geht um ein funktionierendes System, das Mehrwert schafft. Wenn man kein Forscher, sondern Knowledge Scientist in der Wirtschaft ist, steht die Anwendung im Vordergrund. Ein Modell oder eine Heuristik lernt eine Logik, die ein Mensch nicht in dieser Detailliertheit lernen und/oder in diesem Umfang anwenden kann. Es muss keine durchgängige, vollautomatisierte Lösung sein.
Man sollte mit der Entwicklung eines Programs beginnen, das Werke und ist akzeptiert von den Beteiligten. Sobald Vertrauen in das System hergestellt ist, kann man prüfen, was noch verbessert werden kann.
Liegt es an der Methodik? Vielleicht ist ein Algorithmus im Einsatz, der durch eine Deep-Studying-Architektur ersetzt werden könnte, die mehr Korrelationen in den Variablen darstellen kann.
Liegt es an der Laufzeit? Kann die Laufzeit durch andere Frameworks oder mit Hilfe von Parallelisierung reduziert werden? Dann ist der Weg frei, sich mit diesem Thema zu beschäftigen.
Vielleicht liegt es auch an der systematischen Erfassung und Verwaltung der Datenqualität. Datenvalidierungstools können dabei helfen, Datenungleichgewichte frühzeitig zu erkennen, Abweichungen zu identifizieren und die Ausgabe eines ML-Programs zu überwachen.
Dabei gilt es, sich behutsam und schrittweise an neue Techniken heranzutasten und ein bestehendes System kontinuierlich zu verbessern.
Ehrlich gesagt braucht es Zeit, um neue Methoden und Technologien zu erlernen. Für einen schnellen Überblick gibt es viele Möglichkeiten: tl;dr-Zusammenfassungen, Übersichts-Repositorien, YouTube-Kanäle usw. Allerdings vergesse ich die Themen auch schnell wieder, wenn ich ihnen nicht mehr Zeit widme. Um mich additionally in ein bestimmtes Thema oder eine bestimmte Technologie einzuarbeiten, bleibt mir nichts anderes übrig, als mir ab und zu einen Abend oder Samstag freizuhalten, um mich damit zu beschäftigen.
Dass der persönliche Wissenserwerb Zeit braucht, offenbart aber auch unmittelbar die Limitation, die jeder Mensch hat.
Ein weiterer Aspekt ist, dass man Erfahrung kann man nicht erzwingenAuch die Fähigkeit, neue Technologien zu übernehmen, steigt mit der Menge an Erfahrung, die man bereits gesammelt hat. Gleiches gilt für die Fähigkeit, Technologien und Instruments einzuschätzen. Je größer der eigene Erfahrungsschatz, desto einfacher wird es. Voraussetzung dafür ist allerdings, dass man zuvor ein tieferes Verständnis für andere Technologien entwickelt hat, was nur durch praktische Erfahrung erreicht werden kann.
Scheuen Sie sich nicht, Fragen zu stellen. Sich auf einer höheren Ebene auszuprobieren ist nicht verkehrt. Manchmal lohnt es sich aber auch, aktiv nach Erfahrungen zu suchen. Vielleicht gibt es in Ihrem Unternehmen oder Netzwerk bereits jemanden, der sich schon mit Technologie xy beschäftigt hat? Warum nicht zu einem gemeinsamen Themen-Lunch gehen? Grundvoraussetzung dafür: sich in einem Umfeld zu befinden, in dem man Fragen stellen kann (!).
Bleiben Sie außerdem engagiert. Wie oben beschrieben: Der beste Weg, Dinge zu behalten, ist, sie zu tun. Das heißt jedoch nicht, dass es sich nicht lohnt, systematisch nach hyperlinks und rechts Ausschau zu halten und über Neuigkeiten informiert zu bleiben, die nicht in den (aktuellen) Arbeitsbereich fallen. Es gibt viele tolle E-newsletter. Ein sehr guter ist Der Stapel von DeepLearning.AI (2).
Ich arbeite in einem Crew von sechs Knowledge Scientists. Auch hier gilt, was ich bereits oben festgestellt habe: Selbst innerhalb dieser relativ kleinen Gruppe kann man anfällig für das Hochstapler-Syndrom sein. Schließlich gibt es immer jemanden, der mehr Erfahrung hat oder zumindest schon etwas Erfahrung in einem bestimmten Thema, einer bestimmten Methodik oder einem bestimmten Software gesammelt hat.
In unserem Crew treffen wir uns alle zwei Wochen zu einer Neighborhood of Observe. Wir haben zwei Richtlinien festgelegt:
1. Wir beginnen immer auf einem hohen Niveau, um sicherzustellen, dass alle Mitglieder an Bord sind, und gehen nicht davon aus, dass jeder bereits tief im Thema drin ist. Dann können wir tiefer einsteigen.
2. Es wird dringend empfohlen, gemeinsam ein Thema zu erforschen, zu dem noch niemand umfassende Fachkenntnisse entwickelt hat.
In der letzten Sitzung haben wir uns mit dem Thema Feinabstimmung von LLMs im Vergleich zu Few-Shot-Studying und Prompting beschäftigt. Gemeinsam haben wir verschiedene Feinabstimmungsmethoden erkundet und ausprobiert. Noch wichtiger battle, dass wir eine Reihe wertvoller Einblicke in geschäftliche Fragen erhielten und feststellen konnten, welche Mechanismen möglicherweise effektiver sind. Wir verließen das Assembly mit vielen guten Ideen und weiteren Forschungsaufgaben. Das ist weitaus wertvoller als die gründliche Kenntnis jedes Particulars.