Bild vom Autor

# Einführung

Als Experte für maschinelles Lernen wissen Sie, dass die Funktionsauswahl eine wichtige, aber zeitaufwändige Arbeit ist. Sie müssen ermitteln, welche Options tatsächlich zur Modellleistung beitragen, redundante Variablen entfernen, Multikollinearität erkennen, verrauschte Options herausfiltern und die optimale Characteristic-Teilmenge finden. Für jede Auswahlmethode testen Sie unterschiedliche Schwellenwerte, vergleichen Ergebnisse und verfolgen, was funktioniert.

Dies wird umso anspruchsvoller, je größer Ihr Characteristic-Bereich wird. Bei Hunderten von technischen Funktionen benötigen Sie systematische Ansätze, um die Bedeutung der Funktionen zu bewerten, Redundanzen zu beseitigen und die beste Teilmenge auszuwählen.

In diesem Artikel werden fünf Python-Skripte behandelt, die zur Automatisierung der effektivsten Techniken zur Funktionsauswahl entwickelt wurden.

Die Skripte finden Sie auf GitHub.

# 1. Filtern konstanter Merkmale mit Varianzschwellenwerten

// Der Schmerzpunkt

Merkmale mit geringer oder keiner Varianz liefern wenig bis gar keine Informationen für die Vorhersage. Ein Merkmal, das über alle Stichproben hinweg konstant oder nahezu konstant ist, kann nicht zur Unterscheidung verschiedener Zielklassen beitragen. Die manuelle Identifizierung dieser Merkmale erfordert die Berechnung der Varianz für jede Spalte, das Festlegen geeigneter Schwellenwerte und die Behandlung von Randfällen wie binären Merkmalen oder Merkmalen mit unterschiedlichen Maßstäben.

// Was das Skript macht

Identifiziert und entfernt Merkmale mit geringer Varianz basierend auf konfigurierbaren Schwellenwerten. Verarbeitet sowohl kontinuierliche als auch binäre Merkmale angemessen, normalisiert Varianzberechnungen für einen fairen Vergleich über verschiedene Skalen hinweg und stellt detaillierte Berichte bereit, aus denen hervorgeht, welche Merkmale entfernt wurden und warum.

// Wie es funktioniert

Das Skript berechnet die Varianz für jedes Characteristic und wendet dabei je nach Characteristic-Typ unterschiedliche Strategien an.

• Für kontinuierliche Options berechnet es die Standardvarianz und kann elective anhand des Characteristic-Bereichs normalisieren, um Schwellenwerte vergleichbar zu machen
• Für binäre Merkmale wird der Anteil der Minderheitsklasse berechnet, da die Varianz bei binären Merkmalen mit dem Klassenungleichgewicht zusammenhängt.

Options, die unter den Schwellenwert fallen, werden zur Entfernung markiert. Aus Gründen der Transparenz verwaltet das Skript eine Zuordnung der entfernten Options und ihrer Varianzwerte.

Rufen Sie das auf Varianzschwellenwerten basierende Characteristic-Auswahlskript ab

# 2. Eliminierung redundanter Funktionen durch Korrelationsanalyse

// Der Schmerzpunkt

Stark korrelierte Merkmale sind redundant und können in linearen Modellen zu Multikollinearitätsproblemen führen. Wenn zwei Merkmale eine hohe Korrelation aufweisen, behalten Sie beide bei fügt Dimensionalität hinzu, ohne Informationen hinzuzufügen. Bei Hunderten von Merkmalen ist jedoch eine systematische Analyse erforderlich, um alle korrelierten Paare zu identifizieren, zu entscheiden, welche beibehalten werden sollen, und sicherzustellen, dass Sie die Merkmale beibehalten, die am stärksten mit dem Ziel korrelieren.

// Was das Skript macht

Identifiziert stark korrelierte Merkmalspaare mithilfe von Pearson-Korrelation für numerische Merkmale und Cramérs V für kategoriale Merkmale. Wählt für jedes korrelierte Paar automatisch aus, welches Merkmal beibehalten werden soll, basierend auf der Korrelation mit der Zielvariablen. Entfernt redundante Funktionen und maximiert gleichzeitig die Vorhersagekraft. Erstellt Korrelations-Heatmaps und detaillierte Berichte über entfernte Options.

// Wie es funktioniert

Das Skript berechnet die Korrelationsmatrix für alle Options. Für jedes Paar, das den Korrelationsschwellenwert überschreitet, wird die Korrelation beider Merkmale mit der Zielvariablen verglichen. Das Characteristic mit der geringeren Zielkorrelation wird zum Entfernen markiert. Dieser Prozess wird iterativ fortgesetzt, um Ketten korrelierter Merkmale zu verarbeiten. Das Skript verarbeitet fehlende Werte und gemischte Datentypen und stellt Visualisierungen bereit, die Korrelationscluster und die Auswahlentscheidung für jedes Paar zeigen.

Holen Sie sich das korrelationsbasierte Funktionsauswahlskript

# 3. Identifizieren signifikanter Merkmale mithilfe statistischer Checks

// Der Schmerzpunkt

Nicht alle Merkmale haben eine statistisch signifikante Beziehung zur Zielvariablen. Merkmale, die keinen sinnvollen Zusammenhang mit dem Ziel aufweisen, verursachen zusätzliches Rauschen und erhöhen häufig das Risiko einer Überanpassung. Das Testen jeder Funktion erfordert die Auswahl geeigneter statistischer Checks, die Berechnung von p-Werten, die Korrektur mehrerer Checks und die korrekte Interpretation der Ergebnisse.

// Was das Skript macht

Das Skript wählt automatisch den geeigneten statistischen Take a look at basierend auf den Typen der Funktion und der Zielvariablen aus und wendet ihn an. Es verwendet einen F-Take a look at der Varianzanalyse (ANOVA) für numerische Merkmale gepaart mit einem Klassifizierungsziel, einen Chi-Quadrat-Take a look at für kategoriale Merkmale, gegenseitige Informationsbewertung zur Erfassung nichtlinearer Beziehungen und einen Regressions-F-Take a look at, wenn das Ziel kontinuierlich ist. Es gilt dann entweder Bonferroni oder Falscherkennungsrate (FDR) Korrektur, um mehrere Checks zu berücksichtigen, und gibt alle nach statistischer Signifikanz geordneten Merkmale zusammen mit ihren p-Werten und Teststatistiken zurück.

// Wie es funktioniert

Das Skript bestimmt zunächst den Characteristic-Typ und den Zieltyp und leitet dann jedes Characteristic an den richtigen Take a look at weiter. Bei Klassifizierungsaufgaben mit numerischen Merkmalen testet ANOVA, ob sich der Mittelwert des Merkmals zwischen den Zielklassen erheblich unterscheidet. Bei kategorialen Merkmalen prüft ein Chi-Quadrat-Take a look at die statistische Unabhängigkeit zwischen dem Merkmal und dem Ziel. Daneben werden gegenseitige Informationswerte berechnet, um alle nichtlinearen Beziehungen aufzudecken, die bei Standardtests möglicherweise übersehen werden. Wenn das Ziel kontinuierlich ist, wird stattdessen ein Regressions-F-Take a look at verwendet.

Sobald alle Checks ausgeführt wurden, werden die p-Werte entweder mithilfe einer Bonferroni-Korrektur – bei der jeder p-Wert mit der Gesamtzahl der Options multipliziert wird – oder einer Methode der falschen Entdeckungsrate für eine weniger konservative Korrektur angepasst. Merkmale mit angepassten p-Werten unterhalb des standardmäßigen Signifikanzschwellenwerts von 0,05 werden als statistisch signifikant gekennzeichnet und für die Einbeziehung priorisiert.

Holen Sie sich das auf statistischen Checks basierende Funktionsauswahlskript

Wenn Sie an einem strengeren statistischen Ansatz zur Funktionsauswahl interessiert sind, empfehle ich Ihnen, dieses Skript wie unten beschrieben weiter zu verbessern.

// Was Sie auch erkunden und verbessern können

Verwenden Sie nichtparametrische Alternativen, wenn Annahmen scheitern. ANOVA geht von ungefährer Normalität und gleichen Varianzen zwischen den Gruppen aus. Bei stark verzerrten oder nicht normalen Options wechseln Sie zu a Kruskal-Wallis-Take a look at ist eine robustere Wahl, die keine Verteilungsannahmen trifft.

Gehen Sie vorsichtig mit spärlichen kategorialen Merkmalen um. Chi-Quadrat erfordert, dass die erwarteten Zellhäufigkeiten mindestens 5 betragen. Wenn diese Bedingung nicht erfüllt ist – was bei Kategorien mit hoher Kardinalität oder seltenen Häufigkeiten häufig vorkommt – Fishers genauer Take a look at ist eine sicherere und genauere Various.

Behandeln Sie gegenseitige Informationswerte getrennt von p-Werten. Da Mutual-Data-Scores keine p-Werte sind, passen sie nicht auf natürliche Weise in das Bonferroni- oder FDR-Korrektursystem. Ein saubererer Ansatz besteht darin, Merkmale unabhängig voneinander nach gegenseitiger Informationsbewertung zu ordnen und sie als ergänzendes Sign zu verwenden, anstatt sie in derselben Signifikanzpipeline zusammenzuführen.

Bevorzugen Sie die Korrektur der False Discovery Charge in hochdimensionalen Einstellungen. Bonferroni ist von Natur aus konservativ, was sinnvoll ist, wenn Fehlalarme sehr kostspielig sind, aber es kann wirklich nützliche Funktionen verwerfen, wenn Sie viele davon haben. Benjamini-Hochberg FDR-Korrektur Bietet mehr statistische Aussagekraft in großen Datensätzen und wird im Allgemeinen in Arbeitsabläufen zur Auswahl von Funktionen für maschinelles Lernen bevorzugt.

Berücksichtigen Sie neben den p-Werten auch die Effektgröße. Die statistische Signifikanz allein sagt nichts über die praktische Bedeutung einer Funktion aus. Durch die Kombination von p-Werten mit Effektgrößenmaßen erhält man ein vollständigeres Bild davon, welche Merkmale es wert sind, beibehalten zu werden.

Fügen Sie einen permutationsbasierten Signifikanztest hinzu. Für komplexe oder gemischte Datensätze bietet Permutationstest eine modellunabhängige Möglichkeit, die Signifikanz zu bewerten, ohne sich auf Verteilungsannahmen zu verlassen. Es funktioniert, indem die Zielvariable wiederholt gemischt wird und überprüft wird, wie oft ein Characteristic auch allein durch Zufall punktet.

# 4. Rating von Funktionen mit modellbasierten Wichtigkeitswerten

// Der Schmerzpunkt

Die modellbasierte Merkmalswichtigkeit bietet direkte Einblicke in die Merkmale, die zur Vorhersagegenauigkeit beitragen. Allerdings ergeben unterschiedliche Modelle unterschiedliche Wichtigkeitswerte. Das Ausführen mehrerer Modelle, das Extrahieren von Wichtigkeitswerten und das Kombinieren der Ergebnisse zu einem kohärenten Rating ist komplex.

// Was das Skript macht

Trainiert mehrere Modelltypen und extrahiert die Funktionsbedeutung von jedem. Normalisiert die Wichtigkeitswerte aller Modelle für einen fairen Vergleich. Berechnet die Ensemble-Wichtigkeit durch Mittelung oder Rangfolge über Modelle hinweg. Bietet Permutationsbedeutung als modellunabhängige Various. Gibt bewertete Options mit Wichtigkeitswerten für jedes Modell und empfohlene Characteristic-Teilmengen zurück.

// Wie es funktioniert

Das Skript trainiert jeden Modelltyp mit dem gesamten Funktionsumfang und extrahiert native Wichtigkeitswerte wie baumbasierte Wichtigkeit für Wälder und Koeffizienten für lineare Modelle. Um die Wichtigkeit der Permutation zu ermitteln, werden die einzelnen Merkmale zufällig gemischt und die Abnahme der Modellleistung gemessen. Die Wichtigkeitswerte werden in jedem Modell so normalisiert, dass sie in der Summe 1 ergeben.

Der Ensemble-Rating wird als mittlerer Rang oder mittlere normalisierte Wichtigkeit über alle Modelle hinweg berechnet. Options werden nach Ensemble-Wichtigkeit sortiert und die Prime-N-Options oder diejenigen, die einen Wichtigkeitsschwellenwert überschreiten, werden ausgewählt.

Holen Sie sich das modellbasierte Auswahlskript

# 5. Optimierung von Funktionsteilmengen durch rekursive Eliminierung

// Der Schmerzpunkt

Die optimale Funktionsteilmenge besteht nicht immer aus den wichtigsten N-Funktionen einzeln; Auch Funktionsinteraktionen sind wichtig. Eine Funktion magazine einzeln schwach erscheinen, in Kombination mit anderen jedoch wertvoll sein. Rekursive Merkmalseliminierungstests weisen Teilmengen auf, indem die schwächsten Merkmale iterativ entfernt und Modelle neu trainiert werden. Dies erfordert jedoch die Durchführung Hunderter Modelltrainingsiterationen und die Verfolgung der Leistung über verschiedene Teilmengengrößen hinweg.

// Was das Skript macht

Entfernt systematisch Funktionen in einem iterativen Prozess, trainiert Modelle neu und bewertet die Leistung bei jedem Schritt. Beginnt mit allen Options und entfernt in jeder Iteration das unwichtigste Characteristic. Verfolgt die Modellleistung über alle Teilmengengrößen hinweg. Identifiziert die optimale Funktionsteilmenge, die die Leistung maximiert oder die Zielleistung mit minimalen Funktionen erreicht. Unterstützt Kreuzvalidierung für robuste Leistungsschätzungen.

// Wie es funktioniert

Das Skript beginnt mit dem vollständigen Funktionsumfang und trainiert ein Modell. Es ordnet Options nach Wichtigkeit und entfernt das Characteristic mit dem niedrigsten Rang. Dieser Vorgang wiederholt sich und trainiert in jeder Iteration ein neues Modell mit dem reduzierten Funktionsumfang. Leistungsmetriken wie Genauigkeit, F1 und AUC werden für jede Teilmengengröße aufgezeichnet.

Das Skript wendet eine Kreuzvalidierung an, um bei jedem Schritt stabile Leistungsschätzungen zu erhalten. Die endgültige Ausgabe umfasst Leistungskurven, die zeigen, wie sich Metriken mit der Characteristic-Anzahl und der optimalen Characteristic-Teilmenge ändern. Das heißt, Sie sehen entweder eine optimale Leistung oder einen Punkt, an dem das Hinzufügen von Funktionen zu sinkenden Erträgen führt.

Holen Sie sich das Skript zur Eliminierung rekursiver Options

# Zusammenfassung

Diese fünf Skripte befassen sich mit den zentralen Herausforderungen der Funktionsauswahl, die die Modellleistung und Trainingseffizienz bestimmen. Hier ein kurzer Überblick:

Skript	Beschreibung
Auswahl des Varianzschwellenwerts	Entfernt nicht informative konstante oder nahezu konstante Options.
Korrelationsbasierter Selektor	Eliminiert redundante Funktionen und bewahrt gleichzeitig die Vorhersagekraft.
Statistischer Testselektor	Identifiziert Options mit signifikanten Beziehungen zum Ziel.
Modellbasierter Selektor	Ordnet Options anhand der Ensemble-Wichtigkeit aus mehreren Modellen eine Rangfolge zu.
Eliminierung rekursiver Merkmale	Findet optimale Funktionsteilmengen durch iteratives Testen.

Jedes Skript kann unabhängig für bestimmte Auswahlaufgaben verwendet oder zu einer vollständigen Pipeline kombiniert werden. Viel Spaß bei der Funktionsauswahl!

Bala Priya C ist ein Entwickler und technischer Redakteur aus Indien. Sie arbeitet gerne an der Schnittstelle von Mathematik, Programmierung, Datenwissenschaft und Inhaltserstellung. Zu ihren Interessen- und Fachgebieten gehören DevOps, Datenwissenschaft und Verarbeitung natürlicher Sprache. Sie liebt es zu lesen, zu schreiben, zu programmieren und Kaffee zu trinken! Derzeit arbeitet sie daran, zu lernen und ihr Wissen mit der Entwickler-Group zu teilen, indem sie Tutorials, Anleitungen, Meinungsbeiträge und mehr verfasst. Bala erstellt außerdem ansprechende Ressourcenübersichten und Programmier-Tutorials.

mit KI ist eine effektive Möglichkeit, die Codierungsgeschwindigkeit zu erhöhen. KI-Agenten können viele der einfachen und sich wiederholenden Aufgaben erledigen, während Sie als Orchestrator für Ihre Agenten fungieren können.

Ein Downside, auf das ich jedoch oft stoße, ist, dass ich mehr Kontext im Kopf habe, als ein KI-Agent jemals haben könnte. Dies könnte zum Beispiel sein:

• Geschäftsziel mit einer Funktion
• Fachgespräche finden mündlich im Büro statt
• Treffen, bei denen wir verschiedene Themen besprochen haben
• Historisches Wissen

Die Gemeinsamkeit zwischen all diesen besteht darin, dass diese Informationen normalerweise nicht aufgeschrieben werden und Ihrem KI-Agenten bei der Codeimplementierung definitiv nicht zur Verfügung stehen.

Wir alle wissen jedoch, dass man für einen möglichst effektiven Programmierer umfassenden Kontext benötigt. Sie müssen wissen, warum eine Funktion erstellt wird, um bei der Implementierung des Codes die richtigen Entscheidungen treffen zu können. Die technischen Diskussionen im Büro sind wichtig für das Verständnis der Codebasis, und Projekte werden oft in Besprechungen gestaltet. Die Frage ist dann:

Wie können wir dafür sorgen, dass KI den gleichen Kontext hat wie menschliche Programmierer?

Ich würde behaupten, die Antwort besteht darin, das gesamte Wissen strikt aufzuschreiben (was jetzt mit KI-Instruments viel einfacher ist) und der KI Instruments bereitzustellen, mit denen sie auf diese Informationen zugreifen kann.

In diesem Artikel werde ich besprechen, wie ich versuche, meinen Codierungsagenten so effizient wie möglich zu gestalten. Ich glaube, ein großer Teil davon besteht einfach darin, sicherzustellen, dass die KI Zugriff auf dieselben Informationen hat, die ich habe, und ich werde drei spezifische Techniken besprechen, die ich jeden Tag verwende, um dies zu erreichen.

Ich denke, ein wichtiger Grund dafür, warum Codierungsagenten nicht effektiver sind, liegt einfach darin, dass sie keinen Zugriff auf denselben Kontext haben, auf den Menschen Zugriff haben

Warum der KI den gesamten Kontext zur Verfügung stellen?

Der Hauptgrund dafür, Ihrem KI-Codierungsagenten so viel Kontext wie möglich zur Verfügung zu stellen, besteht darin, dass die Leistung der KI umso besser ist, je mehr Informationen sie hat.

Stellen Sie sich vor, Sie möchten eine Funktion implementieren, beispielsweise ein Device zum Zusammenfassen von Besprechungen. Die Entwicklung dieser Funktion ist unglaublich schwierig, wenn Sie nicht wissen:

• Zu welchem ​​Repository soll der Code gehören?
• Sollen alle Besprechungen zusammengefasst werden oder nur externe Besprechungen?
• Wie schnell muss die Zusammenfassung erfolgen? 5 Sekunden oder 5 Minuten?

Bei all diesen Fragen handelt es sich um Kontexte, die man als Mensch erhält und auf die ein Coding-Agent von Natur aus keinen Zugriff hat.

Sie wissen, in welchem ​​Code-Repository Sie den Code implementieren müssen, da Sie bereits zuvor im Repository gearbeitet haben.

Sie wissen, dass nur externe Besprechungen zusammengefasst werden sollten und dass die Zusammenfassung nur in 5 Minuten erfolgen muss, da dies während der Gestaltungsbesprechung letzte Woche besprochen wurde.

Wenn Sie Ihrem Codierungsagenten diesen Kontext jedoch bei der Implementierung nicht zur Verfügung stellen, wird er die Funktion nie in der von Ihnen gewünschten Weise implementieren können.

Wenn dem Agenten der Kontext fehlt, den Sie haben, werden Sie feststellen, dass der Agent beginnt, unerwünschte Aktionen auszuführen. Dies ist frustrierend und zeitaufwändig, kann jedoch durch die Synchronisierung Ihres Kontexts mit dem Kontext des Codierungsagenten vermieden werden

3 Techniken, um der KI Kontext zu bieten

In diesem Abschnitt werde ich spezifische Techniken behandeln, die ich in meinem Alltag verwende, um meinen Codierungsagenten so viel Kontext wie möglich bereitzustellen. Ich glaube, dass diese Techniken entscheidend sind, um mich als Programmierer effizient zu machen, und ich bin ständig auf der Suche nach weiteren Techniken, um noch effektiver zu werden.

Speichern Sie das IaC-Schema in einer Markdown-Datei

Eine einfache Technik, mit der Sie der KI mehr Kontext geben können, besteht darin, Ihre Infrastruktur als Code in einer einfach zugänglichen Datei zu speichern.

IaC ist der Code, der Informationen darstellt wie:

• Tabellennamen
• S3-Buckets und Präfixe
• Produktionsprotokolle
• Berechtigungen,

Wenn Sie schon länger in einem Unternehmen arbeiten, haben Sie wahrscheinlich alle diese Informationen auswendig gelernt. Sie merken sich die Tabellennamen der wichtigsten Tabellen und wissen, welche S3-Buckets was und in welchen Präfixen speichern.

Ihr Coding-Agent hat jedoch keinen einfachen Zugriff darauf, es sei denn, Sie gewähren ihm Zugriff. Der einfachste Weg, dies zu tun, ist:

1. Speichern Sie alle Ihre IaC-Repositorys in einem Ordner
2. Weisen Sie einen Codierungsagenten an, alle diese Repositorys zu durchsuchen und alle IaC in einer einzigen Markdown-Datei zusammenzufassen
3. Jetzt können Sie auf diese Markdown-Datei zurückgreifen, wann immer Sie möchten, dass Ihr Agent mit allem IaC arbeitet

Es ist schwer zu erklären, wie viel Zeit ich dadurch gespart habe. Mein Agent muss nicht alle Datenbanktabellen auflisten, bevor er die richtige Tabelle findet, in der die gesuchten Informationen gespeichert sind. Stattdessen kennt es einfach alle diese Tabellennamen und greift direkt auf die richtigen Informationen zu. Dies macht den Agenten viel schneller und auch kostengünstiger, da er weniger Token ausgibt, um die gesuchten Informationen zu finden.

Beachten Sie, wenn Ihrem Codierungsagenten der Kontext fehlt

Ein weiterer wichtiger Punkt besteht darin, wachsam zu sein, wenn Ihrer KI der Kontext fehlt. Wenn Sie Ihr IaC nicht zusammengefasst haben (wie im letzten Abschnitt erläutert), werden Sie wahrscheinlich feststellen, dass der Agent immer wie folgt lautet:

1. Auflistung aller Tabellennamen
2. Überlegen Sie, welche Tabelle jetzt die richtige ist, auf die Sie zugreifen können
3. Versuchen Sie, auf eine Tabelle zuzugreifen, und manchmal liegen Sie falsch und müssen es mit einer anderen Tabelle versuchen

Dies liegt daran, dass Ihrem Codierungsagenten wichtiger Kontext fehlt. Wenn Sie ein Muster wie dieses bemerken, sollten Sie sofort unterbrechen und den Coding-Agenten informieren:

While you search for paperwork, you will discover them within the desk referred to as
DocumentTable. Memorize this in AGENTS.md

Jetzt merkt sich der Agent dies für das nächste Mal und Sie sparen viel Zeit und Token.

---

Ich fordere Sie dringend auf, immer nach Situationen Ausschau zu halten, in denen Ihr Coding-Agent Probleme hat. Wenn eine Aufgabe länger als gewöhnlich dauert, liegt das meist daran, dass der Kontext fehlt, und es ist Ihre Aufgabe, diesen Kontext dem KI-Codierungsagenten bereitzustellen.

Fassen Sie Besprechungen mit KI-Instruments zusammen

Eine weitere einfache Technik, mit der Sie Ihrem Programmieragenten mehr Kontext bieten können, besteht darin, Besprechungen mit KI-Instruments wie Granola zusammenzufassen und dies als Kontext für Ihren Programmieragenten bereitzustellen.

Wenn Sie beispielsweise eine Gestaltungsbesprechung abgehalten haben, bei der die Implementierung einer Funktion besprochen wurde, können Sie diese Besprechung zusammenfassen und sie Ihrem Programmieragenten als Kontext bei der Implementierung der Funktion bereitstellen.

Auf diese Weise hat der Agent Zugriff auf alle Informationen, die Sie darüber erhalten, wie die Funktion implementiert werden soll. Dies ist eine kostengünstige und einfache Technik, mit der Sie den Kontext Ihres Codierungsagenten verbessern können.

---

Als Ergänzung zum letzten Abschnitt möchte ich auch hervorheben, dass die Gestaltung von Conferences in der Regel zu richtig gestalteten Aufgaben in Projektmanagement-Instruments wie Linear führen sollte.

Die Funktion, die Sie beispielsweise implementieren, sollte zusammengefasst und vollständig in einem einzigen linearen Downside oder Projekt zusammengefasst werden. Wenn dies der Fall ist, müssen Sie dem KI-Agenten nur Zugriff auf das Linear-Downside gewähren (was Sie mit dem Linear-MCP tun können), um sicherzustellen, dass er Zugriff auf alle relevanten Informationen hat.

Abschluss

In diesem Artikel habe ich beschrieben, wie man mithilfe von KI-Coding-Brokers eine effektivere Programmierung ermöglicht. Ich habe besprochen, dass ein sehr häufiges Downside für Programmieragenten darin besteht, dass sie keinen Zugriff auf denselben Kontext haben, den menschliche Programmierer haben. Dies ist einfach, da Themen in Besprechungen und im Büro besprochen werden und diese Informationen nicht aufgeschrieben werden. Ich habe drei spezifische Techniken hervorgehoben, die ich verwende, um meinem Codierungsagenten so viel Kontext wie möglich zu geben. Ich glaube, dass wir in den kommenden Jahren große Verbesserungen bei der Leistung von Programmieragenten erleben werden, einfach weil wir ihnen besser den gesamten Kontext bereitstellen können, der für die effektive Erledigung von Aufgaben erforderlich ist.

Meine kostenlosen Ressourcen

Verzehnfachen Sie Ihr Engineering mit LLMs (kostenloser 3-tägiger E-Mail-Kurs)

Holen Sie sich mein kostenloses E-Ebook „Imaginative and prescient Language Fashions“.

Mein Webinar zum Thema Imaginative and prescient Language Fashions

Finden Sie mich in den sozialen Netzwerken:

Abonnieren Sie meinen Publication

Nehmen Sie Kontakt auf

LinkedIn

X / Twitter

Medium

kommt in vielen Anwendungen immer häufiger vor. Die Integration von Agenten in Ihre Anwendung bedeutet jedoch viel mehr, als nur einem LLM Zugriff auf alle Daten und Funktionen zu gewähren. Sie müssen außerdem wirksame Leitplanken aufbauen, die sicherstellen, dass der Agent nur Zugriff auf relevante Daten hat, und einen Missbrauch von Funktionen verhindern. Sie müssen dies tun und gleichzeitig sicherstellen, dass das Modell effektiv mit Zugriff auf die erforderlichen Daten arbeiten und so viele Funktionen wie möglich nutzen kann, ohne dass ein Mensch auf dem Laufenden sein muss.

Mein Ziel in diesem Artikel ist es, auf einer übergeordneten Ebene hervorzuheben, wie man wirksame Agentenleitplanken erstellt, um sicherzustellen, dass Ihr Agent nur Zugriff auf die erforderlichen Daten und Funktionen hat und gleichzeitig eine gute Benutzererfahrung gewährleistet wird, indem beispielsweise die Häufigkeit, mit der ein Mensch den Zugriff eines Agenten genehmigen muss, minimiert wird. Ich werde zunächst erörtern, warum Leitplanken so wichtig sind, bevor ich mich einer entscheidenden Komponente von Leitplanken zuwende: der feinkörnigen Autorisierung. Als Nächstes bespreche ich die Erstellung von Leitplanken für Ihre Daten und gehe weiterhin auf Leitplanken für Funktionen ein.

Warum Sie Leitplanken für Ihre Agenten benötigen

Zunächst möchte ich beschreiben, warum wir Leitplanken für KI-Agenten brauchen. Theoretisch könnten Sie dem Agenten einfach Zugriff auf alle Datenbanken und Funktionen in Ihren Anwendungen gewähren, oder?

Es gibt mehrere Gründe, warum Leitplanken notwendig sind. Der Hauptgrund besteht darin, zu verhindern, dass der Agent unerwünschte Aktionen ausführt, beispielsweise das Löschen von Datenbanktabellen. Darüber hinaus müssen Sie sicherstellen, dass Agenten nur Zugriff auf Daten innerhalb eines bestimmten Bereichs haben. So stellen Sie beispielsweise sicher, dass ein Agent, der von einem Kunden verwendet wird, nicht die Daten eines anderen Kunden verwenden kann.

Einige Leitplanken können automatisch eingerichtet werden und erfordern kein menschliches Eingreifen. Der Datenbankzugriff erfolgt auf einer solchen Leitplanke, bei der Sie den Umfang festlegen, in dem ein Agent tätig ist (z. B. innerhalb eines Kunden), und dem Agenten nur Zugriff auf die Daten dieses Kunden gewähren. Andere Leitplanken erfordern jedoch menschliche Interaktion. Stellen Sie sich vor, ein Agent möchte einen Befehl ausführen. Wie stellen wir dann sicher, dass der Agent keine destruktive Aktion ausführt (z. B. das Löschen einer Datenbanktabelle) und der Benutzer den Befehl zulässt?

In diesen Szenarien handelt es sich um einen Human-in-the-Loop, bei dem der Agent um Erlaubnis bittet, eine bestimmte Aktion auszuführen. Wenn der Benutzer es zulässt, kann der Agent fortfahren, und wenn es nicht erlaubt ist, muss sich der Agent für eine andere Vorgehensweise entscheiden.

Fein abgestufte Berechtigungen

Eine wahrscheinliche Voraussetzung für die Arbeit mit Agenten sind fein abgestufte Berechtigungen. Dies bedeutet, dass Sie leicht überprüfen können, ob eine Funktion oder einige Daten in einem bestimmten Bereich verfügbar sind, z. B.:

• Hat dieser Kunde 1 Zugriff auf die Datenbanktabelle A?
• Hat Benutzer 2 Zugriff auf Funktion B?
• Hat Organisation 3 Zugriff auf Funktion C?

Es ist von entscheidender Bedeutung, dass in Ihrer Anwendung eine detaillierte Autorisierung implementiert ist. Es gibt zahlreiche Anbieter, die diese Funktionalität anbieten.

Wenn Sie eine differenzierte Autorisierung implementiert haben, müssen Sie diese in alle Funktionen Ihrer Anwendungen implementieren und sowohl das Szenario bewältigen, in dem der Zugriff gewährt wird, als auch das Szenario, in dem der Zugriff verweigert wird. Wenn der Zugriff beispielsweise verweigert wird, können Sie erwägen, eine Nachricht hinzuzufügen, die besagt, dass Sie einen Administrator um eine bestimmte Zugriffsebene bitten müssen, um eine bestimmte Aktion ausführen zu können.

Agentische Leitplanken für Daten

Nachdem Sie fein abgestufte Berechtigungen implementiert haben, können wir mit der Erörterung der Leitplanken für Ihre Daten beginnen. Es ist wichtig, dass Ihr Agent Zugriff auf so viele Daten wie möglich hat, um Benutzerfragen effektiv beantworten zu können. Sie müssen dies dann mit der Tatsache in Einklang bringen, dass der Agent nicht auf eingeschränkte Daten zugreifen oder unnötige Informationen abrufen sollte, die er nicht zur Beantwortung der Benutzeranfrage benötigt

Zugriff auf eingeschränkte Daten

Die Beschränkung des Zugriffs auf Daten für Ihre Agenten hängt größtenteils von der detaillierten Autorisierung ab. In Ihren Funktionen, die eine Datensuche durchführen (Datenbanksuche, Bucket-Abruf usw.), sollten Sie zuerst den Zugriffsbereich des Benutzers überprüfen.

Darüber hinaus sollten Sie auch darüber nachdenken, Ihrem Agenten in der Eingabeaufforderung mitzuteilen, was er tun darf. Wenn der Agent versucht, auf Daten zuzugreifen, und ihm dann aus irgendeinem Grund der Zugriff verweigert wird, kann dies kostspielig sein, sowohl hinsichtlich der Token-Nutzung als auch hinsichtlich der Zeit.

Vermeiden Sie das Abrufen unnötiger Informationen

Wenn Sie Ihrem Agenten Zugriff auf alle Datenbanktabellen und Datenbereiche gewähren, kann es zu Problemen kommen, da die Agenten zu viele Optionen haben und es für den Agenten schwierig wird, die richtige Dokumenttabelle und die richtigen Felder auszuwählen. Dies ist auch ein Thema, über das ich kürzlich gesprochen habe Mein Artikel über das Erstellen von Instruments für effektive AgentenS.

Um dieses Downside zu lösen, würde ich mich darauf konzentrieren, den Agenten nur über relevante Informationsquellen zu informieren. Wenn der Agent an einer Aufgabe arbeitet, von der Sie wissen, dass sie nur mit Datenbank A gelöst werden kann, sollten Sie erwägen, den Agenten nur über Datenbank A zu informieren und alle anderen Datenbanken aus der Eingabeaufforderung des Agenten herauszulassen. Dies setzt natürlich voraus, dass Sie wissen, welche Daten für den Agenten potenziell related sind, um Anfragen zu beantworten.

Agentische Leitplanken für Funktionen

Ich denke, das Thema der Erstellung von Agentenleitplanken für Funktionen ist noch interessanter. Der Grund dafür ist, dass beim Bau dieser Leitplanken viele Elemente zu berücksichtigen sind:

• Wie verhindern Sie destruktive Handlungen?
• Wie minimieren Sie menschliche Interaktionen?

Wie verhindern Sie destruktive Handlungen?

Das wichtigste Unterthema zu Funktionsleitplanken ist die Verhinderung destruktiver Aktionen. Um dieses Downside zu lösen, sollten Sie alle Funktionen danach markieren, ob sie funktionieren irreversible Handlungen. Zum Beispiel

• Das Löschen einer Datenbanktabelle ist unumkehrbar (Sie können natürlich ein Backup laden, aber das erfordert etwas Arbeit)
• Das Lesen aus einer Tabelle hat keine destruktive Wirkung

Wenn der Agent eine leicht rückgängig zu machende Aktion ausführt (sie kann durch Klicken auf die Schaltfläche „Rückgängig“ rückgängig gemacht werden) oder eine Aktion ausführt, die keine zerstörerischen Auswirkungen hat, können Sie dem Agenten wahrscheinlich einfach erlauben, die Funktion auszuführen.

Wenn eine Funktion jedoch eine irreversible Aktion ausführt, sollten Sie den Agenten darüber informieren und den menschlichen Benutzer wahrscheinlich fragen, ob der Agent diese Aktion ausführen kann.

Wie minimieren Sie die Interaktionen zwischen Menschen?

Natürlich möchten Sie destruktive Handlungen verhindern. Sie möchten den Benutzer jedoch auch nicht zu sehr belästigen, indem Sie ihn fragen, ob der Agent eine Aktion ausführen kann oder nicht.

Ein guter Ansatz zur Minimierung menschlicher Interaktionen besteht darin, Funktionen auf eine Whitelist zu setzen, z. B. das, was Cursor für die Ausführung von Terminalbefehlen tut: Wenn Cursor zum ersten Mal einen Befehl ausführen möchte, z. B.:

• cd in einen Ordner
• Laufen Pytest-Checks
• Verschieben Sie eine Datei von einem Ort an einen anderen

Der Cursor fragt den Benutzer, ob er einen Befehl ausführen darf. Anschließend können Sie eine der drei folgenden Optionen wählen:

• Lehnen Sie die Anfrage ab
• Akzeptieren Sie die Anfrage (einmalig)
• Setzen Sie den Befehl auf die Whitelist (nehmen Sie die Anfrage jetzt und in Zukunft an)

Whitelisting funktioniert intestine, weil Sie sicherstellen, dass der Benutzer dem Agenten erlaubt, eine Funktion oder einen Befehl auszuführen, Sie ihn aber künftig nicht mehr mit genau dieser Funktion belästigen müssen. Allerdings hat das Whitelisting den Nachteil, dass einige Befehle nicht auf die Whitelist gesetzt werden können, wenn man bedenkt, dass ein Benutzer den Kontext jedes Mal überprüfen muss, wenn der Agent die Ausführung einiger Funktionen vorschlägt (z. B. das Löschen einer Datenbanktabelle).

Abschluss

In diesem hochrangigen Artikel habe ich besprochen, wie Sie beim Erstellen von Agentenanwendungen im Hinblick auf Leitplanken vorgehen sollten. Leitplanken sind erforderlich, da Sie sicherstellen müssen, dass der Agent sich wie gewünscht verhält und ohne ausdrückliche Genehmigung des Benutzers keine Aktionen wie das Abrufen von Informationen außerhalb des Zugriffsbereichs oder destruktive Aktionen ausführen darf. Ich habe über die Erstellung von Leitplanken für Ihre Daten und die Funktionen gesprochen, die Sie Ihrem Agenten zur Verfügung stellen. Ich bin davon überzeugt, dass Leitplanken ein wichtiger Teil der Erstellung von Agentenanwendungen sind und bei der Erstellung von Agentenanwendungen immer im Auge behalten werden sollten. Durch die Sicherstellung geeigneter Schutzmaßnahmen wird die Verwendung Ihrer Agenten sicherer, was von entscheidender Bedeutung ist, wenn man bedenkt, dass es schwierig sein wird, das Vertrauen des Benutzers wiederherzustellen, wenn das Vertrauen eines Benutzers in den Agent gebrochen ist.

Finden Sie mich in den sozialen Netzwerken:

Nehmen Sie Kontakt auf

LinkedIn

X / Twitter

Medium

Sie können auch einige meiner anderen Artikel lesen:

mit ein wenig Kontrolle und Gewährleistung der Sicherheit. Leitplanken bieten dies für KI-Anwendungen. Aber wie können diese in Anwendungen integriert werden?

Einige Leitplanken werden bereits festgelegt, bevor mit der Anwendungscodierung begonnen wird. Erstens gibt es von der Regierung bereitgestellte rechtliche Leitplanken, wie z EU-KI-Gesetzdas akzeptable und verbotene Anwendungsfälle von KI hervorhebt. Dann gibt es vom Unternehmen festgelegte Richtlinien. Diese Leitplanken geben an, welche Anwendungsfälle das Unternehmen für den Einsatz von KI akzeptabel hält, sowohl im Hinblick auf Sicherheit als auch auf Ethik. Diese beiden Leitplanken filtern die Anwendungsfälle für die KI-Einführung.

Nachdem die ersten beiden Arten von Leitplanken überwunden wurden, erreicht das Engineering-Group einen akzeptablen Anwendungsfall. Wenn das Engineering-Group den Anwendungsfall implementiert, integriert es außerdem technische Leitplanken, um die sichere Nutzung von Daten zu gewährleisten und das erwartete Verhalten der Anwendung aufrechtzuerhalten. Wir werden diesen dritten Leitplankentyp im Artikel untersuchen.

Oberste technische Leitplanken auf verschiedenen Ebenen der KI-Anwendung

Leitplanken werden auf der Eingabe-, Modell- und Ausgabeebene erstellt. Jedes dient einem einzigartigen Zweck:

• Datenschicht: Leitplanken auf der Datenebene stellen sicher, dass keine sensiblen, problematischen oder falschen Daten in das System gelangen.
• Modellebene: Es empfiehlt sich, auf dieser Ebene Leitplanken zu erstellen, um sicherzustellen, dass das Modell wie erwartet funktioniert.
• Ausgabeebene: Leitplanken auf der Ausgabeebene stellen sicher, dass das Modell keine falschen Antworten mit hoher Zuverlässigkeit liefert – eine häufige Bedrohung bei KI-Systemen.

1. Datenschicht

Lassen Sie uns die unverzichtbare Leitplanke auf der Datenebene durchgehen:

(i) Eingabevalidierung und -bereinigung

Das erste, was Sie in einer KI-Anwendung überprüfen müssen, ist, ob die Eingabedaten das richtige Format haben und keine unangemessene oder anstößige Sprache enthalten. Das ist eigentlich ganz einfach, da die meisten Datenbanken integrierte SQL-Funktionen für den Mustervergleich bieten. Wenn eine Spalte beispielsweise alphanumerisch sein soll, können Sie mithilfe eines einfachen Regex-Musters überprüfen, ob die Werte im erwarteten Format vorliegen. Ebenso stehen Funktionen zur Verfügung, um in Cloud-Anwendungen wie Microsoft Azure eine Obszönitätsprüfung (unangemessene oder beleidigende Sprache) durchzuführen. Sie können jedoch jederzeit eine benutzerdefinierte Funktion erstellen, wenn Ihre Datenbank nicht über eine solche verfügt.

Knowledge validation:
– The question beneath solely takes entries from the client desk the place the customer_email_id is in a legitimate format
SELECT * FROM clients WHERE REGEXP_LIKE(customer_email_id, '^(A-Z0-9._%+-)+@(A-Z0-9.-)+.(A-Z){2,}$' );
—-----------------------------------------------------------------------------------------
Knowledge sanitization:
– Making a customized profanity_check perform to detect offensive language
CREATE OR REPLACE FUNCTION offensive_language_check(INPUT VARCHAR)
RETURNS BOOLEAN
LANGUAGE SQL
AS $$
 SELECT REGEXP_LIKE(
   INPUT
   'b(abc|...)b', — checklist of offensive phrases separated by pipe
 );
$$;
– Utilizing the customized profanity_check perform to filter out feedback with offensive language
SELECT user_comments from customer_feedback the place offensive_language_check(user_comments)=0;

(ii) PII und Schutz sensibler Daten

Ein weiterer wichtiger Aspekt beim Aufbau einer sicheren KI-Anwendung besteht darin, sicherzustellen, dass keine PII-Daten die Modellebene erreichen. Die meisten Dateningenieure arbeiten mit funktionsübergreifenden Groups zusammen, um alle PII-Spalten in Tabellen zu kennzeichnen. Es stehen auch Instruments zur Automatisierung der PII-Identifizierung zur Verfügung, die mithilfe von ML-Modellen eine Datenprofilierung durchführen und die PII-Spalten kennzeichnen können. Gängige PII-Spalten sind: Title, E-Mail-Adresse, Telefonnummer, Geburtsdatum, Sozialversicherungsnummer (SSN), Reisepassnummer, Führerscheinnummer und biometrische Daten. Weitere Beispiele für indirekte PII sind Gesundheitsinformationen oder Finanzinformationen.

Eine übliche Methode, um zu verhindern, dass diese Daten in das System gelangen, ist die Anwendung eines Anonymisierungsmechanismus. Dies kann so einfach sein wie das vollständige Entfernen der Daten oder die Verwendung ausgefeilter Maskierungs- oder Pseudonymisierungstechniken mithilfe von Hashing – etwas, das das Modell nicht interpretieren kann.

– Hashing PII information of shoppers for information privateness 
SELECT SHA2(customer_name, 256) AS encrypted_customer_name, SHA2(customer_email, 256) AS encrypted_customer_email, … FROM customer_data

(iii) Erkennung und Abschwächung von Verzerrungen

Bevor die Daten in die Modellebene gelangen, besteht ein weiterer Prüfpunkt darin, zu überprüfen, ob sie korrekt und verzerrungsfrei sind. Einige häufige Arten von Voreingenommenheit sind:

• Auswahlverzerrung: Die Eingabedaten sind unvollständig und geben nicht genau die gesamte Zielgruppe wieder.
• Überlebensbias: Es gibt mehr Daten für den glücklichen Pfad, was es für das Modell schwierig macht, an gescheiterten Szenarien zu arbeiten.
• Rassen- oder Assoziationsvoreingenommenheit: Die Daten begünstigen aufgrund früherer Muster oder Vorurteile ein bestimmtes Geschlecht oder eine bestimmte Rasse.
• Mess- oder Etikettenverzerrung: Die Daten sind aufgrund eines Etikettierungsfehlers oder einer Voreingenommenheit der Particular person, die sie aufgezeichnet hat, falsch.
• Tendenz zu seltenen Ereignissen: Den Eingabedaten fehlen alle Randfälle, sodass ein unvollständiges Bild entsteht.
• Zeitliche Voreingenommenheit: Die Eingabedaten sind veraltet und geben die aktuelle Welt nicht genau wieder.

Ich wünschte zwar auch, dass es ein einfaches System gäbe, um solche Voreingenommenheiten zu erkennen, aber das ist eigentlich reine Arbeit. Der Datenwissenschaftler muss sich hinsetzen, Abfragen ausführen und Daten für jedes Szenario testen, um etwaige Verzerrungen zu erkennen. Wenn Sie beispielsweise eine Gesundheits-App erstellen und nicht über ausreichende Daten für eine bestimmte Altersgruppe oder einen bestimmten BMI verfügen, ist die Wahrscheinlichkeit einer Verzerrung der Daten hoch.

– Figuring out if any age group information or BMI group information is lacking
choose age_group, depend(*) from users_data group by age_group;
choose BMI, depend(*) from users_data group by BMI;

(iv) Pünktliche Datenverfügbarkeit

Ein weiterer zu überprüfender Aspekt ist die Aktualität der Daten. Damit die Modelle intestine funktionieren, müssen die richtigen und relevanten Daten verfügbar sein. Einige Modelle benötigen möglicherweise Echtzeitdaten, einige erfordern nahezu Echtzeitdaten und für einige reicht Batch aus. Was auch immer Ihre Anforderungen sind, Sie benötigen ein System zur Überwachung, ob die neuesten erforderlichen Daten verfügbar sind.

Wenn Kategoriemanager beispielsweise die Preisgestaltung von Produkten jede Mitternacht basierend auf der Marktdynamik aktualisieren, müssen die Daten Ihres Modells zuletzt nach Mitternacht aktualisiert werden. Sie können Systeme einrichten, die Sie benachrichtigen, wenn Daten veraltet sind, oder Sie können eine proaktive Warnung rund um die Datenorchestrierungsebene aufbauen und die ETL-Pipelines auf Aktualität überwachen.

–Creating an alert if at present’s information isn't accessible
SELECT CASE WHEN TO_DATE(last_updated_timestamp) != TO_DATE(CURRENT_TIMESTAMP()) THEN 'FRESH' ELSE 'STALE' END AS table_freshness_status FROM product_data;

(v) Datenintegrität

Die Wahrung der Integrität ist auch für die Modellgenauigkeit von entscheidender Bedeutung. Datenintegrität bezieht sich auf die Genauigkeit, Vollständigkeit und Zuverlässigkeit von Daten. Alle alten, irrelevanten und falschen Daten im System führen dazu, dass die Ausgabe durcheinander gerät. Wenn Sie beispielsweise einen kundenorientierten Chatbot erstellen, darf dieser nur Zugriff auf die neuesten Unternehmensrichtliniendateien haben. Der Zugriff auf falsche Dokumente kann zu Halluzinationen führen, bei denen das Modell Begriffe aus mehreren Dateien zusammenführt und dem Kunden eine völlig falsche Antwort gibt. Und Sie werden trotzdem rechtlich dafür haftbar gemacht. Zum Beispiel wie Air Canada musste Fluggebühren erstatten für Kunden, deren Chatbot fälschlicherweise eine Rückerstattung versprochen hat.

Es gibt keine einfachen Methoden zur Überprüfung der Integrität. Es erfordert, dass Datenanalysten und Ingenieure sich die Hände schmutzig machen, die Dateien/Daten überprüfen und sicherstellen, dass nur die neuesten/relevanten Daten an die Modellebene gesendet werden. Die Aufrechterhaltung der Datenintegrität ist auch die beste Möglichkeit, Halluzinationen zu kontrollieren, sodass das Modell keinen Müll rein und Müll raus macht.

2. Modellebene

Nach der Datenschicht können die folgenden Prüfpunkte in die Modellschicht eingebaut werden:

(i) Benutzerberechtigungen basierend auf der Rolle

Der Schutz der KI-Modellebene ist wichtig, um unbefugte Änderungen zu verhindern, die zu Fehlern oder Verzerrungen in den Systemen führen könnten. Es ist auch erforderlich, Datenlecks zu verhindern. Sie müssen steuern, wer Zugriff auf diese Ebene hat. Ein standardisierter Ansatz hierfür ist die Einführung einer rollenbasierten Zugriffskontrolle, bei der nur Mitarbeiter mit autorisierten Rollen, wie etwa Machine-Studying-Ingenieure, Datenwissenschaftler oder Dateningenieure, auf die Modellebene zugreifen können.

Beispielsweise können DevOps-Ingenieure nur Lesezugriff haben, da sie die Modelllogik nicht ändern sollen. ML-Ingenieure können Lese-/Schreibberechtigungen haben. Die Einrichtung von RBAC ist eine wichtige Sicherheitsmaßnahme zur Aufrechterhaltung der Modellintegrität.

(ii) Voreingenommenheitsprüfungen

Der Umgang mit Bias bleibt ein kontinuierlicher Prozess. Es kann sich später in das System einschleichen, selbst wenn Sie alle notwendigen Prüfungen in der Eingabeebene durchgeführt haben. Tatsächlich neigen einige Verzerrungen, insbesondere Bestätigungsverzerrungen, dazu, sich auf der Modellebene zu entwickeln. Es handelt sich um eine Verzerrung, die auftritt, wenn ein Modell vollständig in die Daten eingepasst ist und keinen Raum für Nuancen lässt. Im Falle einer Überanpassung erfordert ein Modell eine leichte Kalibrierung. Die Spline-Kalibrierung ist eine beliebte Methode zur Modellkalibrierung. Es werden geringfügige Anpassungen an den Daten vorgenommen, um sicherzustellen, dass alle Punkte miteinander verbunden sind.

import numpy as np
import scipy.interpolate as interpolate
import matplotlib.pyplot as plt
from sklearn.metrics import brier_score_loss


# Excessive stage Steps:
#Outline enter (x) and output (y) information for spline becoming
#Set B-Spline parameters: diploma & variety of knots
#Use the perform splrep to compute the B-Spline illustration
#Consider the spline over a variety of x to generate a clean curve.
#Plot authentic information and spline curve for visible comparability.
#Calculate the Brier rating to evaluate prediction accuracy.
#Use eval_spline_calibration to judge the spline on new x values.
#As a ultimate step, we have to analyze the plot by:
# Verify for match high quality (good match, overfitting, underfitting), validating consistency with anticipated traits, and decoding the Brier rating for mannequin efficiency.


######## Pattern Code for the steps above ########


# Pattern information: Alter together with your precise information factors
x_data = np.array((...))  # Enter x values, substitute '...' with precise information
y_data = np.array((...))  # Corresponding output y values, substitute '...' with precise information


# Match a B-Spline to the information
ok = 3  # Diploma of the spline, usually cubic spline (cubic is often used, therefore ok=3)
num_knots = 10  # Variety of knots for spline interpolation, modify primarily based in your information complexity
knots = np.linspace(x_data.min(), x_data.max(), num_knots)  # Equally spaced knot vector over information vary


# Compute the spline illustration
# The perform 'splrep' computes the B-spline illustration of a 1-D curve
tck = interpolate.splrep(x_data, y_data, ok=ok, t=knots(1:-1))


# Consider the spline on the desired factors
x_spline = np.linspace(x_data.min(), x_data.max(), 100)  # Generate x values for clean spline curve
y_spline = interpolate.splev(x_spline, tck)  # Consider spline at x_spline factors


# Plot the outcomes
plt.determine(figsize=(8, 4))
plt.plot(x_data, y_data, 'o', label='Knowledge Factors')  # Plot authentic information factors
plt.plot(x_spline, y_spline, '-', label='B-Spline Calibration')  # Plot spline curve
plt.xlabel('x') 
plt.ylabel('y')
plt.title('Spline Calibration') 
plt.legend() 
plt.present()  


# Calculate Brier rating for comparability
# The Brier rating measures the accuracy of probabilistic predictions
y_pred = interpolate.splev(x_data, tck)  # Consider spline at authentic information factors
brier_score = brier_score_loss(y_data, y_pred)  # Calculate Brier rating between authentic and predicted information
print("Brier Rating:", brier_score) 


# Placeholder for calibration perform
# This perform permits for the analysis of the spline at arbitrary x values
def eval_spline_calibration(x_val):
   return interpolate.splev(x_val, tck)  # Return the evaluated spline for enter x_val

(iii) LLM als Richter

LLM (Giant Language Mannequin) als Richter ist ein interessanter Ansatz zur Validierung von Modellen, bei dem ein LLM verwendet wird, um die Ausgabe eines anderen LLM zu beurteilen. Es ersetzt manuelle Eingriffe und unterstützt die Implementierung einer Reaktionsvalidierung in großem Maßstab.

Um LLM als Richter zu implementieren, müssen Sie eine Eingabeaufforderung erstellen, die die Ausgabe bewertet. Das zeitnahe Ergebnis muss ein messbares Kriterium sein, beispielsweise eine Punktzahl oder ein Rang.

A pattern immediate for reference:
Assign a helpfulness rating for the response primarily based on the corporate’s insurance policies, the place 1 is the best rating and 5 is the bottom

Diese Eingabeaufforderungsausgabe kann verwendet werden, um das Überwachungsframework auszulösen, wenn Ausgaben unerwartet sind.

Tipp: Das Beste an den jüngsten technologischen Fortschritten ist, dass Sie nicht einmal ein LLM von Grund auf aufbauen müssen. Es stehen Plug-and-Play-Lösungen wie Meta Lama zur Verfügung, die Sie herunterladen und vor Ort ausführen können.

(iv) Kontinuierliche Feinabstimmung

Für den langfristigen Erfolg eines jeden Modells ist eine kontinuierliche Feinabstimmung unerlässlich. Hier wird das Modell regelmäßig auf Genauigkeit verfeinert. Eine einfache Möglichkeit, dies zu erreichen, ist die Einführung von Reinforcement Studying mit menschlichem Suggestions, bei dem menschliche Prüfer die Ausgabe des Modells bewerten und das Modell daraus lernt. Dieser Prozess ist jedoch ressourcenintensiv. Um dies im großen Maßstab zu tun, benötigen Sie Automatisierung.

Eine gängige Feinabstimmungsmethode ist Low-Rank Adaptation (LoRA). Bei dieser Technik erstellen Sie eine separate trainierbare Ebene, die über Logik zur Optimierung verfügt. Sie können die Ausgabegenauigkeit erhöhen, ohne das Basismodell zu ändern. Sie bauen beispielsweise ein Empfehlungssystem für eine Streaming-Plattform auf und die aktuellen Empfehlungen führen nicht zu Klicks. In der LoRA-Ebene erstellen Sie eine separate Logik, in der Sie Cluster von Zuschauern mit ähnlichen Sehgewohnheiten gruppieren und die Clusterdaten verwenden, um Empfehlungen abzugeben. Mithilfe dieser Ebene können Empfehlungen abgegeben werden, bis die gewünschte Genauigkeit erreicht wird.

3. Ausgabeebene

Dies sind einige abschließende Überprüfungen, die aus Sicherheitsgründen auf der Ausgabeebene durchgeführt werden:

(i) Inhaltsfilterung nach Sprache, Schimpfwörtern und Blockierung von Schlüsselwörtern

Ähnlich wie auf der Eingabeebene wird auch auf der Ausgabeebene eine Filterung durchgeführt, um anstößige Sprache zu erkennen. Durch diese doppelte Prüfung wird sichergestellt, dass es keine negativen Erfahrungen für den Endbenutzer gibt.

(ii) Antwortvalidierung

Einige grundlegende Überprüfungen der Modellantworten können auch durch die Erstellung eines einfachen regelbasierten Frameworks durchgeführt werden. Zu diesen Prüfungen können einfache Prüfungen gehören, z. B. die Überprüfung des Ausgabeformats, akzeptabler Werte und mehr. Dies ist sowohl in Python als auch in SQL problemlos möglich.

– Easy rule-based checking to flag invalid response
choose
CASE
WHEN <condition_1> THEN ‘INVALID’
WHEN <condition_2> THEN ‘INVALID’
ELSE ‘VALID’  END as OUTPUT_STATUS
from
output_table;

(iii) Vertrauensschwelle und Human-in-Loop-Auslöser

Kein KI-Modell ist perfekt, und das ist in Ordnung, solange Sie bei Bedarf einen Menschen einbeziehen können. Es stehen KI-Instruments zur Verfügung, mit denen Sie fest programmieren können, wann Sie KI verwenden und wann Sie einen Human-in-the-Loop-Set off auslösen müssen. Es ist auch möglich, diese Aktion durch die Einführung eines Konfidenzschwellenwerts zu automatisieren. Wenn das Modell ein geringes Vertrauen in die Ausgabe zeigt, leiten Sie die Anfrage an einen Menschen weiter, um eine genaue Antwort zu erhalten.

import numpy as np
import scipy.interpolate as interpolate
# One choice to generate a confidence rating is utilizing the B-spline or its derivatives for the enter information
# scipy has interpolate.splev perform takes two primary inputs:
# 1. x: The x values at which you need to consider the spline 
# 2. tck: The tuple (t, c, ok) representing the knots, coefficients, and diploma of the spline. This may be generated utilizing make_splrep (or the older perform splrep) or manually constructed
# Generate the boldness scores and take away the values exterior 0 and 1 if current
predicted_probs = np.clip(interpolate.splev(input_data, tck), 0, 1)

# Zip the rating with enter information
confidence_results = checklist(zip(input_data, predicted_probs))

# Provide you with a threshold and establish all inputs that don't meet the edge, and use it for guide verification
threshold = 0.5
filtered_results = ((i, rating) for i, rating in confidence_results if rating <= threshold)

# Information that may be routed for guide/human verification
for i, rating in filtered_results:
   print(f"x: {i}, Confidence Rating: {rating}")

(iv) Kontinuierliche Überwachung und Alarmierung

Wie jede Softwareanwendung benötigen auch KI-Modelle ein Protokollierungs- und Warnsystem, das die erwarteten (und unerwarteten) Fehler erkennen kann. Mit dieser Leitplanke verfügen Sie über eine detaillierte Protokolldatei für jede Aktion und eine automatische Benachrichtigung, wenn etwas schief geht.

(v) Einhaltung gesetzlicher Vorschriften

Ein Großteil der Compliance-Abwicklung findet weit vor der Ausgabeebene statt. Rechtlich akzeptable Anwendungsfälle werden in der ersten Section der Anforderungserfassung selbst finalisiert. Alle sensiblen Daten werden in der Eingabeschicht gehasht. Darüber hinaus können regulatorische Anforderungen, wie z. B. die Verschlüsselung von Daten, in der Ausgabeschicht mit einem einfachen regelbasierten Framework durchgeführt werden.

Bringen Sie KI mit menschlichem Fachwissen in Einklang

Leitplanken helfen Ihnen, das Beste aus der KI-Automatisierung herauszuholen und gleichzeitig die Kontrolle über den Prozess zu behalten. Ich habe alle gängigen Arten von Leitplanken behandelt, die Sie möglicherweise auf verschiedenen Ebenen eines Modells festlegen müssen.

Darüber hinaus können Sie auch eine Leitplanke festlegen, wenn Sie auf einen Faktor stoßen, der sich auf die erwartete Ausgabe des Modells auswirken könnte. Bei diesem Artikel handelt es sich nicht um eine feste Formel, sondern um einen Leitfaden zur Identifizierung (und Behebung) der häufigsten Hindernisse. Am Ende muss Ihre KI-Anwendung das tun, wofür sie gedacht ist: die geschäftige Arbeit ohne Kopfschmerzen automatisieren. Und Leitplanken helfen dabei.

Werden Sie ein effektiver Weg, um LLMs für die Problemlösung zu verwenden. Quick wöchentlich sehen Sie ein neues großes KI -Forschungslabor, das LLMs mit bestimmten agierenden Funktionen veröffentlicht. Der Aufbau eines wirksamen Agenten für die Produktion ist jedoch viel komplizierter als er scheint. Ein Agent benötigt Leitplanken, spezifische Workflows und die ordnungsgemäße Fehlerbehandlung, bevor sie für die Produktionsnutzung wirksam sind. In diesem Artikel hebe ich hervor, worüber Sie nachdenken müssen, bevor Sie Ihren AI -Agenten für die Produktion bereitstellen, und wie Sie eine effektive KI -Anwendung mit Agenten erstellen.

Inhaltsverzeichnis

Wenn Sie etwas über Context Engineering kennenlernen möchten, können Sie meinen Artikel über lesen Kontext -Engineering für Fragen Antwortsystemeoder Verbesserung von LLMs mit Kontextetechnik.

Motivation

Meine Motivation für diesen Artikel ist, dass KI -Agenten in letzter Zeit unglaublich stark und effektiv geworden sind. Wir sehen immer mehr LLMs veröffentlicht, die speziell für agentenverhalten geschult sind, wie z. Qwen 3wo verbesserte Agentenfähigkeiten ein wichtiger Höhepunkt der neuen LLM -Veröffentlichung von Alibaba waren.

Viele On-line -Tutorials zeigen, wie einfach das Einrichten eines Agenten jetzt mit Frameworks wie der Fall ist, z. B. Langgraph. Das Drawback ist jedoch, dass diese Tutorials für das Agentenversuche ausgelegt sind und nicht für die Verwendung von Agenten in der Produktion. Die effektive Verwendung von KI -Agenten in der Produktion ist viel schwieriger und erfordert die Lösung von Herausforderungen, denen Sie beim experimentellen Experimentieren mit Agenten vor Ort nicht wirklich konfrontiert sind. Der Fokus dieses Artikels wird daher darauf liegen, wie produktionsbereite KI-Agenten erstellt werden können

Leitplanken

Die erste Herausforderung, die Sie bei der Bereitstellung von AI -Agenten für die Produktion lösen müssen, besteht darin, Leitplanken zu haben. Leitplanken sind im On-line -Bereich ein vage definierter Begriff, daher werde ich meine eigene Definition für diesen Artikel anbieten.

LLM -Leitplanken beziehen sich auf das Konzept der Sicherstellung von LLMS -Handeln in ihren zugewiesenen Aufgaben, halten Anweisungen und führen keine unerwarteten Aktionen aus.

Die Frage ist jetzt: Wie richten Sie Leitplanken für Ihre KI -Agenten ein? Hier sind einige Beispiele für die Einrichtung von Leitplanken:

• Begrenzen Sie die Anzahl der Funktionen, auf die ein Agent zugreifen kann
• Begrenzen Sie die Zeit, die ein Agent funktionieren kann, oder die Anzahl der Toolsaufrufe, die er ohne menschliche Intervention tätigen kann
• Lassen Sie den Agenten bei der Ausführung gefährlicher Aufgaben um menschliche Aufsicht bitten, z. B. das Löschen von Objekten

Solche Leitplanken stellen sicher, dass Ihr Agent innerhalb seiner entworfenen Verantwortlichkeiten wirkt und keine Probleme verursacht wie:

• Übertriebene Wartezeiten für Benutzer
• Große Wolkenrechnungen aufgrund der extremen Token -Nutzung (kann auftreten, wenn beispielsweise ein Agent in einer Schleife steckt)

Darüber hinaus sind Leitplanken wichtig, um sicherzustellen, dass der Agent auf Kurs bleibt. Wenn Sie Ihrem AI -Agenten zu viele Optionen bereitstellen, ist es wahrscheinlich, dass der Agent seine Aufgabe nicht erfüllt. Aus diesem Grund befasst sich mein nächster Abschnitt zum Thema der Minimierung der Optionen der Agenten durch die Verwendung bestimmter Workflows.

Den Agenten durch Problemlösung führen

Ein weiterer tremendous wichtiger Punkt bei der Verwendung von Agenten in der Produktion besteht darin, die Anzahl der Optionen zu minimieren, auf die der Agent zugreifen kann. Sie können sich vorstellen, dass Sie einfach einen Agenten erstellen können, der sofort Zugriff auf alle Ihre Instruments hat und somit einen effektiven KI -Agenten erstellen kann.

Leider funktioniert dies selten in der Praxis: Agenten bleiben in Schleifen stecken, können nicht die richtige Funktion auswählen und kämpfen, um sich von früheren Fehlern zu erholen. Die Lösung hierfür besteht darin, den Agenten durch seine Problemlösung zu führen. In Anthropics Aufbau effektiver KI -AgentenDies wird als als bezeichnet als immediate ChaIning und wird auf agierische Workflows angewendet, die Sie in verschiedene Schritte zerlegen können. Nach meiner Erfahrung haben die meisten Workflows dieses Attribut, und dieses Prinzip ist daher für die meisten Probleme related, die Sie mit Agenten lösen können.

Ich werde die Erklärung durch ein Beispiel verbessern:

Aufgabe: Rufen Sie Informationen zu Standort-, Zeit- und Kontaktpersonen aus jeder Liste von 100 Verträgen ab. Präsentieren Sie dann die fünf neuesten Verträge in einem Tabellenformat

Schlechte Lösung: Fordern Sie einen Agenten auf, die Aufgabe vollständig auszuführen. Daher versucht dieser Agent, alle Verträge zu lesen, die relevanten Informationen abzurufen und sie in einem Tabellenformat zu präsentieren. Das wahrscheinlichste Ergebnis ist, dass der Agent Ihnen falsche Informationen präsentiert.

Richtige Lösung: Zersetzen Sie das Drawback in mehrere Schritte.

1. Informationen zum Abholen von Informationen (Abrufen aller Standorte, Zeiten und Kontaktpersonen)
2. Informationsfilterung (Filter, um nur die fünf neuesten Verträge beizubehalten)
3. Informationspräsentation (Präsentieren Sie die Ergebnisse in einer Tabelle)

Darüber hinaus können Sie zwischen den Schritten einen Validator haben, um sicherzustellen, dass die Aufgabe abgeschlossen ist (stellen Sie sicher, dass Sie Informationen aus allen Dokumenten usw. abgerufen haben).

Für Schritt eins haben Sie wahrscheinlich eine spezifische Subagent für Informationsextraktion und wenden sie auf alle 100 Verträge an. Dies sollte Ihnen eine Tabelle mit 3 Spalten und 100 Zeilen bieten, wobei jede Zeile einen Vertrag mit Standort, Zeit und Kontaktperson enthält.

Schritt zwei umfasst einen Informationsfilterschritt, bei dem ein Agent den Tisch durchschaut und einen Vertrag abfiltert, der nicht in den Prime 5 neuesten Verträgen ist. Der letzte Schritt zeigt diese Ergebnisse einfach in einer schönen Tabelle mit dem Markdown -Format.

Der Trick besteht darin, diesen Workflow vorher zu generieren, um das Drawback zu vereinfachen. Anstelle eines Agenten, der diese drei Schritte selbst herausfindet, erstellen Sie eine Informationsextraktion und filtern den Workflow mit den drei vordefinierten Schritten. Sie können diese drei Schritte dann verwenden, zwischen jedem Schritt eine gewisse Validierung hinzufügen und eine effektive Informationsextraktions- und Filtervermittlung haben. Anschließend wiederholen Sie diesen Vorgang für alle anderen Workflows, die Sie durchführen möchten.

Fehlerbehandlung

Die Handhabung der Agenten ist ein wichtiger Bestandteil der Aufrechterhaltung effektiver Produktionsmittel. Im letzten Beispiel können Sie sich vorstellen, dass der Informationsextraktionsagent keine Informationen aus 3/100 Verträgen abruft. Wie gehst du damit um?

Ihr erster Ansatz sollte sein, Wiederholungslogik hinzuzufügen. Wenn ein Agent eine Aufgabe nicht erledigt, wird es nicht mehr ausgeführt, bis es entweder erfolgreich die Aufgabe ausführt oder ein maximales Wiederholungsgrenze erreicht. Sie müssen jedoch auch wissen, wann Sie wiederholen müssen, da der Agent möglicherweise keinen Codefehler erfährt, sondern die falschen Informationen holt. Dafür benötigen Sie eine ordnungsgemäße LLM -Ausgangsvalidierung, über die Sie in meinem Artikel mehr erfahren können Große LLM -Validierung.

Die im letzten Absatz definierte Fehlerbehandlung kann mit einfachen Strive/Catch -Anweisungen und einer Validierungsfunktion behandelt werden. Es wird jedoch komplizierter, wenn man bedenkt, dass einige Verträge möglicherweise korrupt sind oder nicht die richtigen Informationen enthalten. Stellen Sie sich beispielsweise vor, wenn einer der Verträge die Kontaktperson enthält, aber die Zeit fehlt. Dies stellt ein weiteres Drawback auf, da Sie den nächsten Schritt der Aufgabe (Filterung) ohne Zeit nicht ausführen können. Um solche Fehler zu behandeln, sollten Sie vordefiniert haben, was mit fehlenden oder unvollständigen Informationen passiert. Eine einfache und effektive Heuristik besteht darin, alle Verträge zu ignorieren, die Sie nach zwei Wiederholungen nicht alle drei Informationspunkte (Ort, Zeit und Kontaktperson) extrahieren können.

Ein weiterer wichtiger Bestandteil des Fehlerbehandlungs ist es, Probleme wie:

• Token -Grenzen
• Langsame Reaktionszeiten

Wenn Sie bei Hunderten von Dokumenten Informationenextraktion durchführen, werden Sie unweigerlich Probleme haben, bei denen Sie ratebegrenzt sind oder dass die LLM die Reaktion lange dauert. Normalerweise empfehle ich die folgenden Lösungen:

• Token -Grenzen: Erhöhen Sie die Grenzen so weit wie möglich (LLM -Anbieter sind hier normalerweise ziemlich streng) und verwenden Sie exponentielle Backoffs
• Warten Sie immer LLM -Anrufe, wenn möglich. Dies kann zu Problemen führen, wenn die sequentielle Verarbeitung länger dauert. Dies wird jedoch viel einfacher, um Ihre Agentenanwendung zu erstellen. Wenn Sie wirklich eine erhöhte Geschwindigkeit benötigen, können Sie dies später dafür optimieren.

Ein weiterer wichtiger Aspekt ist das Checkpointing. Wenn Ihr Agent über 1 Minute Aufgaben ausführt, ist Checkpointing wichtig, da Sie bei einem Fehler nicht möchten, dass Ihr Modell von Grund auf neu startet. Dies führt normalerweise zu einer schlechten Benutzererfahrung, da der Benutzer einen längeren Zeitraum warten muss.

Debuggen Sie Ihre Agenten

Ein letzter wichtiger Schritt beim Aufbau von AI -Agenten ist die Debugie Ihrer Agenten. Mein Hauptpunkt zum Debuggen von Verbindungen zu einer Nachricht, die ich in mehreren Artikeln geteilt habe, gepostet von Greg Brockman auf X:

Die manuelle Überprüfung der Daten hat wahrscheinlich das höchste Verhältnis von Wert zu Prestig für jede Aktivität im maschinellen Lernen.

– Greg Brockman (@gdb) 6. Februar 2023

Der Tweet bezieht sich in der Regel auf ein Normal-Klassifizierungsproblem, in dem Sie Ihre Daten überprüfen, um zu verstehen, wie ein maschinelles Lernsystem die Klassifizierung durchführen kann. Ich finde jedoch, dass der Tweet auch sehr intestine für das Debuggen Ihrer Agenten gilt:

Sie sollten die Eingabe-, Denk- und Ausgabe -Token, die Ihre Agenten verwenden, manuell inspizieren, um eine Reihe von Aufgaben zu erledigen.

Dies wird Ihnen helfen, zu verstehen, wie sich der Agent einem bestimmten Drawback nähert, den Kontext, den der Agent zur Lösung des Issues und der Lösung, die der Agent erstellt. Die Antwort auf die meisten Probleme, mit denen Ihr Agent konfrontiert ist, ist normalerweise in einem dieser drei Tokensätze (Eingabe, Denken, Ausgabe) enthalten. Ich habe bei der Verwendung von LLMs zahlreiche Probleme gefunden, indem ich einfach 20 API -Anrufe beiseite gestellt habe, die ich getätigt habe, den gesamten Kontext durchgemacht habe, den ich dem Agenten sowie den Ausgabe -Token zur Verfügung gestellt habe und dann schnell merkte, wo ich zum Beispiel falsch gelaufen bin:

• Ich fütterte einen doppelten Kontext in meine LLM, wodurch es bei der folgenden Anweisungen schlimmer wurde
• Die Pondering Tokens zeigten, wie die LLM die Aufgabe, die ich zur Verfügung stellte, missverstanden, was darauf hinweist, dass meine Systemaufforderung unklar struggle.

Insgesamt empfehle ich auch, mehrere Testaufgaben für Ihre Agenten zu erstellen, mit einer Bodenwahrheit. Sie können dann Ihre Agenten einstellen, sicherstellen, dass sie alle Testfälle bestehen können, und sie dann in die Produktion freigeben.

Abschluss

In diesem Artikel habe ich diskutiert, wie Sie effektive Produktionsbereitungen entwickeln können. Viele On-line -Tutorials decken darüber, wie Sie Agenten in nur wenigen Minuten vor Ort einrichten können. Es ist jedoch in der Regel eine viel größere Herausforderung, Agenten für die Produktion erfolgreich einzusetzen. Ich habe besprochen, wie Sie Leitplanken verwenden müssen und den Agenten durch Problemlösungs- und effektive Fehlerbehandlung führen müssen, um erfolgreich Agenten in der Produktion zu haben. Zuletzt habe ich auch darüber gesprochen, wie Sie Ihre Agenten debuggen können, indem Sie die von ihm bereitgestellten Eingabe- und Ausgabetken manuell inspizieren.

Finden Sie mich in Socials:

Sich in Verbindung setzen

LinkedIn

X / Twitter

Medium

Richtige Belegschaft

Um eine höhere Effizienz des KI-Modells zu erzielen, ist es wichtig zu wissen, welche Aufgaben Ihre Konversations-KI effektiv erfüllen kann. Konversations-KIs sind in der Regel besser darin, sich wiederholende Aufgaben auszuführen und komplizierte Gespräche in einfache Interaktionen umzuwandeln. Stellen Sie daher unbedingt diese Fragen, bevor Sie Aufgaben mit Conversational AI automatisieren:

• Erfordert der Prozess, den Sie mit dem KI-Modell automatisieren, einen einfachen oder kreativen Kommunikationsansatz?
• Wie hoch ist das Arbeitsvolumen, das Sie automatisieren? (Achten Sie darauf, sich wiederholende Prozesse zu automatisieren, die Ihre Mitarbeiter stark belasten.)

Mit Technologien wie Pure Language Understanding und Named Entity Recognition ist Conversational AI bei der Handhabung komplexer Interaktionen weiter fortgeschritten. Daher wird die Entwicklung Ihres KI-Modells gemäß den gegebenen Hinweisen Ihren KI-Assistenten bei der Erledigung mühsamer Aufgaben effizient machen und optimale Prozessergebnisse erzielen.

KI-Agenten sind hochintelligente Softwareprogramme, die unabhängig agieren können, um bei verschiedenen Aufgaben zu helfen. Diese Agenten sind nicht nur in der Lage, Aufgaben selbstständig zu erledigen; Sie sind außerdem hervorragend darin, Daten zu analysieren, Vorhersagen zu treffen und die besten Maßnahmen zu empfehlen. Dies kann in vielen Branchen, einschließlich Vertrieb und Advertising, ein großer Vorteil sein.

Im Advertising können KI-Agenten beispielsweise Kundenpräferenzen analysieren, verstehen, woran einzelne Kunden interessiert sind, und dann bei der Erstellung personalisierter Marketingkampagnen speziell für sie helfen. Durch diese Artwork der Individualisierung fühlen sich die Kunden wertgeschätzter und engagierter, was häufig zu höherer Zufriedenheit und besseren Geschäftsergebnissen führt.

Ein interessantes Framework für die Organisation und Nutzung von KI-Agenten ist CrewAI, das auf einer Plattform namens Langchain basiert. In diesem System werden verschiedenen Agenten unterschiedliche Aufgaben zugewiesen, aber sie arbeiten alle als einheitliches Group auf ein gemeinsames Ziel hin. Jeder Agent hat seine eigene spezialisierte Rolle, aber sie arbeiten nahtlos zusammen, um die Arbeit effizient und effektiv zu erledigen.

In diesem Artikel werden wir untersuchen, wie diese KI-Agenten mithilfe der CrewAI-Frameworkkann verwendet werden, um personalisierte Kurse für Studenten eines Edtech-Unternehmens zu empfehlen. Durch die Nutzung der Fähigkeiten von KI-AgentenEdtech-Plattformen können Schülern Kursempfehlungen anbieten, die ihren Lernbedürfnissen und Interessen entsprechen und so ihre Bildungserfahrung verbessern.

Lernziele

• Die Komponenten verstehen CrewAI.
• Erstellung von Empfehlungskampagnen für Studenten mithilfe von Agenten.
• Analyse generierter Kampagnen.

Dieser Artikel wurde im Rahmen der veröffentlicht Information Science-Blogathon.

Komponenten von CrewAI – Agenten, Aufgaben & Crew

Agenten

Agenten sind unabhängige, selbstgesteuerte Einheiten, die bestimmte Aufgaben ausführen, Entscheidungen treffen und dynamisch mit anderen Agenten in einem System interagieren sollen. Jeder Agent arbeitet autonom, was bedeutet, dass er seine Umgebung analysieren, auf Eingaben reagieren und basierend auf seiner Programmierung und seinen Zielen Entscheidungen treffen kann. Was Agenten besonders leistungsfähig macht, ist ihre Fähigkeit, eine breite Palette von Instruments zu nutzen. Diese Instruments reichen von einfachen Suchfunktionen zum Datenabruf bis hin zu erweiterten Integrationen mit anderen Agenten, APIs und sogar ganzen Blockchain-Netzwerken. Diese Fähigkeit ermöglicht es Agenten, komplexe Aufgaben auszuführen, die die Erfassung von Daten in Echtzeit, Entscheidungsfindung und die Zusammenarbeit mehrerer Agenten umfassen.

Aufgaben

Aufgaben beziehen sich auf die spezifischen Aufgaben oder Pflichten, für deren Ausführung ein KI-Agent verantwortlich ist. Diese Aufgaben können sehr unterschiedlich sein und von der Datenanalyse über die Entscheidungsfindung bis hin zu direkten Aktionen wie der Steuerung externer Systeme oder dem Anstoßen von Prozessen in integrierten Plattformen reichen. Jede Aufgabe ist häufig in Teilaufgaben unterteilt, für die möglicherweise spezielle Instruments oder der Zugriff auf bestimmte Ressourcen erforderlich sind. Darüber hinaus können Aufgaben so gestaltet werden, dass sie spezifische Particulars enthalten, z. B. die Identifizierung des Agenten, der für eine bestimmte Aufgabe verantwortlich ist, und die Beschreibung der erforderlichen Instruments, Prozesse und Ausführungspfade. Das Aufgabenmanagement in einem agentenbasierten System sorgt für effiziente Arbeitsabläufe und präzise Ergebnisse.

Crew

Eine Crew ist eine kollaborative Gruppe von Agenten, die zusammenarbeiten, um ein gemeinsames Ziel zu erreichen. Anstatt unabhängig zu agieren, werden Crew-Agenten auf der Grundlage ihrer einzigartigen Fähigkeiten und Rollen organisiert, um sicherzustellen, dass sie gemeinsam komplexere und vielschichtigere Probleme angehen können. Der Prozess der Teambildung umfasst nicht nur die Zusammenstellung der richtigen Gruppe von Agenten, sondern auch die Definition ihrer jeweiligen Rollen, die Zuweisung von Aufgaben und die Koordinierung ihrer Bemühungen. Diese Organisation ist wichtig, um sicherzustellen, dass Aufgaben in der richtigen Reihenfolge erledigt werden, insbesondere wenn Abhängigkeiten zwischen den Aktionen verschiedener Agenten bestehen. Eine intestine organisierte Crew kann die Leistung erheblich steigern, indem sie die Fachkenntnisse jedes einzelnen Agenten nutzt und gleichzeitig eine synchronisierte Ausführung gewährleistet.

Lesen Sie auch: Die vier wichtigsten Agenten-KI-Entwurfsmuster für die Architektur von KI-Systemen

Problembeschreibung: Erstellung von Empfehlungskampagnen für Studenten mithilfe von Agenten

Stellen Sie sich vor, Sie leiten ein Bildungsberatungsunternehmen und möchten Ihren Schülern die besten Kurse basierend auf deren Abschlüssen, akademischen Zielen, Hobbys und Computerkenntnissen vorschlagen. Wie entscheiden Sie, welche Kurse Sie jedem Studenten empfehlen? Beispielsweise wäre es logischer, einem Studenten, der Umweltwissenschaften studiert, einen Kurs über Klimawandel vorzuschlagen, statt einen mit Hauptfach Informatik.

Der Profildatensatz des Studenten sieht wie folgt aus:

Die mögliche Liste der Kurse, die zur Empfehlung an die Studierenden herangezogen werden sollten, könnte wie folgt aussehen:

Unsere erste Crew besteht aus den folgenden KI-Agenten, mit deren Hilfe wir zunächst die drei besten passenden Kurse für jeden der Studierenden in unserem Datensatz generieren –

• Hauptempfehlungsdirektor: KI-Agent, der die Hauptaufgabe übernimmt und die Arbeit anderer überwacht
• Studentenprofiler: KI-Agent, um die Profile der verschiedenen Schüler zu verstehen
• Kursspezialist: KI-Agent, der dabei helfen kann, jedem Studenten die passenden Kurse zuzuordnen

Python-Implementierung

Installieren und importieren Sie die erforderlichen Bibliotheken

Beginnen wir zunächst mit der Set up der benötigten Python-Bibliotheken –

!pip set up crewai
!pip set up langchain_openai

Als nächstes importieren wir alle erforderlichen Python-Bibliotheken:

import os
import re
import json
import pandas as pd
from tqdm import tqdm
from crewai import Agent, Job, Crew, Course of
from langchain_openai import ChatOpenAI
from textwrap import dedent

Definieren Sie das LLM-Modell mit dem API-Schlüssel

Anschließend definieren wir das zu verwendende LLM-Modell und den jeweiligen API-Schlüssel. Wir können mit jedem LLM-Modell unserer Wahl prüfen. Hier haben wir gpt-3.5-turbo-16k verwendet.

import os
openai_api_key = ''
os.environ('OPENAI_API_KEY') = openai_api_key
llm = ChatOpenAI(
    mannequin="gpt-3.5-turbo-16k",
    temperature=0.1,
    max_tokens=8000
)

Zu verwendende Datensätze definieren

Als nächstes definieren wir die CSV-Datei für die Studentenprofildaten und auch die Liste der Produkte/Kurse, die den Studenten empfohlen werden sollen:

csv = '''Educational Targets, Main, Hobbies, Laptop Expertise, Curiosity in Languages, GPA
To turn out to be a software program engineer, Laptop Science, Gaming, Superior, Spanish, 3.7
To check environmental science, Environmental Science, Mountaineering, Intermediate, French, 3.5
To pursue a profession in drugs, Pre-Med, Enjoying the piano, Superior, Spanish, 3.9
To main in psychology, Psychology, Studying, Intermediate, German, 3.6
To work in worldwide relations, Political Science, Touring, Fundamental, Mandarin, 3.8
To turn out to be a trainer, Training, Portray, Superior, Spanish, 3.4
To check literature, English Literature, Writing, Intermediate, French, 3.9
To pursue a profession in enterprise, Enterprise Administration, Enjoying soccer, Fundamental, Mandarin, 3.5
To turn out to be a biologist, Biology, Pictures, Superior, German, 3.7
To work in knowledge evaluation, Statistics, Cooking, Intermediate, Japanese, 3.6
'''
#creating the df_customers dataframe
from io import StringIO
# Convert String into StringIO
csvStringIO = StringIO(csv)
df_customers = pd.read_csv(csvStringIO, sep=",")


merchandise=""'
"Introduction to Laptop Science" - Provided by Harvard College on edX
"Biology: Life on Earth" - Provided by Coursera
"Introduction to Psychology" - Provided by Yale College on Coursera
"Environmental Science" - Provided by College of Leeds on FutureLearn
"Introduction to Literature" - Provided by MIT on edX
"Medical Terminology" - Provided by College of Pittsburgh on Coursera
"Information Science and Machine Studying" - Provided by Stanford College on Coursera
"Cell Biology" - Provided by Massachusetts Institute of Expertise on edX
"Optimistic Psychology" - Provided by College of North Carolina at Chapel Hill on Coursera
"Environmental Legislation and Coverage" - Provided by Vermont Legislation College on Coursera
"Programming for Everyone (Getting Began with Python)" - Provided by College of Michigan on Coursera
"Anatomy: Human Neuroanatomy" - Provided by College of Michigan on Coursera
"Introduction to Cognitive Psychology" - Provided by Duke College on Coursera
"Local weather Change and Well being: From Science to Motion" - Provided by Harvard College on edX
"English for Science, Expertise, Engineering, and Arithmetic" - Provided by College of Pennsylvania on Coursera
"An Introduction to American Legislation" - Provided by College of Pennsylvania on Coursera
"Introduction to Chemistry: Reactions and Ratios" - Provided by Duke College on Coursera
"Epidemiology: The Fundamental Science of Public Well being" - Provided by College of North Carolina at Chapel Hill on Coursera
"Laptop Science: Programming with a Function" - Provided by Princeton College on Coursera
"Introduction to Statistics and Information Evaluation" - Provided by Rice College on Coursera
"Genes and the Human Situation (From Conduct to Biotechnology)" - Provided by College of Maryland on Coursera
"Ethics, Expertise, and the Way forward for Medication" - Provided by Georgetown College on edX
"Fundamentals of Immunology" - Provided by Harvard College
'''

Definieren Sie die zu verwendenden Agenten

Nachdem wir dies veröffentlicht haben, beginnen wir mit der Definition der verschiedenen KI-Agenten für unsere erste Crew. Jeder KI-Agent benötigt eine Rolle, ein Ziel und eine Hintergrundgeschichte, wie unten im Codeblock dargestellt:

student_profiler = Agent(
  function="student_profiler",
  objective=""'From restricted knowledge, you logically deduct conclusions about college students.''',
  backstory='You're an skilled psychologist with a long time of expertise.',
  llm = llm,allow_delegation=False,verbose=True)



course_specialist = Agent(
     function="course specialist",
     objective=""'Match the acceptable course to the scholars''',
     backstory='You could have distinctive information of the programs and may say how useful they're to a scholar.',
     llm = llm,allow_delegation=False,verbose=True)


Chief_Recommendation_Director = Agent(
     function="Chief Recomeendation Director",
     objective=dedent("""Oversee the work finished by your group to verify it is the very best
		attainable and aligned with the course's targets, evaluate, approve,
		ask clarifying query or delegate comply with up work if essential to make
		choices"""),
     backstory=dedent("""You are the Chief Promotion Officer of a big EDtech firm. You are launching a personalised advert marketing campaign,
          attempting to verify your group is crafting the very best
	  content material for the client."""),
     llm = llm,instruments=(),allow_delegation=False, verbose=True)

Die zweite Crew wird verwendet, um einen Empfehlungstext für die einem Studenten empfohlenen Kurse zu erstellen.

campaign_agent = Agent(
     function="campaign_agent",
     objective=dedent("""Develop compelling and progressive content material
		for advert campaigns, with a spotlight buyer particular advert copies."""),
     backstory=dedent("""As a Inventive Content material Creator at a top-tier
			digital advertising and marketing company, you excel in crafting ads
			that resonate with potential prospects.
			Your experience lies in turning advertising and marketing methods
			into participating tales that seize
			consideration and encourage shopping for motion."""),
     llm = llm,allow_delegation=False, verbose=True)#import csv

Definieren Sie Aufgaben für jeden Agenten

Der oben genannte Agent arbeitet mit dem vorherigen Agenten in einer neuen Crew. Definieren wir nun die Aufgaben, die jeder Agent ausführen wird.

def get_ad_campaign_task(agent, customer_description, merchandise):
  return Job(description=dedent(f"""
    You are making a focused advertising and marketing marketing campaign tailor-made to what we learn about our scholar prospects.

    For every scholar buyer, we now have to decide on precisely three programs to advertise within the subsequent marketing campaign.
    Make certain the choice is the very best and aligned with the coed buyer,
	  evaluate, approve, ask clarifying query or delegate comply with up work if
		essential to make choices. When delegating work ship the total draft
		as a part of the knowledge.
    That is the listing of all of the programs collaborating within the marketing campaign: {merchandise}.
    That is all we all know so removed from the coed buyer: {customer_description}.

    To begin this marketing campaign we might want to construct first an understanding of our scholar buyer.
    As soon as we now have a profile in regards to the scholar prospects pursuits, life-style and means and desires,
    we now have to pick precisely three programs which have the best likelihood to be purchased by them.

    Your last reply MUST be precisely 3 programs from the listing, every with a brief description
    why it matches with this scholar buyer. It should be formatted like this instance:
     :
     :
     :
    """),
    agent=agent,expected_output="A refined finalized model of the advertising and marketing marketing campaign in markdown format"
  )



def get_ad_campaign_written_task(agent, choice):
    return Job(description=dedent(f"""
    You are making a focused advertising and marketing marketing campaign tailor-made to what we learn about our scholar buyer.

    For every scholar buyer, we now have chosen three programs to advertise within the subsequent marketing campaign.
    This choice is tailor-made particularly to the client: {choice},

    To finish this marketing campaign succesfully we are going to want a promotional message promoting these programs  to the coed buyer with the last word intent that they purchase from us.
    This message needs to be round 3 paragraphs, in order that it may be simply built-in into the total letter. For instance:
    Concerned about studying knowledge science, get your self enrolled on this course from Harvard College.
    Take Your profession to the subsequent stage with the assistance of this course.

    It's essential to evaluate, approve, and delegate comply with up work if essential to have the entire promotional message. When delegating work ship the total draft
		as a part of the knowledge.

    Your last reply MUST embrace the three merchandise from the listing, every with a brief promotional message.
    """),
    agent=agent,expected_output="A refined finalized model of the advertising and marketing marketing campaign in markdown format"
  )

Durchlaufen Sie jede Zeile des Scholar Profile DataFrame

Jeder Agent ist mit einem verknüpft LLM-Modell. Hier haben wir das ‚ verwendetgpt-3.5-turbo-16k‚ Modell. Lassen Sie uns nun den gesamten Prozess für jede Zeile unseres Studentenprofildatensatzes ausführen:

df_output_list = () #to retailer outcomes

for index, row in df_customers.iterrows():
  print('############################################## '+ str(index))
  customer_description = f'''
  Their tutorial targets are {row('Educational Targets')}.
  Their main is in {row(' Main')}.
  Their Hobbies are {row(' Hobbies')}.
  Their pc expertise are {row(' Laptop Expertise')}.
  Their curiosity in languages are {row(' Curiosity in Languages')}.
  Their GPA is {row(' GPA')}.
  '''
  print(customer_description)
  
  #Outline Job 1 for choosing prime 3 related merchandise
  
  task1 = get_ad_campaign_task(Chief_Recommendation_Director ,customer_description, merchandise)
  #begin crew
  targetting_crew = Crew(
    brokers=(student_profiler, course_specialist ,Chief_Recommendation_Director ),
    duties=(task1),
    verbose=True, 
  course of=Course of.sequential # Sequential course of can have duties executed one after the opposite and the result of the earlier one is handed as additional content material into this subsequent.
  )
  targetting_result = targetting_crew.kickoff()
  
  #Outline Job 2 for Producing Suggestion Marketing campaign
  
  task2 = get_ad_campaign_written_task(Chief_Recommendation_Director ,targetting_result)
  copywriting_crew = Crew(
    brokers=(campaign_agent,Chief_Recommendation_Director ),
    duties=(task2),
    verbose=True, 
  course of=Course of.sequential # Sequential course of can have duties executed one after the opposite and the result of the earlier one is handed as additional content material into this subsequent.
  )
  copywriting_result = copywriting_crew.kickoff()
  #create one line in output df
  df_output_list.append({'buyer':customer_description,
                         'targeted_products':targetting_result,
                         'promo_msg':copywriting_result,
                        })

#loop ended, acquire leads to dataframe
df_output = pd.DataFrame(df_output_list)

Die Ausgabe in einem Pandas-Datenrahmen sieht mit dem generierten Empfehlungstext in der letzten Spalte von „promo_msg“ wie folgt aus:

Analyse generierter Kampagnen

Schauen wir uns ein Studentenprofil und die mithilfe von Crew AI generierte Kampagne im Element an.

Betrachten wir das Profil des folgenden Studenten:

Der Produktspezialist hat die folgenden Kurse basierend auf dem Profil des Studenten ausgewählt – – Studienziele: Hauptfach Psychologie

Das zweite Group, das einen Empfehlungstext für die einem Studenten empfohlenen Kurse erstellte, verfasste die folgenden Empfehlungsnachrichten:

Abschluss

In diesem Artikel haben wir gesehen, dass KI-Agenten mithilfe detaillierter Kundenprofile kluge Entscheidungen bei der Auswahl der besten Produkte für Kunden treffen können. Diese Profile berücksichtigen die Merkmale verschiedener Kunden, einschließlich ihrer Entscheidungen und Vorlieben. Durch die Analyse dieser Profile können die KI-Agenten personalisierte Empfehlungen für jeden Kunden generieren. Zusätzlich, KI-Agenten arbeiten wie eine intestine geölte Maschine zusammen, sorgen für eine verbesserte Ausgabequalität und führen zu genauen und logischen Entscheidungen. Mit Open-Supply-Frameworks wie CrewAIkönnen Benutzer Anweisungen in natürlicher Sprache geben und verschiedene Agenten für unterschiedliche Aufgaben einsetzen, damit alle als einheitliches Group auf ein gemeinsames Ziel hinarbeiten.

Um die Agent-KI besser zu verstehen, erkunden Sie außerdem Folgendes: Das Agentic AI Pioneer-Programm

Wichtige Erkenntnisse

1. KI-Agenten sind autonome Softwareprogramme, die in der Lage sind, Daten zu analysieren, Vorhersagen zu treffen und Empfehlungen für verschiedene Branchen, einschließlich Advertising und Bildung, zu geben.
2. CrewAI ist ein Framework, das KI-Agenten in spezialisierten Groups organisiert und ihnen so eine effiziente Zusammenarbeit bei komplexen Aufgaben ermöglicht.
3. In der Edtech-Branche kann CrewAI das Lernerlebnis verbessern, indem es den Schülern personalisierte Kurse basierend auf ihren Profilen, Interessen und Fähigkeiten empfiehlt.
4. Zu den Komponenten von CrewAI gehören Agenten (autonome Einheiten), Aufgaben (spezifische Aufgaben) und Crews (kollaborative Gruppen, die auf ein gemeinsames Ziel hinarbeiten).
5. Der Artikel zeigt, wie CrewAI das Advertising verbessern kann, indem es Kundendaten analysiert, um personalisierte Kampagnen zu erstellen, die zu mehr Engagement und besseren Geschäftsergebnissen führen können.

Die in diesem Artikel gezeigten Medien sind nicht Eigentum von Analytics Vidhya und werden nach Ermessen des Autors verwendet.

Häufig gestellte Fragen

Boomi, der führende Anbieter intelligenter Integration und Automatisierung, gab die Veröffentlichung eines neuen Berichts bekannt: „Ein Playbook zur Entwicklung einer KI-Strategie”, erstellt in Zusammenarbeit mit MIT Know-how Overview Insights. Diese umfassende Studie – die eine weltweite Umfrage unter Führungskräften und leitenden Datenmanagern sowie ausführliche Interviews mit Unternehmensführern zu Daten und KI umfasst – beleuchtet den aktuellen Stand der Einführung von KI in Unternehmen und bietet umsetzbare Strategien für die Navigation durch die transformative Landschaft der künstlichen Intelligenz.

Während sich Unternehmen mit ehrgeizigen KI-Prognosen auseinandersetzen – wie etwa der Prognose von PwC, dass KI bis 2030 erstaunliche 15,7 Billionen US-Greenback zum globalen BIP beitragen könnte (1), bleiben auf dem Weg von Pilotprojekten zur unternehmensweiten Einführung große Hürden bestehen. So nutzten beispielsweise im Jahr 2024 nur 5,4 % der US-Unternehmen KI, um ein Produkt oder eine Dienstleistung herzustellen (2). Dies bedeutet, dass dringend strategische und organisatorische Veränderungen erforderlich sind, um KI effektiv zu nutzen.

Die wichtigsten Erkenntnisse des Berichts heben die folgenden Tendencies und Herausforderungen hervor:

• Die Ambitionen im Bereich der KI sind groß, doch nur wenige sind über die Pilotphase hinausgekommen. 95 % der befragten Unternehmen nutzen bereits KI und 99 % beabsichtigen, dies in Zukunft zu tun. Allerdings sind nur wenige Unternehmen über Pilotprojekte hinausgekommen: 76 % haben KI nur in ein bis drei Anwendungsfällen eingesetzt. Da die Hälfte der Unternehmen davon ausgeht, KI innerhalb von zwei Jahren in allen Geschäftsfunktionen vollständig einzusetzen, ist dieses Jahr entscheidend, um die Grundlagen für unternehmensweite KI zu schaffen.
• Die Ausgaben für die KI-Bereitschaft werden voraussichtlich erheblich steigen. Insgesamt waren die KI-Ausgaben in den Jahren 2022 und 2023 bei den meisten Unternehmen bescheiden oder unverändert; nur jedes vierte Unternehmen erhöhte seine Ausgaben um mehr als ein Viertel. Das dürfte sich 2024 ändern: Neun von zehn Befragten erwarten höhere KI-Ausgaben für die Datenbereitschaft (einschließlich Plattformmodernisierung, Cloud-Migration und Datenqualität) und in angrenzenden Bereichen wie Strategie, Kulturwandel und Geschäftsmodelle. Vier von zehn rechnen mit einer Ausgabensteigerung von 10 bis 24 % und ein Drittel erwartet eine Ausgabensteigerung von 25 bis 49 %.
• Datenliquidität ist eines der wichtigsten Attribute für den KI-Einsatz. Die Möglichkeit, nahtlos auf Daten aus verschiedenen Quellen zuzugreifen, diese zu kombinieren und zu analysieren ermöglicht es Unternehmen, relevante Informationen zu extrahieren und diese effektiv auf bestimmte Geschäftsszenarien anzuwenden. Außerdem entfällt die Notwendigkeit, riesige Datenbestände zu durchforsten, da die Daten bereits kuratiert und auf die jeweilige Aufgabe zugeschnitten sind.
• Die Datenqualität stellt eine große Einschränkung beim Einsatz von KI dar. Die Hälfte der Befragten nennt die Datenqualität als das größte Downside bei der Bereitstellung von Daten. Dies gilt insbesondere für größere Unternehmen mit mehr Daten und erheblichen Investitionen in die vorhandene IT-Infrastruktur. Unternehmen mit einem Umsatz von über 10 Milliarden US-Greenback nennen am häufigsten sowohl die Datenqualität als auch die Dateninfrastruktur als einschränkende Faktoren. Dies deutet darauf hin, dass Unternehmen, die größere Datenspeicher verwalten, das Downside wesentlich schwieriger finden.
• Die Unternehmen stürzen sich nicht in die KI. Quick alle Organisationen (98 %) geben an, dass sie bereit sind, darauf zu verzichten, als erste KI einzusetzen, wenn dies sicherstellt, dass sie diese sicher und zuverlässig bereitstellen können. Governance, Sicherheit und Datenschutz sind die größten Bremsen für die Geschwindigkeit der KI-Bereitstellung. Diese werden von 45 % der Befragten (und ganzen 65 % der Befragten aus den größten Unternehmen) genannt.

„Im letzten Jahr haben Unternehmen die Leistungsfähigkeit und das Potenzial von KI erkannt“, sagte Matt McLarty, CTO bei Boomi. „In diesem Jahr wollen diese Unternehmen von kleinen Pilotprojekten zu einer unternehmensweiten Einführung von KI in großem Maßstab übergehen.“

„Ein Playbook zur Entwicklung einer KI-Strategie“ kann bei den nächsten Schritten einer KI-Reise helfen und bietet die folgenden Grundsätze als Orientierung:

• Dies ist ein entscheidendes Jahr für den Aufbau der KI-Grundlagen. Unternehmen, die ehrgeizige kurzfristige KI-Ziele erreichen wollen, stellen fest, dass die richtige Datengrundlage von entscheidender Bedeutung ist. Unternehmen verdoppeln ihre Investitionen in Datenqualität, Datenliquidität und IT-Infrastruktur.
• Die wirksamsten KI-Anwendungsfälle führen zu gezielten, geschäftsspezifischen Ergebnissen. Obwohl allgemeine Anwendungsfälle generativer KI immer einfacher zu implementieren sind, stehen sie Wettbewerbern und Kunden gleichermaßen zur Verfügung. Die wertvollsten Anwendungsfälle sind diejenigen, die dem Unternehmen einzigartige Wettbewerbsvorteile verschaffen.
• Finanzielle Überlegungen und Partnerschaften sind entscheidend. In diesem Jahr müssen die Kosten der KI – von GPUs über qualifizierte Mitarbeiter bis hin zum Energieverbrauch – berücksichtigt und ein realistischer Ansatz zur Messung des ROI von KI entwickelt werden. Da nur wenige Unternehmen in Sachen KI allein vorgehen werden, wird die Entscheidung über die richtigen Associate, Anbieter und Instruments für die KI-Zukunft der meisten Unternehmen von entscheidender Bedeutung sein.
• Die Geschwindigkeit der KI-Einführung wird durch eine realistische Einschätzung ihrer Risiken gedämpft. Unternehmen sind zu Recht vorsichtig, was die Risiken angeht, die ein unüberlegter Einsatz von KI mit sich bringt, und im Grunde sind sich alle einig, dass bei der Skalierung von KI Vorsicht besser ist als der Vorteil des Vorreiters. Ein sich entwickelndes regulatorisches Umfeld und ein besseres Verständnis dafür, wie die Risiken von KI gemindert werden können, sollten die Einführung beschleunigen.

„Der größte Faktor, der die Implementierung von KI behindert, ist, nicht zu wissen, wo man anfangen soll“, sagte Matt McLarty, CTO bei Boomi. „Man muss kein Experte für die Entwicklung generativer KI sein, um von generativer KI zu profitieren. Während Unternehmen versuchen, das transformative Potenzial von KI zu nutzen, dient unser Bericht als wichtiges Handbuch, das Unternehmensleiter durch die Komplexität der Formulierung einer KI-Strategie führt.“

Herunterladen den vollständigen Bericht „Ein Playbook zur Entwicklung einer KI-Strategie“.

(1) „Den Preis bestimmen: Was ist der wahre Wert von KI für Ihr Unternehmen und wie können Sie daraus Kapital schlagen?“ PwC, 2017, https://preview.thenewsmarket.com/Previews/PWC/DocumentAssets/476830.pdf.

(2) Richard Vanderford, „Generative KI ist in der Geschäftswelt nicht allgegenwärtig – zumindest noch nicht“, Das Wall Road Journal, 7. April 2024, https://www.wsj.com/articles/generative-ai-isnt-ubiquitous-in-the-business-worldat-least-not-yet-07c07f01?mod=tech_lead_pos3.

Melden Sie sich für die kostenlosen insideAI Information an E-newsletter.

Folgen Sie uns auf Twitter: https://twitter.com/InsideBigData1

Folgen Sie uns auf LinkedIn: https://www.linkedin.com/firm/insideainews/

Folgen Sie uns auf Fb: https://www.fb.com/insideAINEWSNOW