Bild von Editor

# Einführung

Modellkontextprotokoll (MCP) ist ein Commonplace, der definiert, wie künstliche Intelligenzsysteme mit der Außenwelt verbinden. Anstelle jedes Assistenten oder Agenten, die einen benutzerdefinierten Code benötigen, um eine Datenbank, einen Dateispeicher oder eine API zu verwenden, bietet MCP ihnen eine gemeinsame Möglichkeit, mit diesen Ressourcen zu sprechen. Auf hohem Niveau arbeiten drei Rollen zusammen: die Gastgeberdas ist die vom Benutzer ausgerichtete Anwendung; Die Kundewas der Entscheidungsträger ist, der von einem Modell angetrieben wird; und die Serverdie externe Instruments und Daten in einem konsistenten Format aufdeckt. Zusammen erzeugen diese Rollen sichere, kontextbewusste Interaktionen.

# Was ist MCP?

MCP ist ein offenes Protokoll, das 2024 von vorgestellt wurde Anthropisch Im Rahmen seiner Bemühungen, große Sprachmodelle zuverlässiger zu gestalten, wenn sie mit realen Datenquellen arbeiten. Es definiert, wie Kunden und Server mit a kommunizieren JSON-RPC 2.0 Request -Wirkungs -Muster, über Transporte wie HTTP- oder Standardeingangs-/Ausgangsströme überzogen. Im Kern liefert das Protokoll drei Primitive: WerkzeugeAnwesend RessourcenUnd Aufforderungenwelche Server aussetzen und Kunden entdecken können. Dies ermöglicht es einem KI -Assistenten in einer Host -Anwendung, verfügbare Server zu finden, Funktionen anzufordern und sicher zu nutzen, ohne direkten Zugriff auf das zugrunde liegende System zu benötigen. Das Design reduziert die Duplikation von Integrationen und erleichtert die Überwachung, Verwaltung und Skalierung von AI -Interaktionen in verschiedenen Umgebungen.

Bildnachweis: ModellContextProtocol

# MCP -Gastgeber

Ein MCP -Host ist die Anwendung, bei der Personen mit einem KI -System interagieren. Es verwaltet die Erfahrung von der Seite des Benutzers, indem sie Eingaben sammelt, Ergebnisse anzeigt und den Kommunikationsfluss mit dem Kunden koordiniert. Der Host unterhält auch den Sitzungskontext, damit Gespräche oder Aufgaben reibungslos fortgesetzt werden können. Zu den häufigen Beispielen für Hosts gehören Chat-Plattformen wie Slack- oder Microsoft-Groups, Entwicklungsumgebungen wie Visible Studio Code oder Jupyter und sogar sprachbasierte Assistenten. Wichtig ist, dass der Host nicht der Kunde selbst ist. Stattdessen bietet es den Speicherplatz, in dem der Shopper Ausgänge an den Benutzer ausführt und liefert.

# MCP -Server

Ein MCP -Server ist ein Wrapper um eine Ressource oder ein Software, das ihn innerhalb des Protokolls verwendbar macht. Server setzen das aus, was sie tun können, konvertieren Anfragen in das Format des zugrunde liegenden Methods, setzen Sicherheitsregeln durch und geben dann den Kunden den Ergebnissen zurück. Diese Rolle wird am besten anhand von Beispielen verstanden: Ein Server kann eine Verbindung zu einer Unternehmensdatenbank herstellen, bestimmte Abfragen freilegen oder Zugriff auf Dateien in einem kontrollierten Ordner geben. Andere können APIs, Quellcode -Repositorys oder Berechnungsmotoren einwickeln. Eine gute Praxis besteht darin, Server knapp nach dem Prinzip des geringsten Privilegs, das Risiko zu verringern.

# MCP -Kunden

Der MCP -Shopper ist die Komponente, die denkt und entscheidet. Es wird oft von einem großen Sprachmodell angetrieben, sollte aber nicht mit dem Modell selbst verwechselt werden. Die Aufgabe des Kunden besteht darin, verfügbare Server zu entdecken, zu überprüfen, welche Funktionen er anbietet, und zu entscheiden, welche auf der Anfrage des Benutzers anrufen sollen. Anschließend wird die entsprechende Anfrage durchgeführt, die Antwort verarbeitet und die Ergebnisse mehrerer Server kombinieren, um komplexe Aufgaben zu erledigen. Durch die orchestrierung mehreren Verbindungen parallelig ermöglicht der Kunde einem KI -Assistenten, mit vielfältigen Ressourcen zu arbeiten und gleichzeitig den Prozess koordiniert und sicher zu halten.

# Wie sie zusammenpassen

Hosts, Shoppers und Server folgen ein vorhersehbares Muster, wenn sie unter MCP zusammenarbeiten. Der Prozess beginnt mit Entdeckung: Sobald ein Shopper in seiner Host -Anwendung beginnt, sucht er nach verfügbaren Servern. Nach der Entdeckung führt der Kunde durch Fähigkeitsverhandlungfragen Sie jeden Server, welche Funktionen oder Ressourcen er bereitstellen kann. In vielen Fällen muss sich der Kunde auch authentifizieren, um zu bestätigen, dass er die Berechtigung zur Nutzung dieser Ressourcen enthält.

Mit Verbindungen wechselt der Kunde zu Anfrage und Ausführung. Basierend auf Benutzereingaben wird eine standardisierte Anforderung an den richtigen Server gesendet. Der Server übersetzt diese Anfrage in das Format seines eigenen Methods, führt es aus und gibt das Ergebnis in eine konsistente Struktur zurück.

Der Kunde kann dann Aggregat Ergebnisse von mehreren Servern und kombinieren sie zu einer vollständigen Antwort oder Entscheidung. Schließlich geht die Ausgabe zurück auf die Gastgeberwas es dem Benutzer anzeigt. Dieser Zyklus wiederholt nach Bedarf und unterstützt kontinuierliche, kontextbewusste Interaktionen.

# Wichtige Vorteile des MCP -Ansatzes

Für Benutzer:

• Breitere Fähigkeiten: Assistenten können ohne direkte Integrationen eine Verbindung zu mehr Instruments und Datenquellen herstellen.
• Verbesserte Sicherheit: Zugriffsregeln und Berechtigungen werden auf allen Servern konsequent verwaltet.
• Glattere Erfahrung: Interaktionen fühlen sich einheitlich an, egal in welchem ​​System sich hinter den Kulissen befindet.

Für Entwickler:

• Weniger kundenspezifische Arbeit: Ein einzelner Server kann vielen Shoppers bedienen, anstatt einmalige Anschlüsse zu benötigen.
• Wiederverwendbarkeit: Das gleiche Serverdesign kann in verschiedenen Umgebungen angewendet werden.
• Geringere Wartung: Das Aktualisieren eines Servers kommt automatisch jedem verbundenen Shopper zugute.

Für Organisationen:

• Kontrollierte Belichtung: Die Groups entscheiden genau, welche Ressourcen verfügbar sind.
• Überwachbarkeit: Standardisierte Protokolle ermöglichen eine bessere Verfolgung aller Anfragen und Antworten.
• Skalierbarkeit: Das Hinzufügen neuer Ressourcen ist so einfach wie die Bereitstellung eines zusätzlichen Servers.

# Beispiele für reale Welt

// Datenbank -Lookup -Server

Stellen Sie sich einen Assist -Assistenten vor, der einen schnellen Zugriff auf Kundenunterlagen benötigt. Anstatt dem AI Direct -Eintrag in die Datenbank des Unternehmens zu geben, wird ein MCP -Server erstellt, um diese Aufgabe zu erledigen. Der Server verbindet sich sicher mit der Datenbank, enthält sichere Abfragen wie „Kunden suchen per E -Mail“ und verwaltet die Authentifizierung. Wenn der Shopper eine Suche anfordert, gibt der Server nur die zulässigen Daten in einem sauberen Format zurück. Dieser Ansatz reduziert das Risiko und stellt sicher, dass empfindliche Systeme unter Kontrolle bleiben.

// Dateien und Wissensserver

Betrachten Sie ein technisches Staff, das einen KI -Assistenten in einer IDE verwendet. Um Projektdokumente zur Verfügung zu stellen, erstellen sie einen Datei-Entry-Server, der nur schreibgeschützte Eintrag in einen kuratierten Ordner bietet. Der Shopper kann dann bei Bedarf bestimmte Seiten oder Snippets abrufen und seine Antworten in verifizierten Dokumentation erklimmen. Durch die Begrenzung des Zugangs zu diesem kontrollierten Ordner behält die Organisation die Kontrolle bei und gibt dem KI einen nützlichen Kontext.

# Einpacken

Das Modellkontextprotokoll bietet KI -Systemen eine konsistente Möglichkeit, sich mit der Außenwelt zu verbinden. Durch die Definition klarer Rollen für Hosts, Shoppers und Server vereinfacht dies die Integration und stärkt die Kontrolle darüber, wie Instruments und Daten verwendet werden. Für Benutzer bedeutet dies glattere Erfahrungen; Für Entwickler weniger doppelte Arbeit; und für Organisationen eine stärkere Regierungsführung. Wenn das Ökosystem wächst, wird die Rolle von MCP als Grundlage für sicherere und fähigere KI weiter expandieren.

Shittu Olumide auch zu diesem Artikel beigetragen.

Shamima Sultana Arbeitet als Projektmanagerin bei Exceldemy, wo sie zu Microsoft Excel recherchiert und Artikel zu ihrer Arbeit schreibt. Shamima hat einen BSC in Informatik und Ingenieurwesen und hat ein großes Interesse an Forschung und Entwicklung. Shamima liebt es, neue Dinge zu lernen, und versucht, angereicherte Qualitätsinhalte in Bezug auf Excel bereitzustellen, während er immer versucht, Wissen aus verschiedenen Quellen zu sammeln und progressive Lösungen zu erstellen.

Santa Clara, Kalifornien – Aug. 26, 2025 – Nvidia hat heute eine Liste von Unternehmen veröffentlicht, die NVIDIA RTX Professional -Server annehmen, die von der RTX Professional 6000 Blackwell Server Version GPU betrieben werden. Die Liste enthält Disney, Foxconn, Hitachi Ltd., Hyundai Motor Group, Lilly, SAP und TSMC.

Erstellt mit NVIDIA RTX Professional 6000 Blackwell Server Version GPUs, verwenden RTX Professional -Server die NVIDIA Blackwell -Architektur, um die AI -Workloads von Enterprise AI zu beschleunigen, die Agenten und physische KI zu erweitertem Design, wissenschaftlichen Computing, Simulation, Grafik und Videoanwendungen überspannen.

„Das Zeitalter der KI ist eingetroffen – und Unternehmen können sich nicht mehr auf klassische Server verlassen. Sie müssen nach AI wiederherstellen“, sagte Jensen Huang, Gründer und CEO von Nvidia. „Nvidia RTX Professional ist die für diesen Second erstellte Computerplattform – die heutige IT -Workloads, während sie die KI -Agenten mit Strom versorgen, die jedes Unternehmen, jede Branche verändern.“

Josh D’Amaro, Vorsitzender von Disney Experiences: „Bei Disney werden wir ständig neu definieren, was für immersives Geschichtenerzählen und Gasterlebnisse möglich ist. Mit dieser unglaublichen Technologie können wir unsere Breite an Geschichten in spektakulären Particulars und schneller als immer zuvor zum Leben erwecken. Blockbuster -Kaliber erleben Sie am selben Tag wie der mandalorianische und Grogu -Movie. “

Younger Liu, Vorsitzender von Foxconn: „Erreichen der digitalen Transformation in der intelligenten Fertigung erfordert die richtige Grundlage und Technologie. Durch die Einführung von RTX-Professional-Servern in unsere globale Infrastruktur definiert Foxconn die Grenzen von KI-gesteuerten Automatisierung-von ausgefeilter Robotik und intelligenter Elektrofahrzeuge.“

Toshiaki Tokunaga, president and CEO of Hitachi Ltd: “Hitachi will additional speed up AI innovation by leveraging NVIDIA RTX PRO Servers. NVIDIA RTX PRO Servers allow the digital twin and optimization of bodily belongings, together with social infrastructure, via the acceleration of AI reasoning and bodily AI, whereas additionally unlocking new potentialities resembling bettering productiveness throughout general enterprise actions. Transferring Vorwärts wird Hitachi seine Partnerschaft mit Nvidia vertiefen, um Herausforderungen für Kundenunternehmen und Gesellschaft zu lösen und ständig Wert zu liefern. “

Heung-soo Kim, Govt Vice President und Leiter des globalen Strategiebüros der Hyundai Motor Group: „Die Hyundai Motor Group wird die hochmoderne AI-Infrastruktur von Nvidia nutzen, einschließlich RTX Professional-Server, und im digitalen Zwillingspflicht zur Beschleunigung technologischer Innovationen. Überprüfung. “

Diogo Rau, Chief Info und Digital Officer von Lilly: „In Lilly bringen wir den Menschen, die sie brauchen, modern Medikamente ein. Wir tun dies, indem wir die Grenzen der Wissenschaft durch Technologie überschreiten. Das Universum möglicher Medikamente ist enorm. Die GPUs können uns helfen, diesen expansiven Raum zu erforschen, und das Erreichen von Orten, die Menschen möglicherweise aussehen.“

Christian Klein, CEO von SAP: „Sicherere SAP-Cloud-Infrastruktur ermöglichen Unternehmen und Regierungen, die transformative Kraft der SAP-Geschäfts-KI zu nutzen und gleichzeitig die vollständige Kontrolle über ihre Daten und operativen Prozesse beizubehalten. Zusammenführung von RTX-Provers und SAP-Cloud-Infrastruktur, die in unserer langjährigen Zusammenarbeit mit NVIDIAs ein neues Kapitel definieren, um ihre AI-po-powerte Arbeit zu ermöglichen.

CC Wei, Vorsitzender und CEO von TSMC: „Halbleiter sind das Rückgrat der KI und stärken Durchbrüche, die jede Branche neu definieren. Durch unsere enge Partnerschaft mit NVIDIA steigt TSMC vor und fördert die Halbleiterherstellung und optimiert unsere fabelhaften Operationen mit Schwarzwell-Bastelang.

In der Fertigung nutzen Unternehmen wie Pegatron, Quanta Cloud Expertise (QCT), Siemens und Wistron diese Systeme, um die Fabrikautomatisierung und -simulation voranzutreiben. Der Luft- und Raumfahrthersteller Northrop Grumman verbessert seine vorhandenen Fähigkeiten mit diesen Systemen, um die KI -Integration in Unternehmensarbeitsstreams zu beschleunigen, um die Produktivität und Leistung zu steigern.

AMDOCS, ein Anbieter von Software program und Diensten für Kommunikations- und Medienunternehmen, setzt RTX Professional -Server ein, um die Begründung seiner AMAIZ -Agenten für Telekommunikationskundenerlebnisse zu unterstützen. Cadence und Siemens EDA werden RTX Professional-Server für Al-gesteuerte Simulation in Silizium, Systemen und KI verwenden.

RTX Professional -Server beschleunigen die Agent -KI und die Argumentation der Workloads, sodass Forscher und Entwickler autonome Systeme erstellen und bereitstellen können, aus denen sich ihre Umgebung in Echtzeit anpassen, sich an ihre Umgebung anpassen und interagieren können.

Zum Beispiel liefert das NVIDIA LLAMA Nemotron Tremendous -Argumentationsmodell eine bessere Preisleistung von bis zu 3x, wenn sie mit NVFP4 auf einem einzelnen NVIDIA RTX Professional 6000 -GPU im Vergleich zu FP8 auf NVIDIA H100 GPUs ausgeführt werden. Dies ermöglicht eine genauere Argumentation zu geringeren Kosten.

Um effektive physische KI-Systeme zu entwickeln, müssen Unternehmen ihre Roboterflotten in der Simulation testen und optimieren, bevor sie in realen Fabriken eingesetzt werden. NVIDIA RTX Professional -Server fördern die industrielle und physische KI, indem sie bis zu 4 -fache eine schnellere Leistung für digitale Zwillings-, Simulation- und synthetische Datenerzeugungserzeugungsworkflows liefern als Systeme mit NVIDIA L40S -GPUs.

RTX Professional -Server sind für die Flexibilität ausgelegt, um Home windows, Linux und Hypervisors zu unterstützen, um IT -Managern eine vertraute Umgebung für die Bereitstellung von KI in Maßstab ohne Kompromisse zu bieten. Diese Server führen praktisch jede Unternehmensarbeit-mithilfe von Air-Cooled, PCIe-basierten, x86-Architekturen-mit Sicherheit, Verwaltbarkeit und Servicabilität mit Unternehmensqualität aus.

NVIDIA RTX Professional-Server und das Blackwell-Architektur-Portfolio werden von der NVIDIA AI Enterprise Software program-Plattform unterstützt, die NVIDIA NIM Microservices und AI-Frameworks, Bibliotheken und Instruments umfasst, die Unternehmen auf NVIDIA-Accelerated-Clouds, Datentors und Workstations bereitstellen können.

RTX Professional-Server werden im NVIDIA Enterprise AI Manufacturing unit Validated Design für Unternehmen vorgestellt, die lokale AI-Fabriken erstellen und bereitstellen möchten, und in der NVIDIA AI-Datenplattform, einem anpassbaren Referenzdesign für den Aufbau moderner Speichersysteme für Enterprise Agentic AI.

Für die physische und industrielle KI ermöglichen RTX Professional-Server, die NVIDIA Omniverse-Bibliotheken und Nvidia Cosmos World Basis-Modelle ausführen, physische KI-Entwickler, Anwendungen zu erstellen und bereitzustellen, einschließlich digitaler Zwillinge für die Werkssimulation und Roboter-Simulation oder großqualifizierte synthetische Datengenerierung.

NVIDIA RTX PRO Servers can be found in a number of configurations with RTX PRO 6000 Blackwell Server Version GPUs from Cisco, Dell Applied sciences, HPE, Lenovo and Supermicro, in addition to Advantech, Aetina, Aivres, ASRock Rack, ASUS, Compal, Eviden, Foxconn, GIGABYTE, Inventec, MiTAC Computing, MSI, PEGATRON, QCT, Wistron und Wiwynn.

Cloud -Service -Suppliers CoreWeave und Google Cloud bieten jetzt Instanzen an, die von NVIDIA RTX Professional 6000 Blackwell Server Version GPUs beschleunigt wurden, wobei später in diesem Jahr zusätzliche Instanzen von AWS, Nebius und Vultr.

Bild von Autor | Ideogramm

Das Ausführen mehrerer großer Sprachmodelle kann nützlich sein, sei es zum Vergleich von Modellausgaben, zum Einrichten eines Fallbacks für den Fall, dass dies fehlschlägt, oder das Anpassen des Verhaltens (z. B. die Verwendung eines Modells für die Codierung und ein anderes für technisches Schreiben). So verwenden wir in der Praxis oft LLMs. Es gibt Apps wie Poe.com Das bietet diese Artwork von Setup. Es ist eine einzige Plattform, auf der Sie mehrere LLMs ausführen können. Aber was ist, wenn Sie alles vor Ort tun, API -Kosten sparen und Ihre Daten privat halten möchten?

Hier taucht das eigentliche Downside auf. Wenn Sie dies einrichten, bedeutet dies normalerweise, verschiedene Ports zu jonglieren, separate Prozesse ausführen und manuell zwischen ihnen wechseln. Nicht ideally suited.

Das ist genau der Schmerz Lama-Swap löst. Es handelt sich um einen Open-Supply-Proxy-Server, der superleicht (nur ein einzelner Binärdatum) ist, und können Sie leicht zwischen mehreren lokalen LLMs wechseln. In einfachen Worten hört es für API-Anrufe im OpenAI-Stil auf Ihrem Laptop zu und startet automatisch den richtigen Modellserver basierend auf dem von Ihnen angeforderten Modell. Lassen Sie uns aufschlüsseln, wie es funktioniert und ein Schritt-für-Schritt-Setup durchläuft, um es auf Ihrem lokalen Laptop zum Laufen zu bringen.

# Wie Lama-Swap funktioniert

Konzeptionell sitzt LLAMA-SWAP als Sensible Router vor Ihren LLM-Servern. Wenn eine API -Anfrage eintrifft (z. B. a POST /v1/chat/completions Rufen Sie an), es schaut sich das an "mannequin" Feld in der JSON -Nutzlast. Anschließend lädt es den entsprechenden Serverprozess für dieses Modell und schaltet ein anderes Modell bei Bedarf ab. Zum Beispiel, wenn Sie zum ersten Mal das Modell anfordern "A" und dann ein Modell anfordern "B"Lama-Swap stoppt den Server automatisch für „A“ und startet den Server für „B“, sodass jede Anforderung vom richtigen Modell bedient wird. Dieser dynamische Austausch erfolgt clear, sodass die Kunden die erwartete Reaktion sehen, ohne sich über die zugrunde liegenden Prozesse zu sorgen.

Standardmäßig ermöglicht Lama-Swap nur ein Modell gleichzeitig (es entlädt andere beim Wechsel). Mit seiner Gruppenfunktion können Sie dieses Verhalten jedoch ändern. Eine Gruppe kann mehrere Modelle auflisten und ihr Tauschverhalten steuern. Zum Beispiel Einstellung swap: false In einer Gruppe bedeutet alle Gruppenmitglieder zusammen, ohne zu entladen. In der Praxis können Sie eine Gruppe für Schwergewichtsmodelle (jeweils nur eine aktive) und eine andere „parallele“ Gruppe für kleine Modelle verwenden, die Sie gleichzeitig laufen möchten. Auf diese Weise können Sie die volle Kontrolle über die Nutzung der Ressourcen und die Parallelität auf einem einzelnen Server haben.

# Voraussetzungen

Stellen Sie vor dem Begin sicher, dass Ihr System Folgendes hat:

• Python 3 (> = 3,8): Benötigt für grundlegende Skripten und Werkzeuge.
• Homebrew (auf macOS): Die Set up von LLM -Laufzeiten erleichtert. Zum Beispiel können Sie die installieren lama.cpp Server mit:

Dies liefert die llama-server Binär für die lokale Internet hosting -Modelle.

• lama.cpp (llama-server): Der OpenAI-kompatible Server binär (über Homebrew installiert oder aus der Quelle erstellt), das das LLM-Modell tatsächlich ausführt.
• Umarmt das Gesicht Cli: Zum Herunterladen von Modellen direkt auf Ihre lokale Maschine, ohne sich auf der Web site anzumelden oder Modellseiten manuell zu navigieren. Installieren Sie es mit:

pip set up -U "huggingface_hub(cli)"

• {Hardware}: Jede moderne CPU wird funktionieren. Für eine schnellere Inferenz ist eine GPU nützlich. (Bei Apple Silicon Macs können Sie auf der CPU laufen oder versuchen Pytorch’s MPS -Backend für unterstützte Modelle. Unter Linux/Home windows mit NVIDIA -GPUs können Sie Docker/CUDA -Container zur Beschleunigung verwenden.)
• Docker (Non-obligatory): Um die vorgefertigten Docker-Bilder auszuführen. Ich habe mich jedoch für diesen Leitfaden entschieden, da diese Bilder hauptsächlich für X86 (Intel/AMD) -Systeme entwickelt wurden und nicht zuverlässig auf Macs von Apple Silicon (M1/M2) arbeiten. Stattdessen habe ich die Naked-Steel-Installationsmethode verwendet, die direkt auf MacOS ohne Container-Overhead funktioniert.

Zusammenfassend benötigen Sie eine Python -Umgebung und einen lokalen LLM -Server (wie den Server „llama.cpp`). Wir werden diese verwenden, um zwei Beispielmodelle auf einer Maschine zu hosten.

# Schritt-für-Schritt-Anweisungen

// 1. Installieren von Lama-Swap

Laden Sie die neueste Lama-Swap-Veröffentlichung für Ihr Betriebssystem von der herunter GitHub veröffentlicht Seite. Zum Beispiel konnte ich sehen v126 Als letzte Veröffentlichung. Führen Sie die folgenden Befehle aus:

# Step 1: Obtain the proper file
curl -L -o llama-swap.tar.gz 
  https://github.com/mostlygeek/llama-swap/releases/obtain/v126/llama-swap_126_darwin_arm64.tar.gz

Output:
  % Whole    % Obtained % Xferd  Common Pace   Time    Time     Time  Present
                                 Dload  Add   Whole   Spent    Left  Pace
  0     0    0     0    0     0      0      0 --:--:-- --:--:-- --:--:--     0
100 3445k  100 3445k    0     0  1283k      0  0:00:02  0:00:02 --:--:-- 5417k

Extrahieren Sie nun die Datei, machen Sie sie ausführbar und testen Sie sie, indem Sie die Model überprüfen:

# Step 2: Extract it
tar -xzf llama-swap.tar.gz

# Step 3: Make it executable
chmod +x llama-swap

# Step 4: Check it
./llama-swap --version

Output:
model: 126 (591a9cdf4d3314fe4b3906e939a17e76402e1655), constructed at 2025-06-16T23:53:50Z

// 2. Herunterladen und Vorbereiten von zwei oder mehr LLMs

Wählen Sie zwei Beispielmodelle zum Ausführen. Wir werden verwenden Qwen2.5-0.5b Und Smollm2-135m (kleine Modelle) von Umarmtes Gesicht. Sie benötigen die Modelldateien (in Gguf oder ähnliches Format) auf Ihrer Maschine. Zum Beispiel mit der umarmenden Gesichts -CLI:

mkdir -p ~/llm-models

huggingface-cli obtain bartowski/SmolLM2-135M-Instruct-GGUF 
  --include "SmolLM2-135M-Instruct-Q4_K_M.gguf" --local-dir ~/llm-models

huggingface-cli obtain bartowski/Qwen2.5-0.5B-Instruct-GGUF 
  --include "Qwen2.5-0.5B-Instruct-Q4_K_M.gguf" --local-dir ~/llm-models

Dies wird:

• Erstellen Sie das Verzeichnis llm-models im Residence -Ordner Ihres Benutzers
• Laden Sie die GGUF -Modelldateien sicher in diesen Ordner herunter. Nach dem Obtain können Sie bestätigen, dass es da ist:

Ausgabe:

SmolLM2-135M-Instruct-Q4_K_M.gguf
Qwen2.5-0.5B-Instruct-Q4_K_M.gguf

// 3. Erstellen einer Lama-Swap-Konfiguration

Lama-Swap verwendet eine einzige YAML-Datei, um Modelle und Serverbefehle zu definieren. Erstellen a config.yaml Datei mit solchen Inhalten:

fashions:
  "smollm2":
    cmd: |
      llama-server
      --model /path/to/fashions/llm-models/SmolLM2-135M-Instruct-Q4_K_M.gguf
      --port ${PORT}

  "qwen2.5":
    cmd: |
      llama-server
      --model /path/to/fashions/llm-models/Qwen2.5-0.5B-Instruct-Q4_K_M.gguf
      --port ${PORT}

Ersetzen /path/to/fashions/ mit Ihrem tatsächlichen lokalen Weg. Jeder Eintrag unter fashions: gibt einen Ausweis (wie "qwen2.5") und eine Hülle cmd: seinen Server ausführen. Wir verwenden llama-server (aus llama.cpp) mit --model Hinweis auf die GGUF -Datei und --port ${PORT}. Der ${PORT} Makro fordert Lama-Swap mit, dass er jedem Modell automatisch einen kostenlosen Port zuweisen soll. Der teams Abschnitt ist non-compulsory. Ich habe es für dieses Beispiel weggelassen, so dass Lama-Swap standardmäßig nur ein Modell gleichzeitig ausführt. Sie können viele Optionen professional Modell (Aliase, Zeitüberschreitungen usw.) in dieser Konfiguration anpassen. Weitere Informationen zu den verfügbaren Optionen finden Sie in der Vollständige Konfigurationsbeispieldatei.

// 4. Laufen Lama-Swap

Mit dem binären und config.yaml Bereit, starten Sie Lama-Swap und zeigen auf Ihre Konfiguration:

./llama-swap --config config.yaml --listen 127.0.0.1:8080

Dadurch startet der Proxy -Server auf localhost:8080. Es wird lesen config.yaml und (zunächst) keine Modelle laden, bis die erste Anfrage eintrifft. Lama-Swap wird nun API-Anfragen am Port behandeln 8080sie an die angemessenen zugrunde liegenden weiterleiten llama-server Prozess basierend auf dem "mannequin" Parameter.

// 5. mit Ihren Modellen interagieren

Jetzt können Sie API-Aufrufe im OpenAI-Stil tätigen, um jedes Modell zu testen. Installieren JQ Wenn Sie es nicht haben, bevor Sie die folgenden Befehle ausführen:

// Verwenden von Qwen2.5

curl -s http://localhost:8080/v1/completions 
  -H "Content material-Kind: utility/json" 
  -H "Authorization: Bearer no-key" 
  -d '{
        "mannequin": "qwen2.5",
        "immediate": "Person: What's Python?nAssistant:",
        "max_tokens": 100
      }' | jq '.selections(0).textual content'

Output:
"Python is a well-liked general-purpose programming language. It's simple to study, has a big commonplace library, and is suitable with many working methods. Python is used for internet growth, knowledge evaluation, scientific computing, and machine studying.nPython is a language that's standard for internet growth because of its simplicity, versatility and its use of contemporary options. It's utilized in a variety of functions together with internet growth, knowledge evaluation, scientific computing, machine studying and extra. Python is a well-liked language within the"

// Mit Smollm2

curl -s http://localhost:8080/v1/completions 
  -H "Content material-Kind: utility/json" 
  -H "Authorization: Bearer no-key" 
  -d '{
        "mannequin": "smollm2",
        "immediate": "Person: What's Python?nAssistant:",
        "max_tokens": 100
      }' | jq '.selections(0).textual content'

Output:
"Python is a high-level programming language designed for simplicity and effectivity. It is identified for its readability, syntax, and flexibility, making it a well-liked alternative for inexperienced persons and builders alike.nnWhat is Python?"

Jedes Modell reagiert nach seiner Ausbildung. Das Schöne an Lama-Swap ist, dass Sie nichts manuelles neu starten müssen-verändern Sie einfach die "mannequin" Feld, und es behandelt den Relaxation. Wie in den obigen Beispielen gezeigt, werden Sie sehen:

• qwen2.5: Eine ausführlichere, technische Antwort
• smollm2: Eine einfachere, prägnantere Antwort

Das bestätigt, dass Lama-Swap die Anfragen an das richtige Modell weiterleitet!

# Abschluss

Glückwunsch! Sie haben Lama-Swap eingerichtet, um zwei LLMs auf einer Maschine auszuführen, und Sie können nun über API-Anrufe im Fliegen zwischen ihnen wechseln. Wir haben einen Proxy installiert, eine YAML-Konfiguration mit zwei Modellen vorbereitet und gesehen, wie Lama-Swap-Routen das richtige Backend anfordern.

Nächste Schritte: Sie können dies um einbezogen werden:

• Größere Modelle (wie TinyLlamaAnwesend Phi-2Anwesend Mistral)
• Gruppen für die gleichzeitige Portion
• Integration mit LangchainAnwesend Fastapioder andere Frontenden

Viel Spaß beim Erforschen verschiedener Modelle und Konfigurationen!

Kanwal Mehreen ist ein Ingenieur für maschinelles Lernen und technischer Schriftsteller mit einer tiefgreifenden Leidenschaft für die Datenwissenschaft und die Schnittstelle von KI mit Medizin. Sie hat das eBook „Produktivität mit Chatgpt maximieren“. Als Google -Era -Gelehrte 2022 für APAC setzt sie sich für Vielfalt und akademische Exzellenz ein. Sie wird auch als Teradata -Vielfalt in Tech Scholar, MITACS Globalink Analysis Scholar und Harvard Wecode Scholar anerkannt. Kanwal ist ein leidenschaftlicher Verfechter der Veränderung, nachdem er Femcodes gegründet hat, um Frauen in STEM -Bereichen zu stärken.

SAN JOSE – 6. August 2025 – Cybersecurity AI Firm Vectra AI Heute gab Vectra AI MCP Server bekannt, mit deren Zugriff auf die Vectra AI -Plattform über das Modellkontextprotokoll (MCP) natürliche Sprache zugreift wurde.

Dieses Software ist derzeit als frühzeitiger Zugriff auf alle Kunden erhältlich. In Kürze werden Sicherheitsteams über KI -Assistenten wie Claude Desktop, Cursor und andere mit der Vectra AI -Plattform in Kontakt treten und komplexe Bedrohungen zu intuitiven Gesprächen verwandeln.

Sicherheitsteams der Sicherheit umfassen KI, um schneller und effizienter zu arbeiten, aber der Zugriff auf tiefe Sicherheitseinsichten bleibt ein technischer und zeitaufwändiger Prozess. Analysten haben häufig Probleme mit Alarmermüdung, fragmentierten Toolsets und komplexen Workflows, die die Reaktion verzögern und das Risiko erhöhen. Vectra AI, die MCP-ein schnell wachsender offener Customary, mit dem AI-Agenten eine Verbindung zu externen Daten und Instruments herstellen können, brechen diese Barrieren auf und machen die Erkennung und Reaktion auf Expertenebene, die durch eine einfache Eingabeaufforderung zugänglich ist.

‍Der Vectra AI MCP Server verbindet sich direkt mit der Vectra AI -Plattform und ermöglicht es Analysten und Bedrohungsjägern, Vorfälle zu untersuchen, die Angriffszeitpläne zu rekonstruieren und über die Sicherheitspflicht zu berichten – alles durch Konversationsfragen. Die Integration beseitigt die Notwendigkeit von benutzerdefinierten Anschlüssen, verkürzt die Untersuchungszeit und ermöglicht es SOC-Groups, kontextreiche Bilder und Berichte zu generieren, die leicht mit Führung geteilt werden können. Es baut auf den Kernstärken der Vectra AI auf und erfordert keine Änderungen an vorhandenen Bereitstellungen.

‍ „Wenn AI-native Workflows die Artwork und Weise, wie Groups untersucht und auf Drohungen reagieren Vectra ai. „Der Begin unseres MCP -Servers ist ein wichtiger Schritt zur Demokratisierung von Sicherheitskompetenz und befähigt jeden Analysten mit sofortigen Zugriff auf leistungsstarke Erkenntnisse durch die KI -Instruments, die er bereits verwendet.“

‍Der Vectra AI MCP Server ist derzeit als frühzeitiger Zugriff für Vorschau -Kunden erhältlich. In Kürze werden weitere Veröffentlichungen stattfinden.

Mannequin Context Protocol (MCP) Server sind schnell zu einem Rückgrat für skalierbare, sichere und agierische Anwendungsintegrationen geworden, insbesondere da Unternehmen versuchen, ihre Dienste AI-gesteuerten Workflows auszusetzen und gleichzeitig die Erfahrung, die Leistung und die Sicherheit von Entwicklern intakt zu halten. Hier finden Sie sieben datengesteuerte Greatest Practices zum Aufbau, Testen und Verpackungen robuster MCP-Server.

1. Absichtliches Toolbudgetmanagement

• Definieren Sie ein klares Toolset: Vermeiden Sie es, jeden API -Endpunkt auf ein neues MCP -Instrument abzubilden. Stattdessen gruppenbezogene Aufgaben und Entwerfen von Funktionen auf höherer Ebene. Das Überladen des Toolset erhöht die Komplexität des Servers, die Bereitstellungskosten und kann die Benutzer abschrecken. In einem Docker MCP -Katalog -Überblick wurde die Auswahl der fokussierten Instruments festgestellt Verbessern Sie die Einführung der Benutzer um bis zu 30%.
• Verwenden Sie Makros und Verkettung: Implementieren Sie Eingabeaufforderungen, die mehrere Backend -Anrufe ketten, sodass Benutzer komplexe Workflows über einen einzelnen Anweisungen auslösen können. Dies reduziert sowohl die kognitive Final für Benutzer als auch das Fehlerpotential für Fehler.

• Abhängig von sicheren Komponenten: MCP -Server werden häufig mit sensiblen Daten übertragen. Scannen Sie Ihre Codebasis und Abhängigkeiten für Schwachstellen mithilfe von Instruments wie SNYK, die automatisch Risiken einschließlich Befehlsinjektion oder veraltete Pakete erkannt haben.
• Konformität treffen: Software program Invoice of Supplies (SBOM) und striktes Verwundbarkeitsmanagement sind zu Branchenstandards geworden, insbesondere nach großen Sicherheitsvorfällen.
• Ein typisches Beispiel: In SNYK berichtet Unternehmen, bei denen ein kontinuierliches Sicherheitsscanning implementiert wurde.

• Lokale erste, dann entfernte Exams: Beginnen Sie mit schnellen lokalen Exams für schnelle Iteration und wechseln Sie dann zu netzwerkbasierten Distant-Exams, die reale Bereitstellungsszenarien widerspiegeln.
• Nutzen Sie engagierte Instruments: Verwenden Sie spezielle Instruments wie den MCP -Inspektor, mit dem Sie interaktiv testen, Schemas überprüfen, Protokolle überprüfen und Fehler diagnostizieren können.
• Sicherheit beim Testen: Verwenden Sie immer Umgebungsvariablen für Anmeldeinformationen, begrenzen Sie die Netzwerkverfügbarkeit im Dev -Modus und verwenden Sie temporäre Token, um das Risiko während des Exams zu minimieren.

• Strenge Schema Haftung: Die ordnungsgemäße Schema -Validierung verhindert subtile Fehler und katastrophale Produktionsfehler. Der MCP -Inspektor prüft automatisch auf fehlende oder nicht übereinstimmende Parameter, führen jedoch explizite Einheits-/Integrationstests für Werkzeugschemata als Regressionsabdeckung bei.
• Ausführliche Protokollierung: Aktivieren Sie eine detaillierte Protokollierung während der Entwicklung, um sowohl Anforderungs-/Antwortzyklen als auch kontextspezifische Fehler zu erfassen. Diese Praxis -Schrägstriche im Mittelpunkt der Auflösung (MTTR) zum Debuggen um bis zu 40%.

• Containerisierung ist der neue Normal: Paket MCP -Server als Docker -Container, um alle Abhängigkeiten und Laufzeitkonfigurationen zu verkapulieren. Dies beseitigt Phänomene „Es funktioniert auf meiner Maschine“ und gewährleistet die Konsistenz von der Entwicklung bis zur Produktion.
• Warum das zählt: Docker-basierte Server sahen a 60% Reduzierung der Einsatzbezogen Help-Tickets und fähige Bord-Onboarding für Endbenutzer ermöglicht-alles, was sie benötigen.
• Sicherheit standardmäßig: Containerisierte Endpunkte profitieren von Bildunterzeichnung, SBOM, kontinuierlichem Scannen und Isolation vom Wirt, wodurch der Explosionsradius eines Kompromisses minimiert wird.

• Moderne {Hardware}: Verwenden Sie GPUs mit hohem Bandbreiten (z. B. Nvidia A100) und optimieren.
• Kernel- und Laufzeitabstimmung: Verwenden Sie Echtzeit-Kernel, konfigurieren Sie die CPU-Gouverneure und nutzen Sie Container für die dynamische Ressourcenzuweisung. 80% der Organisationen, die fortgeschrittene Container -Orchestrierungsberichte beschäftigen Große Effizienzgewinne.
• Ressourcenbewusste Planung: Übernehmen Sie prädiktive oder ML-gesteuerte Lastausgleich zwischen Servern und Melodem Speicherverwaltung für groß angelegte Bereitstellungen.
• Fallstudie: Microsofts benutzerdefinierte Kernel -Tuning für MCP -Server ergab a 30% Leistungssteigerung und 25% Reduzierung der Latenz.

• Semantische Versioning: Tag MCP Server Releases und Instruments semantisch; einen Changelog beibehalten. Dieser Consumer -Upgrades und Rollbacks optimiert.
• Dokumentation: Geben Sie klare API -Referenzen, Umgebungsanforderungen, Werkzeugbeschreibungen und Beispielanforderungen an. Intestine dokumentierte MCP-Server sehen 2x höhere Entwickler-Adoptionsraten im Vergleich zu undokumentierten.
• Betriebshygiene: Verwenden Sie ein versioniertes Repository für Code, Toolkonfigurationen und Modellspezifikationen.

Durch die Übernahme dieser sieben mit Datenbetreuung bestehenden Greatest Practices-inventionelles Werkzeugdesign, proaktive Sicherheit, umfassende Exams, Containerisierung, Leistungsstimmen, starke operative Disziplin und akribische Dokumentation können Engineering-Groups MCP-Server erstellen, testen und verpacken, die zuverlässig, sicher und für Skala vorbereitet sind. Mit Beweisen, die Zuwächse in Bezug auf die Zufriedenheit der Benutzer, die Produktivität von Entwicklern und die Geschäftsergebnisse zeigen und diese Disziplinen direkt in die Ära der Agentensoftware und der KI-gesteuerten Integrationen in den organisatorischen Vorteil übertragen werden.

Treffen Sie den AI Dev Publication, der von 40k+ Entwicklern und Forschern aus Nvidia, Openai, DeepMind, Meta, Microsoft, JP Morgan Chase, Amgen, Aflac, Wells Fargo und 100er mehr gelesen wurde (Jetzt abonnieren)

Quellen:

Michal Sutter ist ein Datenwissenschaftler bei einem Grasp of Science in Information Science von der College of Padova. Mit einer soliden Grundlage für statistische Analyse, maschinelles Lernen und Datentechnik setzt Michal aus, um komplexe Datensätze in umsetzbare Erkenntnisse umzuwandeln.

Wenn KI-Anwendungen in Echtzeit zunehmend auf strukturierte Daten angewiesen sind, werden MCP-Server immer wichtiger. Diese Server bieten die Möglichkeit, LLMs mit Echtzeitdatenströmen so zu verbinden, dass KI-Systeme in Bezug auf aktuelle, kontextbezogene Daten begründen können. Es gibt mehrere Optionen im Gewerberaum; Open-Supply-Optionen gewinnen jedoch an Traktion, da sie leichter zu prüfen, sich anzupassen und häufig mit größerer Unterstützung in der Gemeinschaft zu versorgen. Diese Instruments eignen sich hervorragend für Entwickler, die KI -Agenten, Copiloten oder Assistenten aufbauen, die sich auf einen bestimmten Bereich konzentrieren. In diesem Weblog werden wir uns überlegen, was MCP -Server sind und welche verschiedenen Typen.

MCP -Server und ihre Funktionen

Ein MCP-Server oder ein MCP-Server ist ein Servertyp, der Echtzeit-, strukturierte und relevante Informationen an liefern kann Großspracher Modelle (LLMs) oder AI -Agenten auf Schlussfolgerung oder wie sie Aufgaben ausführen. Diese Server fungieren als Kontextserver und ergänzen LLMs mit neuen verfügbaren externen strukturierten Informationen, über die die LLM nicht trainiert wurde.

Erfahren Sie mehr über MCP -Server hier.

Schlüsselmerkmale

Schauen wir uns nun die Funktionen des MCP -Servers an, die es effizient machen.

1. Werkzeugaufruf: MCP -Server enthüllen Funktionen oder Instruments, die von LLMs aufgerufen werden können, um bestimmte Aufgaben auszuführen, z. B. eine Datenbank abzufragen oder eine Nachricht zu senden. Diese Instruments werden standardisiert definiert und können von KI -Modellen verwendet werden.
2. Ressourcenzugriff: Sie bieten Zugriff auf statische oder dynamische Daten, die als „Ressourcen“ bezeichnet werden und die LLMs abfragen können, um Daten zu extrahieren, die in Antworten enthalten sind. Auf diese Weise können Modelle Antworten bereitstellen, die die aktuellsten Daten verwenden, um eine verbesserte Genauigkeit und Relevanz zu gewährleisten
3. Eingabevorlagen: MCP-Server können vordefinierte Eingabeaufforderungen bereitstellen, um LLMs bei der Interaktion mit Instruments sowie Ressourcen zu unterstützen. Diese Vorlagen können auch dazu beitragen, Interaktionen zu standardisieren und die Konsistenz der Ausgänge der KI zu verbessern.
4. Fähigkeitserdeckung: Sobald eine Verbindung hergestellt wurde, können MCP -Purchasers Server anrufen, um herauszufinden, welche Instruments, Ressourcen und Eingabeaufforderungen über den dynamischen Entdeckungsprozess entdeckt werden können. AI -Anwendungen können sich an verschiedene MCP -Server anpassen, ohne manuell eingerichtet werden zu müssen.
5. Versatile Kommunikationsprotokolle: MCP unterstützt viele Möglichkeiten zur Kommunikation, einschließlich Standardeingabe/Ausgabe für Integrationen mit lokalen Ressourcen. Dies kann lokale Dienste und HTTP mit Server-Despatched-Ereignissen (SSE) für Distant-Verbindungen umfassen. Dies stellt sicher, dass alle möglichen Bereitstellungsumgebungen untergebracht sind.

Beliebte MCP -Server

Jetzt wissen Sie, was MCP -Server sind und wie sie Funktionen sind. Lassen Sie uns einige beliebte erkunden:

Dateisystem MCP Server

Der Dateisystem MCP Der Server bietet AI -Assistenten eine Möglichkeit, sicher mit Ihrem Dateisystem zu interagieren, das lokal oder distant ausgeführt wird. Es bietet AI -Assistenten eine kontrollierte Möglichkeit, mit Dateien und Verzeichnissen zum Lesen, Schreiben, Bearbeiten oder Organisieren von Dateien zu interagieren. Es ist excellent für Aktivitäten, die Codierungsassistenten, Automatisierung und Dokumentenverwaltung betreffen.

Merkmale:

• Zu den Dateiinteraktionen gehören: Liste, Lesen, Schreiben, Anhängen, Löschen
• Bearbeiten Sie Dateien mit dem Musterabgleich
• Zu den Interaktionen für Verzeichnisse gehören: Erstellen, Liste, Verschieben, Löschen
• Suchen Sie nach Dateien und Verzeichnissen mit Namen oder Muster nach Dateien und Verzeichnissen
• Fetch -Dateimetadaten (Größe, Zeitstempel)

Github MCP Server

Der Github MCP Server Bietet eine Schnittstelle für KI -Anwendungen, die direkt mit GitHub interagieren können, sodass die Anwendung Repositories lesen und aktualisieren, Code, Probleme und Anfragen bearbeiten und allgemeine Entwicklungsworkflows automatisieren können.

Merkmale:

• Weitere wichtige Funktionen sind:
• Aufzählende Repositorys und Zweige
• Lesen und Aktualisieren von Dateien in Repositories
• Erstellen und Zusammenführen von Zuganfragen und Problemen
• Suchen Sie nach Code- und Repository -Metadaten

Slack MCP Server

Der Slack MCP Server Ermöglicht AI-Agenten, sich mit Slack-Arbeitsbereichen zu versetzen und zu automatisieren, damit sie in Echtzeit kommunizieren, Benutzer benachrichtigen oder Workflows in Groups auslösen können.

Merkmale:

• Senden und empfangen Nachrichten in Kanälen oder Direktnachrichten
• Suchen Sie in Kanälen und Nachrichtenverlauf
• Benachrichtigungen und Erinnerungen automatisieren
• Verwalten Sie Kanäle und Benutzer
• OAuth-basierte Authentifizierung, um sicherzustellen, dass der Zugriff sicher ist

Google Drive MCP Server

Der Google Drive MCP Server Ermöglicht AI -Assistenten, sich sicher eine Verbindung zum Google Drive herzustellen, damit sie Dokumente und Dateien in der Cloud suchen, lesen und organisieren können.

Merkmale:

• Pay attention, lesen und schreiben Sie Dateien und Ordner
• Suchen Sie nach Dokumenten mit Namen oder Inhalt nach Dokumenten
• Organisieren Sie Dateien in Ordner
• Verwalten Sie die Freigabe und Berechtigungen
• Verwenden Sie OAuth für die Privatsphäre der Benutzer des Benutzers

Docker MCP Server

Docker MCP Server Erleichtert die KI-gesteuerte Verwaltung für Docker-Container, -Bilder und -Benichte und ermöglicht DevOps-Automatisierung und Infrastrukturorchestrierung.

Merkmale:

• Pay attention, starten Sie, stoppen Sie und entfernen Sie Container.
• Bilder und Bände verwalten,
• Zugriff auf Protokolle und Containerzustand,
• Stapel bereitstellen und aktualisieren,
• Sicherer, genehmigter Zugang.

Verwirrung MCP Server

Der Verwirrung MCP Server verbindet AI-Assistenten mit der Sonar-API aus Verwirrung, was viel einfacher und aktuelles Net-Such- und Informationen für Forschungsaufgaben und dynamische Wissensaufgaben ermöglicht.

Merkmale:

• Suchen Sie das Net stay
• Lassen Sie Antworten zusammengefasst oder mit der Quelle
• Holen Sie sich aktuelle Nachrichten und Fakten
• Integrieren Sie Ergebnisse in KI -Arbeit
• Klarheit für das API -Schlüsselmanagement

Puppenspieler MCP Server

Der Puppenspieler MCP Server Ermöglicht AI -Agenten, Browseraufgaben robotisch zu automatisieren, mit Web sites zu interagieren und Webdaten über kopfloses Browser -Skripten zu extrahieren.

Merkmale:

• Automatisiert das Shopping; Füllt Formulare aus
• Kratzen Sie den Inhalt und die Metadaten einer Webseite ab
• Machen Sie Screenshots oder generieren Sie PDFs von Webseiten
• Simulation der Benutzerinteraktionen (Klicks, Tippen)
• Sichere, sandboxte Ausführungsumgebung

Wenn Sie mehr erkunden möchten, können Sie dies besuchen Github -Seite Um mehr nützliche MCP -Server zu finden.

Praktisch mit MCP-Servern

Jetzt, da wir einige der beliebten MCP -Server kennengelernt haben, sehen wir sie in der Praxis, wenn sie in Claude Desktop integriert sind.

Wir werden den MCP -Server des Dateisystems verwenden, um festzustellen, wie viele Ordner auf meinem Desktop, dem Github MCP -Server, sich befinden, um die Repositories auf meinem GitHub -Konto zu erhalten, und es auch verwenden, um zur Vidhya -Weblog -Webseite von Analytics zu wechseln.

Abschluss

Beliebte MCP -Server entwickeln sich schnell als entscheidende Komponente, um schlauer, reaktionsschnelle zu erzeugen Ai Anwendungen durch Verbinden von Modellen mit lebenden und strukturierten Daten. Open Supply -Server bieten die größte Flexibilität hinsichtlich der Verwendung und Verbindung der Prozesse mit den Modellen und profitieren gleichzeitig von einem starken Group -Assist -Netzwerk. Der Vorteil eines MCP -Servers besteht darin, dass, unabhängig von der Anwendungsfall, ein GPT -KI -Assistent, der mit Dateien interagiert, einen Slack -Kanal automatisiert oder Reside -Daten aus dem Web zieht, eine bessere Erfahrung und eine einfache Möglichkeit haben, eine KI in einen Reside -und relevanten Kontext zu gründen. Wenn sich AI weiter anpasst und wächst, ist unsere Einführung von MCP -Servern der Schlüssel, um KI nicht nur nützlich, sondern auch kontextbezogen und reaktionsschnell zu machen.

Datenwissenschaftler | AWS Licensed Options Architect | KI & ML Innovator

Als Datenwissenschaftler bei Analytics Vidhya spezialisiere ich mich auf maschinelles Lernen, Deep Studying und KI-gesteuerte Lösungen, die NLP-, Pc-Imaginative and prescient- und Cloud-Technologien nutzen, um skalierbare Anwendungen zu erstellen.

Mit einem B.Tech in Informatik (Knowledge Science) aus VIT- und Zertifizierungen wie AWS Licensed Options Architect und TensorFlow umfasst meine Arbeit generative KI, Anomalie -Erkennung, falsche Nachrichtenerkennung und Emotionserkennung. Ich bemühe mich, intelligente Systeme zu entwickeln, die die Zukunft der KI prägen.

Jupyter MCP Server ist eine Erweiterung für Jupyter-Umgebungen, die LLMs in Echtzeit-Codierungssitzungen integriert. Durch die Implementierung des Modellkontextprotokolls (MCP) werden es ermöglicht Ai Modelle für die Interaktion mit Jupyters Kernel, Dateisystem und Terminal auf sichere und kontextbezogene Weise. In diesem Weblog wird untersucht, wie Sie Jupyter MCP Server in Ihrem System verwenden können.

Was sind MCP -Server und warum brauchen wir MCP -Server?

MCP-Server (Modellkontextprotokoll) sind dedizierte Go-Between, die die Kommunikation zwischen AI-Assistenten und Anwendungen oder Umgebungen außerhalb von ihnen erleichtern. Sie ermöglichen KI-Modellen, auf staatlich bewusstes Ausführen zu führen, und bieten ihnen Echtzeit-Kontext wie Variablenwerte, Codeverlauf, Datensätze und Ausführungsergebnisse.

Ohne MCP-Server arbeiten KI-Modelle in einem Vakuum ohne Kenntnis von voreingestellten Variablen. Diese Isolation schränkt ihre Fähigkeiten und ihr Potenzial ein, Fehler zu machen. MCP-Server befassen sich mit diesem Downside, indem sie KI die Macht zur Vernunft, Durchführung und Verbesserung in einer Echtzeitumgebung zur Verfügung stellen, sodass sie funktionaler, präziser und effektiver werden können.

Was ist Jupyter MCP Server?

Jupyter MCP Server ist ein Software, das als Brücke zwischen a fungiert Großsprachige Modell und die Stay -Jupyter -Umgebung des Benutzers durch hauptsächlich das Modellkontextprotokoll (MCP). Es beseitigt die Einschränkungen von Modellen, indem die Notwendigkeit des Kopierens und Einfügens von Code und Daten beseitigt wird. MCP verfügt über ein sicheres Protokoll, durch das Modelle verschiedene Komponenten eines Jupyter -Ökosystems zugreifen und mit ihnen interagieren können. So eröffnen Sie das Konzept der integrierten, kontextbewussten und leistungsstarken AI-gesteuerten Unterstützung.

Funktionen von Jupyter MCP Server

Durch das Modellkontextprotokoll (MCP), das Jupyter MCP Der Server bietet eine strukturierte Möglichkeit für externe Anwendungen, mit Kern -Jupyter -Komponenten zu interagieren.

1. Kernel -Interaktion: Unterstützt die Ausführung von Code in aktiven Jupyter -Kerneln, das Abrufen variabler Zustände und das Administration des Kernel -Lebenszyklus.
2. Dateisystemzugriff: Bietet kontrollierten Zugriff auf den Arbeitsbereich des Benutzers und ermöglicht das Lesen, Schreiben und Verwalten von Dateien und Verzeichnissen über den Content material Supervisor von Jupyter.
3. Terminalzugriff: Ermöglicht die Interaktion mit den Terminalsitzungen von Jupyter, die zulässt Ausführung von Shell -Befehlen, Paketinstallationen und Automatisierung von Systemaufgaben
4. Echtzeit- Zusammenarbeit: Ermöglicht mehreren Benutzern oder KI -Agenten, Notizbücher gleichzeitig anzusehen und zu bearbeiten.
5. Notizbuchverwaltung: Das effiziente Pocket book -Administration umfasst das Speichern und Abrufen von Pocket book -Informationen, die die Datenintegrität und die Zugänglichkeit sicherstellen.

Lassen Sie uns nun einige dieser Funktionen im Element verstehen.

Schlüsselfunktionen des Jupyter MCP Servers

Das System besteht aus drei Hauptkomponenten: Kernel -Interaktion, Dateisystemzugriff und Terminalzugriff. Diese Komponenten ermöglichen es externen Anwendungen, durch Ausführen von Code, Verwaltung von Dateien bzw. Steuern von Terminalsitzungen mit JUPYTER -Umgebungen zu fördern. In diesem Abschnitt werden wir jeden von ihnen im Element verstehen:

Kernel -Interaktion

Es Lasst uns Jupyter MCP Server -Code in den aktiven Kernel des Benutzers ausführen. Es inspiziert auch den Kernelstaat, holt die Ausführungsergebnisse ab und verwaltet sogar den Kernel -Lebenszyklus.

Wie es funktioniert: Der MCP -Consumer sendet Anfragen an die MCP -API und gibt den Zielkern und die Aktion an. Anschließend kommuniziert der MCP -Server mit dem Kernel -Supervisor von Jupyter, um die Anfrage zu verarbeiten.

Mögliche Handlungen:

• Auslaufcodezellen
• Variablenwerte abrufen
• Kernelstatus überprüfen
• Kernel unterbrechen oder neu starten

Dateisystemzugriff

Es bietet kontrollierten Zugriff auf den Arbeitsbereich des Benutzers und ermöglicht externe Anwendungen, Dateien und Verzeichnisse zu lesen, zu schreiben oder zu verwalten.

Wie es funktioniert: Der MCP -Consumer fordert Dateioperationen gemäß den Regeln an, die von Jupyters Content material Supervisor und MCP -Sicherheitsrichtlinien festgelegt wurden.

Mögliche Handlungen:

• Lesen von Dateiinhalten
• Dateien schreiben oder ändern
• Erstellen oder Löschen von Dateien und Ordnern

Terminalzugriff

Es Ermöglicht Jupyter MCP Server, mit den Terminalsitzungen von Jupyter zu interagieren.

Wie es funktioniert: Der MCP -Consumer sendet Befehle an eine bestimmte Terminalsitzung, und der Terminalmanager von Jupyter verarbeitet die Anforderung und gibt eine Ausgabe zurück.

Mögliche Handlungen:

• Ausführen von Shell -Befehlen
• Pakete installieren
• Verwaltung von Hintergrundprozessen
• Systemaufgaben automatisieren

Wie integriere ich Jupyter MCP Server?

Dieser Abschnitt beschreibt die für die Integration des erforderlichen Schritte Jupyter MCP Server. Bevor wir uns jedoch mit dem Installations- und Konfigurationsprozess eintauchen Jupyter MCP Server richtig.

Sobald die Voraussetzungen erfüllt sind, werden wir mit den Installations- und Setup -Schritten fortfahren.

Voraussetzungen

• Python 3.8 oder höher: Der Server basiert auf modernen Python-Funktionen und erfordert eine aktuelle Umgebung
• Jupyter Server: MCP Server arbeitet als Erweiterung des Jupyter -Servers. Wenn nicht bereits installiert, können Sie es mit dem folgenden Befehl hinzufügen.

pip set up jupyter-server

Set up

Da Sie mit den Voraussetzungen fertig sind, führen wir die Schritte zum Herunterladen von Jupyter MCP Server aus.

1. Obtain

Es gibt zwei Möglichkeiten, wie Sie den Jupyter MCP Server herunterladen können

Standardinstallation

Installieren von Jupyter MCP Server direkt von PYPI mit PIP:

pip set up jupyter-mcp-server

Entwicklungsinstallation

Sie können das Quellcode -Repository auch klonen Hier

Schritt 1: Klonen Sie das oben erwähnte Repository

git clone https://github.com/datalayer/jupyter-mcp-server.git
cd jupyter-mcp-server

Schritt 2: Obtain bearbeitbarer Modus: Auf diese Weise können Sie Änderungen im Quellcode vornehmen, die sich widerspiegeln.

Verwenden Sie das Flag -e -Flag mit PIP, um das Paket im bearbeitbaren Modus zu installieren.

Pip set up -e

Wenn Sie vorhaben, Exams auszuführen und einen Beitrag zu leisten, können Sie den folgenden Code verwenden:

Pip set up -e “.(dev)” 

2. Aktivieren Sie die Erweiterung

Sobald Sie installiert sind (entweder wie oben erläutert) müssen Sie die Erweiterung für den Jupyter -Server aktivieren. Dies lädt und verwendet die MCP -Server -Funktionalität. Ändern Sie Jupyter -Konfigurationen und Aktualisierung der Liste der aktiven Erweiterungen mit dem MCP -Server.

jupyter server extension allow jupyter_mcp_server    

Sobald Sie mit den oben genannten Schritten durchgeführt wurden, können Sie Ihre Set up mit der Liste der Jupyter Server -Erweiterung überprüfen.

jupyter server extension checklist

Professional -Tipp: Wenn Sie sehen JUPYTER_MCP_SERVER In der Liste wird es dann aktiviert.

Jupyter MCP Server funktioniert

Der Jupyter MCP -Server ist stattdessen keine sichtbare Oberfläche, sondern befindet sich in JupyterLab oder Pocket book. Es bietet eine HTTP -API, die andere Instruments wie Claude Desktop, AI -Modelle, Backends oder Plugins.

Nehmen Sie bei der Verwendung von Claude -Desktop Änderungen in der claude_desktop_config.json. Der Token -Wert und das Notebook_Path können vom Terminal erhalten werden, sobald Sie Ihr Jupyter -Notizbuch ausgeführt haben

Code für Home windows:

{

  "mcpServers": {

    "jupyter": {

      "command": "docker",

      "args": (

        "run",

        "-i",

        "--rm",

        "-e",

        "SERVER_URL",

        "-e",

        "TOKEN",

        "-e",

        "NOTEBOOK_PATH",

        "datalayer/jupyter-mcp-server:newest"

      ),

      "env": {

        "SERVER_URL": "http://host.docker.inside:8888",

        "TOKEN": "MY_TOKEN",

        "NOTEBOOK_PATH": "pocket book.ipynb"

      }

    }

  }

}

Code für Linux:

CLAUDE_CONFIG=${HOME}/.config/Claude/claude_desktop_config.json

cat <<EOF > $CLAUDE_CONFIG

{

  "mcpServers": {

    "jupyter": {

      "command": "docker",

      "args": (

        "run",

        "-i",

        "--rm",

        "-e",

        "SERVER_URL",

        "-e",

        "TOKEN",

        "-e",

        "NOTEBOOK_PATH",

        "--network=host",

        "datalayer/jupyter-mcp-server:newest"

      ),

      "env": {

        "SERVER_URL": "http://localhost:8888",

        "TOKEN": "MY_TOKEN",

        "NOTEBOOK_PATH": "pocket book.ipynb"

      }

    }

  }

}

EOF

cat $CLAUDE_CONFIG

Sobald es genehmigt wurde, sendet es eine Anfrage an diese API. Der MCP -Server bearbeitet die Anfrage, indem er überprüft wird, ob er zulässig ist, mit dem entsprechenden Teil von Jupyter wie dem Kernel, dem Dateisystem oder dem Terminal kommuniziert und die erforderliche Antwort zurücksendet.

Der API -Endpunkt der MCP -Erweiterung, der in /MCP /V1 lebt, ist nur ein zusätzlicher Weg zur Foundation -URL Ihres Jupyter -Servers.

Additionally, wenn Ihr Jupyter -Server lokal unter läuft http: // localhost: 8888/Sie finden die MCP -API bei http: // localhost: 8888/mcp/v1. Hier erreichen externe Instruments wie der Jupyter MCP Server die Kommunikation mit Ihrer Jupyter -Umgebung.

Die HTTP die Aufgabe. Jede Anfrage geht zu einem bestimmten Unterfaden unter /MCP /V1. Diese Anforderungsmuster und Datenstrukturen bilden das als Modellkontextprotokoll (MCP). Weitere Informationen finden Sie im Haupt Readme Datei im Projekt zur Erklärung der Rolle des Endpunkts.

Praktische Anwendung

Im Hand-On werden wir sehen, wie man:

• Codezellen hinzufügen: Dies sind Abschnitte, in denen Sie den Code schreiben und ausführen können.
• Führen Sie Ihren Code aus: Drücken Sie einfach eine Style, um die Ergebnisse sofort zu sehen
• Fügen Sie Textual content mit Markdown hinzu: Verwenden Sie Markdown -Zellen, um Notizen, Erklärungen oder Überschriften zu schreiben, um Ihre Arbeit organisiert zu machen.

Quelle: LinkedIn

Es ist, als hätte ein Notizbuch perfekt zum Lernen und Experimentieren.

Kontextmanagement und Sicherheit von Jupyter MCP

Bei MCP geht es nicht darum, Zugriff zu ermöglichen, sondern stellt kontrollierten und sicheren Zugriff sicher. Das Protokoll erzwingt die Genehmigung und den Scoping, dh die Begrenzung des Zugangs zu explizit erlaubt. Benutzer haben Sichtbarkeit und Kontrolle darüber, auf welche Anwendungen auf ihre Sitzung zugreifen können und auf was sie tun. Dies verhindert den unbefugten Zugriff, schützt Benutzerdaten und hält die Jupyter -Umgebung sicher.

Abschluss

Ich hoffe, Sie haben Jupyter MCP Server Tutorial hilfreich gefunden! Der Jupyter MCP Server bringt in der Jupyter-Umgebung intelligentere Interaktionen mit KI-betrieben. Es verwendet das Modellkontextprotokoll (MCP), um dies sicher und standardisiert zu tun. Der Server ist bereits verfügbar und einfach einzurichten. Ich glaube, dass wir mit zunehmender Adoption intelligentere, kontextbezogene Instruments erwarten können, die nicht nur helfen, sondern unseren Workflow wirklich verstehen. Daher schließen Sie die Lücke zwischen leistungsstarken KI -Modellen und dynamischen Umgebungen.

Datenwissenschaftler | AWS Licensed Options Architect | KI & ML Innovator

Als Datenwissenschaftler bei Analytics Vidhya spezialisiere ich mich auf maschinelles Lernen, Deep Studying und KI-gesteuerte Lösungen, die NLP-, Pc-Imaginative and prescient- und Cloud-Technologien nutzen, um skalierbare Anwendungen zu erstellen.

Mit einem B.Tech in Informatik (Knowledge Science) aus VIT- und Zertifizierungen wie AWS Licensed Options Architect und TensorFlow umfasst meine Arbeit generative KI, Anomalie -Erkennung, falsche Nachrichtenerkennung und Emotionserkennung. Ich bemühe mich, intelligente Systeme zu entwickeln, die die Zukunft der KI prägen.

Ich habe die Möglichkeit, einen MCP -Server für eine Observierbarkeitsanwendung zu erstellen, um dem AI -Agenten dynamische Codesanalysefunktionen bereitzustellen. Aufgrund seines Potenzials, Anwendungen zu transformieren, ist MCP eine Technologie, über die ich noch ekstatischer bin als ich ursprünglich um Genai im Allgemeinen. Ich habe mehr darüber und einige Intro an MCPS im Allgemeinen in einem früheren geschrieben Submit.

Während ein anfänglicher POCs zeigte, dass es eine gab immens Das Potenzial, dass dies ein Kraftmultiplikator für den Wert unseres Produkts darstellt, dauerte es mehrere Iterationen und mehrere Stolperfaktoren, um dieses Versprechen zu erfüllen. In diesem Beitrag werde ich versuchen, einige der gewonnenen Lektionen zu erfassen, da ich denke, dass dies anderen MCP -Server -Entwicklern zugute kommen kann.

Mein Stapel

• Ich habe benutzt Cursor Und VSCODE zeitweise als Haupt MCP -Shopper
• Um den MCP -Server selbst zu entwickeln, habe ich das verwendet .NET MCP SDKals ich mich entschied, den Server auf einem anderen in .NET geschriebenen Dienst zu hosten

Lektion 1: Lassen Sie nicht alle Ihre Daten auf den Agenten abgeben

In meiner Anwendung gibt ein Instrument aggregierte Informationen zu Fehlern und Ausnahmen zurück. Die API ist sehr detailliert, da sie eine komplexe UI -Ansicht dient und große Mengen von tief verknüpften Daten ausspricht:

• Fehlerrahmen
• Betroffene Endpunkte
• Stapelspuren
• Priorität und Tendencies
• Histogramme

Meine erste Vermutung warfare es, die API einfach aufzudecken wie ist als MCP -Instrument. Schließlich sollte der Agent in der Lage sein, mehr Sinn als jede Benutzeroberfläche zu erkennen und sich mit interessanten Particulars oder Verbindungen zwischen Ereignissen zu befassen. Es gab mehrere Szenarien, die ich im Sinn hatte, wie ich erwarten würde, dass diese Daten nützlich sind. Der Agent könnte automatisch Korrekturen für jüngste Ausnahmen anbieten, die in der Produktion oder in der Testumgebung aufgezeichnet wurden, mich über Fehler informieren, die sich hervorheben, oder helfen mir, einige systematische Probleme anzugehen, die die Grundursache für die Probleme darstellen.

Die grundlegende Prämisse bestand daher darin, dem Agenten zu ermöglichen, seine „Magie“ zu bearbeiten, wobei mehr Daten möglicherweise mehr Hooks für den Agenten bedeuten, um sich in seinen Untersuchungsbemühungen zu verringern. Ich habe schnell einen Wrapper um unsere API am MCP -Endpunkt codiert und beschloss, mit einer grundlegenden Aufforderung zu beginnen, ob alles funktioniert:

Wir können sehen, dass der Agent klug genug warfare, um zu wissen, dass es ein weiteres Instrument anrufen musste, um die Umgebungs -ID dafür zu erfassen. ‚prüfen‚Umgebung, die ich erwähnt habe. Nachdem dies in den letzten 24 Stunden festgestellt hatte, dass es in den letzten 24 Stunden tatsächlich keine Ausnahme gab, dauerte es die Freiheit, einen längeren Zeitraum zu scannen, und dann wurde es ein wenig seltsam:

Was für eine seltsame Antwort. Der Agent wechselt nach Ausnahmen aus den letzten sieben Tagen, erzielt diesmal einige materielle Ergebnisse und fordert dennoch weiter, als ob Sie die Daten insgesamt ignorieren. Es versucht weiterhin zu versuchen, das Instrument auf unterschiedliche Weise und unterschiedliche Parameterkombinationen zu verwenden, die offensichtlich fummeln, bis ich feststellte, dass die Daten dafür völlig unsichtbar sind. Während Fehler in der Antwort wieder gesendet werden, behauptet der Agent tatsächlich, dass es dort gibt Keine Fehler. Was ist los?

Nach einigen Untersuchungen wurde herausgestellt, dass das Drawback die Tatsache warfare, dass wir einfach eine Obergrenze in der Fähigkeit des Agenten erreicht haben, große Datenmengen in der Antwort zu verarbeiten.

Ich habe eine extrem ausführliche API verwendet, die ich ursprünglich sogar als Vorteil betrachtete. Das Endergebnis warfare jedoch, dass ich es irgendwie geschafft habe, das Modell zu überwältigen. Insgesamt gab es rund 360.000 Charaktere und 16.000 Wörter in der Antwort JSON. Dies beinhaltet Anrufstapel, Fehlerrahmen und Referenzen. Das sollen wurden nur durch Betrachtung der Kontextfenstergrenze für das von mir verwendete Modell unterstützt (Claude 3.7 Sonett sollte bis zu 200 Okay -Token unterstützen), aber der große Datenablager hat den Agenten dennoch gründlich stumpft.

Eine Strategie wäre, das Modell in eine zu ändern, die ein noch größeres Kontextfenster unterstützt. Ich wechselte auf die Gemini 2.5 Professional Modell, um diese Theorie zu testen, da es eine unerhörte Grenze von einer Million Token hat. Sicher genug, die gleiche Frage ergab jetzt eine viel intelligentere Reaktion:

Das ist großartig! Der Agent konnte die Fehler analysieren und die systematische Ursache vieler von ihnen mit einiger grundlegender Begründung finden. Wir können uns jedoch nicht darauf verlassen, dass der Benutzer ein bestimmtes Modell verwendet, und um Dinge zu komplizieren, wurde dies aus einer relativ niedrigen Bandbreiten -Testumgebung ausgegeben. Was wäre, wenn der Datensatz noch größer wäre?
Um dieses Drawback zu lösen, habe ich einige grundlegende Änderungen an der Struktur der API vorgenommen:

• Verschachtelte Datenhierarchie: Halten Sie die anfängliche Antwort auf hochrangige Particulars und Aggregationen. Erstellen Sie eine separate API, um die Anrufstapel bestimmter Frames nach Bedarf abzurufen.
• Verbesserung der Abfragbarkeit: Alle bisher von dem Agent vorgenommenen Abfragen verwendeten eine sehr kleine Seitengröße für die Daten (10). Wenn wir möchten, dass der Agent in der Lage ist, relevantere Teilmengen der Daten zugreifen, um mit den Einschränkungen seines Kontextes zu passen, müssen wir mehr APIs für Abfragefehler anhand verschiedener Dimensionen, beispielsweise betroffen: betroffene Methoden, Fehlertyp, Priorität und Einfluss usw. angeben.

Mit den neuen Änderungen analysiert das Instrument nun konsequent wichtige neue Ausnahmen und erstellt Fixvorschläge. Ich warf einen anderen kleinen Element, das ich sortieren musste, bevor ich es wirklich zuverlässig verwenden konnte.

Lektion 2: Wie ist es Zeit?

Der Leser mit Kree-Eyed-Leser hat möglicherweise festgestellt, dass der Agent im vorherigen Beispiel die Fehler in einem bestimmten Zeitbereich verwendet ISO 8601 Zeitdauer Format anstelle der tatsächlichen Daten und Zeiten. Additionally anstatt Normal einzubeziehen ‚Aus‚ Und ‚Zu‚Parameter mit DateTime -Werten, die KI sendete beispielsweise sieben Tage oder einen Dauerwert, zum Beispiel sieben Tage oder P7d, Um anzuzeigen, möchte es in der vergangenen Woche auf Fehler suchen.

Der Grund dafür ist etwas seltsam – Der Agent kennt das aktuelle Datum und die aktuelle Uhrzeit nicht! Sie können dies selbst überprüfen, indem Sie dem Agenten diese einfache Frage stellen. Das folgende hätte Sinn gemacht, wenn ich nicht die Tatsache, dass ich diese Eingabeaufforderung gegen Mittag am 4. Mai tippte…

Zeit verwenden Dauer Die Werte stellten sich als großartige Lösung heraus, die der Agent ziemlich intestine behandelte. Vergessen Sie jedoch nicht, den erwarteten Wert und die Beispielsyntax in der Beschreibung des Toolparameters zu dokumentieren!

Lektion 3: Wenn der Agent einen Fehler macht, zeigen Sie ihm, wie man es besser macht

Im ersten Beispiel warfare ich tatsächlich überrascht, wie der Agent die Abhängigkeiten zwischen den verschiedenen Toolaufrufen entschlüsseln konnte, um die richtige Umgebungskennung bereitzustellen. Bei der Untersuchung des MCP -Vertrags wurde herausgefunden, dass ein anderes Instrument von einem abhängigen Instrument anrufen musste, um die Liste der Umgebungs -IDs zuerst zu erhalten.

Als Reaktion auf andere Anfragen nahm der Agent jedoch manchmal die in der forderten wörtlichen genannten Umgebungsnamen auf. Zum Beispiel bemerkte ich das als Antwort auf diese Frage: Vergleichen Sie langsame Spuren für diese Methode zwischen den Take a look at- und Produktumgebungen. Gibt es signifikante Unterschiede? Abhängig vom Kontext, Der Agent verwendete manchmal die in der Anfrage genannten Umgebungsnamen und sendete die Zeichenfolgen „Take a look at“ und „Prod“ als Umgebungs -ID.

In meiner ursprünglichen Implementierung würde mein MCP -Server in diesem Szenario stillschweigend versagen und eine leere Antwort zurückgeben. Der Agent würde nach Erhalt keines Daten oder eines generischen Fehlers einfach beenden und versuchten, die Anforderung mit einer anderen Strategie zu lösen. Um dieses Verhalten auszugleichen, habe ich meine Implementierung schnell geändert, so dass die JSON -Antwort genau beschreiben würde, was schief gelaufen ist, und sogar eine gültige Liste möglicher Werte bereitzustellen, um dem Agenten einen anderen Instrument -Aufruf zu speichern.

Dies warfare genug für den Agenten, das aus seinem Fehler lernte, den Anruf mit dem richtigen Wert wiederholte und irgendwie auch vermieden wurde, den gleichen Fehler in der Zukunft zu machen.

Lektion 4: Konzentrieren Sie sich auf Benutzerabsichten und nicht auf Funktionen

Es ist zwar verlockend, einfach zu beschreiben, was die API tut, aber die generischen Begriffe ermöglichen es dem Agenten manchmal nicht ganz, die Artwork der Anforderungen zu erkennen, für die diese Funktionalität am besten gelten.

Nehmen wir ein einfaches Beispiel: Mein MCP -Server verfügt über ein Instrument, mit dem für jede Methode, jeder Endpunkt oder für jede Codesposition angegeben werden kann, wie es zur Laufzeit verwendet wird. Insbesondere wird die Verfolgungsdaten verwendet, um anzugeben, welche Anwendungsflüsse die spezifische Funktion oder Methode erreichen.

In der Originaldokumentation wurden diese Funktionalität einfach beschrieben:

(McpServerTool,
Description(
@"For this technique, see which runtime flows within the software
(together with different microservices and code not on this undertaking)
use this perform or technique.
This knowledge is predicated on analyzing distributed tracing."))
public static async Job<string> GetUsagesForMethod(IMcpService shopper,
(Description("The atmosphere id to verify for usages"))
string environmentId,
(Description("The title of the category. Present solely the category title with out the namespace prefix."))
string codeClass,
(Description("The title of the tactic to verify, should specify a particular technique to verify"))
string codeMethod)

Das obige stellt eine funktional genaue Beschreibung dessen dar, was dieses Instrument tut, aber es macht nicht unbedingt klar, für welche Arten von Aktivitäten es related sein könnte. Nachdem ich festgestellt hatte, dass der Agent dieses Instrument nicht für verschiedene Eingabeaufforderungen ausgewählt hatte, dachte ich, dass es ziemlich nützlich wäre, ich habe mich entschlossen, die Toolbeschreibung neu zu schreiben. Diesmal betonte ich die Anwendungsfälle:

(McpServerTool,
Description(
@"Discover out what's the how a particular code location is getting used and by
which different providers/code.
Helpful to be able to detect doable breaking modifications, to verify whether or not
the generated code will match the present usages,
to generate exams primarily based on the runtime utilization of this technique,
or to verify for associated points on the endpoints triggering this code
after any change to make sure it didnt affect it"

Die Aktualisierung des Textes half dem Agenten, zu verwirklichen Warum Die Informationen waren nützlich. Vor diesem Änderung würde der Agent beispielsweise das Instrument als Reaktion auf eine Eingabeaufforderung, die der folgenden ähnelt, nicht einmal auslösen. Jetzt ist es völlig nahtlos geworden, ohne dass der Benutzer direkt erwähnen muss, dass dieses Instrument verwendet werden sollte:

Lektion 5: Dokumentieren Sie Ihre JSON -Antworten

Der JSON -Normal unterstützt zumindest offiziell keine Kommentare. Das heißt, wenn der JSON alles, was der Agent hat, muss er einige Hinweise auf den Kontext der von Ihnen zurückgegebenen Daten fehlen. Zum Beispiel habe ich in meiner aggregierten Fehlerantwort die folgenden zurückgegeben Punktzahl Objekt:

"Rating": {"Rating":21,
"ScoreParams":{ "Occurrences":1,
"Development":0,
"Latest":20,
"Unhandled":0,
"Surprising":0}}

Ohne ordnungsgemäße Dokumentation wäre es jedem Nicht-Klebstoff-Agenten schwer zu verstehen, was diese Zahlen bedeuten. Zum Glück ist es einfach, zu Beginn der JSON -Datei ein Kommentarelement mit zusätzlichen Informationen zu den angegebenen Daten hinzuzufügen:

"_comment": "Every error comprises a hyperlink to the error hint,
which could be retrieved utilizing the GetTrace instrument,
details about the affected endpoints the code and the
related stacktrace.
Every error within the listing represents quite a few situations
of the identical error and is given a rating after its been
prioritized.
The rating displays the criticality of the error.
The quantity is between 0 and 100 and is comprised of a number of
parameters, every can contribute to the error criticality,
all are normalized in relation to the system
and the opposite strategies.
The rating parameters worth represents its contributation to the
total rating, they embody:

1. 'Occurrences', representing the variety of situations of this error
in comparison with others.
2. 'Development' whether or not this error is escalating in its
frequency.
3. 'Unhandled' represents whether or not this error is caught
internally or poropagates all the way in which
out of the endpoint scope
4. 'Surprising' are errors which might be in excessive chance
bugs, for instance NullPointerExcetion or
KeyNotFound",
"EnvironmentErrors":()

Auf diese Weise kann der Agent dem Benutzer erklären, was die Punktzahl bedeutet, wenn er fragt, aber auch diese Erklärung in seine eigenen Argumentation und Empfehlungen einspeisen.

Auswahl der richtigen Architektur: SSE vs Stdio,

Es gibt zwei Architekturen, die Sie bei der Entwicklung eines MCP -Servers verwenden können. Die häufigere und weit verbreitete Implementierung macht Ihren Server als verfügbar Befehl vom MCP -Shopper ausgelöst. Dies könnte ein CLI-ausgelösterter Befehl sein; NPX, DockerUnd Python sind einige häufige Beispiele. In dieser Konfiguration erfolgt die gesamte Kommunikation über den ProzessStdiound der Prozess selbst wird auf dem Shopper -Laptop ausgeführt. Der Shopper ist für die Instanziierung und Aufrechterhaltung des Lebenszyklus des MCP -Servers verantwortlich.

Diese clientseitige Architektur hat aus meiner Sicht einen wichtigen Nachteil: Da die MCP-Server-Implementierung vom Shopper auf der lokalen Maschine ausgeführt wird, ist es viel schwieriger, Updates oder neue Funktionen auszurüsten. Selbst wenn dieses Drawback irgendwie gelöst wird, würde die enge Kopplung zwischen dem MCP -Server und den Backend -APIs, von denen er in unseren Anwendungen abhängt, dieses Modell in Bezug auf Versioning und Vorwärts-/Rückwärtskompatibilität weiter komplizieren.

Aus diesen Gründen habe ich die zweite Artwork von MCP -Server ausgewählt – ein SSE Server wird als Teil unserer Anwendungsdienste gehostet. Dadurch wird jede Reibung vom Ausführen von CLI -Befehlen auf dem Shopper -Laptop entfernt und ermöglicht es mir, den MCP -Servercode zusammen mit dem von ihm konsumierten Anwendungscode zu aktualisieren und zu übertreffen. In diesem Szenario erhält der Kunde eine URL des SSE -Endpunkts, mit dem er interagiert. Obwohl nicht alle Kunden diese Possibility unterstützen, gibt es einen brillanten Kommandomcp auf dem Namen Supergateway Dies kann als Proxy für die SSE -Server -Implementierung verwendet werden. Das bedeutet, dass Benutzer weiterhin die weit verbreitete STDIO -Variante hinzufügen und die auf Ihrem SSE -Backend gehostete Funktionen weiterhin konsumieren können.

MCPs sind immer noch neu

Es gibt viel mehr Lektionen und Nuancen, diese täuschend einfache Technologie zu nutzen. Ich habe festgestellt, dass es eine große Lücke zwischen der Implementierung eines praktikablen MCP zu einem gibt, das sich tatsächlich in die Bedürfnisse der Benutzer und die Nutzungsszenarien integrieren kann, selbst über diejenigen, die Sie erwartet haben. Hoffentlich sehen wir, wie die Technologie reift, weitere Beiträge auf Greatest Practices.

Willst du eine Verbindung herstellen? Sie können mich auf Twitter erreichen @doppleware oder über LinkedIn.
Folge mir MCP Für die dynamische Codeanalyse unter Verwendung von Beobachtbarkeit bei https://github.com/digma-ai/digma-mcp-server