Unternehmen für Cloud-native Software Networking ermöglicht seinen Kunden die Entwicklung leistungsstarker KI-Anwendungen im großen Maßstab
Solo.ioein führendes Unternehmen für Cloud-native Software Networking, gab die Veröffentlichung von Gloo KI-Gatewaydas auf den neuen Anwendungsfall der Beschleunigung von KI-Innovationen zugeschnitten ist.
KI gewinnt branchenübergreifend weiter an Bedeutung und wird voraussichtlich eine jährliche Wachstumsrate von 37,3 % zwischen 2023 und 2030. Für die Anwendungsentwicklung kann die Integration von KI in Anwendungen komplex sein und erfordert für den Einstieg Zeit und Ressourcen. Mit Gloo AI Gateway baut Solo.io auf jahrelanger Exzellenz mit Gloo-Gatewaydas ein Envoy-basiertes API-Gateway und einen Ingress-Controller bereitstellt, um den Anwendungsverkehr am Edge zu erleichtern und zu sichern und so modernen KI-Anwendungen die gleiche Geschwindigkeit, Sicherheit und Skalierbarkeit zu bieten.
„AI Gateway ist der bedeutendste neue Development im Bereich API-Administration und API-Gateway“, sagte Idit Levine, CEO und Gründer von Solo.io. „Da die Kunden immer mehr KI einsetzen, bieten wir die Möglichkeit, Gloo AI Gateway zu nutzen, um diese zusätzlichen neuen Anwendungsfälle zusätzlich zu ihren bestehenden API-Administration-Anforderungen abzuwickeln. Mit Gloo AI Gateway ermöglichen wir Anwendungsentwicklern, ihre KI-Initiativen voranzutreiben, bieten aber gleichzeitig Schutzmaßnahmen, um einen langfristigen Erfolg sicherzustellen.“
Gloo AI Gateway optimiert die KI-Reise der Kunden von Solo.io durch die Bereitstellung von:
- Schnelle Bereitstellung: Beseitigt Reibungsverluste bei der Entwicklung, Boilerplate-Code und vermeidbare Fehler in Anwendungen, die LLM-APIs nutzen.
- Sicherheit und Kontrolle: Schützt Anwendungen, Modelle und Daten vor unangemessenem Zugriff und gewährleistet die sichere Nutzung von KI mit Governance-Kontrollen, Überprüfbarkeit und Einblicken in die Nutzung.
- Skalierbarkeit: Nutzt erweiterte KI-Integrationsmuster zur Datenerweiterung und -integration mit Cloud-nativen Gateway-Funktionen, um KI-Konnektivität mit hohem Volumen und ohne Ausfallzeiten zu unterstützen.
Zu den wichtigsten Anwendungsfällen von Gloo AI Gateway gehören:
- Unterstützung mehrerer LLM-Anbieter: Vereinfacht den LLM-Zugriff für Verbraucher und ermöglicht eine zentrale Kontrolle, Sichtbarkeit und Governance über alle LLM-Anbieter hinweg.
- API-Schlüsselverwaltung: Speichert LLM-API-Schlüssel sicher als Geheimnisse und generiert auch API-Schlüssel zur Zuordnung zu einem oder mehreren LLM-Supplier-Geheimnissen.
- Verbrauchskontrolle und -transparenz: Überwacht und verfolgt den LLM-Verbrauch effizient mit Protokollierungs-, Analyse- und Berichtsfunktionen, die eine optimale Ressourcennutzung und Kosteneffizienz gewährleisten.
- Immediate-Administration: Optimiert die LLM-Anwendungsintegration mit Immediate-Templating und Immediate-Anreicherung und nutzt Immediate-Guards und Datenexfiltrationskontrollen, um unangemessene Anfragen abzulehnen und LLM-Antworten zu bereinigen und so eine konsistente Governance und Kontrolle sicherzustellen.
- Retrieval Augmented Era (RAG): Stellt sicher, dass LLM-Antworten auf genauen und relevanten Informationen basieren, die dynamisch aus externen Quellen abgerufen werden.
„Bei Solo.io konzentrieren wir uns darauf, unsere Kunden an ihrem sich ständig ändernden Wendepunkt mit ihren IT-Betriebsanforderungen abzuholen und ihnen die Lösungen zu bieten, die sie für ihren Erfolg benötigen“, fügte Levine hinzu. „Gloo AI Gateway ist ein weiteres Beispiel dafür, wie wir Innovationen für Entwickler und Unternehmen auf der ganzen Welt vorantreiben, da KI zu einer tragenden Säule der heutigen Anwendungsentwicklung wird.“
Melden Sie sich für die kostenlosen insideAI Information an Publication.
Folgen Sie uns auf Twitter: https://twitter.com/InsideBigData1
Folgen Sie uns auf LinkedIn: https://www.linkedin.com/firm/insideainews/
Folge uns auf Fb: https://www.fb.com/insideAINEWSNOW