Um die Entscheidungsfindung in einem schnelllebigen, globalen Markt zu beschleunigen und zu verfeinern, können Unternehmen generative Modelle der künstlichen Intelligenz einsetzen, um die Diagramme zusammenzufassen und zu interpretieren, die häufig in Marktzusammenfassungen und Finanzberichten enthalten sind.

Aber selbst die neuesten Imaginative and prescient-Sprach-Modelle haben manchmal Probleme mit dieser Aufgabe, da sie ein Modell benötigen, um visuelles, numerisches und sprachliches Verständnis zu integrieren. Ein Unternehmen, das in ein hochmodernes Modell investiert, erhält möglicherweise dennoch ungenaue oder unvollständige Informationen.

Um diese Leistungslücke zu schließen, haben Forscher des MIT und des MIT-IBM Computing Analysis Lab eine vielseitige Ressource für KI-Benutzer entwickelt, die speziell darauf ausgelegt ist, Imaginative and prescient-Language-Modellen (VLMs) beizubringen, wie man Diagramme effektiv interpretiert.

Sie verwendeten eine neuartige Datengenerierungsmethode, um einen hochmodernen Datensatz zu erstellen, der mehr als eine Million verschiedener Diagramme umfasst. Der Datensatz kodiert außerdem viele visuelle, sprachliche und numerische Komponenten jedes Diagrammbilds, die es Modellen ermöglichen, fundierte Überlegungen zu den Informationen in einem Diagramm anzustellen.

Die Forscher verwendeten diesen Datensatz namens ChartNetum eine Reihe von Open-Supply-VLMs zu trainieren. Viele dieser kleineren Modelle übertrafen größere, kommerzielle Modelle um Größenordnungen bei Aufgaben wie Datenextraktion und Diagrammzusammenfassung deutlich.

Indem es Open-Supply-Modellen ermöglicht, ihre kommerziellen Pendants zu übertreffen, könnte ChartNet es kleinen Unternehmen mit begrenzten Budgets ermöglichen, KI leichter zu nutzen. Der Open-Supply-Datensatz kann verwendet werden, um die Fähigkeiten von KI-Modellen für Aufgaben wie Geschäftstrendanalysen und die Interpretation wissenschaftlicher Zahlen zu verbessern.

„Wir haben ChartNet als zentrale Anlaufstelle für das Verständnis von Diagrammen entwickelt, die im Grunde alles abdeckt, was ein KI-Modell und ein Praktiker, der dieses Modell trainiert, benötigen könnten. Wir hoffen, dass unsere Arbeit Forscher dazu motiviert, mit kleineren Modellen, die nicht unendlich viel Rechenaufwand erfordern, Spitzenleistungen zu erzielen“, sagt Jovana Kondic, Absolventin der Elektrotechnik und Informatik (EECS) am MIT und Hauptautorin von a Artikel auf ChartNet.

Sie wird von zahlreichen Co-Autoren des MIT, des MIT-IBM Computing Analysis Lab und von IBM Analysis unterstützt, darunter Pengyuan Li, ein Forschungsmitarbeiter bei IBM Analysis; Dhiraj Joshi, leitender Wissenschaftler bei IBM Analysis; Isaac Sanchez, Softwareentwickler bei IBM Analysis; Aude Oliva, Direktorin für strategisches Branchenengagement am MIT Schwarzman School of Computing, MIT-Direktorin des MIT-IBM Computing Analysis Lab und leitende Forschungswissenschaftlerin im Pc Science and Synthetic Intelligence Laboratory (CSAIL); und Rogerio Feris, leitender Wissenschaftler und Supervisor am MIT-IBM Computing Analysis Lab. Die Forschung wird auf der IEEE Pc Imaginative and prescient and Sample Recognition Convention vorgestellt.

Ein Datensatzengpass

Forscher haben große Fortschritte bei der Entwicklung generativer KI-Modelle gemacht, die sich durch die Verarbeitung natürlicher Sprache und die Schlussfolgerung über natürliche Bilder auszeichnen. Laut Kondic konzentrierte sich die Arbeit jedoch weniger auf die Interpretation komplexer multimodaler Daten, die in Diagrammen enthalten sind.

Doch für große und kleine Unternehmen in nahezu jeder Branche ist das Verständnis von Diagrammen eine entscheidende Aufgabe.

„Die Finanzbranche lebt von Diagrammen. Wenn Imaginative and prescient-Language-Modelle Informationen aus Diagrammen extrahieren können, etwa Beschreibungen von Developments, erleichtert das viele Arbeitsabläufe, die nachgelagert stattfinden“, sagt Joshi.

Der Mangel an qualitativ hochwertigen Trainingsdaten ist ein großer Engpass, der die Entwicklung von VLMs, die Diagramme genau interpretieren können, behindert. Viele Datensätze enthalten nur begrenzte Diagrammbilder aus dem Web und verfügen häufig nicht über den erforderlichen Maßstab und zusätzliche Informationen, um einem Modell bei der Interpretation der zugrunde liegenden Daten zu helfen.

„Im Gegensatz zu unserem Gehirn muss ein Imaginative and prescient-Sprachmodell während des Trainings möglicherweise Tausende von Beispielen sehen, um zuverlässig etwas als Liniendiagramm zu erkennen“, sagt Kondic.

Die Forscher versuchten, diese Mängel durch die Generierung synthetischer Daten zu beheben. Synthetische Daten werden von Algorithmen künstlich generiert, um die statistischen Eigenschaften tatsächlicher Daten nachzuahmen.

Der ChartNet-Datensatz enthält mehr als eine Million hochwertige Diagrammbilder sowie den entsprechenden Code, der zum Generieren jedes Diagramms verwendet wird, eine Textbeschreibung und eine Tabelle mit den numerischen Informationen. Darüber hinaus enthält jeder Datenpunkt Frage-Antwort-Paare, um dem Modell beizubringen, wie es Fragen zum Diagrammbild richtig beantwortet.

„Diese zusätzlichen Datenmodi leiten das Modell an, die verschiedenen Informationen, die das Diagrammbild kodiert, zu verbinden und auszurichten“, sagt Kondic.

Datengenerierung

Um ChartNet aufzubauen, erstellten die Forscher eine zweistufige Pipeline zur Generierung synthetischer Daten.

Zunächst übersetzt ihr automatisiertes System alle bereits vorhandenen Diagrammbilder in Code. Anschließend erweitert das System diesen Code iterativ, um verschiedene Aspekte jedes Diagramms zu ändern, z. B. Diagrammtyp, Datenwerte, Thema, Farben usw.

„Wir können mit einem einzigen Diagramm beginnen, das wir als Ausgangspunkt verwenden, und daraus Hunderte von Erweiterungen erstellen. Auf diese Weise konnten wir einen Datensatz mit mehr als einer Million verschiedener Bilder erstellen“, erklärt Kondic.

Sie haben außerdem einen automatisierten Qualitätsprüfungsprozess integriert, um sicherzustellen, dass die synthetischen Daten von hoher Qualität sind. Dieser Prozess überprüft, ob der Code ausführbar ist und ob die gerenderten Diagrammbilder korrekt und sauber sind.

„Wir wollen nicht nur vielfältige Stichproben generieren, sondern die Informationen auch auf sinnvolle Weise präsentieren“, sagt sie.

ChartNet enthält außerdem eine Auswahl von Diagrammdatenpunkten, die von menschlichen Experten mit Anmerkungen versehen wurden. Dies ermöglicht den Zugriff auf zusätzliche Diagrammtypen und unterstützende Daten mit Gültigkeitsgarantien.

Ein Praktiker könnte die kommentierten Daten verwenden, um ein vorhandenes VLM zu optimieren und so die Leistung für eine bestimmte Anwendung weiter zu steigern, fügt Joshi hinzu.

Die Forscher testeten ChartNet, indem sie die Modellreihe Granite Imaginative and prescient von IBM sowie mehrere andere Open-Supply-Modelle unterschiedlicher Größe trainierten und sie für verschiedene Diagramminterpretationsaufgaben evaluierten. Der Datensatz verbesserte die Genauigkeit aller Modelle bei der Diagrammrekonstruktion, der Diagrammdatenextraktion, der Diagrammzusammenfassung und der Beantwortung von Diagrammfragen.

Mit ChartNet übertrafen kleine Open-Supply-Modelle durchweg viel größere kommerzielle Modelle.

„Viele frühere Trainingsdatensätze konzentrierten sich nur auf die Beantwortung einfacher Fragen zu einem Diagramm. Mit ChartNet haben wir versucht, darüber hinauszugehen, indem wir Daten generierten, die alle Aspekte eines soliden Diagrammverständnisses unterstützen“, sagt Kondic.

In Zukunft planen die Forscher, ChartNet durch die Einbindung von Daten mit höherer Komplexität weiter auszubauen. Sie wollen auch das Suggestions der Forschungsgemeinschaft einbeziehen.

Diese Forschung wurde teilweise vom MIT-IBM Computing Analysis Lab finanziert.

Der Umsatzzyklus fühlt sich jetzt anders an

Es gab eine Zeit, in der die Leistung des Umsatzzyklus hauptsächlich anhand betrieblicher Benchmarks beurteilt wurde. Reklamationen bearbeitet. Tage in Debitorenbuchhaltung. Personalverhältnisse. Diese Maßnahmen sind immer noch wichtig, aber sie erzählen nicht mehr die ganze Geschichte.

In den letzten Jahren hat sich etwas verändert. Ablehnungen fühlen sich weniger vorhersehbar an. Die Interpretationen der Zahler gehen weit auseinander. Die Dokumentationsanforderungen scheinen sich ohne große Vorankündigung zu verschärfen. Führungskräfte im Umsatzzyklus verbringen mehr Zeit mit der Bewältigung von Unsicherheiten als mit der Verbesserung der Geschwindigkeit.

Wenn die Variabilität zunimmt, spürt die Finanzabteilung dies zuerst. Die Liquiditätsprognosen verschärfen sich. Die Kapitalplanung wird vorsichtiger. In Gesprächen, in denen es einst um Wachstum ging, wird zunehmend Kontingenzsprache verwendet. Die Stabilität der Einnahmen, nicht nur die Effizienz, wird zur Priorität. Diese Schwerpunktverlagerung erklärt, warum künstliche Intelligenz ernsthafter als zuvor in die Umsatzdiskussion eingestiegen ist.

Automatisierung hat geholfen, aber es conflict nicht genug

Die meisten Gesundheitssysteme haben bereits stark in die Automatisierung investiert. Eignungsprüfungen sind weitgehend standardisiert. Codierungstools unterstützen bei der Dokumentation. Zahlungsbuchungsprozesse sind weitaus effizienter als noch vor einem Jahrzehnt.

Doch das Kernproblem blieb bestehen. Ansprüche wurden aus subtilen Gründen dennoch abgelehnt. Einsprüche kosteten Zeit. Prognosen stützten sich stark auf historische Traits, die sich nicht mehr zuverlässig anfühlten. Automatisierung verbesserte Bewegung. Die Exposition wurde dadurch nicht beseitigt.

Der Unterschied besteht nun in der Einführung von Systemen, die Muster und nicht nur Regeln erkennen.

KI am vorderen Ende des Umsatzrisikos

Vorhersagemodelle, die auf jahrelangen Anspruchsdaten trainiert wurden, können nun Kombinationen von Variablen erkennen, die dazu neigen, eine Ablehnung durch den Zahler auszulösen. Diese Erkenntnisse können angewendet werden, bevor ein Anspruch das Unternehmen verlässt.

Wenn Dokumentationslücken oder Autorisierungsinkonsistenzen frühzeitig erkannt werden, haben Groups die Möglichkeit, diese zu korrigieren, ohne in den Berufungsprozess einzutreten. Die Verbesserung der First-Move-Akzeptanz magazine auf den ersten Blick schrittweise erscheinen, ihre finanziellen Auswirkungen verstärken sich jedoch.

Weniger Nacharbeiten verkürzen den Umsatzzeitraum. Kürzere Zeitpläne verringern die Volatilität. Eine geringere Volatilität stärkt das Vertrauen in Prognosen.

Hier beginnt die KI, die finanziellen Ergebnisse auf eine Weise zu beeinflussen, die frühere Automatisierung nicht konnte.

Dokumentation und die stillen Quellen von Lecks

Umsatzverluste treten nicht immer in offensichtlicher Kind auf. Es zeigt sich oft als kleine Inkonsistenz, die sich im Laufe der Zeit anhäuft. Ein fehlender Modifikator. Ein unauffälliges Serviceniveau. Eine Vertragsklausel wurde abteilungsübergreifend uneinheitlich angewendet.

KI-gestützte Prüfsysteme können Dokumentations- und Abrechnungsdaten gleichzeitig scannen und so Muster identifizieren, die bei manueller Prüfung nur schwer konsistent erfasst werden können. Diese Instruments ersetzen kein Fachwissen. Sie grenzen den Fokus ein, sodass Fachwissen dort zum Einsatz kommt, wo es am wichtigsten ist.

Die Verbesserung der Dokumentationsausrichtung führt nicht nur zu einer Gewinnsteigerung. Es erhöht die Zuverlässigkeit der Finanzberichterstattung und verringert die Angst, die mit der Prüfungsgefahr einhergeht.

Von der Berichterstattung zur Antizipation

Seit Jahren beschreiben Income-Cycle-Dashboards die Vergangenheit. Sie zeigen, was in Rechnung gestellt, was abgelehnt und was eingezogen wurde. Diese Informationen bleiben notwendig, verhindern jedoch keine Störungen.

Predictive Analytics beginnt die Ausrichtung zu verändern. Durch die Kombination interner Leistungsdaten mit der Vergangenheit des Zahlerverhaltens können Finanzteams den Zeitpunkt der Erstattung klarer als zuvor einschätzen.

Die Prognosen werden nie perfekt sein. Dafür ist die Erstattung im Gesundheitswesen zu komplex. Aber die Verringerung des Unsicherheitsbereichs ermöglicht es der Führung, Entscheidungen mit größerer Sicherheit zu treffen.

In diesem Sinne trägt der Umsatzzyklus eher zur Vorausplanung bei als zum Aufzeichnen vergangener Ereignisse.

Intelligenteres Arbeiten innerhalb der Personalgrenzen

Die Personalbesetzung im Umsatzzyklus bleibt ein anhaltendes Drawback. Erfahrene Fachkräfte sind schwer zu rekrutieren. Coaching braucht Zeit. Fluktuation unterbricht die Kontinuität.

KI-gestützte Priorisierungstools entlasten schlanke Groups etwas. Als Verleugnungsmuster oder größerer Greenback Ansprüche Wenn Sie anfangen, aufzufallen, lenken die Mitarbeiter ganz automatisch ihre Aufmerksamkeit. Komplexe Einsprüche werden früher bearbeitet und die wiederholte Nachbearbeitung nimmt nicht mehr so ​​viel Zeit in Anspruch.

Dabei geht es nicht darum, Private auszutauschen. Es geht darum, begrenztes Fachwissen auf Arbeit zu lenken, die die Marge schützt. In einem Umfeld, in dem die Ressourcen begrenzt sind, ist dieser Fokus eher praktisch als ehrgeizig.

Messen, was sich tatsächlich verbessert

KI im Income Cycle Administration sollte nicht danach beurteilt werden, wie viele Arbeitsabläufe automatisiert sind. Sein Wert zeigt sich in Finanzergebnissen, weniger vermeidbaren Ablehnungen, stärkeren Inkassomaßnahmen, überschaubaren Inkassokosten und stabileren Prognosen

Wenn KI-Initiativen anhand dieser Indikatoren bewertet werden, entwickeln sie sich von experimentellen Projekten zu operativen Instrumenten mit klarem finanziellen Wert.

Dieser Übergang ist subtil, aber wichtig. Es spiegelt einen Wandel von Technologie-Neugier zu disziplinierter Anwendung wider.

Eine schrittweise Neuausrichtung der Income Operations

Die Ausweitung der KI im Inneren Umsatzzyklusmanagement ist nicht dramatisch im Aussehen. Es gab keinen einzigen Wendepunkt, nur eine stetige Veränderung der Herangehensweise.

Eingriffe erfolgen früher. Daten werden intelligenter interpretiert. Prognosen wirken weniger fragil. Im Laufe der Zeit verändern diese schrittweisen Anpassungen die Artwork und Weise, wie das Umsatzrisiko verwaltet wird.

Die Kostenerstattung im Gesundheitswesen bleibt komplex. Kein System beseitigt diese Realität. Was sich verbessert, ist die Fähigkeit des Unternehmens, Muster früher zu erkennen und gezielter zu reagieren.

Da die Margen knapp sind und sich das Zahlungsverhalten ständig ändert, kommt es auf Stabilität an. Wenn KI sorgfältig eingesetzt und richtig überwacht wird, kann sie dazu beitragen, diese Stabilität zu schaffen.

Das Income-Cycle-Administration, das einst in erster Linie als betriebliche Notwendigkeit angesehen wurde, ist zunehmend in die Finanzstruktur des Unternehmens eingebettet. Die Technologie selbst ist nur ein Teil der Geschichte. Die größere Veränderung liegt in der Artwork und Weise, wie Umsatzrisiken antizipiert und verwaltet werden.

Wenn man sich nur automatisierte Partituren ansieht, scheinen die meisten LLMs großartig zu sein – bis sie etwas subtil Falsches, Riskantes oder Falsches schreiben. Das ist die Lücke zwischen dem, was statische Benchmarks messen, und dem, was Ihre Benutzer tatsächlich benötigen. In diesem Leitfaden zeigen wir, wie Sie menschliches Urteilsvermögen (HITL) mit Automatisierung kombinieren können LLM-Benchmarking spiegelt Wahrhaftigkeit, Sicherheit und Domänenanpassung wider – nicht nur die Genauigkeit auf Token-Ebene.

Was LLM-Benchmarking wirklich misst

Automatisierte Metriken und Bestenlisten sind schnell und wiederholbar. Genauigkeit bei A number of-Alternative-Aufgaben, BLEU/ROUGE für Textähnlichkeit und Ratlosigkeit bei der Sprachmodellierung geben Richtungssignale. Aber sie vermissen oft Argumentationsketten, sachliche Grundlage und die Einhaltung von Richtlinien – insbesondere in Kontexten, in denen viel auf dem Spiel steht. Deshalb legen moderne Programme Wert auf multimetrische, transparente Berichterstattung und Szenariorealismus.

Automatisierte Metriken und statische Testsätze

Stellen Sie sich klassische Kennzahlen als eine vor Tachometer– ultimate, um Ihnen zu sagen, wie schnell Sie auf einer glatten Autobahn fahren. Sie sagen Ihnen aber nicht, ob die Bremsen bei Regen funktionieren. BLEU/ROUGE/perplexity helfen bei der Vergleichbarkeit, können aber durch Auswendiglernen oder oberflächliche Zuordnung ausgetrickst werden.

Wo sie zu kurz kommen

Echte Benutzer bringen Unklarheiten, Fachjargon, widersprüchliche Ziele und sich ändernde Vorschriften mit sich. Statische Testsätze erfassen dies selten. Daher überschätzen rein automatisierte Benchmarks die Modellbereitschaft für komplexe Unternehmensaufgaben. Gemeinschaftsinitiativen wie HELM/AIR-Bench gehen dieses Downside an, indem sie weitere Dimensionen abdecken (Robustheit, Sicherheit, Offenlegung) und transparente, sich weiterentwickelnde Suiten veröffentlichen.

Das Argument für die menschliche Bewertung in LLM-Benchmarks

Einige Eigenschaften bleiben hartnäckig menschlich: Ton, Hilfsbereitschaft, subtile Korrektheit, kulturelle Angemessenheit und Risikobereitschaft. Menschliche Gutachter – entsprechend ausgebildet und kalibriert – sind hierfür die besten Instrumente, die uns zur Verfügung stehen. Der Trick besteht darin, sie zu nutzen gezielt und systematischSo bleiben die Kosten überschaubar und die Qualität hoch.

Wann man Menschen einbeziehen sollte

• Mehrdeutigkeit: Anweisungen lassen mehrere believable Antworten zu.
• Hohes Risiko: Gesundheitswesen, Finanzen, rechtliche, sicherheitskritische Unterstützung.
• Area-Nuance: Fachjargon, Fachargumentation.
• Uneinigkeitssignale: Automatische Bewertungen stehen im Konflikt oder variieren stark.

Entwerfen von Rubriken und Kalibrierung (einfaches Beispiel)

Beginnen Sie mit einer Skala von 1–5 für Richtigkeit, BodenständigkeitUnd politische Ausrichtung. Geben Sie professional Partitur zwei bis drei kommentierte Beispiele an. Kurz laufen Kalibrierungsrunden: Bewerter bewerten eine gemeinsame Cost und vergleichen dann die Begründungen, um die Konsistenz zu verbessern. Verfolgen Sie die Vereinbarung zwischen den Gutachtern und fordern Sie bei Grenzfällen eine gerichtliche Entscheidung ein.

Methoden: Vom LLM-als-Richter zum echten HITL

LLM-as-a-Decide (Verwendung eines Modells zur Bewertung eines anderen Modells) ist nützlich für Triage: Es ist schnell, günstig und eignet sich intestine für unkomplizierte Kontrollen. Aber es kann dieselben blinden Flecken aufweisen – Halluzinationen, falsche Korrelationen oder „Gradinflation“. Benutze es, um priorisieren Fälle zur menschlichen Überprüfung, nicht um sie zu ersetzen.

Eine praktische Hybridpipeline

1. Automatisierte Vorprüfung: Führen Sie Aufgabenmetriken, grundlegende Leitplanken und LLM als Richter aus, um offensichtliche bestandene/nicht bestandene Aufgaben herauszufiltern.
2. Aktive Auswahl: Wählen Sie Proben mit widersprüchlichen Signalen oder hoher Unsicherheit für die menschliche Überprüfung aus.
3. Expertenkommentare von Menschen: geschulte Bewerter (oder Fachexperten) bewerten anhand klarer Rubriken; bei Meinungsverschiedenheiten entscheiden.
4. Qualitätssicherung: Überwachung der Zuverlässigkeit zwischen Bewertern; Pflegen Sie Prüfprotokolle und Begründungen. Mit praktischen Notebooks (z. B. HITL-Workflows) können Sie ganz einfach Prototypen dieser Schleife erstellen, bevor Sie sie skalieren.

Vergleichstabelle: Automatisiert vs. LLM-as-Decide vs. HITL

Sicherheits- und Risiko-Benchmarks sind unterschiedlich

Regulierungsbehörden und Normungsgremien erwarten Bewertungen, die Risiken dokumentieren und prüfen realistisch Szenarien und demonstrieren die Übersicht. Der NIST AI RMF (GenAI-Profil 2024) stellt ein gemeinsames Vokabular und gemeinsame Praktiken bereit; Die NIST GenAI-Bewertung Das Programm führt domänenspezifische Exams durch. Und HELM/AIR-Financial institution hebt multimetrische, transparente Ergebnisse hervor. Nutzen Sie diese, um Ihr Governance-Narrativ zu verankern.

Was Sie für Sicherheitsaudits sammeln sollten

• Auswertung Protokolle, RubrikenUnd Schulung zum Kommentator Materialien
• Datenherkunft und Kontaminationskontrollen
• Inter-Bewerter Statistiken und Entscheidungsnotizen
• Versioniert Benchmark-Ergebnisse und Regressionsverlauf

Mini-Story: Falschmeldungen im KYC-Banking reduzieren

Das KYC-Analystenteam einer Financial institution testete zwei Modelle zur Zusammenfassung von Compliance-Warnungen. Automatisierte Ergebnisse waren identisch. Während eines HITL-Exams haben die Bewerter darauf hingewiesen Modell A häufig fallen gelassen Negativ Qualifikationsmerkmale („keine vorherigen Sanktionen“), Bedeutungen umkehren. Nach dem Urteil entschied sich die Financial institution Modell B und aktualisierte Eingabeaufforderungen. Die Falschmeldungen gingen innerhalb einer Woche um 18 % zurück, sodass die Analysten mehr Zeit für echte Untersuchungen haben. (Die Lektion: Automatisierte Bewertungen haben einen subtilen, schwerwiegenden Fehler übersehen; HITL hat ihn erkannt.)

Wo Shaip hilft

Wie können KI-Groups Verstärkungslernen im Tinker-Stil für große Sprachmodelle unter Verwendung ihrer eigenen Infrastruktur und einer einzigen einheitlichen Engine durchführen? Anyscale und NovaSky (UC Berkeley) Crew Veröffentlichungen SkyRL tx v0.1.0 Dies gibt Entwicklern die Möglichkeit, eine mit Tinker kompatible Trainings- und Inferenz-Engine direkt auf ihrer eigenen {Hardware} auszuführen und dabei die gleiche minimale API beizubehalten, die Tinker im verwalteten Dienst bereitstellt.

Das Forschungsteam beschreibt SkyRL tx als einheitliche Trainings- und Inferenz-Engine, die die Tinker-API implementiert und es Benutzern ermöglicht, einen Tinker-ähnlichen Dienst auf ihrer eigenen Infrastruktur auszuführen. Diese Model v0.1.0 ist die erste ihrer Reihe, die das Reinforcement-Studying durchgängig unterstützt und außerdem die Probenentnahme erheblich beschleunigt.

Tinker API in Kürze

Tinker von Considering Machines ist eine Trainings-API, die auf vier Kernfunktionen basiert. forward_backward führt einen Vorwärtsdurchlauf und einen Rückwärtsdurchlauf durch und sammelt Steigungen. optim_step Aktualisiert die Modellgewichte basierend auf diesen Farbverläufen. pattern generiert Token für Interaktion, Auswertung oder RL-Aktionen. save_state schreibt Kontrollpunkte für die Wiederaufnahme des Trainings.

Anstelle einer vollständigen aufgabenspezifischen Feinabstimmungsabstraktion stellt Tinker diese Grundelemente auf niedriger Ebene bereit, sodass Benutzer ihre eigenen überwachten oder verstärkenden Lernschleifen in regulärem Python-Code implementieren können, während der Dienst die GPU-Planung und die verteilte Ausführung übernimmt.

SkyRL tx zielt genau auf diese API ab und implementiert ein offenes Backend, das Benutzer lokal bereitstellen können. Es behält das Tinker-Programmiermodell bei, macht es aber überflüssig, sich nur auf die gehostete Umgebung zu verlassen.

Wo SkyRL tx in SkyRL passt

SkyRL ist eine Full-Stack-Lernbibliothek zur Verstärkung für große Sprachmodelle, die Folgendes umfasst: skyrl-agent für Agenten mit langem Horizont, skyrl-train für die Ausbildung und skyrl-gym für Werkzeugumgebungen wie Mathematik, Codierung, Suche und SQL.

Innerhalb dieses Stapels skyrl-tx ist als experimentelle plattformübergreifende Bibliothek gekennzeichnet, die eine lokale Tinker-ähnliche REST-API für das Modell-Submit-Coaching bereitstellt. SkyRL tx wird daher zur Systemschicht, die RL-Logik, Umgebungen und Trainingscode über die Tinker-Schnittstelle mit konkreten GPU-Ressourcen verbindet.

Architektur, Inferenzmaschine, die auch trainiert

Die SkyRL-TX-Architektur wird als Inferenz-Engine beschrieben, die auch Rückwärtsdurchläufe unterstützt. Es besteht aus vier Hauptkomponenten:

1. REST-API Server das eingehende Anfragen von verschiedenen Benutzern verarbeitet.
2. Datenbank das Metadaten zu Modellen, Prüfpunkten, Anfragen und Futures verfolgt und auch als Jobwarteschlange fungiert. Die aktuelle Implementierung nutzt SQLite hinter einer Schnittstelle, die auch andere SQL-Datenbanken wie Postgres unterstützt.
3. Motor das benutzerübergreifende Anfragen plant und bündelt. Jede Engine-Instanz bedient ein einzelnes Basismodell und kann viele LoRA-Adapter anhängen.
4. Arbeitnehmer das Vorwärts- und Rückwärtsdurchläufe ausführt und Modelldefinitionen und Optimiererzustände enthält. Mehrere Employee würden in kommenden Versionen ein erweitertes Multi-Node-Sharding ermöglichen

Was fügt v0.1.0 hinzu?

Die Model v0.1.0 konzentriert sich auf die Unterstützung von Reinforcement Studying und Leistungsverbesserungen. Der offizielle Veröffentlichung hebt mehrere konkrete Änderungen hervor:

• Das Sampling ist jetzt viel schneller, da es in der Engine richtig gebündelt und geshardt wird.
• Es werden jetzt unterschiedliche Sampling-Parameter professional Anfrage, professional Anfrage-Seeds und Cease-Tokens unterstützt, was nützlich ist, wenn viele Experimente ein gemeinsames Basismodell haben.
• Nach mehreren Korrekturen läuft die RL-Schleife jetzt ordnungsgemäß durch die Engine.
• Unterstützung für Gradienten-Checkpointing und Mikro-Batching für die Probenahme sind implementiert.
• Postgres wird jetzt neben SQLite als Datenbank-Backend unterstützt.

Ausführen von RL Finish-to-Finish auf 8 H100-GPUs

Die offizielle Veröffentlichung enthält ein spezifisches Coderezept für die Finish-to-Finish-Ausführung von Reinforcement Studying auf einem Cluster mit 8 H100-GPUs.

Zuerst klonen Benutzer das SkyRL-Repository und im skyrl-tx Ordner starten Sie die Engine mit:

uv run --extra gpu --extra tinker -m tx.tinker.api 
  --base-model Qwen/Qwen3-4B 
  --max-lora-adapters 3 
  --max-lora-rank 1 
  --tensor-parallel-size 8 
  --train-micro-batch-size 8 > out.log

Dann klonen sie das Tinker Cookbook vom Considering Machines-Crew und im tinker_cookbook/recipes Ordner ausführen:

export TINKER_API_KEY=dummy
export WANDB_API_KEY=<your key>
uv run --with wandb --with tinker rl_loop.py 
  base_url=http://localhost:8000 
  model_name="Qwen/Qwen3-4B" 
  lora_rank=1 
  max_length=1024 
  save_every=100

Dadurch wird eine Belohnungskurve erstellt, die bestätigt, dass die RL-Schleife korrekt durch das lokale SkyRL-TX-Backend läuft.

Wichtige Erkenntnisse

• SkyRL tx v0.1.0 implementiert eine lokale, Tinker-kompatible Engine, die Coaching und Inferenz für das LLM-Submit-Coaching vereinheitlicht.
• Das System stellt die Tinker-Grundelemente „forward_backward“, „optim_step“, „pattern“ und „save_state“ über REST bereit, während es intern Batchverarbeitung, LoRA-Adapter und Geräteplatzierung übernimmt.
• Die Architektur ist in API-Server, SQL-Datenbank, Planungs-Engine und Employee unterteilt, die Vorwärts- und Rückwärtsdurchgänge für ein einzelnes Basismodell mit mehreren LoRA-Adaptern ausführen.
• v0.1.0 bietet Finish-to-Finish-Unterstützung für verstärktes Lernen, schnelleres Jitted- und Sharded-Sampling, Sampling-Parameter professional Anfrage, Gradient Checkpointing, Micro Batching und Postgres-Unterstützung.

SkyRL tx v0.1.0 ist ein praktischer Schritt für Entwicklerteams, die Verstärkungslernen im Tinker-Stil auf ihren eigenen Clustern mit einer konsistenten Tinker-API-Oberfläche wünschen. Das Design, das das System als Inferenzmaschine behandelt, die auch Rückwärtsdurchläufe ausführt, ist sauber und reduziert Stapeldivergenz. Die Unterstützung für LoRA, Gradient Checkpointing, Micro Batching und Postgres ist ein konkretes System-Improve. Insgesamt verwandelt diese Model die Tinker-Kompatibilität in ein umsetzbares lokales RL-Backend für LLM

Schauen Sie sich das an Repo Und Offizielle Veröffentlichung. Schauen Sie sich gerne bei uns um GitHub-Seite für Tutorials, Codes und Notebooks. Sie können uns auch gerne weiter folgen Twitter und vergessen Sie nicht, bei uns mitzumachen 100.000+ ML SubReddit und Abonnieren Unser Publication. Warten! Bist du im Telegram? Jetzt können Sie uns auch per Telegram kontaktieren.

Michal Sutter ist ein Knowledge-Science-Experte mit einem Grasp of Science in Knowledge Science von der Universität Padua. Mit einer soliden Grundlage in statistischer Analyse, maschinellem Lernen und Datentechnik ist Michal hervorragend darin, komplexe Datensätze in umsetzbare Erkenntnisse umzuwandeln.

Folgen Sie MARKTECHPOST: Fügen Sie uns als bevorzugte Quelle bei Google hinzu.

Das QWEN-Workforce von Alibaba hat gerade FP8-quantisierte Kontrollpunkte für seine neuen QWEN3-NEXT-80B-A3B-Modelle in zwei Nachtraining-Varianten veröffentlicht.Anweisen Und Denken-Ausgelassene Inferenz mit hohem Durchsatz mit extrem langer Kontext und MOE-Effizienz. Der FP8-Repos spiegelt die BF16-Veröffentlichungen wider, packt jedoch „feinkörnige FP8“ -Regewichte (Blockgröße 128) und Bereitstellungshinweise für Sglang- und VllM-Builds. Benchmarks in den Karten bleiben die der ursprünglichen BF16 -Modelle; FP8 wird „aus Bequemlichkeit und Leistung“ nicht als separate Bewertungslauf zur Verfügung gestellt.

Was ist im A3B -Stack?

QWEN3-NEXT-80B-A3B ist eine hybride Architektur, die Gated Deltanet (ein lineares/konv-style-Aufmerksamkeits-Ersatz) mit geschlossener Aufmerksamkeit kombiniert und mit einer ultrasparigen Mischung aus Experten (MOE) verschachtelt ist. Das 80B -Gesamtparameterbudget aktiviert ~ 3B -Parameter professional Token über 512 Experten (10 Routed + 1 Shared). Das Format ist als 48 Schichten angegeben, die in 12 Blöcke angeordnet sind: 3×(Gated DeltaNet → MoE) gefolgt von 1×(Gated Consideration → MoE). Der native Kontext beträgt 262.144 Token, validiert bis zu ~ 1.010.000 Token unter Verwendung von Seilskalierung (Garn). Die versteckte Größe beträgt 2048; Die Aufmerksamkeit verwendet 16 Q -Köpfe und 2 kV -Köpfe bei Head Dim 256; Deltanet verwendet 32 ​​V- und 16 QK -lineare Köpfe bei Head Dim 128.

Das QWEN-Workforce meldet, dass das 80B-A3B-Basismodell QWEN3-32B bei nachgeschalteten Aufgaben zu ~ 10% seiner Trainingskosten übertrifft und ~ 10 × Inferenzdurchsatz über einen 32-km-Kontext hinausgeht-durch eine geringe Aktivierung bei der MOE und bei der Multi-Token-Vorhersage (MTP). Die Unterrichtsvariante ist nicht umsetzt (nein <suppose> Tags), während die Denkvariante standardmäßig Argumentationsspuren erzwingt und für komplexe Probleme optimiert wird.

FP8 veröffentlicht: Was hat sich tatsächlich geändert

Die FP8-Modellkarten geben an, dass die Quantisierung „feinkörnig FP8“ mit Blockgröße 128 ist. Die Bereitstellung unterscheidet sich geringfügig von BF16: Sowohl Sglang als auch VLLM erfordern aktuelle Haupt-/Nachtbaute, wobei Beispielbefehle für 256K-Kontext und optionales MTP angegeben sind. Die Considering FP8 -Karte empfiehlt auch ein Argumentationsparser -Flag (z. B., z. --reasoning-parser deepseek-r1 in Sglang, deepseek_r1 in vllm). Diese Releases behalten die Lizenzierung von Apache-2.0.

Benchmarks (berichtet über BF16 -Gewichte)

Die Anweisung FP8-Karten reproduziert Qwens BF16-Vergleichstabelle und stellt QWEN3-NEXT-80B-A3B-Struktur mit QWEN3-235B-A22B-Instruct-257 auf mehrere Wissens-/Argumentations-/Codierungs-Benchmarks und bis zu 256K). Die Denkweise fp8 karten listet Aime’25, HMMT’25, MMLU-pro/Redux und LiveCodeBench V6 auf, wobei Qwen3-Subsequent-80B-A3B-Dinking frühere qwen3 Considering-Veröffentlichungen (30b a3b-2507, 32b) übertrifft, und Anspruchsgedanken über die Überschläge über Gemini-2,5-Lash-Considering.

Trainings- und Nach-Coaching-Signale

Die Serie ist vor dem Coaching auf ~ 15T-Token ausgebildet. QWEN hebt die Stabilitätsergänzungen (null-zentrierte, gewichtsbekannte Schichtnorm usw.) hervor und verwendet GSPO in RL nach dem Coaching für das Denkmodell, um die hybride Aufmerksamkeit + MOE-Kombination mit hoher Paralität zu bewältigen. MTP wird verwendet, um die Inferenz zu beschleunigen und das Sign vor dem Vorabstieg zu verbessern.

Warum ist FP8 wichtig?

Bei modernen Beschleunigern reduzieren FP8 -Aktivierungen/-gewichte die Speicherbandbreitendruck und den ansässigen Fußabdruck gegenüber BF16, wodurch größere Stapelgrößen oder längere Sequenzen in ähnlicher Latenz ermöglicht werden. Da A3B nur ~ 3B-Parameter professional Token Routen leitete, verbindet die Kombination von FP8 + Moe-Sparsity-Verbindungen Durchsatzgewinne in langkontexten Routine, insbesondere wenn sie mit spekulativem Decodieren über MTP wie in den Servierflags exponierten MTP exponiert sind. Die Quantisierung interagiert jedoch mit Routing- und Aufmerksamkeitsvarianten; Die realen Akzeptanzraten für spekulative Dekodierung und Endaufgabegenauigkeit können mit den Implementierungen von Engine und Kernel variieren-daher die Anleitung von Qwen, um aktuelle Sglang/VllM zu verwenden und spekulative Einstellungen zu stimmen.

Zusammenfassung

Die FP8-Veröffentlichungen von Qwen machen den 80B/3B-aktiven A3B-Stack praktisch, um im 256-Ok-Kontext auf Mainstream-Motoren zu dienen, wodurch das Hybrid-Moe-Design und den MTP-Pfad für hohen Durchsatz erhalten bleiben. Die Modellkarten behalten Benchmarks von BF16 von BF16, sodass die Groups die Genauigkeit und Latenz von FP8 auf ihren eigenen Stapeln validieren sollten, insbesondere mit Parsers und spekulativen Einstellungen. Nettoergebnis: Niedrigere Speicherbandbreite und verbesserte Parallelität ohne architektonische Regressionen, positioniert für Lengthy Context Manufacturing Workloads.

Schauen Sie sich das an QWEN3-NEXT-80B-A3B-Modelle in zwei Nachtraining-Varianten-Anweisen Und Denken. Fühlen Sie sich frei, unsere zu überprüfen Github -Seite für Tutorials, Codes und Notizbücher. Fühlen Sie sich auch frei, uns zu folgen Twitter Und vergessen Sie nicht, sich unserer anzuschließen 100k+ ml Subreddit und abonnieren Unser E-newsletter.

Asif Razzaq ist der CEO von Marktechpost Media Inc. Sein jüngstes Bestreben ist die Einführung einer Medienplattform für künstliche Intelligenz, Marktechpost, die sich durch die ausführliche Berichterstattung über maschinelles Lernen und Deep-Studying-Nachrichten auszeichnet, die von einem breiten Publikum technisch intestine und leicht verständlich sind. Die Plattform verfügt über über 2 Millionen monatliche Ansichten und veranschaulicht ihre Beliebtheit des Publikums.

(empfohlene Lesen) Nvidia AI Open-Sources Vipe (Video Pose Engine): Ein leistungsstarkes und vielseitiges 3D-Videoannotationsinstrument für die räumliche KI

NEW YORK – UIPATH (NYSE: PATH), ein Unternehmen für Enterprise Automation und AI -Software program, gab heute den Begin von UIPath Take a look at Cloud bekannt, ein neuer Ansatz für Software program -Assessments, bei dem AI zur Verstärkung der Testerproduktivität über den Testlebenszyklus für Effizienz und Kosteneinsparungen hinweg verstärkt wird.

Durch die Take a look at -Cloud wird Agententests für Qualitätssicherungsteams zu Wirklichkeit und Ausstattung von Fachleuten mit KI -Agenten wie Uipath Autopilot und Testagenten, die mit Agent Builder aufgebaut wurden, um während des gesamten Testlebenszyklus als kollaborative Associate zu fungieren. Bei der Augmenting-Tester mit KI können Unternehmen schneller die Markteinführung ermöglichen, die Produktionsstabilität verbessern und Kunden mit höherer Qualität Software program liefern.

Manuelle Take a look at- und Testautomatisierung mit Legacy -Instruments ist kostspielig, langsam und ressourcenintensiv. Tatsächlich sind eine Studie festgestellt, dass bis zu 25 Prozent der Ausgaben der Qualitätssicherung und -prüfung gewidmet sind. Die Take a look at-Cloud stellt eine Verschiebung zu AI-Augmented-Assessments dar und konzentriert sich auf die Zusammenarbeit zwischen Menschen und KI-Agenten, um den vollständigen Testprozess zu verbessern. Es wurde entwickelt, um sowohl technische als auch persönliche Herausforderungen zu bewältigen, denen Tester in einer immer komplexeren Softwareentwicklungslandschaft konfrontiert sind.

UIPATH Take a look at Cloud führt Agententests in Qualitätssicherung, Engineering und Testteams in jeder Organisation ein:

• Autopilot für Tester: Ein außersteiliger Agent, der eine breite Sammlung integrierter und anpassbarer KI nutzt, um den Testlebenszyklus zu beschleunigen, einschließlich Agenten-Testdesign, Agenten-Testautomatisierung und Agententestmanagement.
• Agent Builder: Ein Toolkit zum Aufbau von benutzerdefinierten KI -Agenten, die auf einzigartige Testbedürfnisse zugeschnitten sind und den Groups Flexibilität geben, um genau das zu schaffen, was sie benötigen, wenn sie es benötigen, je nach ihren eigenen Spezifikationen.

Laut einer von UIPATH in Auftrag gegebenen Studie von IDC haben Unternehmen, die Take a look at -Cloud -Tester -Effizienz verwenden, um 36% verbessert und den Durchsatz der Bereitstellung neuer Funktionen sowie reduzierter Ausfälle um 50 Prozent und die Fehlerbehebung um 93% verdoppelt. Zum Beispiel schneidet Cisco seine manuellen Testbemühungen quick in zwei Hälften mit Autopilot und befreit wertvolle Zeit damit, dass seine Testteams auf Herausforderungen konzentrieren, die von menschlicher Kreativität, strategischem Denken und Entscheidungsfindung profitieren.

UIPATH Take a look at Cloud ist ein vollwertiges Testangebot, das Softwaretestteams mit unternehmungsfertigen, produktionsnützigen und widerstandsfähigen Finish-to-Finish-Automatisierung für moderne und unternehmerische Anwendungen sowie eine Bereitstellungsumgebung für die Bedürfnisse von Tester ausspricht.

Die Agentenprüfung erweitert, beschleunigt und vereinfacht die Arbeit von Tester und erhöht ihre Produktivität und Arbeitszufriedenheit. Zusammen bilden Autopilot und Agent Builder ein leistungsstarkes Duo: integrierte, anpassbare KI-Funktionen mit Autopilot, um schnell loszulegen, sowie die Freiheit und Flexibilität beim Agent Builder, um die genauen Agenten zu erstellen, die für die Beschleunigung von Assessments erforderlich sind. Diese Agenten sind mehr als nur Gesprächspartner – sie können Aufgaben mit Instruments -Groups ausführen, die sie mit ähnlichen UI- und API -Automatisierungen oder sogar anderen Agenten ausrüsten.

Mit der Take a look at-Cloud können Unternehmen die Vorteile eines vollständigen Agenten-Testangebots freischalten:

• Resilient Finish-to-Finish-Automatisierung und Architektur für Produktionsqualität: Automatisieren von Assessments für jede Benutzeroberfläche oder API moderner Net-, Mobilfunk- und Unternehmensanwendungen, wie SAP und Oracle, und nutzen Sie die Architektur der Produktionsstätten mit branchenzertifiziertem sicheren Anwendungstests, Prüfung und Rollenmanagement sowie zentrale Anmeldeinformationen
• Offene, versatile und verantwortungsbewusste KI: Enterprise-fähige Agenten-Testfunktionen sind offen, flexibel und verantwortlich in CI/CD-Integrationen, ALM-Integrationen, Versionskontrolle und Webhooks. Darüber hinaus stellt die Uipath AI Belief Layer sicher, dass die Fähigkeiten der Agentenprüfung den höchsten Requirements für Sicherheit, Sicherheit und Governance entsprechen
• Angetrieben von der UIPATH-Plattform: Mit unternehmungsweiten Automatisierung können Benutzer Komponenten in Groups teilen und wiederverwenden und Marktplätze, Snippets und Bibliotheken, Objekt-Repositories und Asset Administration nutzen

Amazon hat erweitert Barrierefreiheit von Fireplace TV mit neuen Funktionen für Benutzer mit Behinderungen. Die Einführung umfasst Twin Audio, erweiterte Unterstützung für zusätzliche Hörgeräte und taktile QR-Codes zur Unterstützung sehbehinderter Kunden.

Amazon verbessert die Barrierefreiheit von Fireplace TV für Benutzer mit Behinderungen

Das neueste Replace von Amazon führt die Twin-Audio-Funktion ein, die die gleichzeitige Audioausgabe sowohl über die integrierten Lautsprecher des Fireplace TV als auch über kompatible Hörgeräte ermöglicht. Diese Verbesserung ist das erste Mal, dass Benutzer mit ASHA-fähigen Hörgeräten gemeinsam mit anderen im selben Raum Streaming-Inhalte genießen können. Die Twin-Audio-Funktion wird zunächst auf der Fireplace TV Omni Mini-LED-Serie verfügbar sein und in den kommenden Wochen auf andere Geräte ausgeweitet.

Darüber hinaus ermöglicht die Ausweitung der ASHA-Unterstützung auf alle Hinter-dem-Ohr-Hörgeräte (HdO) und Receiver-in-Canal-Hörgeräte (RIC) von Widex Second noch mehr Benutzern den Zugriff auf direktes Audio-Streaming von ihren Fireplace TVs. Die ASHA-Kompatibilität erstreckt sich nun auf eine Reihe von Geräten, darunter unter anderem die Fireplace TV Omni QLED-Serie, den Fireplace TV Dice und die Fireplace TV 2-Serie. Benutzer können diese Funktionen nutzen, indem sie zu Einstellungen navigieren, Barrierefreiheit auswählen und Twin Audio aktivieren.

Der Einrichtungsprozess zum Koppeln von Hörgeräten wurde ebenfalls optimiert. Benutzer können jetzt zum Menü „Barrierefreiheit“ gehen, den Abschnitt „Hörgeräte“ auswählen und zum Koppeln „Hörgeräte hinzufügen“ auswählen.

Um blinde oder sehbehinderte Kunden weiter zu unterstützen, führt Amazon taktile QR-Codes mit erhabenen Punkten in Produktverpackungen ein. Benutzer können diese Codes durch Berühren finden, sodass sie sie scannen und auf eine Kurzanleitung zugreifen können, die wichtige Informationen zu Eingabehilfen enthält. Diese Initiative ist von entscheidender Bedeutung, um sicherzustellen, dass sehbehinderte Benutzer problemlos mit ihren Geräten beginnen können. Dieses taktile Codesystem wird im Laufe der Zeit auf weiteren Geräten implementiert.

Bei diesen Verbesserungen hat Amazon auch den Schwerpunkt auf Nachhaltigkeit gelegt. Das Unternehmen plant, Verpackungen zu verwenden, die zu 30 Prozent aus recycelten Fasern bestehen, und den Tintenverbrauch erheblich zu reduzieren, um einen umweltfreundlicheren Ansatz für die Produktlieferung zu erreichen.

Hervorgehobener Bildnachweis: Hamed Taha/Unsplash

Das Thema künstliche Intelligenz (KI) ist in nahezu allen Vorstandsetagen der Welt angekommen. Und die Diskussion dreht sich nicht mehr darum, ob KI eingeführt werden soll, sondern wie schnell sie in den Geschäftsbetrieb integriert werden kann. Diese Dringlichkeit ist zwar verständlich, übersieht jedoch oft eine weniger glamouröse, aber dennoch wichtige Voraussetzung: ein robustes Datenmanagement, das die Qualität und Integrität der Daten gewährleistet, die diese intelligenten Systeme antreiben. Dies ist die wahre Grundlage für eine erfolgreiche, verantwortungsvolle KI-Integration.

Die Herausforderung von Darkish Information

Im Mittelpunkt dieses Issues stehen „Darkish Information“ – unstrukturierte, unmarkierte und ungenutzte Informationen, die sich unbemerkt in der digitalen Infrastruktur eines Unternehmens ansammeln. Diese Daten sind alles andere als ein kleines Downside, denn im Durchschnitt machen sie mehr als 50 % der Daten eines Unternehmens aus. Gesamtdatenvolumen. Da Unternehmen auf große Sprachmodelle zurückgreifen, um generative KI und andere KI-gestützte Technologien voranzutreiben, werden die Auswirkungen dieser Darkish Information sowohl tiefgreifend als auch potenziell gefährlich.

Wenn diese nicht verwalteten Daten von KI-Systemen für maschinelles Lernen verwendet werden, können sie zu beeinträchtigten Entscheidungen, verzerrten Ergebnissen und sogar rechtlichen Konsequenzen führen. Stellen Sie sich ein KI-Modell vor, das versehentlich mit geschütztem geistigem Eigentum oder veralteten und unvollständigen Daten trainiert wurde. Vielleicht noch besorgniserregender ist das Risiko unbekannter, möglicherweise sensibler persönlicher Informationen.

Mit der zunehmenden Verbreitung von KI verschärfen sich auch die Vorschriften zur Nutzung und zum Schutz personenbezogener Daten. Von der Datenschutz-Grundverordnung der Europäischen Union bis hin zu zahlreichen Gesetzen auf Landesebene wie dem California Shopper Privateness Act und branchenspezifischen Vorschriften wie dem Well being Insurance coverage Portability and Accountability Act stehen Organisationen vor einem komplexen Netz von Datenschutz-Compliance-Anforderungen. Wenn KI-Systemen unwissentlich der Zugriff auf potenziell smart personenbezogene Daten gestattet wird, kann dies zu einem Verstoß gegen diese Gesetze führen.

Verantwortungsvolle KI durch den Umgang mit Darkish Information

Um diese Risiken zu minimieren und das volle Potenzial der KI auszuschöpfen, müssen Unternehmen ihre Daten proaktiv verwalten. Dieser Ansatz beginnt mit einem umfassenden Verständnis aller Daten im Unternehmen – nicht nur der strukturierten, leicht zu kategorisierenden Informationen, sondern auch der schwer fassbaren Protokolldateien, Sensordaten, Entwurfsdokumente und anderer Arten von Darkish Information, die in vergessenen Ecken ihrer digitalen Infrastruktur lauern. Dazu gehört auch die Feststellung einer eindeutigen Datenherkunft und die Verfolgung der Ursprünge, Bewegungen und Transformationen von Daten während ihres gesamten Lebenszyklus.

Die Implementierung robuster Instruments zur Datenüberwachung, -klassifizierung und -analyse ist von entscheidender Bedeutung. Diese Technologien können Unternehmen dabei helfen, Einblick in ihren gesamten Datenbestand zu gewinnen. Wenn Unternehmen wissen, über welche Daten sie verfügen und wo diese gespeichert sind, können sie fundiertere Entscheidungen darüber treffen, wie sie diese in KI-Anwendungen verwenden, um sicherzustellen, dass ihre KI-Modelle anhand hochwertiger Datensätze trainiert werden.

Es ist wichtig, der Identifizierung und Klassifizierung potenziell sensibler persönlicher Informationen besondere Aufmerksamkeit zu widmen. Eine wichtige bewährte Methode besteht darin, die Datenverwaltungsrichtlinien einer Organisation an die strengsten Compliance-Anforderungen anzupassen, die für das Unternehmen gelten. Dieser Ansatz stellt sicher, dass aktuelle Beschwerdeanforderungen erfüllt werden und die Organisation intestine aufgestellt ist, um sich schnell an sich ändernde Vorschriften anzupassen. Durch die Implementierung umfassender Datenverwaltungsstrategien, die strengste Datenschutz- und Sicherheitsstandards berücksichtigen, können Organisationen eine Vertrauensbasis bei Kunden und Stakeholdern aufbauen und gleichzeitig kostspielige Compliance-Verstöße vermeiden.

Abschließend

Zu Beginn dieses neuen Zeitalters ist die Notwendigkeit klar: Unternehmen müssen dem Verständnis und der Verwaltung ihrer Daten höchste Priorität einräumen, um KI in ihre Geschäftsprozesse zu integrieren. Das bedeutet, dass sie sich der Herausforderung von Darkish Information stellen und im gesamten Unternehmen eine Kultur des Datenbewusstseins und der Datenverantwortung fördern müssen.

Investitionen in Datenkompetenzprogramme für Mitarbeiter, die Festlegung klarer Richtlinien zur Datenverwaltung und die Nutzung fortschrittlicher Datenmanagementtechnologien sind wichtige Schritte auf diesem Weg. Durch diese Maßnahmen können Unternehmen das volle Potenzial ihrer Daten ausschöpfen, Innovationen durch KI vorantreiben und gleichzeitig Qualität und Compliance aufrechterhalten.

Über den Autor

Soniya Bopache, Vice President und Common Supervisor, Datenkonformität und -verwaltung bei Veritas Applied sciences. Soniya leitet die Imaginative and prescient, Strategie und Bereitstellung des Veritas-Datenkonformitätsportfolios und verfügt über umfangreiche Erfahrung in Cloudmigration, Cloudbereitstellung und Verwaltung von SaaS-gehosteten Angeboten. Soniya hat einen Grasp-Abschluss in Softwareentwicklung vom Birla Institute of Expertise and Science in Pilani, Indien.

Melden Sie sich für die kostenlosen insideAI Information an Publication.

Folgen Sie uns auf Twitter: https://twitter.com/InsideBigData1

Folgen Sie uns auf LinkedIn: https://www.linkedin.com/firm/insideainews/

Folgen Sie uns auf Fb: https://www.fb.com/insideAINEWSNOW

Wenn Sie ein Modell der künstlichen Intelligenz bitten, einen Liedtext zu schreiben, wie es die Beatles getan hätten, und es dies beeindruckend intestine hinbekommt, gibt es dafür einen Grund. Oder wenn Sie ein Modell bitten, Prosa im Stil Ihres Lieblingsautors zu schreiben, und es diesen Stil exakt nachbildet, gibt es dafür einen Grund.

Selbst wenn Sie sich in einem anderen Land befinden und den Namen eines interessanten Snacks übersetzen möchten, den Sie in der Supermarktabteilung finden, erkennt Ihr Smartphone die Beschriftungen und übersetzt den Textual content nahtlos.

Im Mittelpunkt all dieser Möglichkeiten steht die KI, und zwar vor allem deshalb, weil KI-Modelle anhand riesiger Mengen solcher Daten trainiert worden wären – in unserem Fall Hunderte von Liedern der Beatles und wahrscheinlich auch Bücher Ihres Lieblingsautors.

Mit dem Aufkommen der generativen KI ist jeder ein Musiker, Schriftsteller, Künstler oder alles davon. Gen-KI-Modelle erzeugen je nach Benutzereingaben in Sekundenschnelle maßgeschneiderte Kunstwerke. Sie können erstellen Van Gogh-artig Kunstwerke und lassen Sie Al Pacino sogar die Nutzungsbedingungen vorlesen, ohne dass er anwesend ist.

Faszination beiseite, der wichtige Aspekt ist hier die Ethik. Ist es honest, dass solche kreativen Werke zum Trainieren von KI-Modellen verwendet wurden, die nach und nach versuchen, Künstler zu ersetzen? Wurde die Zustimmung der Eigentümer solcher geistigen Eigentumsrechte eingeholt? Wurden sie angemessen entlohnt?

Willkommen im Jahr 2024: dem Jahr der Datenkriege

In den letzten Jahren sind Daten zu einem Magneten geworden, der die Aufmerksamkeit von Unternehmen auf sich zieht, die ihre Gen-KI-Modelle trainieren möchten. KI-Modelle sind wie Kleinkinder naiv. Sie müssen unterrichtet und dann trainiert werden. Deshalb benötigen Unternehmen Milliarden, wenn nicht Millionen von Daten, um Modelle künstlich zu trainieren, damit sie Menschen nachahmen.

Beispielsweise wurde GPT-3 mit Milliarden (Hunderten) von Token trainiert, was man frei mit 1000 Wörtern übersetzen kann. Quellen zeigen jedoch, dass Billionen solcher Token verwendet wurden, um die neueren Modelle zu trainieren.

Wohin wenden sich die großen Technologieunternehmen, wenn sie solch enorme Mengen an Trainingsdatensätzen benötigen?

Akuter Mangel an Trainingsdaten

Ambition und Volumen gehen Hand in Hand. Wenn Unternehmen ihre Modelle skalieren und optimieren, benötigen sie noch mehr Trainingsdaten. Dies könnte auf die Forderung zurückzuführen sein, nachfolgende GPT-Modelle vorzustellen oder einfach verbesserte und präzise Ergebnisse zu liefern.

Unabhängig vom Fall ist es unvermeidlich, dass umfangreiche Trainingsdaten erforderlich sind.

Hier stehen Unternehmen vor ihrem ersten Hindernis. Einfach ausgedrückt wird das Web zu klein, um KI-Modelle zu trainieren. Das bedeutet, dass den Unternehmen die vorhandenen Datensätze ausgehen, mit denen sie ihre Modelle füttern und trainieren können.

Diese schwindende Ressource bereitet Interessenvertretern und Technikbegeisterten Sorgen, da sie möglicherweise die Entwicklung und Evolution von KI-Modellen einschränken könnte. Diese sind meist eng damit verknüpft, wie Marken ihre Produkte positionieren und wie einige der drängendsten Probleme der Welt mit KI-gesteuerten Lösungen angegangen werden sollen.

Gleichzeitig gibt es auch Hoffnung in Kind von synthetischen Daten oder digitaler Inzucht, wie wir es nennen. In Laiensprache ausgedrückt sind synthetische Daten die von der KI generierten Trainingsdaten, die wiederum zum Trainieren von Modellen verwendet werden.

Obwohl es vielversprechend klingt, glauben Technikexperten, dass die Synthese solcher Trainingsdaten zu einer sogenannten Habsburger KI führen würde. Dies ist ein großes Drawback für Unternehmen, da solche Inzuchtdatensätze sachliche Fehler oder Voreingenommenheit enthalten oder einfach nur Kauderwelsch sein könnten, was die Ergebnisse von KI-Modellen negativ beeinflusst.

Betrachten Sie dies als eine Partie Stille Put up, mit dem einzigen Unterschied, dass das erste weitergegebene Wort ebenfalls bedeutungslos sein könnte.

Das Rennen um die Beschaffung von KI-Trainingsdaten

Lizenzierung ist eine ideale Möglichkeit, Trainingsdaten zu beschaffen. Bibliotheken und Repositorien sind zwar leistungsfähig, aber sie sind begrenzte Quellen. Das heißt, sie können den Volumenanforderungen von Modellen im großen Maßstab nicht genügen. Eine interessante Statistik besagt, dass uns bis zum Jahr 2026 möglicherweise die qualitativ hochwertigen Daten zum Trainieren von Modellen ausgehen werden, wenn man die Verfügbarkeit von Daten mit anderen physischen Ressourcen in der realen Welt vergleicht.

Einer der größten Foto-Repositorien – Shutterstock hat 300 Millionen Bilder. Das reicht zwar aus, um mit dem Coaching zu beginnen, aber zum Testen, Validieren und Optimieren wären wiederum umfangreiche Daten erforderlich.

Es gibt jedoch auch andere Quellen. Der einzige Haken dabei ist, dass sie grau farbcodiert sind. Wir sprechen hier von öffentlich verfügbaren Daten aus dem Web. Hier sind einige interessante Fakten:

• Täglich werden über 7,5 Millionen Blogbeiträge veröffentlicht.
• Auf Social-Media-Plattformen wie Instagram, X, Snapchat, TikTok und anderen sind über 5,4 Milliarden Menschen aktiv.
• Es gibt im Web über 1,8 Milliarden Web sites.
• Allein auf YouTube werden täglich über 3,7 Millionen Movies hochgeladen.

Darüber hinaus geben Menschen über reine Audio-Podcasts Texte, Movies, Fotos und sogar Fachwissen öffentlich weiter.

Es handelt sich hierbei um explizit verfügbare Inhalte.

Daher muss es doch honest sein, sie zum Trainieren von KI-Modellen zu verwenden, oder?

Dies ist die Grauzone, die wir bereits erwähnt haben. Zu dieser Frage gibt es keine eindeutige Meinung, da Technologieunternehmen mit Zugriff auf derart große Datenmengen neue Instruments und Richtlinienänderungen entwickeln, um diesem Bedarf gerecht zu werden.

Einige Instruments wandeln Audiodaten von YouTube-Movies in Textual content um und verwenden diese dann als Token für Trainingszwecke. Unternehmen überdenken Datenschutzrichtlinien und gehen sogar so weit, öffentliche Daten zu verwenden, um Modelle zu trainieren, mit der vorab festgelegten Absicht, sich Klagen auszusetzen.

Gegenmechanismen

Gleichzeitig entwickeln Unternehmen auch sogenannte synthetische Daten, bei denen KI-Modelle Texte generieren, die wiederum wie eine Schleife zum Trainieren der Modelle verwendet werden können.

Um dem Information Scraping entgegenzuwirken und Unternehmen daran zu hindern, Gesetzeslücken auszunutzen, implementieren Web sites andererseits Plug-ins und Codes, um das Eindringen von Information-Scraping-Bots zu verhindern.

Was ist die ultimative Lösung?

Der Einsatz von KI zur Lösung realer Probleme wurde schon immer von edlen Absichten getragen. Warum muss man sich bei der Beschaffung von Datensätzen zum Trainieren solcher Modelle dann auf graue Modelle stützen?

Da Gespräche und Debatten über eine verantwortungsvolle, ethische und rechenschaftspflichtige KI immer wichtiger und intensiver werden, liegt es an Unternehmen jeder Größenordnung, auf different Quellen umzusteigen, die über White-Hat-Techniken zur Bereitstellung von Trainingsdaten verfügen.

Das ist wo Shaip zeichnet sich aus. Shaip ist sich der vorherrschenden Bedenken hinsichtlich der Datenbeschaffung bewusst und hat sich immer für ethische Techniken eingesetzt und konsequent verfeinerte und optimierte Methoden zum Sammeln und Zusammenstellen von Daten aus verschiedenen Quellen praktiziert.

Beschaffungsmethoden für White-Hat-Datensätze

Bei unserem proprietären Datenerfassungstool stehen Menschen im Mittelpunkt der Datenidentifikations- und Bereitstellungszyklen. Wir verstehen die Sensibilität der Anwendungsfälle, an denen unsere Kunden arbeiten, und die Auswirkungen, die unsere Datensätze auf die Ergebnisse ihrer Modelle haben würden. So sind beispielsweise Datensätze aus dem Gesundheitswesen im Vergleich zu Datensätzen für Pc Imaginative and prescient für autonome Autos sensibel.

Genau aus diesem Grund umfasst unsere Vorgehensweise sorgfältige Qualitätskontrollen und Techniken zur Identifizierung und Zusammenstellung relevanter Datensätze. Dadurch konnten wir Unternehmen mit exklusiven Gen AI-Trainingsdatensätzen in verschiedenen Formaten wie Bildern, Movies, Audio, Textual content und weiteren Nischenanforderungen versorgen.

Unsere Philosophie

Wir arbeiten nach Kernphilosophien wie Zustimmung, Datenschutz und Equity bei der Datenerfassung. Unser Ansatz stellt auch die Vielfalt der Daten sicher, sodass keine unbewussten Vorurteile entstehen.

Während sich die KI-Welt auf den Beginn einer neuen Ära vorbereitet, die von fairen Praktiken geprägt ist, Shaip beabsichtigen, die Fahnenträger und Vorreiter solcher Ideologien zu sein. Wenn Sie nach absolut fairen und qualitativ hochwertigen Datensätzen suchen, um Ihre KI-Modelle zu trainieren, setzen Sie sich noch heute mit uns in Verbindung.