Die rotierende Vorsitzende von Huawei, Meng Wanzhou, kündigte im Rahmen einer Gewinnmitteilung für 2025 KI-Strategien für HarmonyOS-Geräte im Jahr 2026 an.

Das Unternehmen hat durch die Entwicklung eigenständiger Produkte bemerkenswerte kommerzielle Erfolge erzielt, da es den Zugang zu US-Technologie verloren hat. Dieser Wandel hat es Huawei ermöglicht, seine Lösungen in verschiedenen Segmenten zu entwickeln, darunter Verbrauchermärkte und Netzwerktechnologien.

Im Jahr 2026 meldete Huawei eine starke Rückkehr auf dem Smartphone-Markt, angetrieben durch HarmonyOS-Geräte, neue KI-Funktionen und hauseigene Kirin 5G-Prozessoren. Das Unternehmen verfolgt nun eine Premium-Produktstrategie, um seine Marktposition auszubauen.

Meng wies darauf hin, dass Huawei plant, den chinesischen Verbrauchermarkt durch eine Erhöhung der Anzahl einheimischer Produkte zu fördern und so die Abhängigkeit von US-Marken wie Apple zu verringern.

Der Celia AI-Assistent wird ebenfalls Verbesserungen erfahren, wobei der Schwerpunkt auf verbesserter Intelligenz und Benutzerfreundlichkeit liegt. Das Unternehmen plant, fortschrittliche KI-Funktionen in Celia und selbstfahrende Agenten zu integrieren, um die Effizienz in seinen Geräte- und Fahrzeugökosystemen zu steigern.

HarmonyOS-Geräte für 2026 werden über einzigartige KI-Funktionen verfügen, die die Konkurrenz derzeit nicht bietet, und Huawei entwickelt in diesem Bereich weitere Strategien, um seinen Wettbewerbsvorteil zu wahren.

Huawei erforscht ein Open-Supply-Modell und betont, dass Entwickler für den Erfolg seines Ökosystems von entscheidender Bedeutung sind. Das Unternehmen sucht nach Möglichkeiten der Zusammenarbeit mit Partnern und Entwicklern, um Innovationen zu fördern.

---

Hervorgehobener Bildnachweis

Der Umsatzzyklus fühlt sich jetzt anders an

Es gab eine Zeit, in der die Leistung des Umsatzzyklus hauptsächlich anhand betrieblicher Benchmarks beurteilt wurde. Reklamationen bearbeitet. Tage in Debitorenbuchhaltung. Personalverhältnisse. Diese Maßnahmen sind immer noch wichtig, aber sie erzählen nicht mehr die ganze Geschichte.

In den letzten Jahren hat sich etwas verändert. Ablehnungen fühlen sich weniger vorhersehbar an. Die Interpretationen der Zahler gehen weit auseinander. Die Dokumentationsanforderungen scheinen sich ohne große Vorankündigung zu verschärfen. Führungskräfte im Umsatzzyklus verbringen mehr Zeit mit der Bewältigung von Unsicherheiten als mit der Verbesserung der Geschwindigkeit.

Wenn die Variabilität zunimmt, spürt die Finanzabteilung dies zuerst. Die Liquiditätsprognosen verschärfen sich. Die Kapitalplanung wird vorsichtiger. In Gesprächen, in denen es einst um Wachstum ging, wird zunehmend Kontingenzsprache verwendet. Die Stabilität der Einnahmen, nicht nur die Effizienz, wird zur Priorität. Diese Schwerpunktverlagerung erklärt, warum künstliche Intelligenz ernsthafter als zuvor in die Umsatzdiskussion eingestiegen ist.

Automatisierung hat geholfen, aber es conflict nicht genug

Die meisten Gesundheitssysteme haben bereits stark in die Automatisierung investiert. Eignungsprüfungen sind weitgehend standardisiert. Codierungstools unterstützen bei der Dokumentation. Zahlungsbuchungsprozesse sind weitaus effizienter als noch vor einem Jahrzehnt.

Doch das Kernproblem blieb bestehen. Ansprüche wurden aus subtilen Gründen dennoch abgelehnt. Einsprüche kosteten Zeit. Prognosen stützten sich stark auf historische Traits, die sich nicht mehr zuverlässig anfühlten. Automatisierung verbesserte Bewegung. Die Exposition wurde dadurch nicht beseitigt.

Der Unterschied besteht nun in der Einführung von Systemen, die Muster und nicht nur Regeln erkennen.

KI am vorderen Ende des Umsatzrisikos

Vorhersagemodelle, die auf jahrelangen Anspruchsdaten trainiert wurden, können nun Kombinationen von Variablen erkennen, die dazu neigen, eine Ablehnung durch den Zahler auszulösen. Diese Erkenntnisse können angewendet werden, bevor ein Anspruch das Unternehmen verlässt.

Wenn Dokumentationslücken oder Autorisierungsinkonsistenzen frühzeitig erkannt werden, haben Groups die Möglichkeit, diese zu korrigieren, ohne in den Berufungsprozess einzutreten. Die Verbesserung der First-Move-Akzeptanz magazine auf den ersten Blick schrittweise erscheinen, ihre finanziellen Auswirkungen verstärken sich jedoch.

Weniger Nacharbeiten verkürzen den Umsatzzeitraum. Kürzere Zeitpläne verringern die Volatilität. Eine geringere Volatilität stärkt das Vertrauen in Prognosen.

Hier beginnt die KI, die finanziellen Ergebnisse auf eine Weise zu beeinflussen, die frühere Automatisierung nicht konnte.

Dokumentation und die stillen Quellen von Lecks

Umsatzverluste treten nicht immer in offensichtlicher Kind auf. Es zeigt sich oft als kleine Inkonsistenz, die sich im Laufe der Zeit anhäuft. Ein fehlender Modifikator. Ein unauffälliges Serviceniveau. Eine Vertragsklausel wurde abteilungsübergreifend uneinheitlich angewendet.

KI-gestützte Prüfsysteme können Dokumentations- und Abrechnungsdaten gleichzeitig scannen und so Muster identifizieren, die bei manueller Prüfung nur schwer konsistent erfasst werden können. Diese Instruments ersetzen kein Fachwissen. Sie grenzen den Fokus ein, sodass Fachwissen dort zum Einsatz kommt, wo es am wichtigsten ist.

Die Verbesserung der Dokumentationsausrichtung führt nicht nur zu einer Gewinnsteigerung. Es erhöht die Zuverlässigkeit der Finanzberichterstattung und verringert die Angst, die mit der Prüfungsgefahr einhergeht.

Von der Berichterstattung zur Antizipation

Seit Jahren beschreiben Income-Cycle-Dashboards die Vergangenheit. Sie zeigen, was in Rechnung gestellt, was abgelehnt und was eingezogen wurde. Diese Informationen bleiben notwendig, verhindern jedoch keine Störungen.

Predictive Analytics beginnt die Ausrichtung zu verändern. Durch die Kombination interner Leistungsdaten mit der Vergangenheit des Zahlerverhaltens können Finanzteams den Zeitpunkt der Erstattung klarer als zuvor einschätzen.

Die Prognosen werden nie perfekt sein. Dafür ist die Erstattung im Gesundheitswesen zu komplex. Aber die Verringerung des Unsicherheitsbereichs ermöglicht es der Führung, Entscheidungen mit größerer Sicherheit zu treffen.

In diesem Sinne trägt der Umsatzzyklus eher zur Vorausplanung bei als zum Aufzeichnen vergangener Ereignisse.

Intelligenteres Arbeiten innerhalb der Personalgrenzen

Die Personalbesetzung im Umsatzzyklus bleibt ein anhaltendes Drawback. Erfahrene Fachkräfte sind schwer zu rekrutieren. Coaching braucht Zeit. Fluktuation unterbricht die Kontinuität.

KI-gestützte Priorisierungstools entlasten schlanke Groups etwas. Als Verleugnungsmuster oder größerer Greenback Ansprüche Wenn Sie anfangen, aufzufallen, lenken die Mitarbeiter ganz automatisch ihre Aufmerksamkeit. Komplexe Einsprüche werden früher bearbeitet und die wiederholte Nachbearbeitung nimmt nicht mehr so ​​viel Zeit in Anspruch.

Dabei geht es nicht darum, Private auszutauschen. Es geht darum, begrenztes Fachwissen auf Arbeit zu lenken, die die Marge schützt. In einem Umfeld, in dem die Ressourcen begrenzt sind, ist dieser Fokus eher praktisch als ehrgeizig.

Messen, was sich tatsächlich verbessert

KI im Income Cycle Administration sollte nicht danach beurteilt werden, wie viele Arbeitsabläufe automatisiert sind. Sein Wert zeigt sich in Finanzergebnissen, weniger vermeidbaren Ablehnungen, stärkeren Inkassomaßnahmen, überschaubaren Inkassokosten und stabileren Prognosen

Wenn KI-Initiativen anhand dieser Indikatoren bewertet werden, entwickeln sie sich von experimentellen Projekten zu operativen Instrumenten mit klarem finanziellen Wert.

Dieser Übergang ist subtil, aber wichtig. Es spiegelt einen Wandel von Technologie-Neugier zu disziplinierter Anwendung wider.

Eine schrittweise Neuausrichtung der Income Operations

Die Ausweitung der KI im Inneren Umsatzzyklusmanagement ist nicht dramatisch im Aussehen. Es gab keinen einzigen Wendepunkt, nur eine stetige Veränderung der Herangehensweise.

Eingriffe erfolgen früher. Daten werden intelligenter interpretiert. Prognosen wirken weniger fragil. Im Laufe der Zeit verändern diese schrittweisen Anpassungen die Artwork und Weise, wie das Umsatzrisiko verwaltet wird.

Die Kostenerstattung im Gesundheitswesen bleibt komplex. Kein System beseitigt diese Realität. Was sich verbessert, ist die Fähigkeit des Unternehmens, Muster früher zu erkennen und gezielter zu reagieren.

Da die Margen knapp sind und sich das Zahlungsverhalten ständig ändert, kommt es auf Stabilität an. Wenn KI sorgfältig eingesetzt und richtig überwacht wird, kann sie dazu beitragen, diese Stabilität zu schaffen.

Das Income-Cycle-Administration, das einst in erster Linie als betriebliche Notwendigkeit angesehen wurde, ist zunehmend in die Finanzstruktur des Unternehmens eingebettet. Die Technologie selbst ist nur ein Teil der Geschichte. Die größere Veränderung liegt in der Artwork und Weise, wie Umsatzrisiken antizipiert und verwaltet werden.

Large Information ist Eine wachsende Rolle in der Bildung spielenmit Schulen und Hochschulen wenden sich in groß angelegte Informationsverfolgung, um Entscheidungen zu treffen. Schätzungsweise 1.400 Hochschulen und Universitäten in den USA haben in prädiktive Analysesysteme investiert, um den Erfolg der Schüler zu überwachen und zu unterstützen. Diese Instruments sammeln und verarbeiten riesige Mengen an Informationen – Ausgrenzen, Anwesenheit, Aktivitätsprotokolle -, um nach Mustern zu suchen. Einige Leute finden immer noch heraus, wie sie wirklich alle Zahlen verstehen können.

Ausgaben für Large Information im Bildungssektor werden voraussichtlich erwartet Erreichen Sie in den nächsten zwei Jahren 47,82 Milliarden US -Greenback. Das Ziel eines Großteils dieser Ausgaben ist es, Lehrern und Administratoren zu helfen, bessere Entscheidungen mit Fakten anstelle von Vermutungen zu treffen. Es ist viel Geld, das ausgegeben wird, und nicht jeder Ort ist sicher, wie man die Werkzeuge richtig einsetzt.

Jeffrey R. Younger von Edsurge teilte ein Beispiel dafür, wie Large Information Könnte in der Praxis funktionieren. „Können Large Information aus dem LMS den Erfolg in einer Klasse vorhersagen? Das ist die Frage, die von einem Forschungsarbeit in dieser Woche in Angriff genommen wurde. Und die gemischten Ergebnisse überraschten die an diesem Grund gearbeiteten Wissenschaftler. Die Forscher konzentrierten sich auf Daten von Neighborhood Schools in Virginia seit 2000. Sie richten zwei Vorhersagesysteme ein, um zu erraten, ob die Schüler die Schüler, die von den Faculty-GPA-Kursbasis basieren, auf der Foundation von SO-Hochschulen. „ClickStream“ -Daten, die von den Schülern generiert wurden, während sie Kursaktivitäten auf dem LMS durchläuft. “ Einige Schüler, die aussahen, als würden sie intestine abschneiden.

Sprachsprachige Pathologie (SLP) konzentriert sich auf die Identifizierung und Bewältigung von Kommunikation und Schlucken von Herausforderungen. Während die sorgfältige Beobachtung, Empathie und das Denken eines Klinikers zentral bleiben, wird die Verwendung von Daten zu einem wesentlichen Faktor für die Funktionsweise von SLPs – ob in Schulen, Kliniken oder Häusern. Das Sammeln und Analysieren von Informationen unterstützt fokussiertere und messbare Ergebnisse für Kunden. Dies zeigt, warum es wichtig ist, eine zu haben SLP -Praxis in Schulen.

Als die Nachfrage nach klaren Beweisen von Fortschritten wächst, Daten bieten eine solide Grundlage für die Therapie. Anstatt sich ausschließlich auf die Beobachtung zu verlassen, erhalten die Ärzte messbare Einsichten in die Fähigkeiten und Bedürfnisse jedes Kunden. Diese Verschiebung ermöglicht es SLPs, sich von einfach zu bemerken, um Änderungen zu klar zu verfolgen, was zu einer besseren Entscheidungsfindung während der Therapie führt.

Hier sind verschiedene Möglichkeiten, wie Daten die Arbeit von Sprachpathologen unterstützen:

Bewertung und Diagnose

Der erste Schritt in der wirksamen Therapie ist ein starker Bewertungsprozess. Standardisierte Exams bieten Bewertungen, die die Leistung eines Kunden mit altersangepassten Kollegen vergleichen. Neben diesen bieten Instruments wie Sprachmuster, Checklisten und informelle Bewertungen sowohl numerische als auch beschreibende Ausgangspunkte.

Diese frühen Informationen definieren die spezifische Natur und den Schwierigkeitsgrad, mit dem ein Kunde konfrontiert ist. Es dient als Grundlage für die Bildung früher Vorstellungen darüber, was angesprochen werden muss und wie. Ohne dies würde die Therapieplanung zu stark auf Vermutungen beruhen.

Klare Ziele erstellen

Ein wesentlicher Vorteil von Daten ist die Rolle bei der Gestaltung der Therapieziele. Diese Ziele müssen spezifisch, messbar, erreichbar, related und zeitlich (clever) sein. Daten ermöglichen den „messbaren“ Teil. Anstatt die Artikulation zu verbessern, könnte ein genaueres Ziel sein: „Der Kunde produziert den / r / Sound zu Beginn von Wörtern mit 80% Genauigkeit über drei Sitzungen.“ Dieses Ziel ergibt sich direkt aus dem Verständnis dafür, wo der Consumer derzeit steht. Diese Artwork von Toren ist verfolgbar und auf den Kunden zugeschnitten.

Planung effektiver Sitzungen

Daten sind nicht auf die Anfangsphase beschränkt – es führt täglich die Therapie. Das Aufzeichnen von Informationen während jeder Sitzung hilft Klinikern, schnelle, fundierte Änderungen vorzunehmen. Wenn ein Kunde Schwierigkeiten hat, eine Fähigkeit in neuen Einstellungen anzuwenden, wird dieses Muster in den Zahlen angezeigt, was zu einem neuen Ansatz führt.

Wenn der Fortschritt verlangsamt oder stoppt, können die Aufzeichnungen identifizieren, was nicht funktioniert. Dieses fortlaufende Suggestions unterstützt Entscheidungen, die die Therapie konzentrieren und auf den Fortschritt jedes Kunden reagieren.

Verfolgung und Reaktion auf den Fortschritt

Einer der klarsten Vorteile der Verwendung von Daten ist die Möglichkeit, zu verfolgen, wie sich ein Consumer im Laufe der Zeit ändert. Wenn SLPs konsistente Informationen zu Schlüsselbereichen sammeln, können sie Diagramme oder Bilder erstellen, die eindeutig Verbesserungen zeigen. Dies kann Kunden und Familien ermutigen, indem sie zeigen, dass die Anstrengungen irgendwo führen.

Für Kliniker hilft diese langfristige Sichtweise große Fragen: Wurde ein Ziel erreicht? Muss sich etwas ändern? Ist es Zeit, die Therapie zu beenden? Die gesammelten Beweise stützen diese Entscheidungen.

Verantwortung, Unterstützung und Wachstum

Die Verwendung von Daten hilft auch Sprachpathologen Erfüllen Sie die Anforderungen in medizinischen oder pädagogischen Umgebungen. In der Lage zu sein, Ergebnisse zu zeigen, hilft, Dienstleistungen zu sichern und sich für die Bedürfnisse von Kunden zu befürworten. Das Sammeln von Daten in vielen Fällen kann sogar breitere Studien unterstützen, die zu besseren Praktiken auf dem Feld führen.

Informationsverfolgung in sprachsprachigen Arbeiten ist viel mehr als eine Formalität. Es schärft den Fokus, macht Fortschritte sichtbar, unterstützt die Entscheidungsfindung und hilft allen Beteiligten in Verbindung. Anstatt den Wert des klinischen Urteils zu ersetzen, stärken die Daten die Fähigkeit eines Klinikers, Kunden zu helfen, Fähigkeiten zu erwerben, die im Alltag wichtig sind.

Eine neue Studie von Forschern am MIT und der Penn State College zeigt, dass bei der Verwendung umfangreicher Sprachmodelle bei der Heimüberwachung empfohlen werden könnte, die Polizei auch dann zu rufen, wenn die Überwachungsvideos keine kriminellen Aktivitäten zeigen.

Darüber hinaus waren die von den Forschern untersuchten Modelle inkonsistent, was die Movies anging, die sie für einen Polizeieinsatz markierten. So konnte ein Modell beispielsweise ein Video markieren, das einen Autoeinbruch zeigt, ein anderes Video, das eine ähnliche Aktivität zeigt, jedoch nicht markieren. Die Modelle waren sich oft uneinig, ob für dasselbe Video die Polizei gerufen werden sollte.

Darüber hinaus stellten die Forscher fest, dass einige Modelle Movies in Vierteln, in denen die meisten Bewohner weiß sind, unter Berücksichtigung anderer Faktoren relativ seltener als für einen Polizeieinsatz markierten. Dies zeige, dass die Modelle inhärente Verzerrungen aufweisen, die von der Demografie eines Viertels beeinflusst werden, sagen die Forscher.

Diese Ergebnisse deuten darauf hin, dass die Modelle inkonsistent darin sind, wie sie soziale Normen auf Überwachungsvideos anwenden, die ähnliche Aktivitäten zeigen. Dieses Phänomen, das die Forscher als Normeninkonsistenz bezeichnen, macht es schwierig vorherzusagen, wie sich Modelle in unterschiedlichen Kontexten verhalten würden.

„Die schnelle, auf Schnelligkeit und Zerstörung ausgerichtete Vorgehensweise bei der Bereitstellung von generativen KI-Modellen überall und insbesondere in Situationen, in denen viel auf dem Spiel steht, verdient viel mehr Beachtung, da sie ziemlich schädlich sein könnte“, sagt Co-Autorin Ashia Wilson, Professorin für Karriereentwicklung bei den Lister Brothers im Fachbereich Elektrotechnik und Informatik und leitende Forscherin im Labor für Informations- und Entscheidungssysteme (LIDS).

Da die Forscher zudem keinen Zugriff auf die Trainingsdaten oder die Funktionsweise dieser proprietären KI-Modelle haben, können sie die Grundursache für die Norminkonsistenz nicht ermitteln.

Während große Sprachmodelle (LLMs) derzeit möglicherweise nicht in realen Überwachungssituationen eingesetzt werden, werden sie verwendet, um normative Entscheidungen in anderen Bereichen mit hohem Risiko zu treffen, wie etwa im Gesundheitswesen, bei Hypothekendarlehen und bei der Personalbeschaffung. Es ist wahrscheinlich, dass die Modelle in diesen Situationen ähnliche Inkonsistenzen aufweisen würden, sagt Wilson.

„Es gibt diese implizite Annahme, dass diese LLMs bestimmte Normen und Werte gelernt haben oder lernen können. Unsere Arbeit zeigt, dass das nicht der Fall ist. Vielleicht lernen sie nur beliebige Muster oder Rauschen“, sagt Hauptautor Shomik Jain, ein Doktorand am Institute for Information, Methods, and Society (IDSS).

Neben Wilson und Jain arbeitet auch die Co-Autorin des Artikels, Dana Calacci PhD ’23, Assistenzprofessorin am Penn State College Faculty of Info Science and Know-how. Die Forschungsarbeit wird auf der AAAI-Konferenz zu KI, Ethik und Gesellschaft vorgestellt.

„Eine reale, unmittelbare, praktische Bedrohung“

Die Studie basiert auf einem Datensatz mit Tausenden von Amazon Ring-Heimüberwachungsvideos, den Calacci 2020 während ihrer Doktorandenzeit am MIT Media Lab erstellte. Ring, ein Hersteller von Good-House-Überwachungskameras, der 2018 von Amazon übernommen wurde, bietet Kunden Zugang zu einem sozialen Netzwerk namens Neighbors, wo sie Movies teilen und diskutieren können.

Calaccis frühere Forschungen zeigten, dass Menschen die Plattform manchmal dazu nutzen, eine Nachbarschaft „rassistisch zu überwachen“, indem sie anhand der Hautfarbe der Videopersonen bestimmen, wer dorthin gehört und wer nicht. Sie plante, Algorithmen zu trainieren, die Movies automatisch untertiteln, um zu untersuchen, wie Menschen die Neighbors-Plattform nutzen, aber zu diesem Zeitpunkt waren die vorhandenen Algorithmen für die Untertitelung nicht intestine genug.

Mit der explosionsartigen Zunahme an LLMs erfuhr das Projekt eine Wende.

„Es besteht eine reale, unmittelbare, praktische Bedrohung, dass jemand handelsübliche generative KI-Modelle verwendet, um Movies anzusehen, einen Hausbesitzer zu alarmieren und automatisch die Polizei zu rufen. Wir wollten verstehen, wie riskant das ist“, sagt Calacci.

Die Forscher wählten drei LLMs – GPT-4, Gemini und Claude – und zeigten ihnen echte Movies, die aus Calaccis Datensatz auf der Neighbors-Plattform gepostet wurden. Sie stellten den Modellen zwei Fragen: „Geschieht in dem Video ein Verbrechen?“ und „Würde das Modell empfehlen, die Polizei anzurufen?“

Sie ließen Menschen Movies kommentieren, um herauszufinden, ob es Tag oder Nacht warfare, um welche Artwork von Aktivität es sich handelte und welches Geschlecht und welchen Hautton die Individual hatte. Die Forscher nutzten auch Volkszählungsdaten, um demografische Informationen über die Viertel zu sammeln, in denen die Movies aufgenommen wurden.

Inkonsistente Entscheidungen

Sie stellten fest, dass alle drei Modelle quick immer sagten, in den Movies komme es zu keinem Verbrechen, oder eine mehrdeutige Antwort gaben, obwohl in 39 Prozent der Movies tatsächlich ein Verbrechen gezeigt wurde.

„Unsere Hypothese ist, dass die Unternehmen, die diese Modelle entwickeln, einen konservativen Ansatz wählen, indem sie die Aussagekraft der Modelle einschränken“, sagt Jain.

Obwohl die Modelle zeigten, dass die meisten Movies keine Straftaten enthielten, empfehlen sie, bei 20 bis 45 Prozent der Movies die Polizei zu rufen.

Als die Forscher die demografischen Daten zu den Wohngegenden genauer untersuchten, stellten sie fest, dass einige Modelle in Wohngegenden mit weißer Mehrheitsbevölkerung unter Berücksichtigung anderer Faktoren weniger wahrscheinlich dazu empfahlen, die Polizei zu rufen.

Das überraschte sie, weil den Modellen keinerlei Informationen über die demografische Zusammensetzung der Nachbarschaft gegeben wurden und die Movies nur den Bereich wenige Meter hinter der Haustür eines Hauses zeigten.

Die Forscher fragten die Fashions nicht nur nach den Verbrechen in den Movies, sondern forderten sie auch auf, Gründe für ihre Entscheidungen anzugeben. Bei der Untersuchung dieser Daten stellten sie fest, dass die Fashions in überwiegend weißen Vierteln eher Begriffe wie „Lieferarbeiter“ verwendeten, in Vierteln mit einem höheren Anteil farbiger Bewohner jedoch eher Begriffe wie „Einbruchswerkzeug“ oder „Auskundschaften des Grundstücks“.

„Vielleicht gibt es etwas an den Hintergrundbedingungen dieser Movies, das den Modellen diese implizite Voreingenommenheit verleiht. Es ist schwer zu sagen, woher diese Inkonsistenzen kommen, da es nicht viel Transparenz über diese Modelle oder die Daten gibt, mit denen sie trainiert wurden“, sagt Jain.

Die Forscher waren auch überrascht, dass der Hautton der Personen in den Movies keine bedeutende Rolle dabei spielte, ob ein Modell empfahl, die Polizei zu rufen. Sie vermuten, dass dies daran liegt, dass sich die Forschungsgemeinschaft für maschinelles Lernen darauf konzentriert hat, Hauttonvorurteile zu mildern.

„Aber es ist schwer, die unzähligen Vorurteile, die man findet, zu kontrollieren. Es ist quick wie ein Maulwurfspiel. Man kann ein Vorurteil abschwächen und ein anderes taucht woanders auf“, sagt Jain.

Viele Abhilfemaßnahmen erfordern, dass man die Voreingenommenheit von Anfang an kennt. Würde man diese Modelle einsetzen, könnte ein Unternehmen zwar auf Hautfarbenvoreingenommenheit testen, aber eine demografische Voreingenommenheit in der Nachbarschaft würde vermutlich völlig unbemerkt bleiben, fügt Calacci hinzu.

„Wir haben unsere eigenen Stereotypen darüber, wie Modelle verzerrt sein können, und Unternehmen testen diese, bevor sie ein Modell einsetzen. Unsere Ergebnisse zeigen, dass das nicht ausreicht“, sagt sie.

Zu diesem Zweck möchten Calacci und ihre Mitarbeiter unter anderem an einem System arbeiten, das es den Menschen erleichtert, Voreingenommenheiten im Zusammenhang mit KI sowie potenzielle Schäden für Unternehmen und Behörden zu erkennen und zu melden.

Die Forscher möchten außerdem untersuchen, wie sich die normativen Urteile, die LLMs in Situationen fällen, in denen viel auf dem Spiel steht, im Vergleich zu denen von Menschen darstellen, und welche Fakten LLMs über diese Szenarien verstehen.

Diese Arbeit wurde zum Teil finanziert durch das IDSS Initiative zur Bekämpfung von systemischem Rassismus.

Im vorheriger Artikelwurden wir vorgestellt strukturierte Ausgaben mit OpenAI. Seit der allgemeinen Verfügbarkeitsfreigabe in der ChatCompletions-API (Model 1.40.0), strukturierte Ausgaben wurden in Dutzenden von Anwendungsfällen angewendet und haben zahlreiche Threads hervorgebracht auf OpenAI-Foren.

Unser Ziel in diesem Artikel ist es, Ihnen ein noch tieferes Verständnis zu vermitteln, einige Missverständnisse auszuräumen und Ihnen einige Tipps zu geben, wie Sie diese in verschiedenen Szenarien optimum anwenden können.

Strukturierte Ausgaben sind eine Möglichkeit, die Ausgabe eines LLM so zu gestalten, dass sie einem vordefinierten Schema folgt – normalerweise einem JSON-Schema. Dies funktioniert, indem das Schema in ein kontextfreie Grammatik (CFG)das während des Token-Sampling-Schritts zusammen mit den zuvor generierten Token verwendet wird, um zu informieren, welche nachfolgenden Token gültig sind. Es ist hilfreich, sich das so vorzustellen, als würde man ein regulärer Ausdruck zur Token-Generierung.

Die OpenAI API-Implementierung verfolgt tatsächlich eine begrenzte Teilmenge der JSON-Schemafunktionen. Mit allgemeineren strukturierten Ausgabelösungen wie Umrisseist es möglich, eine etwas größere Teilmenge des JSON-Schemas zu verwenden und sogar vollständig benutzerdefinierte Nicht-JSON-Schemas zu definieren – solange man Zugriff auf ein offenes Gewichtsmodell hat. Für die Zwecke dieses Artikels gehen wir von der OpenAI-API-Implementierung aus.

Entsprechend JSON Schema Core-Spezifikation, „Das JSON-Schema legt fest, wie ein JSON-Dokument aussehen muss, wie Informationen daraus extrahiert werden und wie mit ihm interagiert wird.“. Das JSON-Schema definiert sechs primitive Typen – Null, Boolean, Objekt, Array, Zahl und Zeichenfolge. Es definiert auch bestimmte Schlüsselwörter, Anmerkungen und bestimmte Verhaltensweisen. Beispielsweise können wir in unserem Schema angeben, dass wir einen array und fügen Sie eine Anmerkung hinzu, die minItems soll sein 5 .

Pydantic ist eine Python-Bibliothek, die die JSON-Schemaspezifikation implementiert. Wir verwenden Pydantic, um robuste und wartbare Software program in Python zu erstellen. Da Python eine dynamisch typisierte Sprache ist, denken Datenwissenschaftler nicht unbedingt in Begriffen wie Variablentypen — diese sind oft impliziert in ihrem Code. Eine Frucht würde beispielsweise wie folgt angegeben:

fruit = dict(
identify="apple",
coloration="crimson",
weight=4.2
)

…während eine Funktionsdeklaration, die „Früchte“ aus bestimmten Daten zurückgibt, oft wie folgt angegeben würde:

def extract_fruit(s):
...
return fruit

Pydantic hingegen ermöglicht es uns, eine JSON-Schema-kompatible Klasse mit richtig annotierten Variablen zu generieren und Typhinweisewodurch unser Code lesbarer/wartungsfreundlicher und im Allgemeinen robuster wird, d. h.

class Fruit(BaseModel):
identify: str
coloration: Literal('crimson', 'inexperienced')
weight: Annotated(float, Gt(0))
def extract_fruit(s: str) -> Fruit:
...
return fruit

OpenAI tatsächlich empfiehlt dringend die Verwendung von Pydantic zum Angeben von Schemata, im Gegensatz zur direkten Angabe des „rohen“ JSON-Schemas. Dafür gibt es mehrere Gründe. Erstens hält sich Pydantic garantiert an die JSON-Schemaspezifikation, sodass Sie zusätzliche Schritte vor der Validierung sparen. Zweitens ist es bei größeren Schemata weniger ausführlich, sodass Sie schneller sauberen Code schreiben können. Schließlich ist die openai Das Python-Paket erledigt tatsächlich einige Verwaltungsaufgaben, wie das Setzen additionalProperties Zu False für Sie, während Sie bei der manuellen Definition Ihres Schemas mit JSON Stellen Sie diese manuell einfür jedes Objekt in Ihrem Schema (wenn Sie dies nicht tun, führt dies zu einem ziemlich ärgerlichen API-Fehler).

Wie bereits erwähnt, bietet die ChatCompletions-API eine begrenzte Teilmenge der vollständigen JSON-Schemaspezifikation. Es gibt zahlreiche Schlüsselwörter, die noch nicht unterstützt werdenwie zum Beispiel minimal Und most für Zahlen und minItems Und maxItems für Arrays – Anmerkungen, die ansonsten sehr nützlich wären, um Halluzinationen zu reduzieren oder die Ausgabegröße einzuschränken.

Bestimmte Formatierungsfunktionen sind ebenfalls nicht verfügbar. Beispielsweise würde das folgende Pydantic-Schema zu einem API-Fehler führen, wenn es an response_format in ChatCompletions:

class NewsArticle(BaseModel):
headline: str
subheading: str
authors: Record(str)
date_published: datetime = Subject(None, description="Date when article was revealed. Use ISO 8601 date format.")

Es würde scheitern, weil openai Paket hat keine Formatverarbeitung für datetime Sie müssten additionally stattdessen date_published als str und führen Sie nachträglich eine Formatvalidierung (z. B. Konformität mit ISO 8601) durch.

Zu den weiteren wichtigen Einschränkungen gehören:

• Halluzinationen sind immer noch möglich – wenn Sie beispielsweise Produkt-IDs extrahieren, würden Sie in Ihrem Antwortschema Folgendes definieren: product_ids: Record(str) ; während die Ausgabe garantiert eine Liste von Zeichenfolgen (Produkt-IDs) erzeugt, können die Zeichenfolgen selbst halluziniert sein. In diesem Anwendungsfall möchten Sie die Ausgabe daher möglicherweise anhand eines vordefinierten Satzes von Produkt-IDs validieren.
• Die Leistung ist begrenzt bei 4096 Tokens oder die niedrigere Zahl, die Sie innerhalb des max_tokens Parameter — auch wenn das Schema genau befolgt wird, wird die Ausgabe, wenn sie zu groß ist, abgeschnitten und es entsteht ein ungültiges JSON — besonders ärgerlich bei sehr großen Batch-API Arbeitsplätze!
• Tief verschachtelte Schemata mit vielen Objekteigenschaften kann zu API-Fehlern führen — es gibt eine Begrenzung der Tiefe und Breite Ihres Schemas, aber im Allgemeinen ist es am besten, bei flachen und einfachen Strukturen zu bleiben – nicht nur, um API-Fehler zu vermeiden, sondern auch, um möglichst viel Leistung aus den LLMs herauszuholen (LLMs haben im Allgemeinen Probleme, tief verschachtelte Strukturen zu berücksichtigen).
• Hochdynamische oder beliebige Schemata sind nicht möglich – wenngleich Rekursion wird unterstütztist es nicht möglich, ein hochdynamisches Schema aus beispielsweise einer Liste beliebiger Schlüssel-Wert-Objekte zu erstellen, d. h. ({"key1": "val1"}, {"key2": "val2"}, ..., {"keyN": "valN"}) da die „Schlüssel“ in diesem Fall muss vordefiniert sein; in einem solchen Szenario besteht die beste Possibility darin, überhaupt keine strukturierten Ausgaben zu verwenden, sondern sich stattdessen für den Commonplace-JSON-Modus zu entscheiden und die Anweisungen zur Ausgabestruktur in der Systemaufforderung bereitzustellen.

Vor diesem Hintergrund können wir nun einige Anwendungsfälle mit Tipps und Tips durchgehen, wie sich die Leistung bei der Verwendung strukturierter Ausgaben verbessern lässt.

Schaffen von Flexibilität durch optionale Parameter

Nehmen wir an, wir erstellen eine Internet Scraping-Anwendung, deren Ziel darin besteht, bestimmte Komponenten von den Webseiten zu sammeln. Für jede Webseite stellen wir das Roh-HTML in der Benutzereingabeaufforderung bereit, geben in der Systemeingabeaufforderung spezifische Scraping-Anweisungen und definieren das folgende Pydantic-Modell:

class Webpage(BaseModel):
title: str
paragraphs: Optionally available(Record(str)) = Subject(None, description="Textual content contents enclosed inside <p></p> tags.")
hyperlinks: Optionally available(Record(str)) = Subject(None, description="URLs specified by `href` area inside <a></a> tags.")
photographs: Optionally available(Record(str)) = Subject(None, description="URLs specified by the `src` area throughout the <img></img> tags.")

Wir würden die API dann wie folgt aufrufen …

response = shopper.beta.chat.completions.parse(
mannequin="gpt-4o-2024-08-06",
messages=(
{
"function": "system",
"content material": "You're to parse HTML and return the parsed web page parts."
},
{
"function": "person",
"content material": """
<html>
<title>Structured Outputs Demo</title>
<physique>
<img src="check.gif"></picture>
<p>Good day world!</p>
</physique>
</html>
"""
}
),
response_format=Webpage
)

…mit folgender Antwort:

{
'photographs': ('check.gif'),
'hyperlinks': None,
'paragraphs': ('Good day world!'),
'title': 'Structured Outputs Demo'
}

An die API übermitteltes Antwortschema mithilfe strukturierter Ausgaben muss alle angegebenen Felder zurückgeben. Wir können jedoch optionale Felder „emulieren“ und mehr Flexibilität hinzufügen, indem wir Optionally available Typannotation. Wir könnten eigentlich auch verwenden Union(Record(str), None) — sie sind syntaktisch genau gleich. In beiden Fällen erhalten wir eine Konvertierung zu anyOf Schlüsselwort gemäß der JSON-Schemaspezifikation. Im obigen Beispiel gibt es keine <a></a> Tags auf der Webseite vorhanden sind, gibt die API immer noch die hyperlinks Feld, aber es ist eingestellt auf None .

Reduzierung von Halluzinationen durch Enumerationen

Wir haben bereits erwähnt, dass das LLM, selbst wenn es garantiert dem vorgegebenen Antwortschema folgt, dennoch die tatsächlichen Werte halluzinieren kann. Hinzu kommt, dass ein Aktuelles Papier stellte fest, dass das Aufzwingen eines festen Schemas für die Ausgaben tatsächlich dazu führt, dass das LLM halluziniert oder seine Denkfähigkeiten nachlassen.

Eine Möglichkeit, diese Einschränkungen zu überwinden, besteht darin, so viel wie möglich Enumerationen zu verwenden. Enumerationen beschränken die Ausgabe auf einen sehr spezifischen Satz von Token und setzen für alles andere eine Wahrscheinlichkeit von Null. Nehmen wir beispielsweise an, Sie versuchen, die Produktähnlichkeitsergebnisse zwischen einem Zielprodukt das enthält eine description und ein einzigartiges product_id Und High-5-Produkte die mithilfe einer Vektorähnlichkeitssuche (z. B. mithilfe einer Kosinus-Distanzmetrik) ermittelt wurden. Jedes dieser High-5-Produkte enthält auch die entsprechende Textbeschreibung und eine eindeutige ID. In Ihrer Antwort möchten Sie lediglich die Neubewertung 1–5 als Liste erhalten (z. B. (1, 4, 3, 5, 2) ), anstatt eine Liste mit neu bewerteten Produkt-ID-Zeichenfolgen zu erhalten, die möglicherweise halluziniert oder ungültig sind. Wir richten unser Pydantic-Modell wie folgt ein …

class Rank(IntEnum):
RANK_1 = 1
RANK_2 = 2
RANK_3 = 3
RANK_4 = 4
RANK_5 = 5
class RerankingResult(BaseModel):
ordered_ranking: Record(Rank) = Subject(description="Supplies ordered rating 1-5.")

…und führen Sie die API wie folgt aus:

response = shopper.beta.chat.completions.parse(
mannequin="gpt-4o-2024-08-06",
messages=(
{
"function": "system",
"content material": """
You're to rank the similarity of the candidate merchandise towards the goal product.
Rating must be orderly, from essentially the most comparable, to the least comparable.
"""
},
{
"function": "person",
"content material": """
## Goal Product
Product ID: X56HHGHH
Product Description: 80" Samsung LED TV
## Candidate Merchandise
Product ID: 125GHJJJGH
Product Description: NVIDIA RTX 4060 GPU
Product ID: 76876876GHJ
Product Description: Sony Walkman
Product ID: 433FGHHGG
Product Description: Sony LED TV 56"
Product ID: 777888887888
Product Description: Blueray Sony Participant
Product ID: JGHHJGJ56
Product Description: BenQ PC Monitor 37" 4K UHD
"""
}
),
response_format=RerankingResult
)

Das Endergebnis ist einfach:

{'ordered_ranking': (3, 5, 1, 4, 2)}

So stufte das LLM den Sony LED-Fernseher (d. h. Artikelnummer „3“ in der Liste) und den BenQ PC-Monitor (d. h. Artikelnummer „5“) als die beiden ähnlichsten Produktkandidaten ein, d. h. die ersten beiden Elemente der ordered_ranking Liste!

In diesem Artikel haben wir uns eingehend mit strukturierten Ausgaben befasst. Wir haben das JSON-Schema und die Pydantic-Modelle vorgestellt und diese mit der ChatCompletions-API von OpenAI verbunden. Wir haben eine Reihe von Beispielen durchgegangen und einige optimale Möglichkeiten zur Lösung dieser Probleme mit strukturierten Ausgaben aufgezeigt. Um einige wichtige Erkenntnisse zusammenzufassen:

• Strukturierte Ausgaben, wie sie von OpenAI API und anderen Drittanbieter-Frameworks unterstützt werden, implementieren nur eine Teilmenge der JSON-Schemaspezifikation – Wenn Sie sich besser über die Funktionen und Einschränkungen informieren, können Sie die richtigen Designentscheidungen treffen.
• Verwenden von Pydantisch oder ähnliche Frameworks, die die JSON-Schemaspezifikation genau verfolgen, werden dringend empfohlen, da Sie damit gültigen und saubereren Code erstellen können.
• Obwohl Halluzinationen immer noch zu erwarten sind, gibt es verschiedene Möglichkeiten, diese zu mildern, einfach durch die Wahl des Reaktionsschemas; zum Beispiel durch Verwendung von Enumerationen sofern angemessen.

Über den Autor

Armin Catovic ist Vorstandssekretär bei Stockholm KIund Vizepräsident und Senior ML/AI Engineer bei der EQT-Gruppemit 18 Jahren Ingenieurerfahrung in Australien, Südostasien, Europa und den USA sowie einer Reihe von Patenten und erstklassigen, von Experten begutachteten KI-Veröffentlichungen.