nutzt – chatgpz.de – KI-Tools & Praxiswissen https://chatgpz.de Unabhängige Tests, Anleitungen und Hintergründe zu KI-Tools. Sun, 15 Mar 2026 20:40:59 +0000 de-DE hourly 1 https://wordpress.org/?v=6.4.2 234900186 Neue MIT-Klasse nutzt Anthropologie, um Chatbots zu verbessern | MIT-Nachrichten https://chatgpz.de/artificial-intelligence/neue-mit-klasse-nutzt-anthropologie-um-chatbots-zu-verbessern-mit-nachrichten/ https://chatgpz.de/artificial-intelligence/neue-mit-klasse-nutzt-anthropologie-um-chatbots-zu-verbessern-mit-nachrichten/#respond Sun, 15 Mar 2026 20:40:59 +0000 https://chatgpz.de/artificial-intelligence/neue-mit-klasse-nutzt-anthropologie-um-chatbots-zu-verbessern-mit-nachrichten/ [ad_1]

Junge Erwachsene, die in der Aufmerksamkeitsökonomie aufwachsen – sie bereiten sich auf das Erwachsenenleben vor, während soziale Medien und Chatbots um ihre Aufmerksamkeit konkurrieren – können leicht in ungesunde Beziehungen zu digitalen Plattformen geraten. Aber was wäre, wenn Chatbots nicht nur Ablenkung vom wirklichen Leben wären? Könnten sie menschlich gestaltet werden, als moralische Associate, deren digitales Ziel darin besteht, ein sozialer Wegweiser und nicht ein süchtig machender Ausweg zu sein?

Am MIT führte eine Freundschaft zwischen zwei Professoren – einer ein Anthropologe, der andere ein Informatiker – zur Gründung einer Bachelor-Klasse, die sich auf die Suche nach einer Antwort auf diese Fragen machte. Durch die Kombination der beiden scheinbar unterschiedlichen Disziplinen ermutigt der Kurs die Schüler, Chatbots mit künstlicher Intelligenz auf humane Weise zu entwerfen, die den Benutzern helfen, sich selbst zu verbessern.

Der Kurs 6.S061/21A.S02 (Humane Consumer Expertise Design, auch bekannt als Humane UXD) ist ein Informatikkurs der Oberstufe, der mit Anthropologie verknüpft ist. Diese einzigartige Cross-Itemizing ermöglicht es Informatik-Studierenden, geisteswissenschaftliche Anforderungen zu erfüllen und gleichzeitig ihre Karriereziele zu verfolgen. Die beiden Professoren nutzen Methoden der Linguistischen Anthropologie, um den Studierenden beizubringen, die interaktionalen und zwischenmenschlichen Bedürfnisse des Menschen in die Programmierung zu integrieren.

Professor Arvind Satyanarayan, ein Informatiker, dessen Forschung Werkzeuge für die interaktive Datenvisualisierung und Benutzeroberflächen entwickelt, und Professor Graham Jones, ein Anthropologe, dessen Forschungsschwerpunkt auf Kommunikation liegt, haben letzten Sommer mit einem Stipendium der MIT Morningside Academy for Design (MAD) Humane UXD entwickelt. Das MIT MAD Design Curriculum Program stellt Lehrkräften Mittel für die Entwicklung neuer Kurse oder die Verbesserung bestehender Kurse mithilfe innovativer pädagogischer Ansätze zur Verfügung, die über Abteilungsgrenzen hinausgehen. Neben dem von MAD bereitgestellten Zuschuss erhielten Jones und Satyanarayan Mittel für die Entwicklung von Humane UXD unter der Schirmherrschaft des Gemeinsamkeiten für die Informatikausbildungeine Initiative des MIT Schwarzman School of Computing, die Abteilungen zusammenbringt, um Kurse zu erstellen, die Informatik mit anderen Disziplinen integrieren.

Das Design Curriculum Program nimmt derzeit Bewerbungen für das Studienjahr 2026-27 entgegen; Einsendeschluss ist Freitag, der 20. März.

Jones und Satyanarayan lernten sich vor einigen Jahren kennen, als sie gemeinsam die Forschung eines Doktoranden zur Datenvisualisierung für sehbehinderte Menschen betreuten. Seitdem sind sie enge Freunde geworden, die die Sätze des anderen praktisch zu Ende bringen können.

„Es gibt eine Artwork und Weise, dass man das, was man weiß oder wie man denkt, erst beim Unterrichten wirklich vollständig externalisiert“, sagt Jones. „Es hat mir wirklich Spaß gemacht, zu sehen, wie Arvind sein Fachwissen als Lehrer auf eine Weise entfaltet, die es mir ermöglicht, zu sehen, wie die Teile zusammenpassen – und grundlegende Gemeinsamkeiten zwischen unseren Disziplinen und unserer Denkweise zu entdecken.“

Satyanarayan führt diesen Gedanken weiter aus: „Eines der Dinge, die mir wirklich gefallen haben, ist die reziproke Model dessen, was Graham gesagt hat, nämlich dass mein Fachgebiet – die Mensch-Laptop-Interaktion – viele Methoden aus der Anthropologie geerbt hat, wie zum Beispiel Interviews und Benutzerstudien und Beobachtungsstudien. Und im Laufe der Jahrzehnte wurden diese Methoden immer mehr verwässert. Dadurch sind viele Dinge verloren gegangen.“

„Für mich conflict es zum Beispiel sehr spannend zu sehen, wie ein Anthropologe Schülern beibringt, Menschen zu interviewen. Es ist völlig anders, als ich es machen würde. Auf meine Artwork und Weise verlieren wir die Beziehung und Verbindung, die man mit dem Interviewpartner aufbauen muss. Stattdessen extrahieren wir einfach Daten von ihm.“

Für Jones hat der Unterricht bei einem Informatiker noch eine andere Faszination: Design. Er sagt, dass menschliche Sprache und Interaktion in grundlegende Genres mit stabilen Regeln organisiert sind, die ein Interview auf einer Cocktailparty von einem Gespräch auf einer Beerdigung unterscheiden.

„ChatGPT und andere große Sprachmodelle sind auf die natürlich vorkommende menschliche Kommunikation trainiert, sodass alle diese Genres in einem latenten Zustand enthalten sind und darauf warten, aktiviert zu werden“, sagt er.

„Als Sozialwissenschaftler unterrichte ich Methoden zur Analyse menschlicher Gespräche und gebe den Schülern sehr leistungsfähige Werkzeuge dafür an die Hand. Aber am Ende bleibt es meist eine reine Forschungsübung, während es sich hier um einen Designkurs handelt, in dem die Schüler reale Systeme bauen.“

Der Lehrplan scheint darauf ausgerichtet zu sein, die Studierenden auf eine Berufstätigkeit nach dem Abschluss vorzubereiten. Ein Scholar beantragte die Erlaubnis, eine Woche lang den Unterricht verpassen zu dürfen, weil er ein Probepraktikum bei einem Chatbot-Startup absolvierte; Als er zurückkam, sagte er, dass seine Arbeit im Startup genau dem entsprach, was er im Unterricht gelernt hatte. Er hat den Job bekommen.

Die nachstehende Auswahl von Gruppenprojekten, die mit Gemini von Google erstellt wurden, zeigt, was möglich ist, wenn, wie Jones sagt, „eine wirklich tiefe Verflechtung des technologischen Teils mit dem geisteswissenschaftlichen Teil besteht“. Die gestalterischen Arbeiten der Studierenden zeigen, dass völlig neue Wege der Programmierung konzipiert werden können, wenn das Humane im Vordergrund steht.

Die Bots zeigen deutlich, dass ein interdisziplinärer Unterricht so gestaltet werden kann, dass alle davon profitieren: Die Studierenden lernen mehr und anders; Sie können die Anforderungen eines nicht-hauptfachlichen Kurses erfüllen, indem sie einen Kurs belegen, der sich direkt auf ihre Karriere auswirkt. und langfristige Fakultätspartnerschaften können geknüpft oder gestärkt werden.

Crew Teich

Ein Projekt verspricht besonders nützlich für Absolventen der Oberstufe zu sein. Pond soll jungen Hochschulabsolventen dabei helfen, sich an die Herausforderungen eines unabhängigen Erwachsenenlebens anzupassen. Crew Pond hat den Chatbot so konfiguriert, dass er den Benutzer nicht einfach nachplappert oder falsche Antworten kriecherisch lobt. Stattdessen gibt Pond Ratschläge, die beim „Erwachsenwerden“ (Verhalten als verantwortungsbewusster Erwachsener) helfen sollen.

„Pond ist so konzipiert, dass es Ihr Begleiter vom School-Leben ins Submit-School-Leben ist und Ihnen beim Übergang von einem kleinen Fisch in einem kleinen Teich zu einem kleinen Fisch in einem sehr großen Teich hilft“, sagt Mary Feliz, Studentin im zweiten Jahr.

„Das School ist eine Umgebung mit hoher Nähe und hohem Kontext, in dem Sinne, dass jeder um einen herum das Gleiche durchmacht, und es ist einfach, Beziehungen aufzubauen oder Chancen zu finden, weil es strukturierte Wege gibt, zu denen man Zugang hat“, erklärt Doktorand Emaan Khan. „Das Postgraduiertenleben ist kontextarm. Man ist nicht immer von seinen Kommilitonen oder Professoren umgeben. Es ist auch keine Nähe, in dem Sinne, dass man keine Möglichkeiten direkt vor der Haustür hat. Pond ist ein Werkzeug, das einem dabei hilft, bestimmte Möglichkeiten zu nutzen oder zu lernen, wie man sich zurechtfindet.“

Die Entwickler von Pond sind die Doktorandin Claire Camacho, die Doktorandin Charlotte Cheah von der Harvard College, Feliz und Khan. Sie bildeten Pond aus, um Fachwissen in drei Bereichen anzubieten: soziales Leben, Berufsleben und Erwachsenenkompetenzen.

Die Schüler demonstrierten Ponds soziale Kommunikation, indem sie fragten, wie man Gespräche in einer Hobbygruppe beginnt. Als nächstes demonstrierten sie Ponds erwachsene Kommunikation, indem sie eine Frage eintippten.

„Mein Vermieter hat mir persönliche Fragen gestellt, die mir Unbehagen bereiten. Was soll ich tun?“

In Ponds Textfeld erschien folgende Antwort: „Setzen Sie höflich Grenzen. Sie sind nicht verpflichtet, persönliche Fragen zu beantworten. Sie können das Gespräch sanft wieder auf immobilienbezogene Themen lenken. Kennen Sie Ihre Rechte: Machen Sie sich mit den Mieterrechten in Ihrer Stadt oder Ihrem Bundesstaat in Bezug auf Privatsphäre und Vermieterverhalten vertraut.“

Auf die Frage, wie das geht, gab Pond konkrete Anweisungen: „Sie können versuchen, Sätze zu sagen wie: ‚Ich ziehe es vor, unsere Gespräche auf die Immobilie zu konzentrieren‘ und ‚Lassen Sie uns bitte bei Themen rund um die Wohnung bleiben‘.“ Leiten Sie das Gespräch immer zurück auf die Wohnung oder ein legitimes Wartungsproblem. Bleiben Sie höflich, aber bestimmt. Dokumentieren Sie bei Bedarf alle Gespräche.“

Pond bot auch ein Rollenspielszenario an, um dem Benutzer zu helfen, zu lernen, welche höfliche, aber feste Sprache in dieser Scenario sein könnte.

„Das Ethos des Übungsmodus besteht darin, dass Sie aktiv eine Fertigkeit entwickeln, sodass Sie nach einiger Zeit der Verwendung von Pond sicher sind, dass Sie alleine schwimmen können“, sagt Khan. Der Chatbot verwendet ein Punktesystem, mit dem Benutzer ein Thema abschließen können, und eine Schatztruhe zum Speichern von Preisen. Elemente, die hinzugefügt werden, um die Attraktivität des Bots zu steigern.

Crew Information Nest

Ein weiteres Projekt, Information Nest, bietet eine ausgeklügelte Möglichkeit, jungen Menschen dabei zu helfen, sich auf unterhaltsame Weise mit glaubwürdigen Nachrichtenquellen auseinanderzusetzen. Der Title leitet sich von den 10 attraktiven und farbenfrohen Vögeln der Sendung ab, die sich jeweils auf einen bestimmten Nachrichtenbereich konzentrieren. Wenn Sie Schlagzeilen wollen, fragen Sie Polly the Parrot, den wichtigsten Nachrichtensender. Wenn Sie sich für Wissenschaft interessieren, führt Sie Gaia die Gans. Zur Herde gehören auch Flynn the Falcon, Sportreporter; Credo the Crow für Kriminal- und Rechtsnachrichten; Edwin the Eagle, ein Wirtschaftsnachrichtenführer; Pizzazz the Peacock für Pop- und Unterhaltungsgeschichten; und Pixel the Pigeon, ein Spezialist für Technologienachrichten.

Das Entwicklungsteam von Information Nest besteht aus den MIT-Senioren Tiana Jiang und Krystal Montgomery sowie der Juniorin Natalie Tan. Sie haben Information Nest absichtlich gebaut, um „Doomscrolling“ zu verhindern, für Medientransparenz zu sorgen (Quellen und politische Neigungen werden immer angezeigt) und sie haben einen cleveren, gesunden Puffer gegen emotionale Manipulation und Engagementfallen geschaffen, indem sie Vögel anstelle von menschlichen Charakteren eingesetzt haben.

Crew M^3 (Multiagenten-Krimi)

Ein drittes Crew, M^3, beschloss, damit zu experimentieren, die KI humaner zu machen, indem sie dafür sorgt, dass sie Spaß macht. MIT-Senior Rodis Aguilar, Junior David De La Torre und Deeraj Pothapragada aus dem zweiten Jahr entwickelten M^3, einen Social-Deduction-Multiagenten-Krimi, der vier Chatbots als unterschiedliche Persönlichkeiten beinhaltet: Gemini, ChatGPT von OpenAI, Grok von xAI und Claude von Anthropic. Der Benutzer ist der fünfte Spieler.

Wie bei einem normalen Krimi gibt es Orte, Waffen und Lügen. Der Benutzer muss erraten, wer den Mord begangen hat. Es ist einem Brett- oder Onlinespiel sehr ähnlich, das mit echten Spielern gespielt wird, nur dass es sich dabei um verbesserte KI-Gegner handelt, die man nicht sehen kann und die auf Fragen vielleicht die Wahrheit sagen oder auch nicht. Benutzer können sich nicht zu sehr auf einen Chatbot einlassen, da sie alle vier spielen. Außerdem ist der Benutzer, wie in einem echten Krimispiel, manchmal schuldig.

[ad_2]

]]>
https://chatgpz.de/artificial-intelligence/neue-mit-klasse-nutzt-anthropologie-um-chatbots-zu-verbessern-mit-nachrichten/feed/ 0 17098
Meta AI nutzt GCM als Open Supply für eine bessere GPU-Cluster-Überwachung, um ein leistungsstarkes KI-Coaching und {Hardware}-Zuverlässigkeit sicherzustellen https://chatgpz.de/artificial-intelligence/meta-ai-nutzt-gcm-als-open-supply-fuer-eine-bessere-gpu-cluster-ueberwachung-um-ein-leistungsstarkes-ki-coaching-und-hardware-zuverlaessigkeit-sicherzustellen/ https://chatgpz.de/artificial-intelligence/meta-ai-nutzt-gcm-als-open-supply-fuer-eine-bessere-gpu-cluster-ueberwachung-um-ein-leistungsstarkes-ki-coaching-und-hardware-zuverlaessigkeit-sicherzustellen/#respond Wed, 25 Feb 2026 03:34:40 +0000 http://chatgpz.de/artificial-intelligence/meta-ai-nutzt-gcm-als-open-source-fuer-eine-bessere-gpu-cluster-ueberwachung-um-ein-leistungsstarkes-ki-training-und-hardware-zuverlaessigkeit-sicherzustellen/ [ad_1]

Während die Tech-Leute von den neuesten Llama-Kontrollpunkten besessen sind, wird in den Kellern der Rechenzentren ein viel erbitterterer Kampf ausgetragen. Da KI-Modelle auf Billionen von Parametern skaliert werden, sind die für ihr Coaching erforderlichen Cluster zu einigen der komplexesten – und fragilsten – Maschinen auf dem Planeten geworden.

Das Meta AI Analysis-Staff wurde gerade veröffentlicht GCM (GPU-Cluster-Überwachung)ein spezielles Toolkit, das entwickelt wurde, um den „stillen Killer“ des KI-Fortschritts zu lösen: {Hardware}-Instabilität im großen Maßstab. GCM ist eine Blaupause für die Verwaltung des {Hardware}-zu-Software program-Handshakes im Excessive-Efficiency Computing (HPC).

https://facebookresearch.github.io/gcm/docs/getting_started/

Das Drawback: Wenn die „Commonplace“-Beobachtbarkeit nicht ausreicht

Wenn bei der herkömmlichen Webentwicklung ein Microservice hinterherhinkt, überprüfen Sie Ihr Dashboard und skalieren horizontal. Beim KI-Coaching gelten andere Regeln. Bei einer einzelnen GPU in einem 4.096-Karten-Cluster kann es zu einem „stillen Ausfall“ kommen, bei dem sie technisch gesehen „in Betrieb“ bleibt, aber ihre Leistung abnimmt, wodurch die Gradienten für den gesamten Trainingslauf effektiv vergiftet werden.

Commonplace-Überwachungstools sind oft zu anspruchsvoll, um diese Nuancen zu erfassen. Metas GCM fungiert als spezialisierte Brücke und verbindet die rohe {Hardware}-Telemetrie der NVIDIA-GPUs mit der Orchestrierungslogik des Clusters.

1. Überwachung nach dem „Slurm“-Prinzip

Für Entwickler: Slurm ist der allgegenwärtige (wenn auch gelegentlich frustrierende) Workload-Supervisor. GCM lässt sich direkt in Slurm integrieren, um eine kontextbezogene Überwachung zu ermöglichen.

  • Zuordnung auf Jobebene: Anstatt einen generischen Anstieg des Stromverbrauchs zu beobachten, ermöglicht Ihnen GCM die Zuordnung von Kennzahlen zu bestimmten Messwerten Job-IDs.
  • Statusverfolgung: Es ruft Daten ab sacct, sinfoUnd squeue um eine Echtzeitkarte des Clusterzustands zu erstellen. Wenn ein Knoten als markiert ist DRAINGCM hilft Ihnen zu verstehen Warum bevor es einem Forscher das Wochenende ruiniert.

2. Die „Prolog“- und „Epilog“-Strategie

Einer der technisch wichtigsten Teile des GCM-Frameworks ist seine Suite Gesundheitschecks. In einer HPC-Umgebung ist Timing alles. GCM nutzt zwei kritische Fenster:

  • Prolog: Dabei handelt es sich um ausgeführte Skripte vor ein Job beginnt. GCM prüft, ob das InfiniBand-Netzwerk fehlerfrei ist und ob die GPUs tatsächlich erreichbar sind. Wenn ein Knoten eine Vorabprüfung nicht besteht, wird der Job umgeleitet, wodurch Stunden „toter“ Rechenzeit eingespart werden.
  • Epilog: Diese laufen nach ein Job wird abgeschlossen. GCM verwendet dieses Fenster, um eine umfassende Diagnose durchzuführen NVIDIAs DCGM (Information Heart GPU Supervisor) um sicherzustellen, dass die {Hardware} beim schweren Heben nicht beschädigt wurde.

3. Telemetrie und die OTLP-Brücke

Für Entwickler und KI-Forscher, die ihre Rechenbudgets rechtfertigen müssen, GCMs Telemetrieprozessor ist der Star der Present. Es wandelt rohe Clusterdaten in um OpenTelemetry (OTLP) Formate.

Durch die Standardisierung der Telemetrie ermöglicht GCM Groups, hardwarespezifische Daten (wie GPU-Temperatur, NVLink-Fehler und XID-Ereignisse) in moderne Observability-Stacks zu übertragen. Dies bedeutet, dass Sie endlich einen Rückgang des Trainingsdurchsatzes mit einem bestimmten {Hardware}-Drosselungsereignis in Verbindung bringen können, indem Sie von „Das Modell ist langsam“ zu „GPU 3 auf Knoten 50 ist überhitzt“ übergehen.

Unter der Haube: Der Tech Stack

Die Implementierung von Meta ist eine Meisterklasse in pragmatischer Technik. Das Repository ist in erster Linie Python (94 %), wodurch es für KI-Entwickler hochgradig erweiterbar ist und leistungskritische Logik berücksichtigt Gehen.

  • Sammler: Modulare Komponenten, die Telemetriedaten aus Quellen wie sammeln nvidia-smi und die Slurm-API.
  • Waschbecken: Die „Ausgabe“-Ebene. GCM unterstützt mehrere Senken, einschließlich stdout für lokales Debugging und OTLP zur produktionsnahen Überwachung.
  • DCGM und NVML: GCM nutzt die NVIDIA-Verwaltungsbibliothek (NVML) um direkt mit der {Hardware} zu kommunizieren und Abstraktionen auf hoher Ebene zu umgehen, die möglicherweise Fehler verbergen.

Wichtige Erkenntnisse

  • Überbrückung der Lücke des „stillen Versagens“: GCM löst ein kritisches Drawback der KI-Infrastruktur: die Identifizierung von „Zombie“-GPUs, die on-line erscheinen, aber aufgrund von {Hardware}-Instabilität zum Absturz von Trainingsläufen oder zu fehlerhaften Farbverläufen führen.
  • Deep Slurm-Integration: Im Gegensatz zur allgemeinen Cloud-Überwachung ist GCM speziell für Excessive-Efficiency Computing (HPC) entwickelt. Es verankert Hardwaremetriken spezifisch Slurm-Job-IDsDadurch können Ingenieure Leistungseinbrüche oder Leistungsspitzen bestimmten Modellen und Benutzern zuordnen.
  • Automatisierte Gesundheit „Prolog“ und „Epilog“: Das Framework verwendet eine proaktive Diagnosestrategie und führt spezielle Gesundheitsprüfungen durch NVIDIA DCGM vor Beginn eines Jobs (Prolog) und nach dessen Ende (Epilog), um sicherzustellen, dass fehlerhafte Knoten entleert werden, bevor sie teure Rechenzeit verschwenden.
  • Standardisierte Telemetrie über OTLP: GCM wandelt Low-Degree-Hardwaredaten (Temperatur, NVLink-Fehler, XID-Ereignisse) in die um OpenTelemetry (OTLP) Format. Dadurch können Groups komplexe Clusterdaten zur Echtzeitvisualisierung an moderne Observability-Stacks wie Prometheus oder Grafana weiterleiten.
  • Modulares, sprachunabhängiges Design: Während die Kernlogik eingeschrieben ist Python Für die Barrierefreiheit verwendet GCM Gehen für leistungskritische Abschnitte. Seine „Collector-and-Sink“-Architektur ermöglicht es Entwicklern, problemlos neue Datenquellen einzubinden oder Metriken in benutzerdefinierte Backend-Systeme zu exportieren.

Schauen Sie sich das an Repo Und Projektseite. Sie können uns auch gerne weiter folgen Twitter und vergessen Sie nicht, bei uns mitzumachen 120.000+ ML SubReddit und Abonnieren Unser E-newsletter. Warten! Bist du im Telegram? Jetzt können Sie uns auch per Telegram kontaktieren.


[ad_2]

]]>
https://chatgpz.de/artificial-intelligence/meta-ai-nutzt-gcm-als-open-supply-fuer-eine-bessere-gpu-cluster-ueberwachung-um-ein-leistungsstarkes-ki-coaching-und-hardware-zuverlaessigkeit-sicherzustellen/feed/ 0 16587
Hugging Face Transformers in Aktion: Lernen, wie man KI für NLP nutzt https://chatgpz.de/machine-learning/hugging-face-transformers-in-aktion-lernen-wie-man-ki-fuer-nlp-nutzt/ https://chatgpz.de/machine-learning/hugging-face-transformers-in-aktion-lernen-wie-man-ki-fuer-nlp-nutzt/#respond Mon, 29 Dec 2025 07:02:45 +0000 http://chatgpz.de/machine-learning/hugging-face-transformers-in-aktion-lernen-wie-man-ki-fuer-nlp-nutzt/ [ad_1]

(NLP) hat die Artwork und Weise, wie wir mit Technologie interagieren, revolutioniert.

Erinnern Sie sich, als Chatbots zum ersten Mal auftauchten und wie Roboter klangen? Zum Glück gehört das der Vergangenheit an!

Transformer-Modelle haben ihren Zauberstab geschwenkt und NLP-Aufgaben neu gestaltet. Aber bevor Sie diesen Beitrag fallen lassen, denken Sie darüber nach „Meine Güte, Transformatoren sind viel zu dicht, um sie zu lernen“, ertrage es mit mir. Wir werden nicht in einem weiteren technischen Artikel versuchen, Ihnen die Mathematik hinter dieser erstaunlichen Technologie beizubringen, sondern stattdessen in der Praxis lernen, was sie für uns tun kann.

Mit der Transformers Pipeline von Hugging Face sind NLP-Aufgaben einfacher als je zuvor.

Lasst uns erkunden!

Die einzige Erklärung, was ein Transformator ist

Denken Sie nach Transformatormodelle als Elite der NLP-Welt.

Transformer zeichnen sich durch ihre Fähigkeit aus, sich durch einen Mechanismus namens „Selbstaufmerksamkeit“ auf verschiedene Teile einer Eingabesequenz zu konzentrieren.

Transformatoren sind leistungsstark aufgrund „Selbstaufmerksamkeit“ Eine Funktion, mit der sie entscheiden können, auf welche spezifischen Teile eines Satzes sie sich zu einem bestimmten Zeitpunkt am wichtigsten konzentrieren möchten.

Schon mal was von BERT, GPT oder RoBERTa gehört? Das sind sie! BERT (Bidirektionale Encoder-Darstellungen von Transformers) ist ein revolutionäres KI-Sprachmodell von Google aus dem Jahr 2018, das den Textkontext versteht, indem es Wörter gleichzeitig von hyperlinks nach rechts und von rechts nach hyperlinks liest.

Genug geredet, fangen wir an, in die Materie einzutauchen transformers Paket (1).

Einführung in die Transformers-Pipeline

Die Transformers-Bibliothek bietet ein komplettes Toolkit zum Trainieren und Ausführen hochmoderner vorab trainierter Modelle. Die Pipeline-Klasse, die unser Hauptthema ist, bietet eine benutzerfreundliche Oberfläche für verschiedene Aufgaben, z. B.:

  • Textgenerierung
  • Bildsegmentierung
  • Spracherkennung
  • Dokument-QA.

Vorbereitung

Bevor wir beginnen, führen wir die Grundlagen durch und stellen unsere Instruments zusammen. Wir benötigen Python, die Transformers-Bibliothek und möglicherweise entweder PyTorch oder TensorFlow. Die Set up erfolgt wie gewohnt: pip set up transformers.

IDEs wie Anaconda oder Plattformen wie Google Colab bringen diese bereits als Standardinstallation mit. Keine Probleme.

Mit der Pipeline-Klasse können Sie viele maschinelle Lernaufgaben mit jedem auf dem Hugging Face Hub verfügbaren Modell ausführen. Es ist so einfach wie Anschließen und Spielen.

Während jede Aufgabe über ein vorkonfiguriertes Standardmodell und einen Präprozessor verfügt, können Sie diese ganz einfach anpassen, indem Sie den Modellparameter verwenden, um ein anderes Modell Ihrer Wahl einzutauschen.

Code

Beginnen wir mit den Transformatoren 101 und sehen wir uns an, wie es funktioniert, bevor wir näher darauf eingehen. Die erste Aufgabe, die wir durchführen werden, ist eine einfache Stimmungsanalyse zu einer bestimmten Schlagzeile.

from transformers import pipeline

classifier = pipeline("sentiment-analysis")
classifier("Instagram needs to restrict hashtag spam.")

Die Antwort ist die folgende.

No mannequin was provided, defaulted to distilbert/distilbert-base-uncased-finetuned-sst-2-english and revision 714eb0f (https://huggingface.co/distilbert/distilbert-base-uncased-finetuned-sst-2-english).
Utilizing a pipeline with out specifying a mannequin title and revision in manufacturing will not be advisable.

Machine set to make use of cpu
({'label': 'NEGATIVE', 'rating': 0.988932728767395})

Da wir keinen geliefert haben mannequin Parameter, es ging mit der Standardoption. Als Klassifizierung haben wir herausgefunden, dass die Stimmung über dieser Überschrift zu 98 % NEGATIV ist. Darüber hinaus könnten wir eine Liste von Sätzen zur Klassifizierung haben, nicht nur einen.

Tremendous einfach, oder? Aber das ist noch nicht alles. Wir können weiterhin andere coole Funktionen erkunden.

Zero-Shot-Klassifizierung

Eine Zero-Shot-Klassifizierung bedeutet die Kennzeichnung eines Textes, der noch nicht gekennzeichnet wurde. Wir haben additionally kein klares Muster dafür. Dann müssen wir nur noch ein paar Klassen bestehen, damit das Modell eine auswählen kann. Dies kann beim Erstellen von Trainingsdatensätzen für maschinelles Lernen sehr nützlich sein.

Dieses Mal füttern wir die Methode mit mannequin Argument und eine Liste der zu klassifizierenden Sätze.

classifier = pipeline("zero-shot-classification", mannequin = 'fb/bart-large-mnli')
classifier(
    ("Inter Miami wins the MLS", "Match tonight betwee Chiefs vs. Patriots", "Michael Jordan plans to promote Charlotte Hornets"),
    candidate_labels=("soccer", "soccer", "basketball")
    )
({'sequence': 'Inter Miami wins the MLS',
  'labels': ('soccer', 'soccer', 'basketball'),
  'scores': (0.9162040948867798, 0.07244189083576202, 0.011354007758200169)},
 {'sequence': 'Match tonight betwee Chiefs vs. Patriots',
  'labels': ('soccer', 'basketball', 'soccer'),
  'scores': (0.9281435608863831, 0.0391676239669323, 0.032688744366168976)},
 {'sequence': 'Michael Jordan plans to promote Charlotte Hornets',
  'labels': ('basketball', 'soccer', 'soccer'),
  'scores': (0.9859175682067871, 0.009983371943235397, 0.004099058918654919)})

Es sieht so aus, als ob das Mannequin beim Beschriften dieser Sätze großartige Arbeit geleistet hat!

Textgenerierung

Das Paket kann auch Textual content generieren. Dies ist eine gute Möglichkeit, einen netten kleinen Geschichtengenerator zu erstellen, den wir unseren Kindern vor dem Schlafengehen erzählen können. Wir erhöhen die temperature Parameter, um das Modell kreativer zu machen.

generator = pipeline("text-generation", temperature=0.8)
generator("As soon as upon a time, in a land the place the King Pineapple was")
({'generated_text': 
"As soon as upon a time, in a land the place the King Pineapple was a typical
 crop, the Queen of the North had lived in a small village. The Queen had all the time 
lived in a small village, and her daughter, who was additionally the daughter of the Queen,
 had lived in a bigger village. The royal household would come to the Queen's village,
 after which the Queen would return to her fort and stay there along with her daughters. 
In the course of the night time, she would lay down on the royal mattress and kiss the princess
 at the very least as soon as, after which she would return to her fort to stay there along with her males. 
Within the daytime, nevertheless, the Queen can be gone endlessly, and her mom can be alone.
The rationale for this disappearance, within the type of the Nice Northern Passage 
and the Nice Northern Passage, was the royal household had all the time needed to take 
the place of the Queen. Ultimately, they took the place of the Queen, and went 
with their daughter to satisfy the King. At the moment, the King was the one particular person 
on the island who had ever heard of the Nice Northern Passage, and his return was
 prior to now.
After Queen Elizabeth's dying, the royal household went to the 
Nice Northern Passage, to hunt out the Princess of England and put her there. 
The Princess of England had been in"})

Namens- und Entitätserkennung

Diese Aufgabe kann eine Particular person (PER), einen Ort (LOC) oder eine Entität (ORG) in einem bestimmten Textual content erkennen. Das eignet sich beispielsweise hervorragend für die schnelle Erstellung von Marketinglisten mit Lead-Namen.

ner = pipeline("ner", grouped_entities=True)
ner("The person landed on the moon in 1969. Neil Armstrong was the primary man to step on the Moon's floor. He was a NASA Astronaut.")
({'entity_group': 'PER', 'rating': np.float32(0.99960065),'phrase': 'Neil Armstrong',
  'begin': 36,  'finish': 50},

 {'entity_group': 'LOC',  'rating': np.float32(0.82190216),  'phrase': 'Moon',
  'begin': 84,  'finish': 88},

 {'entity_group': 'ORG',  'rating': np.float32(0.9842771),  'phrase': 'NASA',
  'begin': 109,  'finish': 113},

 {'entity_group': 'MISC',  'rating': np.float32(0.8394754),  'phrase': 'As',
  'begin': 114,  'finish': 116})

Zusammenfassung

Die Zusammenfassung ist möglicherweise eine der am häufigsten verwendeten Aufgaben und ermöglicht es uns, einen Textual content zu reduzieren und dabei seine Essenz und wichtigen Teile beizubehalten. Fassen wir das zusammen Wikipedia-Seite über Transformers.

summarizer = pipeline("summarization")
summarizer("""
In deep studying, the transformer is a synthetic neural community structure based mostly
on the multi-head consideration mechanism, during which textual content is transformed to numerical
 representations known as tokens, and every token is transformed right into a vector through lookup
 from a phrase embedding desk.(1) At every layer, every token is then contextualized inside the scope of the context window with different (unmasked) tokens through a parallel multi-head consideration mechanism, permitting the sign for key tokens to be amplified and fewer necessary tokens to be diminished.

Transformers have the benefit of getting no recurrent models, subsequently requiring 
much less coaching time than earlier recurrent neural architectures (RNNs) similar to lengthy 
short-term reminiscence (LSTM).(2) Later variations have been broadly adopted for coaching
 giant language fashions (LLMs) on giant (language) datasets.(3)
""")
({'summary_text': 
' In deep studying, the transformer is a synthetic neural community structure 
based mostly on the multi-head consideration mechanism . Transformerers have the benefit of
 having no recurrent models, subsequently requiring much less coaching time than earlier 
recurrent neural architectures (RNNs) similar to lengthy short-term reminiscence (LSTM)'})

Exzellent!

Bilderkennung

Es gibt andere, komplexere Aufgaben, wie zum Beispiel die Bilderkennung. Und genauso einfach zu bedienen wie die anderen.

image_classifier = pipeline(
    process="image-classification", mannequin="google/vit-base-patch16-224"
)
consequence = image_classifier(
    "https://photographs.unsplash.com/photo-1689009480504-6420452a7e8e?q=80&w=687&auto=format&match=crop&ixlib=rb-4.1.0&ixid=M3wxMjA3fDB8MHxwaG90by1wYWdlfHx8fGVufDB8fHx8fApercent3Dpercent3D"
)
print(consequence)
Foto von Vitalii Khodzinskyi An Unsplash
({'label': 'Yorkshire terrier', 'rating': 0.9792122840881348}, 
{'label': 'Australian terrier', 'rating': 0.00648861238732934}, 
{'label': 'silky terrier, Sydney silky', 'rating': 0.00571345305070281}, 
{'label': 'Norfolk terrier', 'rating': 0.0013639888493344188}, 
{'label': 'Norwich terrier', 'rating': 0.0010306559270247817})

Anhand dieser beiden Beispiele wird deutlich, wie einfach es ist, mit der Transformers-Bibliothek verschiedene Aufgaben mit sehr wenig Code auszuführen.

Zusammenfassung

Was wäre, wenn wir unser Wissen zusammenfassen, indem wir es in einem praktischen, kleinen Projekt anwenden?

Lassen Sie uns eine einfache Streamlit-App erstellen, die einen Lebenslauf lesen und die Stimmungsanalyse zurückgeben und den Ton des Textes klassifizieren kann ("Senior", "Junior", "Trainee", "Blue-collar", "White-collar", "Self-employed")

Im nächsten Code:

  • Importieren Sie die Pakete
  • Erstellen Sie Titel und Untertitel der Seite
  • Fügen Sie einen Texteingabebereich hinzu
  • Tokenisieren Sie den Textual content und teilen Sie ihn für die Transformationsaufgabe in Abschnitte auf. Siehe die Liste der Modelle (4).
import streamlit as st
import torch
from transformers import pipeline
from transformers import AutoTokenizer
from langchain_community.document_loaders import PyPDFLoader
from langchain.text_splitter import RecursiveCharacterTextSplitter

st.title("Resumé Sentiment Evaluation")
st.caption("Checking the sentiment and language tone of your resume")

# Add enter textual content space
textual content = st.text_area("Enter your resume textual content right here")

# 1. Load your required tokenizer
model_checkpoint = "bert-base-uncased" 
tokenizer = AutoTokenizer.from_pretrained(model_checkpoint)

# 2. Tokenize the textual content with out padding or truncation
# We return tensors or lists to slice them manually
tokens = tokenizer(textual content, add_special_tokens=False, return_tensors="pt")("input_ids")(0)

# 3. Instantiate Textual content Splitter with Chunk Dimension of 500 phrases and Overlap of 100 phrases in order that context will not be misplaced
text_splitter = RecursiveCharacterTextSplitter(chunk_size=500, chunk_overlap=100)

# 4. Cut up into chunks for environment friendly retrieval
chunks = text_splitter.split_documents(textual content)

# 5. Convert again to strings or add particular tokens for mannequin enter
decoded_chunks = ()
for chunk in chunks:
    # This provides (CLS) and (SEP) and converts again to a format the mannequin likes
    final_input = tokenizer.prepare_for_model(chunk.tolist(), add_special_tokens=True)
    decoded_chunks.append(tokenizer.decode(final_input('input_ids')))

st.write(f"Created {len(decoded_chunks)} chunks.")

Als Nächstes initiieren wir die Pipeline des Transformators, um:

  • Führen Sie die Stimmungsanalyse durch und geben Sie den Konfidenzprozentsatz zurück.
  • Klassifizieren Sie den Textton und geben Sie die Konfidenz % zurück.
# Initialize sentiment evaluation pipeline
sentiment_pipeline = pipeline("sentiment-analysis")

# Carry out sentiment evaluation    
if st.button("Analyze"):
    col1, col2 = st.columns(2)

    with col1:  
        # Sentiment evaluation
        sentiment = sentiment_pipeline(decoded_chunks)(0)
        st.write(f"Sentiment: {sentiment('label')}")
        st.write(f"Confidence: {100*sentiment('rating'):.1f}%")
    
    with col2:
        # Categorize tone
        tone_pipeline = pipeline("zero-shot-classification", mannequin = 'fb/bart-large-mnli',
                                candidate_labels=("Senior", "Junior", "Trainee", "Blue-collar", "White-collar", "Self-employed"))
        tone = tone_pipeline(decoded_chunks)(0)
        
        st.write(f"Tone: {tone('labels')(0)}")
        st.write(f"Confidence: {100*tone('scores')(0):.1f}%")

Hier ist der Screenshot.

Stimmungs- und Sprachtonanalyse. Bild vom Autor.

Bevor Sie gehen

Hugging Face (HF) Transformers Pipelines sind für Datenanwender wirklich ein Wendepunkt. Sie bieten eine unglaublich effiziente Möglichkeit, komplexe maschinelle Lernaufgaben wie Textgenerierung oder Bildsegmentierung mit nur wenigen Codezeilen zu bewältigen.

HF hat die schwere Arbeit bereits erledigt, indem es anspruchsvolle Modelllogik in einfache, intuitive Methoden verpackt hat.

Dies verlagert den Fokus weg von der Low-Stage-Codierung und ermöglicht es uns, uns auf das Wesentliche zu konzentrieren: unsere Kreativität zu nutzen, um wirkungsvolle, reale Anwendungen zu erstellen.

Wenn Ihnen dieser Inhalt gefallen hat, finden Sie mehr über mich auf meiner Web site.

https://gustavorsantos.me

GitHub-Repository

https://github.com/gurezende/Resume-Sentiment-Evaluation

Referenzen

(1. Transformers-Paket) https://huggingface.co/docs/transformers/index

(2. Transformatoren-Pipelines) https://huggingface.co/docs/transformers/pipeline_tutorial

(3. Beispiele für Pipelines) https://huggingface.co/be taught/llm-course/chapter1/3#summarization

(3. HF-Modelle) Huggingface.co/fashions

[ad_2]

]]>
https://chatgpz.de/machine-learning/hugging-face-transformers-in-aktion-lernen-wie-man-ki-fuer-nlp-nutzt/feed/ 0 15197
LFM2-2.6B-Exp von Liquid AI nutzt reines Reinforcement Studying RL und dynamisches hybrides Denken, um das Verhalten kleiner Modelle zu verbessern https://chatgpz.de/artificial-intelligence/lfm2-2-6b-exp-von-liquid-ai-nutzt-reines-reinforcement-studying-rl-und-dynamisches-hybrides-denken-um-das-verhalten-kleiner-modelle-zu-verbessern/ https://chatgpz.de/artificial-intelligence/lfm2-2-6b-exp-von-liquid-ai-nutzt-reines-reinforcement-studying-rl-und-dynamisches-hybrides-denken-um-das-verhalten-kleiner-modelle-zu-verbessern/#respond Sun, 28 Dec 2025 09:04:29 +0000 http://chatgpz.de/artificial-intelligence/lfm2-2-6b-exp-von-liquid-ai-nutzt-reines-reinforcement-learning-rl-und-dynamisches-hybrides-denken-um-das-verhalten-kleiner-modelle-zu-verbessern/ [ad_1]

Liquid AI hat LFM2-2.6B-Exp eingeführt, einen experimentellen Prüfpunkt seines LFM2-2.6B-Sprachmodells, der mit reinem Verstärkungslernen auf dem bestehenden LFM2-Stack trainiert wird. Das Ziel ist einfach: Die Befolgung von Anweisungen, Wissensaufgaben und Mathematik für ein kleines 3B-Klassenmodell zu verbessern, das immer noch auf die Geräte- und Edge-Bereitstellung abzielt.

Wo LFM2-2.6B-Exp in die LFM2-Familie passt?

LFM2 ist die zweite Technology der Liquid Basis-Modelle. Es ist für den effizienten Einsatz auf Telefonen, Laptops und anderen Edge-Geräten konzipiert. Liquid AI beschreibt LFM2 als ein Hybridmodell, das LIV-Faltungsblöcke mit kurzer Reichweite mit gruppierten Abfrageaufmerksamkeitsblöcken kombiniert, die durch multiplikative Gatter gesteuert werden.

Die Familie umfasst vier dichte Größen: LFM2-350M, LFM2-700M, LFM2-1.2B und LFM2-2.6B. Alle haben eine Kontextlänge von 32.768 Token, eine Vokabulargröße von 65.536 und eine bfloat16-Präzision. Das 2.6B-Modell verwendet 30 Schichten, davon 22 Faltungsschichten und 8 Aufmerksamkeitsschichten. Jede Größe wird mit einem Price range von 10 Billionen Token trainiert.

LFM2-2.6B ist bereits als hocheffizientes Modell positioniert. Es erreicht 82,41 Prozent bei GSM8K und 79,56 Prozent bei IFEval. Damit liegt es in diesen Benchmarks vor mehreren Modellen der 3B-Klasse wie Llama 3.2 3B Instruct, Gemma 3 4B it und SmolLM3 3B.

LFM2-2.6B-Exp behält diese Architektur bei. Es verwendet dieselbe Tokenisierung, dasselbe Kontextfenster und dasselbe Hardwareprofil wieder. Der Checkpoint konzentriert sich nur auf die Verhaltensänderung durch eine verstärkende Lernphase.

https://huggingface.co/LiquidAI/LFM2-2.6B-Exp

Reines RL auf einer vortrainierten, ausgerichteten Foundation

Dieser Prüfpunkt basiert auf LFM2-2.6B und nutzt reines Verstärkungslernen. Es wird speziell auf die Befolgung von Anweisungen, Wissen und Mathematik geschult.

Der zugrunde liegende LFM2-Trainingsstapel kombiniert mehrere Stufen. Es umfasst eine sehr groß angelegte überwachte Feinabstimmung einer Mischung aus nachgelagerten Aufgaben und allgemeinen Domänen, benutzerdefinierte direkte Präferenzoptimierung mit Längennormalisierung, iterative Modellzusammenführung und verstärkendes Lernen mit überprüfbaren Belohnungen.

Aber genau bedeutet „reines Verstärkungslernen“? LFM2-2.6B-Exp startet am bestehenden LFM2-2.6B-Kontrollpunkt und durchläuft dann einen sequentiellen RL-Trainingsplan. Es beginnt mit der Befolgung von Anweisungen und erweitert dann das RL-Coaching auf wissensorientierte Eingabeaufforderungen, Mathematik und einen kleinen Teil der Werkzeugnutzung, ohne dass in dieser letzten Section ein zusätzlicher SFT-Aufwärm- oder Destillationsschritt erforderlich ist.

Der wichtige Punkt ist, dass LFM2-2.6B-Exp weder die Basisarchitektur noch das Vortraining verändert. Es ändert die Richtlinie durch eine RL-Section, die überprüfbare Belohnungen für eine gezielte Gruppe von Domänen verwendet, zusätzlich zu einem Modell, das bereits überwacht und an Präferenzen ausgerichtet ist.

Benchmark-Sign, insbesondere auf IFBench

Das Liquid AI-Crew hebt IFBench als wichtigste Schlagzeilenmetrik hervor. IFBench ist ein Anweisungsfolge-Benchmark, der überprüft, wie zuverlässig ein Modell komplexen, eingeschränkten Anweisungen folgt. Bei diesem Benchmark übertrifft LFM2-2.6B-Exp DeepSeek R1-0528, dessen Parameteranzahl 263-mal größer sein soll.

LFM2-Modelle bieten eine starke Leistung bei einem Standardsatz von Benchmarks wie MMLU, GPQA, IFEval, GSM8K und verwandten Suiten. Das 2.6B-Basismodell konkurriert bereits intestine im 3B-Phase. Der RL-Kontrollpunkt treibt dann die Befehlsfolge und die Mathematik weiter voran, während das gleiche 3B-Parameterbudget beibehalten wird.

Architektur und Fähigkeiten, auf die es ankommt

Die Architektur verwendet 10 doppelt geschlossene LIV-Faltungsblöcke mit kurzer Reichweite und 6 gruppierte Abfrageaufmerksamkeitsblöcke, die in einem Hybridstapel angeordnet sind. Dieses Design reduziert die KV-Cache-Kosten und sorgt für schnelle Rückschlüsse auf Client-GPUs und NPUs.

Die Pre-Coaching-Mischung verwendet etwa 75 Prozent Englisch, 20 Prozent mehrsprachige Daten und 5 Prozent Code. Zu den unterstützten Sprachen gehören Englisch, Arabisch, Chinesisch, Französisch, Deutsch, Japanisch, Koreanisch und Spanisch.

LFM2-Modelle stellen eine ChatML-ähnliche Vorlage und native Instrument-Nutzungstoken bereit. Werkzeuge werden als JSON zwischen dedizierten Werkzeuglistenmarkierungen beschrieben. Das Modell gibt dann Python-ähnliche Aufrufe zwischen Werkzeugaufrufmarkierungen aus und liest Werkzeugantworten zwischen Werkzeugreaktionsmarkierungen. Durch diese Struktur eignet sich das Modell als Agentenkern für Instrument-Calling-Stacks ohne benutzerdefiniertes Immediate-Engineering.

LFM2-2.6B und damit auch LFM2-2.6B-Exp sind außerdem das einzige Modell in der Familie, das dynamisches hybrides Denken durch spezielle Denktoken für komplexe oder mehrsprachige Eingaben ermöglicht. Diese Funktion bleibt verfügbar, da der RL-Prüfpunkt weder die Tokenisierung noch die Architektur ändert.

Wichtige Erkenntnisse

  1. LFM2-2.6B-Exp ist ein experimenteller Prüfpunkt von LFM2-2.6B, der zusätzlich zu einer vorab trainierten, überwachten und präferenzorientierten Foundation eine reine Verstärkungslernphase hinzufügt, die auf die Befolgung von Anweisungen, Wissensaufgaben und Mathematik abzielt.
  2. Das LFM2-2.6B-Spine verwendet eine Hybridarchitektur, die doppelt geschlossene LIV-Faltungsblöcke mit kurzer Reichweite und gruppierte Abfrage-Aufmerksamkeitsblöcke mit 30 Schichten, 22 Faltungsschichten und 8 Aufmerksamkeitsschichten, einer Kontextlänge von 32.768 Token und einem Trainingsbudget von 10 Billionen Token bei 2,6B-Parametern kombiniert.
  3. LFM2-2.6B erreicht bereits starke Benchmark-Werte in der 3B-Klasse, rund 82,41 Prozent bei GSM8K und 79,56 Prozent bei IFEval, und der LFM2-2.6B-Exp RL-Checkpoint verbessert die Befehlsfolge und die Mathematikleistung weiter, ohne die Architektur oder das Speicherprofil zu ändern.
  4. Liquid AI berichtet, dass LFM2-2.6B-Exp im IFBench, einem Anweisungsfolge-Benchmark, DeepSeek R1-0528 übertrifft, obwohl letzterer über viel mehr Parameter verfügt, was eine starke Leistung professional Parameter für eingeschränkte Bereitstellungseinstellungen zeigt.
  5. LFM2-2.6B-Exp wird auf Hugging Face mit offenen Gewichten unter der LFM Open License v1.0 veröffentlicht und wird durch Transformers, vLLM, llama.cpp GGUF-Quantisierungen und ONNXRuntime unterstützt, wodurch es für Agentensysteme, strukturierte Datenextraktion, Retrieval Augmented Technology und auf Geräteassistenten geeignet ist, bei denen ein kompaktes 3B-Modell erforderlich ist.

Schauen Sie sich das an Modell hier. Sie können uns auch gerne weiter folgen Twitter und vergessen Sie nicht, bei uns mitzumachen 100.000+ ML SubReddit und Abonnieren Unser Publication. Warten! Bist du im Telegram? Jetzt können Sie uns auch per Telegram kontaktieren.

Der Beitrag LFM2-2.6B-Exp von Liquid AI nutzt reines Reinforcement Studying RL und dynamisches hybrides Denken, um das Verhalten kleiner Modelle zu verbessern erschien zuerst auf MarkTechPost.

[ad_2]

]]>
https://chatgpz.de/artificial-intelligence/lfm2-2-6b-exp-von-liquid-ai-nutzt-reines-reinforcement-studying-rl-und-dynamisches-hybrides-denken-um-das-verhalten-kleiner-modelle-zu-verbessern/feed/ 0 15175
Google nutzt AI Chrome bis zur besten Model im Jahr 2025 https://chatgpz.de/artificial-intelligence/google-nutzt-ai-chrome-bis-zur-besten-model-im-jahr-2025/ https://chatgpz.de/artificial-intelligence/google-nutzt-ai-chrome-bis-zur-besten-model-im-jahr-2025/#respond Fri, 05 Dec 2025 20:46:44 +0000 https://chatgpz.de/artificial-intelligence/google-nutzt-ai-chrome-bis-zur-besten-version-im-jahr-2025/ [ad_1]

Google ist offizieller Moderator seit jeher Chrome-Terminierung für 2025Da die KI-Antriebe die Liste beherrschen und ihre künstlichen Intelligenzen von grundlegender Bedeutung für die Formatierung von Webbrowser-Ebenen sind.

KI-Assistent für Vardagssurfen: Da Monica und Sider sich vor allem auf die Produktivitätssteigerung konzentrieren, schreiben sie mir einen ausführlichen Leitfaden für drei beliebter Allt-i-ett KI-Assistent.

Ich möchte Sie in einer neuen Ära vertreten, um Sie auf meiner primären Produktivitätsplattform zu erreichen. AI ist ein wesentlicher Bestandteil eines separaten Suchauftrags, der in alle On-line-Dienste integriert ist.

1. Monica

Ein vollständiger AI-Assistent, der später mit PDF-Inhalten gesprochen wird, verfügt über einen Webbrowser und führt direkt zum Webbrowser. Stöder flora AI-Modellierer wie GPT-4o, Claude und Gemini.​

Chrome Net Retailer – Monica

2. Sider

Liknar Monica und erbte eine AI-Sidebar mit ChatGPT, Claude und Gemini. Perfekt, um zu lesen, zu schreiben und zu verstehen, was Ihnen wichtig ist. Sider Sie sind ein Allrounder für den KI-Chat, der von all den beliebten KI-Modellierern genutzt wird.​

Chrome Net Retailer – Sider

3. HARPA-KI

Kombiniert KI mit Webautomatisierung – Sie können Preise gewinnen, Daten extrahieren und sich darüber informieren, wenn das Produkt in größerem Umfang erhältlich ist. Perfekt zum Einkaufen und Recherchieren.​

Chrome Net Retailer – HARPA AI

4. Quillbot

Schreiben Sie Steroide, Ihr Schreibpartner, der Ihnen die Erstellung von Texten, die Grammatikkontrolle und den AI-generierten Textual content erleichtert. Nutzen Sie Gmail, Google Docs, LinkedIn und mehr.​

Chrome Net Retailer – Quillbot

Möten und lärande

5. Fireflies.ai

Geben Sie es ein, übertragen Sie es und senden Sie es automatisch an Ihr Video. Sie können sich darauf konzentrieren, den gesamten Inhalt zu verwenden, um eine Antwort zu erhalten.​

Chrome Net Retailer – Glühwürmchen

6. Bluedot

Ein weiterer möglicher Assistent für Google Meet, Zoom und MS Groups. Generieren Sie die Möglichkeit zur automatischen Aktualisierung des CRM-Programs.​

Chrome Net Retailer – Bluedot

7. QuestionAI

Wir kümmern uns persönlich darum, komplexe Aufgaben zu klären. Tar skärmdumpar und ger direkta svar – perfekt für Studenten.​

Chrome Net Retailer – QuestionAI

8. GENIESSEN

Surfen Sie täglich bis zum nächsten Tag. Markieren Sie den Ort und erfahren Sie mehr über den neuen Vokabular im Kontext des Surfens.​

Chrome Net Retailer – eJOY

Kreativität und Procuring

9. Adobe Photoshop

Adobe verfügt über ein direktes Bearbeitungstool für Webbrowser – Bildbearbeitung ohne Zugriff auf Desktop-Programme.​

Chrome Net Retailer – Adobe Photoshop

10. Phia

Ein intelligenter Einkaufsassistent, der den Preis automatisch abruft. Slipp hoppa mellan flikar – Phia hittar bästa priset med ett klick.​

Chrome Net Retailer – Phia

Varför nur AI-tillägg?

Googles Mitarbeiter haben nur die KI-gesteuerte Lösung gefunden, um die Frage zu beantworten. Es ist wichtig, dass Sie sich die Zeit nehmen, und Sie können jetzt leistungsstarke KI-Funktionalität direkt im Web nutzen. Dies führt dazu, dass die Arbeit etwas kleiner und effektiver wird.

Hafsah Ismail, Produktchef für Chrome, schreibt: „2025 wurde ein Land für Chrome entwickelt, das nun mit integrierter KI und einem täglichen Surfangebot ausgestattet ist.“

Weitere Informationen:

https://weblog.google/merchandise/chrome/our-favorite-chrome-extensions-of-2025

[ad_2]

]]>
https://chatgpz.de/artificial-intelligence/google-nutzt-ai-chrome-bis-zur-besten-model-im-jahr-2025/feed/ 0 14573
Wie Instagram KI für die Moderation von Inhalten nutzt: Ein tiefer Einblick https://chatgpz.de/data-analytics/wie-instagram-ki-fuer-die-moderation-von-inhalten-nutzt-ein-tiefer-einblick/ https://chatgpz.de/data-analytics/wie-instagram-ki-fuer-die-moderation-von-inhalten-nutzt-ein-tiefer-einblick/#respond Sun, 19 Oct 2025 23:01:43 +0000 https://chatgpz.de/data-analytics/wie-instagram-ki-fuer-die-moderation-von-inhalten-nutzt-ein-tiefer-einblick/ [ad_1]

Instagram nutzt in großem Umfang künstliche Intelligenz (KI) zur Filterung und Moderation von Inhalten, um ein sicheres und positives Benutzererlebnis zu gewährleisten. Die KI-gestützten Systeme erkennen und entfernen automatisch Inhalte, die gegen die Neighborhood-Requirements von Instagram verstoßen, wie etwa Hassreden, Mobbing, Nacktheit, Gewalt und Spam, bevor solche Beiträge von Benutzern gemeldet werden. Dieser Prozess umfasst eine Kombination aus Modellen des maschinellen Lernens, der Verarbeitung natürlicher Sprache und Laptop-Imaginative and prescient-Technologien wie Faltungs-Neuronalen Netzen. Dieser Artikel möchte etwas Licht ins Dunkel bringen, was unter der Haube passiert, während Instagram auf seiner Plattform ein positives und freundliches Benutzererlebnis pflegt.

KI-Content material-Moderation auf Instagram

Die KI-Systeme von Instagram erkennen und entfernen automatisch Inhalte, die gegen die Neighborhood-Richtlinien verstoßen, darunter Hassreden, Mobbing, Nacktheit, grafische Gewalt und Spam, oft bevor ein Benutzer sie meldet.

1. ICHMagier/Videoanalyse:

Instagram verwendet tiefes CNN Klassifikatoren, um verbotene visuelle Elemente zu erkennen. Es trainiert beispielsweise Faltungsnetze (häufig Backbones im ResNet-Stil) auf großen, gekennzeichneten Datensätzen mit „unangemessenen vs. sicheren Bildern“. Es verwendet auch Objekterkennungsmodelle (einstufige Detektoren wie YOLO oder zweistufige Detektoren wie Sooner R-CNN), um explizite Inhalte zu lokalisieren. Die Muttergesellschaft von Instagram, Meta, weist darauf hin, dass sie YOLO für schnelles Echtzeit-Videoscannen und schnelleres R-CNN verwenden kann, beispielsweise mit ResNet- oder ShuffleNet-Backbones, wenn Genauigkeit von größter Bedeutung ist. Tatsächlich CNN markiert ein Bild, wenn seine Pixel mit Mustern von Nacktheit, Waffen, grafischen Darstellungen und grafischer Gewalt übereinstimmen.

2. Optische Zeichenerkennung (Rosetta):

Viele Beiträge betten Textual content ein B. Memes, Screenshots und Bilder mit Untertiteln, daher verwendet Instagram eine spezielle OCR-Pipeline (Metas Rosetta-System), um überlagerten Textual content zu extrahieren. Dann führt Rosetta ein zweistufiges Imaginative and prescient-Modell aus, zunächst eine schnellere R-CNN-Variante, die rechteckige Textbereiche erkennt, dann liest ein auf Resnet-18 basierendes CNN mit CTC-(Sequenzen-)Verlust jedes Wort.

Beispielsweise würde ein Meme mit der Aufschrift „1 Like = 1 Gebet“ erkannt und transkribiert. Dieser Textual content wird in die Moderations-Engine eingespeist. Der CNN+LSTM-Erkenner von Rosetta wurde anhand synthetischer und realer mehrsprachiger Daten trainiert, sodass Instagram in den Bildern versteckte Hassreden oder Spam erkennen kann.

3. Sprachverständnis (NLP):

Bildunterschriften, Kommentare und Nachrichten werden von natürlichsprachlichen Modellen verarbeitet. Instagram wendet Algorithmen an, typischerweise transformatorbasierte Textklassifikatoren und RNNs, um Inhalte anhand der Neighborhood-Richtlinien zu bewerten.

Kommentare werden beispielsweise mit erlernten Einbettungen oder BERT-ähnlichen Modellen vektorisiert und einem Spam-/Hass-Klassifikator zugeführt. Beleidigende Sprache, Belästigung, Obszönität oder Hass werden durch erlernte Muster im Textual content erkannt. Während genaue interne Modelle proprietär sind, hat Meta gezeigt, dass es auf dem neuesten Stand der Technik ist NLP Architektur, um Dutzende von Sprachen im großen Maßstab zu moderieren. In der Praxis werden Beiträge, die entweder vom Imaginative and prescient- oder NLP-Subsystem markiert werden, je nach Vertrauen entweder automatisch blockiert oder zur menschlichen Überprüfung weitergeleitet.

Dieser hybride KI-Mensch-Ansatz vereint die Geschwindigkeit und den Umfang von KI mit der differenzierten Entscheidungsfindung von Menschen, und das Suggestions menschlicher Moderatoren wird dann verwendet, um Modelle neu zu trainieren, wodurch das System mit der Zeit intelligenter wird.

Personalisierung und Verbesserung der Benutzererfahrung

Der Feed, die Registerkarte „Erkunden“ und die Reels von Instagram basieren auf ML-Rating-Modellen, um das Erlebnis jedes Benutzers zu personalisieren. Das System ist ein mehrstufiger Empfehlungsgeber:

Zunächst ruft es einen großen Pool an Kandidatenbeiträgen von verfolgten Konten, Development-Tags, Beiträgen ähnlicher Benutzer usw. ab. Anschließend ordnet es sie mithilfe von Deep Studying ein. Beim Abruf verwendet Instagram ein neuronales Netzwerk mit zwei Türmen. Ein „Turm“ verarbeitet Benutzermerkmale wie Demografie, Geschichte, Interessen und der andere verarbeitet Medienmerkmale wie Submit-Metadaten und Inhaltseinbettungen.

Jeder Turm ist typischerweise ein Feedforward-Netzwerk, das oft mit Word2Vec-ähnlichen Einbettungen von IDs beginnt und kompakte Benutzer-/Elementvektoren lernt. Das Trainingsziel besteht darin, die Benutzer- und Artikeleinbettungen zu schließen, wenn der Benutzer mit dem Artikel interagiert. Zum Zeitpunkt der Bereitstellung erzeugen der Tower des Benutzers und ein ANN-Index (Approximated Nearest Neighbors) (z. B. unter Verwendung von FAISS) Tausende von Kandidatenbeiträgen für das Rating. Dieser Two-Tower-Ansatz ist hochgradig zwischenspeicherbar und ermöglicht den Echtzeitabruf von Milliarden von Elementen.

Sobald Kandidaten abgerufen werden, wendet Instagram a an zweistufiges Deep-Rating-Modell. Die erste Stufe des Rankings ist ein leichtes neuronales Netzwerk, das Tausende von Beiträgen professional Benutzer bewertet (häufig Destillation von Wissen aus einem schwereren Modell). Die zweite Stufe ist ein schwereres Multi-Job-Multi-Label-Neuronales Netzwerk (MTML), das die 100 besten Kandidaten nimmt und detaillierte Engagement-Wahrscheinlichkeiten vorhersagt (Klicken, Liken, Kommentieren, Ansehen usw.). Dieses MTML-Modell ist ein Feedforward-Deep-Internet, das über Backprop trainiert wird und umfangreiche Funktionen wie Benutzer aufnimmt Interessen, Beitragsinhaltsvektoren, vergangene Interaktionsmetriken usw. und mehrere Wahrscheinlichkeiten gleichzeitig. Kurz gesagt, ein tiefes neuronales Netzwerk übernimmt sowohl das Abrufen als auch das endgültige Rating von Beiträgen und ermöglicht es Instagram, Feeds nach den Vorlieben jedes Benutzers zu sortieren. Diese Personalisierung hält das Engagement hoch, indem für jeden Benutzer die relevantesten Inhalte angezeigt werden.

KI gegen Cybermobbing und Spam

Über Inhalte und Rankings hinaus setzt Instagram KI ein, um Spam-Bots und Belästigungen zu bekämpfen. Zum Beispiel,

  1. Spam-Erkennung: Konten, die Massen-DMs oder Kommentare senden (z. B. Phishing-Betrug), werden von gekennzeichnet Musterlernmodelle. Instagram kann binäre Klassifikatoren wie Ensemble-Modelle oder neuronale Netze auf Funktionen wie Posting-Häufigkeit, Nachrichtenähnlichkeit, Klickraten und Kontometadaten trainieren. Alle unnatürlichen Muster wie automatisierte Direktnachrichten, wiederholte Hyperlinks oder „Gefällt mir“- oder „Gefällt mir“-Schemata lösen Anti-Spam-Filter aus. Rosettas OCR hilft auch hier; Es kann Spam-Textual content in Bildern/Memes lesen. Nach der Kennzeichnung können Konten eingeschränkt oder entfernt werden.
  2. Cybermobbing und Belästigung: NLP-Modelle achten auf den Gesprächston. Transformer oder wiederkehrende Netze analysieren die Stimmung und den Kontext von Kommentaren oder DMs. Das System versucht, böse Inhalte von harmlosem Geplänkel zu unterscheiden, häufig mithilfe kontextbezogener Einbettungen. Wenn ein Kommentar beleidigend klingt, kann er automatisch gefiltert werden. Instagram verfügt über Funktionen wie das Einschränken oder Ausblenden von Wörtern, um mithilfe von KI Mobbing zu verhindern. Diese Sprachfilter laufen kontinuierlich, um Hassreden und Belästigungen zu blockieren.
  3. Integrität der Gemeinschaft: ML Außerdem wird das Empfehlungsdiagramm bereinigt: Beiträge mit vielen Benutzermeldungen oder einer Historie von Verstößen können aufgrund von Inhaltsintegritätssignalen herabgestuft werden. Beim Abruf wendet Instagram beispielsweise Geschäftsregeln an, um anstößige Beiträge von Kandidaten zu löschen. Im proaktiven Modus wendet das System nach der Berechnung des Hauptranking-Scores einen abschließenden Reranking-Filter an und entfernt oder stuft Beiträge zurück, die durch Integritätsprüfungen gekennzeichnet wurden.

Durch die Kombination automatisierter Filter mit menschlichen Reizen sorgt die KI von Instagram für Sicherheit und Authentizität. Es kann Benutzer zu der Frage „Sind Sie sicher?“ anregen. wenn ein Kommentar beleidigend aussieht. Zusammengenommen blockieren diese Systeme täglich Millionen von Spam- oder hasserfüllten Interaktionen, schützen Benutzer und halten die Plattform funktionsfähig.

Zusammenfassung der von Instagram verwendeten Techniken

Modell / Technik Beschreibung / Zweck Beispiele / Hinweise
CNN-Bildklassifikatoren Wird für die binäre oder Mehrklassen-Bildklassifizierung verwendet (z. B. „sicher“ vs. „Nacktheit“ vs. „Gewalt“). Architekturen wie ResNet, Inception und EfficientNet, abgestimmt auf Instagram-spezifische Datensätze.
Objekterkennung Identifiziert unzulässige Objekte oder Texte in Bildern/Movies. Modelle wie Sooner R-CNN, YOLO und DETR für eine schnelle oder detaillierte Erkennung.
Optische Zeichenerkennung (OCR) Extrahiert und liest Textual content in Memes oder Screenshots zur Moderation. Rosetta: Schnelleres R-CNN zur Erkennung + CNN+LSTM zur mehrsprachigen Erkennung.
Transformatoren für NLP Analysiert Untertitel und Kommentare auf Hassrede und Spam. Modelle wie BERT, RoBERTa und XLM für mehrsprachige Moderation.
Neuronale Netze mit zwei Türmen Ermöglicht den groß angelegten Abruf von Feed- und Discover-Empfehlungen. Verwendet FAISS für die schnelle Suche nach ungefähren nächsten Nachbarn.
Multitasking-tiefe Netzwerke Prognostiziert Likes, Kommentare und Wiedergabezeit für ein personalisiertes Rating. Große MLPs dienen als Zweitplatzierte in der Instagram-Pipeline.
Selbstüberwachtes Lernen (SEER) Erlernt visuelle Darstellungen aus Milliarden unbeschrifteter Bilder. SEER: Metas 1B+-Parametermodell für groß angelegtes visuelles Lernen.

Was sind die Vorteile von KI-Moderationen?

Eine manuelle Inhaltsmoderation ist für Plattformen mit Millionen oder Milliarden von Nutzern, die täglich große Mengen an Inhalten generieren, nicht möglich. Aber mit KI ist es möglich

  1. Skaliert die Moderation auf Milliarden von Beiträgen professional Tag.
  2. Entfernt schädliche Inhalte schnell, oft bevor sie jemand meldet.
  3. Verbessert die Sicherheit und schafft eine unterstützendere Gemeinschaft.
  4. Personalisiert das Erlebnis und sorgt dafür, dass Inhalte related und ansprechend bleiben.

Diese Systeme ermöglichen es Instagram, ein Content material-Volumen zu bewältigen, das für Menschen allein unmöglich wäre, und verbessern so sowohl die Benutzer- als auch die Plattformqualität.

Herausforderungen und Grenzen von KI-Moderationen

Selbst die fortschrittlichsten KI-Systeme sind nicht perfekt. Die Moderation von Instagram steht vor einigen Herausforderungen, wie zum Beispiel:

  1. Falsch Constructive: Künstlerische oder pädagogische Nacktheit wurde fälschlicherweise als Verstoß gekennzeichnet.
  2. Falsche Adverse: Schädliche Inhalte schlüpfen aufgrund des Kontexts oder absichtlicher Umgehung, beispielsweise durch die Verwendung veränderter Schreibweisen oder verzerrter Bilder.
  3. Voreingenommenheit und Equity: Modelle können menschliche Etikettierungsvorurteile widerspiegeln und zu einer ungleichmäßigen Moderation zwischen Sprachen, Kulturen oder Gemeinschaften führen.
  4. Transparenz: Benutzer verstehen oft nicht vollständig, wie Moderationsentscheidungen getroffen werden, was zu Frustration über „Schattenverbote“ oder Beitragsentfernungen führt.

Abschluss

Die KI von Instagram ist eine umfassende Mischung aus Laptop Imaginative and prescient, Verarbeitung natürlicher Sprache und groß angelegten Empfehlungsmodellen. Hochmoderne CNNs mit Architekturen wie ResNet, EfficientNet, YOLO und schneller R-CNN Umgang mit Bild-/Videoinhalten. Superior OCR (Rosetta) extrahiert Textual content aus Memes, um versteckte Verstöße zu kennzeichnen. Gleichzeitig analysieren Deep-NLP-Modelle Benutzertexte, um Hassreden oder Spam zu erkennen. Andererseits lernen neuronale Empfehlungssysteme für die Two Tower Retrieval- und Multitasking-Rating-Netzwerke kontinuierlich aus dem Benutzerverhalten, um jeden Feed individuell anzupassen. Dieser leistungsstarke KI-gesteuerte Ansatz ermöglicht es Instagram, auf globaler Ebene zu moderieren und zu personalisieren. Während Probleme wie Voreingenommenheit und Erklärbarkeit bestehen bleiben, sind diese Modelle von zentraler Bedeutung, um Instagram für seine Milliarden von Nutzern sicher, ansprechend und related zu halten.

Häufig gestellte Fragen

Q1. Wie nutzt Instagram KI zur Inhaltsmoderation?

A. Instagram verwendet KI-Modelle wie CNNs, OCR (Rosetta) und NLP-Transformatoren, um Hassreden, Nacktheit, Gewalt und Spam zu erkennen und zu entfernen, bevor Benutzer sie melden. Diese Systeme kennzeichnen, blockieren oder senden Inhalte automatisch zur menschlichen Überprüfung.

Q2. Welche KI-Modelle basieren auf dem Empfehlungssystem von Instagram?

A. Der Feed und die Registerkarte „Erkunden“ von Instagram basieren für den Abruf auf neuronalen Netzwerken von Two-Tower und für das Rating auf Multitasking-Deep-Netzwerken. Diese Modelle personalisieren den Feed jedes Benutzers basierend auf seinem Verhalten, seinen Interessen und Interaktionsmustern.

Q3. Vor welchen Herausforderungen steht Instagram bei der KI-Moderation?

A. Zu den Hauptproblemen gehören Fehlalarme, Voreingenommenheit über Sprachen oder Kulturen hinweg sowie eingeschränkte Transparenz bei Moderationsentscheidungen, was zu Frustration der Benutzer und gelegentlichen Beschwerden über „Schattenverbote“ führt.

Ich bin Information Science Trainee bei Analytics Vidhya und arbeite leidenschaftlich an der Entwicklung fortschrittlicher KI-Lösungen wie generative KI-Anwendungen, große Sprachmodelle und hochmoderne KI-Instruments, die die Grenzen der Technologie verschieben. Zu meinen Aufgaben gehört es auch, ansprechende Bildungsinhalte für die YouTube-Kanäle von Analytics Vidhya zu erstellen, umfassende Kurse zu entwickeln, die das gesamte Spektrum von maschinellem Lernen bis hin zu generativer KI abdecken, und technische Blogs zu verfassen, die grundlegende Konzepte mit den neuesten Innovationen in der KI verbinden. Dadurch möchte ich zum Aufbau intelligenter Systeme beitragen und Wissen teilen, das die KI-Neighborhood inspiriert und stärkt.

Melden Sie sich an, um weiterzulesen und von Experten kuratierte Inhalte zu genießen.



[ad_2]

]]>
https://chatgpz.de/data-analytics/wie-instagram-ki-fuer-die-moderation-von-inhalten-nutzt-ein-tiefer-einblick/feed/ 0 13306
Qwen Code nutzt QWEN3 als CLI -Agenten -Programmierwerkzeug https://chatgpz.de/data-analytics/qwen-code-nutzt-qwen3-als-cli-agenten-programmierwerkzeug/ https://chatgpz.de/data-analytics/qwen-code-nutzt-qwen3-als-cli-agenten-programmierwerkzeug/#respond Wed, 01 Oct 2025 15:45:34 +0000 https://chatgpz.de/data-analytics/qwen-code-nutzt-qwen3-als-cli-agenten-programmierwerkzeug/ [ad_1]

Qwen Code nutzt QWEN3 als CLI -Agenten -ProgrammierwerkzeugQwen Code nutzt QWEN3 als CLI -Agenten -ProgrammierwerkzeugBild von Editor

# Einführung

Angesichts des jüngsten Anstiegs von Code-zentrierten Großsprachenmodellen haben sich viele Entwickler und Programmierer auf sie verlassen, um die Produktivität zu verbessern. Funktionen wie Codevorschläge, Debuggen und sogar das Skalieren eines gesamten Projekts sind jetzt mit diesen Instruments möglich.

Mit technologischen Fortschritten wurde die Idee der Agenten -KI eingeführt, um unsere Arbeit zu unterstützen. Da ein agentener Ansatz über Aufgaben Grund zu den Aufgaben und den besten nächsten Schritt entscheidet, um ein Ziel zu erreichen, ist er heute zu einem wichtigen Werkzeug, das Entwickler heute übernehmen können. Durch die Integration von Code-fokussierten Modellen in ein agentisches Framework können wir einen personalisierten Codierungsassistenten erstellen, der unsere Anforderungen aus einer einfachen Eingabeaufforderung versteht.

Eines der bekanntesten Open-Supply-Code-zentrierten Modelle ist die QWEN3-CODERdie starke Fähigkeiten bei agierischen Codierungsaufgaben verfügt. Mit einem starken Modell wie diesem veröffentlichte das Workforce dann ein CLI -Agentenprogrammierungstool namens Qwen Code, um unsere Codierungsarbeiten zu unterstützen.

In diesem Artikel werden wir untersuchen, wie Qwen Code in der Praxis verwendet wird.

# Qwen Code

Qwen Code ist ein Agentic Command Line (CLI) Workflow-Instrument basierend auf dem Gemini Cli Das wurde für die QWEN3-Coder-Modelle angepasst. Dieses CLI -Instrument zielt darauf ab, Entwicklungsworkflows mit einem intelligenten Assistenten zu verbessern, der Ihre Umgebung verstehen und auf der Grundlage Ihrer Eingabeaufforderung handeln kann. Darüber hinaus bietet das Instrument Möglichkeiten, Betriebsaufgaben zu automatisieren und Verbesserungen zu analysieren, die spezifisch für die QWen-Coder-Modelle sind.

Das CLI-Instrument kann kostenlos verwendet werden und bietet zwei Authentifizierungsoptionen: Qwen OAuth und eine OpenAI-kompatible API. Die empfohlene Methode ist Qwen OAuth, die wir in diesem Artikel untersuchen werden. Qwen OAuth bietet kostenlose Optionen, einschließlich 2000 Anfragen professional Tag und ein Zinslimit von 60 Anfragen professional Minute, ohne dass wir eine Token -Grenze nutzen werden.

Um QWEN Code zu verwenden, benötigen Sie Node.js Model 20 oder höher installiert. Sie können es aus der Quelle herunterladen oder den folgenden Code verwenden.

curl -qL https://www.npmjs.com/set up.sh | sh

Verwenden Sie nach der Set up NPM, um das Instrument mit dem folgenden Code in Ihre Umgebung herunterzuladen.

npm set up -g @qwen-code/qwen-code@newest

Wenn Sie den QWEN -Code von Supply bevorzugen, können Sie die folgenden Befehle verwenden:

git clone https://github.com/QwenLM/qwen-code.git
cd qwen-code
npm set up
npm set up -g .

Probieren wir es aus, wenn QWEN -Code installiert ist. In diesem Artikel werden wir ein Codierungsprojekt bewerten – insbesondere das Lokales Lappenrezeptprojekt Ich habe mich entwickelt. Sie können Ihr eigenes Projekt- und Code -Repository verwenden.

Beginnen wir mit dem Aktivieren von QWEN -Code mit dem folgenden Befehl in Ihrem bevorzugten Verzeichnis.

Qwen Code nutzt QWEN3 als CLI -Agenten -Programmierwerkzeug Qwen Code nutzt QWEN3 als CLI -Agenten -Programmierwerkzeug

Das erste, was Qwen Code Sie bitten wird, ist authentifiziert. In diesem Artikel werden wir Qwen OAuth auswählen und Sie werden in den Browser umgeleitet.

Qwen Code nutzt QWEN3 als CLI -Agenten -Programmierwerkzeug Qwen Code nutzt QWEN3 als CLI -Agenten -Programmierwerkzeug

Wählen Sie Ihren bevorzugten Weg zum Anmelden aus – es gibt viele Optionen, um Ihr Profil zu authentifizieren. Sobald Sie sich angemeldet haben, kehren Sie zu Ihrer CLI zurück und sind bereit, mit Qwen Code zu arbeiten.

Verwenden Sie den QWEN -Code, indem Sie eine Eingabeaufforderung in die CLI übergeben. Zum Beispiel habe ich die Eingabeaufforderung verwendet: “describe the code right here”

Qwen Code nutzt QWEN3 als CLI -Agenten -ProgrammierwerkzeugQwen Code nutzt QWEN3 als CLI -Agenten -Programmierwerkzeug

QWEN Code führt einen Agentenprozess durch und untersucht das gesamte Projektrepository.

Qwen Code nutzt QWEN3 als CLI -Agenten -ProgrammierwerkzeugQwen Code nutzt QWEN3 als CLI -Agenten -Programmierwerkzeug

Dann liefert Qwen Code eine vollständige Erklärung basierend auf der Eingabeaufforderung. In diesem Beispiel erklärt es den Code im Verzeichnis und dessen Zweck.

Qwen Code nutzt QWEN3 als CLI -Agenten -Programmierwerkzeug Qwen Code nutzt QWEN3 als CLI -Agenten -Programmierwerkzeug

Mit QWEN Code können Sie ihn bitten, Aktionen in Ihrem Namen auszuführen. Sie können beispielsweise darum bitten, das Code -Repository mithilfe der Eingabeaufforderung zu verbessern: “what components of this module could be optimized?”

Qwen Code nutzt QWEN3 als CLI -Agenten -Programmierwerkzeug Qwen Code nutzt QWEN3 als CLI -Agenten -Programmierwerkzeug

QWEN -Code präsentiert mögliche Optimierungen und vorgeschlagene Änderungen der Implementierung.

Qwen Code nutzt QWEN3 als CLI -Agenten -Programmierwerkzeug Qwen Code nutzt QWEN3 als CLI -Agenten -Programmierwerkzeug

Sie können dann die Änderungen akzeptieren oder ablehnen und einen Workflow in den Schleifen aufrechterhalten. Wenn Sie möchten, können Sie automatische Änderungen aktivieren, damit Sie sie nicht wiederholt akzeptieren müssen.

QWEN -Code kann auch die erforderlichen Dateien selbst erstellen, wie z. necessities.txt unten gezeigt.

Zuletzt können Sie einen Ordner oder eine Dateien angeben, die QWEN -Code verarbeiten möchten. Zum Beispiel habe ich die Eingabeaufforderung verwendet "@chroma_db, please clarify to me what this folder is all about". Das Ergebnis ist unten dargestellt:

Qwen Code nutzt QWEN3 als CLI -Agenten -Programmierwerkzeug Qwen Code nutzt QWEN3 als CLI -Agenten -Programmierwerkzeug

Das Ergebnis zeigt den Zweck jeder Datei im Verzeichnis und wie es verwendet wird.

Wenn Sie Ihre QWEN -Codeerfahrung verbessern möchten, können Sie eine Datei erstellen .qwen/settings.json und füllen Sie es mit den gewünschten Einstellungen. Sie können beispielsweise das Token -Grenzwert mit folgenden festlegen:

{
  "sessionTokenLimit": 32000
}

Zusätzlich können Sie verschiedene Befehle verwenden, z. /assist So zeigen Sie alle verfügbaren Qwen -Code -Befehle an oder /stats Um die aktuellen QWEN -Code -Sitzungsinformationen anzuzeigen.

Das ist die grundlegende Verwendung von Qwen Code; Probieren Sie verschiedene Eingabeaufforderungen in Ihren Projekten aus, um zu sehen, wie es Ihrer Arbeit helfen kann.

# Einpacken

Qwen Code ist ein agenten CLI-Instrument, der QWEN3-CODER verwendet, ein leistungsstarkes Code-fokussierter Modell. Durch die Anpassung des Instruments aus Gemini CLI kann Qwen Code Ihren Code verstehen und viele grundlegende Aufgaben mit einer einfachen Eingabeaufforderung automatisieren.

Ich hoffe das hat geholfen!

Cornellius Yudha Wijaya ist ein Information Science Assistant Supervisor und Datenautor. Während er in Vollzeit bei Allianz Indonesien arbeitet, liebt er es, Python- und Datentipps über soziale Medien und das Schreiben von Medien zu teilen. Cornellius schreibt über eine Vielzahl von KI- und maschinellen Lernthemen.

[ad_2]

]]>
https://chatgpz.de/data-analytics/qwen-code-nutzt-qwen3-als-cli-agenten-programmierwerkzeug/feed/ 0 12844
Wie man LLMs erheblich verbessert, indem man Kontexttechnik nutzt https://chatgpz.de/machine-learning/wie-man-llms-erheblich-verbessert-indem-man-kontexttechnik-nutzt/ https://chatgpz.de/machine-learning/wie-man-llms-erheblich-verbessert-indem-man-kontexttechnik-nutzt/#respond Tue, 22 Jul 2025 05:03:50 +0000 http://chatgpz.de/machine-learning/wie-man-llms-erheblich-verbessert-indem-man-kontexttechnik-nutzt/ [ad_1]

ist die Wissenschaft, LLMs mit dem richtigen Kontext zur Maximierung der Leistung zu liefern. Wenn Sie mit LLMs arbeiten, erstellen Sie normalerweise eine Systemaufforderung und bitten die LLM, eine bestimmte Aufgabe auszuführen. Wenn Sie jedoch aus Sicht eines Programmierers mit LLMs arbeiten, müssen mehr Elemente berücksichtigt werden. Sie müssen feststellen, welche anderen Daten Sie Ihre LLM ernähren können, um die Fähigkeit zu verbessern, die Aufgabe auszuführen, die Sie ausführen können.

In diesem Artikel werde ich die Wissenschaft des Kontexttechnik diskutieren und wie Sie Kontext -Engineering -Techniken anwenden können, um die Leistung Ihres LLM zu verbessern.

Kontext Engineering. Llm
In diesem Artikel diskutiere ich Context Engineering: Die Wissenschaft, den richtigen Kontext für Ihre LLMs bereitzustellen. Die korrekte Verwendung von Kontexttechnik kann die Leistung Ihres LLM erheblich erhöhen. Bild von Chatgpt.

Sie können meine Artikel auch lesen Zuverlässigkeit für LLM -Anwendungen Und Dokumentieren Sie die QA mit multimodalen LLMs

Inhaltsverzeichnis

Definition

Bevor ich anfange, ist es wichtig, den Begriff Kontext Engineering zu definieren. Context Engineering ist im Wesentlichen die Wissenschaft der Entscheidung, was Sie in Ihre LLM einfügen sollen. Dies kann zum Beispiel sein:

  • Die Systemaufforderung, die dem LLM mitteilt, wie man handelt
  • Dokumentieren Sie die Daten mit der Suche nach Lappenvektorsuche ab
  • Wenige Beispiele
  • Werkzeuge

Die nächstgelegene frühere Beschreibung davon struggle der Begriff Schnelltechnik. Das schnelle Engineering ist jedoch ein weniger beschreibender Begriff, wenn man bedenkt, dass er nur die Systemaufforderung ändert, die Sie in die LLM ernähren. Um die maximale Leistung aus Ihrem LLM herauszuholen, müssen Sie den gesamten Kontext berücksichtigen, den Sie in ihn einfügen, nicht nur die Systemaufforderung.

Motivation

Meine erste Motivation für diesen Artikel kam aus dem Lesen dieses Tweets von Andrej Karpathy.

Ich stimmte wirklich dem Punkt zu, den Andrej in diesem Tweet gemacht hat. Schnelltechnik ist definitiv eine wichtige Wissenschaft bei der Arbeit mit LLMs. Das schnelle Engineering umfasst jedoch nicht alles, was wir in LLMs eingeben. Zusätzlich zu dem von Ihnen geschriebenen System müssen Sie auch Elemente wie folgt berücksichtigen:

  • Welche Daten sollten Sie in Ihre Eingabeaufforderung einfügen?
  • Wie holen Sie diese Daten ab
  • So liefern Sie nur relevante Informationen für die LLM
  • Usw.

Ich werde all diese Punkte in diesem Artikel diskutieren.

API gegen Konsolenverbrauch

Ein wichtiger Unterschied zu klären ist, ob Sie die LLMs aus einer API (mit Code aufrufen) oder über die Konsole (z. B. über die über die CHATGPT -Web site oder Anwendung). Context Engineering ist definitiv wichtig, wenn Sie mit LLMs durch die Konsole arbeiten. Mein Fokus in diesem Artikel wird jedoch auf der API -Verwendung liegen. Der Grund dafür ist, dass Sie bei der Verwendung einer API mehr Optionen zum dynamischen Ändern des Kontexts haben, die Sie mit dem LLM füttern. Sie können beispielsweise Lappen durchführen, wo Sie zum ersten Mal eine Vektorsuche durchführen und die LLM nur die wichtigsten Informationsbits und nicht die gesamte Datenbank füttern.

Diese dynamischen Veränderungen sind nicht auf die gleiche Weise verfügbar, wenn Sie mit LLMs durch die Konsole interagieren. Daher werde ich mich darauf konzentrieren, LLMs durch eine API zu verwenden.

Kontext -Engineering -Techniken

Null-Shot-Aufforderung

Null-Shot-Aufforderung ist die Foundation für den Kontext-Engineering. Eine Aufgabe machen Null-Shot bedeutet, dass die LLM eine Aufgabe ausführt, die es zuvor noch nicht gesehen hat. Sie liefern im Wesentlichen nur eine Aufgabenbeschreibung als Kontext für die LLM. Wenn Sie beispielsweise einem LLM einen langen Textual content bereitstellen und ihn auffordern, den Textual content nach einer Definition der Klassen in die Klasse A oder B zu klassifizieren. Der Kontext (Eingabeaufforderung), den Sie füttern, kann so etwas aussehen:

You're an knowledgeable textual content classifier, and tasked with classifying texts into
class A or class B. 
- Class A: The textual content accommodates a optimistic sentiment
- Class B: The subsequent accommodates a unfavourable sentiment

Classify the textual content: {textual content}

Abhängig von der Aufgabe könnte dies sehr intestine funktionieren. LLMs sind Generalisten und können die einfachsten textbasierten Aufgaben ausführen. Die Klassifizierung eines Textes in eine von zwei Klassen ist in der Regel eine einfache Aufgabe, und die Aufforderung mit Null-Pictures funktioniert somit in der Regel recht intestine.

Wenige Schüsse Aufforderung

In dieser Infografik wird hervorgehoben, wie man nur wenige Aufforderung durchführt:

Kontext Engineering. Nur wenige Schussaufforderung
In dieser Infografik wird hervorgehoben, wie Sie nur wenige Schüsse ausführen können, um die LLM-Leistung zu verbessern. Bild von Chatgpt.

Das Comply with-up von Null-Shot-Aufforderung ist wenige Schüsse Aufforderung. Mit wenigen Schüssen geben Sie dem LLM eine Eingabeaufforderung an, die der oben genannten ähnelt, aber Sie geben ihm auch Beispiele für die Aufgabe an, die er ausführen wird. Dieser zusätzliche Kontext hilft dem LLM, die Aufgabe zu verbessern. Nach der Eingabeaufforderung oben kann eine Eingabeaufforderung wie folgt aussehen:

You're an knowledgeable textual content classifier, and tasked with classifying texts into
class A or class B. 
- Class A: The textual content accommodates a optimistic sentiment
- Class B: The subsequent accommodates a unfavourable sentiment

<instance>
{textual content 1} -> Class A
</instance>
<instance>
{textual content 2} -> class B
</instance>

Classify the textual content: {textual content}

Sie können sehen, dass ich dem Modell einige Beispiele in -Tags bereitgestellt habe. Ich habe das Thema der Erstellung robuster LLM -Eingabeaufforderungen in meinem Artikel über LLM -Zuverlässigkeit unten erörtert:

Nur wenige Schüsse, die auffordert, funktioniert intestine, da Sie das Modell mit Beispielen für die Aufgabe zur Verfügung stellen, die Sie ausführen, um sie auszuführen. Dies erhöht normalerweise die Leistung.

Sie können sich vorstellen, dass dies auch für Menschen intestine funktioniert. Wenn Sie einen Menschen um eine Aufgabe fragen, die er noch nie zuvor erledigt hat, nur durch die Beschreibung der Aufgabe, können sie anständig abschneiden (natürlich abhängig von der Schwierigkeit der Aufgabe). Wenn Sie dem Menschen jedoch auch Beispiele zur Verfügung stellen, steigt die Leistung normalerweise.

Insgesamt finde ich es nützlich, über LLM -Aufforderungen nachzudenken, als ob ich einen Menschen auf bitte, eine Aufgabe auszuführen. Stellen Sie sich vor, Sie geben einen Menschen einfach den Textual content an, anstatt ein LLM zu veranlassen, und Sie stellen sich die Frage:

Wird der Mensch angesichts dieser Aufforderung und keinem anderen Kontext die Aufgabe ausführen können?

Wenn die Antwort Nein lautet, sollten Sie daran arbeiten, Ihre Aufforderung zu klären und zu verbessern.


Ich möchte auch dynamische wenige Schüsse erwähnen, wenn man bedenkt, dass es sich um eine Technik handelt, mit der ich viel Erfolg hatte. Traditionell haben Sie mit wenigen Aufgaben eine festgelegte Liste von Beispielen, die Sie in jede Eingabeaufforderung einfügen. Sie können jedoch häufig eine höhere Leistung mit dynamischen Wenig-Shot-Aufforderung erzielen.

Dynamische wenige Schussaufforderung bedeutet, die wenigen Beispiele dynamisch auszuwählen, wenn die Eingabeaufforderung für eine Aufgabe erstellt wird. Wenn Sie beispielsweise aufgefordert werden, einen Textual content in den Klassen A und B zu klassifizieren, haben Sie bereits eine Liste von 200 Texten und deren entsprechenden Etiketten. Sie können dann eine Ähnlichkeitssuche zwischen dem neuen Textual content, den Sie klassifizieren, und den Beispieltexten durchführen, die Sie bereits haben. Wenn Sie fortgesetzt werden, können Sie die Vektorähnlichkeit zwischen den Texten messen und nur die ähnlichsten Texte (aus den 200 Texten) auswählen, um in Ihre Eingabeaufforderung als Kontext zu füttern. Auf diese Weise stellen Sie das Modell mit Weitere relevante Beispiele wie man die Aufgabe ausführt.

LAPPEN

Abrufener Augmented-Era ist eine bekannte Technik, um das Wissen über LLMs zu erhöhen. Angenommen, Sie haben bereits eine Datenbank, die aus Tausenden von Dokumenten besteht. Sie erhalten jetzt eine Frage von einem Benutzer und müssen sie angesichts des Wissens in Ihrer Datenbank beantworten.

Leider können Sie die gesamte Datenbank nicht in die LLM einfügen. Obwohl wir LLMs wie haben wie Lama 4 Scout mit 10 Millionen Scout Das Fenster mit Kontextlängen, Datenbanken sind normalerweise viel größer. Sie müssen daher die relevantesten Informationen in der Datenbank finden, um in Ihr LLM zu füttern. Lag macht dies ähnlich wie dynamische wenige Schüsse:

  1. Führen Sie eine Vektorsuche durch
  2. Suchen Sie die ähnlichsten Dokumente in der Benutzerfrage (die ähnlichen Dokumente werden als am relevantesten angenommen).
  3. Bitten Sie die LLM, die Frage angesichts der ähnlichsten Dokumente zu beantworten

Durch die Durchführung von Lappen führen Sie Kontext -Engineering durch, indem Sie die LLM nur die relevantesten Daten zur Ausführung seiner Aufgabe zur Verfügung stellen. Um die Leistung des LLM zu verbessern, können Sie an der Kontext -Engineering arbeiten, indem Sie Ihre Lappensuche verbessern. Dies kann beispielsweise durch Verbesserung der Suche durchgeführt werden, um nur die relevantesten Dokumente zu finden.

In meinem Artikel können Sie mehr über Rag über die Entwicklung eines Lappensystems für Ihre persönlichen Daten erfahren:

Instruments (MCP)

Sie können dem LLM auch Instruments zur Verfügung stellen, die ein wichtiger Bestandteil der Kontext -Engineering sind, insbesondere jetzt, wo wir den Aufstieg von AI -Agenten sehen. Device Calling Heute wird oft mit Verwendung von Verwendung durchgeführt Modellkontextprotokoll (MCP), ein Konzept, das von Anthropic gestartet wurde.

KI -Agenten sind LLMs, die Instruments aufrufen und somit Aktionen ausführen können. Ein Beispiel dafür könnte ein Wetteragent sein. Wenn Sie einen LLM ohne Zugang zu Instruments über das Wetter in New York fragen, kann dies keine genaue Antwort geben. Der Grund dafür ist natürlich, dass Informationen über das Wetter in Echtzeit abgerufen werden müssen. Dazu können Sie zum Beispiel dem LLM ein Device geben, wie z. B.:

@software
def get_weather(metropolis):
    # code to retrieve the present climate for a metropolis
    return climate

Wenn Sie dem LLM -Zugriff auf dieses Device gewähren und es nach dem Wetter fragen, kann dies nach dem Wetter für eine Stadt suchen und Ihnen eine genaue Antwort geben.

Die Bereitstellung von Werkzeugen für LLMs ist unglaublich wichtig, da es die Fähigkeiten der LLM erheblich verbessert. Andere Beispiele für Werkzeuge sind:

  • Suchen Sie im Web
  • Ein Taschenrechner
  • Suche über Twitter API

Themen zu berücksichtigen

In diesem Abschnitt mache ich ein paar Notizen darüber, was Sie berücksichtigen sollten, wenn Sie den Kontext erstellen, der in Ihr LLM einfließt

Nutzung der Kontextlänge

Die Kontextlänge eines LLM ist eine wichtige Überlegung. Ab Juli 2025 können Sie die meisten Grenzmodell -LLMs mit über 100.000 Eingangs -Token ernähren. Dies bietet Ihnen viele Optionen, um diesen Kontext zu nutzen. Sie müssen den Kompromiss zwischen:

  • Einbeziehung vieler Informationen in eine Eingabeaufforderung, wodurch einige der Informationen im Kontext verloren gehen
  • Fehlen einige wichtige Informationen in der Eingabeaufforderung, wodurch das LLM nicht über den erforderlichen Kontext verfügt, um eine bestimmte Aufgabe auszuführen

Normalerweise besteht die einzige Möglichkeit, das Gleichgewicht herauszufinden, darin, Ihre LLM -Leistung zu testen. Beispielsweise können Sie mit einer Klassifizierungsaufgabe die Genauigkeit bei unterschiedlichen Eingabeaufforderungen überprüfen.

Wenn ich feststelle, dass der Kontext zu lang ist, als dass das LLM effektiv funktioniert, teilen ich manchmal eine Aufgabe in mehrere Eingabeaufforderungen auf. Wenn beispielsweise eine Eingabeaufforderung einen Textual content zusammenfassen und eine zweite Eingabeaufforderung zur Klassifizierung der Textübersicht klassifizieren. Dies kann dem LLM helfen, seinen Kontext effektiv zu nutzen und somit die Leistung zu erhöhen.

Darüber hinaus kann die Bereitstellung von zu viel Kontext des Modells einen erheblichen Nachteil haben, wie ich im nächsten Abschnitt beschreibe:

Kontextfäule

Letzte Woche habe ich eine gelesen Interessanter Artikel über Kontextfäulchen. In dem Artikel ging es um die Tatsache, dass die Erhöhung der Kontextlänge die LLM -Leistung verringert, obwohl die Schwierigkeit der Aufgaben nicht zunimmt. Dies impliziert das:

Die Bereitstellung einer irrelevanten Informationen von LLM verringert die Fähigkeit, Aufgaben erfolgreich auszuführen, auch wenn die Schwierigkeitsgrad der Aufgaben nicht zunimmt

Der Punkt hier ist im Wesentlichen, dass Sie nur relevante Informationen für Ihre LLM bereitstellen sollten. Die Bereitstellung anderer Informationen verringert die LLM -Leistung (dh,,. Die Leistung ist nicht impartial für die Eingangslänge)

Abschluss

In diesem Artikel habe ich das Thema Kontext -Engineering erörtert, bei dem es darum geht, einen LLM mit dem richtigen Kontext zu liefern, um seine Aufgabe effektiv auszuführen. Es gibt viele Techniken, die Sie verwenden können, um den Kontext zu füllen, z. B. wenige Schussanlauf, Lappen und Werkzeuge. Dies sind alles leistungsstarke Techniken, mit denen Sie die Fähigkeit eines LLM erheblich verbessern können, eine Aufgabe effektiv auszuführen. Darüber hinaus müssen Sie auch berücksichtigen, dass die Bereitstellung eines LLM mit zu viel Kontext auch Nachteile hat. Durch Erhöhen der Anzahl der Eingangs -Token werden die Leistung verringert, wie Sie im Artikel über den Kontextfäuschen lesen konnten.

👉 Folgen Sie mir in Socials:

🧑‍💻 Sich in Verbindung setzen
🔗 LinkedIn
🐦 X / Twitter
✍ Medium
🧵 Themen



[ad_2]

]]>
https://chatgpz.de/machine-learning/wie-man-llms-erheblich-verbessert-indem-man-kontexttechnik-nutzt/feed/ 0 10963
Microsoft Analysis führt den Datenformulator ein: eine AI -Anwendung, die LLMs nutzt, um Daten zu transformieren und reichhaltige Visualisierungen zu erstellen https://chatgpz.de/artificial-intelligence/microsoft-analysis-fuehrt-den-datenformulator-ein-eine-ai-anwendung-die-llms-nutzt-um-daten-zu-transformieren-und-reichhaltige-visualisierungen-zu-erstellen/ https://chatgpz.de/artificial-intelligence/microsoft-analysis-fuehrt-den-datenformulator-ein-eine-ai-anwendung-die-llms-nutzt-um-daten-zu-transformieren-und-reichhaltige-visualisierungen-zu-erstellen/#respond Sat, 15 Feb 2025 07:47:06 +0000 http://chatgpz.de/artificial-intelligence/microsoft-research-fuehrt-den-datenformulator-ein-eine-ai-anwendung-die-llms-nutzt-um-daten-zu-transformieren-und-reichhaltige-visualisierungen-zu-erstellen/ [ad_1]

Die meisten modernen Visualisierungs -Autoring -Instruments wie Charticulator, Information Illustrator und LYRA sowie Bibliotheken wie GGPLOT2 und Vegalite erwarten ordentliche Daten, bei denen jede Variable eine Spalte ist und jede Beobachtung eine Zeile ist. Wenn sich die Eingabedaten in einem ordentlichen Format befinden, müssen Autoren lediglich Datenspalten an visuelle Kanäle binden. Andernfalls müssen sie die Daten vorbereiten, auch wenn die ursprünglichen Daten sauber sind und alle Informationen enthalten. Darüber hinaus müssen Benutzer ihre Daten mit speziellen Bibliotheken wie Tidyverse oder Pandas oder separaten Instruments wie Wrangler transformieren, bevor sie Visualisierungen erstellen können. Diese Anforderung stellt zwei große Herausforderungen dar – die Notwendigkeit von Programmierkenntnissen oder spezialisiertem Werkzeugwissen und den ineffizienten Workflow, ständig zwischen Datenumwandlungs- und Visualisierungsschritten zu wechseln.

Es sind verschiedene Ansätze entstanden, um die Erstellung der Visualisierung zu vereinfachen, beginnend mit der Grammatik von Grafikkonzepten, die die Grundlage für die Zuordnung von Daten zu visuellen Elementen bildeten. Auf hohe Grammatik-basierte Instruments wie GGPLOT2, VEGA-LITE und ALTAIR haben ihre prägnante Syntax und Abstraktion komplexer Implementierungsdetails an Popularität gewonnen. Zu den erweiterten Ansätzen gehören die Visualisierung durch Demonstrationstools wie Lyra 2 und VBD, mit denen Benutzer Visualisierungen durch direkte Manipulation angeben können. Natürliche Sprachschnittstellen wie NCNET und Visqa wurden ebenfalls entwickelt, um die Erstellung der Visualisierung intuitiver zu gestalten. Diese Lösungen erfordern jedoch entweder ordentliche Dateneingaben oder führen neue Komplexitäten ein, indem sie sich auf ähnliche Spezifikationen auf niedriger Ebene wie FALX konzentrieren.

Ein Group von Microsoft Analysis hat den Datenformulator vorgeschlagen, ein innovatives Visualisierungsautoring -Software, das sich um ein neues Paradigma namens Idea Binding basiert. Es ermöglicht Benutzern, ihre Visualisierungsabsichten auszudrücken, indem sie Datenkonzepte an visuelle Kanäle verbinden, bei denen Datenkonzepte entweder aus vorhandenen Spalten stammen oder auf Bedarf erstellt werden können. Das Software unterstützt zwei Methoden zum Erstellen neuer Konzepte: natürliche Sprachaufforderungen für die Datenableitung und beispielhafte Eingaben für die Datenumstellung. Wenn Benutzer einen Diagrammtyp auswählen und ihre gewünschten Konzepte zuordnen, färbt der KI -Backend von Information Formulator die erforderlichen Datenumwandlungen und generiert Kandidatenvisualisierungen. Das System bietet ein erklärendes Suggestions für mehrere Kandidaten und ermöglicht es den Benutzern, ihre Visualisierungen durch eine intuitive Schnittstelle zu inspizieren, zu verfeinern und zu iterieren.

Die Architektur des Datenformulators basiert auf dem Kernkonzept der Behandlung von Datenkonzepten als erstklassige Objekte, die als Abstraktionen bestehender und potenzieller Spalten für zukünftige Tabellen dienen. Dieses Design unterscheidet sich grundlegend von traditionellen Ansätzen, indem sie sich eher auf Transformationen auf Konzeptebene als auf Operatoren auf Tabellenebene konzentrieren und es den Benutzern intuitiver machen, mit dem AI-Agenten zu kommunizieren und die Ergebnisse zu überprüfen. Die natürliche Sprachkomponente des Instruments nutzt die Fähigkeit von LLMs, hochrangige Absicht und natürliche Konzepte zu verstehen, während die Programmierkomponente durch Demonstration präzise, ​​eindeutige Umformvorgänge bietet. Diese Hybridarchitektur ermöglicht es Benutzern, mit vertrauten Instruments zur Konfiguration von Regal zu arbeiten und gleichzeitig auf leistungsstarke Transformationsfunktionen zuzugreifen.

Die Bewertung des Datenformulators durch Benutzertests ergab vielversprechende Ergebnisse bei der Abschluss und der Benutzerfreundlichkeit. Die Teilnehmer erledigten alle zugewiesenen Visualisierungsaufgaben innerhalb einer durchschnittlichen Zeit von 20 Minuten, wobei Aufgabe 6 aufgrund ihrer Komplexität, die 7-Tage-Durchschnittsberechnungen umfasst, die größte Zeit erfordert. Der Ansatz der Twin-Interaktion-Ansatz des Methods erwies sich als effektiv, obwohl einige Teilnehmer gelegentliche Hinweise zur Auswahl des Konzepttyps und des Datentypmanagements benötigten. Bei abgeleiteten Konzepten erzielten die Benutzer durchschnittlich 1,62 Eingabeaufentwicklungsversuche mit relativ prägnanten Beschreibungen (Durchschnitt von 7,28 Wörtern), und das System erzeugte ungefähr 1,94 Kandidaten professional Eingabeaufforderung. Die meisten Herausforderungen waren geringfügig und bezogen sich eher auf die Einberufung der Schnittstellen als um grundlegende Usability -Probleme.

Zusammenfassend hat das Group den Datenformulator eingeführt, der einen signifikanten Fortschritt bei der Visualisierungsgenehmigung darstellt, indem die anhaltende Herausforderung der Datenumwandlung durch seinen konzeptorientierten Ansatz effektiv angegangen wird. Die revolutionary Kombination aus AI -Unterstützung und Benutzerinteraktion des Instruments ermöglicht es Autoren, komplexe Visualisierungen zu erstellen, ohne die Datenumwandlungen direkt zu bearbeiten. Benutzerstudien haben die Wirksamkeit des Instruments validiert und zeigen, dass selbst Benutzer, die mit komplexen Datenumwandlungsanforderungen konfrontiert sind, ihre gewünschten Visualisierungen erfolgreich erstellen können. Mit Blick auf die Zukunft ist dieser konzeptorientierte Visualisierungsansatz vielversprechend, um die nächste Technology der visuellen Datenerforschung und -autorierungswerkzeuge zu beeinflussen und möglicherweise die langjährige Barriere der Datenumwandlung bei der Erstellung der Visualisierung zu beseitigen.


Kasse Die Papier Und Github -Seite. Alle Krediten für diese Forschung gilt an die Forscher dieses Projekts. Fühlen Sie sich auch frei, uns zu folgen Twitter Und vergessen Sie nicht, sich unserer anzuschließen 75k+ ml Subreddit.

🚨 Empfohlene Open-Supply-KI-Plattform: ‚Intellagent ist ein Open-Supply-Multi-Agent“ (Befördert)


Sajjad Ansari ist ein Pupil im letzten Jahr von IIT Kharagpur. Als Tech-Fanatic befasst er sich mit den praktischen Anwendungen der KI, wobei der Schwerpunkt darauf liegt, die Auswirkungen von KI-Technologien und ihre realen Auswirkungen zu verstehen. Er zielt darauf ab, komplexe KI -Konzepte klar und zugänglich zu artikulieren.

[ad_2]

]]>
https://chatgpz.de/artificial-intelligence/microsoft-analysis-fuehrt-den-datenformulator-ein-eine-ai-anwendung-die-llms-nutzt-um-daten-zu-transformieren-und-reichhaltige-visualisierungen-zu-erstellen/feed/ 0 7248
Wie nutzt man PearAI für ein Codierungserlebnis der nächsten Technology? https://chatgpz.de/data-analytics/wie-nutzt-man-pearai-fuer-ein-codierungserlebnis-der-naechsten-technology/ https://chatgpz.de/data-analytics/wie-nutzt-man-pearai-fuer-ein-codierungserlebnis-der-naechsten-technology/#respond Sun, 29 Dec 2024 23:01:30 +0000 http://chatgpz.de/data-analytics/wie-nutzt-man-pearai-fuer-ein-codierungserlebnis-der-naechsten-generation/ [ad_1]

In der sich ständig weiterentwickelnden Landschaft der Softwareentwicklung sind Produktivität und Effizienz von größter Bedeutung. PearAI, ein Code-Editor der nächsten Technology, kombiniert die Leistungsfähigkeit künstlicher Intelligenz mit entwicklerorientierten Instruments, um ein nahtloses und effizientes Codierungserlebnis zu schaffen. PearAI wurde mit einem Open-Supply-Ansatz entwickelt und richtet sich an Entwickler, die nach intelligenteren Codierungslösungen, verbesserten Debugging-Funktionen und Echtzeitunterstützung suchen. In (…)

Der Beitrag Wie nutzt man PearAI für ein Codierungserlebnis der nächsten Technology? erschien zuerst auf Analytik Vidhya.

[ad_2]

]]>
https://chatgpz.de/data-analytics/wie-nutzt-man-pearai-fuer-ein-codierungserlebnis-der-naechsten-technology/feed/ 0 6203