Um die Entscheidungsfindung in einem schnelllebigen, globalen Markt zu beschleunigen und zu verfeinern, können Unternehmen generative Modelle der künstlichen Intelligenz einsetzen, um die Diagramme zusammenzufassen und zu interpretieren, die häufig in Marktzusammenfassungen und Finanzberichten enthalten sind.

Aber selbst die neuesten Imaginative and prescient-Sprach-Modelle haben manchmal Probleme mit dieser Aufgabe, da sie ein Modell benötigen, um visuelles, numerisches und sprachliches Verständnis zu integrieren. Ein Unternehmen, das in ein hochmodernes Modell investiert, erhält möglicherweise dennoch ungenaue oder unvollständige Informationen.

Um diese Leistungslücke zu schließen, haben Forscher des MIT und des MIT-IBM Computing Analysis Lab eine vielseitige Ressource für KI-Benutzer entwickelt, die speziell darauf ausgelegt ist, Imaginative and prescient-Language-Modellen (VLMs) beizubringen, wie man Diagramme effektiv interpretiert.

Sie verwendeten eine neuartige Datengenerierungsmethode, um einen hochmodernen Datensatz zu erstellen, der mehr als eine Million verschiedener Diagramme umfasst. Der Datensatz kodiert außerdem viele visuelle, sprachliche und numerische Komponenten jedes Diagrammbilds, die es Modellen ermöglichen, fundierte Überlegungen zu den Informationen in einem Diagramm anzustellen.

Die Forscher verwendeten diesen Datensatz namens ChartNetum eine Reihe von Open-Supply-VLMs zu trainieren. Viele dieser kleineren Modelle übertrafen größere, kommerzielle Modelle um Größenordnungen bei Aufgaben wie Datenextraktion und Diagrammzusammenfassung deutlich.

Indem es Open-Supply-Modellen ermöglicht, ihre kommerziellen Pendants zu übertreffen, könnte ChartNet es kleinen Unternehmen mit begrenzten Budgets ermöglichen, KI leichter zu nutzen. Der Open-Supply-Datensatz kann verwendet werden, um die Fähigkeiten von KI-Modellen für Aufgaben wie Geschäftstrendanalysen und die Interpretation wissenschaftlicher Zahlen zu verbessern.

„Wir haben ChartNet als zentrale Anlaufstelle für das Verständnis von Diagrammen entwickelt, die im Grunde alles abdeckt, was ein KI-Modell und ein Praktiker, der dieses Modell trainiert, benötigen könnten. Wir hoffen, dass unsere Arbeit Forscher dazu motiviert, mit kleineren Modellen, die nicht unendlich viel Rechenaufwand erfordern, Spitzenleistungen zu erzielen“, sagt Jovana Kondic, Absolventin der Elektrotechnik und Informatik (EECS) am MIT und Hauptautorin von a Artikel auf ChartNet.

Sie wird von zahlreichen Co-Autoren des MIT, des MIT-IBM Computing Analysis Lab und von IBM Analysis unterstützt, darunter Pengyuan Li, ein Forschungsmitarbeiter bei IBM Analysis; Dhiraj Joshi, leitender Wissenschaftler bei IBM Analysis; Isaac Sanchez, Softwareentwickler bei IBM Analysis; Aude Oliva, Direktorin für strategisches Branchenengagement am MIT Schwarzman School of Computing, MIT-Direktorin des MIT-IBM Computing Analysis Lab und leitende Forschungswissenschaftlerin im Pc Science and Synthetic Intelligence Laboratory (CSAIL); und Rogerio Feris, leitender Wissenschaftler und Supervisor am MIT-IBM Computing Analysis Lab. Die Forschung wird auf der IEEE Pc Imaginative and prescient and Sample Recognition Convention vorgestellt.

Ein Datensatzengpass

Forscher haben große Fortschritte bei der Entwicklung generativer KI-Modelle gemacht, die sich durch die Verarbeitung natürlicher Sprache und die Schlussfolgerung über natürliche Bilder auszeichnen. Laut Kondic konzentrierte sich die Arbeit jedoch weniger auf die Interpretation komplexer multimodaler Daten, die in Diagrammen enthalten sind.

Doch für große und kleine Unternehmen in nahezu jeder Branche ist das Verständnis von Diagrammen eine entscheidende Aufgabe.

„Die Finanzbranche lebt von Diagrammen. Wenn Imaginative and prescient-Language-Modelle Informationen aus Diagrammen extrahieren können, etwa Beschreibungen von Developments, erleichtert das viele Arbeitsabläufe, die nachgelagert stattfinden“, sagt Joshi.

Der Mangel an qualitativ hochwertigen Trainingsdaten ist ein großer Engpass, der die Entwicklung von VLMs, die Diagramme genau interpretieren können, behindert. Viele Datensätze enthalten nur begrenzte Diagrammbilder aus dem Web und verfügen häufig nicht über den erforderlichen Maßstab und zusätzliche Informationen, um einem Modell bei der Interpretation der zugrunde liegenden Daten zu helfen.

„Im Gegensatz zu unserem Gehirn muss ein Imaginative and prescient-Sprachmodell während des Trainings möglicherweise Tausende von Beispielen sehen, um zuverlässig etwas als Liniendiagramm zu erkennen“, sagt Kondic.

Die Forscher versuchten, diese Mängel durch die Generierung synthetischer Daten zu beheben. Synthetische Daten werden von Algorithmen künstlich generiert, um die statistischen Eigenschaften tatsächlicher Daten nachzuahmen.

Der ChartNet-Datensatz enthält mehr als eine Million hochwertige Diagrammbilder sowie den entsprechenden Code, der zum Generieren jedes Diagramms verwendet wird, eine Textbeschreibung und eine Tabelle mit den numerischen Informationen. Darüber hinaus enthält jeder Datenpunkt Frage-Antwort-Paare, um dem Modell beizubringen, wie es Fragen zum Diagrammbild richtig beantwortet.

„Diese zusätzlichen Datenmodi leiten das Modell an, die verschiedenen Informationen, die das Diagrammbild kodiert, zu verbinden und auszurichten“, sagt Kondic.

Datengenerierung

Um ChartNet aufzubauen, erstellten die Forscher eine zweistufige Pipeline zur Generierung synthetischer Daten.

Zunächst übersetzt ihr automatisiertes System alle bereits vorhandenen Diagrammbilder in Code. Anschließend erweitert das System diesen Code iterativ, um verschiedene Aspekte jedes Diagramms zu ändern, z. B. Diagrammtyp, Datenwerte, Thema, Farben usw.

„Wir können mit einem einzigen Diagramm beginnen, das wir als Ausgangspunkt verwenden, und daraus Hunderte von Erweiterungen erstellen. Auf diese Weise konnten wir einen Datensatz mit mehr als einer Million verschiedener Bilder erstellen“, erklärt Kondic.

Sie haben außerdem einen automatisierten Qualitätsprüfungsprozess integriert, um sicherzustellen, dass die synthetischen Daten von hoher Qualität sind. Dieser Prozess überprüft, ob der Code ausführbar ist und ob die gerenderten Diagrammbilder korrekt und sauber sind.

„Wir wollen nicht nur vielfältige Stichproben generieren, sondern die Informationen auch auf sinnvolle Weise präsentieren“, sagt sie.

ChartNet enthält außerdem eine Auswahl von Diagrammdatenpunkten, die von menschlichen Experten mit Anmerkungen versehen wurden. Dies ermöglicht den Zugriff auf zusätzliche Diagrammtypen und unterstützende Daten mit Gültigkeitsgarantien.

Ein Praktiker könnte die kommentierten Daten verwenden, um ein vorhandenes VLM zu optimieren und so die Leistung für eine bestimmte Anwendung weiter zu steigern, fügt Joshi hinzu.

Die Forscher testeten ChartNet, indem sie die Modellreihe Granite Imaginative and prescient von IBM sowie mehrere andere Open-Supply-Modelle unterschiedlicher Größe trainierten und sie für verschiedene Diagramminterpretationsaufgaben evaluierten. Der Datensatz verbesserte die Genauigkeit aller Modelle bei der Diagrammrekonstruktion, der Diagrammdatenextraktion, der Diagrammzusammenfassung und der Beantwortung von Diagrammfragen.

Mit ChartNet übertrafen kleine Open-Supply-Modelle durchweg viel größere kommerzielle Modelle.

„Viele frühere Trainingsdatensätze konzentrierten sich nur auf die Beantwortung einfacher Fragen zu einem Diagramm. Mit ChartNet haben wir versucht, darüber hinauszugehen, indem wir Daten generierten, die alle Aspekte eines soliden Diagrammverständnisses unterstützen“, sagt Kondic.

In Zukunft planen die Forscher, ChartNet durch die Einbindung von Daten mit höherer Komplexität weiter auszubauen. Sie wollen auch das Suggestions der Forschungsgemeinschaft einbeziehen.

Diese Forschung wurde teilweise vom MIT-IBM Computing Analysis Lab finanziert.

In der Biologie sind Defekte im Allgemeinen schlecht. Aber in der Materialwissenschaft können Defekte gezielt so eingestellt werden, dass Materialien nützliche neue Eigenschaften erhalten. Heutzutage werden im Herstellungsprozess von Produkten wie Stahl, Halbleitern und Solarzellen sorgfältig Defekte im atomaren Maßstab eingeführt, um die Festigkeit zu verbessern, die elektrische Leitfähigkeit zu steuern, die Leistung zu optimieren und vieles mehr.

Aber auch wenn Defekte zu einem leistungsstarken Werkzeug geworden sind, ist die genaue Messung verschiedener Arten von Defekten und ihrer Konzentrationen in fertigen Produkten eine Herausforderung, insbesondere ohne das Endmaterial aufzuschneiden oder zu beschädigen. Ohne zu wissen, welche Mängel ihre Materialien aufweisen, riskieren Ingenieure, Produkte mit schlechter Leistung oder unbeabsichtigten Eigenschaften herzustellen.

Jetzt haben MIT-Forscher ein KI-Modell entwickelt, das bestimmte Defekte anhand von Daten einer nichtinvasiven Neutronenstreutechnik klassifizieren und quantifizieren kann. Das Modell, das an 2.000 verschiedenen Halbleitermaterialien trainiert wurde, kann bis zu sechs Arten von Punktdefekten in einem Materials gleichzeitig erkennen, was mit herkömmlichen Techniken allein unmöglich wäre.

„Bestehende Techniken können Defekte nicht auf universelle und quantitative Weise genau charakterisieren, ohne das Materials zu zerstören“, sagt Hauptautor Mouyang Cheng, Doktorand in der Abteilung für Materialwissenschaft und Werkstofftechnik. „Mit herkömmlichen Techniken ohne maschinelles Lernen ist die Erkennung von sechs verschiedenen Fehlern undenkbar. Anders geht das nicht.“

Die Forscher sagen, dass das Modell einen Schritt hin zu einer genaueren Nutzung von Defekten in Produkten wie Halbleitern, Mikroelektronik, Solarzellen und Batteriematerialien darstellt.

„Im Second ist das Erkennen von Defekten wie das Sprichwort über das Sehen eines Elefanten: Jede Technik kann nur einen Teil davon sehen“, sagt Mingda Li, leitender Autor und außerordentlicher Professor für Nuklearwissenschaft und -technik. „Manche sehen die Nase, andere den Rüssel oder die Ohren. Aber es ist extrem schwer, den ganzen Elefanten zu sehen. Wir brauchen bessere Methoden, um uns ein vollständiges Bild von Mängeln zu machen, denn wir müssen sie verstehen, um Materialien nützlicher zu machen.“

Zusammen mit Cheng und Li sind Postdoktorand Chu-Liang Fu, Bachelor-Forscher Bowen Yu, Masterstudent Eunbi Rha, Doktorand Abhijatmedhi Chotrattanapituk ’21 und die Mitarbeiter des Oak Ridge Nationwide Laboratory, Douglas L Abernathy PhD ’93 und Yongqiang Cheng, an der Arbeit beteiligt. Der Papier erscheint heute in der Zeitschrift Gegenstand.

Mängel erkennen

Die Hersteller sind intestine darin geworden, Fehler in ihren Materialien zu korrigieren, aber die genaue Messung der Fehlermengen in fertigen Produkten ist immer noch größtenteils ein Ratespiel.

„Ingenieure haben viele Möglichkeiten, Defekte einzuführen, beispielsweise durch Doping, aber sie kämpfen immer noch mit grundlegenden Fragen, etwa, welche Artwork von Defekt sie verursacht haben und in welcher Konzentration“, sagt Fu. „Manchmal weisen sie auch unerwünschte Defekte wie Oxidation auf. Sie wissen nicht immer, ob sie während der Synthese unerwünschte Defekte oder Verunreinigungen eingeführt haben. Das ist eine langjährige Herausforderung.“

Die Folge ist, dass jedes Materials häufig mehrere Mängel aufweist. Leider hat jede Methode zum Verständnis von Fehlern ihre Grenzen. Techniken wie Röntgenbeugung und Positronenvernichtung charakterisieren nur einige Arten von Defekten. Raman-Spektroskopie kann die Artwork des Defekts erkennen, aber nicht direkt auf die Konzentration schließen. Eine andere Technik, die als Transmissionselektronenmikroskop bekannt ist, erfordert, dass Menschen dünne Probenscheiben zum Scannen schneiden.

In einigen früheren Arbeiten wandten Li und seine Mitarbeiter maschinelles Lernen auf experimentelle Spektroskopiedaten an, um kristalline Materialien zu charakterisieren. Für die neue Arbeit wollten sie diese Technik auf Defekte anwenden.

Für ihr Experiment bauten die Forscher eine Computerdatenbank mit 2.000 Halbleitermaterialien auf. Sie stellten Probenpaare jedes Supplies her, wobei eines auf Defekte dotiert und das andere ohne Defekte belassen wurde, und verwendeten dann eine Neutronenstreutechnik, die die unterschiedlichen Schwingungsfrequenzen von Atomen in festen Materialien misst. Auf Grundlage der Ergebnisse trainierten sie ein maschinelles Lernmodell.

„Dadurch entstand ein grundlegendes Modell, das 56 Elemente im Periodensystem abdeckt“, sagt Cheng. „Das Modell nutzt den Multihead-Aufmerksamkeitsmechanismus, genau wie das, was ChatGPT verwendet. Es extrahiert auf ähnliche Weise den Unterschied in den Daten zwischen Materialien mit und ohne Defekte und gibt eine Vorhersage darüber aus, welche Dotierstoffe in welchen Konzentrationen verwendet wurden.“

Die Forscher optimierten ihr Modell, verifizierten es anhand experimenteller Daten und zeigten, dass es Defektkonzentrationen in einer üblicherweise in der Elektronik verwendeten Legierung und in einem separaten supraleitenden Materials messen kann.

Die Forscher dotiert die Materialien außerdem mehrfach, um mehrere Punktdefekte einzuführen und die Grenzen des Modells zu testen. Letztendlich stellen sie fest, dass damit Vorhersagen über bis zu sechs Defekte in Materialien gleichzeitig getroffen werden können, mit Defektkonzentrationen von nur 0,2 Prozent.

„Wir waren wirklich überrascht, dass es so intestine funktioniert hat“, sagt Cheng. „Es ist eine große Herausforderung, die gemischten Signale von zwei verschiedenen Arten von Defekten zu entschlüsseln – geschweige denn von sechs.“

Ein modellhafter Ansatz

Typischerweise führen Hersteller von Dingen wie Halbleitern invasive Assessments an einem kleinen Prozentsatz der Produkte durch, wenn diese das Fertigungsband verlassen, ein langsamer Prozess, der ihre Fähigkeit, jeden Fehler zu erkennen, einschränkt.

„Im Second schätzen die Menschen die Menge der Fehler in ihren Materialien weitgehend ab“, sagt Yu. „Es ist eine mühsame Erfahrung, die Schätzungen mithilfe jeder einzelnen Technik zu überprüfen, die ohnehin nur lokale Informationen in einer einzigen Körnung liefert. Es führt zu Missverständnissen darüber, welche Fehler die Leute in ihrem Materials zu haben glauben.“

Die Ergebnisse waren für die Forscher aufregend, sie weisen jedoch darauf hin, dass es für Unternehmen schwierig wäre, ihre Technik zur Messung der Schwingungsfrequenzen mit Neutronen schnell in ihren eigenen Qualitätskontrollprozessen einzusetzen.

„Diese Methode ist sehr leistungsfähig, aber ihre Verfügbarkeit ist begrenzt“, sagt Rha. „Schwingungsspektren sind eine einfache Idee, aber in bestimmten Aufbauten ist sie sehr kompliziert. Es gibt einige einfachere Versuchsaufbauten, die auf anderen Ansätzen wie der Raman-Spektroskopie basieren und schneller übernommen werden könnten.“

Laut Li haben Unternehmen bereits Interesse an dem Ansatz bekundet und gefragt, wann er mit der Raman-Spektroskopie, einer weit verbreiteten Technik zur Messung der Lichtstreuung, funktionieren wird. Laut Li besteht der nächste Schritt der Forscher darin, ein ähnliches Modell auf der Grundlage von Raman-Spektroskopiedaten zu trainieren. Sie planen außerdem, ihren Ansatz zu erweitern, um Merkmale zu erkennen, die größer als Punktdefekte sind, wie etwa Körner und Versetzungen.

Vorerst glauben die Forscher jedoch, dass ihre Studie den inhärenten Vorteil von KI-Techniken zur Interpretation von Fehlerdaten zeigt.

„Für das menschliche Auge würden diese Defektsignale im Wesentlichen gleich aussehen“, sagt Li. „Aber die Mustererkennung der KI ist intestine genug, um verschiedene Signale zu erkennen und der Wahrheit auf den Grund zu gehen. Defekte sind ein zweischneidiges Schwert. Es gibt viele gute Defekte, aber wenn es zu viele sind, kann sich die Leistung verschlechtern. Dies eröffnet ein neues Paradigma in der Defektwissenschaft.“

Die Arbeit wurde teilweise vom Energieministerium und der Nationwide Science Basis unterstützt.

Generative KI und Robotik bringen uns immer näher an den Tag, an dem wir nach einem Objekt fragen und es innerhalb weniger Minuten erstellen lassen können. Tatsächlich haben MIT-Forscher ein Speech-to-Actuality-System entwickelt, einen KI-gesteuerten Arbeitsablauf, der es ihnen ermöglicht, Eingaben an einen Roboterarm zu senden und „Objekte ins Leben zu rufen“, wodurch sie beispielsweise Möbel in nur fünf Minuten herstellen können.

Mit dem Speech-to-Actuality-System ist ein auf einem Tisch montierter Roboterarm in der Lage, gesprochene Eingaben von einem Menschen zu empfangen, wie zum Beispiel „Ich möchte einen einfachen Hocker“, und dann die Objekte aus modularen Komponenten zu konstruieren. Bisher haben die Forscher mit dem System Hocker, Regale, Stühle, einen kleinen Tisch und sogar Dekorationsgegenstände wie eine Hundestatue hergestellt.

„Wir verbinden die Verarbeitung natürlicher Sprache, generative 3D-KI und Robotermontage“, sagt Alexander Htet Kyaw, Doktorand am MIT und Fellow der Morningside Academy for Design (MAD). „Dies sind schnell voranschreitende Forschungsbereiche, die noch nie zuvor so zusammengeführt wurden, dass man tatsächlich physische Objekte nur aus einer einfachen Sprachaufforderung herstellen kann.“

Die Idee entstand, als Kyaw – ein Doktorand in den Fachbereichen Architektur, Elektrotechnik und Informatik – den Kurs „Wie man quick alles herstellt“ von Professor Neil Gershenfeld belegte. In diesem Kurs baute er das Speech-to-Actuality-System auf. Er arbeitete weiter an dem Projekt am MIT Heart for Bits and Atoms (CBA) unter der Leitung von Gershenfeld und arbeitete mit den Doktoranden Se Hwan Jeon vom Division of Mechanical Engineering und Miana Smith vom CBA zusammen.

Das Speech-to-Actuality-System beginnt mit einer Spracherkennung, die die Anfrage des Benutzers mithilfe eines großen Sprachmodells verarbeitet, gefolgt von generativer 3D-KI, die eine digitale Netzdarstellung des Objekts erstellt, und einem Voxelisierungsalgorithmus, der das 3D-Netz in Baugruppenkomponenten zerlegt.

Anschließend modifiziert die geometrische Verarbeitung die KI-generierte Baugruppe, um fertigungsbedingte und physikalische Einschränkungen im Zusammenhang mit der realen Welt zu berücksichtigen, wie z. B. die Anzahl der Komponenten, Überhänge und Konnektivität der Geometrie. Anschließend erfolgt die Erstellung einer realisierbaren Montagesequenz und eine automatisierte Pfadplanung für den Roboterarm, um physische Objekte nach Eingaben des Benutzers zusammenzubauen.

Durch die Nutzung natürlicher Sprache macht das System Design und Fertigung auch für Menschen ohne Kenntnisse in 3D-Modellierung oder Roboterprogrammierung zugänglicher. Und im Gegensatz zum 3D-Druck, der Stunden oder Tage dauern kann, lässt sich dieses System innerhalb von Minuten aufbauen.

„Dieses Projekt ist eine Schnittstelle zwischen Menschen, KI und Robotern, um die Welt um uns herum gemeinsam zu erschaffen“, sagt Kyaw. „Stellen Sie sich ein Szenario vor, in dem Sie sagen ‚Ich möchte einen Stuhl‘ und innerhalb von fünf Minuten erscheint ein physischer Stuhl vor Ihnen.“

Das Workforce hat unmittelbare Pläne, die Tragfähigkeit der Möbel zu verbessern, indem es die Verbindung der Würfel von Magneten auf robustere Verbindungen umstellt.

„Wir haben auch Pipelines entwickelt, um Voxelstrukturen in realisierbare Montagesequenzen für kleine, verteilte cell Roboter umzuwandeln, die dazu beitragen könnten, diese Arbeit in Strukturen jeder Größenskala umzusetzen“, sagt Smith.

Der Zweck der Verwendung modularer Komponenten besteht darin, den Abfall zu vermeiden, der bei der Herstellung physischer Objekte anfällt, indem man sie zerlegt und dann wieder zusammenbaut, um beispielsweise ein Couch in ein Bett zu verwandeln, wenn man das Couch nicht mehr benötigt.

Weil Kyaw auch Erfahrung in der Anwendung hat Gestenerkennung und Augmented Actuality zur Interaktion Mit Robotern im Herstellungsprozess arbeitet er derzeit daran, sowohl Sprach- als auch Gestensteuerung in das Speech-to-Actuality-System zu integrieren.

Kyaw greift auf seine Erinnerungen an den Replikator in der „Star Trek“-Reihe und die Roboter im Animationsfilm „Massive Hero 6“ zurück und erklärt seine Imaginative and prescient.

„Ich möchte den Menschen den Zugang zu physischen Objekten auf schnelle, zugängliche und nachhaltige Weise erleichtern“, sagt er. „Ich arbeite an einer Zukunft, in der das Wesen der Materie wirklich unter Ihrer Kontrolle liegt. Eine Zukunft, in der die Realität auf Abruf generiert werden kann.“

Das Workforce stellte sein Papier vor „Sprache zur Realität: On-Demand-Produktion mit natürlicher Sprache, generativer 3D-KI und diskreter Robotermontage“ beim Affiliation for Computing Equipment (ACM) Symposium on Computational Fabrication (SCF ’25), das am 21. November am MIT stattfand.

Das Codieren mit großen Sprachmodellen (LLMs) ist vielversprechend, deckt aber auch einige seit langem bestehende Mängel in der Software program auf: Code, der chaotisch ist, sich nur schwer sicher ändern lässt und oft nicht clear macht, was wirklich unter der Haube passiert. Forscher am Pc Science and Synthetic Intelligence Laboratory (CSAIL) des MIT planen einen „modulareren“ Weg.

Ihr neuer Ansatz unterteilt Systeme in „Konzepte“, separate Teile eines Programs, von denen jeder darauf ausgelegt ist, eine Aufgabe intestine zu erfüllen, und „Synchronisationen“, explizite Regeln, die genau beschreiben, wie diese Teile zusammenpassen. Das Ergebnis ist eine Software program, die modularer, transparenter und verständlicher ist. Eine kleine domänenspezifische Sprache (DSL) ermöglicht es, Synchronisationen einfach und in einer Type auszudrücken, die LLMs zuverlässig generieren können. In einer Fallstudie aus der Praxis zeigte das Workforce, wie diese Methode Funktionen zusammenführen kann, die sonst über mehrere Dienste verteilt wären.

Das Workforce, bestehend aus Daniel Jackson, einem MIT-Professor für Elektrotechnik und Informatik (EECS) und stellvertretender CSAIL-Direktor, und Eagon Meng, einem EECS-Doktoranden, CSAIL-Accomplice und Designer des neuen Synchronisations-DSL, untersucht diesen Ansatz in seinem Artikel „Was Sie sehen, ist, was es tut: Ein Strukturmuster für lesbare Software program„, das sie im Oktober auf der Splash-Konferenz in Singapur vorstellten. Die Herausforderung, so erklären sie, besteht darin, dass in den meisten modernen Systemen eine einzelne Funktion nie völlig eigenständig ist. Das Hinzufügen einer „Teilen“-Schaltfläche zu einer sozialen Plattform wie Instagram beispielsweise ist nicht in nur einem Dienst verankert. Seine Funktionalität ist auf Code aufgeteilt, der das Posten, die Benachrichtigung, die Authentifizierung von Benutzern und mehr übernimmt. Alle diese Teile müssen, obwohl sie über den Code verstreut sind, sorgfältig aufeinander abgestimmt werden, und jede Änderung birgt das Risiko unbeabsichtigter Nebenwirkungen an anderer Stelle.

Jackson nennt diese „Funktionsfragmentierung“ ein zentrales Hindernis für die Softwarezuverlässigkeit. „Bei der Artwork und Weise, wie wir heute Software program erstellen, ist die Funktionalität nicht lokalisiert. Sie möchten verstehen, wie „Sharing“ funktioniert, aber Sie müssen an drei oder vier verschiedenen Stellen danach suchen, und wenn Sie sie finden, sind die Verbindungen im Low-Stage-Code vergraben“, sagt Jackson.

Konzepte und Synchronisationen sollen dieses Drawback angehen. Ein Konzept bündelt eine einzelne, zusammenhängende Funktionalität wie Teilen, Liken oder Folgen sowie seinen Standing und die Aktionen, die es ausführen kann. Synchronisierungen hingegen beschreiben auf einer höheren Ebene, wie diese Konzepte interagieren. Anstatt unübersichtlichen Low-Stage-Integrationscode zu schreiben, können Entwickler eine kleine domänenspezifische Sprache verwenden, um diese Verbindungen direkt zu formulieren. In diesem DSL sind die Regeln einfach und klar: Die Aktion eines Konzepts kann ein anderes auslösen, sodass eine Änderung in einem Zustand mit einem anderen synchron gehalten werden kann.

„Stellen Sie sich Konzepte als Module vor, die völlig sauber und unabhängig sind. Synchronisierungen wirken dann wie Verträge – sie sagen genau, wie Konzepte interagieren sollen. Das ist wirkungsvoll, weil es das System sowohl für Menschen einfacher zu verstehen als auch für Instruments wie LLMs einfacher macht, es korrekt zu generieren“, sagt Jackson. „Warum können wir Code nicht wie ein Buch lesen? Wir glauben, dass Software program im Sinne unseres Verständnisses lesbar und geschrieben sein sollte: Unsere Hoffnung ist, dass Konzepte auf bekannte Phänomene abgebildet werden und Synchronisierungen unsere Instinct darüber widerspiegeln, was passiert, wenn sie zusammenkommen“, sagt Meng.

Die Vorteile gehen über die Klarheit hinaus. Da Synchronisierungen explizit und deklarativ sind, können sie von einem LLM analysiert, verifiziert und natürlich generiert werden. Dies öffnet die Tür zu einer sichereren, stärker automatisierten Softwareentwicklung, bei der KI-Assistenten neue Funktionen vorschlagen können, ohne dass versteckte Nebenwirkungen auftreten.

In ihrer Fallstudie ordneten die Forscher Funktionen wie Liken, Kommentieren und Teilen jeweils einem einzelnen Konzept zu – ähnlich einer Microservices-Architektur, aber modularer. Ohne dieses Muster waren diese Funktionen auf viele Dienste verteilt, sodass sie schwer zu finden und zu testen waren. Mithilfe des Konzepts-und-Synchronisations-Ansatzes wurde jedes Merkmal zentralisiert und lesbar, während die Synchronisationen genau darlegten, wie die Konzepte interagierten.

Die Studie zeigte auch, wie Synchronisierungen häufige Probleme wie Fehlerbehandlung, Antwortformatierung oder dauerhafte Speicherung ausschließen können. Anstatt diese Particulars in jeden Dienst einzubetten, können sie durch die Synchronisierung nur einmal verarbeitet werden, wodurch die Konsistenz im gesamten System gewährleistet wird.

Auch fortgeschrittenere Richtungen sind möglich. Synchronisierungen könnten verteilte Systeme koordinieren, Replikate auf verschiedenen Servern im Gleichschritt halten oder gemeinsam genutzten Datenbanken eine saubere Interaktion ermöglichen. Eine Schwächung der Synchronisationssemantik könnte eine letztendliche Konsistenz ermöglichen und gleichzeitig die Klarheit auf der Architekturebene bewahren.

Jackson sieht Potenzial für einen umfassenderen kulturellen Wandel in der Softwareentwicklung. Eine Idee ist die Erstellung von „Konzeptkatalogen“, gemeinsamen Bibliotheken bewährter, domänenspezifischer Konzepte. Bei der Anwendungsentwicklung könnte es dann weniger darum gehen, Code von Grund auf zusammenzufügen, als vielmehr darum, die richtigen Konzepte auszuwählen und die Synchronisierungen zwischen ihnen zu schreiben. „Konzepte könnten zu einer neuen Artwork von Programmiersprache auf hohem Niveau werden, mit Synchronisationen als in dieser Sprache geschriebenen Programmen.“

„Es ist eine Möglichkeit, die Zusammenhänge in der Software program sichtbar zu machen“, sagt Jackson. „Heute verbergen wir diese Zusammenhänge im Code. Aber wenn man sie explizit sehen kann, kann man auf einer viel höheren Ebene über die Software program nachdenken. Man muss sich immer noch mit der inhärenten Komplexität der interagierenden Funktionen auseinandersetzen. Aber jetzt ist es offen, nicht verstreut und verdeckt.“

„Das Erstellen von Software program für den menschlichen Gebrauch auf der Grundlage von Abstraktionen zugrunde liegender Computermaschinen hat die Welt mit Software program belastet, deren Verständnis und Verwendung allzu oft kostspielig, frustrierend und sogar gefährlich ist“, sagt Kevin Sullivan, Affiliate Professor an der College of Virginia, der nicht an der Forschung beteiligt battle. „Die Auswirkungen (z. B. im Gesundheitswesen) waren verheerend. Meng und Jackson drehen das Drehbuch um und bestehen darauf, interaktive Software program auf der Grundlage von Abstraktionen des menschlichen Verständnisses zu entwickeln, die sie „Konzepte“ nennen. Sie kombinieren ausdrucksstarke mathematische Logik und natürliche Sprache, um solche zielgerichteten Abstraktionen zu spezifizieren und eine Grundlage für die Überprüfung ihrer Bedeutungen, ihre Zusammensetzung zu Systemen und ihre Verfeinerung in für den menschlichen Gebrauch geeignete Programme zu schaffen. Es ist eine neue und wichtige Richtung in der Theorie und Praxis des Softwaredesigns, die es wert ist, beobachtet zu werden.“

„Seit vielen Jahren ist klar, dass wir bessere Möglichkeiten brauchen, um zu beschreiben und zu spezifizieren, was Software program tun soll“, fügt Thomas Ball, Honorarprofessor der Lancaster College und angegliederte Fakultät der College of Washington, hinzu, der ebenfalls nicht an der Forschung beteiligt battle. „Die Fähigkeit von LLMs, Code zu generieren, hat das Spezifikationsfeuer nur noch weiter angeheizt. Die Arbeit von Meng und Jackson zum Konzeptdesign bietet eine vielversprechende Möglichkeit, auf modulare Weise zu beschreiben, was wir von Software program erwarten. Ihre Konzepte und Spezifikationen eignen sich intestine für die Kombination mit LLMs, um die Absicht des Designers zu erreichen.“

Mit Blick auf die Zukunft hoffen die Forscher, dass ihre Arbeit Einfluss darauf haben kann, wie Industrie und Wissenschaft über Softwarearchitektur im Zeitalter der KI denken. „Wenn Software program vertrauenswürdiger werden soll, brauchen wir Schreibweisen, die ihre Absichten clear machen“, sagt Jackson. „Konzepte und Synchronisationen sind ein Schritt in Richtung dieses Ziels.“

Diese Arbeit wurde teilweise von der Machine Studying Purposes (MLA) Initiative der CSAIL Alliances finanziert. Zum Zeitpunkt der Finanzierung bestand der Vorstand der Initiative aus British Telecom, Cisco und Ernst and Younger.

MIT-Wissenschaftler haben freigegeben ein leistungsstarkes Open-Supply-KI-Modell namens Boltz-1, das die biomedizinische Forschung und Arzneimittelentwicklung erheblich beschleunigen könnte.

Boltz-1 wurde von einem Forscherteam der MIT Jameel Clinic for Machine Studying in Well being entwickelt und ist das erste vollständig Open-Supply-Modell, das modernste Leistung auf dem Niveau von AlphaFold3 erreicht, dem Modell von Google DeepMind sagt die 3D-Strukturen von Proteinen und anderen biologischen Molekülen voraus.

Die MIT-Absolventen Jeremy Wohlwend und Gabriele Corso waren die Hauptentwickler von Boltz-1, zusammen mit Saro Passaro, einem Forschungspartner der MIT Jameel Clinic, und den MIT-Professoren für Elektrotechnik und Informatik Regina Barzilay und Tommi Jaakkola. Wohlwend und Corso stellten das Modell am 5. Dezember bei einer Veranstaltung im Stata Middle des MIT vor und sagten, ihr oberstes Ziel sei es, die globale Zusammenarbeit zu fördern, Entdeckungen zu beschleunigen und eine robuste Plattform für die Weiterentwicklung der biomolekularen Modellierung bereitzustellen.

„Wir hoffen, dass dies ein Ausgangspunkt für die Neighborhood ist“, sagte Corso. „Es gibt einen Grund, warum wir es Boltz-1 und nicht Boltz nennen. Dies ist nicht das Ende der Fahnenstange. Wir wollen von der Neighborhood so viel Beitrag wie möglich leisten.“

Proteine ​​spielen in nahezu allen biologischen Prozessen eine wesentliche Rolle. Die Kind eines Proteins hängt eng mit seiner Funktion zusammen. Daher ist das Verständnis der Proteinstruktur für die Entwicklung neuer Medikamente oder die Entwicklung neuer Proteine ​​mit spezifischen Funktionalitäten von entscheidender Bedeutung. Doch aufgrund des äußerst komplexen Prozesses, durch den die lange Aminosäurekette eines Proteins in eine dreidimensionale Struktur gefaltet wird, struggle die genaue Vorhersage dieser Struktur jahrzehntelang eine große Herausforderung.

AlphaFold2 von DeepMind, das Demis Hassabis und John Jumper den Nobelpreis für Chemie 2024 einbrachte, nutzt maschinelles Lernen, um schnell 3D-Proteinstrukturen vorherzusagen, die so genau sind, dass sie von denen, die von Wissenschaftlern experimentell abgeleitet wurden, nicht zu unterscheiden sind. Dieses Open-Supply-Modell wurde von akademischen und kommerziellen Forschungsteams auf der ganzen Welt genutzt und hat viele Fortschritte in der Arzneimittelentwicklung vorangetrieben.

AlphaFold3 verbessert seine Vorgänger durch die Integration eines generativen KI-Modells, eines sogenannten Diffusionsmodells, das die mit der Vorhersage extrem komplexer Proteinstrukturen verbundenen Unsicherheiten besser bewältigen kann. Im Gegensatz zu AlphaFold2 ist AlphaFold3 jedoch nicht vollständig Open Supply und steht auch nicht für die kommerzielle Nutzung zur Verfügung, was Anlass gab Kritik aus der wissenschaftlichen Gemeinschaft und startete a globales Rennen eine kommerziell erhältliche Model des Modells zu bauen.

Für ihre Arbeit an Boltz-1 verfolgten die MIT-Forscher zunächst denselben Ansatz wie AlphaFold3, untersuchten jedoch nach der Untersuchung des zugrunde liegenden Diffusionsmodells mögliche Verbesserungen. Sie haben diejenigen integriert, die die Genauigkeit des Modells am meisten steigerten, beispielsweise neue Algorithmen, die die Vorhersageeffizienz verbessern.

Zusammen mit dem Modell selbst haben sie ihre gesamte Pipeline zur Schulung und Feinabstimmung als Open-Supply-Lösung bereitgestellt, damit andere Wissenschaftler auf Boltz-1 aufbauen können.

„Ich bin sehr stolz auf Jeremy, Gabriele, Saro und den Relaxation des Groups der Jameel Clinic, dass sie diese Veröffentlichung möglich gemacht haben. Dieses Projekt hat viele Tage und Nächte Arbeit in Anspruch genommen, mit unerschütterlicher Entschlossenheit, dieses Ziel zu erreichen. Es gibt viele spannende Ideen für weitere Verbesserungen und wir freuen uns darauf, sie in den kommenden Monaten zu teilen“, sagt Barzilay.

Das MIT-Staff brauchte vier Monate Arbeit und viele Experimente, um Boltz-1 zu entwickeln. Eine ihrer größten Herausforderungen bestand darin, die Mehrdeutigkeit und Heterogenität der Proteindatenbank zu überwinden, einer Sammlung aller biomolekularen Strukturen, die Tausende von Biologen in den letzten 70 Jahren gelöst haben.

„Ich habe viele Nächte lang mit diesen Daten gerungen. Vieles davon ist reines Fachwissen, das man sich einfach aneignen muss. Es gibt keine Abkürzungen“, sagt Wohlwend.

Letztendlich zeigen ihre Experimente, dass Boltz-1 bei einer Reihe komplexer Vorhersagen der biomolekularen Struktur die gleiche Genauigkeit wie AlphaFold3 erreicht.

„Was Jeremy, Gabriele und Saro erreicht haben, ist geradezu bemerkenswert. Ihre harte Arbeit und Beharrlichkeit bei diesem Projekt haben die Vorhersage biomolekularer Strukturen für die breitere Gemeinschaft zugänglicher gemacht und werden Fortschritte in den Molekularwissenschaften revolutionieren“, sagt Jaakkola.

Die Forscher planen, die Leistung von Boltz-1 weiter zu verbessern und die Zeit zu verkürzen, die für Vorhersagen benötigt wird. Sie laden Forscher auch ein, Boltz-1 auf ihrem Gerät auszuprobieren GitHub-Repository und vernetzen Sie sich mit anderen Benutzern von Boltz-1 Slack-Kanal.

„Wir glauben, dass es noch viele, viele Jahre dauern wird, diese Modelle zu verbessern. Wir sind sehr daran interessiert, mit anderen zusammenzuarbeiten und zu sehen, was die Neighborhood mit diesem Software macht“, fügt Wohlwend hinzu.

Mathai Mammen, CEO und Präsident von Parabilis Medicines, nennt Boltz-1 ein „bahnbrechendes“ Modell. „Durch die Open-Supply-Bereitstellung dieses Fortschritts demokratisieren die MIT Jameel Clinic und ihre Mitarbeiter den Zugang zu modernsten Werkzeugen der Strukturbiologie“, sagt er. „Diese bahnbrechende Anstrengung wird die Entwicklung lebensverändernder Medikamente beschleunigen. Vielen Dank an das Boltz-1-Staff, das diesen tiefgreifenden Sprung vorangetrieben hat!“

„Boltz-1 wird für mein Labor und die gesamte Gemeinschaft von enormem Nutzen sein“, fügt Jonathan Weissman hinzu, ein MIT-Professor für Biologie und Mitglied des Whitehead Institute for Biomedical Engineering, der nicht an der Studie beteiligt struggle. „Wir werden eine ganze Welle von Entdeckungen erleben, die durch die Demokratisierung dieses mächtigen Werkzeugs ermöglicht werden.“ Weissman fügt hinzu, dass er davon ausgeht, dass der Open-Supply-Charakter von Boltz-1 zu einer Vielzahl kreativer neuer Anwendungen führen wird.

Diese Arbeit wurde auch durch ein Stipendium der US Nationwide Science Basis Expeditions unterstützt; die Jameel Clinic; das DOMANE-Programm (Discovery of Medical Countermeasures Towards New and Rising Threats) der US Protection Risk Discount Company; und das MATCHMAKERS-Projekt, das von der Most cancers Grand Challenges-Partnerschaft unterstützt wird, die von Most cancers Analysis UK und dem US Nationwide Most cancers Institute finanziert wird.

Bereiche von der Robotik über die Medizin bis hin zur Politikwissenschaft versuchen, KI-Systeme zu trainieren, sinnvolle Entscheidungen aller Artwork zu treffen. Beispielsweise könnte der Einsatz eines KI-Techniques zur intelligenten Steuerung des Verkehrs in einer überlasteten Stadt Autofahrern helfen, ihr Ziel schneller zu erreichen und gleichzeitig die Sicherheit oder Nachhaltigkeit zu verbessern.

Leider ist es keine leichte Aufgabe, einem KI-System beizubringen, gute Entscheidungen zu treffen.

Reinforcement-Studying-Modelle, die diesen KI-Entscheidungssystemen zugrunde liegen, scheitern immer noch häufig, wenn selbst kleine Abweichungen bei den Aufgaben, für die sie trainiert werden, auftreten. Im Falle des Verkehrs kann es für ein Modell schwierig sein, eine Reihe von Kreuzungen mit unterschiedlichen Geschwindigkeitsbegrenzungen, Fahrspurnummern oder Verkehrsmustern zu steuern.

Um die Zuverlässigkeit von Reinforcement-Studying-Modellen für komplexe Aufgaben mit Variabilität zu erhöhen, haben MIT-Forscher einen effizienteren Algorithmus für deren Coaching eingeführt.

Der Algorithmus wählt strategisch die besten Aufgaben für das Coaching eines KI-Agenten aus, sodass dieser alle Aufgaben in einer Sammlung verwandter Aufgaben effektiv ausführen kann. Im Fall der Ampelsteuerung könnte jede Aufgabe eine Kreuzung in einem Aufgabenraum sein, der alle Kreuzungen in der Stadt umfasst.

Durch die Konzentration auf eine kleinere Anzahl von Schnittpunkten, die am meisten zur Gesamteffektivität des Algorithmus beitragen, maximiert diese Methode die Leistung und hält gleichzeitig die Trainingskosten niedrig.

Die Forscher fanden heraus, dass ihre Technik bei einer Reihe simulierter Aufgaben zwischen fünf und 50 Mal effizienter battle als Standardansätze. Dieser Effizienzgewinn hilft dem Algorithmus, schneller eine bessere Lösung zu lernen, was letztendlich die Leistung des KI-Agenten verbessert.

„Wir konnten mit einem sehr einfachen Algorithmus unglaubliche Leistungsverbesserungen feststellen, indem wir über den Tellerrand hinausschauten. Ein Algorithmus, der nicht sehr kompliziert ist, hat eine bessere Probability, von der Group übernommen zu werden, da er einfacher zu implementieren und für andere leichter zu verstehen ist“, sagt die leitende Autorin Cathy Wu, außerordentliche Professorin für Karriereentwicklung bei Thomas D. und Virginia W. Cabot in Bau- und Umweltingenieurwesen (CEE) und am Institut für Daten, Systeme und Gesellschaft (IDSS) sowie Mitglied des Labors für Informations- und Entscheidungssysteme (LIDS).

Sie ist dabei Papier vom Hauptautor Jung-Hoon Cho, einem CEE-Absolventen; Vindula Jayawardana, Doktorandin am Fachbereich Elektrotechnik und Informatik (EECS); und Sirui Li, ein IDSS-Doktorand. Die Forschung wird auf der Konferenz über neuronale Informationsverarbeitungssysteme vorgestellt.

Einen Mittelweg finden

Um einen Algorithmus für die Steuerung von Ampeln an vielen Kreuzungen in einer Stadt zu trainieren, würde ein Ingenieur normalerweise zwischen zwei Hauptansätzen wählen. Sie kann einen Algorithmus für jede Kreuzung unabhängig trainieren, indem sie nur die Daten dieser Kreuzung verwendet, oder einen größeren Algorithmus trainieren, indem sie Daten von allen Kreuzungen verwendet und ihn dann auf jede einzelne anwendet.

Aber jeder Ansatz bringt seine Nachteile mit sich. Das Coaching eines separaten Algorithmus für jede Aufgabe (z. B. eine bestimmte Kreuzung) ist ein zeitaufwändiger Prozess, der eine enorme Menge an Daten und Berechnungen erfordert, während das Coaching eines Algorithmus für alle Aufgaben häufig zu einer unterdurchschnittlichen Leistung führt.

Wu und ihre Mitarbeiter suchten nach einem Kompromiss zwischen diesen beiden Ansätzen.

Für ihre Methode wählen sie eine Teilmenge von Aufgaben aus und trainieren für jede Aufgabe unabhängig einen Algorithmus. Wichtig ist, dass sie strategisch einzelne Aufgaben auswählen, die die Gesamtleistung des Algorithmus bei allen Aufgaben am wahrscheinlichsten verbessern.

Sie nutzen einen gängigen Trick aus dem Bereich des verstärkenden Lernens namens Zero-Shot-Switch-Studying, bei dem ein bereits trainiertes Modell ohne weiteres Coaching auf eine neue Aufgabe angewendet wird. Beim Transferlernen schneidet das Modell bei der Aufgabe „Neuer Nachbar“ oft bemerkenswert intestine ab.

„Wir wissen, dass es best wäre, alle Aufgaben zu trainieren, aber wir fragten uns, ob wir mit dem Coaching einer Teilmenge dieser Aufgaben durchkommen, das Ergebnis auf alle Aufgaben anwenden und trotzdem eine Leistungssteigerung feststellen könnten“, sagt Wu.

Um herauszufinden, welche Aufgaben sie auswählen sollten, um die erwartete Leistung zu maximieren, entwickelten die Forscher einen Algorithmus namens Mannequin-Primarily based Switch Studying (MBTL).

Der MBTL-Algorithmus besteht aus zwei Teilen. Zum einen modelliert es, wie intestine jeder Algorithmus funktionieren würde, wenn er unabhängig für eine Aufgabe trainiert würde. Anschließend wird modelliert, um wie viel sich die Leistung jedes Algorithmus verschlechtern würde, wenn er auf eine andere Aufgabe übertragen würde. Dieses Konzept wird als Generalisierungsleistung bezeichnet.

Durch die explizite Modellierung der Generalisierungsleistung kann MBTL den Wert des Trainings für eine neue Aufgabe abschätzen.

MBTL führt dies nacheinander aus, indem es zuerst die Aufgabe auswählt, die zum höchsten Leistungsgewinn führt, und dann zusätzliche Aufgaben auswählt, die anschließend die größten geringfügigen Verbesserungen der Gesamtleistung bewirken.

Da sich MBTL nur auf die vielversprechendsten Aufgaben konzentriert, kann es die Effizienz des Trainingsprozesses erheblich verbessern.

Reduzierung der Schulungskosten

Als die Forscher diese Technik an simulierten Aufgaben testeten, darunter die Steuerung von Verkehrssignalen, die Verwaltung von Echtzeit-Geschwindigkeitshinweisen und die Ausführung mehrerer klassischer Steuerungsaufgaben, battle sie fünf- bis 50-mal effizienter als andere Methoden.

Das bedeutet, dass sie durch Coaching mit weitaus weniger Daten zur gleichen Lösung gelangen könnten. Mit einer 50-fachen Effizienzsteigerung könnte der MBTL-Algorithmus beispielsweise nur zwei Aufgaben trainieren und die gleiche Leistung erzielen wie eine Standardmethode, die Daten von 100 Aufgaben verwendet.

„Aus Sicht der beiden Hauptansätze bedeutet das, dass Daten aus den anderen 98 Aufgaben nicht erforderlich waren oder dass das Coaching aller 100 Aufgaben den Algorithmus verwirrend macht, sodass die Leistung am Ende schlechter ausfällt als bei uns“, sagt Wu.

Mit MBTL könnte bereits eine geringfügige zusätzliche Trainingszeit zu einer deutlich besseren Leistung führen.

Zukünftig planen die Forscher, MBTL-Algorithmen zu entwerfen, die sich auf komplexere Probleme wie hochdimensionale Aufgabenräume erstrecken lassen. Sie sind auch daran interessiert, ihren Ansatz auf reale Probleme anzuwenden, insbesondere auf Mobilitätssysteme der nächsten Technology.

Die Forschung wird teilweise durch einen CAREER Award der Nationwide Science Basis, das PhD Scholarship Program der Kwanjeong Instructional Basis und ein Amazon Robotics PhD Fellowship finanziert.

Das Identifizieren einer fehlerhaften Turbine in einem Windpark, wofür die Analyse Hunderter Signale und Millionen Datenpunkte erforderlich sein kann, gleicht der Suche nach der Nadel im Heuhaufen.

Ingenieure optimieren dieses komplexe Drawback häufig mithilfe von Deep-Studying-Modellen, die Anomalien in den von jeder Turbine im Laufe der Zeit wiederholt durchgeführten Messungen (sogenannte Zeitreihendaten) erkennen können.

Da Hunderte von Windturbinen jede Stunde Dutzende von Signalen aufzeichnen, ist das Trainieren eines Deep-Studying-Modells zur Analyse von Zeitreihendaten jedoch kostspielig und mühsam. Erschwerend kommt hinzu, dass das Modell nach der Bereitstellung möglicherweise neu trainiert werden muss und den Windparkbetreibern möglicherweise die erforderliche Fachkompetenz im Bereich maschinelles Lernen fehlt.

In einer neuen Studie haben MIT-Forscher herausgefunden, dass Giant Language Fashions (LLMs) das Potenzial haben, effizientere Anomaliedetektoren für Zeitreihendaten zu sein. Wichtig dabei ist, dass diese vortrainierten Modelle sofort einsatzbereit sind.

Die Forscher entwickelten ein Framework namens SigLLM, das eine Komponente enthält, die Zeitreihendaten in textbasierte Eingaben umwandelt, die ein LLM verarbeiten kann. Ein Benutzer kann diese aufbereiteten Daten in das Modell einspeisen und es auffordern, mit der Erkennung von Anomalien zu beginnen. Das LLM kann auch verwendet werden, um zukünftige Zeitreihendatenpunkte als Teil einer Anomalieerkennungs-Pipeline vorherzusagen.

Zwar konnten LLMs modernste Deep-Studying-Modelle bei der Anomalieerkennung nicht schlagen, sie schnitten aber genauso intestine ab wie einige andere KI-Ansätze. Wenn Forscher die Leistung von LLMs verbessern können, könnte dieses Framework Technikern helfen, potenzielle Probleme bei Geräten wie Schwermaschinen oder Satelliten zu erkennen, bevor sie auftreten, ohne dass ein teures Deep-Studying-Modell trainiert werden muss.

„Da dies nur die erste Iteration ist, haben wir nicht erwartet, dass wir gleich beim ersten Versuch dorthin gelangen, aber diese Ergebnisse zeigen, dass es hier eine Möglichkeit gibt, LLMs für komplexe Aufgaben zur Anomalieerkennung zu nutzen“, sagt Sarah Alnegheimish, eine Doktorandin der Elektrotechnik und Informatik (EECS) und Hauptautorin von ein Paper zu SigLLM.

Zu ihren Co-Autoren gehören Linh Nguyen, eine EECS-Studentin, Laure Berti-Equille, Forschungsleiterin am französischen Nationalen Forschungsinstitut für nachhaltige Entwicklung, und der Hauptautor Kalyan Veeramachaneni, ein leitender Wissenschaftler im Labor für Informations- und Entscheidungssysteme. Die Forschungsarbeit wird auf der IEEE-Konferenz für Datenwissenschaft und fortgeschrittene Analytik vorgestellt.

Eine Standardlösung

Große Sprachmodelle sind autoregressiv, was bedeutet, dass sie verstehen können, dass die neuesten Werte in sequenziellen Daten von vorherigen Werten abhängen. Beispielsweise können Modelle wie GPT-4 das nächste Wort in einem Satz anhand der vorhergehenden Wörter vorhersagen.

Da Zeitreihendaten sequenziell sind, dachten die Forscher, dass die autoregressive Natur von LLMs sie möglicherweise intestine geeignet macht, um Anomalien in dieser Artwork von Daten zu erkennen.

Sie wollten jedoch eine Technik entwickeln, die auf Feinabstimmung verzichtet, additionally einen Prozess, bei dem Ingenieure ein allgemeines LLM anhand einer kleinen Menge aufgabenspezifischer Daten neu trainieren, um es zu einem Experten für eine bestimmte Aufgabe zu machen. Stattdessen setzen die Forscher ein fertiges LLM ein, ohne zusätzliche Trainingsschritte.

Doch bevor sie es einsetzen konnten, mussten sie Zeitreihendaten in textbasierte Eingaben umwandeln, die das Sprachmodell verarbeiten konnte.

Dies wurde durch eine Reihe von Transformationen erreicht, die die wichtigsten Teile der Zeitreihe erfassen und gleichzeitig Daten mit der geringsten Anzahl von Token darstellen. Token sind die grundlegenden Eingaben für ein LLM, und mehr Token erfordern mehr Berechnungen.

„Wenn Sie bei diesen Schritten nicht sehr sorgfältig vorgehen, kann es passieren, dass wichtige Datenteile abgeschnitten werden und die Informationen verloren gehen“, sagt Alnegheimish.

Nachdem die Forscher herausgefunden hatten, wie sich Zeitreihendaten transformieren lassen, entwickelten sie zwei Ansätze zur Anomalieerkennung.

Ansätze zur Anomalieerkennung

Beim ersten Verfahren, das sie „Prompter“ nennen, speisen sie die aufbereiteten Daten in das Modell ein und fordern es auf, anomale Werte zu lokalisieren.

„Wir mussten mehrere Iterationen durchführen, um die richtigen Eingabeaufforderungen für eine bestimmte Zeitreihe herauszufinden. Es ist nicht leicht zu verstehen, wie diese LLMs die Daten aufnehmen und verarbeiten“, fügt Alnegheimish hinzu.

Beim zweiten Ansatz, Detector genannt, verwenden sie das LLM als Prognoseinstrument, um den nächsten Wert aus einer Zeitreihe vorherzusagen. Die Forscher vergleichen den vorhergesagten Wert mit dem tatsächlichen Wert. Eine große Diskrepanz deutet darauf hin, dass der tatsächliche Wert wahrscheinlich eine Anomalie ist.

Mit Detector wäre das LLM Teil einer Pipeline zur Anomalieerkennung, während Prompter die Aufgabe selbst erledigen würde. In der Praxis schnitt Detector besser ab als Prompter, der viele Fehlalarme erzeugte.

„Ich denke, mit dem Prompter-Ansatz haben wir den LLM-Studenten zu viele Hürden auferlegt. Wir haben ihnen ein schwierigeres Drawback gestellt“, sagt Veeramachaneni.

Als sie beide Ansätze mit aktuellen Techniken verglichen, übertraf Detector die transformerbasierten KI-Modelle bei sieben der elf ausgewerteten Datensätze, obwohl für das LLM weder Coaching noch Feinabstimmung erforderlich struggle.

In Zukunft könnte ein LLM seine Vorhersagen auch mit Erklärungen in einfacher Sprache versehen, sodass ein Bediener besser verstehen könnte, warum ein LLM einen bestimmten Datenpunkt als anomal identifiziert hat.

Moderne Deep-Studying-Modelle schnitten jedoch deutlich besser ab als LLMs. Dies zeigt, dass noch viel zu tun ist, bevor ein LLM zur Anomalieerkennung eingesetzt werden kann.

„Was muss passieren, damit es so intestine abschneidet wie diese hochmodernen Modelle? Das ist die Millionenfrage, die uns derzeit beschäftigt. Ein LLM-basierter Anomaliedetektor muss für uns ein Wendepunkt sein, damit sich dieser Aufwand lohnt“, sagt Veeramachaneni.

In Zukunft möchten die Forscher prüfen, ob sich die Leistung durch Feinabstimmung verbessern lässt. Dies würde allerdings zusätzlichen Zeit- und Kostenaufwand sowie Fachwissen für die Schulung erfordern.

Ihre LLM-Ansätze benötigen zwischen 30 Minuten und zwei Stunden, um Ergebnisse zu liefern. Daher ist die Steigerung der Geschwindigkeit ein Schlüsselbereich zukünftiger Arbeiten. Die Forscher möchten LLMs auch untersuchen, um zu verstehen, wie sie Anomalien erkennen, in der Hoffnung, einen Weg zu finden, ihre Leistung zu steigern.

„Wenn es um komplexe Aufgaben wie die Erkennung von Anomalien in Zeitreihen geht, sind LLMs wirklich eine gute Wahl. Vielleicht können mit LLMs auch andere komplexe Aufgaben bewältigt werden?“, sagt Alnegheimish.

Diese Forschung wurde von SES SA, Iberdrola und ScottishPower Renewables sowie Hyundai Motor Firm unterstützt.

Da Modelle der künstlichen Intelligenz immer häufiger zum Einsatz kommen und in so unterschiedliche Bereiche wie Gesundheitswesen, Finanzen, Bildung, Transport und Unterhaltung integriert werden, ist es von entscheidender Bedeutung, zu verstehen, wie sie im Hintergrund funktionieren. Durch die Interpretation der Mechanismen, die KI-Modellen zugrunde liegen, können wir sie auf Sicherheit und Voreingenommenheit prüfen und so möglicherweise unser Verständnis der Wissenschaft hinter der Intelligenz selbst vertiefen.

Stellen Sie sich vor, wir könnten das menschliche Gehirn direkt untersuchen, indem wir jedes einzelne Neuron manipulieren, um ihre Rolle bei der Wahrnehmung eines bestimmten Objekts zu untersuchen. Während ein solches Experiment beim menschlichen Gehirn unerschwinglich invasiv wäre, ist es bei einem anderen Typ neuronalen Netzwerks, einem künstlichen, machbarer. Künstliche Modelle mit Millionen von Neuronen sind jedoch – ähnlich wie das menschliche Gehirn – zu groß und zu komplex, um sie manuell zu untersuchen, was die Interpretierbarkeit im großen Maßstab zu einer sehr anspruchsvollen Aufgabe macht.

Um dieses Drawback zu lösen, entschieden sich die Forscher des Laptop Science and Synthetic Intelligence Laboratory (CSAIL) des MIT für einen automatisierten Ansatz zur Interpretation künstlicher Bildmodelle, die verschiedene Eigenschaften von Bildern bewerten. Sie entwickelten „MAIA“ (Multimodal Automated Interpretability Agent), ein System, das eine Vielzahl von Interpretieraufgaben neuronaler Netzwerke mithilfe eines Bildsprachenmodell-Backbones automatisiert, das mit Instruments zum Experimentieren mit anderen KI-Systemen ausgestattet ist.

„Unser Ziel ist es, einen KI-Forscher zu schaffen, der Interpretierbarkeitsexperimente autonom durchführen kann. Bestehende automatisierte Interpretierbarkeitsmethoden kennzeichnen oder visualisieren Daten lediglich in einem einmaligen Prozess. MAIA hingegen kann Hypothesen generieren, Experimente zu deren Prüfung entwerfen und sein Verständnis durch iterative Analyse verfeinern“, sagt Tamar Rott Shaham, Postdoc für Elektrotechnik und Informatik (EECS) am CSAIL des MIT und Co-Autorin eines neuen Papier über die Forschung„Durch die Kombination eines vorab trainierten Imaginative and prescient-Language-Modells mit einer Bibliothek aus Interpretierbarkeitstools kann unsere multimodale Methode auf Benutzeranfragen reagieren, indem sie gezielte Experimente an bestimmten Modellen erstellt und durchführt und ihren Ansatz kontinuierlich verfeinert, bis sie eine umfassende Antwort liefern kann.“

Der automatisierte Agent bewältigt drei Hauptaufgaben: Er beschriftet einzelne Komponenten in Bildmodellen und beschreibt die visuellen Konzepte, die sie aktivieren, er bereinigt Bildklassifizierer, indem er irrelevante Merkmale entfernt, um sie robuster gegenüber neuen Situationen zu machen, und er sucht nach versteckten Verzerrungen in KI-Systemen, um potenzielle Fairnessprobleme in ihren Ergebnissen aufzudecken. „Ein wesentlicher Vorteil eines Techniques wie MAIA ist jedoch seine Flexibilität“, sagt Sarah Schwettmann PhD ’21, Wissenschaftlerin am CSAIL und Co-Leiterin der Forschung. „Wir haben die Nützlichkeit von MAIA anhand einiger spezifischer Aufgaben demonstriert, aber da das System auf einem Basismodell mit umfassenden Denkfähigkeiten aufbaut, kann es viele verschiedene Arten von Interpretierbarkeitsanfragen von Benutzern beantworten und spontan Experimente entwerfen, um diese zu untersuchen.“

Neuron für Neuron

In einer Beispielaufgabe bittet ein menschlicher Benutzer MAIA, die Konzepte zu beschreiben, für deren Erkennung ein bestimmtes Neuron in einem Sehmodell verantwortlich ist. Um diese Frage zu untersuchen, verwendet MAIA zunächst ein Software, das „Datensatzexemplare“ aus dem ImageNet-Datensatz abruft, die das Neuron maximal aktivieren. Für dieses Beispielneuron zeigen diese Bilder Menschen in formeller Kleidung und Nahaufnahmen ihrer Kinn- und Halspartie. MAIA stellt verschiedene Hypothesen darüber auf, was die Aktivität des Neurons antreibt: Gesichtsausdrücke, Kinnpartien oder Krawatten. MAIA verwendet dann seine Instruments, um Experimente zu entwerfen und jede Hypothese einzeln zu testen, indem synthetische Bilder generiert und bearbeitet werden – in einem Experiment erhöht das Hinzufügen einer Fliege zu einem Bild eines menschlichen Gesichts die Reaktion des Neurons. „Mit diesem Ansatz können wir die spezifische Ursache der Aktivität des Neurons bestimmen, ähnlich wie bei einem echten wissenschaftlichen Experiment“, sagt Rott Shaham.

MAIAs Erklärungen des Neuronenverhaltens werden auf zwei Arten ausgewertet. Zunächst werden synthetische Systeme mit bekannten Grundverhaltensweisen verwendet, um die Genauigkeit von MAIAs Interpretationen zu beurteilen. Zweitens entwickeln die Autoren für „echte“ Neuronen in trainierten KI-Systemen ohne Grundverhaltensbeschreibungen ein neues automatisiertes Auswertungsprotokoll, das misst, wie intestine MAIAs Beschreibungen das Neuronenverhalten anhand unbekannter Daten vorhersagen.

Die von CSAIL geleitete Methode übertraf Basismethoden, die einzelne Neuronen in einer Vielzahl von Bildverarbeitungsmodellen wie ResNet, CLIP und dem Bildverarbeitungstransformator DINO beschreiben. MAIA zeigte auch bei dem neuen Datensatz synthetischer Neuronen mit bekannten Grundbeschreibungen gute Ergebnisse. Sowohl für die realen als auch für die synthetischen Systeme waren die Beschreibungen oft auf Augenhöhe mit Beschreibungen, die von menschlichen Experten verfasst wurden.

Inwiefern sind Beschreibungen von KI-Systemkomponenten, wie beispielsweise einzelnen Neuronen, nützlich? „Das Verstehen und Lokalisieren von Verhaltensweisen innerhalb großer KI-Systeme ist ein wesentlicher Bestandteil der Sicherheitsüberprüfung dieser Systeme vor ihrem Einsatz – in einigen unserer Experimente zeigen wir, wie MAIA verwendet werden kann, um Neuronen mit unerwünschtem Verhalten zu finden und dieses Verhalten aus einem Modell zu entfernen“, sagt Schwettmann. „Wir arbeiten an einem widerstandsfähigeren KI-Ökosystem, in dem Instruments zum Verstehen und Überwachen von KI-Systemen mit der System-Skalierung Schritt halten, sodass wir unvorhergesehene Herausforderungen, die durch neue Modelle entstehen, untersuchen und hoffentlich verstehen können.“

Ein Blick ins Innere neuronaler Netzwerke

Das junge Feld der Interpretierbarkeit entwickelt sich parallel zur Verbreitung von „Black Field“-Maschinenlernmodellen zu einem eigenständigen Forschungsgebiet. Wie können Forscher diese Modelle entschlüsseln und ihre Funktionsweise verstehen?

Aktuelle Methoden, um Einblicke in die Materie zu erhalten, sind entweder in ihrem Umfang oder in der Genauigkeit der Erklärungen, die sie liefern können, begrenzt. Darüber hinaus sind bestehende Methoden in der Regel auf ein bestimmtes Modell und eine bestimmte Aufgabe zugeschnitten. Dies veranlasste die Forscher zu der Frage: Wie können wir ein generisches System aufbauen, das Benutzern hilft, Fragen zur Interpretierbarkeit von KI-Modellen zu beantworten und dabei die Flexibilität menschlicher Experimente mit der Skalierbarkeit automatisierter Techniken zu kombinieren?

Ein kritischer Bereich, den dieses System angehen sollte, struggle die Verzerrung. Um festzustellen, ob Bildklassifizierer eine Verzerrung gegenüber bestimmten Unterkategorien von Bildern zeigten, untersuchte das Staff die letzte Ebene des Klassifizierungsstroms (in einem System, das zum Sortieren oder Beschriften von Elementen entwickelt wurde, ähnlich einer Maschine, die erkennt, ob ein Foto einen Hund, eine Katze oder einen Vogel zeigt) und die Wahrscheinlichkeitswerte der Eingabebilder (Vertrauensstufen, die die Maschine ihren Vermutungen zuweist). Um mögliche Verzerrungen bei der Bildklassifizierung zu verstehen, wurde MAIA gebeten, eine Teilmenge von Bildern in bestimmten Klassen (z. B. „Labrador Retriever“) zu finden, die vom System wahrscheinlich falsch beschriftet wurden. In diesem Beispiel stellte MAIA fest, dass Bilder von schwarzen Labradoren wahrscheinlich falsch klassifiziert wurden, was auf eine Verzerrung des Modells zugunsten gelbfelliger Retriever hindeutet.

Da MAIA bei der Versuchsplanung auf externe Instruments angewiesen ist, wird seine Leistung durch die Qualität dieser Instruments begrenzt. Aber mit der Verbesserung der Qualität von Instruments wie Bildsynthesemodellen wird sich auch MAIA verbessern. MAIA zeigt manchmal auch Bestätigungsfehler, wenn es seine ursprüngliche Hypothese fälschlicherweise bestätigt. Um dies zu mildern, haben die Forscher ein Bild-zu-Textual content-Software entwickelt, das eine andere Instanz des Sprachmodells verwendet, um Versuchsergebnisse zusammenzufassen. Ein weiterer Fehlermodus ist die Überanpassung an ein bestimmtes Experiment, bei der das Modell manchmal voreilige Schlussfolgerungen auf der Grundlage minimaler Beweise zieht.

„Ich denke, ein natürlicher nächster Schritt für unser Labor ist, über künstliche Systeme hinauszugehen und ähnliche Experimente auf die menschliche Wahrnehmung anzuwenden“, sagt Rott Shaham. „Um dies zu testen, mussten traditionell Reize manuell entworfen und getestet werden, was arbeitsintensiv ist. Mit unserem Agenten können wir diesen Prozess skalieren und zahlreiche Reize gleichzeitig entwerfen und testen. Dies könnte es uns auch ermöglichen, die menschliche visuelle Wahrnehmung mit künstlichen Systemen zu vergleichen.“

„Neuronale Netzwerke zu verstehen ist für Menschen schwierig, da sie über Hunderttausende von Neuronen verfügen, von denen jedes über komplexe Verhaltensmuster verfügt. MAIA hilft, diese Hürde zu nehmen, indem es KI-Agenten entwickelt, die diese Neuronen automatisch analysieren und die Ergebnisse in verständlicher Type an den Menschen zurückmelden können“, sagt Jacob Steinhardt, Assistenzprofessor an der College of California in Berkeley, der nicht an der Forschung beteiligt struggle. „Die Skalierung dieser Methoden könnte einer der wichtigsten Wege zum Verständnis und zur sicheren Überwachung von KI-Systemen sein.“

Rott Shaham und Schwettmann werden von fünf anderen CSAIL-Mitgliedern an der Arbeit unterstützt: dem Bachelorstudenten Franklin Wang, dem angehenden MIT-Studenten Achyuta Rajaram, dem EECS-Doktoranden Evan Hernandez SM ’22 sowie den EECS-Professoren Jacob Andreas und Antonio Torralba. Ihre Arbeit wurde teilweise vom MIT-IBM Watson AI Lab, Open Philanthropy, Hyundai Motor Co., dem Military Analysis Laboratory, Intel, der Nationwide Science Basis, dem Zuckerman STEM Management Program und dem Viterbi Fellowship unterstützt. Die Ergebnisse der Forscher werden diese Woche auf der Worldwide Convention on Machine Studying vorgestellt.

Ein neues Software erleichtert Datenbankbenutzern die Durchführung komplizierter statistischer Analysen tabellarischer Daten, ohne dass sie wissen müssen, was hinter den Kulissen vor sich geht.

GenSQL, ein generatives KI-System für Datenbanken, könnte Benutzern dabei helfen, mit nur wenigen Tastenanschlägen Vorhersagen zu treffen, Anomalien zu erkennen, fehlende Werte zu erraten, Fehler zu beheben oder synthetische Daten zu generieren.

Würde das System beispielsweise zur Analyse der medizinischen Daten eines Patienten eingesetzt, der schon immer unter Bluthochdruck litt, könnte es einen Blutdruckwert ermitteln, der bei dem betreffenden Patienten zwar niedrig ist, ansonsten aber im normalen Bereich liegt.

GenSQL integriert automatisch einen tabellarischen Datensatz und ein generatives probabilistisches KI-Modell, das Unsicherheiten berücksichtigen und die Entscheidungsfindung auf der Grundlage neuer Daten anpassen kann.

Darüber hinaus kann GenSQL verwendet werden, um synthetische Daten zu erzeugen und zu analysieren, die die realen Daten in einer Datenbank nachahmen. Dies kann insbesondere in Situationen nützlich sein, in denen vertrauliche Daten nicht weitergegeben werden können, wie z. B. Patientenakten, oder wenn reale Daten spärlich sind.

Dieses neue Software basiert auf SQL, einer Programmiersprache zum Erstellen und Bearbeiten von Datenbanken, die Ende der 1970er Jahre eingeführt wurde und von Millionen Entwicklern weltweit verwendet wird.

„Historisch hat SQL der Geschäftswelt beigebracht, was ein Laptop kann. Sie mussten keine benutzerdefinierten Programme schreiben, sondern nur in einer höheren Programmiersprache Fragen an eine Datenbank stellen. Wir glauben, dass wir, wenn wir von der bloßen Datenabfrage zur Befragung von Modellen und Daten übergehen, eine analoge Sprache benötigen, die den Menschen die zusammenhängenden Fragen beibringt, die sie einem Laptop stellen können, der ein probabilistisches Modell der Daten hat“, sagt Vikash Mansinghka ’05, MEng ’09, PhD ’09, leitender Autor eines Papier zur Einführung in GenSQL und leitender Forschungswissenschaftler und Leiter des Probabilistic Computing Undertaking in der Abteilung für Gehirn- und Kognitionswissenschaften des MIT.

Als die Forscher GenSQL mit gängigen, KI-basierten Ansätzen zur Datenanalyse verglichen, stellten sie fest, dass es nicht nur schneller conflict, sondern auch genauere Ergebnisse lieferte. Wichtig ist, dass die von GenSQL verwendeten Wahrscheinlichkeitsmodelle erklärbar sind, sodass Benutzer sie lesen und bearbeiten können.

„Wenn man sich die Daten ansieht und versucht, mithilfe einiger einfacher statistischer Regeln aussagekräftige Muster zu finden, übersieht man möglicherweise wichtige Interaktionen. Man möchte in einem Modell die Korrelationen und Abhängigkeiten der Variablen erfassen, die recht kompliziert sein können. Mit GenSQL möchten wir einer großen Anzahl von Benutzern ermöglichen, ihre Daten und ihr Modell abzufragen, ohne alle Particulars kennen zu müssen“, fügt Hauptautor Mathieu Huot hinzu, ein Wissenschaftler in der Abteilung für Gehirn- und Kognitionswissenschaften und Mitglied des Probabilistic Computing Undertaking.

An dem Papier beteiligen sich Matin Ghavami und Alexander Lew, MIT-Studenten, Cameron Freer, ein Wissenschaftler, Ulrich Schaechtle und Zane Shelby von Digital Storage, Martin Rinard, ein MIT-Professor in der Abteilung für Elektrotechnik und Informatik und Mitglied des Laptop Science and Synthetic Intelligence Laboratory (CSAIL), sowie Feras Saad (Abschlussjahr 2015, MEng 2016, PhD 2022, Assistenzprofessor an der Carnegie Mellon College. Die Forschungsergebnisse wurden kürzlich auf der ACM-Konferenz zum Entwurf und zur Implementierung von Programmiersprachen vorgestellt.

Modelle und Datenbanken kombinieren

SQL steht für Structured Question Language und ist eine Programmiersprache zum Speichern und Bearbeiten von Informationen in einer Datenbank. In SQL können Benutzer mithilfe von Schlüsselwörtern Abfragen zu Daten stellen, beispielsweise durch Summieren, Filtern oder Gruppieren von Datenbankeinträgen.

Die Abfrage eines Modells kann jedoch tiefere Einblicke liefern, da Modelle erfassen können, was Daten für eine Einzelperson bedeuten. Eine Entwicklerin, die sich beispielsweise fragt, ob sie unterbezahlt ist, interessiert sich wahrscheinlich eher dafür, was Gehaltsdaten für sie persönlich bedeuten, als für Developments aus Datenbankeinträgen.

Den Forschern fiel auf, dass SQL keine effektive Möglichkeit bot, probabilistische KI-Modelle einzubinden. Gleichzeitig unterstützten Ansätze, die probabilistische Modelle zur Schlussfolgerung nutzen, jedoch keine komplexen Datenbankabfragen.

Um diese Lücke zu schließen, haben sie GenSQL entwickelt, das es ermöglicht, sowohl einen Datensatz als auch ein Wahrscheinlichkeitsmodell mithilfe einer einfachen, aber leistungsstarken formalen Programmiersprache abzufragen.

Ein GenSQL-Benutzer lädt seine Daten und sein Wahrscheinlichkeitsmodell hoch, die das System automatisch integriert. Anschließend kann er Abfragen für Daten ausführen, die auch Eingaben vom Wahrscheinlichkeitsmodell erhalten, das im Hintergrund ausgeführt wird. Dies ermöglicht nicht nur komplexere Abfragen, sondern kann auch genauere Antworten liefern.

Eine Abfrage in GenSQL könnte beispielsweise lauten: „Wie wahrscheinlich ist es, dass ein Entwickler aus Seattle die Programmiersprache Rust kennt?“ Wenn man nur die Korrelation zwischen Spalten in einer Datenbank betrachtet, können subtile Abhängigkeiten übersehen werden. Durch die Einbindung eines Wahrscheinlichkeitsmodells können komplexere Interaktionen erfasst werden.

Darüber hinaus sind die Wahrscheinlichkeitsmodelle, die GenSQL verwendet, überprüfbar, sodass Benutzer sehen können, welche Daten das Modell zur Entscheidungsfindung verwendet. Darüber hinaus bieten diese Modelle zusammen mit jeder Antwort kalibrierte Unsicherheitsmaße.

Wenn beispielsweise mit dieser kalibrierten Unsicherheit das Modell nach den prognostizierten Ergebnissen verschiedener Krebsbehandlungen für einen Patienten aus einer im Datensatz unterrepräsentierten Minderheitengruppe abgefragt wird, teilt GenSQL dem Benutzer mit, dass und wie unsicher die Unsicherheit ist, anstatt allzu selbstsicher die falsche Behandlung zu befürworten.

Schnellere und genauere Ergebnisse

Um GenSQL zu evaluieren, verglichen die Forscher ihr System mit gängigen Basismethoden, die neuronale Netzwerke verwenden. GenSQL conflict zwischen 1,7 und 6,8 ​​Mal schneller als diese Ansätze, führte die meisten Abfragen in wenigen Millisekunden aus und lieferte dabei genauere Ergebnisse.

Sie haben GenSQL auch in zwei Fallstudien angewendet: In einer davon identifizierte das System falsch gekennzeichnete Daten aus klinischen Studien und in der anderen generierte es genaue synthetische Daten, die komplexe Zusammenhänge in der Genomik erfassten.

Als nächstes wollen die Forscher GenSQL breiter anwenden, um groß angelegte Modelle menschlicher Populationen durchzuführen. Mit GenSQL können sie synthetische Daten generieren, um Rückschlüsse auf Dinge wie Gesundheit und Gehalt zu ziehen und gleichzeitig kontrollieren, welche Informationen in der Analyse verwendet werden.

Sie möchten GenSQL außerdem benutzerfreundlicher und leistungsfähiger machen, indem sie dem System neue Optimierungen und Automatisierungen hinzufügen. Langfristig möchten die Forscher es Benutzern ermöglichen, Abfragen in natürlicher Sprache in GenSQL zu stellen. Ihr Ziel ist es, irgendwann einen ChatGPT-ähnlichen KI-Experten zu entwickeln, mit dem man über jede beliebige Datenbank sprechen kann und der seine Antworten auf GenSQL-Abfragen stützt.

Diese Forschung wird zum Teil von der Protection Superior Analysis Tasks Company (DARPA), Google und der Siegel Household Basis finanziert.