Künstliche Intelligenzsysteme wie ChatGPT geben plausibel klingende Antworten auf jede Frage, die Sie möglicherweise stellen. Aber sie zeigen nicht immer die Lücken in ihrem Wissen oder in Bereichen, in denen sie sich nicht sicher sind. Dieses Drawback kann enorme Konsequenzen haben, da KI -Systeme zunehmend dazu verwendet werden, Dinge wie Arzneimittel zu entwickeln, Informationen zu synthetisieren und autonome Autos voranzutreiben.
Jetzt hilft die KI der MIT -Spinout -KI bei der Quantifizierung der Modellunsicherheit und der korrekten Ausgaben, bevor sie größere Probleme verursachen. Die CAPSA-Plattform des Unternehmens kann mit jedem maschinellen Lernmodell zusammenarbeiten, um unzuverlässige Ausgaben in Sekunden zu erkennen und zu korrigieren. Es wird geändert, indem sie KI -Modelle ändern, damit sie Muster in ihrer Datenverarbeitung erkennen können, die Unklarheiten, Unvollständigkeit oder Verzerrung anzeigen.
„Die Idee ist, ein Modell zu nehmen, es in Capsa zu wickeln, die Unsicherheiten und Misserfolgsmodi des Modells zu identifizieren und dann das Modell zu verbessern“, sagt Daniela Rus, Mitbegründerin und MIT-Professorin von Themis AI, der auch Direktor der MIT Informatik und Labor für künstliche Intelligenz (CSAIL) ist. „Wir freuen uns, eine Lösung anzubieten, die Modelle verbessern und garantiert, dass das Modell korrekt funktioniert.“
Rus gründete Themis AI im Jahr 2021 mit Alexander Amini ’17, SM ’18, PhD ’22 und Elaheh Ahmadi ’20, Meng ’21, zwei ehemaligen Forschungsunternehmen in ihrem Labor. Seitdem haben sie Telekommunikationsunternehmen mit Netzwerkplanung und -automatisierung geholfen, Öl- und Gasunternehmen bei der Nutzung von KI geholfen, seismische Bilder zu verstehen und Papiere zur Entwicklung zuverlässigerer und vertrauenswürdigerer Chatbots zu veröffentlichen.
„Wir möchten KI in den Anwendungen mit den höchsten Einsätzen jeder Branche ermöglichen“, sagt Amini. „Wir alle haben Beispiele für KI -Halluzinierung oder Fehler gemacht. Da KI allgemeiner eingesetzt wird, können diese Fehler zu verheerenden Folgen führen. Themis macht es möglich, dass jede KI ihre eigenen Fehler prognostizieren und vorhersagen kann, bevor sie stattfinden.“
Helfen Sie, Modellen zu wissen, was sie nicht wissen
Rus ‚Labor untersucht seit Jahren Modellunsicherheit. Im Jahr 2018 erhielt sie von Toyota Mittel, um die Zuverlässigkeit einer autonomen Fahrlösung für maschinelles Lernen zu untersuchen.
„Das ist ein sicherheitskritischer Kontext, in dem das Verständnis der Modellzuverlässigkeit sehr wichtig ist“, sagt Rus.
In separat arbeitenRUS, Amini und ihre Mitarbeiter bauten einen Algorithmus auf, der rassistische und geschlechtsspezifische Vorspannungen in Gesichtserkennungssystemen erkennen und die Trainingsdaten des Modells automatisch neu gewichtet und zeigt, dass sie die Verzerrung beseitigt. Der Algorithmus arbeitete, indem er die nicht repräsentativen Teile der zugrunde liegenden Trainingsdaten identifizierte und neue, ähnliche Datenproben generierte, um sie wieder auszurichten.
Im Jahr 2021 zeigten die späteren Mitbegründer a Ähnlicher Ansatz könnte verwendet werden, um Pharmaunternehmen bei der Verwendung von AI -Modellen zu helfen, die Eigenschaften von Arzneimittelkandidaten vorherzusagen. Sie gründeten Themis AI später in diesem Jahr.
„Die Leitfunktion der Drogenentdeckung könnte möglicherweise viel Geld sparen“, sagt Rus. „Das warfare der Anwendungsfall, der uns erkennen musste, wie mächtig dieses Instrument sein könnte.“
Heute arbeitet Themis AI mit Unternehmen in einer Vielzahl von Branchen zusammen, und viele dieser Unternehmen bauen großsprachige Modelle auf. Durch die Verwendung von CAPSA können diese Modelle ihre eigene Unsicherheit für jeden Ausgang quantifizieren.
„Viele Unternehmen sind daran interessiert, LLMs zu verwenden, die auf ihren Daten basieren, aber sie sind besorgt über Zuverlässigkeit“, bemerkt Stewart Jamieson SM ’20, PhD ’24, Technologieführer von Themis AI. „Wir helfen LLMs, ihr Selbstvertrauen und ihre Unsicherheit selbst zu berichten, was eine zuverlässigere Fragen zur Beantwortung und Markierung unzuverlässiger Ausgänge ermöglicht.“
Themis AI befindet sich auch in Diskussionen mit Halbleiterunternehmen, die KI -Lösungen auf ihren Chips aufbauen, die außerhalb von Cloud -Umgebungen arbeiten können.
„Normalerweise sind diese kleineren Modelle, die an Telefonen oder eingebetteten Systemen arbeiten, nicht sehr genau im Vergleich zu dem, was Sie auf einem Server ausführen konnten, aber wir können das Beste aus beiden Welten erhalten: Niedrige Latenz, effizientes Edge -Computing, ohne die Qualität zu beeinträchtigen“, erklärt Jamieson. „Wir sehen eine Zukunft, in der Edge -Geräte den größten Teil der Arbeit erledigen, aber wenn sie sich nicht sicher sind, können sie diese Aufgaben an einen zentralen Server weiterleiten.“
Pharmaunternehmen können auch CAPSA verwenden, um KI -Modelle zu verbessern, um Arzneimittelkandidaten zu identifizieren und ihre Leistung in klinischen Studien vorherzusagen.
„Die Vorhersagen und Ausgaben dieser Modelle sind sehr komplex und schwer zu interpretieren – Experten verbringen viel Zeit und Mühe, um sie zu verstehen“, bemerkt Amini. „Capsa kann direkt aus dem Tor Erkenntnisse geben, um zu verstehen, ob die Vorhersagen durch Beweise im Trainingssatz unterstützt werden oder nur Spekulationen ohne viel Grundlage sind. Dies kann die Identifizierung der stärksten Vorhersagen beschleunigen, und wir glauben, dass dies ein großes Potenzial für gesellschaftliche Goodes hat.“
Forschungsforschung
Das Group von Themis AI ist der Ansicht, dass das Unternehmen intestine positioniert ist, um die Spitze der sich ständig weiterentwickelnden KI-Technologie zu verbessern. Zum Beispiel untersucht das Unternehmen die Fähigkeit von CAPSA, die Genauigkeit in einer KI-Technik zu verbessern, die als Argumentation der Kette bekannt ist, in der LLMs die Schritte erklären, die es unternimmt, um eine Antwort zu erhalten.
„Wir haben gesehen, dass Capsa bei Schildern dazu beitragen könnte, diese Argumentationsprozesse zu leiten, um die höchsten Konfidenzketten von Argumentation zu identifizieren“, sagt Jamieson. „Wir glauben, dass dies enorme Auswirkungen auf die Verbesserung der LLM-Erfahrung, die Reduzierung von Latenzen und die Reduzierung der Berechnungsanforderungen hat. Dies ist eine äußerst wirkungsvolle Gelegenheit für uns.“
Für RUS, der seit der Ankunft mehrerer Unternehmen mehrere Unternehmen mitbegründet hat, ist Themis AI eine Gelegenheit, um sicherzustellen, dass ihre MIT-Forschung Auswirkungen hat.
„Meine Schüler und ich sind immer leidenschaftlicher, den zusätzlichen Schritt zu machen, um unsere Arbeit für die Welt related zu machen“, sagt Rus. „AI hat ein enormes Potenzial, Branchen zu verändern, aber AI wirft auch Bedenken aus. Was mich begeistern, ist die Möglichkeit, technische Lösungen zu entwickeln, die diese Herausforderungen ansprechen und auch Vertrauen und Verständnis zwischen Menschen und den Technologien aufbauen, die Teil ihres täglichen Lebens werden.“