Forscher aus dem Labor für Informatik und künstliche Intelligenz des MIT (CSAIL) haben ein neuartiges Modell für künstliche Intelligenz entwickelt, das von neuronalen Schwingungen im Gehirn inspiriert ist, mit dem Ziel, die Algorithmen des maschinellen Lernens erheblich voranzutreiben.
KI kämpft häufig mit der Analyse komplexer Informationen, die sich über längere Zeiträume entfalten, wie Klimaketrends, biologische Signale oder Finanzdaten. Eine neue Artwork von AI-Modell, die als „State-Area-Modelle“ bezeichnet wird, wurde speziell entwickelt, um diese sequentiellen Muster effektiver zu verstehen. Bestehende Staatsraummodelle stehen jedoch häufig vor Herausforderungen-sie können instabil werden oder bei der Verarbeitung langer Datensequenzen eine erhebliche Menge an Rechenressourcen erfordern.
Um diese Themen anzugehen, haben CSAIL-Forscher T. Konstantin Rusch und Daniela Rus das entwickelt, was sie als „lineare oszillatorische Zustandsraummodelle“ (Linoss) bezeichnen, die Prinzipien von erzwungenen harmonischen Oszillatoren nutzen-ein Konzept, das tief in Physik verwurzelt ist und in biologischen neuralen Netzwerken beobachtet wurde. Dieser Ansatz liefert stabile, ausdrucksstarke und rechnerisch effiziente Vorhersagen ohne übermäßig restriktive Bedingungen für die Modellparameter.
„Unser Ziel warfare es, die Stabilität und Effizienz in biologischen neuronalen Systemen zu erfassen und diese Prinzipien in einen Rahmen für maschinelles Lernen umzusetzen“, erklärt Rusch. „Mit Linoss können wir jetzt langfristige Interaktionen zuverlässig lernen, selbst in Sequenzen, die sich über Hunderttausende von Datenpunkten oder mehr erstrecken.“
Das Linoss -Modell ist einzigartig, um eine stabile Vorhersage zu gewährleisten, indem weit weniger restriktive Designentscheidungen erforderlich sind als frühere Methoden. Darüber hinaus haben die Forscher die universelle Annäherungsfähigkeiten des Modells streng bewiesen, was bedeutet, dass sie jede kontinuierliche, kausale Funktion für Eingangs- und Ausgangssequenzen annähern kann.
Empirische Checks zeigten, dass Linoss bestehende modernste Modelle in verschiedenen anspruchsvollen Sequenzklassifizierungs- und Prognoseaufgaben konsequent übertroffen hat. Bemerkenswerterweise übertraf Linoss das weit verbreitete Mamba-Modell um quick zweimal bei Aufgaben mit Sequenzen mit extremer Länge.
Die Forschung wurde für eine mündliche Präsentation bei ICLR 2025 ausgewählt – eine Ehre, die nur den Prime -1 -Prozent der Einreichungen ausgezeichnet wurde. Die MIT-Forscher gehen davon aus, dass das Linoss-Modell auf Bereiche, die von einer genauen und effizienten Prognose und Klassifizierung von Langzeithorizonsen profitieren würden, einschließlich Gesundheitsanalysen, Klimaforten, autonomes Fahren und finanzielle Prognosen, erheblich beeinflussen könnten.
„Diese Arbeit veranschaulicht, wie mathematische Strenge zu Leistungsbrachdurchbrüchen und breiten Anwendungen führen kann“, sagt Rus. „Mit Linoss bieten wir der wissenschaftlichen Gemeinschaft ein leistungsstarkes Instrument zum Verständnis und Vorhersage komplexer Systeme, wodurch die Lücke zwischen biologischer Inspiration und rechnerischer Innovation geschlossen wird.“
Das Group stellt sich vor, dass die Entstehung eines neuen Paradigmas wie Linoss für maschinelle Lernen von Praktikern von Interesse sein wird. Mit Blick auf die Zukunft planen die Forscher, ihr Modell auf eine noch größere Reihe verschiedener Datenmodalitäten anzuwenden. Darüber hinaus schlagen sie vor, dass Linoss wertvolle Einblicke in die Neurowissenschaften liefern und möglicherweise unser Verständnis des Gehirns selbst vertieft.
Ihre Arbeit wurde von der Swiss Nationwide Science Basis, dem Schmidt AI2050 -Programm und dem US -amerikanischen Division of the Air Drive künstliche Intelligenzbeschleuniger unterstützt.