Agentische Workflows sind auf künstlicher Intelligenz basierende Softwaresysteme, die mehrere Modelle und externe Instruments miteinander verketten, um komplizierte Aufgaben wie die Analyse eines Movies und die Beantwortung von Fragen dazu zu bewältigen.

Doch die Artwork und Weise, wie diese stark fragmentierten Systeme entworfen und eingesetzt werden, führt oft zu Ineffizienzen, die zu Rechen-, Energie- und Kostenverschwendung führen können.

Um die Effizienz zu verbessern, haben Forscher vom MIT und Microsoft ein intelligentes System entwickelt, das den Prozess der Gestaltung von Agenten-Workflows rationalisiert und automatisch optimiert, wie diese Workflows implementiert werden.

Mit dieser neuen Methode kann ein Entwickler im Klartext beschreiben, was der Agent-Workflow tun soll, ohne im Voraus alle Particulars seiner Anwendung angeben zu müssen.

Das System ermittelt automatisch die besten zu verwendenden Modelle und Instruments sowie die ideale Hardwarekonfiguration und Rechenressourcenzuweisung, wenn der Workflow von einem Cloud-Anbieter ausgeführt wird.

Es passt diese Konfigurationen im Handumdrehen an die Prioritäten jedes Benutzers an, z. B. Kostenminimierung oder Geschwindigkeitsmaximierung.

Beim Check auf mehreren Agenten-Workloads reduzierte dieses neue System die Anzahl der für die Bereitstellung erforderlichen Recheneinheiten und senkte so den Energiebedarf und die Kosten im Vergleich zu herkömmlichen Ansätzen erheblich, ohne die Leistung zu beeinträchtigen.

„Agentische Arbeitsabläufe werden immer komplizierter und entwickeln sich schnell zum Rückgrat dessen, was Cloud-Anbieter tun. Der Energieverbrauch ist ein großes Downside, deshalb müssen wir sehr vorsichtig sein, wie effizient diese Arbeitsabläufe sind. Es ist sehr leicht, Ressourcen zu stark zuzuweisen und Energie und Geld zu verschwenden. Einen Cloud-Anbieter in die Lage zu versetzen, diese Arbeitsabläufe auf intelligente Weise ressourcenoptimaler zu gestalten, ist ein Gewinn für alle Beteiligten“, sagt Gohar Chaudhry, ein Doktorand der Elektrotechnik und Informatik (EECS) und Hauptautor von a Papier zu diesem System.

Er wird bei dem Artikel von Adam Belay unterstützt, einem außerordentlichen Professor der EECS und Mitglied des MIT Pc Science and Synthetic Intelligence Laboratory; leitender Autor Ricardo Bianchini, technischer Mitarbeiter und Company Vice President bei Microsoft Azure; und andere bei Microsoft Azure. Das Papier wird auf dem USENIX Symposium on Working Methods Design and Implementation vorgestellt.

Ein Konfigurationsrätsel

Ein Agenten-Workflow ist ein System, das aus mehreren autonomen KI-Agenten besteht, die gemeinsam verschiedene Modelle und Instruments wie Datenbanken oder Python-Programme nutzen, um eine mehrstufige Aufgabe wie Datenverarbeitung oder Codegenerierung dynamisch abzuschließen.

Diese Workflows können als Prozesse hinter den Kulissen dienen, die benutzerorientierte Anwendungen unterstützen.

Normalerweise müssen Entwickler alle technischen Entscheidungen im Voraus fest programmieren. Sie müssen definieren, welche KI-Agenten, Modelle und Instruments verwendet werden sollen und in welcher Reihenfolge sie verwendet werden sollen. Sie müssen auch die {Hardware} angeben, die den Workflow ausführt, und wie Kompromisse wie Geschwindigkeit und Kosten in Einklang gebracht werden können.

Dies stellt eine besondere Herausforderung dar, da Agenten-Workflows mehrere Black-Field-Modelle und verschiedene Instruments mit jeweils eigenen Konfigurationsoptionen vereinen, die möglicherweise von verschiedenen Unternehmen angeboten werden.

Wenn ein neues KI-Modell veröffentlicht wird, das die Genauigkeit oder Effizienz der Anwendung verbessern würde, müsste der Entwickler bei der Implementierung bei Null anfangen.

„Selbst wenn Sie das alles manuell erledigen wollten, ist es unwahrscheinlich, dass Sie den Workflow optimum konfigurieren können, weil der Raum für mögliche Konfigurationen so groß ist“, sagt Chaudhry.

Darüber hinaus hat das Cloud-Rechenzentrum, das die Anwendung für Kunden bereitstellt, keinen Einblick in den Workflow, um seine Hardwareressourcen zum Zeitpunkt der Benutzeranfrage auf die effizienteste Weise zuzuweisen.

Mit diesem neuen System namens Murakkab (ein Urdu-Wort, das eine Zusammensetzung von Dingen bedeutet) versuchten die Forscher, den gesamten Agenten-Workflow-Prozess zu optimieren.

Dynamische Entscheidungsfindung

Erstens ermöglicht Murakkab Entwicklern die Erstellung eines Agenten-Workflows, indem sie ihre Absicht für die Anwendung auf allgemeiner Ebene beschreiben, anstatt detailliert zu beschreiben, wie Die vielen Komponenten dieses Workflows sollten kombiniert werden.

Beispielsweise könnte ein Entwickler eine Video-Q&A-Anwendung beschreiben, die Schlüsselbilder extrahiert, ein Transkript generiert und dann Benutzerfragen zum Video beantwortet.

„Es gibt viele Möglichkeiten, dies zu tun, und all diese unterschiedlichen Modelle und Instruments haben Auswirkungen darauf, wie schnell die Anwendung die Aufgabe erledigen kann“, sagt er.

Murakkab übernimmt die unkomplizierten Spezifikationen des Entwicklers und identifiziert automatisch die besten vorhandenen Modelle und Instruments, die in den Workflow integriert werden sollen.

Außerdem wird bestimmt, welche Komponenten nacheinander ausgeführt werden müssen und welche parallel ausgeführt werden können, um die Leistung zu steigern.

„Die Plattform trifft Konfigurationsentscheidungen dynamisch im Laufe der Zeit. Wenn additionally morgen ein neues Modell oder ein neuer GPU-Beschleuniger herauskommt, muss sich der Entwickler darüber keine Sorgen machen“, sagt er.

Wenn der Cloud-Anbieter diese Anwendung für einen Kunden bereitstellt, optimiert Murakkab den Arbeitsablauf, indem es seine Komponenten so konfiguriert, dass sie den Einschränkungen des Benutzers entsprechen, z. B. der Priorisierung der Genauigkeit bei gleichzeitiger Einhaltung einer Latenzanforderung.

Es identifiziert adaptiv die ideale Hardwarezuteilung und Bereitstellungspläne, um die Effizienz in Echtzeit zu maximieren, und generiert dann einen Workflow, der vom Cloud-Anbieter ausgeführt werden kann.

„Unser System bietet Cloud-Anbietern außerdem Einblick in mehrere Arbeitslasten, sodass der Anbieter Rechenressourcen auf die effizienteste Weise teilen und gleichzeitig den Einschränkungen der Benutzer gerecht werden kann“, sagt er.

Bei Exams mit verschiedenen Agenten-Workflows für Video-Fragen und -Antworten und Codegenerierung erfüllte Murakkab die Benutzeranforderungen und verbrauchte dabei nur etwa 35 Prozent der für andere Methoden erforderlichen Berechnungen. Es verbrauchte nur etwa 27 Prozent so viel Energie bei weniger als 25 Prozent der Kosten.

Die dynamische Natur von Murakkab ermöglicht es Benutzern auch, Kompromisse auszugleichen. In einem Fall senkte das System den Energieverbrauch eines Agenten-Workflows um mehr als eine Größenordnung, wobei die Genauigkeit für den Kunden nur um etwa 2 Prozent sank.

Das System konnte außerdem eine unerwartet ideale Konfiguration für ein Modell identifizieren, das Videobilder auswählt und so die Leistung für eine Video-Frage-und-Antwort-Aufgabe optimiert. Diese Artwork der Optimierung wäre für einen Entwickler manuell nahezu unmöglich, sagt Chaudhry.

Als nächstes planen die Forscher, ihr System auf komplexere Arbeitsabläufe und größere Computercluster zu erweitern und gleichzeitig Möglichkeiten zur Optimierung neuer Agentenanwendungen zu erkunden.

„Es gibt viel Potenzial, diese Arbeitsabläufe ressourcenoptimierter zu gestalten, sodass sie weitaus weniger Energie verbrauchen, aber wir müssen darüber auf der Ebene der großen Cloud-Plattformen nachdenken“, sagt Chaudhry.

Diese Forschung wurde teilweise von der Semiconductor Analysis Company und der US Protection Superior Analysis Initiatives Company unterstützt.

MIT-Forscher haben eine neue Herstellungsmethode entwickelt, die die Herstellung energieeffizienterer Elektronik durch Stapeln mehrerer Funktionskomponenten auf einem vorhandenen Schaltkreis ermöglichen könnte.

In herkömmlichen Schaltkreisen sind Logikbausteine, die Berechnungen durchführen, wie etwa Transistoren, und Speicherbausteine, die Daten speichern, als separate Komponenten aufgebaut, was dazu führt, dass Daten zwischen ihnen hin und her übertragen werden, was Energie verschwendet.

Diese neue Elektronik-Integrationsplattform ermöglicht es Wissenschaftlern, Transistoren und Speichergeräte in einem kompakten Stapel auf einem Halbleiterchip herzustellen. Dadurch wird ein Großteil dieser verschwendeten Energie eliminiert und gleichzeitig die Rechengeschwindigkeit erhöht.

Der Schlüssel zu diesem Fortschritt ist ein neu entwickeltes Materials mit einzigartigen Eigenschaften und einem präziseren Herstellungsansatz, der die Anzahl von Materialfehlern reduziert. Dies ermöglicht es den Forschern, extrem kleine Transistoren mit integriertem Speicher herzustellen, die schneller arbeiten als modernste Geräte und gleichzeitig weniger Strom verbrauchen als ähnliche Transistoren.

Durch die Verbesserung der Energieeffizienz elektronischer Geräte könnte dieser neue Ansatz dazu beitragen, den zunehmenden Stromverbrauch von Berechnungen zu reduzieren, insbesondere für anspruchsvolle Anwendungen wie generative KI, Deep Studying und Pc-Imaginative and prescient-Aufgaben.

„Wir müssen die Energiemenge, die wir in Zukunft für KI und andere datenzentrierte Berechnungen verbrauchen, minimieren, weil sie einfach nicht nachhaltig ist. Wir werden neue Technologien wie diese Integrationsplattform brauchen, um diesen Fortschritt fortzusetzen“, sagt Yanjie Shao, Postdoktorand am MIT und Hauptautor von zwei Artikeln über diese neuen Transistoren.

Die neue Technik wird in zwei Artikeln (von denen einer eingeladen wurde) beschrieben, die auf dem IEEE Worldwide Electron Gadgets Assembly vorgestellt wurden. Shao wird bei den Arbeiten von den leitenden Autoren Jesús del Alamo, dem Donner-Professor für Ingenieurwissenschaften an der MIT-Abteilung für Elektrotechnik und Informatik (EECS), begleitet; Dimitri Antoniadis, Ray und Maria Stata-Professor für Elektrotechnik und Informatik am MIT; sowie andere am MIT, der College of Waterloo und Samsung Electronics.

Das Downside umdrehen

Customary-CMOS-Chips (Complementary Steel-Oxide Semiconductor) verfügen traditionell über ein Entrance-Finish, in dem die aktiven Komponenten wie Transistoren und Kondensatoren hergestellt werden, und ein Again-Finish, das Drähte, sogenannte Verbindungen, und andere Metallverbindungen enthält, die Komponenten des Chips verbinden.

Bei der Datenübertragung zwischen diesen Verbindungen geht jedoch etwas Energie verloren, und geringfügige Fehlausrichtungen können die Leistung beeinträchtigen. Das Stapeln aktiver Komponenten würde die Distanz verringern, die Daten zurücklegen müssen, und die Energieeffizienz eines Chips verbessern.

Typischerweise ist es schwierig, Siliziumtransistoren auf einem CMOS-Chip zu stapeln, da die hohe Temperatur, die zur Herstellung zusätzlicher Geräte am Frontend erforderlich ist, die vorhandenen Transistoren darunter zerstören würde.

Die MIT-Forscher stellten dieses Downside auf den Kopf und entwickelten eine Integrationstechnik, um stattdessen aktive Komponenten auf der Rückseite des Chips zu stapeln.

„Wenn wir diese Again-Finish-Plattform nutzen können, um zusätzliche aktive Transistorschichten und nicht nur Verbindungen einzubauen, würde das die Integrationsdichte des Chips deutlich erhöhen und seine Energieeffizienz verbessern“, erklärt Shao.

Dies gelang den Forschern mithilfe eines neuen Supplies, amorphem Indiumoxid, als aktive Kanalschicht ihres Again-Finish-Transistors. In der aktiven Kanalschicht finden die wesentlichen Funktionen des Transistors statt.

Aufgrund der einzigartigen Eigenschaften von Indiumoxid können sie bei einer Temperatur von nur etwa 150 Grad Celsius eine extrem dünne Schicht dieses Supplies auf dem hinteren Ende eines bestehenden Schaltkreises „wachsen lassen“, ohne das Gerät am vorderen Ende zu beschädigen.

Den Prozess perfektionieren

Sie haben den Herstellungsprozess sorgfältig optimiert, wodurch die Anzahl der Defekte in einer nur etwa 2 Nanometer dicken Schicht aus Indiumoxidmaterial minimiert wird.

Einige Defekte, sogenannte Sauerstofffehlstellen, sind für das Einschalten des Transistors notwendig, bei zu vielen Defekten funktioniert er jedoch nicht richtig. Dieser optimierte Herstellungsprozess ermöglicht es den Forschern, einen extrem kleinen Transistor herzustellen, der schnell und sauber arbeitet und so einen Großteil der zusätzlichen Energie eliminiert, die zum Ein- und Ausschalten eines Transistors erforderlich ist.

Aufbauend auf diesem Ansatz stellten sie auch Again-Finish-Transistoren mit integriertem Speicher her, die nur etwa 20 Nanometer groß sind. Dazu fügten sie als Speicherkomponente eine Materialschicht namens ferroelektrisches Hafnium-Zirkonium-Oxid hinzu.

Diese kompakten Speichertransistoren zeigten Schaltgeschwindigkeiten von nur 10 Nanosekunden und stießen damit an die Grenzen der Messinstrumente des Groups. Diese Umschaltung erfordert außerdem eine viel geringere Spannung als vergleichbare Geräte, was den Stromverbrauch senkt.

Und weil die Speichertransistoren so winzig sind, können die Forscher sie als Plattform nutzen, um die grundlegende Physik einzelner Einheiten aus ferroelektrischem Hafnium-Zirkonium-Oxid zu untersuchen.

„Wenn wir die Physik besser verstehen, können wir dieses Materials für viele neue Anwendungen nutzen. Der Energieverbrauch ist sehr gering und es gibt uns viel Flexibilität bei der Gestaltung von Geräten. Es könnte wirklich viele neue Wege für die Zukunft eröffnen“, sagt Shao.

Die Forscher arbeiteten außerdem mit einem Group der College of Waterloo zusammen, um ein Modell der Leistung der Again-Finish-Transistoren zu entwickeln. Dies ist ein wichtiger Schritt, bevor die Geräte in größere Schaltkreise und elektronische Systeme integriert werden können.

In Zukunft wollen sie auf diesen Demonstrationen aufbauen, indem sie Again-Finish-Speichertransistoren in eine einzige Schaltung integrieren. Außerdem wollen sie die Leistung der Transistoren verbessern und untersuchen, wie sich die Eigenschaften des ferroelektrischen Hafnium-Zirkonium-Oxids genauer steuern lassen.

„Jetzt können wir eine Plattform vielseitiger Elektronik auf dem Backend eines Chips aufbauen, die es uns ermöglicht, eine hohe Energieeffizienz und viele verschiedene Funktionalitäten in sehr kleinen Geräten zu erreichen. Wir haben eine gute Gerätearchitektur und Materialien, mit denen wir arbeiten können, aber wir müssen weiter innovativ sein, um die ultimativen Leistungsgrenzen aufzudecken“, sagt Shao.

Diese Arbeit wird teilweise von Semiconductor Analysis Company (SRC) und Intel unterstützt. Die Herstellung erfolgte in den MIT Microsystems Know-how Laboratories und MIT.nano-Einrichtungen.

Der rasante Fortschritt von künstlicher Intelligenz (KI) und maschinellem Lernen (ML) verändert die Rechenzentrumslandschaft grundlegend. Sektoren wie das Gesundheitswesen, das Finanzwesen, die Fertigung und das Transportwesen beginnen, ausgefeilte Vorhersagealgorithmen zu nutzen. Da KI-Modelle immer ausgereifter werden und Unternehmen bestrebt sind, wachsende Datensätze zu verarbeiten, müssen Rechenzentren schnell skaliert werden, um immer komplexere Arbeitsabläufe zu unterstützen.

Rechenzentren benötigen aufgrund der enormen Rechenleistung, die für einen effizienten Betrieb erforderlich ist, große Mengen an Strom. Einige Führungskräfte haben insbesondere Bedenken hinsichtlich des hohen Energieverbrauchs von KI-Workloads geäußert und Bedenken hinsichtlich der Auswirkungen auf die Umwelt angeführt. Viele Experten gehen jedoch davon aus, dass diese Befürchtungen übertrieben sein könnten, und Schätzungen gehen davon aus, dass die Arbeitsbelastung durch KI nur einen Bruchteil davon ausmacht 15 % bis 20 % der Rechenzentrumskapazität bis 2028.

Tatsächlich können technologische Fortschritte – einschließlich KI – das Energiemanagement von Rechenzentren erheblich verbessern, indem sie Abläufe rationalisieren, Kühltechnologien verfeinern und erneuerbare Energiequellen in den Rechenzentrumsbetrieb integrieren.

Optimierung des Energiemanagements

Da Rechenzentren den Betrieb skalieren, um der wachsenden Nachfrage von Organisationen aus allen Branchen gerecht zu werden, müssen Führungskräfte neue Wege finden, um den Betrieb von Rechenzentren zu rationalisieren und ihre Auswirkungen auf die Umwelt zu verringern.

Kühltechnologien

Ein bemerkenswerter Fortschritt ist die Umstellung von herkömmlichen Luftkühlungssystemen auf energieeffizientere Flüssigkeitskühlungslösungen. Die Kühlung ist in Rechenzentren von entscheidender Bedeutung, um eine Überhitzung der Server zu verhindern. Die herkömmliche luftbasierte Kühlung ist jedoch dafür bekannt, dass sie erhebliche Auswirkungen auf den Stromverbrauch von Rechenzentren hat und oft quick die Hälfte des Gesamtenergieverbrauchs einer Einrichtung ausmacht. Neue Flüssigkeitskühlungstechnologien können die Wärme effizienter von Rechenzentrumskomponenten ableiten und so den für die Kühlfunktion erforderlichen Energieverbrauch erheblich reduzieren.

KI-Überwachung

KI kann auch den Rechenzentrumsbetrieb verbessern, indem sie Hunderte oder Tausende von IoT-Sensorgeräten in allen Bereichen analysiert und diese in Echtzeit-Einblicke, Möglichkeiten zur Anlagen- und/oder IT-Optimierung sowie allgemeines Risikomanagement und -vermeidung korreliert. Beispielsweise kann KI den Wartungsbedarf vorhersagen, bevor er entsteht, und so unnötige Ausfallzeiten verhindern.

Zukünftige und fortschrittlichere KI-Modelle werden in der Lage sein, die Kühlung oder Stromverteilung automatisch auf der Grundlage des Echtzeitbetriebs des Rechenzentrums anzupassen und so unnötige Energieverschwendung, Risiken usw. zu vermeiden. Kontinuierliche Optimierung durch KI-gesteuerte Energiemanagementsoftware ermöglicht es Rechenzentren, die Effizienz zu verbessern , Risiken und Verschwendung reduzieren und Betriebsabläufe an Umweltzielen ausrichten.

Good-Grids und Microgrids

Um den Energiebedarf effektiv zu verwalten, setzen Rechenzentren zunehmend auf Good-Grid-Technologien und setzen Mikronetze ein. Good-Grid-Technologien erleichtern die Echtzeitkommunikation und -steuerung zwischen Energieversorgern und Verbrauchern und erhöhen so die Zuverlässigkeit und Effizienz der Energieverteilung. Mikronetze hingegen sind lokalisierte Energiesysteme, die unabhängig oder in Verbindung mit dem Hauptstromnetz betrieben werden können. Zusammen ermöglichen sie eine bessere Verwaltung verteilter Energieressourcen wie Sonne und Wind, verringern den Druck auf das primäre Stromnetz und erhöhen die Energieresilienz.

Integration erneuerbarer Energiequellen

KI kann auch dazu beitragen, die Standortauswahl für Projekte im Bereich erneuerbare Energien zu optimieren und diese erneuerbaren Energiequellen in den Rechenzentrumsbetrieb zu integrieren. Durch die Analyse umfangreicher Datensätze identifiziert KI den optimalen Standort für Installationen, prognostiziert die Energieproduktion und erleichtert die nahtlose Integration intermittierender Quellen wie Wind- und Solarenergie in das Netz. Dieser Ansatz verbessert nicht nur die Skalierbarkeit von Initiativen für erneuerbare Energien, sondern ermöglicht es Rechenzentren auch, Leistungsanforderungen zu erfüllen und gleichzeitig ihren CO2-Fußabdruck zu reduzieren.

Förderung von Innovationen und Verbesserung der Energieeffizienz

Da KI den Rechenzentrumsbetrieb weiterhin verändert, stellen die wachsende Nachfrage nach Hochleistungsrechnen und der zunehmende Datenverkehr durch digitale Dienste und Cloud Computing sowohl Herausforderungen als auch Chancen dar. Während die Notwendigkeit einer skalierbareren Infrastruktur zur Unterstützung KI-gesteuerter Anwendungen von manchen als problematisch angesehen werden magazine, öffnet sie auch die Tür für Innovation und betriebliche Effizienz. KI-gesteuerte autonome Systeme können Routineaufgaben rationalisieren, manuelle Kontrollen reduzieren und die Produktivität steigern, während sie gleichzeitig die Grenzen des Infrastrukturdesigns verschieben.

Entscheidend ist, dass es bei dieser Entwicklung nicht nur um die Verwaltung des Energieverbrauchs geht, sondern auch darum, KI zu nutzen, um Ressourcen zu optimieren, die Nachhaltigkeit zu verbessern und effizientere Rechenzentren zu bauen. Die Zukunft von Rechenzentren wird durch ihre Fähigkeit bestimmt, sich an die Bedürfnisse der KI anzupassen und sowohl den technologischen Fortschritt als auch die Verantwortung für die Umwelt voranzutreiben.

Über den Autor

Joe Reele ist Vizepräsident, Answer Architects bei Schneider Electricalverantwortlich für die Zusammenführung der gesamten Produkt- und Dienstleistungspalette des Unternehmens, um Komplettlösungen für seine Kunden bereitzustellen. Joe verfügt über mehr als 22 Jahre Erfahrung in den Bereichen strategische Planung, Geschäftsentwicklung, Betriebsmanagement und Systementwicklungsstrategien. Er begann seine Karriere beim Nuklearprogramm der US-Luftwaffe und leitete anschließend eines der weltweit größten Finanzrechenzentrumsportfolios. Joe verfügt über ausgeprägte technische und geschäftliche Führungsqualitäten und verfügt über die nachgewiesene Fähigkeit, die Geschäftsanforderungen einer Organisation zu analysieren, Mängel und potenzielle Chancen zu identifizieren und revolutionary Lösungen zu entwickeln, um die Geschäftsziele des Kunden zu erreichen.

Melden Sie sich für die kostenlosen insideAI-Information an Publication.

Begleiten Sie uns auf Twitter: https://twitter.com/InsideBigData1

Treten Sie uns auf LinkedIn bei: https://www.linkedin.com/firm/insideainews/

Begleiten Sie uns auf Fb: https://www.fb.com/insideAINEWSNOW

Schauen Sie bei uns vorbei YouTube!

Die Modelle tiefer neuronaler Netzwerke, die heute die anspruchsvollsten Anwendungen des maschinellen Lernens unterstützen, sind so groß und komplex geworden, dass sie an die Grenzen herkömmlicher elektronischer Computerhardware stoßen.

Eine schnellere und energieeffizientere Various bietet photonische {Hardware}, die maschinelle Lernberechnungen mit Licht durchführen kann. Es gibt jedoch einige Arten von neuronalen Netzwerkberechnungen, die ein photonisches Gerät nicht durchführen kann und die den Einsatz von Elektronik außerhalb des Chips oder anderen Techniken erfordern, die Geschwindigkeit und Effizienz beeinträchtigen.

Aufbauend auf einem Jahrzehnt der Forschung haben Wissenschaftler vom MIT und anderswo einen neuen photonischen Chip entwickelt, der diese Hindernisse überwindet. Sie demonstrierten einen vollständig integrierten photonischen Prozessor, der alle wichtigen Berechnungen eines tiefen neuronalen Netzwerks optisch auf dem Chip ausführen kann.

Das optische Gerät warfare in der Lage, die wichtigsten Berechnungen für eine maschinelle Lernklassifizierungsaufgabe in weniger als einer halben Nanosekunde abzuschließen und dabei eine Genauigkeit von mehr als 92 Prozent zu erreichen – eine Leistung, die mit herkömmlicher {Hardware} vergleichbar ist.

Der Chip, der aus miteinander verbundenen Modulen besteht, die ein optisches neuronales Netzwerk bilden, wird mithilfe kommerzieller Gießverfahren hergestellt, was die Skalierung der Technologie und ihre Integration in die Elektronik ermöglichen könnte.

Langfristig könnte der photonische Prozessor zu einem schnelleren und energieeffizienteren Deep Studying für rechenintensive Anwendungen wie Lidar, wissenschaftliche Forschung in der Astronomie und Teilchenphysik oder Hochgeschwindigkeits-Telekommunikation führen.

„In vielen Fällen kommt es nicht nur darauf an, wie intestine das Modell funktioniert, sondern auch darauf, wie schnell man eine Antwort erhält. Da wir nun über ein Finish-to-Finish-System verfügen, das ein neuronales Netzwerk in der Optik im Nanosekundenbereich betreiben kann, können wir anfangen, auf einer höheren Ebene über Anwendungen und Algorithmen nachzudenken“, sagt Saumil Bandyopadhyay ’17, MEng ’18, PhD ’23, Gastwissenschaftler in der Quantum Photonics and AI Group im Analysis Laboratory of Electronics (RLE) und Postdoc bei NTT Analysis, Inc., der Hauptautor einer Arbeit über den neuen Chip.

Zu Bandyopadhyay gesellen sich in der Arbeit Alexander Sludds ’18, MEng ’19, PhD ’23; Nicholas Harris PhD ’17; Darius Bunandar PhD ’19; Stefan Krastanov, ein ehemaliger RLE-Forschungswissenschaftler, der jetzt Assistenzprofessor an der College of Massachusetts in Amherst ist; Ryan Hamerly, Gastwissenschaftler am RLE und leitender Wissenschaftler bei NTT Analysis; Matthew Streshinsky, ehemaliger Leiter der Silizium-Photonik bei Nokia und jetzt Mitbegründer und CEO von Enosemi; Michael Hochberg, Präsident von Periplous, LLC; und Dirk Englund, Professor am Fachbereich Elektrotechnik und Informatik, Hauptforscher der Quantum Photonics and Synthetic Intelligence Group und des RLE sowie leitender Autor des Artikels. Die Forschung erscheint heute in Naturphotonik.

Maschinelles Lernen mit Licht

Tiefe neuronale Netze bestehen aus vielen miteinander verbundenen Knotenschichten oder Neuronen, die Eingabedaten verarbeiten, um eine Ausgabe zu erzeugen. Eine Schlüsseloperation in einem tiefen neuronalen Netzwerk umfasst die Verwendung der linearen Algebra zur Durchführung einer Matrixmultiplikation, die Daten transformiert, wenn sie von Schicht zu Schicht weitergeleitet werden.

Aber zusätzlich zu diesen linearen Operationen führen tiefe neuronale Netze nichtlineare Operationen durch, die dem Modell helfen, komplexere Muster zu lernen. Nichtlineare Operationen wie Aktivierungsfunktionen verleihen tiefen neuronalen Netzen die Fähigkeit, komplexe Probleme zu lösen.

Im Jahr 2017 hat Englunds Gruppe zusammen mit Forschern im Labor von Marin Soljačić, dem Cecil und Ida Inexperienced-Professor für Physik, demonstrierte ein optisches neuronales Netzwerk auf einem einzelnen photonischen Chip das eine Matrixmultiplikation mit Licht durchführen könnte.

Allerdings konnte das Gerät damals keine nichtlinearen Operationen auf dem Chip ausführen. Optische Daten mussten in elektrische Signale umgewandelt und an einen digitalen Prozessor gesendet werden, um nichtlineare Operationen durchzuführen.

„Nichtlinearität in der Optik ist eine ziemliche Herausforderung, da Photonen nicht so leicht miteinander interagieren. Dadurch ist es sehr energieintensiv, optische Nichtlinearitäten auszulösen, sodass es schwierig wird, ein System aufzubauen, das dies auf skalierbare Weise tun kann“, erklärt Bandyopadhyay.

Sie haben diese Herausforderung gemeistert, indem sie Geräte entwickelt haben, die als nichtlineare optische Funktionseinheiten (NOFUs) bezeichnet werden und Elektronik und Optik kombinieren, um nichtlineare Operationen auf dem Chip zu implementieren.

Die Forscher bauten ein optisches tiefes neuronales Netzwerk auf einem photonischen Chip auf und verwendeten dabei drei Schichten von Geräten, die lineare und nichtlineare Operationen ausführen.

Ein vollständig integriertes Netzwerk

Zu Beginn kodiert ihr System die Parameter eines tiefen neuronalen Netzwerks in Licht. Anschließend führt eine Reihe programmierbarer Strahlteiler, die in der Arbeit von 2017 demonstriert wurden, eine Matrixmultiplikation an diesen Eingaben durch.

Die Daten werden dann an programmierbare NOFUs weitergeleitet, die nichtlineare Funktionen implementieren, indem sie eine kleine Lichtmenge an Fotodioden ableiten, die optische Signale in elektrischen Strom umwandeln. Dieser Prozess, der einen externen Verstärker überflüssig macht, verbraucht sehr wenig Energie.

„Wir bleiben die ganze Zeit im optischen Bereich, bis wir am Ende die Antwort auslesen wollen. Dadurch können wir eine extrem niedrige Latenz erreichen“, sagt Bandyopadhyay.

Das Erreichen einer derart geringen Latenzzeit ermöglichte es ihnen, ein tiefes neuronales Netzwerk auf dem Chip effizient zu trainieren, ein Prozess, der als In-situ bezeichnet wird Coaching, das typischerweise eine große Menge an Energie in digitaler {Hardware} verbraucht.

„Dies ist besonders nützlich für Systeme, in denen optische Signale domänenintern verarbeitet werden, etwa in der Navigation oder Telekommunikation, aber auch für Systeme, die man in Echtzeit erlernen möchte“, sagt er.

Das photonische System erreichte bei Trainingstests eine Genauigkeit von über 96 Prozent und bei der Inferenz eine Genauigkeit von über 92 Prozent, was mit herkömmlicher {Hardware} vergleichbar ist. Darüber hinaus führt der Chip wichtige Berechnungen in weniger als einer halben Nanosekunde durch.

„Diese Arbeit zeigt, dass Computing – im Wesentlichen die Zuordnung von Eingaben zu Ausgaben – auf neue Architekturen der linearen und nichtlinearen Physik übertragen werden kann, die ein grundlegend anderes Skalierungsgesetz für Berechnung und Aufwand ermöglichen“, sagt Englund.

Die gesamte Schaltung wurde unter Verwendung derselben Infrastruktur und derselben Gießereiprozesse hergestellt, die auch für die Herstellung von CMOS-Computerchips gelten. Dies könnte die Herstellung des Chips in großem Maßstab ermöglichen, wobei bewährte Techniken zum Einsatz kommen, die nur sehr wenige Fehler in den Herstellungsprozess einbringen.

Laut Bandyopadhyay wird die Skalierung ihres Geräts und die Integration in reale Elektronik wie Kameras oder Telekommunikationssysteme ein Hauptschwerpunkt der zukünftigen Arbeit sein. Darüber hinaus wollen die Forscher Algorithmen erforschen, die die Vorteile der Optik nutzen können, um Systeme schneller und energieeffizienter zu trainieren.

Diese Forschung wurde teilweise von der US Nationwide Science Basis, dem US Air Power Workplace of Scientific Analysis und NTT Analysis finanziert.