Da mehr verbundene Geräte eine zunehmende Bandbreite für Aufgaben wie Teleworking und Cloud Computing erfordern, wird es äußerst schwierig, die endliche Menge an drahtlosen Spektrum zu verwalten, die allen Benutzern zur Verfügung stehen.

Ingenieure verwenden künstliche Intelligenz, um das verfügbare drahtlose Spektrum dynamisch zu verwalten, um die Latenz zu verringern und die Leistung zu steigern. Die meisten KI-Methoden zur Klassifizierung und Verarbeitung von drahtlosen Signalen sind jedoch leistungsstark und können nicht in Echtzeit arbeiten.

Jetzt haben MIT -Forscher einen neuartigen AI -{Hardware} -Beschleuniger entwickelt, der speziell für die drahtlose Signalverarbeitung entwickelt wurde. Ihr optischer Prozessor führt maschinell-lernende Berechnungen mit Lichtgeschwindigkeit durch und klassifiziert drahtlose Signale in einer Frage von Nanosekunden.

Der photonische Chip ist etwa 100 -mal schneller als die beste digitale Different und konvergiert die Genauigkeit der Signalklassifizierung auf etwa 95 Prozent. Der neue {Hardware}-Beschleuniger ist ebenfalls skalierbar und flexibel, daher kann er für eine Vielzahl von Hochleistungs-Computeranwendungen verwendet werden. Gleichzeitig ist es kleiner, leichter, billiger und energieeffizienter als digitale KI-Hardwarebeschleuniger.

Das Gerät könnte besonders in zukünftigen 6G -drahtlosen Anwendungen nützlich sein, wie z. B. kognitive Radios, die die Datenraten optimieren, indem drahtlose Modulationsformate an die sich ändernde drahtlose Umgebung angepasst werden.

Durch das Ermöglichen eines Edge-Geräts kann dieser neue {Hardware}-Beschleuniger in vielen Anwendungen, die über die Signalverarbeitung hinausgehen, eine tiefe Lernberechnungen in Echtzeit durchführen. Beispielsweise könnte es autonome Fahrzeuge helfen, auf Umweltveränderungen zu reagieren oder intelligente Herzschrittmacher zu ermöglichen, die Gesundheit des Herzens eines Patienten kontinuierlich zu überwachen.

“There are lots of functions that will be enabled by edge units which can be able to analyzing wi-fi alerts. What we have introduced in our paper may open up many prospects for real-time and dependable AI inference. This work is the start of one thing that could possibly be fairly impactful,” says Dirk Englund, a professor within the MIT Division of Electrical Engineering and Pc Science, principal investigator within the Quantum Photonics and Synthetic Intelligence Group and the Analysis Laboratory of Elektronik (RLE) und leitender Autor des Papier.

Er wird von der Hauptautorin Ronald Davis III, PhD ’24, auf der Zeitung begleitet; Zaijun Chen, ein ehemaliger MIT Postdoc, der jetzt Assistenzprofessor an der College of Southern California ist; und Ryan Hamerly, Gastwissenschaftler bei RLE und leitender Wissenschaftler bei NTT Analysis. Die Forschung erscheint heute in Wissenschaft Fortschritte.

Lichtgeschwindigkeitsverarbeitung

Die hochmoderne digitale KI-Beschleuniger für die drahtlose Signalverarbeitung konvertieren das Sign in ein Bild und führen es durch ein tiefes Lernmodell um, um es zu klassifizieren. Obwohl dieser Ansatz sehr genau ist, macht es die rechnerisch intensive Natur von tiefen neuronalen Netzwerken für viele zeitempfindliche Anwendungen unmöglich.

Optische Systeme können tiefe neuronale Netzwerke beschleunigen, indem sie Daten mit Licht codieren und verarbeiten, was ebenfalls weniger energieintensiv ist als digitales Pc. Die Forscher haben sich jedoch bemüht, die Leistung von allgemeinen optischen neuronalen Netzwerken zu maximieren, wenn sie zur Signalverarbeitung verwendet werden, und gleichzeitig sicherzustellen, dass das optische Gerät skalierbar ist.

Durch die Entwicklung einer optischen neuronalen Netzwerkarchitektur speziell für die Signalverarbeitung, die sie als multiplikatives analoge Frequenztransformation optisches Neuralnetz (DAMFT-onn) bezeichnen, haben die Forscher dieses Drawback direkt angepasst.

Der MAFT-onn befasst sich mit dem Drawback der Skalierbarkeit, indem alle Signaldaten codiert und alle maschinellen Lernvorgänge in der sogenannten Frequenzdomäne ausgeführt werden-bevor die drahtlosen Signale digitalisiert werden.

Die Forscher haben ihr optisches neuronales Netzwerk so gestaltet, dass alle linearen und nichtlinearen Operationen inline durchgeführt werden. Beide Arten von Operationen sind für Deep Studying erforderlich.

Dank dieses innovativen Designs benötigen sie nur ein Gerät professional Schicht für das gesamte optische neuronale Netzwerk, im Gegensatz zu anderen Methoden, die ein Gerät für jede einzelne Recheneinheit oder „Neuron“ benötigen.

„Wir können 10.000 Neuronen auf ein einzelnes Gerät einfügen und die notwendigen Multiplikationen in einem einzigen Schuss berechnen“, sagt Davis.

Die Forscher erreichen dies mit einer Technik, die als photoelektrische Multiplikation bezeichnet wird und die die Effizienz drastisch steigert. Außerdem können sie ein optisches neuronales Netzwerk erstellen, das mit zusätzlichen Schichten leicht skaliert werden kann, ohne zusätzlichen Overhead zu erfordern.

Führt zu Nanosekunden

MAFT-onn nimmt ein drahtloses Sign als Eingang an, verarbeitet die Signaldaten und gibt die Informationen für spätere Operationen über, die das Edge-Gerät ausführt. Durch die Klassifizierung der Modulation eines Indicators würde ein Gerät beispielsweise die Artwork des Indicators automatisch zum Extrahieren der von ihm übertragenen Daten ermöglichen.

Eine der größten Herausforderungen, denen sich die Forscher beim Entwerfen von MAFT-onn gegenübersehen, bestand darin, zu bestimmen, wie die Berechnungen für maschinelles Lernen auf die optische {Hardware} abbilden können.

„Wir konnten nicht einfach ein normales maschinelles Lerngerüst aus dem Regal nehmen und es verwenden. Wir mussten es an die {Hardware} anpassen und herausfinden, wie die Physik ausnutzt, damit die Berechnungen, die wir wollten, durchführen“, sagt Davis.

Als sie ihre Architektur auf Signalklassifizierung in Simulationen testeten, erreichte das optische neuronale Netzwerk in einem einzigen Schuss eine Genauigkeit von 85 Prozent, was mit mehreren Messungen schnell zu mehr als 99 Prozent der Genauigkeit konvergieren kann. MAFT-onn benötigten nur etwa 120 Nanosekunden, um den gesamten Prozess durchzuführen.

„Je länger Sie messen, desto höherer Genauigkeit erhalten Sie. Da MAFT-onn in Nanosekunden Schlussfolgerungen berechnet, verlieren Sie nicht viel Geschwindigkeit, um mehr Genauigkeit zu gewinnen“, fügt Davis hinzu.

Während hochmoderne digitale Funkfrequenzgeräte in Mikrosekunden maschinell-lernende Inferenz durchführen können, kann die Optik dies in Nanosekunden oder sogar in Pikosekunden tun.

In Zukunft möchten die Forscher so genannte Multiplexing-Schemata anwenden, damit sie mehr Berechnungen durchführen und den MAFT-onn skalieren können. Sie möchten ihre Arbeit auch in komplexere tiefgreifende Architekturen ausdehnen, die Transformatormodelle oder LLMs ausführen könnten.

Diese Arbeit wurde teilweise vom US -Armee -Forschungslabor, der US Air Power, dem MIT Lincoln Laboratory, dem Nippon Telegraph and Cellphone und der Nationwide Science Basis finanziert.

Die Modelle tiefer neuronaler Netzwerke, die heute die anspruchsvollsten Anwendungen des maschinellen Lernens unterstützen, sind so groß und komplex geworden, dass sie an die Grenzen herkömmlicher elektronischer Computerhardware stoßen.

Eine schnellere und energieeffizientere Various bietet photonische {Hardware}, die maschinelle Lernberechnungen mit Licht durchführen kann. Es gibt jedoch einige Arten von neuronalen Netzwerkberechnungen, die ein photonisches Gerät nicht durchführen kann und die den Einsatz von Elektronik außerhalb des Chips oder anderen Techniken erfordern, die Geschwindigkeit und Effizienz beeinträchtigen.

Aufbauend auf einem Jahrzehnt der Forschung haben Wissenschaftler vom MIT und anderswo einen neuen photonischen Chip entwickelt, der diese Hindernisse überwindet. Sie demonstrierten einen vollständig integrierten photonischen Prozessor, der alle wichtigen Berechnungen eines tiefen neuronalen Netzwerks optisch auf dem Chip ausführen kann.

Das optische Gerät warfare in der Lage, die wichtigsten Berechnungen für eine maschinelle Lernklassifizierungsaufgabe in weniger als einer halben Nanosekunde abzuschließen und dabei eine Genauigkeit von mehr als 92 Prozent zu erreichen – eine Leistung, die mit herkömmlicher {Hardware} vergleichbar ist.

Der Chip, der aus miteinander verbundenen Modulen besteht, die ein optisches neuronales Netzwerk bilden, wird mithilfe kommerzieller Gießverfahren hergestellt, was die Skalierung der Technologie und ihre Integration in die Elektronik ermöglichen könnte.

Langfristig könnte der photonische Prozessor zu einem schnelleren und energieeffizienteren Deep Studying für rechenintensive Anwendungen wie Lidar, wissenschaftliche Forschung in der Astronomie und Teilchenphysik oder Hochgeschwindigkeits-Telekommunikation führen.

„In vielen Fällen kommt es nicht nur darauf an, wie intestine das Modell funktioniert, sondern auch darauf, wie schnell man eine Antwort erhält. Da wir nun über ein Finish-to-Finish-System verfügen, das ein neuronales Netzwerk in der Optik im Nanosekundenbereich betreiben kann, können wir anfangen, auf einer höheren Ebene über Anwendungen und Algorithmen nachzudenken“, sagt Saumil Bandyopadhyay ’17, MEng ’18, PhD ’23, Gastwissenschaftler in der Quantum Photonics and AI Group im Analysis Laboratory of Electronics (RLE) und Postdoc bei NTT Analysis, Inc., der Hauptautor einer Arbeit über den neuen Chip.

Zu Bandyopadhyay gesellen sich in der Arbeit Alexander Sludds ’18, MEng ’19, PhD ’23; Nicholas Harris PhD ’17; Darius Bunandar PhD ’19; Stefan Krastanov, ein ehemaliger RLE-Forschungswissenschaftler, der jetzt Assistenzprofessor an der College of Massachusetts in Amherst ist; Ryan Hamerly, Gastwissenschaftler am RLE und leitender Wissenschaftler bei NTT Analysis; Matthew Streshinsky, ehemaliger Leiter der Silizium-Photonik bei Nokia und jetzt Mitbegründer und CEO von Enosemi; Michael Hochberg, Präsident von Periplous, LLC; und Dirk Englund, Professor am Fachbereich Elektrotechnik und Informatik, Hauptforscher der Quantum Photonics and Synthetic Intelligence Group und des RLE sowie leitender Autor des Artikels. Die Forschung erscheint heute in Naturphotonik.

Maschinelles Lernen mit Licht

Tiefe neuronale Netze bestehen aus vielen miteinander verbundenen Knotenschichten oder Neuronen, die Eingabedaten verarbeiten, um eine Ausgabe zu erzeugen. Eine Schlüsseloperation in einem tiefen neuronalen Netzwerk umfasst die Verwendung der linearen Algebra zur Durchführung einer Matrixmultiplikation, die Daten transformiert, wenn sie von Schicht zu Schicht weitergeleitet werden.

Aber zusätzlich zu diesen linearen Operationen führen tiefe neuronale Netze nichtlineare Operationen durch, die dem Modell helfen, komplexere Muster zu lernen. Nichtlineare Operationen wie Aktivierungsfunktionen verleihen tiefen neuronalen Netzen die Fähigkeit, komplexe Probleme zu lösen.

Im Jahr 2017 hat Englunds Gruppe zusammen mit Forschern im Labor von Marin Soljačić, dem Cecil und Ida Inexperienced-Professor für Physik, demonstrierte ein optisches neuronales Netzwerk auf einem einzelnen photonischen Chip das eine Matrixmultiplikation mit Licht durchführen könnte.

Allerdings konnte das Gerät damals keine nichtlinearen Operationen auf dem Chip ausführen. Optische Daten mussten in elektrische Signale umgewandelt und an einen digitalen Prozessor gesendet werden, um nichtlineare Operationen durchzuführen.

„Nichtlinearität in der Optik ist eine ziemliche Herausforderung, da Photonen nicht so leicht miteinander interagieren. Dadurch ist es sehr energieintensiv, optische Nichtlinearitäten auszulösen, sodass es schwierig wird, ein System aufzubauen, das dies auf skalierbare Weise tun kann“, erklärt Bandyopadhyay.

Sie haben diese Herausforderung gemeistert, indem sie Geräte entwickelt haben, die als nichtlineare optische Funktionseinheiten (NOFUs) bezeichnet werden und Elektronik und Optik kombinieren, um nichtlineare Operationen auf dem Chip zu implementieren.

Die Forscher bauten ein optisches tiefes neuronales Netzwerk auf einem photonischen Chip auf und verwendeten dabei drei Schichten von Geräten, die lineare und nichtlineare Operationen ausführen.

Ein vollständig integriertes Netzwerk

Zu Beginn kodiert ihr System die Parameter eines tiefen neuronalen Netzwerks in Licht. Anschließend führt eine Reihe programmierbarer Strahlteiler, die in der Arbeit von 2017 demonstriert wurden, eine Matrixmultiplikation an diesen Eingaben durch.

Die Daten werden dann an programmierbare NOFUs weitergeleitet, die nichtlineare Funktionen implementieren, indem sie eine kleine Lichtmenge an Fotodioden ableiten, die optische Signale in elektrischen Strom umwandeln. Dieser Prozess, der einen externen Verstärker überflüssig macht, verbraucht sehr wenig Energie.

„Wir bleiben die ganze Zeit im optischen Bereich, bis wir am Ende die Antwort auslesen wollen. Dadurch können wir eine extrem niedrige Latenz erreichen“, sagt Bandyopadhyay.

Das Erreichen einer derart geringen Latenzzeit ermöglichte es ihnen, ein tiefes neuronales Netzwerk auf dem Chip effizient zu trainieren, ein Prozess, der als In-situ bezeichnet wird Coaching, das typischerweise eine große Menge an Energie in digitaler {Hardware} verbraucht.

„Dies ist besonders nützlich für Systeme, in denen optische Signale domänenintern verarbeitet werden, etwa in der Navigation oder Telekommunikation, aber auch für Systeme, die man in Echtzeit erlernen möchte“, sagt er.

Das photonische System erreichte bei Trainingstests eine Genauigkeit von über 96 Prozent und bei der Inferenz eine Genauigkeit von über 92 Prozent, was mit herkömmlicher {Hardware} vergleichbar ist. Darüber hinaus führt der Chip wichtige Berechnungen in weniger als einer halben Nanosekunde durch.

„Diese Arbeit zeigt, dass Computing – im Wesentlichen die Zuordnung von Eingaben zu Ausgaben – auf neue Architekturen der linearen und nichtlinearen Physik übertragen werden kann, die ein grundlegend anderes Skalierungsgesetz für Berechnung und Aufwand ermöglichen“, sagt Englund.

Die gesamte Schaltung wurde unter Verwendung derselben Infrastruktur und derselben Gießereiprozesse hergestellt, die auch für die Herstellung von CMOS-Computerchips gelten. Dies könnte die Herstellung des Chips in großem Maßstab ermöglichen, wobei bewährte Techniken zum Einsatz kommen, die nur sehr wenige Fehler in den Herstellungsprozess einbringen.

Laut Bandyopadhyay wird die Skalierung ihres Geräts und die Integration in reale Elektronik wie Kameras oder Telekommunikationssysteme ein Hauptschwerpunkt der zukünftigen Arbeit sein. Darüber hinaus wollen die Forscher Algorithmen erforschen, die die Vorteile der Optik nutzen können, um Systeme schneller und energieeffizienter zu trainieren.

Diese Forschung wurde teilweise von der US Nationwide Science Basis, dem US Air Power Workplace of Scientific Analysis und NTT Analysis finanziert.