Vijay Gadepallyein leitender Mitarbeiter am MIT Lincoln Laboratory, leitet dort eine Reihe von Projekten Lincoln Laboratory Supercomputing Heart (LLSC), um Computerplattformen und die darauf laufenden Systeme der künstlichen Intelligenz effizienter zu machen. Hier erörtert Gadepally den zunehmenden Einsatz generativer KI in alltäglichen Werkzeugen, ihre verborgenen Auswirkungen auf die Umwelt und einige Möglichkeiten, wie das Lincoln Laboratory und die größere KI-Neighborhood Emissionen für eine umweltfreundlichere Zukunft reduzieren können.
Q: Welche Tendencies sehen Sie in Bezug auf den Einsatz generativer KI in der Informatik?
A: Generative KI nutzt maschinelles Lernen (ML), um neue Inhalte wie Bilder und Textual content auf der Grundlage von Daten zu erstellen, die in das ML-System eingegeben werden. Am LLSC entwerfen und bauen wir einige der größten akademischen Computerplattformen der Welt, und in den letzten Jahren haben wir einen explosionsartigen Anstieg der Zahl der Projekte erlebt, die Zugang zu Hochleistungsrechnen für generative KI benötigen. Wir sehen auch, wie generative KI alle möglichen Bereiche und Bereiche verändert – ChatGPT beeinflusst beispielsweise bereits das Klassenzimmer und den Arbeitsplatz schneller, als die Vorschriften scheinbar mithalten können.
Wir können uns innerhalb des nächsten Jahrzehnts oder so alle möglichen Einsatzmöglichkeiten für generative KI vorstellen, etwa die Stromversorgung hochleistungsfähiger virtueller Assistenten, die Entwicklung neuer Medikamente und Materialien und sogar die Verbesserung unseres Verständnisses der Grundlagenwissenschaften. Wir können nicht alles vorhersagen, wofür generative KI eingesetzt wird, aber ich kann mit Sicherheit sagen, dass ihre Auswirkungen auf Rechenleistung, Energie und Klima mit immer komplexeren Algorithmen weiterhin sehr schnell zunehmen werden.
Q: Welche Strategien verfolgt das LLSC, um diese Klimaauswirkungen abzumildern?
A: Wir sind immer auf der Suche nach Möglichkeiten, etwas zu machen effizienteres Rechnenda dies unserem Rechenzentrum dabei hilft, seine Ressourcen optimum zu nutzen, und es unseren wissenschaftlichen Kollegen ermöglicht, ihre Fachgebiete so effizient wie möglich voranzutreiben.
Beispielsweise haben wir den Stromverbrauch unserer {Hardware} durch einfache Änderungen reduziert, etwa durch Dimmen oder Ausschalten des Lichts, wenn Sie einen Raum verlassen. In einem Experiment haben wir den Energieverbrauch einer Gruppe von Grafikprozessoren um 20 bis 30 Prozent reduziert, mit minimalen Auswirkungen auf deren Leistung, indem wir a durchgesetzt haben Leistungskappe. Diese Technik senkte auch die Betriebstemperaturen der {Hardware}, wodurch die GPUs leichter zu kühlen und langlebiger waren.
Eine andere Strategie besteht darin, unser Verhalten zu ändern, um klimabewusster zu werden. Zu Hause entscheiden sich einige von uns möglicherweise dafür, erneuerbare Energiequellen oder eine intelligente Zeitplanung zu nutzen. Wir verwenden am LLSC ähnliche Techniken – etwa das Coaching von KI-Modellen, wenn die Temperaturen kühler sind oder wenn der Energiebedarf des lokalen Netzes niedrig ist.
Wir haben auch festgestellt, dass ein Großteil der für die Datenverarbeitung aufgewendeten Energie oft verschwendet wird, etwa wenn ein Wasserleck Ihre Rechnung in die Höhe treibt, ohne dass dies Ihrem Zuhause Vorteile bringt. Wir haben einige neue Techniken entwickelt, die es uns ermöglichen, Pc-Workloads während der Ausführung zu überwachen und dann diejenigen zu beenden, die wahrscheinlich keine guten Ergebnisse liefern. Überraschenderweise in eine Reihe von Fällen Wir haben festgestellt, dass die meisten Berechnungen vorzeitig beendet werden können ohne das Endergebnis zu beeinträchtigen.
Q: Was ist ein Beispiel für ein Projekt, das Sie durchgeführt haben und das den Energieausstoß eines generativen KI-Programms reduziert?
A: Wir haben kürzlich ein klimabewusstes Pc-Imaginative and prescient-Instrument entwickelt. Pc Imaginative and prescient ist ein Bereich, der sich auf die Anwendung von KI auf Bilder konzentriert. So können Sie beispielsweise zwischen Katzen und Hunden in einem Bild unterscheiden, Objekte in einem Bild richtig beschriften oder nach interessanten Komponenten in einem Bild suchen.
In unser Instrument haben wir Echtzeit-Kohlenstofftelemetrie integriert, die Informationen darüber liefert, wie viel Kohlenstoff von unserem lokalen Netz während der Ausführung eines Modells ausgestoßen wird. Abhängig von diesen Informationen wechselt unser System in Zeiten hoher Kohlenstoffintensität automatisch zu einer energieeffizienteren Model des Modells, die typischerweise weniger Parameter aufweist, oder in Zeiten niedriger Kohlenstoffintensität zu einer Model des Modells mit viel höherer Genauigkeit .
Auf diese Weise sahen wir quick Reduzierung der CO2-Emissionen um 80 Prozent über einen Zeitraum von ein bis zwei Tagen. Wir vor kurzem erweiterte diese Idee auf andere generative KI-Aufgaben wie die Textzusammenfassung und kam zu den gleichen Ergebnissen. Interessanterweise verbesserte sich die Leistung manchmal nach der Anwendung unserer Technik!
Q: Was können wir als Konsumenten generativer KI tun, um ihre Klimaauswirkungen zu mildern?
A: Als Verbraucher können wir von unseren KI-Anbietern mehr Transparenz verlangen. Bei Google Flights kann ich beispielsweise verschiedene Optionen sehen, die den CO2-Fußabdruck eines bestimmten Fluges anzeigen. Wir sollten ähnliche Messungen von generativen KI-Instruments erhalten, damit wir basierend auf unseren Prioritäten eine bewusste Entscheidung darüber treffen können, welches Produkt oder welche Plattform wir verwenden möchten.
Wir können uns auch darum bemühen, uns allgemein besser über generative KI-Emissionen zu informieren. Viele von uns sind mit Fahrzeugemissionen vertraut, und es kann hilfreich sein, vergleichend über generative KI-Emissionen zu sprechen. Die Leute werden vielleicht überrascht sein, wenn sie zum Beispiel erfahren, dass es sich bei einer Aufgabe um die Bildgenerierung handelt ungefähr gleichwertig Das bedeutet, dass das Aufladen eines Elektroautos genauso viel Energie erfordert wie das Generieren von etwa 1.500 Textzusammenfassungen.
Es gibt viele Fälle, in denen Kunden gerne einen Kompromiss eingehen würden, wenn sie die Auswirkungen des Kompromisses wüssten.
Q: Was sehen Sie für die Zukunft?
A: Die Eindämmung der Klimaauswirkungen generativer KI ist eines der Probleme, an denen Menschen auf der ganzen Welt arbeiten, und das mit einem ähnlichen Ziel. Wir leisten hier im Lincoln Laboratory viel Arbeit, aber wir kratzen nur an der Oberfläche. Langfristig müssen Rechenzentren, KI-Entwickler und Energienetze zusammenarbeiten, um „Energieaudits“ durchzuführen, um andere einzigartige Möglichkeiten aufzudecken, wie wir die Recheneffizienz verbessern können. Wir brauchen mehr Partnerschaften und mehr Zusammenarbeit, um voranzukommen.
Wenn Sie daran interessiert sind, mehr zu erfahren oder bei diesen Bemühungen mit Lincoln Laboratory zusammenzuarbeiten, wenden Sie sich bitte an Vijay Gadepally.