Singularity Compute, die Infrastrukturabteilung der KI-Schicht SingularityNET, hat die Einführung seines ersten NVIDIA-GPU-Clusters der Enterprise-Klasse angekündigt. Die in Schweden in Zusammenarbeit mit dem nachhaltigen Rechenzentrumsbetreiber Conapto errichtete Anlage verwirklicht das Ziel von Singularity, ein globales {Hardware}-Rückgrat für die Synthetic Superintelligence (ASI) Alliance zu schaffen.

Durch die Einführung wird die Infrastruktur hinter der dezentralen künstlichen Intelligenz gestärkt und gleichzeitig Unternehmen bedarfsgerechter Zugriff auf Rechenleistung für KI-Workloads ermöglicht. Diese Bereitstellung mit doppeltem Zweck bietet leistungsstarke Rechenleistung für kommerzielle Unternehmens-Workloads und unterstützt die ehrgeizigen Forschungsprojekte, die im ASI-Ökosystem stattfinden.

Eine Grundlage für dezentrale Intelligenz

Singularitätsberechnungen Einsatz erreicht einen kritischen Punkt in der KI-Branche, an dem die Nachfrage nach reiner Rechenleistung das Angebot übersteigt. Die neue Einrichtung bietet versatile Zugriffsmodelle, einschließlich Naked-Metallic-Vermietung, Vermietung auf Foundation virtueller Maschinen (VM) und dedizierter Inferenz-API-Endpunkte. Diese Flexibilität ermöglicht es Unternehmen, alles zu bewältigen, von der Schulung und Feinabstimmung schwerer Modelle bis hin zur Ausführung von Forschungs- und Entwicklungsarbeitslasten.

Über die Rohdatenverarbeitung hinaus wird der schwedische Cluster als Engine für ASI:Cloud dienen, einen KI-Modell-Inferenzdienst, der in Zusammenarbeit mit CUDOS, dem Web3-Zweig von CUDO, entwickelt wurde. Der Dienst zielt darauf ab, Entwicklern einen skalierbaren Weg zu bieten und OpenAI-kompatible APIs anzubieten, die es Projekten ermöglichen, reibungslos von serverloser Inferenz zu dedizierten Clustern zu wechseln.

Die Infrastruktur selbst wird von CUDO, einem langjährigen NVIDIA-Cloud-Companion, verwaltet und gewährleistet so die von Unternehmenskunden geforderte Zuverlässigkeit und Betriebszeit. Der Einsatz geht direkt auf die primären Herausforderungen ein, mit denen Unternehmen konfrontiert sind, die Zugriff auf GPU-Rechner benötigen, einschließlich der Abhängigkeit von einem Anbieter und der steigenden Kosten aufgrund der hohen Nachfrage.

Dieser „GPU-Squeeze“ bedeutet, dass der Zugang zu leistungsstarken NVIDIA-GPUs mit langen Wartelisten oder dem Abschluss mehrjähriger Verträge mit Anbietern verbunden sein kann. Das von Singularity Compute angebotene Setup kommt auch Groups zugute, die Projekte durchführen, die ultrahochleistungsfähiges Computing erfordern.

Der Großteil der Public-Cloud-GPU-Instanzen ist virtualisiert, was im Vergleich zur Ausführung direkt auf der {Hardware} mit einer leichten Leistungseinbuße einhergeht. Durch den Naked-Metallic-Zugriff eignet sich die Lösung von Singularity Compute ideally suited für das Coaching umfangreicher KI-Modelle, bei denen jedes 1 % gewonnene Effizienz zu Tausenden von Greenback an Strom und Zeiteinsparungen führen kann.

Förderung ethischer AGI

Dr. Ben Goertzel, CEO und Gründer von SingularityNET und der ASI Alliance, betrachtet die physische Infrastruktur als Voraussetzung für die Entwicklung der Künstlichen Allgemeinen Intelligenz (AGI) und erklärt: „Wir brauchen leistungsstarke Rechenleistung, die für die Zusammenarbeit mit dezentralen Netzwerken konfiguriert ist, auf denen eine Vielzahl von KI-Algorithmen ausgeführt werden … Der neue GPU-Einsatz in Schweden ist ein bedeutender Meilenstein auf dem Weg zu einer wirklich offenen, globalen künstlichen Superintelligenz.“

Joe Honan, CEO von Singularitätsberechnungbeschrieb den Begin als „einen wichtigen Schritt zum Aufbau des globalen Infrastruktur-Rückgrats für künstliche Superintelligenz“ und betonte, dass der Cluster Leistung auf Unternehmensniveau mit dem Engagement des Unternehmens für Offenheit und Datensouveränität verbindet.

Erste Unternehmenskunden werden bereits an Bord geholt, weitere Kapazitätserweiterungen und neue geografische Standorte sind als Reaktion auf die Nachfrage geplant. Der schwedische Rollout ist die erste Section einer umfassenderen globalen Strategie, die darauf abzielt, leistungsstarke, souveräne KI-Rechnungen sowohl für Unternehmen als auch für dezentrale KI-Projekte allgemein verfügbar zu machen. Damit kommt ein weiterer Infra-Participant zum globalen GPU-Wettlauf hinzu, in dem Unternehmen um die Rechenressourcen konkurrieren, die sie für ihren Erfolg benötigen.

---

Hervorgehobener Bildnachweis

Als Anfang dieses Jahres die Stargate-Ankündigung im Weißen Haus eine Welle atemberaubender Investitionen in Rechenzentren in Höhe von Hunderten von Milliarden Greenback auslöste, hätten wir mit Fug und Recht annehmen können, dass dies die Technologiegeschichte des Jahres sein würde.

Dann erst vor ein paar Wochen verblüffte NVIDIA die Technologiewelt, indem es 10 Milliarden US-Greenback in Intel investierte und dem ehemaligen Marktführer in der Chipbranche einen finanziellen Aufschwung von einem Unternehmen verschaffte, das in den letzten Jahren maßgeblich dazu beigetragen hat, die Marktposition von Intel zu schwächen. Intel könnte sich keinen besseren Accomplice als NVIDIA für den aggressiven Einstieg in den Markt für KI-Rechenzentrumsserverchips wünschen. Vor einer Woche hätten wir additionally vielleicht vermutet, dass NVIDIA-Intel die Tech-Story des Jahres sein wird.

Aber jetzt haben wir einen Deal im Wert von mehr als 95 Milliarden US-Greenback zwischen dem ChatGPT-Monster OpenAI und AMD, das nach einer Möglichkeit sucht, mit NVIDIA auf dem GPU-Markt zu konkurrieren. Ja, es gab einen Deal zwischen AMD und Oracle, im Juni angekündigtin dem Oracle aufgefordert wurde, 130.000 AMD MI355X-GPUs auf der Oracle Cloud-Infrastruktur bereitzustellen, und im März diskutierte Oracle während einer Telefonkonferenz über die Ergebnisse die Absicht, 30.000 AMD MI355X-Prozessoren bereitzustellen. Und dann sind da noch AMD-GPUs, die zwei der ersten drei in den USA ansässigen Exascale-Supercomputer antreiben, die derzeit auf der Rangliste stehen Nr. Platz 1 und 2 der TOP500-Liste eines der leistungsstärksten HPC-Systeme.

Aber das ist viel größer und verleiht AMD zusätzliche Glaubwürdigkeit auf dem KI-Computing-Markt, den NVIDIA mit einem Anteil von mehr als 90 Prozent dominiert.

Von allen Tagen seit dem letzten „AMD-Winter“ (additionally kurz bevor Lisa Su 2014 die Geschäftsführung übernommen hat) gehört der gestrige Tag zu den denkwürdigsten und nach Ansicht des Unternehmens bedeutsamsten (vielleicht ist es an der Zeit, die Erinnerungen an den alten Growth-and-Bust von AMD beiseite zu lassen, der sich im letzten Jahrzehnt bewundernswert geschlagen hat).

Der AMD-OpenAI-Deal sieht vor, dass Letzterer in den nächsten Jahren 6 Gigawatt Rechenkapazität mit AMD-Chips nutzt. Der Chip im Rampenlicht ist AMDs kommender Rackscale-KI-Prozessor MI450, der in der zweiten Hälfte des Jahres 2026 ausgeliefert werden soll. Er wird gegen den Vera Rubin der nächsten Technology antreten, der laut NVIDIA die dreifache Leistung der aktuellen Flaggschiff-Blackwell-Chips des Unternehmens liefern wird. Die Auslieferung von Vera Rubin ist ebenfalls für das dritte oder vierte Quartal nächsten Jahres geplant.

Es kann additionally sein, dass sich NVIDIA zum ersten Mal in einem echten GPU-Rennen befindet – vorausgesetzt, beide Unternehmen liefern ihre Subsequent-Gen-Chips termingerecht aus.

Als Analyst der Chipindustrie Dr. Ian Cutress erklärt es„Aufgebaut auf der CDNA4-Architektur wird MI450 voraussichtlich die erste Produktlinie des Unternehmens sein, die für den Einsatz im echten Rack-Maßstab optimiert ist und Rechen-, Verbindungs- und Speicherbandbreite auf Systemebene und nicht auf Geräteebene integriert. AMDs Helios-Plattform, seine neue Referenzarchitektur für große KI-Cluster, wird MI450-GPUs mit Zen 6-basierten CPUs, Speicher mit hoher Bandbreite und fortschrittlicher Verbindungsstruktur kombinieren.“ vorgefertigte Rack-Systeme, die so konzipiert sind, dass sie direkt mit den HGX- und DGX-SuperPODs von NVIDIA konkurrieren können.“

Kurz gesagt, AMD steigt in ein anspruchsvolles KI-Computing-Unternehmen ein, und die Konkurrenz, der es beitritt, erinnert daran, wie AMD vor acht Jahren Intels scheinbar uneinnehmbare Führung bei CPUs übernahm.

Ein Schlüssel für die potenzielle Rack-Scale-Fähigkeit des MI450 ist AMDs Kauf des Server- und Herstellers ZT Methods im August 2024 für quick 5 Milliarden US-Greenback ein Artikel in CRNin dem Su im vergangenen Juni mit den Worten zitiert wurde: „Die Übernahme würde dem Unternehmen ‚Weltklasse-Systemdesign und Rack-Scale-Lösungskompetenz‘ verleihen, um ‚unsere Rechenzentrums-KI-Systeme und Kundenaktivierungsfähigkeiten erheblich zu stärken‘.“

Man könnte sich durchaus fragen, warum OpenAI sich für eine Partnerschaft mit AMD statt mit NVIDIA entschieden hat. Die Antwort ist, dass OpenAI GPU-unabhängig ist und eine Lieferkette mit mehreren Anbietern benötigt, um seinen enormen Bedarf an KI-Computern zu decken, und natürlich auch daran hat eine Partnerschaft mit NVIDIA, die Ende letzten Monats angekündigt wurde und die sogar größer ist als die AMD-Vereinbarung.

Im Rahmen des NVIDIA-Vertrags wird OpenAI mindestens 10 Gigawatt KI-Rechenzentren bereitstellen, wobei NVIDIA-Systeme Millionen von GPUs für die KI-Infrastruktur der nächsten Technology von OpenAI darstellen. NVIDIA wird seinerseits mit jedem bereitgestellten Gigawatt schrittweise bis zu 100 Milliarden US-Greenback in OpenAI investieren. Die Einführung ist gleichzeitig mit den AMD-basierten Bereitstellungen von OpenAI geplant.

Um die finanziellen Vorteile des OpenAI-Offers zu nutzen, muss AMD nun ein extrem hohes Niveau erreichen. Wie Cutress sagte: „Die Bereitstellung von sechs Gigawatt GPU-Kapazität für Rechenzentren erfordert eine konsistente Foundry-Zuteilung, Substratverfügbarkeit und Speicherversorgung mit hoher Bandbreite über mehrere Jahre hinweg. Dies struggle … (als) … AMD seine mehrjährigen Investitionen in die Stabilität der Lieferkette anführte. Jede Unterbrechung bei Wafer-Begins oder Verpackungskapazitäten, insbesondere da AMD mit NVIDIA und anderen um die CoWoS-Kapazität von TSMC konkurriert, könnte die Erfüllung verzögern.“

Aber AMD hat seit dem Ende seiner schlechten alten Zeiten vor mehr als einem Jahrzehnt, vor so langer Zeit, dass sie aus der Erinnerung verschwunden sind, konstant gute Leistungen erbracht.

Die Notwendigkeit, immer schwere Datenmengen mit höherer Präzision, schnelleren Geschwindigkeiten, niedrigeren Kosten und einem kleineren CO2-Fußabdruck zu verarbeiten, hat exponentiell gewachsen. Bodo.ai befasst sich mit diesen Herausforderungen, indem er seine Rechenmotor-von einem automatisch parallele Compiler ausgeliefert hat, der beliebte Pakete wie Pandas und Numpy beschleunigt, und umfasst die E/A-Fähigkeit zur Interaktion mit ICEBERG-das Entwicklern ein leistungsstarkes neues Device für die Datenverarbeitung bietet und ai.

Merkmale des Bodo Compute Motor:

• Entwicklerproduktivität: Durch die Beseitigung des Bedarfs an Code-Umschreibungen und Ermöglichung der Echtzeit-Ausführung können Entwickler komplexere Anwendungen in kürzeren Zeitrahmen erstellen.
• Cloud-Anwendungen: Lineare Skalierung und Echtzeit-Leistungsanwendungen, die intelligente Echtzeitentscheidungen erfordern.
• Infrastruktureffizienz: Die effiziente HPC-Architektur des Motors reduziert die Kosten erheblich und macht rechen- und datenintensive Anwendungen wirtschaftlicher.

Die Anwendungsentwicklung in HPC struggle traditionell Welten außer Mainstream -Unternehmensdatensystemen. Die HPC-Entwicklung basiert häufig auf Sprachen auf niedrigem Niveau wie FORTRAN oder C ++ und explizite Parallelität durch Instruments wie MPI. Dieser Ansatz bietet zwar excessive Geschwindigkeit und Skalierbarkeit der massiven Supercomputer, erfordert zwar eine hochspezialisierte Belegschaft und jahrelange Entwicklungszeit.

Umgekehrt verwenden Unternehmensdatenwissenschaftler in der Regel Sprachen wie Python, die einfacher zu bedienen sind. Bodo schließt diese Lücke mit einem neuartigen Compiler, der es Datenwissenschaftlern und Entwicklern ermöglicht, Python-Workloads auf einer Rechenplattform auszuführen-wodurch die öffentliche oder personal Cloud-Leistung und Skalierbarkeit von HPC-Qualität und Skalierbarkeit, ohne Code-Umschreiben zu erfordern. Im Gegensatz zu herkömmlichen Werkzeugen wie Spark, Dask oder Ray kombiniert Bodo eine einfache Verwendung mit der Leistung von HPC.

Frühere Anwender haben bemerkenswerte Ergebnisse erzielt:

• KI und maschinelles Lernen: Bis zu 250x schneller verarbeiten und die Zeit für die Bereitstellung drastisch verkürzt.
• Knowledge Engineering: Stromlinien -ETL -Prozesse, Steigerung der Effizienz um über 80 Prozent.
• Kostenoptimierung: Die Infrastrukturkosten reduzierten sich um bis zu 50 Prozent, sodass Groups mit weniger Ressourcen mehr erreichen können.

„Nach Jahren der Entwicklung der Kerntechnologie sind wir begeistert, unseren HPC- und Compiler-basierten Pc-Engine den Entwicklern überall zur Verfügung zu stellen“, sagte Ehsan Totoni, CTO und Mitbegründer von von Ehsan Totoni Bodo.ai. „Wir freuen uns darauf, mit der Open-Supply-Group zusammenzuarbeiten, um die Innovationen in der skalierbaren, effizienten Datenverarbeitung für Analysen und KI voranzutreiben.“

Der Bodo Compute -Motor ist jetzt allgemein verfügbar Githubum es für Entwickler einfach zu beginnen, um loszulegen. Entwickler können auf umfassende Installationsführer, Beispielprojekte und Dokumentationen zugreifen, um die Pc -Engine schnell in ihre Workflows zu integrieren. Sie können sich auch dem Bodo Group Slack Channel anschließen, wo Bodo die Mitwirkenden dazu einlädt, Ideen auszutauschen und die Zukunft der skalierbaren Datenverarbeitung zu gestalten.