NVIDIA wurde veröffentlicht und von nun an aktualisiert Jetson Orin Nano Entwicklerkit Wird als „Tremendous“ bezeichnet und kostet bis zu 70 % mehr als eine generative KI und kostet bis zu 249 Greenback.
Enligt-Berichterstatter från NVIDIA:s Egna-Weblog Da es sich dabei um ein Improve der KI-Technologie und der Minnesband-Bredd handelt, wird es ein leistungsstarkes Device für die Nutzung von Robotern und Edge-KI-Anwendungen sein.
Jetson Orin Nano Tremendous ist eine beliebte Plattform für die beliebte Era von KI-Modellierern und transformatorbasierten Datenmodellierern.
Generativer KI-Modellierer und Jetson
Jetson Orin Nano Tremendous ist eine beliebte Plattform für die beliebte Era von KI-Modellierern und transformatorbasierten Datenmodellierern.
Er kann aus mehreren großen Sprachmodellierern (LLM), visuellen Sprachmodellierern (VLM) und Imaginative and prescient Transformers (ViT) bestehen, die mit bis zu 8 Millionen Parametern wie Llama-3.1-8B modellieren.
Die Jetson-Plattformen verfügen über ein einheitliches Kommunikationssystem und optimieren die Infrastruktur auf einer anderen Plattform, darunter HuggingFace Transformers, Ollama und NVIDIA TensorRT-LLM.
Möjligheter för utvecklare
Das Jetson Orin Nano Tremendous Developer Package bietet jetzt die Möglichkeit, die Arbeit mit generativer KI auf Kanten zu verbessern. Dazu gehört:
- Lernen Sie den LLM-Based mostly-Chat mit dem ersten Schritt kennen.
- Durch den visuellen KI-Agenten kann man sich keine Sorgen machen und es nicht erwarten.
- Implementierung einer KI-basierten Robotertechnik für eine cellular Anwendung.
Nyckelfunktionen und Förderung
- Förbättrad prestanda: Upp bis 67 INT8 TOPS AI-Vorstand, und mit 70 % erreicht, mit dem Ziel erreicht.
- Ökad minnesbandbredd: Von 68 GB/s bis 102 GB/s, maximal 50 % Rabatt.
- Kompatibilität: Beliebteste KI-Modellierer wie LLMs (Giant Language Fashions), VLMs (Imaginative and prescient Language Fashions) und ViTs (Imaginative and prescient Transformers).
- Kompaktes Design: Passar i handflatan und ist supreme für das Prototyping von Edge-AI-Anwendungen.
- Gezüchtet ekosystemstöd: Kompatibel mit NVIDIA:s AI-Programm einschließlich Isaac für Robotik, Metropolis für Imaginative and prescient AI und Holoscan für Sensorik.
https://developer.nvidia.com/buy-jetson?product=all&location=SE
https://blogs.nvidia.com/weblog/jetson-generative-ai-supercomputer