ASUS IoT Edge AI-Computer mit NVIDIA Jetson Orin steigern die Leistung generativer KI

(Auszug aus der Pressemitteilung)

ASUS IoT, ein weltweit führender Anbieter von AIoT-Lösungen, hat heute eine Aktualisierung seiner ASUS IoT Edge-AI-Computer auf Basis der NVIDIA® Jetson Orin™-Plattform bekanntgegeben, die den neuen Super-Modus unterstützt. Durch dieses Upgrade werden die AI-TOPS um das bis zu 1,7-Fache, die Speicherbandbreite um das bis zu 1,5-Fache und die Leistung des Gen-AI-Modells um das bis zu 2-Fache erhöht.

Bis zu 1,7-fache KI-TOPS und umfassende Kompatibilität mit dem Super-Modus

Der Super-Modus verbessert AI TOPS um das bis zu 1,7-Fache und ermöglicht eine Vielzahl von Gen-AI-Modellen, darunter große Sprachmodelle (LLMs), visuelle Sprachmodelle (VLMs) und Vision-Transformatoren (ViTs). Jetson-Orin-Module unterstützen beliebte Frameworks für maschinelles Lernen wie Hugging Face Transformers, Ollama, lama.cpp, vLLM, MLC, NVIDIA TensorRT-LLM und mehr. Dadurch eignen sie sich hervorragend für Edge-Anwendungen, Robotik und multimodale Systeme.

Schneller, vielseitiger und robuster – ASUS IoT Edge-KI-Computer mit NVIDIA Jetson™

Modelle der Edge-KI-ASUS-IoT-NVIDIA-Jetson™-Serie – PE1102N, PE1101N und PE1100N – können jetzt Gen-KI-Workloads mit deutlich höherer Geschwindigkeit und verbesserter Datenverarbeitung bewältigen. Diese Modelle wurden für kompakte Größe, maximale Vielseitigkeit und umfassende Konnektivität entwickelt und eignen sich ideal für Smart City-, Smart Transportation- und In-Vehicle- sowie Smart Logistics-Anwendungen wie Smart Parking, Verkehrsanalyse und AGV/AMR. Jede Lösung ermöglicht es Entwicklern, Daten am Edge mit höherer Geschwindigkeit, höherer Sicherheit und erheblichen Einsparungen bei den Gesamtbetriebskosten (TCO) zu verarbeiten.

Die KI-Edge-Computer von ASUS IoT mit NVIDIA Jetson-Prozessoren zeichnen sich außerdem durch eine robuste Bauweise aus und sind für den Betrieb in einem breiten Temperaturbereich ausgelegt. Sie bieten eine hervorragende Kühlleistung, um die Gesamteffizienz für den Einsatz im Freien zu maximieren.

Unterstützung des neuesten NVIDIA JetPack 6.2 SDK zur Aktivierung des Super-Modus

Der Super-Modus für die Jetson Orin NX- und Orin Nano-Serien kann auf ASUS IoT Edge-KI-Computern (PE1102N, PE1101N, und PE1100N) durch Herunterladen des neuesten NVIDIA JetPack 6.2 SDK aktiviert werden.

JetPack 6.2 ist der neueste Production-Release von JetPack 6. Diese Version enthält Jetson Linux 36.4.3 mit dem Linux-Kernel 5.15 und einem auf Ubuntu 22.04 basierenden Root-Dateisystem. Der mit JetPack 6.2 ausgelieferte Jetson-KI-Stack enthält CUDA 12.6, NVIDIA TensorRT 10.3, NVIDIA cuDNN 9.3, NVIDIA Vision Programming Interface 3.2, NVIDIA Deep Learning Accelerator 3.1 und DLFW 24.0. JetPack 6.2 bringt neue leistungsstarke Super-Modi für die Produktionsmodule NVIDIA Jetson Orin Nano und Jetson Orin NX. Super-Modi steigern die KI-Inferenzleistung für Gen-AI-Modelle um bis zu 2-mal.

Spezifikationen