Agent AI benötigt dedizierte CPUs: Nvidia stellt Vera-Prozessor vor, Alibaba, ByteDance, Meta und andere haben Einsätze geplant

Laut CoinWorld-Meldungen hat Nvidia auf der GTC-Konferenz offiziell den Vera CPU vorgestellt, der als erster speziell für Agent AI und Reinforcement Learning entwickelte Prozessor positioniert ist (zuvor als Bestandteil der Vera Rubin Plattform angekündigt). Mit dem Übergang von AI von Generierung und Inferenz zu autonomem Handeln durch Agenten steigen die Anforderungen an CPUs für Arbeitsabläufe wie Planung, Tool-Calls, Code-Ausführung und Ergebnisüberprüfung erheblich. Jensen Huang sagte: „Der CPU ist nicht mehr nur ein Hilfsmittel für Modelle, er treibt die Modelle an.“ Vera verwendet 88 Nvidia-eigene Olympus-Kerne, wobei jeder Kern durch Spatial Multithreading gleichzeitig zwei Aufgaben ausführen kann, ideal für Multi-Tenant AI-Fabriken mit massiver Parallelverarbeitung. Der Speicher nutzt die zweite Generation energiesparender Subsysteme LPDDR5X mit einer Bandbreite von 1,2 TB/s, doppelt so hoch wie bei herkömmlichen CPUs, bei halbiertem Energieverbrauch. Bereits geplante Cloud-Anbieter sind Alibaba, ByteDance, Cloudflare, CoreWeave, Lambda, Nebius, Oracle Cloud (OCI), Together.AI, Vultr und andere. In Bezug auf Hardware haben sich 19 Hersteller wie Dell Technologies, HPE, Lenovo und Supermicro angepasst. Michael Truell, Mitbegründer und CEO des AI-Programmier-Tools Cursor, sagte, dass Vera die Durchsatz- und Reaktionsgeschwindigkeit bei der Programmierung von Agenten verbessern werde. Das Streaming-Datenplattform Redpanda hat Vera getestet, um Apache Kafka-kompatible Lasten auszuführen, wobei die Latenz um bis zu 5,5-mal reduziert wurde. Auch das Los Alamos National Laboratory, das Lawrence Berkeley National Laboratory und das Texas Advanced Computing Center haben die Implementierung geplant. Der Vera CPU befindet sich in der Massenproduktion und wird im zweiten Halbjahr dieses Jahres über Partner ausgeliefert.