AMD hat eine neue CPU-Generation mit dem Namen “Ryzen AI” vorgestellt, die speziell für künstliche Intelligenz (KI) und maschinelles Lernen (ML) optimiert ist. Die neuen Prozessoren basieren auf der 7-nm-Architektur und bieten eine höhere Leistung und ein niedrigeres Energieverbrauch als ihre Vorgänger.

Die neueste CPU in dieser Generation ist der “Ryzen AI 9 HX 370”, der einen theoretischen Durchsatz von 50 Billionen Operationen pro Sekunde (50 TOPS) bei Integer-Genauigkeit und nur minimal weniger bei Verwendung des neuerdings unterstützen Block-FP16-Formats bietet. Damit soll AMD das Inferencing auf den XDNA-Einheiten bereits in FP16-Präzision vorliegender KI-Modelle bei annähernd gleicher Genauigkeit doppelt so schnell abarbeiten.

Die XDNA2-Einheit, die für KI-Anwendungen verwendet wird, hat acht Gruppen von je vier Ausführungseinheiten, die einzeln zugeordnet werden können. Wenn sonst nichts zu tun ist, legen sich die restlichen, nicht genutzten Einheiten schlafen. Die neue XDNA2-Einheit soll rund doppelt so energieeffizient arbeiten wie im Vor-Vorgänger Ryzen 7040.

AMD hat auch einen neuen Tool entwickelt, um die Übersetzung in Block FP16 zu ermöglichen, um KI-Modelle ohne zusätzliche, aufwendige Quantisierung zu verwenden.