NPUs: Maßgebliche technische Komponente der Zukunft?
Im KI-Zeitalter werden diese Bauteile wahrscheinlich ebenso bedeutend wie andere Einheiten in PCs, Notebooks und anderen Geräten. Um den Zweck einer NPU - einer Neural Processing Unit - zu verstehen, hilft es, sich kurz den Zweck der GPU zu verdeutlichen. Diese Chips dienen in gewöhnlichen Endgeräten für Verbraucher meist dazu, 3D-Aufgaben zu beschleunigen. Häufig sind dies Spiele, aber auch andere Einsatzzwecke sind denkbar.
GPUs, wie sie auf Grafikkarten wie der ASUS Dual GeForce RTX 4060 zu finden sind, können dies so gut, weil ihre Architektur genau auf diesen einen Zweck ausgelegt ist. Theoretisch könnten diese Aufgaben zwar auch eine CPU ausführen, diese wäre aber sehr viel langsamer und würde viel mehr Strom verbrauchen. Eine NPU ist mit der GPU daher leicht zu vergleichen: Ihre Aufgabe ist es, bestimmte KI- und Machine-Learning-Aufgaben wesentlich schneller auszuführen als dies CPUs oder GPUs könnten. Geht es etwa um das Generieren eines Textes oder eines Bildes via KI-Software, wäre eine NPU sowohl schneller als auch stromsparender als eine vergleichbare GPU in einem Notebook oder ähnlichen Geräten. Mit anderen Worten: NPUs sind hochspezialisierte Komponenten, die auf einen bestimmten Einsatzzweck - den KI-Bereich - zugeschnitten sind.
Klingt gut! Wo kann ich eine NPU kaufen?
NPUs existieren nicht in Form spezieller Komponenten wie CPUs oder GPUs, die einfach in das Mainboard eines PCs gesteckt werden können. Dies mag vielleicht in Zukunft der Fall sein, wenn die Anforderungen an NPUs steigen, doch bislang ist dies nicht der Fall. Stattdessen sind NPUs momentan Teile von CPUs (für Desktop-PCs oder Notebooks) oder SoCs in Smartphones. Kaufen Sie jetzt beispielsweise ein Microsoft Surface Pro 10, werden Sie feststellen, dass die Produktbeschreibung von "Intel KI-Boost" spricht. Dies ist der Marketingbegriff für, unter anderem, eine NPU-Einheit, die in den Prozessor des Systems eingebaut ist. Mit Kauf des Gerätes erhalten Sie somit einige zusätzliche Funktionen, die für das Ausführen von KI-Anwendungen auf Ihrem Gerät nützlich sein können.
Woran erkenne ich Geräte mit NPU im Handel?
Technisch versierte Anwenderinnen und Anwender halten in den Spezifikationen Ausschau nach einer gesondert aufgeführten NPU. Wenn es schneller gehen soll, kann es helfen, nach bestimmten Marketingbegriffen zu suchen. Beispielsweise hat Microsoft dafür das Copilot-Programm ins Leben gerufen. Geräte, die ein "Copilot+"-Label tragen, sind durch ihre Hardware auf die Nutzung von KI-Aufgaben ausgelegt. Ein Beispiel ist das Samsung Galaxy Book4 Edge, das sowohl die notwendige Hardware mitbringt als auch eine gesonderte Taste auf der Tastatur aufweist. Betätigen Sie sie, öffnet sich die Copilot-App von Windows 11. Damit bekommen Sie Zugriff auf diverse Funktionen:
- Copilot kann für Sie E-Mails und Dokumente verfassen oder bestehende Texte verfeinern - praktisch, wenn Sie Zeit sparen möchten.
- Die App kann Ihnen bei spezifischen Problemen helfen, etwa aus Bereichen wie Sprache, Mathematik, Programmierung, Geschichte und mehr.
- Sie könnten Copilot einige Aufgaben und Termine geben und die App bitten, eine To-Do-Liste oder einen möglichst effizienten Kalender zusammenzustellen.
- Allgemein kann die Anwendung genutzt werden, um schlicht Informationen zu finden - von Küchenrezepten bis zu Gesetzestexten ist alles dabei.
Am besten sind Apps dieser Art vergleichbar mit einem Menschen, der über ein fast unbegrenztes Wissen verfügt und Ihnen 24/7 zur Verfügung steht. Copilot-fähige Endgeräte machen es Ihnen leichter, auf diesen "virtuellen Lehrer" zuzugreifen und Rückfragen zu stellen.
Sind NPUs für diese Apps notwendig?
Nicht zwingend: KI-Anwendungen wie ChatGPT funktionieren sehr gut auch auf allen Geräten, die nicht über spezialisierte NPUs verfügen. Die eigentlichen Berechnungen dafür werden extern auf den Servern von OpenAI, dem Unternehmen hinter ChatGPT, ausgeführt, sodass die NPU in Ihrem System nicht angerührt wird. Allerdings werden NPUs immer dann gefordert, wenn sie lokal bestimmte Aufgaben durchführen möchten.
Einige Beispiele:
1. Copilot nutzt für einige Aufgaben lokale Berechnungen. Diese "On-Device-KI" greift, sofern vorhanden, auf die NPU in Ihrem Gerät zurück.
2. In der Bild- und Videoerkennung können KI-Berechnungen genutzt werden, um Bilder oder Videos zu skalieren und etwa ihre Auflösung zu verdoppeln. Dies sorgt für wesentlich detailliertere, schönere Bilder und Videos. Die Berechnungen dafür werden mit Software wie Topaz durchgeführt - und das findet alles auf Ihrem PC statt. Gesonderte NPU-Einheiten können diesen Prozess wesentlich beschleunigen. Gehören Bild- und Videobearbeitung zu Ihren Einsatzgebieten, sind Geräte mit gesonderter NPU, wie das ASUS Zenbook A14, einen Blick wert.
3. In Videokonferenzen können NPUs bestimmte Funktionen deutlich beschleunigen und/oder verbessern. So fügen sie zum Beispiel virtuelle Unschärfe im Hintergrund hinzu, erkennen automatisch Gesichter und folgen ihnen bei Bewegung oder unterdrücken Störgeräusche beim Sprechen. Auch hier gilt: Theoretisch ist dies ohne NPU möglich, doch diese kleinen Einheiten können die genannten Features deutlich besser, schneller und/oder stromsparender anbieten.
Generell gilt: Alles, was den Bereich Machine Learning und KI streift, kann mit NPUs auf irgendeine Weise beschleunigt werden. Es ist davon auszugehen, dass die Bedeutung dedizierter NPUs in Computern - vom PC bis zum Smartphone - in Zukunft weiter ansteigen wird.
NPU: Beschleuniger für lokale KI-Modelle
Während ChatGPT extern berechnet wird, gibt es zahlreiche lokale Modelle, die lokal laufen - also auf Ihrem Gerät. Es gibt etwa Sprachmodelle wie Ollama oder Anwendungen für die Analyse von Dokumenten wie Sidekick, die auf eine NPU zugreifen können. Nutzen Sie Anwendungen dieser Art und führen diese auf einem Gerät mit NPU aus - etwa das ASUS ExpertBook P5 -, werden diese Modelle damit beschleunigt. Ollama würde etwa wesentlich schneller neue Texte generieren als ohne NPU-Gerät. Nutzen Sie gerne und häufig lokale KI-Modelle, ist die Investition in NPU-fähige Endgeräte also sehr sinnvoll. Dies gilt umso mehr in einem beruflichen Kontext, falls Sie finanziell von der Nutzung von KI-Modellen profitieren - denn dann werden die höheren Ausgaben für NPU-Geräte schnell durch die erhöhte Produktivität ausgeglichen.
Für welche Geräte gibt es NPUs?
Vom PC und Notebook bis zu Smartphone ist alles dabei. Eine kleine Auswahl:
1. Notebooks auf Basis der Ryzen AI-Prozessoren von AMD sind in der Lage, lokale KI-Aufgaben deutlich besser abzuarbeiten. Ein ASUS Zenbook S 16 etwa kommt dafür in Frage. Übrigens sind spezialisierte KI-Geräte in allen anderen Bereichen nicht weniger schnell. Auch "normale" Aufgaben lassen sich damit ebenso gut erledigen wie auf allen anderen Notebooks, PCs oder ähnlichen Geräten. Die KI-Beschleunigung ist somit nur ein kleiner Bonus obendrauf.
2. In PCs sind es momentan vor allem GPUs, die die KI-Beschleunigung übernehmen. GPUs wie eine Sapphire Radeon RX 9070 XT oder eine ASUS TUF GeForce RTX 5070 Ti übernehmen sowohl in Spielen als auch in Anwendungen für Bild- und Videoskalierung zahlreiche Aufgaben - oder für Sprachmodelle, Audioerkennung, und vieles mehr.
3. Smartphones wie ein Xiaomi 14T Pro sind mit eigenen NPU-Einheiten ausgestattet. Diese werden oft genutzt, um etwa Effekte für Bilder hinzuzufügen, Videos zu stabilisieren und mehr. Durch die NPU wird Akkulaufzeit gespart, da diese Einheit die Berechnungen deutlich effizienter durchführen kann.
Da sich KI-Anwendungen immer weiter durchsetzen werden, wird es nur eine Frage der Zeit sein, bis ausnahmslos alle Geräte über eine NPU in der einen oder anderen Form verfügen.
Woran erkenne ich besonders leistungsfähige NPUs?
Die theoretische Performance von NPUs lässt sich am besten an deren TOPS erkennen. Dies steht für Tera Operations Per Second, also Billionen Operationen pro Sekunde. In vielen Geräten vermerken die Hersteller, wie viele TOPS die integrierte NPU-Einheit leisten kann. Beim Acer Swift 14 AI OLED sind dies beispielsweise bis zu 47 TOPS. Die Intel-CPU im Microsoft Surface Laptop for Business schafft hingegen "nur" 40 TOPS.
Wie sich dieser Wert auf Ihren Alltag auswirkt, hängt von der Art der verwendeten KI-Aufgaben ab. Als Faustregel gilt jedoch, dass höhere Werte immer besser sind, da kompatible Anwendungen dadurch schlicht schneller sind und/oder bessere Ergebnisse produzieren. Nutzen Sie häufig lokale KI-Anwendungen, empfehlen wir Ihnen daher, im Shop von OFFICE Partner nach einem Gerät mit möglichst hohen TOPS-Werten Ausschau zu halten.
Hilft eine NPU auch abseits von KI-Anwendungen?
Nein. GPUs beispielsweise verrichten fast gar keine Arbeit, wenn ihre speziellen Funktionen nicht gefordert werden. Im Desktop-Betrieb stehen daher die Lüfter moderner Grafikkarten einfach still - denn die GPU langweilt sich. Analog dazu ist auch eine NPU gewissermaßen arbeitslos, wenn keine KI-Aufgaben angefordert werden. Ein Gerät mit einer zusätzlichen NPU-Einheit zu kaufen, ohne KI-Anwendungen zu nutzen, ist daher wenig hilfreich - denn die Rechenleistung würde brachliegen.
Fazit: NPUs für bessere lokale KI-Ergebnisse
Von Copilot über Bild- und Videoverbesserung bis zu Textverfeinerung und Kalendereinträgen: Lokale KI-Aufgaben werden in Zukunft zahlreich sein und über NPU-Einheiten beschleunigt werden. Sind Sie bereits jetzt Teil dieser Zukunft und nutzen KI-Anwendungen wie Copilot, kann es nicht schaden, in Geräte mit NPUs zu investieren. In diesen Fällen geht nämlich alles wesentlich schneller, besser und stromsparender - oder alles auf einmal.
