W dzisiejszym zaawansowanym technologicznie świecie, gdzie CPU i GPU odgrywają kluczowe role, na scenę wkracza nowy gracz – NPU (jednostka przetwarzania neuronowego). Firmy technologiczne intensywnie pracują nad wykorzystaniem potencjału NPU, aby wprowadzać na rynek innowacyjne rozwiązania bazujące na sztucznej inteligencji generatywnej. Laptopy z serii Copilot+, wyposażone w procesory Qualcomm Snapdragon serii X, dysponują potężnymi NPU, które osiągają wydajność rzędu 45 TOPS (bilionów operacji na sekundę). Apple również nie pozostaje w tyle, prezentując swój nowy silnik neuronowy, zdolny do osiągnięcia 38 TOPS. Co więcej, Intel i AMD szykują się do wprowadzenia kolejnych generacji NPU w swoich platformach Lunar Lake (48 TOPS) i Strix Point (50 TOPS). Wzrost zainteresowania NPU rodzi naturalne pytanie: czym dokładnie jest ta technologia i jakie są jej możliwości? Ten artykuł ma na celu przybliżenie istoty NPU, omówienie jego funkcji i różnorodnych zastosowań.
Czym Jest Jednostka Przetwarzania Neuronowego (NPU)?
NPU, czyli Neural Processing Unit, to specjalistyczny układ scalony zaprojektowany z myślą o efektywnym wykonywaniu zadań związanych ze sztuczną inteligencją. Głównym zadaniem NPU jest przetwarzanie sieci neuronowych, obsługa zadań uczenia maszynowego oraz realizacja innych operacji związanych z AI. W kontekście sztucznej inteligencji, kluczowe znaczenie mają pewne typy obliczeń matematycznych, a w szczególności operacje mnożenia macierzy, określane również jako „matmul”. NPU są skonstruowane w taki sposób, aby realizować te operacje z niezwykłą szybkością.
Dodatkowo, w każdym zadaniu AI, kluczową rolę odgrywa przetwarzanie równoległe, gdyż sieci neuronowe działają, wykonując wiele operacji jednocześnie. Dlatego NPU wyposażone są w wyspecjalizowane akceleratory, które umożliwiają wykonywanie równoległych obliczeń na dużą skalę. W połączeniu z szybką pamięcią, NPU są w stanie błyskawicznie przeprowadzać równoległe operacje „matmul” na wielu rdzeniach.
Podsumowując, NPU to jednostki zaprojektowane z myślą o zadaniach AI, gdzie priorytetem jest równoległe przetwarzanie, szybkie wykonywanie operacji „matmul” i skalowalność. Warto zauważyć, że poszczególne firmy używają różnych nazw dla NPU. Google nazywa je TPU (jednostka przetwarzania tensora), a Apple określa je mianem silnika neuronowego.
NPU a CPU i GPU: Jakie Są Różnice?
NPU różni się od CPU, które jest bardziej uniwersalną jednostką obliczeniową, tym, że jest projektowane specjalnie pod kątem zadań związanych ze sztuczną inteligencją. CPU obsługuje szerokie spektrum zadań, od operacji systemowych po aplikacje, lecz nie jest tak wydajne w przetwarzaniu równoległym. Z kolei GPU, czyli jednostki przetwarzania grafiki, są zoptymalizowane do renderowania grafiki, co czyni je idealnymi do gier i symulacji. Chociaż GPU mogą również wspomagać obliczenia związane z AI, to NPU, jako układy dedykowane tym zadaniom, osiągają znacznie lepsze rezultaty w zakresie szybkości i efektywności.
Na początku rozwoju komputerów, kiedy nie było jeszcze GPU ani NPU, to CPU odpowiadało za obsługę grafiki, wykonując renderowanie programowe. W latach 90., wraz z postępem technologicznym, wprowadzono GPU, które przejęły ten proces. Obecnie obserwujemy dynamiczny rozwój NPU, które stanowią odpowiedź na rosnące zapotrzebowanie na moc obliczeniową w dziedzinie sztucznej inteligencji.
Praktyczne Zastosowania NPU w Laptopach
Początkowo NPU, jako wyspecjalizowane akceleratory sprzętowe AI, były wykorzystywane głównie przez duże przedsiębiorstwa do przetwarzania równoległego. Dziś, te zaawansowane układy znajdują zastosowanie również w produktach konsumenckich, takich jak laptopy i smartfony. Przykładem są nowoczesne laptopy z serii Copilot+ od Microsoftu, które dzięki potężnym NPU oferują funkcje takie jak Recall, nowatorskie rozwiązanie, które zadebiutuje już wkrótce.
Funkcja Recall działa poprzez wykonywanie zrzutów ekranu, przetwarzanie tych danych lokalnie za pomocą NPU i tworzenie indeksu wektorowego. Gdyby to zadanie spoczywało na CPU lub GPU, mogłoby to negatywnie wpłynąć na czas pracy na baterii. Dzięki dedykowanemu NPU, operacje AI są przeprowadzane efektywnie, bez znaczącego obciążania baterii i zasobów CPU lub GPU.
Podobnie, dedykowane NPU są wykorzystywane do obsługi wielu innych funkcji, takich jak Cocreator w MS Paint, generowanie obrazów w aplikacji Zdjęcia, usuwanie tła z klipów wideo, stosowanie efektów wizualnych przy użyciu Magic Mask w DaVinci Resolve, poprawa jakości klatek w grach, wdrażanie efektów Windows Studio, generowanie tłumaczeń w czasie rzeczywistym i wiele innych.
Wraz z upływem czasu, zastosowanie NPU w laptopach będzie stale wzrastać, co pozwoli odciążyć CPU i GPU od zadań wymagających dużych zasobów, a w efekcie przyczyni się do szybszego i bardziej wydajnego działania urządzeń.
Apple wykorzystuje swój silnik neuronowy w celu zasilania funkcji inteligentnych w systemach iOS, iPadOS i macOS. Modele AI działające bezpośrednio na urządzeniach za pomocą silnika neuronowego umożliwiają podsumowywanie e-maili, ustalanie priorytetów powiadomień, generowanie podsumowań nagrań rozmów, tworzenie obrazów i wiele innych funkcji. Nowa Siri również korzysta z silnika neuronowego do obsługi różnorodnych zadań związanych z AI.
Podsumowanie
W skrócie, NPU to przełomowa technologia, która otwiera nowe możliwości w erze sztucznej inteligencji. Rozwój tej technologii jest dopiero w początkowej fazie, a kolejne aplikacje i innowacyjne rozwiązania oparte na NPU pojawią się w najbliższej przyszłości, rewolucjonizując sposób, w jaki korzystamy z naszych laptopów.
newsblog.pl
Maciej – redaktor, pasjonat technologii i samozwańczy pogromca błędów w systemie Windows. Zna Linuxa lepiej niż własną lodówkę, a kawa to jego główne źródło zasilania. Pisze, testuje, naprawia – i czasem nawet wyłącza i włącza ponownie. W wolnych chwilach udaje, że odpoczywa, ale i tak kończy z laptopem na kolanach.