Co daje sztuczna inteligencja w laptopie?
Przeczytasz w
13 minut
Nowoczesne laptopy kuszą oznaczeniami zgodności z AI, czyli sztuczną inteligencją. Co to jednak oznacza w praktyce? Czy faktycznie warto taki sprzęt wybrać, a jeżeli tak, to które modele zasługują na szczególną uwagę? Na te oraz podobne pytania postaramy się dziś odpowiedzieć.
Sprawdziliśmy dokładnie trzy najnowsze laptopy, które wyposażono w sprzętową obsługę obliczeń związanych ze sztuczną inteligencją. Wyniki są zaskakujące i to faktycznie jest cecha komputera, nad którą warto się poważnie zastanowić przy zakupie nowego modelu. Zacznijmy jednak od podstaw, jako że sztuczna inteligencja w laptopach nie dla wszystkich jest sprawą oczywistą.
AI w laptopach – co to tak naprawdę oznacza?
Zacznijmy może od wyjaśnienia, czym w przypadku laptopów jest AI, jako że samo pojęcie jest niesamowicie szerokie i łatwo tutaj o nadinterpretacje. Otóż techniki sztucznej inteligencji w przypadku komputerów osobistych, w tym laptopów, to zasadniczo obliczenia wykonywane na sztucznych sieciach neuronowych. Sam model sieci jest przygotowywany i rozwijany z użyciem olbrzymich serwerowni, a nasze sprzęty domowe jedynie pracują w oparciu o już gotowy model.
Obliczenia mogą być wykonywane bezpośrednio przez nasz procesor, ale ten nie jest wystarczająco wyspecjalizowany, aby wykonywać je odpowiednio szybko oraz efektywnie w kwestii energetycznej. Z takimi obliczeniami znacznie lepiej radzą sobie dzisiejsze karty graficzne, zwłaszcza te najnowsze, które wyposażono w dedykowane jednostki sprzętowe do obliczeń na modelach sztucznej inteligencji. W tym przypadku wydajności z pewnością nie brakuje, ale też pobór energii oraz ilość wydzielanego ciepła są duże – a tego w laptopach nie lubimy.
Dlatego też twórcy procesorów postanowili doposażyć sam procesor w dedykowane jednostki AI i tak właśnie powstały pierwsze moduły NPU – Neural Processing Unit (jednostki przetwarzania neuronowego). Moduł ten po raz pierwszy trafił do laptopów w ramach procesorów Intel Core Ultra 100H i oferował dodatkowe 10 TOPS (Tera Operations per Second) w obliczeniach związanych konkretnie z AI – topowy model Core Ultra 9 185H oferował łącznie 34 TOPS.
Jego obecność w laptopie pozwala wykonywać lekkie zadania związanie ze sztuczną inteligencją bez konieczności angażowania znacznie bardziej wymagającej prądowo karty graficznej. Efekt? Dłuższy czas pracy na baterii oraz cichsza praca urządzenia!
Innymi słowy NPU ma pełnić rolę pomostu pomiędzy niewyspecjalizowanym procesorem a kosztowną (tak w produkcji, jak i zasilaniu) kartą graficzną.
System docelowo ma rozpoznawać, jakie zadania można oddelegować do NPU, aby te wykonały się szybciej niż na CPU („zwykłych” rdzeniach procesora), ale jednocześnie aby nie tracić zasobów na delegowanie zadania do GPU (karty graficznej).
Co możemy robić z pomocą AI na laptopach?
Nowe procesory, zarówno Intel Core Ultra 200V, jak i AMD Ryzen AI 9 300, oferują już znacznie mocniejsze NPU, które radzi sobie lepiej nie tylko z tymi lekkimi, ale też średnio wymagającymi zadaniami. Do tego grona niedawno dołączyły też laptopy oparte o zupełnie inną architekturę (ARM) i korzystające z procesorów Snapdragon. Wszystkie modele obecnej generacji oscylują w okolicy wydajności 45-50 TOPS, co oznacza, że są zgodne z wymaganiami Copilot+ w Windows, o której pisaliśmy już wcześniej. Skrótowo jednak przypomnimy, co można robić z pomocą wspomnianego Copilota:
- Generować na zawołanie dowolne obrazki – piszemy, jaki obrazek potrzebujemy (mniej lub bardziej precyzując detale) i po dosłownie kilku sekundach dostajemy propozycję wygenerowaną przez AI. Ta funkcja akurat nie korzysta z NPU, jako że wymaga znacznie większej wydajności niż oferowana przez dedykowane jednostki procesora.
- Współtworzyć w aplikacji Paint – my rysujemy, a Copilot zmienia to w obraz, jaki faktycznie mieliśmy w głowie! Można wybrać spośród kilku stylów oraz regulować poziom „interpretacji” albo raczej kreatywności AI. Efekty są niesamowite, zwłaszcza że to też dzieje się w czasie rzeczywistym – każda kreska, którą naniesiemy na obraz, już po kilku sekundach ma odzwierciedlenie w podglądzie wygenerowanym przez AI. Tutaj akurat jest używane NPU i jest to funkcja, która wymaga do działania nowoczesnego procesora.
- Tłumaczyć (w formie napisów) dowolny oglądany film w czasie rzeczywistym – odpalamy przykładowo poradnik „Jak zbudować fort z mebli”, nagrany po szwedzku i dostajemy napisy po… angielsku. Ale tu zapewne z czasem nasz język zostanie również dodany.
- Dodawać filtry do kamery i mikrofonu – te funkcje oczywiście dostępne są od dawna, ale wykonywane z pomocą rdzeni NPU potrzebują znacznie mniej energii, ergo nasz sprzęt dłużej pracuje na baterii, a jego chłodzenie nie przeszkadza nam swoją głośnością.
- Szybko odszukiwać w formie kontekstowego zapytania dowolną aktywność, jaką wykonywaliśmy na naszym PC w przeszłości. Mowa tu o funkcji Recall (Przypomnienie), która ma zostać oficjalnie dodana w 2025 roku.
- Zapytać Copilota o absolutnie cokolwiek – to tak, jakbyśmy mieli pod ręką zawsze dostępnego specjalistę od wyszukiwania informacji w Google (albo raczej Bing, bo to z niego korzysta Copilot). I tu nie trzeba się nawet silić na precyzję! Przykładowo usłyszeliśmy, że Intel wprowadza nowe karty i temat nas zainteresował – otwieramy okienko Copilota, wpisujemy „Kiedy premiera nowych kart Intela?” i momentalnie dowiadujemy się, o jakie karty chodzi oraz kiedy będą miały premierę. Jeżeli chcemy o coś dopytać, to po prostu dopytujemy, a AI rozumie kontekst tego pytania.
Poza Copilotem również inne aplikacje potrafią wykorzystywać NPU do przyspieszenia pracy lub oszczędzania energii, gdy pracujemy bez podłączonego zasilania. Przykładem może być usuwanie szumów podczas edycji nagrań audio w programie Audacity, choć ten obecnie działa tylko z procesorami Intel. Aplikacje z pakietu Adobe albo program do edycji wideo DaVinci Resolve również są w stanie wykorzystać NPU do nakładania efektów – przykładowo nakładanie maski na kolejne klatki filmu zajmuje do 5x mniej czasu, gdy wspomagamy się NPU.
Oczywiście – w tych poważnych zastosowaniach jeszcze większy wzrost wydajności uzyskamy, gdy do tych obliczeń zaprzęgniemy kartę graficzną, zwłaszcza jeżeli będzie to któryś z nowszych RTXów, ale tu powracamy do kwestii mobilności – laptopy z takimi kartami nie tylko są znacznie droższe w zakupie, ale też będą cięższe, głośniejsze i cieplejsze. Czas pracy na baterii również jest zwykle nawet o połowę krótszy, w przypadku gdy laptop korzysta z dedykowanej karty graficznej. Dlatego właśnie warto wybrać laptopa z AI – nadal mamy dostęp do nowoczesnych narzędzi, ale nie rezygnujemy z mobilności!
Które laptopy posiadają sprzętowe wsparcie AI?
Skoro już wiemy, że warto w taki sprzęt inwestować, to jak rozpoznać, który z laptopów jest faktycznie odpowiednio nowoczesny, aby radzić sobie w zadaniach AI, ale przy tym nadal będzie odpowiednio zgrabny i mobilny? To wbrew pozorom nie takie proste zadania, jako że z AI radzi sobie obecnie dosyć dobrze większość laptopów z dedykowana kartą graficzną od NVIDIA. Przy czym te zwykle nie są specjalnie mobilne lub za mobilność trzeba dopłacać krocie. Takie laptopy (z dedykowaną kartą graficzną wspierającą obliczenia AI) dobrze sprawdzą się w roli stacji roboczej i do bardziej stacjonarnej pracy, ale nie w naszym przypadku.
Tutaj konieczne będzie poszukiwanie laptopów z konkretnymi procesorami albo raczej z konkretnej generacji procesorów każdego z producentów.
Najłatwiej sprawa wygląda w przypadku laptopów na procesorach AMD – te mają „AI” w nazwie, więc trudno się pomylić. Laptopy dobrze radzące sobie z AI i oparte o procesor Intel łatwo poznać po haśle „Ultra” w nazwie procesora, przy czym pamiętajmy, że dopiero seria Core Ultra 200 (Meteor Lake) oferuje odpowiednią wydajność aby móc korzystać z Copilota. Ostatnia kategoria to laptopy oparte o architekturę ARM – w tym przypadku procesor Snapdragon X Elite to jedyna rozsądna opcja (na chwilę powstawania tego artykułu).
Testujemy laptopy z AI – które wybrać?
Pomimo deklarowania zbliżonej wydajności w zastosowaniach AI, w praktyce ta potrafi skrajnie różnić się pomiędzy wszystkimi trzema dostawcami procesorów. Dlatego też wybraliśmy do testów trzy laptopy reprezentujące każdy z nowoczesnych procesorów, a dodatkowo zestawiliśmy je z podobnie wycenionym laptopem „klasycznym”, zatem bez NPU. Testowane modele to:
- ASUS Vivobook S 15 OLED S5507QA – Qualcomm Snapdragon Elite X, 16 GB RAM
- ASUS Vivobook S 16 OLED M5606WA – AMD Ryzen AI 9 HX 365, 32 GB RAM
- Lenovo YOGA Slim 7 Aura Edition 15 – AI – Intel Core Ultra 7 256V, 16 GB RAM
- HP Victus 160r1136nw – Intel Core i7-14650HX, NVIDIA GeForce RTX 4060 8 GB, 32 GB RAM.
Wydajność w lekkich zadaniach AI
Do testów wydajności NPU posłużył nam pakiet testów UL Procyon pod nazwą Computer Vision Benchmark – pakiet ten sprawdza wydajność sprzętu w takich zastosowaniach, jak klasyfikacja obrazów, segmentacja obrazów, detekcja obiektów, zwiększanie rozdzielczości. Zaletą tego testu jest fakt, że w tych samych warunkach sprawdza różne środowiska obliczeń AI. Wyniki okazały się być zaskakująco korzystne dla procesora w architekturze ARM, ale też trzeba zaznaczyć, że procesor AMD nie posiada dedykowanej biblioteki do takich zastosowań, zatem w jego przypadku nie było możliwości korzystania z NPU.
Wydajność tylko 20% poniżej oferowanej przez dedykowaną kartę graficzną to wyśmienity wynik w przypadku nowego Snapdragona. Procesor Intela również nie wypadł źle – tu samo NPU, pobierając rząd wielkości mniej energii, uzyskało o 35% niższy wynik. Widać również, że zoptymalizowane biblioteki OpenVino pod procesor Intela dają mu sporego kopa w bardziej złożonych obliczeniach zmiennoprzecinkowych (FP32).
Kolejny z testów dotyczył szybkości obsługi dużych modeli językowych (LLM), zatem szybkości, w jakiej AI będzie odpowiadać na nasze pytania. W tym przypadku wyniki były bardzo zbliżone, ale z przewagą po stronie procesora Intel. Naturalnie karta graficzna pozostaje w tej kwestii bezkonkurencyjna, a procesory bez NPU radzą sobie tu najgorzej (ale nadal można z tych funkcji korzystać).
Wydajność w cięższych zadaniach AI
Ostatnim testem, który chcieliśmy przeprowadzić, było generowanie obrazków z pomocą Stabble Diffusion, ale tutaj okazało się, że zwyczajnie jest to zbyt intensywne zadanie dla NPU w procesorze. Laptop z Core Ultra jako jedyny zdołał podjąć próbę, ale nigdy jej nie ukończył. Snapdragon oraz Ryzen AI całkowicie nie są kompatybilne z tym środowiskiem pracy z AI. Jedyny spośród testowanych laptopów, który (swoją drogą bardzo sprawnie) pozwalał obsługiwać Stable Diffusion, to model wyposażony w układ graficzny NVIDIA RTX 4060. W tym przypadku i tak trzeba było ograniczyć się do podstawowych modeli (te większe wymagają jeszcze więcej dedykowanej pamięci), ale samo generowanie przebiegało szybko i sprawnie.
Jaką wydajność oferują laptopy AI poza zastosowaniami AI?
Naturalnie AI to tylko pomoc w codziennych zastosowaniach, zatem niemniej istotnym pytaniem będzie, jak omawiane procesory radzą sobie w klasycznych zadaniach. Tutaj sięgnęliśmy po testy w pakiecie Microsoft Office (ponownie z pomocą aplikacji UL Procyon), 7zip oraz CrossMark.
Bez wątpienia da się odczuć wyższą wydajność klasycznego, nie ultramobilnego procesora w laptopie HP Victus – w szczególności w zadaniach związanych z pakowaniem i rozpakowywaniem plików daje o sobie znać spory nadmiar rdzeni. Warto jednak zaznaczyć, że HP podczas takich testów jest wielokrotnie głośniejszy od wszystkich pozostałych testowanych laptopów. Jeżeli natomiast chodzi o te bardziej mobilne jednostki, najlepiej prezentuje się jako całokształt procesor Core Ultra 7 258V, choć nowy Ryzen AI 9 w kilku zastosowaniach wyraźnie nad nim dominował (za sprawą znacznie większej ilości rdzeni), ale też nie zdołał wyprzedzić zwykłego Core i7-14650HX. Zwyczajnie w tym segmencie laptopów nie powinniśmy oczekiwać nadzwyczajnej wydajności wielowątkowej, zatem podejście Intela bardziej nam przypadło do gustu.
Ciekawe okazały się wyniki testów SSD (pamięci masowej w omawianych laptopach). Nie spodziewaliśmy się dużych różnic i poniekąd ich nie uświadczyliśmy w laptopach ultramobilnych – wszystkie zdobyły zbliżony wynik, z lekkim prowadzeniem po stronie Lenovo ze Snapdragonem. Natomiast Victus okazał się być wyposażony w znacznie szybszy SSD, co przełożyło się na widoczne różnice w czasie instalacji aplikacji albo ładowania gier.
Czy na lekkich laptopach z AI da się pograć?
Otóż właśnie – na tych laptopach, w których nie uświadczymy dedykowanej karty graficznej, również da się pograć! Układy grafiki zintegrowane w tych laptopach z powodzeniem znajdują zastosowanie w najwydajniejszych konsolach kieszonkowych (Handheldach), a za sprawą upscalingu (FSR/XeSS) są w stanie wyświetlić całkiem szczegółowy obraz również na dużych 14-15-calowych matrycach. Nie powinniśmy nastawiać się na granie na wysokich ustawieniach ani też oczekiwać płynności animacji rodem z PC, jednakże samo granie jest jak najbardziej możliwe. Sprawdziliśmy dwa tytuły – popularną grę online Counter Strike 2, oraz równie znaną grę dla pojedynczego gracza, która to słynie z wysokich wymagań – Cyberpunk 2077.
W przypadku Cyberpunka, którego testowaliśmy na ustawieniach dumnie nazwanych „Steam Deck”, najsłabiej poradził sobie Snapdragon – gra była tam praktycznie niegrywalna i ustawienia byłoby trzeba jeszcze bardziej redukować, aby uzyskać płynną animację. Najlepsze wyniki osiągał procesor AMD z nowym układem Radeon 890M, ale Intel z ARC 140V nie był znacząco dalej. Co ciekawe, to właśnie na laptopie z Core Ultra grało się najprzyjemniej, jako że sprzętowy upscaling XeSS daje przyjemniejszy obraz na ekranie niż FSR w przypadku Radeona.
W przypadku Counter-Strike 2 w naszym odczuciu tylko laptop na platformie AMD wypada akceptowalnie dobrze. Na pozostałych dwóch ultrabookach wydajność jest zbyt niska, aby grać na poważnie przeciwko innym ludziom, ale niemniej, grać się da. Wyniki osiągane przez Victusa z RTX 4060 raczej nie wymagają komentarza – ot, laptop gamingowy jest zdecydowanie lepszy w grach.
Co poza AI oferują najnowsze laptopy?
Na podstawie powyższych testów możecie wyrobić sobie całkiem konkretną opinię o możliwościach samych procesorów. To jednak nie wszystko, co ma znaczenie przy wyborze komputera. Tutaj do gry wchodzą takie kwestie, jak solidność konstrukcji, rozmiar i typ matrycy, jakość nagłośnienia oraz oczywiście czas pracy na baterii. Wszystkie te rzeczy też sprawdziliśmy i zaczniemy od omówienia kwestii baterii.
Pierwsze, co rzuca się w oczy, to to, że laptop gamingowy z dodatkową kartą graficzną zdecydowanie nie jest maratończykiem – i to pomimo zastosowania w nim oszczędniejszej matrycy IPS. Na wykresie dominuje zdecydowanie laptop z Intel Ultra, choć warto tutaj podkreślić, że jego dwaj konkurenci posiadają znacznie bardzie łasą na energię matrycę OLED (podczas gdy laptop Lenovo wyposażono w dotykowy panel IPS). Ekrany zostały oczywiście skalibrowane przed testem do tej samej jasności. Tutaj pewności nie mamy, ale Intel najpewniej zrównałby się z ASUSem na Snapdragonie, gdyby korzystał z tej samej matrycy.
A skoro już przy matrycach jesteśmy – tutaj bardzo wiele zależy od tego, do czego laptop będzie nam potrzebny – oba ASUSy z panelami OLED oferują przepiękne barwy, niemalże idealny kontrast oraz możliwość korzystania z HDR. Jednocześnie są to matryce, z których praktycznie nie da się korzystać „na dworze” lub w bardzo jasnych pomieszczeniach – uwzględnia to również podróż pociągiem, jeżeli nie zasłonimy sobie okna…
Panele IPS w testowanych laptopach bardzo mocno się różnią – Victus to dosyć podstawowy panel, który ledwie pokrywa w całości standardową przestrzeń kolorów, podczas gdy Lenovo Yoga zbliżył się do pełnego pokrycia DCI-P3, jakie oferują panele OLED. Warto też zaznaczyć, że Yoga mimo również błyszczącej matrycy znacznie lepiej radzi sobie z odbiciami na powierzchni panelu. Ostatecznie dochodzi kwestia dotyku – w naszym przypadku Lenovo oraz ASUS na procesorze AMD oferowały ekran dotykowy, podczas gdy ASUS ze Snapdragonem był go pozbawiony – podobnie jak gamingowy Victus, choć w tym przypadku zdziwienia brak.
Wszystkie testowane ultrabooki okazały się bardzo solidne w kwestii wykonania, choć tutaj z pewnością to Lenovo Yoga wyróżnia się na plus. Wagowo wszystkie plasują się w okolicy 1,5 kg, ale to model z procesorem Snapdragon był najlżejszy (około 1,42 kg) – w porównaniu do ponad 2,3 kg w przypadu Victusa to wyśmienite wyniki.
Niestety niska masa w przypadku Snapdragona najwyraźniej wynikała z redukcji układu chłodzenia – szum, jaki generował, momentami mógł konkurować nawet z typowo gamingowym (zatem głośnym) Victusem. Najciszej pracował laptop oparty o procesor Intela – nawet podczas gry był ledwie słyszalny! Podczas codziennej pracy z pakietem Office, przeglądarką czy też w czasie oglądania filmów wszystkie trzy ultrabooki są bezgłośne (a Victus potrafi nieco zaszumieć).
Spore różnice napotkaliśmy również w przypadku systemu nagłośnienia oraz wbudowanej kamery. W kwestii jakości brzmienia jest wyśmienicie (serio!) brzmiący Lenovo, potem długo, długo nic, aż pojawia się ASUS ze Snapdragonem oraz Victus, a na samym końcu, z brzmieniem gorszym od naszej służbowej mikrofalówki, plasuje się też ASUS, ale z procesorem AMD… Niby te same z nazwy Vivobooki, a brzmią inaczej. To, co jednak chcemy podkreślić – to, jak brzmi Lenovo, pozwala realnie z przyjemnością słuchać muzyki bezpośrednio z laptopa, a oglądanie filmów czy seriali też jest dużo przyjemniejsze i ostatecznie znacznie lepiej słyszymy rozmówców podczas wideorozmów.
Pod względem jakości kamery mamy pewien plot twist, jako że procesor Snapdragon od lat obsługiwał telefony, w których jakość przetwarzania obrazu z kamery jest kluczowa i to właśnie na tym laptopie (ASUS Vivobook S 15) kamera daje najczystszy oraz pełen detali obraz. Yoga oraz ASUS Vivobook na AMD się zrównują i Victus oferował najsłabszy obraz z kamery – a wszystko to pomimo faktu, że wszystkie testowane kamery są w tej samej rozdzielczości (FHD!).
Czy warto kupić laptopa z AI?
Nasze testy wykazały, że AI w laptopie może się realnie przydawać. Dedykowane rdzenie NPU radzą sobie bardzo dobrze z prostymi i średniozaawansowanymi zadaniami generowania treści, co pozwala odciążyć gorzej radzący sobie w tej materii procesor. W jeszcze mocniejszych laptopach z dedykowaną kartą graficzną takie rozwiązanie pozwoli rzadziej aktywować GPU, dzięki czemu wydłuża się czas pracy na baterii. A część funkcji zwyczajnie wymaga do pracy obecności rdzeni neuronowych, zatem bez najnowszego procesora nie będą działać na najbardziej mobilnych laptopach (tych bez karty graficznej).
Spośród wszystkich przetestowanych procesorów pod względem użyteczności w zadaniach związanych z AI stanowczo wybija się nowa rodzina procesorów Intel Core Ultra 200V (Lunar Lake). Wynika to głównie z prężnie rozwijanych bibliotek OpenVino, z których to realnie korzysta sporo znanych aplikacji, ale również sam procesor okazał się być znacznie szybszy w typowo mobilnych zastosowaniach. Laptop wyposażony w procesor AMD lepiej poradził sobie w testach z grami oraz w najbardziej obciążających testach CPU, ale nie sądzimy, aby akurat tego wymagali potencjalni nabywcy tego typu sprzętu.
Ostatecznie całkiem pozytywnie zaprezentował się laptop na procesorze Qualcomm (Snapdragon) – co prawda tutaj wsparcie aplikacji korzystających z AI jest jeszcze słabsze niż w przypadku AMD, a sam procesor wypada raczej przeciętnie w testach wydajności ogólnej, ale jednak miał coś, czego nie uświadczymy w laptopach z procesorami w architekturze x86 (Intel/AMD) – otóż zawsze był gotowy do pracy. Zupełnie jak nasze telefony – wznowienie pracy po otwarciu pokrywy było natychmiastowe, nawet jeżeli laptop wcześniej tydzień leżał w torbie.
Sam sprzęt pobiera też znacznie mniej energii w takim stanie wstrzymania i odłożony „do szafy” na tydzień w stanie uśpienia straci zaledwie kilka procent pojemności baterii, podczas gdy laptopy Intela oraz AMD zwyczajnie rozładują się do końca i przejdą do hibernacji, z której wybudzenie trwa dłużej niż zimny start systemu. Nie jest to zatem aż tak egzotyczny sprzęt, jak mogłoby się wydawać i realnie warto się nim zainteresować. Gdybyśmy jednak mieli wskazywać zwycięzcę tego porównania, to bez wątpienia byłby nim Lenovo Yoga Slim 7 Aura Edition 15 – AI z procesorem Intel Core Ultra 7 258V.
Może Cię zainteresować:
Czytaj więcej
