Edge AI
Praktyczny przewodnik z cenami: Jetson Orin Nano Super po podwyżce 399 USD, Raspberry Pi AI HAT+ 2 od 839 zł, mini-PC z NPU od 3000 zł. Kiedy co wybrać i dlaczego TOPS to nie jedyny parametr.
Materiały producenta NVIDIA, użycie redakcyjne. Zdjęcia produktowe w treści pochodzą z materiałów producentów.
Sprzęt do lokalnego AI nie jest jedną kategorią, i to jest pierwszy błąd przy wyborze. Inna platforma sprawdzi się przy kamerze wykrywającej osoby w magazynie, inna przy lokalnym chatbocie z dokumentami firmy, a jeszcze inna przy nauce modeli i eksperymentach. Kupowanie według hasła “dużo TOPS” zamiast według konkretnego zastosowania to najczęstszy błąd w tej kategorii.
Ten przewodnik zawiera ceny obserwowane 21 lipca 2026 i konkretne rekomendacje dla czterech głównych scenariuszy.
Lokalne AI wygrywa gdy:
Chmura wygrywa gdy:
Producenci podają TOPS (tera operations per second) jako główny parametr porównawczy. To myląca miara przy wielu zastosowaniach, bo:
Jetson Orin Nano Super to aktualna propozycja NVIDIA dla segmentu embedded AI. Co ciekawe, nie jest to nowy sprzęt. Ta sama płytka co wcześniej dostaje nowy tryb zasilania podnoszący zegary, dzięki czemu wydajność rośnie z 40 do 67 TOPS sparse. Posiadacze starszych zestawów dostają ten tryb po aktualizacji JetPacka.
Uwaga o cenie, stan na 28 lipca 2026. Zestaw zadebiutował w grudniu 2024 za 249 dolarów, po obniżce z 499. W lipcu 2026 NVIDIA podniosła jednak ceny modułów i zestawów Jetson, a Orin Nano Super podrożał do 399 dolarów. Własna strona produktowa NVIDII w chwili sprawdzania nadal podawała 249 dolarów, więc przed zakupem sprawdź cenę u konkretnego sprzedawcy. W polskich sklepach zestaw bywał dostępny za około 1999 zł brutto, ale rozrzut ofert jest duży.
Specyfikacja:
Ceny (obserwacja z 21 lipca 2026):
Uwaga na tę różnicę, bo w zestawieniach cen krąży kwota około 1620 zł, która jest ceną netto. Kupujący prywatnie płaci pełne 1999 zł, a odliczający VAT patrzy na kwotę netto.
Ekosystem: To największa przewaga Jetsona. NVIDIA JetPack SDK, pełna integracja CUDA, biblioteki do robotyki (ROS2, Isaac ROS), detekcja obiektów, pose estimation, computer vision, tysiące gotowych projektów i aktywna społeczność. Jeśli szukasz czegokolwiek do edge AI z kamerą lub robotem, znajdziesz przykłady dla Jetsona.
Dla kogo: Robotyka, kamery AI, urządzenia autonomiczne, edge inference dla modeli CV. Nie jest to sprzęt „plug and play”, wymaga Linuxa, konfiguracji środowiska, pracy z JetPack SDK.
Nie dla kogo: Lokalny chatbot i praca z dokumentami, tutaj mini-PC lub GPU sprawdzą się lepiej i taniej.
Raspberry Pi oferuje dwa rozwiązania AI jako nakładki HAT+ na Raspberry Pi 5. Używają akceleratorów Hailo i są dostępne w polskich sklepach. Dane obu wariantów zebraliśmy w karcie Raspberry Pi AI HAT+.
Dostępne w wersjach 13 TOPS i 26 TOPS. Nadaje się do:
Ceny:
Ograniczenia: Hailo-8 nie ma oficjalnego wsparcia dla generatywnych modeli językowych. Nie wynika to z tego, że obsługuje wyłącznie sieci konwolucyjne, bo radzi sobie też z częścią architektur transformerowych, na przykład Vision Transformer. Ogranicza go połączenie architektury układu, dostępnej pamięci i stosu programowego. Raspberry Pi 5 sam w sobie (bez HAT) uruchomi LLM przez Ollama, ale wolno, na CPU ARM.
Wydany 15 stycznia 2026 roku. Kluczowa różnica: własne 8 GB pamięci LPDDR4X na płytce akceleratora, oddzielne od pamięci Raspberry Pi 5 i dla niego niewidoczne. To ta pamięć, a nie szybkość, jest sensem tego produktu.
Specyfikacja:
Ceny (obserwacja z 21 lipca 2026):
Co uruchomisz i czego się spodziewać: tu materiały się rozjeżdżają. Dokumentacja producenta mówi o modelach do około 6 miliardów parametrów, a praktyczny test serwisu Hackster o modelach do około 1,5 miliarda. Różnica jest czterokrotna. Recenzent zaznacza przy tym, że modele tej wielkości to raczej ciekawostka niż narzędzie do pracy. Traktuj tę płytkę jako sposób na naukę i prywatność, nie na tani zamiennik asystenta z chmury.
Koszt całości (Pi 5 8GB + AI HAT+ 2): około 450 zł za Pi 5 plus od 839 zł za nakładkę plus akcesoria, czyli mniej więcej od 1400 zł.
Dla kogo: Programiści i hobbbyści chcący uruchomić generatywne AI lokalnie w małym i energooszczędnym urządzeniu. Dobra platforma edukacyjna i startowa. Nie zastąpi pełnego komputera z GPU.
Mini-PC to kompromis między prostotą obsługi a wydajnością lokalnych modeli. W 2026 roku producenci aktywnie wypuszczają modele z oznaczeniem „AI PC”, procesory Intel Core Ultra (seria 1 i 2) oraz AMD Ryzen AI mają wbudowane NPU.
Ważna uwaga: NPU w tych procesorach przyspiesza głównie zadania Windows AI (np. Windows Studio Effects) i Copilot+. Narzędzia do lokalnych LLM. Ollama, LM Studio, Jan, nie korzystają z NPU i działają na CPU lub iGPU. Do efektywnego uruchamiania modeli 7B+ przez Ollama najważniejszy jest RAM (32+ GB) i czy model zmieści się w pamięci.
Pierwszy na świecie mini-PC z Intel Core Ultra serii 2 (Lunar Lake), z wbudowanym NPU Intel AI Boost (~48 TOPS). Dostępny w oficjalnej dystrybucji ASUS Polska.
Dla Ollama/LLM: z 32 GB RAM sprawnie obsłuży modele do 13B w formacie 4-bit (np. Llama 3 8B, Mistral 7B, Phi-4). Większe modele będą wolne.
Ogłoszony w styczniu 2026 na CES, Intel Core Ultra X9 (Panther Lake). Dostępność i ceny w Polsce, do potwierdzenia.
Dostępny (lub był) na ceneo.pl w cenie ok. 7999 zł. Procesor AMD Ryzen AI 9 HX 370, 12 rdzeni/24 wątki, 5.1 GHz boost. Zintegrowany NPU Ryzen AI (~50 TOPS). Silny CPU dla Ollama.
Uwaga: Przy zakupie mini-PC z myślą o lokalnych LLM sprawdź przede wszystkim:
Jeśli budujesz prototyp, uczysz się modeli lub regularnie testujesz różne architektury, komputer z dedykowaną kartą NVIDIA (CUDA) to najlepszy wybór. Karta graficzna z wystarczającą ilością VRAM pozwala uruchomić znacznie większe modele niż mini-PC.
Kluczowy parametr: VRAM
| VRAM | Co uruchomisz lokalnie |
|---|---|
| 8 GB | modele do 7B (4-bit), np. Llama 3 8B, Mistral 7B |
| 12 GB | modele 7–13B swobodnie, pierwsze próby z 30B (4-bit) |
| 16 GB | modele 13–30B (4-bit), Llama 3 70B wymaga offload |
| 24 GB | modele 30–70B (4-bit) komfortowo |
| 2× 24 GB | Llama 3 70B bez offload |
Popularne karty do lokalnego AI (2026):
Dla kogo: Deweloperzy testujący modele, fine-tuning (wymaga jeszcze więcej VRAM), zaawansowane eksperymenty z vision AI i agentami, praca z modelami 30B+.
Chmura nie jest „gorszą” opcją. W kilku scenariuszach jest po prostu właściwą:
Kiedy API staje się drogie: przy bardzo dużej liczbie zapytań (> kilkaset tysięcy tokenów dziennie) koszty API mogą przekroczyć koszt utrzymania własnego serwera z modelem open-source.
Masz projekt z kamerą lub robotem?
→ Tak: Jetson Orin Nano Super (399 USD po podwyżce, w Polsce od ok. 1999 zł brutto)
To jest projekt edukacyjny lub mały prototyp edge AI?
→ Tak: Raspberry Pi 5 + AI HAT+ 2 (w Polsce od 839 zł)
lub AI HAT+ 26 TOPS (~€113 / ~450 zł) dla CV
Chcesz lokalnego chatbota lub pracę z dokumentami?
→ Komputer z GPU (RTX 4060 Ti 16GB+) lub mini-PC z 32 GB RAM
→ Dla podstawowych modeli 7B: mini-PC ASUS NUC / Minisforum wystarczy
Chcesz eksperymentować z modelami 30B+?
→ Komputer z GPU RTX 4070 Super (12 GB) lub 4080 Super (16 GB)
Chcesz gotowego produktu najwyższej jakości bez konfiguracji?
→ API (Claude, GPT-4o, Gemini)Zanim kupisz, znajdź przynajmniej jeden projekt podobny do twojego, na tym sprzęcie, z tym modelem. Jeśli nie ma przykładów, dokumentacji ani aktywnej społeczności, sama specyfikacja nie wystarczy.
Lista do sprawdzenia:
| Platforma | Cena | TOPS | RAM | Najlepsze do |
|---|---|---|---|---|
| Jetson Orin Nano Super | 399 USD po podwyżce, ok. 1999 zł brutto | 67 sparse, 33 dense | 8 GB unified | robotyka, widzenie maszynowe, edge AI |
| RPi 5 + AI HAT+ 2 | ok. 330 USD, ok. 1550 zł | 40 przy INT4, 20 przy INT8 | 8 GB na module | generatywne AI na edge, nauka |
| RPi 5 + AI HAT+ 26T | ok. 160 USD, ok. 650 zł | 26 | brak własnego | detekcja obiektów, widzenie maszynowe |
| Mini-PC z NPU (32 GB RAM) | 3000-8000 zł | 48-120 | 32-64 GB | lokalny model językowy 7-13B |
| Komputer z RTX 4060 Ti 16 GB | od 2000 zł za samą kartę | nie dotyczy | 16 GB VRAM | modele 7-30B, generowanie obrazu |
| API w chmurze | od 20 USD miesięcznie | nie dotyczy | bez ograniczeń | produkcja i największe modele |
Zestawienie prowadzimy też jako ranking sprzętu do lokalnego AI, generowany z danych w kartach urządzeń.
Czy Raspberry Pi 5 uruchomi lokalny model językowy bez HAT?
Tak, przez Ollama lub llama.cpp na CPU. Modele 1–3B działają w praktyce. Llama 3 8B (4-bit) uruchomi się, ale odpowiedź zajmuje kilkadziesiąt sekund. Z AI HAT+ 2 i dedykowanymi 8 GB, realny throughput dla małych modeli.
Czy TOPS w mini-PC (np. 120 TOPS Intel Core Ultra) przyspiesza Ollama?
Nie bezpośrednio. Narzędzia do lokalnych LLM jak Ollama czy LM Studio działają przez CPU i GPU (iGPU lub dedykowane). NPU w Intel Core Ultra i AMD Ryzen AI jest zoptymalizowany pod Windows AI i Copilot+, nie pod narzędzia open-source. Kluczowy parametr dla Ollama to RAM i szybkość CPU.
Ile RAM potrzebuje mini-PC do lokalnego AI?
Minimum 16 GB dla modeli 7B w trybie 4-bit. 32 GB to wygodny start dla modeli 7–13B. Dla 30B+ modeli przez CPU, 64 GB.
Co to jest Ollama i jak zacząć?
Ollama to narzędzie umożliwiające uruchamianie open-source modeli językowych lokalnie (Windows, Mac, Linux). Po instalacji jedna komenda: ollama run llama3, i gotowe. Działa z Llama 3, Mistral, Phi, Qwen i wieloma innymi modelami.
Jetson Orin Nano Super vs Raspberry Pi 5 + AI HAT+ 2, co wybrać?
To są urządzenia do różnych celów, więc pytanie „który lepszy” nie ma sensu. Jetson daje ekosystem NVIDIA, czyli CUDA, ROS2 i Isaac, więc wygrywa wszędzie tam, gdzie jest kamera albo robot i gdzie rozwiązanie ma trafić do produkcji. Raspberry Pi z HAT+ 2 jest tańszy, prostszy w obsłudze i lepszy do nauki oraz eksperymentów z generatywnym AI na brzegu sieci. Krótko: robot albo kamera produkcyjna to Jetson, nauka i budżet to Raspberry Pi.
Czy warto kupić kartę GPU tylko do lokalnego AI?
Zależy od skali użycia. Przy codziennej pracy z modelami 7-13B karta RTX 4060 Ti z 16 GB pamięci za około 2000-2500 zł zwraca się w czasie i wygodzie szybciej niż comiesięczne opłaty za API. Przy użyciu okazjonalnym API jest tańsze i prostsze, bo nie płacisz za sprzęt stojący bezczynnie.
Ceny pochodzą z cenników producentów i polskich sklepów, z datą obserwacji podaną przy każdej kwocie. Parametry techniczne pochodzą ze specyfikacji producentów, przy czym świadomie rozdzielamy liczby marketingowe od użytkowych, jak przy TOPS liczonych w różnych precyzjach. Nie prowadziliśmy własnych testów wydajności i nie podajemy wyników, których nie zmierzyliśmy.