O czym jest ten film
- Teza wyjściowa: świat AI zmienił się w ciągu jednego tygodnia i — zdaniem autora — nigdy nie było ważniejszego momentu na naukę lokalnej sztucznej inteligencji.
- Kontekst polityczny (w relacji autora): ChatGPT 5.6 i model Fable 5 mają być dostępne tylko dla grupy wskazanej przez rząd USA; reszta użytkowników straci czas i przewagę.
- Kontekst cenowy: Apple podniosło ceny o 20–25 proc., dopłata do 128 GB RAM-u w sklepie wyniosła 4000 dolarów, drożeją nawet konsole — i autor nie wierzy w powrót do starych cen.
- Prognoza: gdy ruszy masowa produkcja robotów humanoidalnych, dronów bojowych i aut autonomicznych, pamięć stanie się wąskim gardłem i przestanie być osiągalna dla zwykłych ludzi.
- Definicja i przewagi lokalnego AI: model działa na własnym sprzęcie, bez internetu; prompty nie opuszczają komputera, brak limitów użycia, nikt nie może tego wyłączyć.
- Rozliczenie z zarzutem „lokalne = głupsze i wolniejsze”: prawda na dziś, ale GLM 5.2 ma być już na poziomie Opusa 4.8, a modele są nieustannie optymalizowane pod sprzęt użytkownika.
- Mapa sprzętu w czterech kategoriach: Mac Studio (duża zunifikowana pamięć, wolno), stacje AI typu DGX Spark (kompromis), RTX 5090 i RTX 6000 Pro (szybko, mało VRAM) oraz sprzęt budżetowy (małe modele, embeddingi).
- Warstwa użytkowa: różnice systemowe (macOS vs Linux na stacjach AI vs Windows) oraz dwa darmowe narzędzia krytyczne — Tailscale i agent Hermes/OpenClaw.
- Zastosowania całodobowe: audyt bezpieczeństwa kodu aplikacji SaaS, monitoring bazy danych pod kątem anomalii oraz przeszukiwanie Reddita i X-a w poszukiwaniu okazji biznesowych mniej więcej co 20 minut.
- Przekaz końcowy: lokalne AI to również frajda, edukacja i pełna swoboda budowania własnych narzędzi — autor zachęca do eksperymentowania na tym, co się już ma.
10 najważniejszych takeaways — z kontekstem zastosowania
1.Traktuj lokalne AI jak polisę niezależności
Na czym polega: Skoro dostęp do najlepszych modeli chmurowych można — według autora — w każdej chwili zawęzić do wąskiej grupy, pełną gwarancję dostępu daje tylko własny sprzęt z własnymi modelami. Chmura to usługa, lokalne AI to własność.
Jak stosować: Nie buduj od razu laboratorium. Wyznacz cel minimalny: jeden działający lokalny model i jedno regularne zadanie (np. praca z dokumentami), żeby umieć przełączyć się na tryb lokalny, gdyby chmura przestała być dostępna albo dostępna dla ciebie.
Na co uważać: Opisane ograniczenia rządowe to wersja autora, nie zweryfikowany fakt. Traktuj ją jako scenariusz ryzyka, a nie podstawę do natychmiastowego wydawania tysięcy dolarów.
2.Dwa parametry rządzą wyborem sprzętu: pamięć i przepustowość
Na czym polega: Ilość pamięci (zunifikowany RAM lub VRAM) przesądza, jak duży model uruchomisz, a przepustowość — jak szybko będzie odpowiadał. Stąd trzy segmenty: Mac Studio (dużo pamięci, wolno), stacje AI typu DGX Spark (kompromis) i topowe karty Nvidii (mało pamięci, błyskawicznie).
Jak stosować: Najpierw wybierz zastosowania, dopiero potem sprzęt. Do zadań „do myślenia” z dużymi modelami celuj w pamięć; do szybkich, powtarzalnych zadań — w przepustowość.
Na co uważać: Najlepsza karta z małą ilością VRAM nie zmieści dużego modelu, choćby była najszybsza na świecie. Przed zakupem sprawdź, ile pamięci zajmują modele, na których ci zależy.
3.Zacznij od sprzętu, który już masz
Na czym polega: Autor sam podkreśla, że jego zestaw za 40 tysięcy dolarów to nie warunek konieczny. Mac mini albo stary laptop uruchomi mniejsze modele (np. Gemmę 4) i poradzi sobie z zadaniami pomocniczymi, takimi jak embeddingi — czyli, mówiąc obrazowo, „pamięć” twoich agentów.
Jak stosować: Pierwszy krok nie wymaga żadnych zakupów: zainstaluj na obecnym komputerze mały model i przetestuj go na prostych zadaniach. Do decyzji o dedykowanym sprzęcie wracaj dopiero wtedy, gdy poczujesz niedosyt.
Na co uważać: Małe modele nadają się do drobnych prac — nie licz na nie przy kodzie produkcyjnym ani przy złożonych analizach.
4.„Głupsze i wolniejsze” to stan przejściowy
Na czym polega: Lokalne modele faktycznie dziś ustępują najlepszym chmurowym — autor się z tym nie spiera. Ale dystans topnieje: GLM 5.2 ma być według jego testów równie inteligentny jak Opus 4.8, a prace nad optymalizacją pod sprzęt użytkownika (m.in. w Google) trwają.
Jak stosować: Nie skreślaj tematu na podstawie testów sprzed roku. Wracaj do lokalnych modeli co kilka miesięcy i porównuj je z chmurą na własnych zadaniach — granica przesuwa się szybko.
Na co uważać: Porównania pochodzą z testów autora, nie z niezależnych benchmarków. Prędkość zależy też mocno od konfiguracji — ten sam model na Macu Studio i na karcie RTX 5090 zachowuje się zupełnie inaczej.
5.Prawdziwa przewaga to praca 24/7 bez limitów
Na czym polega: W chmurze płacisz za każde wywołanie, więc ciągłe, całodobowe zadania robią się nieopłacalne. Lokalnie jedynym kosztem jest prąd — model może działać bez przerwy, a to otwiera klasę zastosowań niedostępnych w chmurze.
Jak stosować: Projektuj zadania w trybie ciągłym, a nie w schemacie „pytanie–odpowiedź”: monitorowanie, obserwacja, przeszukiwanie, sprawdzanie. Zasada praktyczna: wszystko, co miałoby działać „na okrągło”, kandyduje do uruchomienia lokalnie.
Na co uważać: Ciągła praca to stały pobór prądu i zużycie sprzętu, a przy kilku maszynach rachunek robi się wyraźnie odczuwalny. Policz koszty zasilania, zanim uruchomisz całą flotę.
6.Tailscale i agent to minimalny komplet oprogramowania
Na czym polega: Tailscale spina wszystkie urządzenia w jedną prywatną sieć, dzięki czemu z modeli działających na domowych maszynach korzystasz z dowolnego miejsca — choćby z telefonu. Agent (u autora: Hermes lub OpenClaw) przejmuje obsługę techniczną: ładuje modele na wybrane maszyny i rozdziela między nie zadania. Oba narzędzia są darmowe.
Jak stosować: Zacznij od dwóch maszyn: „serwera” z modelem oraz urządzenia codziennego. Zainstaluj Tailscale na obu, dodaj agenta — i całą obsługę zlecaj mu zwykłą rozmową.
Na co uważać: Agent z dostępem do całej domowej sieci ma ogromne uprawnienia. Zanim mu zaufasz, ogranicz zasięg jego działania i pilnuj, na których maszynach faktycznie pracuje.
7.Prywatność jako cecha konstrukcyjna, nie obietnica
Na czym polega: W chmurze prompty leżą na serwerach dostawcy i mogą zostać ujawnione — autor przywołuje choćby scenariusz sporu prawnego, w którym firmaga do logów. Lokalnie rozmowy nie opuszczają komputera, więc nikt — ani firma, ani rząd — nie ma czego czytać.
Jak stosować: Zadania wrażliwe (dane klientów, pomysły biznesowe, notatki osobiste) rób na modelu uruchomionym u siebie; do pozostałych możesz spokojnie zostawić chmurę.
Na co uważać: Lokalność chroni tylko wtedy, gdy naprawdę nic nie opuszcza maszyny. Uważaj na rozwiązania hybrydowe, które po cichu wysyłają część danych do sieci.
8.„Sprzęt i tak się zestarzeje” — argument, który przestał działać
Na czym polega: Stary rytm, w którym komputer stawał się nieaktualny dwa–trzy lata po zakupie, słabnie, bo modele uczą się robić więcej z tym, co mają. Autor przewiduje wręcz odwrotność: to nie sprzęt zniknie z zainteresowania, tylko z półek sklepowych.
Jak stosować: Kupując maszynę do lokalnego AI, priorytetem uczyń ilość pamięci — to parametr, który najdłużej pozostanie przydatny, skoro oprogramowanie coraz lepiej wykorzystuje starsze układy.
Na co uważać: Prognozy cenowe autora to spekulacja. Postęp wydajnościowy nie gwarantuje też, że każdy nowy model zmieści się na starym sprzęcie — kolejne generacje potrafią też rosnąć, a nie tylko chudnąć.
9.Przenieś wzorce autora na własny grunt
Na czym polega: Konkretne przykłady z filmu: całodobowy audyt bezpieczeństwa kodu własnego produktu, obserwacja bazy danych pod kątem anomalii oraz przeczesywanie Reddita i X-a w poszukiwaniu sygnałów rynkowych — lista problemów użytkowników wraz ze źródłami, odświeżana co kilkanaście minut.
Jak stosować: Zastanów się, co w twojej pracy wymaga „patrzenia bez przerwy”: zmiany u konkurencji, nowe pytania klientów, ruch w repozytorium? Takiego obserwatora zbudujesz lokalnie za koszt prądu.
Na co uważać: Automatyczne pobieranie treści z platform może naruszać ich regulaminy. Sprawdź zasady, zanim wypuścisz bota w świat.
10.Nie zapominaj o frajdzie i nauce
Na czym polega: Autor wskazuje dwa niedoceniane wymiary: przyjemność z majsterkowania oraz edukację — technologię AI najlepiej poznaje się, biorąc ją w ręce, a nie oglądając filmiki. Do tego dochodzi pełna swoboda budowania: własny interfejs, agent z twarzą i imieniem, dowolne narzędzia.
Jak stosować: Wygospodaruj czas na eksperymenty bez celu biznesowego. To najtańszy kurs z najważniejszej technologii współczesności — z egzaminem w praktyce.
Na co uważać: Majsterkowanie wciąga. Ustal z góry limit czasu i pieniędzy, inaczej hobby zje plany — i budżet.
Redakcyjne tłumaczenie
Świat zmienił się w ciągu tygodnia
Ten tydzień zasadniczo zmienił sytuację w świecie AI — i wcale tego nie koloryzuję. Nigdy wcześniej nie było tak ważne, żebyś zajął się lokalną sztuczną inteligencją. Rząd USA ogranicza ludziom dostęp do najmocniejszych modeli. Sprzęt zdrożał tak bardzo, że przeciętny użytkownik może już nigdy nie mieć do niego powrotu. Chińskie laboratoria wypuszczają modele na poziomie, którego wcześniej nie widziano. Świat przeobraża się na naszych oczach, a moim zdaniem najlepszy sposób, żeby nadążyć, to edukacja i przejście na lokalne AI.
W tym materiale zbieram całość: dlaczego świat zmienia się tak szybko, jakiego sprzętu potrzebujesz, na jakie modele warto zerknąć, do czego lokalne AI się nadaje i po co w ogóle po nie sięgać, skoro ChatGPT kosztuje dwadzieścia dolarów miesięcznie. Po obejrzeniu będziesz orientować się w temacie niczym ekspert, a być może jeszcze przed końcem uruchomisz pierwszy model na własnej maszynie. To może odmienić twoje życie. Szczerze mówiąc, nie pamiętam, żebym którykolwiek ze swoich filmów uważał za ważniejszy niż ten.
Dla obrazu sytuacji: w tym tygodniu dodałem do domowego laboratorium AI komputer z kartą RTX 5090, złożony przeze mnie od zera. Wcześniej stały tu już trzy Maci Studio z 512 GB pamięci, dwa Maci mini (jednego nie widać w kadrze) i jednostka DGX Spark (Informacja dodatkowa: DGX Spark to kompaktowe stanowisko do lokalnego AI produkcji NVIDIA.). Czy potrzebujesz czegoś takiego? Czy musisz wydać czterdzieści tysięcy dolarów, jak ja? Nie. Porządne domowe stanowisko do lokalnych modeli da się zbudować na sprzęcie, który już masz — choćby na laptopie wstawionym do szafy.
Ale dlaczego w ogóle to robię?
Modele dla wybranych i ceny, które nie wracają
Po pierwsze: wczoraj zapowiedziano ChatGPT 5.6, a wraz z nim informację, że korzystać z niego będzie mogła wyłącznie grupa ludzi wskazana przez rząd Stanów Zjednoczonych. To fatalna wiadomość. Wielka impreza trwa, ale ciebie na niej nie ma: dwaj najlepsi modele na rynku — Fable 5 i ChatGPT 5.6 — są dla ciebie niedostępni. Pewnie za parę tygodni dostęp wróci dla wszystkich, ale wskazani przez Anthropic, OpenAI i rząd zdążą w tym czasie zbudować sobie przewagę — i to przewagę ogromną. Oficjalnie weszliśmy w epokę, w której zwycięzców wyznacza się odgórnie. Nic dobrego to nie wróży.
(Informacja dodatkowa: wydarzenia i nazwy modeli relacjonujemy za autorem; transkrypt powstał automatycznie, więc pojedyncze nazwy mogły ulec zniekształceniu.)
Po drugie: ceny dosłownie wszystkiego idą w górę. Apple ogłosiło właśnie pierwszą z zapowiedzianych podwyżek — spora część sprzętu zdrożała o 20–25 procent. Maca mini dziś nie kupisz za mniej niż półtora tysiąca dolarów. Kuriozum. Poszedłem do Micro Center złożyć nowy komputer. Chciałem mieć w nim 128 GB RAM-u — to nie jest jakaś niewyobrażalna konfiguracja. Dopłata? Cztery tysiące dolarów. Do maszyny, na którą i tak wydaję dziewięć tysięcy! Podobnie z konsolami: Xbox Series S kosztuje dziś 500 dolarów — tyle, ile w dniu premiery kosztował mocniejszy wariant. Kto pamięta starsze generacje, ten wie, że konsole z czasem taniały i pod koniec cyklu schodziły do 99 dolarów. Teraz tylko drożeją. Żyjemy w absurdalnych czasach.
(Informacja dodatkowa: Micro Center to amerykańska sieć sklepów z podzespołami komputerowymi.)
Pamięć to wąskie gardło przyszłości
Sprzęt jest bardzo drogi, ale wciąż osiągalny — i właśnie dlatego nagrywam ten materiał teraz. Przewiduję, że za rok ceny będą jeszcze bardziej niedorzeczne, a za dwa lata sprzęt przestanie być w ogóle do zdobycia.
Do robotów humanoidalnych w każdym domu i do dronów toczących wojny zamiast ludzi brakuje jeszcze lat. Ludzie głęboko zanurzeni w temacie w większości zgadzają się, że taki świat nadejdzie: w każdym domu humanoidalny robot, a na polach bitew wyłącznie maszyny. Nie jesteśmy nawet blisko. Ale każdy taki robot, każdy bojowy dron, każdy w pełni samodzielny samochód będzie pochłaniał gigantyczne ilości pamięci. A tej — na skalę dziesiątek, może setek milionów urządzeń — nikt jeszcze nie produkuje. Co się stanie, gdy ta produkcja ruszy? Powiem krótko: wtedy zwykły człowiek pamięci nie dostanie. Ceny są dziś absurdalne, ale moim zdaniem nie jesteśmy nawet blisko końca tej drogi. Nie wierzę, żebyśmy kiedykolwiek wrócili do czasów, gdy taki sprzęt był w zasięgu przeciętnego portfela.
Czym jest lokalne AI i czym jest niezależność
Mamy więc układ zamknięty: najmocniejsze modele bywają odbierane, sprzęt kosztuje majątek. Rozwiązanie? Moim zdaniem jedno: lokalne AI, i to natychmiast. Skoro rząd potrafi decydować, kto używa jakich modeli, musisz zbudować sobie niezależność. Haczyk w tym, że okno możliwości gwałtownie się zawęża, bo sprzęt drożeje. Jesteśmy w krótkim okresie, w którym da się to jeszcze zrobić. Drogo — ale da się.
Dla początkujących: lokalne AI to inteligencja działająca na twoim komputerze. Dziś, gdy wysyłasz zapytanie do ChatGPT, Claude’a czy czegokolwiek innego, lecisz przez internet do serwera w centrum danych. Tam jest ono przetwarzane i stamtąd wraca odpowiedź. Cały proces należy do firm: twoje prompty leżą na ich serwerach, a o kształcie odpowiedzi decydują one. Nie masz na nic wpływu. Przy modelu lokalnym wszystko liczy się na twoim sprzęcie. Prompty i odpowiedzi nie opuszczają komputera — ani nawet twojej sieci. Internet nie jest do niczego potrzebny. O tym mówię, gdy używam słowa „niezależność”: nikt ci tego nie odebierze i nikt tego nie podejrzy.
Z tego wynikają trzy przewagi. Pierwsza: prywatność. Nikt nie sięgnie do twoich logów. U dostawcy chmury — gdyby na przykład przyszło mu do głowy pójść z tobą do sądu — te logi może otworzyć i przeczytać; dostęp ma każdy pracownik i rząd. Te poufne rozmowy z twoją „AI-dziewczyną”? Nie są prywatne — przeczytać je może każdy. Lokalnie wszystko zostaje u ciebie. Druga: brak limitów. Nie płacisz myta za każdą wiadomość wysyłaną do chmury. Jedyny koszt to prąd zasilający twój komputer. Trzecia: nikt tego nie wyłączy. Chyba że ktoś wtargnie do twojego domu i fizycznie wyniesie Maca Studio czy DGX Spark. W ostatnich tygodniach widzieliśmy, że dostęp do usług chmurowych można odebrać z dnia na dzień: zabrano wam Fable 5, zablokowano ChatGPT 5.6. O tym, kto korzysta z najlepszej dostępnej inteligencji, decydują inni — i ty w tym gronie nie jesteś.
„Ale lokalne modele nie są głupsze i wolniejsze?”
Zanim przejdę do sprzętu i modeli, rozprawmy się z oczywistym zarzutem, który słyszę najczęściej: „Alex, ale lokalne modele są głupsze. I wolne”. Zgadza się — w stu procentach. Są głupsze od tego, co dostaniesz na chatgpt.com, głupsze od Opusa 4.8, wolniejsze, czasem znacznie wolniejsze. Ale to nie jest sedno.
Po pierwsze: nie na długo. GLM 5.2, najnowszy model, który da się uruchamiać lokalnie, jest według moich testów równie inteligentny jak Opus 4.8. Te sieci robią zawrotne postępy — błyskawicznie stają się mądrzejsze i szybsze. Na razie bywa powoli, ale firmy, w tym Google, intensywnie optymalizują modele pod komputery użytkowników. Dlatego stary rytm, w którym sprzęt dezaktualizował się dwa–trzy lata po zakupie, przestaje obowiązywać. Cykliczność znana z ery komputerów osobistych znika, bo oprogramowanie uczy się robić więcej z tym, co ma. Nie wykluczam, że niedługo sprzęt sprzed pięciu lat zacznie uruchamiać modele z absolutnej czołówki. A gdy ktoś tłumaczy się, że „sprzęt i tak się zestarzeje”, odpowiadam: za parę lat możesz w ogóle nie mieć możliwości kupienia nowego. To, co stoi dziś na półkach, może być wszystkim, co kiedykolwiek zdobędziesz.
Czyli poziom oczekiwań: trochę głupsze, trochę wolniejsze — ale w zamian dostępne są zastosowania, na które ChatGPT i Opus się nie nadają. I właśnie w nich tkwi prawdziwa przewaga.
Cztery kategorie sprzętu
Przejdźmy do konkretów. Mac mini czy Mac Studio? Mac czy karta Nvidii? A może DGX Spark? Sprzęt do lokalnego AI dzieli się na cztery grupy.
Duża pamięć: Mac Studio. O tej opcji zacząłem głośno mówić w styczniu i zrobiła się z tego spora moda. Mac Studio łączy dwie cechy: dużą zunifikowaną pamięć i niską przepustowość. Co to znaczy? W architekturze Apple pamięć operacyjna i pamięć wideo tworzą jedną wspólną pulę — tam, gdzie system trzyma dane, bezpośrednio ładowane są modele. Efekt: zmieścisz ogromne sieci. GLM 5.2, którego trzymam na jednym z Maców, waży 250 gigabajtów i dokładnie tyle pamięci pochłania. To potworna ilość. Haczyk: niska przepustowość oznacza, że komputer nie jest w stanie naraz przeliczyć większej części tej pamięci — i dlatego wszystko dzieje się powoli. Na Macu uruchomisz bardzo inteligentny model, po prostu nieprędko.
Złoty środek: stacje AI. Nowa kategoria maszyn: DGX Spark, AMD Halo, DGX Station. Mają średnio dużo zunifikowanej pamięci — DGX Spark ma 128 GB, co jest naprawdę dobrym wynikiem (moje Maci Studio mają po 512 GB) — oraz średnią przepustowość, więc pracują wyraźnie prędzej niż Maci. Da się na nich uruchamiać całkiem mocne modele w przyzwoitym tempie.
Prędkość: topowe karty graficzne. RTX 5090, którą właśnie złożyłem, i RTX 6000 Pro — karta kosztująca dziś dwanaście tysięcy dolarów. Pamięci wideo mają niewiele: 5090 zaledwie 32 GB (6000 Pro ma 96 GB, czyli sporo), ale przepustowość jest potężna. To maszyny błyskawiczne. Na 32 GB zmieścisz dziś dobre modele — i będą pracować naprawdę szybko.
Wszystko pozostałe. Maci mini, stare laptopy, tanie komputery — po prostu cokolwiek tańszego niż cztery tysiące dolarów. Zmieszczą mniejsze sieci, na przykład Gemmę 4, i są to solidne modele. Porządnego kodu za ciebie nie napiszą, ale drobne przetwarzanie uciągną, a embeddingi — czyli, mówiąc obrazowo, pamięć twoich agentów — to dla nich idealne zadanie. Nawet sam Mac mini wystarczy, żeby korzystać z lokalnych modeli, i warto to robić.
Wybór zależy od tego, czego potrzebujesz. Za chwilę pokażę zastosowania, które pomogą ci zdecydować.
System operacyjny też ma znaczenie
Jeszcze kwestia czysto użytkowa, bo lokalne AI to nie same parametry. Ja uważam macOS za najlepszy z dostępnych systemów — mam iPhone’a i iPada i wszystko pięknie się ze sobą integruje. Dlatego Mac Studio to moje główne narzędzie pracy. Maszyny typu Spark działają na Linuksie, a to dla przeciętnego użytkownika słaba opcja: kupić można, używać trudno — w praktyce i tak zechcesz, żeby całością zarządzał twój agent Hermes. Na topowych kartach odpalisz Windows; ludzie lubią Windows i są do niego przyzwyczajeni, ja go osobiście nie znoszę, ale droga jest otwarta.
Dwa narzędzia, które sklejają całość
Poza sprzętem potrzebujesz dwóch rzeczy. Pierwsza to Tailscale — program, który buduje prywatną sieć między wszystkimi twoimi urządzeniami. U mnie stoi tu siedem, osiem komputerów i każdy ma Tailscale, więc wszystkie są spięte w jedną zamkniętą sieć. Niezależnie od tego, gdzie jestem i czy mam własne Wi-Fi, każda maszyna sięga po modele działające na pozostałych. Dzięki temu z lokalnych sieci korzystasz na każdym urządzeniu: uruchomisz mocny model na Macu Studio i będziesz go używać z telefonu, z dowolnego miejsca na świecie. Działa to znakomicie.
Druga rzecz to Hermes albo OpenClaw — narzędzie kluczowe, bo likwiduje konieczność posiadania wiedzy technicznej. U mnie Hermes rezyduje na głównym Macu Studio i — ponieważ wszystko jest spięte Tailscale — może sterować modelami na pozostałych maszynach: ładować je, konfigurować, sprawdzać, czy działają. Mówię: „wejdź na Maca Studio i załaduj Qwen 3.6”, a on przez Tailscale wykonuje całą robotę. To mój osobisty informatyk. Mówię, czego potrzebuję: „chcę napisać taki program; użyj modelu z tej maszyny, przepuść obliczenia przez tamtą, a na trzeciej uruchom ten model” — a on składa to wszystko w działającą całość. Bez Hermsesa i OpenClaw taki zestaw się nie obejdzie. Dobra wiadomość: oba są darmowe.
Do czego lokalne AI służy najlepiej
Wreszcie zastosowania — część najważniejsza. Ktoś powie: „po co mi lokalny model, skoro za dwadzieścia dolarów miesięcznie mam pod ręką coś znacznie inteligentniejszego?”. Odpowiedź: lokalne modele otwierają zupełnie nową klasę zadań, bo są zawsze włączone i bez limitów. Na własnym komputerze nie ma limitów zapytań; sieć może pracować całą dobę, siedem dni w tygodniu. To zmienia zasady gry.
Aha — jeśli do tej pory wyniosłeś coś nowego, zostaw łapkę w górę i zasubskrybuj. Prowadzę też społeczność Vibe Code Academy, w której mniej więcej trzy razy w tygodniu robię żywe bootcampy; chętnie przeprowadzę was przez taką konfigurację za rękę.
Zobaczcie moją domową platformę — buduję ją sam, a właściwie zbudował mi ją mój agent Hermes. Komunikat „failed” przy jednej z usług to kosmetyka interfejsu; pod spodem wszystko pracuje. Na Macu Studio numer dwa działa GLM 5.2 — inteligencja klasy Opusa, choć odrobinę wolna. Na DGX Spark czeka Ornith 1.0. Komputer z RTX 5090 złożyłem dopiero wczoraj i jeszcze go nie ustawiłem — pewnie poleci na niego kolejna kopia Ornitha 1.0, bardzo udanego lokalnego modelu, który właśnie się pojawił.
Te modele wykonują kilka zadań równolegle, bez przerwy. Jedno z nich to całodobowy audyt bezpieczeństwa kodu. Buduję teraz aplikację SaaS o nazwie Henry Intelligent Machines i jej kod jest nieustannie sprawdzany: poszczególne API, fragmenty implementacji, czy niczego nie przeoczono. Model zagląda też do bazy danych i wyłapuje anomalie. Z modelami chmurowymi nie zrobiłbym tego nigdy — chyba że byłbym bardzo bogaty, bo każde wywołanie API to osobna opłata, jak myto na bramce za każdy przejazd. Lokalnie płacę tylko prąd, więc mogę pozwolić maszynom pracować bez końca. Gdybym to samo chciał robić Claude Opus 4.8, kosztowałoby mnie to tyle, co jeden z tych komputerów.
Drugie zadanie: jeden z modeli przez całą dobę przeczesuje Reddita, czyta tweety i posty z X-a, szukając okazji biznesowych — pomysłów na aplikacje SaaS, usługi, oprogramowanie. Wyniki trafiają wprost do mojego produktu, bo Henry Intelligent Machines powstało właśnie wokół wyłapywania okazji. Co kilka godzin dostaję listę pomysłów ze źródłami: kto zadał jakie pytanie, na jaki problem natrafił. Widzę czyjś problem, widzę, jak go rozwiązać, a pozycje na liście dostają ode mnie rangę według atrakcyjności. Ten proces kręci się co dwadzieścia minut — sieć nieustannie obserwuje internet i wyciąga sygnał. W chmurze byłoby to nie do opłacenia; lokalnie kosztuje tyle, co prąd.
Efekt? Mam flotę pracowników, którzy pracują na okrągło, nigdy nie jedzą, nie śpią, nie proszą o urlop i nie potrzebują ubezpieczenia. I to jest możliwe wyłącznie dzięki lokalnym modelom.
A to dopiero dziś. Co będzie, gdy sieci zrobią się wydajniejsze — gdy Google dopracuje badania nad szybkim uruchamianiem dużych modeli lokalnie i GLM 5.2 poleci z prędkością chmury? Inteligencja z absolutnej czołówki, ogromna szybkość i zero limitów naraz. Tak właśnie uwalnia się spod kontroli laboratoriów AI i rządu, który wszystkich trzyma w miejscu. Nienawidzę tego żenującego słówka, którym operują internetowi guru, ale: tak właśnie wychodzi się z matrycy.
Trzy rzeczy, o których nikt nie mówi
I na koniec najbardziej niedoceniany wątek. Po pierwsze: to po prostu frajda. Składanie własnego sprzętu, uruchamianie modeli, oglądanie, jak wszystko wstaje — bawisz się przy tym. I wolno ci się bawić; powiem to głośno. Wolno ci eksperymentować i majsterkować — i nigdy nie było to ważniejsze niż dziś. Po drugie: to nauka. Poznajesz najważniejszą technologię w historii naszego gatunku — i nie mówię tego dla efektu. A najlepszy sposób, żeby ją poznać, to wziąć ją w ręce: uruchomić, popsuć, sprawdzić, na co ją stać. Po trzecie, praktyka: pokazałem zastosowania, które realnie odciążają mnie w pracy.
Jeśli jesteś podobny do mnie, docenisz i czysto rozrywkowy aspekt: złożyłem komputer z RTX 5090, uruchamiam na nim lokalne modele, a przy okazji gram w Cyberpunka 2077 na ustawieniach ultra. Sama w sobie fajna sprawa.
Pełna swoboda budowania
Skoro ustawisz to tak jak ja — Hermes u sterów, wszystko spięte w Tailscale — możesz zbudować dosłownie co chcesz. Chcesz prosty interfejs rozmowy wyglądający jak ChatGPT? Mówisz do Hermsesa: „zrób mi interfejs jak w ChatGPT”. Chcesz, żeby twój lokalny model miał twarz i imię, żebyś mógł z nim gadać jak ze znajomym mieszkającym na twoim komputerze? Da się — i jest w tym jakieś dobre uczucie, gdy patrzysz na maszynę i wiesz, że mieszka na niej agent AI. Mówisz: „dodaj twarz do mojego lokalnego agenta i niech odzywa się, kiedy odpisuje”. Możesz zrobić, co tylko zechcesz. Kompletna swoboda przy użyciu najważniejszej technologii, jaką ludzkość kiedykolwiek stworzyła.
Sprzęt właśnie ma przestać być osiągalny, rząd zabiera najlepsze modele — moim zdaniem nie było ważniejszego momentu na wejście w tę technologię. Miało być pomocne? Mam nadzieję. Dajcie znać w komentarzach, czego potrzebowali: więcej materiałów o lokalnym AI, rozłożenia konfiguracji domowego laboratorium na czynniki pierwsze? W czym jesteście najbardziej zagubieni i gdzie mogę pomóc najmocniej? Wszystkie moje filmy powstają na podstawie waszych sygnałów. Do zobaczenia.