O czym jest ten film
- W piątek o 17:21 rząd USA wysłał do Anthropic pismo, a do wieczora Fable 5 — opisywany jako najmocniejszy model świata — został wyłączony dla wszystkich: bez ostrzeżenia i bez prawa odwołania.
- Isenberg wyciąga z tego szerszy wniosek: firmy, procesy pracy i cała twórczość stoją na modelach, które się tylko wynajmuje, a dostęp może cofnąć rząd, zmiana cennika albo zapis regulaminu, którego nikt nie przeczytał.
- Odpowiedzią jest „agregat w garażu”: model lokalny, działający w całości na własnym komputerze — bez internetu, bez klucza API i bez opłat za tokeny.
- Trzy przewagi takiego podejścia: prywatność (dane nie opuszczają maszyny), zerowy koszt pojedynczego zapytania po zakupie sprzętu oraz niemożność odcięcia modelu przez kogokolwiek.
- Plan nauki w pięciu krokach: środowisko uruchomieniowe (Ollama albo LM Studio), dopasowanie wielkości modelu do pamięci, wybór rodziny modelu do zadania, kwantyzacja i podpięcie agenta.
- Mapa sprzętu: model 4B działa niemal wszędzie, 12B to złoty środek przy 16 GB RAM, 27–35B wymaga mocnego Maca lub dedykowanej karty graficznej, a 70B+ — stacji klasy Mac Studio albo Nvidia DGX Spark ze 128 GB pamięci.
- Cztery rodziny modeli do zapamiętania: Qwen 3 (wybór uniwersalny), DeepSeek (trudne rozumowanie, ale 10–30 sekund namysłu przed odpowiedzią), Gemma (mieści się w 16 GB, pisze czysto), Llama (największy ekosystem).
- Kwantyzacja — porównana w materiale do zapisu zdjęcia w formacie JPEG — pozwala uruchamiać „serwerowe” modele na zwykłym laptopie.
- Poziom zaawansowany: krótkie sesje (okno kontekstu zjada RAM), podpinanie narzędzi do małego modelu oraz tydzień pracy równoległej z chmurą, by wyrobić wyczucie.
- Pięć pomysłów na firmę możliwą tylko dzięki lokalnej SI: AI na urządzeniu dla branż regulowanych, narzędzia z hasłem „dane nie opuszczają firmy”, agenci odcięci od sieci, AI offline oraz „odporność jako usługa”.
10 najważniejszych takeaways — z kontekstem zastosowania
1.Miej w swoim stosie warstwę, której nikt Ci nie zabierze
Na czym polega: Dostęp do każdego modelu chmurowego to forma dzierżawy. Może go cofnąć rząd (jak przy Fable 5), dostawca — podnosząc ceny albo interpretując regulamin. Model pobrany na własny dysk działa dalej niezależnie od这一切 — od tego, czy jego twórca w ogóle jeszcze istnieje.
Jak stosować: Przejrzyj swoje obowiązki i wydziel te krytyczne dla ciągłości pracy — pisanie, analizę dokumentów, automatyzacje — a następnie zapewnij im lokalny silnik. Chmurę zostaw tam, gdzie faktycznie potrzebujesz maksymalnej inteligencji.
Na co uważać: To nie jest wybór „chmura albo lokalnie”. Najsensowniejszy układ to podział zadań między oba światy.
2.Zacznij od programu, nie od wyboru modelu
Na czym polega: Typowy błąd początkujących to polowanie na idealny model, zanim człowiek w ogóle umie uruchomić jakikolwiek. Pierwsza pobranina powinno być środowisko uruchamiające modele: Ollama (wiersz poleceń, ulubieniec programistów) albo LM Studio (pełny interfejs z przeglądarką modeli — dla osób nietechnicznych).
Jak stosować: Pobierz jedno z tych dwóch narzędzi — w kwadrans będziesz mieć działający model. Jeśli terminal Cię onieśmiela, wybierz LM Studio.
Na co uważać: Nie trać pierwszego wieczoru na porównywanie alternatyw; łatwiej utknąć w researchu niż w działaniu.
3.Dopasuj wielkość modelu do pamięci komputera
Na czym polega: Rozmiar modelu wyraża się w miliardach parametrów i wprost przekłada się na zapotrzebowanie na RAM: 4B ruszy na praktycznie czymkolwiek (nawet wielu telefonach), 12B to optimum przy 16 GB, 27–35B wymaga dobrego Maca (ok. 30 GB pamięci wzwyż) lub dedykowanej karty graficznej, a 70B+ — stacji roboczej typu Mac Studio albo Nvidia DGX Spark ze 128 GB pamięci zunifikowanej.
Jak stosować: Zanim cokolwiek pobierzesz, sprawdź dostępną pamięć i trzymaj się tej mapy. Przy 16 GB RAM rozsądny start to model 12B.
Na co uważać: Większy nie znaczy u Ciebie lepszy — zbyt duży model albo w ogóle się nie uruchomi, albo będzie działał irytująco wolno.
4.Naucz się czterech rodzin modeli i przypisuj je do zadań
Na czym polega: Qwen 3 (oraz seria 3.6) to uniwersalny wybór: mocny w kodzie i językach, z czystą licencją komercyjną, w wersjach 27B i 35B daje z siebie więcej, niż sugeruje rozmiar. DeepSeek świetnie radzi sobie z trudnym rozumowaniem, ale odpowiada dopiero po 10–30 sekundach namysłu. Gemma mieści się w 16 GB i pisze czystym językiem. Llama ma ogromną społeczność i mnóstwo dostrajanych wariantów.
Jak stosować: Jeśli masz poznać jedną rodzinę — Qwen. Zadania analityczne oddaj DeepSeekowi, na słabszym sprzęcie pisz Gemmą, a w razie wątpliwości niemal na pewno znajdzie się Llama dla Twojej sytuacji.
Na co uważać: Dłuższa cisza przed odpowiedzią modelu rozumującego to norma, nie usterka — nie panikuj przy pierwszym uruchomieniu DeepSeeka.
5.Kwantyzacja: skompresowany model jak dobry JPEG
Na czym polega: Surowy model przypomina zdjęcie bez kompresji, a wariant Q4 to jego wysokiej jakości JPEG — plik dużo mniejszy, różnicy niemal nie widać. Dzięki temu model, który rzekomo wymaga serwera, płynnie działa na laptopie.
Jak stosować: Przy pobieraniu wybieraj pliki oznaczone Q4 lub Q5 — to rozsądny kompromis między jakością a zużyciem pamięci. Nagle ten sam sprzęt udźwignie model o klasę większy.
Na co uważać: Im niższa cyfra po „Q”, tym mocniejsza kompresja; zbyt agresywna potrafi zauważalnie stępić odpowiedzi. Q4 to zwykle bezpieczny punkt.
6.Skieruj agenta na lokalny model
Na czym polega: Czatowanie z modelem to rozgrzewka. Prawdziwa zmiana następuje, gdy podłączysz agenta — Isenberg wskazuje Hermesa, stworzonego z myślą o pracy lokalnej i bez przestojów. Taki asystent działa za darmo, offline, wszystko pamięta, sam tworzy własne umiejętności i odpisuje przez komunikator, np. Telegram, podczas gdy ciężkie obliczenia toczą się na maszynie stojącej na biurku.
Jak stosować: Gdy model już ruszy, skonfiguruj profil agenta tak, by korzystał właśnie z niego, i przenieś codzienne czynności poza przeglądarkę.
Na co uważać: Lokalne agenty miewają kaprysy — potrafią „zapomnieć” o podpiętych narzędziach (stan na czerwiec 2026), więc warto co jakiś czas sprawdzić, czy model faktycznie z nich korzysta.
7.Lokalnie okno kontekstu kosztuje pamięć — prowadź krótkie sesje
Na czym polega: Chmura oddaje wielkie okno kontekstu w ramach abonamentu. Na własnym sprzęcie każdy jego fragment zajada RAM, więc przeładowana sesja potrafi doprowadzić maszynę do zadyszki.
Jak stosować: Jedno zadanie — jeden wątek. Nie wrzucaj całej dokumentacji i historii rozmów do jednego czatu; zaczynaj świeże sesje.
Na co uważać: Spowolnienie po przeładowaniu kontekstu bywa mylnie brane za dowód, że „lokalne modele są słabe”. Najpierw sprawdź długość sesji, potem wydajność.
8.Mały model z narzędziami wygrywa z dużym bez nich
Na czym polega: Wyszukiwanie w sieci, dostęp do plików i uruchamianie kodu dają niedużemu modelowi lokalnemu przewagę nad znacznie większym, który tego nie ma. Model to silnik, narzędzia to koła — bez kół nawet mocny silnik nie pojedzie.
Jak stosować: Zanim sięgniesz po większy model, podłącz do obecnego narzędzia. Różnica w praktyce kurczy się błyskawicznie.
Na co uważać: Na ten sam kaprys z „zapominaniem” narzędzi co wyżej — konfiguracja wymaga od czasu do czasu nadzoru.
9.Tydzień z lokalnym i chmurowym modelem równolegle buduje wyczucie
Na czym polega: Najszybszy sposób na wyrobienie instynktu „co uruchamiać gdzie” to pracować tydzień na dwóch modelach naraz. Zaskoczeniem zwykle bywa, jak często darmowa wersja lokalna wystarcza.
Jak stosować: Wybierz typowe zadania i wykonuj je raz lokalnie, raz w chmurze, porównując wyniki. Zauważysz, że przestajesz sięgać po płatną opcję tam, gdzie model 12B daje sobie świetnie radę.
Na co uważać: Nie przesadź w drugą stronę — część zadań naprawdę wymaga modeli z czołówki; cała umiejętność polega na odróżnianiu tych dwóch kategorii.
10.Prywatność i odporność sprzedają się same — zbuduj na tym biznes
Na czym polega: Ograniczenia, które dotąd były problemem — zakaz wysyłania danych do API, brak internetu, lęk przed wyciekiem — stają się fosą produktu. Isenberg wskazuje pięć nisz: AI na urządzeniu dla medycyny, prawa i finansów; lokalne odpowiedniki popularnych narzędzi (notatniki, streszczenia spotkań, analizy dokumentów); agenci całkowicie odcięci od sieci; AI działające na statkach, w samolotach, wiejskich klinikach i na terenach katastrof; wreszcie „odporność jako usługa” — warstwa awaryjna na wypadek odcięcia chmury.
Jak stosować: Wybierz jedną niszę i ujmij ofertę w jedno zdanie w rodzaju „nic, co nam państwo przekażą, nie dotyka internetu”. Dla prawników, lekarzy czy terapeutów takie zdanie potrafi domknąć rozmowę sprzedażową.
Na co uważać: Sprzedaż do branż regulowanych to długi cykl decyzyjny i wymogi formalne. Fosa działa tylko wtedy, gdy stoi za nią realny wymóg prawny lub operacyjny klienta.
Redakcyjne tłumaczenie
Piątek, 17:21
Miałem rozpisany cały weekend. Zamierzałem w końcu zabrać się za szalony pomysł, który nosiłem w głowie od dawna, i zbudować go na najmocniejszym modelu planety — Fable 5. A potem w piątek o 17:21 rząd USA wysłał do Anthropic pismo. Do piątkowego wieczora model przestał istnieć: wyłączony dla wszystkich. Bez ostrzeżenia, bez prawa odwołania.
Siedziałem i myślałem, jak krucha jest ta cała konstrukcja. Wszyscy budujemy swoje firmy, procesy pracy, całą twórczość na modelach, które fizycznie leżą na czyichś serwerach, podlegają cudzym regulaminom — i od zniknięcia dzieli je jeden urzędowy list. Dlatego w ten weekend nie dotykam żadnego modelu z absolutnej czołówki. Ani jednego. I to jest odcinek, który musiałem nagrać.
Po jego obejrzeniu będziesz rozumieć, czym są modele lokalne, dlaczego nagle zyskały na znaczeniu, które konkretnie wybrać, jaki potrzebujesz sprzętu — a na końcu poznasz kilka pomysłów na firmę, które w ogóle mogą istnieć tylko dlatego, że inteligencja działa dziś za darmo na biurku. Moim zdaniem otworzyło to sporo okazji do zarabiania i chętnie się nimi podzielę. Zaczynajmy.
Czego nauczyło mnie wyłączenie Fable 5
Opowiem najpierw, co się wydarzyło, bo wniosek jest szerszy niż sam zakaz jednego modelu.
Modele z czołówki są niesamowite — powiem to pierwszy i nikt tego nie kwestionuje. Ale wszystkie mają tę samą słabość: nie są Twoje. Wynajmujesz dostęp. A wynajęty dostęp można cofnąć w każdej chwili — rządowym pismem, zmianą polityki, zmianą cennika (wystarczy, że zrobią go tak drogim, że przestanie być w zasięgu) albo decyzją firmy, że Twój sposób użycia łamie zapis regulaminu, którego nigdy nie przeczytałeś. Właśnie obejrzeliśmy to na żywo: najmocniejszy model na Ziemi zniknął z dnia na dzień.
Doprecyzujmy: nie jestem wrogiem chmury. Korzystam z modeli chmurowych codziennie i one pozostaną najmocniejsze — tam zawsze dostaniesz to, co najlepsze. To najinteligentniejsze dostępne narzędzie. Ta sytuacja nauczyła mnie natomiast czegoś innego: trzeba posiadać część własnego stosu technologicznego. Potrzebujesz warstwy, której nikt nie może Ci odebrać.
Wyobraź to sobie przez prąd. Przez większość czasu dobrze jest być podłączonym do sieci: taniej, wygodniej, o konserwację dba ktoś inny. Ale ludzie naprawdę odporni na zaniki mają w garażu agregat. Nadchodzi huragan, gaśnie światło — a u nich wszystko dalej działa. Modele lokalne są właśnie takim agregatem.
Wiem, co pojawi się w komentarzach: „lokalne modele są beznadziejne”. To już nieprawda. Zwrot nastąpił mniej więcej pół roku temu. Dwa lata temu model na laptopie to był koszmar — rok temu podobnie. Ale dziś model działający na karcie graficznej do gier albo na przyzwoitym Macu wystarcza do około 80% tego, do czego większość ludzi używa ChatGPT czy Claude. Różnica między darmowym modelem lokalnym a płatną chmurą skurczyła się szybciej, niż się spodziewało wielu ludzi — ja też się przeliczyłem.
Czym jest model lokalny — prosto
Bez przekombinowywania: model lokalny to model AI, który działa w całości na Twoim komputerze. Nie potrzebujesz internetu, klucza API ani płacisz za tokeny. Żadna firma nie patrzy Ci na ręce. Plik modelu pobierasz raz — i od tego momentu jest Twój. Działa jak gra komputerowa czy edytor zdjęć: instalujesz i używasz. To cała idea: inteligencja mieszka na Twoim sprzęcie, a nie na cudzym.
Zyskujesz przy tym trzy rzeczy, których chmura nie da.
Po pierwsze, prywatność. Dane nigdy nie opuszczają Twojej maszyny. I nie chodzi tylko o Twoją prywatność — to także klucz do sprzedaży do branż takich jak medycyna, prawo czy finanse, które prawnie nie mogą wysyłać danych do cudzego API. A takich branż jest mnóstwo; wrócę do tego przy pomysłach na biznes.
Po drugie, zerowy koszt pojedynczego zapytania. Sprzęt kosztuje — i coraz więcej — ale po jego zakupie każde odpytanie jest darmowe. Możesz męczyć model 24 godziny na dobę przez miesiąc, a rachunek ograniczy się do prądu. To zmienia rachunek ekonomiczny całej kategorii produktów i sporo otwiera.
Po trzecie, nikt tego nie wyłączy. Model leżący na Twoim dysku działa niezależnie od tego, czy firma, która go stworzyła, wciąż istnieje, czy podoba się to rządowi i czy działa internet. Zadziała w samolocie. Zadziała w bunkrze. Po prostu działa.
Haczyk: lokalnie nie znaczy w czołówce
Nie sprzedaję bajki, więc uczciwie o wadach. Modele lokalne co do zasady nie dorównują najlepszym chmurowym. Największe modele otwarte potrafią już nadrabiać dystans do chmury, ale wymagają poważnego sprzętu. Ludzie na X robią z nimi niewiarygodne rzeczy — tyle że najczęściej wydali 5, 10, 15 czy 20 tysięcy dolarów na maszyny. Te, które ruszają na zwykłym laptopie, są o klasę słabsze od najlepszej chmury.
Ja jednak zaczynam na to patrzeć inaczej: do większości zadań nie potrzebujesz inteligencji z czołówki. Potrzebujesz inteligencji wystarczająco dobrej — prywatnej, darmowej i zawsze dostępnej. A potem trzeba umieć dopasować właściwy model do właściwej roboty, i to staje się osobną umiejętnością. Do tego dojdziemy.
Krok 1: zacznij od środowiska uruchomieniowego
Jeśli chcesz to naprawdę ogarnąć, a nie tylko przytakiwać przed ekranem, ucz się w takiej kolejności.
Pierwsza rzecz to runtime, czyli program, który w ogóle uruchamia modele na maszynie. Prawie wszyscy robią to od tyłu: najpierw polują na idealny model, choć nie potrafią odpalić żadnego. Zła kolejność.
Są dwie główne nazwy: Ollama i LM Studio. Ollama to ulubieniec moich znajomych programistów, bo działa z wiersza poleceń — jedno polecenie i model rusza. LM Studio polecam osobom nietechnicznym: ma normalny interfejs, przeglądarkę modeli, klikasz i działa, bez terminala (wiem, że onieśmiela). (Informacja dodatkowa: oba programy są darmowe i działają na Windows, macOS oraz Linux.) Nie kombinuj — pobierz jedno z nich, a model ruszy Ci w 10–20 minut.
Krok 2: dopasuj model do sprzętu
Wielkość modelu mierzy się w miliardach parametrów: 4, 12, 27, 70 miliardów. Więcej znaczy sprytniej, ale też więcej pamięci. Najbardziej użyteczna rzecz w całym odcinku to zgrubna mapa rozmiaru modelu na sprzęt:
- 4 miliardy — działa na czymkolwiek: laptopie z 8 GB, nawet wielu telefonach.
- 12 miliardów — złoty środek dla maszyny z 16 GB RAM. Tu powinna „mieszkać” większość ludzi.
- 27–35 miliardów — potrzeba naprawdę dobrego Maca z 30 GB pamięci wzwyż albo dedykowanej karty graficznej. Tu zaczyna się poziom „to faktycznie potrafi”.
- 70 miliardów i więcej — poważny sprzęt: wypasiona stacja Mac Studio albo dedykowana maszyna, np. Nvidia DGX Spark ze 128 GB pamięci zunifikowanej.
DGX Spark jest ciekawy — mówiłem o nim już w tym podcastie — bo zbudowano go dokładnie do tego celu: 128 GB pamięci, zaprojektowany, by chodzić non stop, działa pod Linuksem i staje się domyślnym „serwerownikiem AI na biurku” dla ludzi traktujących temat poważnie. Nie jestem powiązany z Nvidią, po prostu obserwuję rynek. Model zostawiasz na nim uruchomiony i łączysz się z telefonu — biurko zamienia się w małe centrum danych.
Krok 3: który model do którego zadania
Nie starczy czasu na wszystkie, więc cztery rodziny, które naprawdę trzeba znać:
Qwen 3 i nowa seria 3.6 — najlepszy uniwersalny wybór dla większości ludzi. To otwarta rodzina Alibaba: mocna w kodzie, mocna w językach, z czystą licencją komercyjną, w wersjach 27B i 35B. Daje z siebie znacznie więcej, niż sugerowałby rozmiar — wyprzedza modele poprzedniej generacji cztery razy większe. Jeśli masz się nauczyć jednej rodziny — właśnie tej.
DeepSeek — pewnie już słyszałeś. Świetny do trudnego namysłu i zadań programistycznych. Jedna uwaga: modele rozumujące odpowiadają dopiero po 10–30 sekundach. To normalne. Nie dziw się, że „tyle trwa”.
Gemma — otwarty model Google. Gdybym teraz był na miejscu Google, wykorzystałbym ten moment i natychmiast wypuścił nową wersję. Działa zdumiewająco „lekko”: jest wariant mieszczący się w 16 GB RAM — ten sam, który wejdzie na telefon. Pisze pięknym, czystym językiem. Że Google rozdaje to za darmo — trudno w to uwierzyć. Nie zdziwiłbym się, gdyby jeszcze przycisnęli w tym kierunku.
Llama od Meta — bardzo ważna dla całego otwartego ekosystemu: ogromna społeczność, masa dostrajanych wariantów, mnóstwo poradników, działa prawie wszędzie. W razie wątpliwości: niemal na pewno istnieje jakaś Llama dopasowana do Twojej sytuacji.
Krok 4: kwantyzacja, czyli JPEG dla modeli
Czwarta rzecz, o której nikt nie mówi, a która jest kluczowym trikiem: kwantyzacja. Chodzi o zmniejszenie modelu tak, by ruszał na słabszym sprzęcie przy znikomej stracie jakości. Surowy model jest jak zdjęcie bez kompresji; kwantyzacja to zapisanie go jako wysokiej jakości JPEG — plik dużo mniejszy, a różnicy gołym okiem praktycznie nie widać.
Przy pobieraniu trafisz na etykiety Q4 czy Q5 — to poziom kompresji. Q4 optymalnie balansuje zużycie pamięci przy minimalnej stracie jakości i właśnie dzięki temu model, który rzekomo wymaga serwera, płynnie działa na laptopie. Zrozumienie tego jednego mechanizmu sprawia, że sprzęt nagle udźwignie dwa razy więcej. (Informacja dodatkowa: cyfra po „Q” oznacza liczbę bitów pamięci przypadających na pojedynczy parametr — im niższa, tym mniejszy plik i mocniejsza kompresja.)
Krok 5: połącz model z agentem
Czatowanie z modelem jest fajne, ale prawdziwe odblokowanie następuje, gdy skierujesz na niego agenta. Możesz do tego użyć Hermesa — w zeszłym tygodniku zrobiłem odcinek o jego aplikacji desktopowej, zajrzyj, jeśli chcesz wiedzieć więcej. Hermes jest dziś moim zdaniem najczęściej używanym agentem na świecie i zdecydowanie tym, który robi najwięcej szumu, a przy tym zbudowano go specjalnie po to, by działał lokalnie i nigdy nie przestawał.
Wskazujesz profilowi Hermesa lokalny model i masz asystenta, który działa za darmo, offline, wszystko pamięta, sam pisze własne umiejętności — a Ty możesz do niego pisać ulubionym komunikatorem, np. Telegramem — podczas gdy ciężka robota toczy się na maszynie na biurku. Bardzo fajne.
Co odróżnia profesjonalistów od turystów
Kilka rzeczy na wyższy poziom:
Okno kontekstu to lokalnie prawdziwe ograniczenie. Chmura oddaje Ci wielkie okno kontekstu „za darmo”. Na własnym sprzęcie płacisz za nie pamięcią: im większy kontekst, tym więcej RAM-u znika. Trzymaj sesje krótkie, naprawdę krótkie. Nie wrzucaj całego życia do jednego wątku, bo maszyna zacznie się krztusić, a Ty powiesz sobie: „lokalne modele są słabe”. Będą tylko źle prowadzone.
Daj modelowi narzędzia. Mały model lokalny z wyszukiwaniem w sieci, dostępem do plików i możliwością uruchamiania kodu bije wielki model bez tego. Przewaga topowych modeli kurczy się błyskawicznie, gdy podłączysz właściwe narzędzia. Model to silnik, narzędzia to koła.
Kaprys na czerwiec 2026: modele lokalne czasem „zapominają” o podpiętych narzędziach. Sam jeszcze uczę się, jak to obejść, ale wiedz, że się zdarza.
Prywatność to funkcja, która sama zamyka sprzedaż. Wszystko działa offline, dane nie wychodzą z maszyny — wrócę do tego przy pomysłach na biznes.
Buduj wyczucie przez porównanie. Bardzo pomaga tydzień pracy z małym modelem lokalnym i modelem chmurowym ramię w ramię — to najszybsza droga do instynktu. Zdziwisz się, jak często darmowa wersja lokalna wystarcza. Zauważysz, że przestajesz sięgać po płatną opcję do zadań, z którymi model 12B daje sobie świetnie radę. Wyczucie „co uruchamiać gdzie” to właśnie umiejętność, którą próbujemy tu zdobyć. Cała historia z banem Fable 5 to po prostu sygnał alarmowy — i pewnie dlatego w ogóle tego słuchasz.
Pięć pomysłów na firmę, które istnieją tylko dzięki modelom lokalnym
To przecież podcast o pomysłach na startupy. Nie tylko pokazuję, jak praktycznie korzystać z AI — chcę też rozruszać Twoją wyobraźnię wokół biznesów, które istnieją z konkretnego powodu. A ta historia trafiła do mediów głównego nurtu: każdy widział, że chmurowe modele można wyłączyć. Przez najbliższe lata popyt na modele lokalne będzie ogromny.
1. AI na urządzeniu dla branż regulowanych. Duża sprawa. Medycyna, prawo, finanse: mają pieniądze, mają problemy do rozwiązania przez AI, ale prawnie nie mogą wysyłać danych do chmurowego API. Produkt, w którym model działa w całości na sprzęcie klienta, a dane nie opuszczają budynku, otwiera rynek, na który chmurowa konkurencja nie ma teraz wstępu. To ograniczenie prywatnościowe to Twoja fosa. (Informacja dodatkowa: w Europie podobne bariery stawiają m.in. RODO i regulacje sektorowe — argument „dane nie opuszczają firmy” działa również na polskim rynku.)
2. Lokalne wersje istniejących narzędzi AI. Weź dowolny popularny chmurowy produkt — notatniki ze spotkań, streszczenia, analizatory dokumentów — i zbuduj jego lokalny odpowiednik. Ten sam produkt, ale obietnica sprzedażowa brzmi: „nic, co nam państwo przekażą, nie dotyka internetu”. To zdanie ląduje na pierwszym planie strony głównej i to ono domyka rozmowę z prawnikami, lekarzami, terapeutami i każdym, kto pracuje na wrażliwych dokumentach.
3. Agent odcięty od sieci dla operacji wrażliwych. Niektóre firmy w ogóle nie mogą być online: kontraktorzy obronni, część operacji finansowych, każdy, kto panicznie boi się wycieku. Robisz zestaw agentów działających w pełni offline na lokalnym sprzęcie — a tacy klienci są naprawdę gotowi płacić. Zwróć uwagę na różnicę: pomysł pierwszy dotyczy branż regulowanych, ten trzeci — operacji wrażliwych. Firma z zupełnie niewrażliwej branży może mieć jedną wrażliwą operację. To właśnie nisza.
4. AI offline tam, gdzie nie ma internetu. Statki, samoloty, wiejskie kliniki, prace terenowe, tereny dotknięte katastrofami. Użyteczne AI i agenci działający bez ani jednej linii do sieci to produkt, którego cała chmurowa branża po prostu nie jest w stanie zaoferować.
5. Odporność jako usługa (resilience as a service). Po tym weekendzie każda poważna firma zada sobie pytanie: „co się stanie z naszymi procesami AI, jeśli dostawca zniknie?”. Ty sprzedajesz odpowiedź. Warstwa awaryjna, która wchodzi do gry, gdy chmura gaśnie — polisa ubezpieczeniowa dokładnie od tego, co przydarzyło się Fable 5.
Zamiast morału
Wciąż przetwarzam te wydarzenia, ale w kółko wracam do jednego: ten weekend miał być o budowaniu na najmocniejszym modelu planety, a stał się o czymś trwalszym. Wnioskiem nie jest „chmura zła, lokalnie dobrze”. Wnioskiem jest: nie buduj całego życia na czymś, co może zniknąć jednym pismem. Miej własną część stosu. Trzymaj agregat w garażu. Modele lokalne to ubezpieczenie — a to weekend, w którym w końcu wykupiłem polisę.
Gdy zaczniesz się nimi bawić, przekonasz się, że nie są idealne i nie są najmocniejsze na świecie — ale do 60, 70, 80% rutynowych zadań są naprawdę dobre, a takich zastosowań jest zatrzęsienie. Dlatego przez najbliższe dni nie przytakuj przed ekranem: pobierz Ollamę albo LM Studio, ściągnij Qwen 3, uruchom, wskaż na niego Hermesa, wybierz prawdziwe zadanie i zmusz się, by wykonać je w całości lokalnie. Wtedy wszystko poukłada się w głowie.
Wtedy następnym razem, gdy coś zostanie zbanowane albo wycenione poza zasięg, nadal poprowadzisz biznes i dowioziesz swoje pomysły. A najlepiej: chmura robi jedno, lokalne modele drugie. Polub, skomentuj, zasubskrybuj — dzięki temu więcej takich materiałów trafi do Twojego feedu, a ja będę wiedział, że warto dzielić się tym, czego uczę się na bieżąco. Trzymam kciuki. Zbuduj dziś coś, czego nikt nie będzie mógł wyłączyć. Do usłyszenia w następnym odcinku — i twórczego dnia.