O czym jest ten film
- Claude Code uchodzi dziś za czołowego agenta do programowania, ale abonament kosztuje od 20 do 200 dolarów miesięcznie — do tego dochodzą ciasne limity użycia i nierówna jakość odpowiedzi.
- Autor prezentuje darmową, otwartą metodę „free Claude Code”: ten sam terminal, te same komendy, ale pod maską pracują znacznie tańsze modele.
- Sercem rozwiązania jest serwer pośredniczący (proxy) postawiony na własnym komputerze (localhost:8082), który przechwytuje zapytania Claude Code i kieruje je do wybranego dostawcy.
- Trzy obsługiwane źródła modeli: OpenRouter (już od ok. 14 centów za milion tokenów), NVIDIA NIM (darmowe modele po rejestracji) i Ollama (modele uruchamiane na własnym sprzęcie).
- Demonstracja ekonomii: prostą aplikację do śledzenia nawyków, która na kredytach Anthropic kosztowałaby 5–10 dolarów, autor zbudował na DeepSeeku V4 Flash za około 3 centy.
- Szacunek autora: tańsze silniki dają 80–90% jakości Opusa 4.7 za 2–5% ceny.
- Pełna instrukcja instalacji: repozytorium free-claude-code, trzy komendy w terminalu, edycja ukrytego pliku .env, wklejenie klucza API i wskazanie modelu.
- Testy na żywo: tracker nawyków na OpenRouter, konfiguracja paska statusu na NVIDIA NIM, lokalny Gemma 4 na Ollamie.
- Pułapki wykryte w praktyce: tryb fast wywołuje błędy API, jakość siada po około 50 tysiącach tokenów sesji, a modele lokalne są wolne na przeciętnym laptopie.
- Najważniejsza strategia: mocny model w roli orkiestratora, który zleca pracę setki razy tańszym subagentom — analogiczny układ u samego Anthropic poprawiał wyniki o około 15%.
10 najważniejszych takeaways — z kontekstem zastosowania
1.Lokalny proxy zamiast API Anthropic
Na czym polega: Claude Code można zmusić, żeby zamiast do serwerów Anthropic wysyłał zapytania do własnego pośrednika — lokalnego serwera, który przekazuje je do dowolnego tańszego dostawcy modeli. Interfejs i komendy pozostają bez zmian.
Jak stosować: postaw proxy z repozytorium free-claude-code (trzy komendy z quick starta), wpisz klucz API i nazwę modelu do pliku .env, uruchom serwer, a Claude Code odpalaj z przekierowaniem na adres lokalnego pośrednika.
Na co uważać: gdyby to konkretne repo zniknęło, nie dramatyzuj — podobnych projektów jest mnóstwo i wszystkie działają na tej samej zasadzie. Znajomość mechanizmu jest ważniejsza niż jedno repozytorium.
2.OpenRouter — najprostszy start
Na czym polega: OpenRouter agreguje modele wielu dostawców w jednym API i pozwala płacić za faktyczne użycie — od około 14 centów za milion tokenów, wobec kilkudziesięciu dolarów u Anthropic.
Jak stosować: załóż konto na openrouter.ai, utwórz klucz API, wklej go do pliku .env, a jako model podaj identyfikator w formacie dostawca/model (np. open_router/deepseek/deepseek-v4-flash).
Na co uważać: klucz skopiuj natychmiast przy tworzeniu — potem okno się zamyka i już go nie zobaczysz. Ceny i dostępność modeli zmieniają się dynamicznie, więc sprawdź aktualny cennik przed wyborami.
3.Darmowe modele na NVIDIA NIM
Na czym polega: po rejestracji na platformie NVIDIA (wymagany numer telefonu) dostajesz dostęp do modeli uruchamianych na kartach graficznych Nvidii — część z nich, jak GLM 4.7, bywa całkowicie darmowa.
Jak stosować: wygeneruj klucz API, ustaw krótką datę wygaśnięcia, wklej klucz i identyfikator modelu (np. nvidia_nim/z-ai/glm-4.7) do pliku .env.
Na co uważać: interfejs Nvidii potrafi ładować się irytująco długo, a modele darmowe są zwykle nieco słabsze od płatnych — traktuj je jako piaskownicę do testów, nie jako silnik do produkcji.
4.Ollama — modele całkiem na własnym sprzęcie
Na czym polega: Ollama pozwala pobrać otwarty model i uruchomić go lokalnie, bez internetu i bez rachunków — serwer nasłuchuje na localhost:11434 i można go podpiąć do Claude Code jak każdy inny dostawca.
Jak stosować: zainstaluj Ollamę jedną komendą z ollama.com, pobierz model (ollama pull), uruchom serwer, a w .env podaj model z przedrostkiem, np. ollama/gemma4:latest.
Na co uważać: duży model (10 GB, kontekst 128 tys. tokenów) rozgrzeje laptopa do zgrzytu i odpowie po wyraźnie dłuższej chwili. Na słabszej maszynie zejdź do mniejszego modelu, np. z serii Llama.
5.Plik .env to jedno centrum sterowania całą konfiguracją
Na czym polega: klucze API wszystkich dostawców i wybór aktywnego modelu lądują w jednym ukrytym pliku konfiguracyjnym — zmiana dostawcy to kwestia podmiany dwóch linijek, nie przeinstalowywania czegokolwiek.
Jak stosować: na Macu ukryte pliki (te z kropką na początku nazwy) pokazuje i chowa skrót Cmd+Shift+. Po edycji zapisz plik, zatrzymaj starą sesję i uruchom serwer na nowo — konfiguracja wchodzi w życie dopiero po restarcie.
Na co uważać: z Terminala zwykłe ls nie pokaże ukrytych plików — użyj ls -a. A skoro plik zawiera klucze do twojego konta, trzymaj go z dala od cudzych oczu.
6.Klucze API twórz z krótką datą wygaśnięcia
Na czym polega: autor konsekwentnie ustawia wygaśnięcie kluczy po jednej dobie (OpenRouter) albo dwunastu godzinach (NVIDIA) — gdyby klucz wyciekł, okno na szkody jest minimalne.
Jak stosować: przy tworzeniu klucza ustaw krótki termin ważności, nazwij go opisowo (np. „testy”) i wygeneruj osobny klucz na każdy projekt czy urządzenie.
Na co uważać: po wygaśnięciu klucza zapytania przestaną przechodzić — przed sesją upewnij się, że klucz wciąż żyje, żeby nie szukać błędu w złym miejscu.
7.Świeża instancja mniej więcej co 50 tysięcy tokenów
Na czym polega: z doświadczenia autora jakość odpowiedzi wyraźnie siada po około 50 tysiącach tokenów jednej sesji — model robi się mniej bystry i mniej sprawny.
Jak stosować: przy dłuższych projektach nie ciągnij jednej rozmowy w nieskończoność, tylko otwieraj nową instancję Claude Code i przenoś do niej kontekst (np. w postaci plików projektu).
Na co uważać: to wciąż kompromis — wymieniając inteligencję na pieniądze, musisz częściej pilnować efektów i wyraźniej formulować zadania.
8.Orkiestracja: bystry model kieruje, tani wykonuje
Na czym polega: zamiast zlecać wszystko jednemu modelowi, można postawić mocny model (np. Opus) w roli dyrygenta, który rozmawia z twoim promptem, planuje i ocenia, a ciężką robotę — pisanie i refaktoryzację — wysyła setki razy tańszym subagentom przez proxy.
Jak stosować: napisz do mocnego modelu polecenie w stylu „zorkiestruj budowę tej aplikacji, prowadź tańszy model i podpowiadaj mu kroki” — i pozwól mu samemu komunikować się z tańszym silnikiem przez wcześniej zbudowany przepływ.
Na co uważać: prosta pętla bez samokontroli zostawia drobne błędy (w demo — rozjechana typografia). Warto dodać do orkiestracji zrzuty ekranu i etap weryfikacji. U Anthropic analogiczny układ (Opus plus subagenci Sonnet) podnosił wyniki o jakieś 15%.
9.Wyłączaj funkcje, których tańszy model nie rozumie
Na czym polega: Claude Code potrafi wysyłać parametry specyficzne dla modeli Anthropic — np. tryb fast. Tańsze silniki nie mają pojęcia, co to jest, i odpowiadają błędem API.
Jak stosować: przed pracą na zamienniku przejrzyj ustawienia sesji i wyłącz wszystkie „bajery” przewidziane dla oryginalnych modeli; po błędzie API najpierw sprawdź właśnie te przełączniki.
Na co uważać: to działa w obie strony — niektóre mechanizmy Claude Code (jak agent konfiguracji paska statusu) działają normalnie, bo są częścią „opakowania”, nie modelu.
10.Nie wierz modelowi, gdy mówi, kim jest
Na czym polega: bo prompt systemowy Claude Code jest tak nasączony tożsamością Claude, że podłączony DeepSeek z pełnym przekonaniem przedstawia się jako Claude Opus — choć fizycznie to zupełnie inny model.
Jak stosować: tożsamość faktycznego silnika sprawdzisz nie w rozmowie, lecz w logach dostawcy — w OpenRouter widać każde zapytanie, jego adresata, surowy JSON oraz liczbę tokenów na wejściu i wyjściu.
Na co uważać: to ogólniejsza lekcja: model może być całkiem pewny siebie, mówiąc nieprawdę. Logi i weryfikowalne ślady operacji zawsze biją deklaracje.
Redakcyjne tłumaczenie
Najlepszy agent do kodowania — i najdroższy
Claude Code uchodzi dziś za czołowego agenta programistycznego na świecie, ale przyjemność kosztuje: od 20 do 200 dolarów miesięcznie. Do tego dochodzą ciasne limity zapytań i — jak narzekają użytkownicy — falująca jakość. W tym materiale pokażę darmową, w pełni otwartą alternatywę zwaną „free Claude Code”: używasz dokładnie tego samego interfejsu — tego samego terminala i tych samych komend — ale pod maską pracują znacznie tańsze modele. Efekt to około 80–90% jakości Opusa 4.7 za 2–5% ceny. Krótko mówiąc, świetny stosunek efektu do kosztów.
(Informacja dodatkowa: Claude Code to działający w terminalu agent kodowania od Anthropic — sam czyta i edytuje pliki, uruchamia polecenia i prowadzi całą sesję programistyczną w wierszu poleceń.)
Trzy centy zamiast dziesięciu dolarów
Na ekranie mam aplikację Habitual — prosty tracker nawyków, który właśnie skleiłem. Najzabawniejsza jest cena: na kredytach Anthropic kosztowałaby 5–10 dolarów, a na DeepSeeku V4 Flash, czyli modelu siedzącym w tej darmowej konfiguracji, wyszło około trzech centów. Nie przesadzam — zapłaciłem dosłownie kilkaset razy mniej niż u Anthropic. Nie twierdzę, że wyszło dokładnie to samo, co dałoby Claude, ale modele dostępne dziś na OpenRouter, NVIDIA NIM i Ollamie — a wszystkie trzy źródła przeprowadzę was krok po kroku — są naprawdę mocne. Z jednym z nich zrobisz mniej więcej wszystko to, co przy klasycznym silniku Opus.
Jedno zastrzeżenie: na samym szczycie jakości, tam gdzie zmierzają modele Opus, nawet jednoprocentowa różnica potrafi oznaczać zupełnie inne rezultaty. Mam to na uwadze. Ale istnieje — moim zdaniem — bardzo rozsądny układ: trudne, strategiczne zadania odpalasz na Opusie 4.7 albo innym modelu z absolutnej czołówki, a całą ciężką, powtarzalną robotę w tle — choćby refaktoryzację kodu — zlecasz DeepSeekowi lub GLM 4.7. Oszczędzasz w ten sposób pięć-, dziesięciokrotnie więcej, niż normalnie byś wydał.
Obok, na lewym ekranie, mam już uruchomionego DeepSeeka. Widzicie dokładnie ten sam interfejs Claude Code, bloki rozumowania lecą jak zwykle, a stopka informuje, że pracujemy na „DeepSeek V4 Flash via proxy”. I właśnie tę drogę wam pokażę. Rozmawia się z nim tak jak z każdym Opusem. Czas na konfigurację — zajeśnie kilka minut.
Gdzie mieszka cała sztuczka: lokalny pośrednik i trzy wyjścia
Normalnie Claude Code działa tak: siedzicie w terminalu — może w Anti-Gravity, może w aplikacji desktopowej — wysyłacie prośbę, a ona leci prosto do API, i rozliczają was tokeny. Jeśli ktoś jest sprytny, bierze plan Pro albo Max: one dotują zużycie tokenów w zamian za pewność, że co miesiąc wpłynie abonament. Uczciwy układ, tylko drogi. Osobiście wolałbym płacić pół centa za milion tokenów zamiast pięciu dolarów za milion.
Nasze rozwiązanie robi więc jedno: gdy wysyłam coś do Claude Code, nie puszczamy tego do Anthropic, tylko wymuszamy wysyłkę do naszego pośrednika. Serwer stoi lokalnie — stąd adres localhost:8082 — ale równie dobrze może wisieć na dowolnej maszynie. Dalej pośrednik ma trzy wyjścia:
- NVIDIA NIM — darmowe po założeniu konta (płatne opcje też istnieją); zapytania obsługuje rzesza kart graficznych Nvidii. Modele są nieco słabsze niż w następnej opcji.
- OpenRouter — modele już od 14 centów za milion tokenów. To zupełnie inna liga niż 25 dolarów za milion.
- Ollama — pracuje na waszym własnym sprzęcie. Jeśli macie rig z kartami graficznymi albo chociaż laptopa do gier, uruchomicie modele bezpośrednio na nim. A jeśli jesteście w tym naprawdę dobrzy, odpalicie je szybciej niż klasyczne modele Claude — bo nie rywalizujecie o zasoby z milionami innych ludzi.
Pokażę wam najpierw konfigurację samego pośrednika, a potem wszystkie trzy wyjścia wraz z modelami, żebyście mogli odtworzyć u siebie całość. Nie trzeba żadnego doświadczenia z lokalnymi modelami — poprowadzę was za rękę od początku do końca.
Instalacja: trzy komendy i plik konfiguracyjny
Wszystko zaczyna się od repozytorium free-claude-code autorstwa Ali Sherera. Projekt błyskawicznie zdobył popularność: w lutym i marcu jeszcze nic, a teraz wyraźny punkt zwrotny i lawina udostępnień. Ważne: nie chodzi o tę konkretną repozytorium. Podobnych podejść jest mnóstwo i robią dokładnie to samo. Jeśli to zniknie albo po prostu nie będzie wam pasować — spokojnie, mechanizm pozostaje ten sam. Celem tego przewodnika jest pokazanie zasady w praktyce, żebyście umieli postawić ją u siebie.
Wystarczy sekcja quick start. Otwieracie terminal (nowa karta przez Shell → New Tab; na Windows użyjecie PowerShell — trochę inny świat, ale przewodnik prowadzi obie ścieżki). Na macOS i Linuksie kopiuję trzy komendy: instalator dobiera zależności, potem klonuje repozytorium i przechodzi do jego katalogu. Brzmi trochę magicznie, ale w tym momencie macie za sobą 80% roboty. Po skopiowaniu konfiguracji brakuje dosłownie jednego: klucza API wybranego dostawcy.
OpenRouter: najprostsza droga do pierwszego uruchomienia
Najłatwiej wystartować z OpenRouter, więc od niego zaczynamy; potem NVIDIA NIM, na końcu Ollama. (Informacja dodatkowa: OpenRouter to pośrednik, który w jednym API agreguje modele setek dostawców — wygodnie się nim porównuje ceny i przełącza silniki.) Dla kogoś, kto choć raz wysyłał zapytania do API, to będzie kaszka z mlekiem; dla pozostałych pokażę jeszcze tańsze opcje.
Wchodzę na openrouter.ai, otwieram konto, przechodzę do sekcji API keys i tworzę klucz — nazywam go „dla YouTube”. Od razu ustawiam wygaśnięcie po jednej dobie: jeśli klucz mi umknie, nikt nie narobi mi na milion dolarów. I detal, o którym łatwo zapomnieć: klucz trzeba skopiować natychmiast, bo okno się zamyka i więcej go nie zobaczysz.
Teraz odnajduję folder projektu — polecenie pwd podaje pełną ścieżkę — i otwieram go w Finderze. Uwaga, użytkownicy Maca: na świeżej instalacji część plików wydaje się „przygaszona”. To pliki ukryte: wszystko, co zaczyna się od kropki, system domyślnie chowa przed zwykłym śmiertelnikiem — z rozsądku, żeby przypadkiem nie ruszyć czegoś potencjalnie niebezpiecznego. Dobra wiadomość: można je pokazać i schować jednym skrótem. Wyszukuję „macOS ukryte pliki skrót” — proszę: Cmd+Shift+kropka. Wracam do Findera, wciskam i bingo, pliki się pokazują (ten sam skrót chowa je z powrotem). Interesuje nas plik .env.
Otwieram go — w środku placeholdery na klucze wszystkich obsługiwanych dostawców: konfiguracja OpenRouter, DeepSeek, LM Studio i tak dalej. Wklejam klucz we właściwe miejsce. Została jedna rzecz: niżej w pliku trzeba wskazać model. Na OpenRouter wchodzę w „przeglądaj wszystkie modele”, wpisuję deepseek v4 flash, klikam ikonkę kopiowania przy identyfikatorze i wklejam go do .env w formacie dostawca/model — u mnie: open_router/deepseek/deepseek-v4-flash. Robiłem to już kilka razy, więc wiem, że format jest właściwy. Zapisuję.
Otwieram terminal, upewniam się, że jestem w katalogu projektu (plik .env jest ukryty, więc żeby go zobaczyć z wiersza poleceń, potrzeba ls -a), przechodzę do kroku trzeciego quick starta — start pośrednika — wklejam komendę. Port był wolny, super, serwer działa. Teraz otwieram drugie okno terminala i uruchamiam Claude Code z przekierowaniem na adres lokalnego pośrednika. Wklejam, enter — i w stopce widzę „DeepSeek-v4-Flash via proxy”. Trafiamy dokładnie tam, gdzie chcieliśmy.
Test na żywo: tracker nawyków na DeepSeeku
Piszę „Cześć”. W oknie pośrednika leci podgląd na żywo: przychodzi zapytanie, pośrednik wysyła je do DeepSeeka, ten odpowiada. Pierwsze uruchomienie trwa chwilę dłużej — i proszę: model dostawił tylko proste przywitanie, „Hello, how can I help you today?”.
Ciekawostka: gdy spytałem „jaki jesteś model?”, odpowiedział, że jest Claude Opus 4.6 z kontekstem 1M, działający w interfejsie Claude Code. Prompt systemowy Claude Code jest tak nasycony tożsamością Claude, że model po prostu nie wie, kim jest naprawdę — a brzmi przy tym zupełnie pewnie. Prawdę znajdziesz w logach OpenRouter: widać tam świeże zapytanie posłane do DeepSeek-v4-Flash, razem z surowym JSON-em. Z ciekawości policzyłem tokeny: na wejściu jakieś 30 tysięcy — cały prompt systemowy Claude Code, którego niestety nie da się pominąć, bo to po prostu część dzieła — a na wyjściu 47 tokenów za samo „hello”. Taka cena gry.
Śmiało, budujemy: „Stwórz prostą aplikację do śledzenia nawyków w podkatalogu o nazwie habittracker. Maksymalnie prosto, lokalnie — to demo”. Chcę wam pokazać relację na żywo, bo modele spoza wielkiej trójki — DeepSeek zamiast Anthropic, Google czy OpenAI — są po prostu słabsze i zwykle wolniejsze. Widzicie licznik tokenów na jednostkę czasu i jak prędkość faluje: raz 23,6, raz 59,4. Pewne rzeczy wychodzą wolniej; co ciekawe, inne paradoksalnie szybciej, bo to zupełnie inna architektura. DeepSeek — notabene projekt z Chin — zbudowano z myślą o innych założeniach i działa trochę inaczej. Warto to zobaczyć na własne oczy.
A cała machineria Claude działa jak zwykle: bloki rozumowania, urocze komunikaty postępu, wiadomości wielolinijkowe przez Option+Enter. Po chwili aplikacja stoi — wylądowała na mojej domenie pod /habittracker. Mówię „otwórz w Chrome” — i proszę, działa. Dodaję nawyk „20 pompek” i odhaczam go jak należy.
Z mojej praktyki dochodzi tu jeszcze jedna zasada: mniej więcej co 50 tysięcy tokenów otwieram nową instancję, bo po tym progu jakość wyraźnie siada — model robi się mniej bystry i mniej sprawny. W tym układzie wymieniasz inteligencję na pieniądze, więc musisz to rekompensować. Otwieram świeże okno i mówię: „masz ten plik — jest zbyt prosty. Nadaj mu sznyt w stylu czasopisma naukowego: krój szeryfowy, bardziej wyrafinowany charakter”. Model słusznie ocenił, że JavaScript jest czysty, więc wziął się za przeprojektowanie HTML i CSS — a ja odświeżam podgląd w kółko i patrzę, jak na żywo rośnie ładniejsza typografia i lepsze kolory. Po kolejnych pięciu, dziesięciu minutach widać, że taki demo da się zbudować od zera.
Zaznaczę: całą tę aplikację zrobiłem wyłącznie na DeepSeeku. Ale najlepszy stosunek ceny do efektu dałby — moim zdaniem — inny układ: sprytniejszy model jako orkiestrator, który wysyła zadania do mniejszych modeli DeepSeek z ograniczonym kontekstem, powiedzmy 50–100 tysięcy. Każdy robi wtedy to, co umie najlepiej.
NVIDIA NIM: darmowe modele w zamian za numer telefonu
To samo koło, tylko inny dostawca. W pliku .env macie sekcję na klucz i model Nvidii — trzeba więc założyć konto na platformie NIM. Rejestracja poprosi o e-mail, numer telefonu i tym podobne rzeczy; zakładam, że telefon macie i nie przeszkadza wam to — ja swojego pokazywać nie będę. Po zalogowaniu klikam Generate API key, nazywam go „dla YouTube”, ważność daję na 12 godzin, generuję — i klucz gotowy.
Szybko zajrzeć trzeba jeszcze na stronę models. Klikam i…人力资源管理 holy moly, ale to wolno ładuje. Po doczekaniu otwiera się katalog: jest DeepSeek, jest GLM 5.1, a GLM 4.7 — proszę — zupełnie za darmo. Skoro nic nie kosztuje, biorę właśnie jego, idealny do tego odcinka. Można model nawet przetestować na stronie — piszę „Cześć”, model przechodzi przez swoje rozumowanie, działa. Dla nas to tylko formalność. Wracamy do quick starta, gdzie identyfikator ma postać nvidia_nim/z-ai/glm-4.7. Otwieram .env, wklejam klucz Nvidii i podmieniam model w sekcji dla NIM — u mnie właśnie GLM 4.7, bo chcę pokazać wam model za darmo. Cmd+S.
Jedna pułapka z życia wzięta. W tle stała jeszcze sesja, którą musiałem ubić — tokeny stanęły, bo podmieniłem plik konfiguracji, więc zatrzymuję wszystko przez Ctrl+C, czyszczę ekran i uruchamiam serwer na nowo (znowu port 8082). Potem Claude Code z przekierowaniem na lokalny adres. Piszę „Cześć” — i dostaję błąd. Powód? Prędkość: miałem włączony tryb fast. Wyłączam i proszę — „Hey, how can I help you today?”. Wniosek ogólny: jeśli używacie funkcji, których te modele nie obsługują — a tryb fast jest włączony w Claude Code, choć tańsze silniki nie mają pojęcia, co to — serwer odpowie błędem API w stylu „co to w ogóle za parametr?”. Wyłączajcie wszystkie takie bajery.
Dalej drobna kontrola: „jaki jest twój katalog roboczy?” (stopka wciąż pokazuje starego DeepSeeka, co jest zabawne, ale folder projektu jest właściwy). A potem coś ambitniejszego: „jak zmienić pasek statusu?”. Ta odpowiedź przyszła po chwili, ale przyszła — i co ciekawe, rozumowanie zeszło jednym wielkim blokiem, bez strumieniowania. Po chwili model sam uruchomił agenta konfiguracji paska statusu — mechanizm wbudowany w Claude Code. I tu sedno tego całego opakowania: mechanizmy Claude zostają, my wymieniamy tylko mózg, który nimi kręci. Wszystko jest wymienne. Agent pyta o nazwę modelu — każę wpisać GLM 4.7, resztę bez zmian. Sprawdźmy, czy da radę sam, czy starczy mu kontekstu i inteligencji.
Ollama: model na własnym komputerze i ciepły laptop
Ostatnie źródło: Ollama — całkiem bezpośrednie. (Informacja dodatkowa: Ollama to darmowe narzędzie do uruchamiania otwartych modeli w pełni lokalnie — bez internetu i bez rachunków.) Na ollama.com czeka jedno polecenie do wklejenia w terminal; można też zainstalować po klasycznemu, ale ja używam shella, bo tak najprościej. Ci ludzie są zresztą uroczywi i mocno wizualni — wszystko u nich wygląda czule. Po instalacji samo wpisanie ollama stawia środowowanie: „porozmawiaj z modelem”, „uruchom Claude do kodowania” i masa innych opcji.
Wybieram rozmowę z modelem i celowo biorę coś bardzo prostego. Kilka pozycji w katalogu pracuje w chmurze — ja jednak chcę model naprawdę lokalny. Padło na Gemmę 4: 12 GB, powinna się pobrać w kilka minut przy moim łączu. Zostawiam komputer na chwilę sam sobie, wracam — gotowe, manifest pobrany, pliki zciągnięte. Nazwa identyfikatora to po prostu gemma4, małymi literami, więc będzie prosto. Zaczynam rozmowę: „Cześć”. Widać, jak proces rozumowania zapisuje się na ekranie — i to wszystko dzieje się w całości na moim komputerze. Pytam złośliwie: „jesteś w chmurze?”. Model zaczyna zadawać pytania filozoficzne — jedno jest pewne: sam nie ma zielonego pojęcia, gdzie fizycznie działa. Zabawne i pouczające.
Wychodzę (Ctrl+D), zatrzymuję (Ctrl+C), czyszczę ekran. Formalności: ollama pull gemma4 pobiera model (u mnie już leży na dysku), ollama serve uruchamia serwer — sądząc po wszystkim, wystartował już przy okazji wcześniejszych kroków, tym lepiej. W pliku .env zostaje sekcja Ollama: dostawca lokalny, bez klucza, adres bazowy localhost:11434 — i zauważcie, port 11434 zgadza się z tym, na którym nasłuchuje serwer (localhost to inaczej 127.0.0.1, po prostu „ten komputer”). Model wpisujemy z przedrostkiem: ollama/gemma4:latest. Zapisuję.
Uruchamiam aplikację, łączę się i piszę „Cześć”. I tu najciekawsze: laptop momentalnie się nagrzał i słyszę, jak buczy — bo całe mnożenie macierzy, cała robotyka transformera, działo się fizycznie na mojej maszynie. Dla mnie to po prostu fajne. Dźwięk cichnie, gdy obliczenia się kończą. Odpowiedź jednak przyszła po zauważalnie dłuższej chwili: na własnym sprzęcie bywa po prostu wolno — to nie OpenRouter z dedykowanymi kartami ani NIM, tylko zwykły MacBook, który do takich zadań wcale nie jest zoptymalizowany. Tak wygląda uruchamianie modelu lokalnie.
Jeszcze jedno: to był spory model — 10 GB i kontekst 128 tysięcy tokenów na lokalnej maszynie. Bez porządnego komputera trzeba zejść do czegoś prostszego. W katalogu Ollamy można sortować po nowości; niezawodną serią były przez dłuższy czas modele Llama — 3.1, 3.2 sobie poradzą. Część pozycji to dzieła społeczności: ktoś bierze model, modyfikuje go i dostraja (tzw. fine-tuning) pod siebie. Warto więc przejrzeć bazę — bywają modele pod konkretną dziedzinę, choćby księgowość czy listy płac.
Orkiestracja: Opus dyrygentem, tańsze modele orkiestrą
Wspominałem o układzie, w którym Claude dyryguje rozmową między modelami. Zrobiłem to. Poprosiłem: „wyślij wiadomość do DeepSeeka przepływem, który zbudowaliśmy wcześniej, i powiedz mi, co odpowie”. I faktycznie — sam prowadzi całą tę wymianę, cały hosting itd. Ciekawostka: gdy piszesz do DeepSeeka bezpośrednio, przedstawia się uczciwie — „jestem DeepSeek, najnowsza wersja modelu firmy DeepSeek”. A teraz polecenie dla znacznie sprytniejszego modelu: „zorkiestruj budowę aplikacji, poprowadź ją przez kroki i podpowiadaj. Opis: prosty licznik kalorii, MVP, ale ma wyglądać luksusowo i ekskluzywnie, na potrzeby demo”.
Pod maską pracuje Opus 4.6 (to, że pasek statusu pokazuje GLM 4.7, to efekt naszej ręcznej edycji z wcześniejszego demo — wy zresztą nie róbcie tego, ja wpisałem GLM na sztywno czysto dla pokazania zasady). Ten bystrzejszy model rozmawia z DeepSeekiem przez nasz pośrednik, w tle wykorzystując mechanikę Claude Code. Mój prosty prompt został przyjęty, przetrawiony i przerobiony: odpowiedź okazała się bardziej wyrafinowana, z własnymi zdecydowanymi wyborami fontów i kolorów. I tak lecą w kółko — tam i z powrotem — aż aplikacja gotowa.
Efekt na ekranie: licznik kalorii. Drobiazgi do poprawienia są — rozjechane odstępy na przykład — ale gdyby zbudować lepszą pętlę orkiestracyjną, z zrzutami ekranu i samokontrolą, model wyprostowałby detale sam. Znalazły się tam nawet szybkie skróty do dodawania kalorii i osobny dziennik. Można to komplikować praktycznie w nieskończoność — wyszedł nawet cały mini-aplikacyjny licznik. Całkiem zgrabnie.
Na koniec smaczek: gdy Anthropic przeprowadził analogiczny układ na własnej infrastrukturze — Opus 4.6 z subagentami Sonnet 4.6, bodajże 4.5 z 4.5, a to w gruncie rzeczy dokładnie to, co robimy — wyniki wzrosły o jakieś 15%. My po prostu idziemy krok dalej: subagenci nie pochodzą od tej samej firmy, tylko są setki razy tańsi. Oni odwalają większość ciężkiej roboty intelektualnej, a model z serii Opus zerkają na efekt i mówią „dobre” albo „popraw”. I to się po prostu dużo lepiej opłaca.
Zakończenie: rachunki, sprawiedliwość i jedna reklama
Mam nadzieję, że materiał się podobał — świetnie się go robiło. Koszty były moją bolączką jeszcze kilka lat temu, zanim zacząłem na tym uczciwie zarabiać. Głęboko wierzę, że taka inteligencja powinna być rozdzielana sprawiedliwie, ale na najbliższą przyszłość nie bardzo w to wierzę — firmy tworzące modele też muszą się z czegoś utrzymać, a karty graficzne też mają swój apetyt.
Jeśli wolicie nie tylko oszczędzać, ale i zarabiać — rzućcie okiem na Maker School, mój program rozliczalności dzień po dniu, w którym pokazuję, jak zamienić umiejętności z Claude Code i platform no-code (jak n8n) na sprzedaż agentów AI i pełnych automatyzacji firmom. Dajemy gwarancję 90 dni: pierwszy klient w tym terminie albo zwracam wszystko, co wydałeś na program. Przeszło przezeń ponad dziesięć tysięcy osób — i więcej reclamy robić nie będę, bo nie ma potrzeby: minusów praktycznie brak. Poza tym, jeśli chcecie zrobić mi drobną przysługę — łapka i subskrypcja bardzo pomagają; ruszam z dużym youtube’owym rozpędem, więc każde zaangażowanie się liczy. A tematy kolejnych odcinków biorę niemal w całości od was — ten powstał dokładnie na czyjąś prośbę sprzed paru dni. Miłego dnia i do usłyszenia.