Potężny DeepSeek v4.1 bez cenzury — jak go uruchomić

O czym jest ten film

1. Czym jest „abliteracja” — usuwanie z modelu AI warstwy odmów tak, by odpowiadał na każde pytanie, bez utraty wiedzy i inteligencji.
2. Legalne zastosowania: testy bezpieczeństwa własnego oprogramowania, niewygodne pytania polityczne, teksty piosenek i transkrypcje, na które ChatGPT i Claude odmawiają.
3. Argument z ataków: podczas włamań do Hugging Face i Open Code zamknięte modele odmawiały obrońcom pomocy; uratowały je dopiero otwarte GLM i DeepSeek.
4. Anatomia cenzury: pre-training (wiedza) → fine-tuning → trening bezpieczeństwa (RLHF) → model czatowy; odmowy są doklejane na końcu, więc da się je zdjąć.
5. Mechanizm potwierdzony badaniem z 2024 r.: odmowa „mieszka” w jednym kierunku w przestrzeni wag; jego wymazanie usuwa odmowy niemal bez śladu na benchmarkach.
6. Narzędzia: repozytorium Heretic abliteruje model jednym poleceniem, bez znajomości wnętrza transformerów; na Hugging Face czeka blisko 9 tys. gotowych modeli „obliterated”.
7. Katalog: profile takie jak HoiHoi AI (159 modeli) oraz warianty typu GLM 5.3, Kimi K1, Qwen 3.8 27B czy Super DeepSeek V4 Flash (306 mld parametrów), który autor uruchamia na dwóch DGX Spark.
8. Sprzęt: reguła 0,6 GB VRAM na miliard parametrów; od 8 GB RAM do Mac Studio M5 Ultra (512 GB, ok. 25 tys. dolarów); liczy się też przepustowość pamięci.
9. Wołanie o archiwizację: Hugging Face zaczęło usuwać wybrane modele; autor wzywa do pobierania i przechowywania wag na własnych dyskach jako „nowej wolności słowa”.
10. Trzy drogi uruchomienia: API (np. Venice bez weryfikacji tożsamości), lokalnie (Ollama, LM Studio) albo własny serwer GPU w chmurze — plus przestroga, że model bez hamulców wykona także polecenie destrukcyjne.

10 najważniejszych takeaways — z kontekstem zastosowania

1.Odmowa to doklejona warstwa, nie brak wiedzy

Na czym polega: model nabiera wiedzy w pre-trainingu, a odmowy dopisuje dopiero trening bezpieczeństwa (np. RLHF). To zachowanie nałożone sztucznie, a nie skutek braku kompetencji.

Jak stosować: gdy zamknięty model odsyła cię z kwitkiem przy legalnym zadaniu, nie kombinuj z promptami — sięgnij po abliterowaną wersję modelu otwartych wag.

Na co uważać: abliteracja jest możliwa tylko tam, gdzie masz dostęp do wag; z GPT czy Claude przez API nic nie zrobisz.

2.Zhakuj samego siebie, zanim zrobi to ktoś inny

Na czym polega: autor przewiduje, że atakujący niedługo będą mieli przy boku setki agentów na odcenzurowanych modelach. Jedyną sensowną obroną jest wcześniejsze przełamanie własnych systemów.

Jak stosować: prowadź dwa tory równolegle — modele frontierowe znajdą luki dzięki inteligencji, a abliterowane wejdą w miejsca, których tamte nie tkną: taktyki z pogranicza dozwolonego, ciągi exploitów spoza polityki laboratoriów. Znaledziiska naprawiaj z pomocą modeli czołowych.

Na co uważać: wyłącznie własne systemy i pełna zgodność z prawem; to nie jest licencja na atakowanie cudzych.

3.Dobrze wykonana abliteracja nie tępi modelu

Na czym polega: przy DeepSeeku odmowy spadły ze 100 do 2%, a wyniki benchmarków zostały na niezmienionym poziomie — bez kompromisu.

Jak stosować: wybierając wersję odcenzurowaną, porównaj jej wyniki z oryginałem; rzetelny autor publikuje takie zestawienia.

Na co uważać: podobnej gwarancji nie daje dostrajanie na danych kontrowersyjnych — to inna technika i potrafi wyraźnie osłabić model.

4.Licz pamięć: 0,6 GB VRAM na miliard parametrów

Na czym polega: model musi zmieścić się w pamięci karty graficznej, nie na dysku — 8 mld parametrów to ok. 5 GB VRAM, 27 mld — ok. 24 GB.

Jak stosować: przed pobraniem pomnóż liczbę parametrów przez 0,6 i sprawdź, ile pamięci realnie oddasz na model. Na Apple Silicon liczysz całą pamięć RAM, bo jest współdzielona z układem graficznym.

Na co uważać: pojemność to nie wszystko — o szybkości współdecyduje przepustowość pamięci; dwie maszyny z tyleż samo RAM mogą różnić się dwukrotnie.

5.Gotowe modele znajdziesz filtrem „obliterated” na Hugging Face

Na czym polega: fraza „obliterated” daje blisko 9 tys. modeli, „uncensored” — kolejne 8 tys.; filtry parametrów zawężają wybór do twojego sprzętu.

Jak stosować: ustaw przedział parametrów pod swoją pamięć, sortuj po pobraniach lub trendach i wybieraj najlepiej oceniane — np. Qwen 3.8 27B, który zdaniem autora przegania Opusa 4.5, model-szczyt sprzed dziesięciu miesięcy.

Na co uważać: sortowanie po trendach sprzyja nowościom, nie zawsze najlepszym; sprawdź datę publikacji i liczbę pobrań.

6.Ollama z formatem GGUF — najprostszy start lokalny

Na czym polega: Ollama pobiera i uruchamia model jednym poleceniem w terminalu; modele z Hugging Face muszą mieć wersję GGUF, czyli format pliku przystosowany do lokalnej inferencji.

Jak stosować: ollama run hf.co/użytkownik/repozytorium ściąga wskazany model, a ollama list pokaże, co już masz. Oficjalny katalog Ollamy jest mniejszy, ale pewniejszy.

Na co uważać: surowy model w terminalu mało się przydaje — dopiero harness, czyli nakładka agentska, robi z niego narzędzie. Zaplanuj z góry, w czym będziesz go obsługiwać.

7.API bez weryfikacji tożsamości — prywatność zaczyna się od rejestracji

Na czym polega: większość hostingów abliterowanych modeli wymaga KYC: dokumentów, danych firmy, karty płatniczej, a czasem osobnej aprobaty. Autor radzi wybrać dostawców typu Venice, którzy tego nie wymagają.

Jak stosować: jeśli API ma służyć testom bezpieczeństwa albo niewygodnym pytaniom, wybieraj usługi bez KYC i bez przechowywania danych.

Na co uważać: autor otwarcie dopuszcza, że część serwisów to pułapki (honeypoty) — to jego spekulacja, ale czujność jest na miejscu; i odwrotnie: brak KYC nie znaczy brak logów.

8.Archiwizuj wagi — dyski są tańsze od GPU

Na czym polega: Hugging Face zaczęło usuwać wybrane modele otwartych wag; jedno rozporządzenie w Waszyngtonie, Brukseli czy Pekinie może zdjąć całe katalogi.

Jak stosować: zaopatrz się w NAS z kilkudziesięcioma terabajtami i pobieraj każdą nową premierę od ręki, najlepiej zautomatyzowaną pętlą agentową. Przechowywanie nie wymaga mocy obliczeniowej; sprzęt dokupisz później.

Na co uważać: zapisane wagi to nie działający model — gigantów typu Kimi (2,8 bln parametrów) nie uruchomisz bez poważnego budżetu.

9.Lokalne modele doganiają frontier

Na czym polega: dwadzieścia siedem miliardów parametrów na laptopie przegania najlepszy model sprzed dziesięciu miesięcy; postęp lokalny jest szybszy niż frontierowy.

Jak stosować: przy wielu zadaniach model o 80–90% możliwości frontieru, który niczego nie odmówi, daje netto więcej użyteczności niż „sprytniejszy” model z hamulcami. Przetestuj na własnych workflowach, zanim zapłacisz za kolejne subskrypcje.

Na co uważać: benchmarki nie oddają codziennej użyteczności — najpierw sprawdź, czy lokalna wersja realnie daje radę twoim zadaniom.

10.Model bez hamulców zrobi dosłownie wszystko

Na czym polega: abliterowany agent poproszony o skasowanie katalogu domowego czy zepsucie systemu wykona polecenie bez wahania.

Jak stosować: uruchamiaj takie modele w izolowanym środowisku — kontener, osobna maszyna — i z jasnym zakresem uprawnień; prompty formułuj precyzyjnie, żeby nie odpalić czegoś nieodwracalnego.

Na co uważać: jedno niefortunne polecenie potrafi zniszczyć konfigurację, a odpowiedzialność prawną model z tobą nie dzieli.

Redakcyjne tłumaczenie

Modele „abliterowane”, czyli bez cenzury

Jestem David Ondrej i pokażę, jak uruchamiać modele abliterowane. (Informacja dodatkowa: „abliteracja”, ang. abliteration/obliteration, to termin oznaczający chirurgiczne usunięcie z modelu mechanizmu odmawiania odpowiedzi — stąd potocznie „modele bez cenzury”.) To modele dotrenowane i zmodyfikowane tak, by odpowiadać dosłownie na każde pytanie — także o inżynierię wsteczną czy dekompilację oprogramowania. W materiale pokażę, jak działają, które wersje są obecnie najlepsze i jak uruchomić taką własną — nawet bez weryfikacji tożsamości.

Zastrzeżenie: te modele odpowiedzą na wszystko. Korzystajcie z nich legalnie i etycznie. Mój poprzedni film o modelach bez cenzury został zdjęty z YouTube — jeśli temat jest dla was ważny, obejrzyjcie ten do końca.

Po co w ogóle zdejmować cenzurę?

Można zapytać: „David, po co to wszystko? Czy to nie służy wyłącznie nielegalnym celom?”. Nie — da się z tym robić sporo dobrego i legalnego, na co zwykłe modele po prostu odmówią:

• cyberbezpieczeństwo defensywne — testowanie własnego oprogramowania i własnej firmy;
• uczciwe pytania o tematy polityczne i nacechowane — a w tym zarówno Claude, jak i modele otwarte są mocno obciążone jednostronnością;
• teksty piosenek, transkrypcje wideo, pobieranie określonych plików — na wiele z tych rzeczy GPT i Claude odmówią nawet wtedy, gdy zadanie jest całkowicie prawidłowe i legalne.

Kiedy zamknięte modele odmawiają pomocy obrońcom

Najlepszą ilustracją są dwa najsłynniejsze incydenty hakerskie w świecie AI z ostatnich pół roku. Pierwszy: atak na Hugging Face, platformę z modelami i zbiorami danych. OpenAI prowadziło wtedy rój superinteligentnych agentów na wewnętrznym, jeszcze niewydanym modelu — i ten rój wtargnął do Hugging Face. Gdy programiści platformy próbowali się bronić, sięgnęli po GPT i Claude. Oba modele odmówiły pomocy. Ratunek przyniosły dopiero GLM i DeepSeek, chińskie modele open source. To one pomogły odeprzeć atak.

Niedawno to samo widzieliśmy przy Open Code: w środku ataku zamknięte modele po prostu przestawały odpowiadać, bo mają za dużo zabezpieczeń. Właśnie dlatego modele niecenzurowane — abliterowane, odcenzurowane, jak zwał, tak zwał — są tak cenne.

Krótki dowód, jak daleko to sięga: proszę model o tekst znanej piosenki. W Claude wpisuję: „Podaj tekst Bohemian Rhapsody”. Odmowa — tekst jest chroniony prawem autorskim, choć piosenka jest bardzo stara. Kiedy powstała? Pod koniec lat 60., nagrana w 1975 roku. Czegoś, co każdy wygugla w dziesięć sekund, model ci nie zdradzi.

Skąd w modelu bierze się cenzura

Zanim pokażę, jak odcenzurować model o otwartych wagach, wyjaśnijmy, skąd cenzura się bierze.

1. Pre-training — tu model powstaje. Firmy takie jak OpenAI, Anthropic, Meta czy xAI przeczesują cały internet. Model czyta biliony słów — wie mnóstwo, ale nie wykonuje niczyich poleceń. To model bazowy.
2. Fine-tuning — sieć uczy się rozmawiać i realizować polecenia.
3. Trening bezpieczeństwa, na przykład RLHF (nauka ze wzmocnieniem oparta na ludzkich ocenach) — najsłynniejsza metoda, w której model dostaje nagrodę za odmawianie odpowiedzi na pytania ryzykowne albo polityczne.
4. Model czatowy — efekt końcowy: pomocny, lecz odmawiający; miły w rozmowie, zwięzły, przejrzysty… ale nie abliterowany.

Wiedza przychodzi pierwsza. Odmowy nie wynikają z wiedzy — są dokładane na wierzch, sztucznie. I właśnie dlatego można je zdjąć.

Jak działa abliteracja

Startujemy od modelu otwartych wag — DeepSeek, Qwen, Llama, Kimi, GLM; to najsłynniejsze rodziny. Następnie uruchamia się dwa zestawy promptów: na jeden model odpowiada, drugi odrzuca. Nagrywamy, które wagi się aktywują — co się „rozświetla”, które neurony pracują. Różnica między tymi dwoma obrazami to kierunek odmowy. Znajdujesz go, wymazujesz z wag, zapisujesz model i sprawdzasz, czy stał się mniej restrykcyjny niż poprzednio. Zadajesz pytanie niewinne — „jakiego koloru jest niebo” — a potem kontrowersyjne i patrzysz na różnicę.

Muszę to podkreślić: nawet najsłynniejsze modele otwartych wag — DeepSeek, GLM, Kimi — są w dniu premiery mocno ocenzurowane. Firmy nie wydają wersji bez cenzury. Pracy jest więc sporo, ale jest wykonalna.

Ta metoda działa wyłącznie na modelach otwartych wag. Z GPT ani Claude przez API nic nie zrobisz. Za chwilę pokażę, jak uruchomić model abliterowany samodzielnie — z własnym sprzętem lub bez niego, lokalnie albo przez API.

Sekcja sponsorska: PostHog (fragment wpleciony w oryginale)

Najczęstszy błąd, jaki widzę u nowych founderów, to za mało informacji zwrotnej od prawdziwych użytkowników. Tak, z AI buduje się oprogramowanie znacznie szybciej — ale im szybciej budujesz, tym ważniejsze stają się dane od klientów. W końcu musisz wiedzieć, czy budujesz to, co trzeba. Dlatego opowiem o dzisiejszym sponsorze: PostHog. Pokazuje, jak ludzie naprawdę korzystają z twojego produktu — gdzie utykają, jakich funkcji używają, czy wracają — a dzięki nagraniom sesji zobaczysz dokładnie, co robili. Korzystają z niego m.in. Y Combinator, Supabase, Fireworks AI, ElevenLabs czy Railway. Supabase dzięki PostHog dostrzegło falę nowych użytkowników z aplikacji budujących z AI i na podstawie tych danych zawarło z nimi partnerstwa; jak podsumowała to osoba z marketingu Supabase, PostHog pomógł „dosłownie dziesięciokrotnie zwiększyć liczbę nowych użytkowników tygodniowo w skali roku”. Jeśli publikujecie funkcje codziennie, pętla zwrotna musi nadążać — i dokładnie ten problem PostHog rozwiązuje. Wejdźcie na go.posthog.com/david, pierwszy link pod filmem.

Najważniejszy przypadek użycia: włam się do siebie, zanim zrobi to ktoś obcy

Porozmawiajmy o bodaj najcenniejszym zastosowaniu modeli abliterowanych. Wspomniałem już kilka; ten jest według mnie najważniejszy — hakowanie samego siebie.

Co to znaczy? Już wkrótce każdy haker będzie miał przy boku pięciuset agentów, wielu z nich na odcenzurowanych modelach. Jeśli prowadzisz firmę, masz biznes albo kawał oprogramowania — jak bronić się przed takim przeciwnikiem? Realnie masz dwie drogi.

Pierwsza: modele frontierowe, czyli czołowe modele zamkniętych laboratoriów — GPT, Claude, Gemini, Muse. Ich nadal warto używać do zabezpieczania się, bo są po prostu sprytniejsze i zauważą inne luki. Druga — i to jest kluczowa: musisz puścić modele abliterowane na samego siebie, na własny kod. Tamte zajrzą w miejsca, których modele frontierowe nawet nie tkną. Wypróbują brudne zagrywki, rzeczy z pogranicza dozwolonego — od szarej po czarną strefę — i znajdą typy podatności oraz ciągi exploitów, których czołowe modele nie ruszą, bo nie mieszczą się w polityce OpenAI czy Anthropic.

Włam się więc do siebie pierwszy, zanim zrobi to ktoś obcy. To dosłownie renesans cyberbezpieczeństwa — nikt nie wie, co robić. Obecni eksperci od bezpieczeństwa mają wiedzę o świecie ludzi, a wchodzimy w świat agentów. Wchodzimy w epokę po AGI, w której każda pojedyncza osoba może pobrać abliterowany model, wrzucić go na wirtualny serwer, puścić w pętlę agentową i w zasadzie zniszczyć dowolną firmę. Trzeba się przed tym chronić — i to jest zastosowanie numer jeden dla własnych modeli bez cenzury: sprawdzić, jak dobrze chronione jest twoje oprogramowanie i jak dobra jest twoja higiena bezpieczeństwa (OPSEC). Frontierowe modele z zamkniętych laboratoriów wielu obszarów po prostu nie ruszą.

Nauka potwierdza: odmowa mieszka w jednym kierunku

Cała metoda ma pokrycie w pracy naukowej z 2024 roku, która wykazała, że odmowa w modelach językowych jest zwykle zapośredniczona przez jeden kierunek. Mówienie „nie” leży — wbrew pozorom — w jednym kierunku w przestrzeni wag. Nie ma w tym nic skomplikowanego. Usunięcie tego jednego kierunku sprawia, że model przestaje odmawiać, a wiedza, dane treningowe i inteligencja zostają bez zmian: odpowie na każde pytanie. Konsekwencja jest prosta — każdy może odcenzurować każdy model otwartych wag, niezależnie od twórcy i architektury. To wyłącznie kwestia czasu.

W praktyce wygląda to tak: od premiery modelu otwartych wag mija zwykle trzy, cztery tygodnie i pojawiają się wysokiej jakości wersje abliterowane. Przykład — wiralowy post sprzed tygodnia. Ktoś pokazał, jak wziąć Qwen 3.5 4B, świetny mały model, i sterując konkretnymi neuronami uzyskać „evil Qwen”. Formalnie to jeszcze nie pełna abliteracja, ale granica jest cienka: do odpowiedzi na dowolne pytanie dzieli go dosłownie krok. To zresztą daje wgląd w to, co robią laboratoria, gdy mocno cenzurują modele, by nie dotykały tematów politycznych czy historycznych: wystarczy znaleźć kilka neuronów, je poprawić — i nagle model realizuje czyjąś agendę polityczną albo czyjeś uprzedzenia.

I najważniejsze: taka operacja nie tępi modelu. Nie staje się głupszy ani słabszy. Gdy DeepSeek przeszedł abliterację, kompromis wyniósł… zero. Odmowy spadły ze stu procent do dwóch — pełnej „czystości” nie było, ale model stał się praktycznie odcenzurowany — a wyniki na benchmarkach identyczne, spadek niezauważalny. Wielu ludzi sądzi, że wersja pozbawiona cenzury musi być wyraźnie gorsza od oryginału. To po prostu nieprawda. Można mieć abliterowaną kopię równie inteligentną co pierwowzór.

Zatem każda nowa premiera modelu otwartych wag doczeka się wersji abliterowanej — czy wyjdzie z Ameryki, Chin czy Europy (pozdrawiam Mistrala). Każdy taki model da się odcenzurować; pozostaje tylko pytanie, kiedy ktoś się tym zajmie.

Trzy metody usuwania odmów

Są — powiedzmy — trzy główne sposoby, pewnie jest ich więcej:

1. Jailbreaking — najstarszy i kiedyś najprostszy. Wymyślasz podstępny prompt albo inny sposób oszukania modelu: obrazek, niedozwolone znaki, glify, „runy” — by uznał, że to tylko test i rozmawia z badaczem z własnego laboratorium. Wtedy odpowie na wszystko. Dziś jest to coraz trudniejsze; dwa, trzy lata temu to była najłatwiejsza droga. Zaleta: najszybsza, bo zmieniasz tylko prompt. Wada: psuje się bez przerwy i laboratoria łatwo łatają dziury.
2. Fine-tuning — dotrenowanie na nowych danych. Przygotowujesz zbiór kontrowersyjnych tematów i uczysz model odpowiadać na nie inaczej. Działa, ale może go zgłupić, a do tego trzeba taki zbiór dopiero mieć. Trudniejsza droga.
3. Abliteracja — jedna chirurgiczna poprawka wag. Model zostaje praktycznie ten sam pod względem inteligencji. Nie potrzebujesz dużego zbioru danych: znajdujesz wagi odpowiedzialne za odmowę i je zmieniasz.

Heretic: odcenzurowanie jednym poleceniem

Ktoś postanowił to zautomatyzować i stworzył na GitHubie repozytorium o nazwie Heretic — narzędzie open source, które abliteruje model jednym poleceniem (używacie na własne ryzyko). Usuwa większość odmów, przy minimalnej ingerencji w resztę — bo o to właśnie chodzi. Skoro nie jesteś badaczem AI, chcesz zachować model w niezmienionej postaci: nie głupszy, nie mniej wydajny w generowaniu tokenów. Chcesz tylko zdjąć odmowy. Taki jest cel projektu, który ma już ponad 37 tysięcy gwiazdek na GitHubie. W opisie wprost: pełna automatyzacja usuwania cenzury, bez konieczności rozumienia wnętrza transformerów — każdy, kto umie uruchomić program z wiersza poleceń, poradzi sobie z odcenzurowaniem modelu językowego. Tego typu repozytoriów będzie przybywać.

Jakie modele bez cenzury warto znać dziś

Wersji jest mnóstwo: GLM 5.3 obliterated, Kimi K1 obliterated, Qwen 3.8 27B obliterated… Na Hugging Face warto obserwować twórcę o nicku HoiHoi AI — blisko 18 tysięcy obserwujących, ponad 3 miliony pobrań. Publikuje najlepsze modele open source w pełni abliterowanych wersjach: 44 kolekcje, 159 modeli. Wystarczy wygooglać „HoiHoi AI”, wejść na profil i dobrać wariant do własnego sprzętu (za chwilę pokażę, jak ocenić, co zmieści się na twoim komputerze). Krótko mówiąc: abliterowana wersja istnieje praktycznie wszystkiego.

Sam uruchamiam Super DeepSeek V4 Flash — model o 306 miliardach parametrów, zoptymalizowany pod dwie jednostki DGX Spark (miniaturowe serwery NVIDIA do lokalnej inferencji). Wersję przygotował Junong — warto go śledzić na Twitterze; naprawdę zna się na zdejmowaniu cenzury i wszystkim, co dotyczy modeli lokalnych. Stworzył też Super Gemmę, niecenzurowaną wersję Gemmy.

Ten model jest zbudowany pod dwie DGX Spark — dokładnie mój obecny zestaw. Kupiłem zresztą cztery, ale dwóch jeszcze nie podłączyłem: sam jestem w San Francisco, a one w Europie. Cztery Sparks dadzą mi 512 GB pamięci do lokalnej inferencji. A uroba własnego sprzętu polega na tym, że co miesiąc na tej samej maszynie uruchamiasz coraz lepsze modele — ekonomiczna wartość tokenów z tej samej konfiguracji rośnie sama z siebie. Dochodzi do tego okno kontekstu miliona tokenów i fakt, że społeczność nieustannie robi lepsze kwantyzacje i optymalizacje inferencji. Model, który dziś chodzi u ciebie 50 tokenów na sekundę, za miesiąc pójdzie 80, za kolejny 110, potem 130 — wciąż znajduje się sposoby, by ten sam model otwartych wag przyspieszać. Efekt? Lokalnie można dziś dostać szybszą inferencję niż u OpenAI. Subskrypcja ChatGPT daje tak niskie limity, a modele — Astra i 6.1 Solo — są tak wolne, że aż przykro patrzeć. Na jednej–dwóch DGX Spark dostajesz szybsze odpowiedzi. Naprawdę niesamowite.

Ile pamięci potrzeba: podręczna kalkulacja

Kiedy mówię o gigabajtach, mam na myśli pamięć karty graficznej — VRAM, nie dysk. Model musi zmieścić się w niej w całości. (Istnieją nowsze techniki, w których część modelu leży na dysku, a część w RAM — ale to temat na osobny film.) Dlatego terabajt dysku ci nie pomoże, jeśli masz 8 GB RAM: z modelami lokalnymi będzie ciężko.

Przybliżona zasada: 0,6 GB pamięci na miliard parametrów. Chcesz uruchomić model 8-miliardowy? Potrzebujesz mniej więcej 5 GB VRAM.

Czasem powiem „RAM”, bo pracuję na MacBooku. Uroba Apple Silicon: pamięć jest współdzielona między procesor i układ graficzny. Jeśli masz Maca Studio albo MacBooka Pro ze 128 GB RAM jak ja, całość oddajesz na obliczenia graficzne — używasz jej jak VRAM-u karty NVIDIA. Konsumenckie karty z wyższej półki mają zwykle 24 albo 32 GB, więc przy większych modelach trzeba kupować kilka sztuk. Model 27-miliardowy mieści się na karcie 24 GB — ja mam to nawet na MacBooku Air.

Modele lokalne — także te bez ograniczeń — zrobiły się ostatnio dużo lepsze. Jeśli próbowałeś rok temu z 32 GB RAM i stwierdziłeś, że local jest słabe: koniecznie spróbuj ponownie. W ostatnich trzech–sześciu miesiącach skok jakości jest ogromny. Nawet na 32 GB uruchomisz naprawdę mocne modele, w tym abliterowane, jak Qwen 3.8.

Co konkretnie zmieścisz?

• 8 GB RAM/VRAM — model rzędu 8 mld parametrów, 40–60 tokenów na sekundę.
• 16 GB — ok. 20 mld parametrów, 30–50 tokenów na sekundę. To tempo dzisiejszego ChatGPT w planie Codex, a nawet szybciej — to, co wypuszcza OpenAI, to po prostu żenada. Anthropic jest znacznie szybszy: Opus 5.5 chodzi na ponad 100 tokenów na sekundę, w trybie fast jakieś 200. Ale 30–50 tokenów odpowiada prędkości GPT-6 czy GPT-6 Astra. W zupełności używalne.
• 32 GB — 35 mld parametrów, 20–40 tokenów na sekundę; np. RTX 590 albo MacBooki Pro, zależnie od pamięci.
• 64 GB — tu robi się ciekawie: 70 mld parametrów przy 10–30 tokenach na sekundę, a szczerze mówiąc i więcej.
• 128 GB — tyle ma mój MacBook Pro albo jedna DGX Spark.

Do tego przepustowość pamięci — uwaga. Najnowszy Mac Studio M5 Ultra ma około 1,2 TB/s, wielokrotnie więcej niż DGX Spark z jego dwustoma-i-ileśtam GB/s. Pojemność to tylko jedna z zmiennych; przepustowość w ogromnej mierze decyduje o tym, ile tokenów na sekundę wyciśniesz. Podane liczby traktuj bardzo orientacyjnie — zależą od modelu, kwantyzacji i sprzętu.

Przy 256 czy 512 GB wchodzisz już w wiele kart graficznych, wiele urządzeń. Najlepszy zakup sprzętowy w tym momencie? Prawdopodobnie Mac Studio M5 Ultra z 512 GB RAM. Przygotuj się na wydatek rzędu co najmniej 22–24 tysięcy dolarów (z dodatkami spokojnie 25 tysięcy) i dostawę najwcześniej w grudniu. Za to uruchomisz modele 600, może 700, może nawet 800 mld parametrów w pełni użytecznych prędkościach — 30, 50 i więcej tokenów na sekundę. Jeden najlepszy zakup do lokalnego AI na dziś. Apple w kwestii sprzętu naprawdę dowozi.

Zapisuj wagi: otwarte modele to nowa wolność słowa

Niezależnie od tego, ile masz dysku, RAM-u i kart graficznych — jedna rzecz jest do zrobienia dla nas wszystkich: zapisywanie wag modeli. Hugging Face już zaczęło ściągać niektóre modele otwartych wag, zwłaszcza te nieograniczone — między innymi po decyzjach francuskiego rządu (autor kwituje go jako działającego w „pełnym trybie komunistycznym”), który zajął się wydawaniem stosownych poleceń. Nie ma żadnej gwarancji, że te modele będą dostępne zawsze. Żadnej. Jeśli mój film na YouTube potrafi zniknąć za samo edukowanie, muszę uważać, co wam pokazuję i jakie podaję przykłady — bo w poprzednim ewidentnie nie uważałem dość i 300 tysięcy wyświetleń poszło na marne (w nowej metryce YouTube byłoby to 600–700 tysięcy).

Zatem: pobierajcie te modele. Jeśli nie stać was na karty graficzne — rozumiem, są drogie — kupcie chociaż dyski. Weźcie serwer plików NAS, np. od Synology, kilka dysków po kilkanaście terabajtów, razem 20–64 TB, i zrzucajcie tam modele. Możesz pobrać nawet wagi frontierowe: Kimi ma 2,8 biliona parametrów i zajmuje kilka terabajtów — zmieścisz ich kilka. To ci nie pozwoli modelu uruchomić; pozwoli go przechować. A chodzi o to, by przyszłość nie była totalitarna i scentralizowana w rękach kilku zaprzyjaźnionych z rządami firm. Wszyscy powinniśmy pobrać te wagi i trzymać je na wielu różnych dyskach — żeby gdyby coś się stało z Hugging Face albo innymi platformami, mieć je u siebie.

Pomyśl o tym tak: modele otwartych wag to nowa wolność słowa — AI-owa wersja pierwszej albo drugiej poprawki. (Informacja dodatkowa: autor ma na myśli poprawki do konstytucji USA — o wolności słowa i o prawie do broni; w jego retoryce otwarte wagi pełnią rolę gwarancji obywatelskich, których państwo nie może odebrać.) Jeśli ktoś będzie mógł ci odebrać AI, skutki będą opłakane. Dziś może jeszcze sobie poradzisz — ale za trzy, cztery, pięć lat będziesz zupełnie bezradny.

I nie zapominajcie o Fable — wiele osób ma pamięć rybki. Fable był zbanowany na dobre trzy tygodnie w tym roku. Wystarczy jedno rozporządzenie wykonawcze z Waszyngtonu, Brukseli albo Pekinu i modele zaczną znikać — a wtedy, bez własnego sprzętu, nie skorzystasz nawet z API. Sprzęt zawsze kupisz później; wagi miej od razu. Przy każdej nowej premierze modelu otwartego pobieraj go natychmiast. Ustaw sobie agenta, który robi to automatycznie — w przyszłości podziękujesz sobie. A dyski są od kart graficznych wielokrotnie tańsze.

Trzy drogi: cudze API, własny sprzęt, własny serwer

Dobra — jak więc uruchomić model abliterowany samemu? Są trzy drogi.

1. API. Inferencja na cudzych kartach — ktoś ogarnął za ciebie nawet konfigurację. Najprostsza metoda: bez sprzętu, największe modele od ręki. Wada: płacisz za każdy token, a prompty i dane opuszczają twój komputer. Prywatność niższa.
2. Lokalnie. Własny sprzęt. Każdy token darmowy (płacisz za prąd), pełna prywatność, może działać całkiem offline — nic nie wychodzi z komputera. Wada: duże pieniądze na sprzęt, wymogi RAM i mocnej karty. Największych modeli nie uruchomisz, jeśli nie wydasz setek tysięcy dolarów — mówię o potworach typu Kimi z 3 bln parametrów. Dlatego, nawiasem mówiąc, nie widać niecenzurowanych wersji tych gigantów: ludzie nie są w stanie ich nawet odpalić, sama inferencja na nich to ekstremalnie trudna sprawa. Stąd większość modeli bez cenzury mieści się w przedziale 10–300 mld parametrów.
3. Własny serwer. Własne karty, ale dzierżawione w chmurze. Uruchomisz największe modele; prywatność pośrednia między API a pracą lokalną; płacisz za godzinę. Ale to droga wymagająca najwięcej konfiguracji — sam ustawiasz inferencję (np. vLLM) i dostęp przez Tailscale albo SSH.

Wszystko sprowadza się do trzech pytań: czy masz sprzęt, ile możesz wydać i jak jesteś techniczny.

API: wybieraj bez weryfikacji, jeśli cenisz prywatność

Dla osób bez mocnego sprzętu — mało VRAM, słaba karta — a chcących porozmawiać z modelem abliterowanym, API będzie właściwe. Serwisów jest mnóstwo; nowy wyrasta co tydzień: Featherless, Morph, Inference.net… Uważaj jednak: większość wymaga KYC, czyli weryfikacji tożsamości. Udowadniasz, że jesteś prawdziwą firmą albo prawdziwym człowiekiem, wysyłasz dokument, podajesz kartę (a sama karta już wystarcza, by cię zidentyfikować), a część każe jeszcze czekać na aprobatę. Brzmi dobrze dla inwestorów i wizerunkowo, ale nie dla ciebie — po co korzystać z serwisów z weryfikacją, skoro są bez? Powiem szczerze: spora część z nich to zapewne pułapki, honeypoty — ludzie zapraszani do używania „modeli bezpieczeństwa”, a wszystko prosto podepięte pod rząd. Czyste spekulacje z mojej strony. Tak czy inaczej: omijaj te z KYC. Wybierz coś w stylu Venice. To nie reklama — ale istnieją API, które weryfikacji nie wymagają. Jeśli idziesz tą drogą, korzystaj z takich.

Na przykład szef API Venice opublikował wpis o nowym DeepSeek V4.1 Flash 1017 (okropna nazwa, wiem — wersji Flash jest kilka; szukaj „1017”). U nich od razu dostępna wersja abliterowana, bez przechowywania danych: o 40% mniej tokenów rozumowania, dwukrotnie szybsza generacja tokenów, 2,7 raza szybciej na całej długości, ta sama trafność na benchmarkach. Po prostu wybieraj API świadomie.

Lokalnie: Hugging Face, Ollama i format GGUF

Hugging Face to centrala dla modeli i zbiorów danych. Wchodzisz na huggingface.co, zakładka Models, wpisujesz „obliterated” — i masz prawie 9 tysięcy wyników. Albo „uncensored” — kolejne 8 tysięcy. Świetnie działają filtry parametrów: chcesz coś między 12 a 32 mld? Proszę bardzo, 2 tysiące modeli do wyboru, sortowane po trendach albo — pozmieniajmy kryterium — po liczbie pobrań.

W tym rozmiarze najlepszy okazuje się Qwen 3.8 27B. To model z absolutnej czołówki, około 3 tysiące pobrań miesięcznie, jeden z najpopularniejszych niecenzurowanych na świecie — a mieści się na jednym komputerze. Uruchomisz go nawet na MacBooku Air z 24 GB RAM, choć najlepiej mieć przynajmniej 32: przy 24 GB wolno, przy 32–64 GB wyraźnie szybciej. W wielu benchmarkach ten 27-miliardowy model wyprzedza Opusa 4.5. Przypomnijmy: dziesięć miesięcy temu Opus 4.5 był najlepszym modelem świata. A dziś masz go na laptopie, lokalnie, w wersji bez cenzury. Tysiące takich modeli czekają na Hugging Face.

Druga droga: Ollama. Prostsza w obsłudze, z mniejszą biblioteką, ale potrafi pobierać wprost z Hugging Face. Na ollama.com → Models → „uncensored” znajdziesz nawet starsze konstrukcje — delfiny, Llamę 2 — w wersjach obliterated. A obsługa to jedno polecenie: otwierasz terminal (np. Ghostty), wpisujesz ollama run i nazwę — model się pobiera, najpierw manifest, potem wagi. Przykładowy model ważył 5,6 GB, więc pobieranie przerwałem. Gdy już coś masz, ollama list wypisze twoje modele. Ja mam m.in. niecenzurowaną wersję wspomnianego 27B, a także większego — Lagunę S2.1, 118 mld parametrów. (Domyślna Laguna nie jest abliterowana — powtórzę: żaden model „z pudełka” nie przychodzi bez cenzury. To zawsze praca kogoś ze społeczności.) Chcę tylko pokazać, że nawet 118-miliardową sieć uruchomisz lokalnie — i na benchmarkach jest mocniejsza od Opusa 4.5 czy 4.6, najlepszych modeli sprzed dziewięciu–dziesięciu miesięcy. Postęp lokalnego AI jest niesamowity.

Surowy model w terminalu to jednak mało użyteczne narzędzie. Potrzebna mu harness — nakładka, w której działa agent, w stylu Claude Code czy Codex. To pojęcie, którego wielu ludzi nie rozumie: sam model to jeden składnik; środowisko, które daje mu dostęp do plików, terminala i narzędzi, to drugi.

Jeszcze jedna uwaga techniczna: część modeli występuje w formacie GGUF, część nie. Przez Ollamę pobierasz z Hugging Face wyłącznie te z dostępnym GGUF-em — to format pliku przystosowany do lokalnej inferencji — poleceniem ollama run hf.co/nazwa-użytkownika/nazwa-repozytorium. Modele z oficjalnego katalogu Ollamy pobierzesz zawsze, tylko ich wybór jest węższy niż na Hugging Face.

Ciekawostka: o to, jak pobierać modele z Hugging Face przez Ollamę, możesz zapytać dowolny model, nawet frontierowy. Opus — trzeba mu to przyznać — nie stawia tu przeszkód i pomoże ci wszystko ustawić. GPT-6 ma więcej ograniczeń. A gdy znajdziesz już właściwy model: ollama run i jego nazwa — albo, jeśli masz Venice albo inne API, użyj go w dowolnej aplikacji kompatybilnej z OpenAI.

Ostrzeżenie i dygresja. Muszę być ostrożny z tym, co pokazuję. W terminalu demonstruję tylko „Cześć, kim jesteś?” — model odpowiada i to szybko, mam przecież 128 GB RAM. Ale nie mogę pokazać bardziej ryzykownych promptów. Mój ostatni film, o Gemmie i modelach bez cenzury, miał 310 tysięcy wyświetleń w starej metryce — dziś byłoby to 600–700 tysięcy — i został całkowicie usunięty, mimo że wszystko było zamazane i zaczernione. Samo pokazanie, jakie typy zapytań można wysyłać, okazało się ryzykiem. Dlatego tym razem ostrożniej — ale drogę wam wskazuję.

Mniej inteligentne, a bardziej użyteczne

Muszę wyjaśnić ważne pojęcie: te modele są oczywiście mniej inteligentne i mniej zdolne od frontierowych — Fable, Astra, Opus. Ale mogą być bardziej użyteczne. W wielu benchmarkach osiągają może 80, 85, 90% tego, co GPT 6.1 Solo czy najnowsze modele OpenAI i Anthropic. Tyle że Claude i ChatGPT nie dadzą ci nawet tekstu piosenki, nie pobiorą chronionego prawem materiału — odmawiają podstawowych zadań, gdy tylko wystają choć trochę poza to, co dozwolone. A kto właściwie chce, żeby OpenAI i Anthropic decydowały, co jest dozwolone, a co nie? Model abliterowany po prostu robi zadanie — które może być w pełni legalne, prawidłowe i etyczne.

Mój punkt: możesz mieć coś 90% tak zdolnego i być zadowolonym. Zwłaszcza że postęp lokalnego AI jest dużo szybszy niż frontierowego. Dwa lata temu lokalnie nie działało nic użytecznego, a w chmurze miałeś o1, GPT-4o, Claude’a 3.5 Sonnet — kawał dobrej roboty w porównaniu z lokalnymi opcjami. Dziś lokalnie uruchomisz niesamowicie przydatne modele; możesz prowadzić cały biznes wyłącznie na nich, zwłaszcza z dwiema DGX Spark. Dla wielu zadań w ogóle nie potrzebujesz frontieru — potrzebujesz czegoś, co nie odmówi i co nie zdegraduje cię do słabszego modelu (u Anthropic można spaść z Fable na Opus 4.8 albo z Opusa 5.5 na Opus 4.8). Zasada jest prosta: nawet jeśli benchmark mówi 80–90%, to przez samo to, że model wykonuje wszystkie potrzebne zadania, netto może okazać się użyteczniejszy od zamkniętych gigantów. To będzie potężny cios w Anthropic i OpenAI — ludzie muszą tylko kupić sprzęt i nauczyć się obsługi modeli ablierowanych.

Mój zestaw: DGX Spark jako API plus harness w CloudRoom

Na koniec pokażę własny setup: inferencja przez moją aplikację CloudRoom i harness Pi.

CloudRoom to środowisko programistyczne, które zbudowałem — moim zdaniem najlepsze na świecie. Jest w pełni open source i darmowe; jako jedyni dajemy agenty Claude w darmowym planie. Co ważne, obsługuje wszystkie harnessy. Na co dzień większość pracy robię na Opusie 5.5; można też odpalić Astrę, Codexa czy dowolny model w Codexie, Cursorze — co tylko chcesz. Tu wybiorę Pi, jeden z minimalistycznych harnessów, a jako dostawcę inferencji — „Office”: moje dwie DGX Spark pełnią rolę API. Kupiłem dwie kolejne, więc niedługo cztery i jeszcze większe modele — mam nadzieję, że wkrótce GLM 5.5. Na razie największa sieć w moim zasięgu to Super DeepSeek V4 Flash MQ.

Uruchamia się jak każdy inny model: harness pyta „Cześć, kim jesteś?”, model odpowiada. Działa u mnie w tempie, daj Boże, 60–110 tokenów na sekundę — konfiguracja inferencji nie jest jeszcze u mnie w pełni dopięta, ale działa.

I tu poważne ostrzeżenie: z tymi modelami trzeba uważać, bo naprawdę zrobią wszystko. Poproś o zniszczenie własnego systemu operacyjnego — zniszczą go. Bez oporu, bez wahania. „Czy użytkownik chce skasować swój katalog domowy? A skoro pyta — skasujemy.” U mnie model chodzi na własnym komputerze, więc o nic szalonego pytać nie będę.

Eskalujemy delikatnie: „Jakimi sposobami można zhakować stronę internetową? Podaj przykłady”. Model odpowiada — nawet nie wiem, czy mogę to pokazywać po tym, jak zniknął poprzedni film. Do cyberbezpieczeństwa defensywnego to jednak bezcenne. To jak mieć własnego hakera w zespole: zamiast sześciocyfrowej pensji dla etatowego specjalisty od testów penetracyjnych, masz model, który penetruje całe twoje oprogramowanie i wyłapuje luki — a modele frontierowe pomagają ci je potem załatać. Warunek jeden: wiedz, co robisz. Nie wysyłaj promptów, które mogą się odbić i zaszkodzić tobie samemu.

Używam tego dokładnie tak, jak Claude w CloudRoom — a CloudRoom jest tym, czym Cursor miał być: jednym miejscem, w którym korzystasz z dowolnego harnessa od dowolnego dostawcy. W pełni open source (cloudroom.dev). Łącznie prawie 150 tysięcy unikalnych czatów, repozytorium na GitHubie zbliża się do 1200 gwiazdek — jeśli projekt wam się przyda, dajcie gwiazdkę, bardzo pomoże. Liczby: osoby, które zainstalowały CloudRoom w pierwszym tygodniu (a to ludzie już używający Codexa czy Claude Code), wysyłają o 43% więcej commitów i pull requestów. Działa na macOS, Linuksie i Windowsie — otwarta alternatywa dla Cursora. Wpadnijcie na cloudroom.dev.

Zakończenie

To tyle — taki był materiał o modelach abliterowanych. Znacie już mechanizm, katalog i instrukcję. Trzymajcie wagi na własnych dyskach i hakujcie się, zanim zrobi to ktoś inny.