Moderator wpisuje prompt, model decyduje o usunięciu posta lub banie: ryzyko automatycznej moderacji LLM na Reddicie

Moderator nie musi już pisać dziesiątek wyrażeń regularnych, list zakazanych słów i wyjątków dla AutoModeratora. W nowym modelu wystarczy reguła zapisana normalnym językiem: „usuwaj komentarze atakujące rozmówcę, ale nie usuwaj krytyki jego argumentów”. LLM interpretuje intencję reguły, ocenia konkretny post lub komentarz i może uruchomić przypisaną wcześniej akcję.

To nie jest już czysto hipotetyczny scenariusz. Reddit rozwija Rules Hub, w którym modele językowe mają oceniać, czy treść odpowiada intencji reguły społeczności. Moderator wybiera następnie reakcję na wykryte naruszenie: skierowanie treści do kolejki, filtrowanie albo usunięcie. W sierpniu 2026 r. Reddit informował, że rozwiązanie było testowane przez moderatorów ponad 700 społeczności, a później ma być szerzej udostępniane.

Trzeba jednak oddzielić dwie rzeczy. Reddit potwierdza automatyczne usuwanie treści oraz możliwość nakładania przez moderatorów automatycznych i ręcznych banów, ale nie opisuje obecnego Rules Hub jako systemu, w którym LLM sam podejmuje decyzję: „ten użytkownik dostaje bana”. To istotne rozróżnienie. Automatyczne usunięcie pojedynczego komentarza jest ryzykowne. Automatyczne przekształcenie interpretacji modelu w karę dla konta jest ryzykowne znacznie bardziej.

LLM rozumie regułę lepiej niż regex. To jednocześnie jego największa zaleta i wada

Klasyczny AutoModerator działa przewidywalnie. Jeżeli reguła mówi, że komentarz zawierający określone słowo ma trafić do kolejki, administrator może stosunkowo łatwo ustalić, dlaczego dana treść została przechwycona. System jest toporny, ale jego toporność jest widoczna.

LLM działa inaczej. Nie szuka wyłącznie słów. Próbuje określić znaczenie wypowiedzi, kontekst i intencję. Dzięki temu potrafi wychwycić komentarz obraźliwy bez użycia słów znajdujących się na czarnej liście. Może również prawidłowo przepuścić zdanie zawierające przekleństwo, jeżeli nie jest ono skierowane przeciwko rozmówcy.

Przy dużych społecznościach różnica jest ogromna. Reddit podawał w sierpniu 2026 r., że platformę odwiedza codziennie ponad 130 mln osób, działających w przeszło 100 tys. społeczności. W drugiej połowie 2025 r. użytkownicy opublikowali ponad 2,21 mld postów i komentarzy, a 154,2 mln postów i komentarzy zostało usuniętych. Skala praktycznie wymusza automatyzację.

Problem zaczyna się wtedy, gdy moderator traktuje model jak człowieka czytającego regulamin, a nie jak probabilistyczny system klasyfikacyjny.

Weźmy regułę:

Usuń treści zawierające osobiste ataki na innych użytkowników.

Na pierwszy rzut oka wygląda rozsądnie. W praktyce model musi sam rozstrzygnąć kilkanaście nieopisanych przypadków:

• czy „ten pomysł jest idiotyczny” jest atakiem na osobę;

• czy cytowanie cudzego obraźliwego komentarza jest naruszeniem;

• czy „ale z ciebie ekspert” jest ironią;

• czy opisanie polityka jako „oszusta” jest atakiem osobistym, opinią czy odniesieniem do konkretnego zarzutu;

• czy wulgarne określenie dotyczy rozmówcy, grupy ludzi czy sytuacji;

• czy użytkownik cytuje nagłówek artykułu;

• czy komentarz po polsku z angielskim slangiem ma być interpretowany według tych samych reguł co wypowiedź angielska.

To są właśnie przypadki, w których prompt moderatora staje się de facto fragmentem regulaminu wykonywanym przez model.

Słabo napisana instrukcja potrafi więc zrobić więcej szkody niż źle napisany regex. Regex zwykle łapie za dużo albo za mało według widocznego schematu. Model może popełniać błędy semantyczne, których na pierwszy rzut oka nie da się odtworzyć.

Dochodzi również prompt injection. Jeżeli architektura przekazuje do modelu instrukcję moderatora razem z treścią użytkownika bez odpowiedniej separacji i zabezpieczeń, post może zawierać tekst próbujący wpłynąć na klasyfikację, np. instrukcję nakazującą ignorować wcześniejsze reguły. Dobrze zbudowany system powinien traktować moderowaną treść jako dane, nie instrukcje. Moderator korzystający z gotowej funkcji Reddita nie kontroluje jednak całego stosu technicznego i musi polegać na zabezpieczeniach platformy.

Najgorsza konfiguracja wygląda więc prosto: nieprecyzyjna reguła + automatyczne usuwanie + brak kontroli przypadków granicznych.

Usunięcie posta i ban nie powinny mieć tego samego progu automatyzacji

Dane Reddita dobrze pokazują, dlaczego administratorzy chcą automatyzować moderację. W drugiej połowie 2025 r. 68,6 proc. usunięć wykonywanych przez moderatorów obsłużyły systemy automatyczne, takie jak AutoModerator. Reddit rozwija jednocześnie filtry wykrywające m.in. nękanie, obchodzenie banów, spam czy konta o niskiej reputacji.

Automatyzacja sama w sobie nie jest więc nowością. Zmienia się sposób podejmowania decyzji. Zamiast warunku „tekst zawiera X” pojawia się warunek „model uznał, że tekst realizuje znaczenie reguły Y”.

I właśnie tutaj trzeba wprowadzić hierarchię sankcji.

Dla reguły dotyczącej niewłaściwego formatu posta rozsądne jest automatyczne usunięcie wpisu z możliwością jego ponownego opublikowania. Dla podejrzenia spamu można zastosować filtr i kolejkę. Przy zarzucie nękania, mowie nienawiści albo manipulacji politycznej skutki błędu są już znacznie poważniejsze.

Ban konta powinien mieć wyższy próg niż usunięcie pojedynczej treści.

Dobra konfiguracja produkcyjna powinna rozdzielać przynajmniej trzy poziomy:

1. Niskie ryzyko – błędny flair, niewłaściwy format tytułu, pytanie w złym wątku. Automatyczna reakcja jest zwykle akceptowalna.

2. Średnie ryzyko – reklama, spam, powtarzanie tych samych treści, łamanie zasad tematycznych. Model może filtrować materiał, ale przypadki niejednoznaczne powinny trafiać do kolejki.

3. Wysokie ryzyko – nękanie, groźby, dyskryminacja, oszustwo, zarzut obchodzenia bana albo decyzja prowadząca do długiej lub permanentnej blokady użytkownika. Tu sam wynik klasyfikatora LLM nie powinien wystarczać.

To nie jest wyłącznie kwestia jakości moderacji. W Unii Europejskiej działa Digital Services Act. Jeżeli platforma ogranicza widoczność treści, usuwa ją, zawiesza usługę albo zamyka konto z powodu nielegalności treści lub naruszenia warunków korzystania, użytkownik powinien otrzymać jasne i konkretne uzasadnienie. Informacja obejmuje również to, czy decyzja została podjęta przy użyciu środków automatycznych.

DSA wymaga też od platform internetowych mechanizmu bezpłatnego odwołania. Użytkownik ma mieć możliwość złożenia skargi przez co najmniej sześć miesięcy od decyzji, a rozstrzygnięcie skargi nie może opierać się wyłącznie na automatyzacji — musi odbywać się pod nadzorem odpowiednio wykwalifikowanego personelu.

W praktyce prowadzi to do bardzo konkretnego wniosku: system, który potrafi błyskawicznie usunąć komentarz, ale nie zapisuje jaką regułę zastosował, jaki był powód klasyfikacji, jaka sankcja została wykonana i co stało się po odwołaniu, jest źle zaprojektowany operacyjnie.

Problematyczna jest również zmienność modeli. Nawet przy identycznym promptcie zachowanie może zmienić się po aktualizacji modelu, zmianie warstwy bezpieczeństwa albo przebudowie systemu moderacji. Moderator, który sprawdził regułę w maju, nie powinien zakładać, że w sierpniu klasyfikator zachowuje się identycznie.

Dlatego przy sankcjach wobec konta potrzebny jest log decyzji. Minimum to:

• wersja reguły obowiązującej w momencie decyzji;

• treść poddana analizie;

• typ wykrytego naruszenia;

• wykonana akcja;

• data i godzina;

• informacja, czy decyzję podjął automat, moderator czy oba mechanizmy;

• wynik odwołania;

• informacja o cofnięciu sankcji.

Bez tego po miesiącu trudno stwierdzić, czy użytkownik rzeczywiście wielokrotnie naruszał regulamin, czy kilka razy trafił na tę samą źle skonfigurowaną automatyzację.

Jak wdrożyć moderację LLM, żeby model nie został niewidzialnym administratorem

Największy błąd nie polega na zastosowaniu LLM. Polega na podłączeniu modelu bezpośrednio do sankcji przed sprawdzeniem jego zachowania na rzeczywistych danych społeczności.

Pierwszy etap powinien działać w trybie obserwacyjnym. Model klasyfikuje komentarze, ale niczego nie usuwa. Moderatorzy porównują jego decyzje z własnymi ocenami.

Dla małego lub średniego subreddita sensownym punktem startowym jest ręcznie oznaczony zestaw około 500–1000 rzeczywistych postów i komentarzy. Nie powinny to być wyłącznie oczywiste naruszenia. Najbardziej wartościowe są przypadki graniczne:

• cytaty zawierające obraźliwe słowa;

• sarkazm i ironia;

• dyskusje polityczne;

• wypowiedzi o osobach publicznych;

• wulgaryzmy bez ataku na rozmówcę;

• komentarze napisane mieszaniną polskiego i angielskiego;

• slang;

• celowe literówki;

• komentarze zgłoszone przez użytkowników, ale pozostawione przez moderatora;

• wpisy wcześniej usunięte, a następnie przywrócone po odwołaniu.

Dla polskojęzycznej społeczności test wykonany głównie na przykładach angielskich jest mało użyteczny. Polski ma fleksję, zdrobnienia, formy ironiczne i bardzo swobodne przekształcanie przekleństw. „Ty debilu”, „debilny pomysł” i cytat „napisał do mnie: ty debilu” zawierają podobne tokeny, ale powinny prowadzić do trzech różnych ocen.

Nie należy przy tym patrzeć wyłącznie na ogólną „skuteczność” modelu. Wynik typu 95 proc. accuracy potrafi wyglądać świetnie i być bezużyteczny. Jeżeli 95 proc. komentarzy jest zgodnych z zasadami, classifier oznaczający wszystko jako dozwolone również osiągnie 95 proc.

Moderator powinien oddzielnie mierzyć:

Precision – ile treści oznaczonych przez model jako naruszenie rzeczywiście nim było.
Recall – ile wszystkich rzeczywistych naruszeń model znalazł.

Przy automatycznym usuwaniu bardziej boli niski precision, bo oznacza falę false positives, czyli legalnych treści usuwanych jako naruszenia. Przy systemie działającym wyłącznie jako filtr do kolejki można tolerować niższy precision w zamian za wyższy recall, ponieważ ostateczną decyzję i tak podejmuje człowiek.

W praktyce reguła kwalifikująca treść bezpośrednio do usunięcia powinna przejść surowszy test niż reguła wysyłająca ją do kolejki. Jeżeli podczas testu na 100 oznaczonych naruszeń moderator musi przywrócić kilkanaście legalnych komentarzy, nie należy zwiększać automatyzacji. Najpierw trzeba poprawić regułę albo obniżyć dotkliwość akcji.

Szczególnie źle działa prompt w rodzaju:

Usuwaj toksyczne komentarze.

„Toksyczny” nie jest kryterium operacyjnym. Lepsza reguła opisuje zachowanie:

Oznacz komentarz jako naruszenie tylko wtedy, gdy zawiera bezpośrednią obelgę, poniżenie lub wrogie określenie skierowane do konkretnego uczestnika dyskusji. Nie oznaczaj krytyki argumentu, krytyki osoby publicznej opisującej jej działania ani cytatu przytoczonego w celu omówienia wcześniejszej wypowiedzi.

To nadal nie daje stuprocentowej poprawności. Daje jednak moderatorowi punkt zaczepienia: wiadomo, co dokładnie należy testować.

Drugi problem to automatyczna eskalacja kar. System nie powinien działać według schematu: trzy decyzje LLM o naruszeniu = permanentny ban. Jeśli klasyfikator ma 5 proc. fałszywych alarmów, kolejne automatyczne sankcje kumulują jego błędy.

Bezpieczniejsza ścieżka wygląda tak:

LLM → oznaczenie naruszenia → usunięcie lub kolejka → zapis historii → człowiek ocenia eskalację do bana.

Dopiero w bardzo jednoznacznych kategoriach, takich jak powtarzalny spam lub technicznie wykrywane obchodzenie blokady, można rozważać dalej idącą automatyzację. Nawet wtedy trzeba zachować procedurę odwołania i możliwość cofnięcia błędnej sankcji.

To podejście ma minus: moderator nadal musi pracować. LLM nie usuwa całej kolejki, a system hybrydowy jest bardziej złożony niż przycisk „automatycznie usuń”. Tyle że właśnie ta niedogodność jest zabezpieczeniem. Jeśli pojedynczy błąd może pozbawić użytkownika dostępu do dużej społeczności, kilka minut ludzkiej kontroli jest tańsze niż seria błędnych banów i ręczne rozpatrywanie odwołań.

FAQ

Czy Reddit rzeczywiście używa LLM do moderacji?
Tak. Reddit wykorzystuje modele językowe we własnych systemach bezpieczeństwa, a w 2026 r. rozwija Rules Hub, w którym LLM ocenia, czy post lub komentarz odpowiada intencji reguły zapisanej przez moderatorów. Reddit stosuje też modele do wykrywania m.in. spamu, nadużyć i szkodliwych treści.

Czy Rules Hub może automatycznie usunąć post?
Tak. Moderator może określić reakcję uruchamianą po wykryciu reguły, w tym skierowanie treści do kolejki, filtrowanie albo usunięcie.

Czy LLM w Rules Hub sam nakłada bana na użytkownika?
Reddit nie opisuje obecnego Rules Hub w taki sposób. Moderatorzy mogą stosować bany ręcznie i za pomocą narzędzi automatycznych, ale nie należy utożsamiać tego z potwierdzoną funkcją „LLM uznał naruszenie, więc sam nadał permanentnego bana”.

Czy automatyczna decyzja moderacyjna jest w UE dozwolona?
Automatyzacja moderacji nie jest sama w sobie zakazana. DSA nakłada jednak obowiązki dotyczące przejrzystości decyzji, uzasadnienia ograniczeń oraz systemu odwoławczego. Rozstrzygnięcie odwołania nie może bazować wyłącznie na automatycznych środkach.

Jak długo użytkownik powinien mieć możliwość złożenia odwołania według DSA?
Platforma internetowa objęta tym obowiązkiem powinna udostępniać wewnętrzny system składania skarg przez co najmniej sześć miesięcy od decyzji. Złożenie skargi ma być elektroniczne i bezpłatne.

Czy 95 proc. poprawności modelu wystarczy do automatycznego banowania?
Nie. Sama accuracy niewiele mówi, zwłaszcza gdy większość treści nie łamie regulaminu. Przy dotkliwych sankcjach trzeba osobno sprawdzać false positives, precision, recall oraz wyniki dla przypadków granicznych. Permanentnego bana nie należy opierać na jednym nieprzejrzystym wyniku klasyfikatora.

Od czego zacząć przy wdrażaniu takiego systemu?
Nie od automatycznego usuwania i nie od banów. Najpierw uruchom regułę bez wykonywania sankcji na kilkuset rzeczywistych komentarzach, oznacz ręcznie przypadki graniczne i policz odsetek legalnych treści błędnie uznanych za naruszenie. Jeżeli masz poprawić tylko jedną rzecz, popraw najpierw prompt, który używa nieostrych pojęć typu „toksyczny”, „agresywny” albo „nieodpowiedni”. Dopiero gdy reguła opisuje konkretne zachowania i przechodzi test na lokalnym, polskojęzycznym materiale, można włączyć automatyczne filtrowanie. Ban konta zostaw jako osobną, surowszą decyzję wymagającą kontroli człowieka.

Więcej na ten temat na stronie: https://gagadu.pl