Awaria moderacji na Discordzie: algorytm zablokował tysiące niewinnych użytkowników

Popularna platforma komunikacyjna Discord przyznała się do błędu w swoich systemach bezpieczeństwa opartych na sztucznej inteligencji. W wyniku usterki tysiące osób straciło dostęp do swoich kont bez wyraźnego powodu.

Mechanizm błędu i problematyczne grafiki rastrowe

Systemy bezpieczeństwa Discorda od maja 2026 roku błędnie identyfikowały nieszkodliwe obrazy jako materiały naruszające prawo. Główną przyczyną problemów były grafiki zawierające wzory siatki, takie jak szachownice, arkusze kalkulacyjne czy ekrany ekwipunku z gry Minecraft. Algorytmy oparte na dopasowywaniu wzorców uznały te proste obiekty za podejrzane, ponieważ podobne układy bywają wykorzystywane przez przestępców do ukrywania niedozwolonych treści.

Zamiast jedynie wstrzymać przesyłanie plików do czasu weryfikacji przez człowieka, błąd w oprogramowaniu powodował natychmiastowe i trwałe blokowanie kont. Kolejna usterka sprawiała, że blokady nie były automatycznie zdejmowane nawet po ręcznym oczyszczeniu użytkownika z zarzutów przez pracowników technicznych.

Skala incydentu

Szacuje się, że usterka dotknęła około 8200 użytkowników na całym świecie, a dodatkowe 200 osób zostało zablokowanych w trakcie jednego z lipcowych weekendów. Problem dotknął nie tylko graczy, ale również osoby wykorzystujące komunikator do celów zawodowych, co znacząco utrudniło im komunikację niezbędną do pracy.

Przedstawiciele Discorda poinformowali, że znaleźli już źródło problemu i wdrożyli poprawkę eliminującą wadliwy mechanizm dopasowywania plików. Firma potwierdziła, że wszystkie niesłusznie zablokowane konta są obecnie przywracane, a systemy bezpieczeństwa zostaną wzmocnione, aby podobne sytuacje nie powtórzyły się w przyszłości.

Dyrekcja platformy przeprosiła za zaistniałą sytuację, określając ją jako zawstydzający błąd, który trwał zbyt długo.

Zobacz też: Nowy Fallout od twórców New Vegas staje się faktem