z kontekst-matters Wydział

W listopadzie ubiegłego roku wydano Ligę Anti-Defamation League (ADL) Nienawiść napędzana parąoskarżając wyrzutnię gier Valve, Steam, o wspieranie ekstremizmu. Raport spadł tuż przed senatorem Mark Warner, a Bezpieczna technologia Zwolennik ACT, zagroził właściciela Steam, podnosząc obawy dotyczące motywacji politycznych stojących za roszczeniami ADL.

ADL przeanalizował ponad miliard punktów danych, oznaczając zaledwie 0,5% jako „nienawistne”. Jednak wprowadzają w błąd Steam – głównie rynek gier – jako centrum mediów społecznościowych przepełnione ekstremizmem, pomimo braku prawdziwej wiedzy specjalistycznej w zakresie moderacji treści online lub kultury gier. Tymczasem, Dają potężne postacie, takie jak Elon Musk Pass Naciskając na interwencję rządową w przestrzeniach cyfrowych, nie rozumieją.

To nie jest nowe – ADL ma historię zalecania ograniczeń mowy, od mediów społecznościowych po gry wideo. Jako amerykański Żyd uważam, że ich duże podejście do moderacji treści są niepokojące. Organy regulacyjne muszą odrzucić presję ze strony grup rzecznictwa, które wprowadzają w błąd społeczności online i zagrażają swobodnej ekspresji w imię walki z ekstremizmem.

ADL źle rozumie złożone i niezwykle nerwowe środowisko gier

Społeczności gier działają na innej długości fali niż typowe przestrzenie online. Gracze są notoryczni ze swojego mrocznego humoru, bardziej memów i stylu komunikacji, który może wydawać się obcy osobom z zewnątrz. ADL, próbując przeanalizować platformę centralną kultury gier, nie zrozumiała tego, czyniąc szerokie uogólnienia dotyczące społeczności, której wyraźnie nie rozumie.

Weź największe roszczenie ich raportu: zdecydowana większość tak zwanych „nienawistnych treści” była Pepe żaba—Me to, podczas gdy porwany ekstremiści W ostatnich latach pozostałości szeroko stosowany W głównym nurcie kultury gier. Nawet twórca mema był oburzone przez związek z grupami nienawiści. Jednak ADL nie rozróżnia faktycznego ekstremistycznego pepe i nieszkodliwego, powszechnie używanego mema do gier. Zamiast tego zrzucają je razem, napełniając ich liczbę.

Ich system AI, „Hatevision”, zidentyfikował prawie milion ekstremistycznych symboli – z czego ponad połowa to Pepe. AI została przeszkolona na ograniczonym zestawie danych obrazów i słów kluczowych, które ADL wybrano wstępnie jako nienawistne, ale nie rozróżniała uzasadnionego ekstremizmu i lekceważącej kultury memów. Co gorsza, nie rozróżniało to użytkowników amerykańskich i międzynarodowych, ignorując fakt, że społeczności gier działają zgodnie z różnymi normami kulturowymi na całym świecie.

Niepowodzenia AI nie zatrzymały się na obrazach. Nie mogło to również odróżnić faktycznej mowy nienawiści od zakochanej, często prowokującego stylu społeczności gier. Podczas gdy kultura gier może być ścierna, zdecydowana większość graczy rozumie różnicę między rozmową na śmieci w grze a prawdziwym wrogością. ADL? Nie tyle.

ADL również poszedł później Copypastas– Bloki tekstu skopiowane i wklejone w celu wywołania reakcji – identyfikujące 1,83 miliona „potencjalnie szkodliwych”, nie zawracając sobie głowy sprawdzaniem kontekstu. Ich podejście oparte na słowach kluczowych oznaczały terminy, takie jak „Boogaloo” i „Amerikaner” bez uznania ich wielu znaczeń. „Boogaloo” to głównie Gen-Z nawetnie jest tajnym słowem kodu alt-prawicowego w grach. „Boogalo” ma Conotacje alt-praweale istnieją inne konotacje, takie jak ten wymieniony powyżej. „Amerikaner” może odnosić się do ciastkoniemieckie słowo „Amerykanin”, a nawet słynne YouTuber’s nazwa użytkownika. Oznaczyli także „Goyim” jako slur, mimo że jest to powszechne i czasami Uczula termin używane przez samego narodu żydowskiego. W grupie narodu żydowskiego często nie jest to obraźliwe. Chociaż termin ten może być używany w sposób obraźliwy przez osoby antysemickie, ADL nie dokonał żadnych rozróżnień.

Ciekawe, wyszukałem słowo kluczowe Steam „Amerikaner”. Pierwszym rezultatem był lewicy wzywający rasizm. Drugim był ktoś, kto kpił z Amerykanów w kontrataku. Trzeci był post nieanglojęzycznym. Moim zdaniem żaden z wyników nie wziął poziomu ekstremizmu. Przeszukałem również „Boogaloo” i znalazłem odniesienia do klasycznego mema „Electric Boogaloo”, nieanglojęzycznego głośnika używającego tego terminu i nazwy forum gier. ADL nie zawracało sobie głowy tym poziomem niuansów – po prostu zeskrobały fora, wyciągnęli słowa z kontekstu i nazwali to dniem.

ADL zaatakował także MOD Garry’ego (G-Mod), grę z piaskownicą znaną ze swojej kreatywności. Skoncentrowali się na jednym modach zawierających mapy prawdziwych masowych strzelanin, powołując się na komentarze ze słowami takimi jak „oparte”, „Sigma”, a nawet „subskrybuj Pewdiepie” jako oznaki ekstremizmu. Ale są to powszechne „przewlekle online” frazy o szerokich zastosowaniach. “Na podstawie”Czy slang Gen-Z używany przez osoby zarówno po lewej, jak i prawej. “Sigma„Czy mem kpią z tropów„ Alpha Male ”. I podczas gdy strzelca Christchurch wzmianka Pewdiepie, twierdząc, że ADL niesprawiedliwie celuje w niego, nie jest dokładnie odcinkiem. Tak, Pewdiepie miał kontrowersjeale malowanie go jako symbolu nienawiści jest głównym skokiem.

Raport kończy się tragicznym białym atakiem supremacji w Turcji, w którym ADL zauważa, że ​​chociaż na profilu parowym strzelca znajdowały się czerwone flagi, nie ma go bezpośrednio inspirowanego ekstremistycznymi treściami na platformie. Mimo to używają tej tragedii, aby argumentować, że Steam nie robi wystarczająco dużo, aby moderować treść. Ale nawet ich własne badania wykazały, że Steam aktywnie filtruje swastyki w sercach – identyfikując tylko 11 profili, w których te obejście nie powiodło się. Jedenaście profili. Z milionów. To jest przypadek, a nie kryzys.

Szczerze mówiąc, badanie zidentyfikowało niewielką liczbę grup gloryfikujących nienawiść i przemoc. Ale większe pytanie brzmi, czy ustalenia ADL faktycznie odzwierciedlają poważny problem-lub jeśli po prostu nieporozumieją one ostrą, chaotyczną, ale w dużej mierze nieekremistyczną kulturę gier. Biorąc pod uwagę niewielką ilość ekstremalnej treści, którą ADL znalazł na całym świecie, wygląda na to, że Steam faktycznie wykonuje swoją pracę.

Porównanie Steam ADL jest obłudne i błędne

Mimo to ADL podobno kwestionuje tak zwane podejście Steam „ad hoc” do moderacji treści, twierdząc, że pomimo wysiłków na usunięcie Valve platforma nadal „nie uwzględnia systematycznego problemu ekstremizmu i nienawiści”. Ale ta krytyka ignoruje rzeczywistość kultury gier i własnej polityki Steam.

Moderacja Steam odzwierciedla naturę jej społeczności. Jego treść zasady Wpadnij na dwie kategorie: jedna dla gier-łącząc wszystkie tytuły, z wyjątkiem tych, które są nielegalne lub rażące trollowanie-i drugi dla treści generowanych przez użytkowników, co zakazuje niezgodnej z prawem działania, nękania, naruszeń IP i komercyjnego wykorzystywania. ADL krytykuje Steam za to, że nie przyjmuje surowszej postawy, takiej jak Microsoft i Roblox, ale to porównanie jest w najlepszym razie mylące.

Historia gier Microsoft nie jest dokładnie latarnią cnoty. Xbox 360 na żywo były niesławne rasistowskie obelgia lobby Call of Duty pozostają toksycznym wolnym dla wszystkich. Tymczasem Minecraft – gra, którą ADL wydaje się mieć wysoko szacunek – została stworzona przez kogoś z historią Uwagi antysemickiea sam Microsoft stanął przed oskarżeniami Dyskryminacja w miejscu pracy. Jednak ADL nie wydaje się tak zaniepokojony tymi problemami.

Jeśli chodzi o Roblox, chociaż egzekwuje surowsze moderację treści, jest daleka od ekstremistycznej utopii bez ekstremistycznej. Australijska policja federalna ma ostrzeżony o potencjalnym platformie do radykalizacji, a NBC poinformował Treść ekstremistyczna wyraźnie atakuje dzieci. Jeśli już, sugeruje to, że umiar ciężki niekoniecznie eliminuje złych aktorów-po prostu popycha ich do adaptacji.

Podejście Steam może nie być zgodne z idealną wizją moderacji treści ADL, ale udawanie, że Microsoft i Roblox reprezentują złoty standard ignoruje ich własne problemy z głęboko zakorzenionymi. Nie ma sensu, aby platforma taka taka jak Steam ma zasady identyczne lub podobne do Xbox i Roblox. Oba są w pełni platformami obsługi na żywo, podczas gdy Steam jest przede wszystkim platformą konsumpcyjną dla gier, w przeciwieństwie do platformy, na której użytkownicy nieustannie współpracują ze sobą w grze, online za pośrednictwem platformy. To tworzy różnicowanie rynku. Zasady platformy są odzwierciedleniem oferowanych przez nich usług, a jeśli użytkownicy uważają, że zasady są problematyczne, mogą przeskakiwać do innego dostawcy.

Organy regulacyjne muszą wystrzegać się nadmiernego zasięgu od ekspertów od Trust & Safety, takich jak ADL

W swoim raporcie ADL wzywa krajową grupę zadaniową ds. Bezpieczeństwa gier, wzywając decydentów do utworzenia grupy federalnej poparanej przez federalnie do „zwalczania tego wszechobecnego problemu” poprzez podejście wieloczęściowe. Na papierze brzmi to jak szlachetny cel. W praktyce jest to przepis na nadrzędę rządu, który może stłumić kreatywnego i niezależnego ducha branży gier.

Gry kwitły z powodu oddolnej natury – zbudowanej przez namiętnych programistów i graczy, a nie biurokratów lub grup rzeczniczych bez prawdziwego zrozumienia kultury gier, norm społeczności internetowych lub zaufania i bezpieczeństwa. Federalna grupa zadaniowa ryzykuje narzucanie sztywnych, odgórnych przepisów, które nie pasują do dynamicznego i ciągle ewoluującego świata gier. Co gorsza, może otworzyć drzwi do motywowanych politycznie interwencji, które priorytetują w przypadku prawdziwych rozwiązań.

ADL sugeruje również, że Steam angażuje się w wieloczęściowe działania na moderację. Ale kto kontroluje rozmowę? Kiedy potężne korporacje i organizacje aktywistyczne dominują w tych dyskusjach, mniejsi programiści i społeczności gier zostają odsunięte na bok. W ten sposób kończy się polityki ukształtowane przez interesy korporacyjne i programy rzecznictwa, a nie rozwiązania, które faktycznie działają dla graczy. I bądźmy tępe – ADL nie ma biznesu dyktujących zasady moderacji treści dla platform gier.

ADL nie jest ekspertem w dziedzinie moderacji treści, dynamiki społeczności online ani zaufania i bezpieczeństwa. Nie ma znaczącego doświadczenia w poruszaniu się po złożoności przestrzeni cyfrowych, regulacji treści algorytmicznej lub unikalnych norm kulturowych, które definiują społeczności gier. Zamiast tego ich raport opiera się na anegdotycznych dowodach, nadmiernym uproszczonym modelu AI i symbole poza kontekstem, z których wszystkie prowadzą do wadliwych wniosków i wprowadzających w błąd roszczeń.

Steam nie jest Microsoft ani Disney. Jest to prywatna firma prowadzona przez Valve i Gabe Newell, bez rozległej siły politycznej i finansowej gigantów branżowych. Wymuszanie szerokiego moderacji treści na platformach takich jak Steam ustawia niebezpieczny precedens, obciążając mniejsze firmy, które nie mają infrastruktury głównych firm technologicznych. I wyjaśnijmy: główną funkcją Steam jest sprzedaż gier wideo, a nie służyć jako nadzorujący media społecznościowe.

Obawy ADL dotyczące ekstremizmu mogą być dobrze zapoczątkowane, ale ich brak wiedzy specjalistycznej, błędna interpretacja kultury gier i jedno rozmiary wszystko sprawiają, że są one wyjątkowo niekwalifikowane, aby rozważyć ten problem. Ich dążenie do interwencji federalnej jest zgodne z szerszą ustawą o bezpiecznej technice dotyczącej motywacji politycznych i finansowych, które mogą nieproporcjonalnie zaszkodzić platformom, które nie są poparte siłą lobbingu korporacyjnego.

Tak, ekstremizm online jest problemem-ale przekazanie kontroli poza regulacjami poza dotykiem i grupami rzecznictwa, które nie rozumieją przestrzeni, nie jest odpowiedzią. Przemysł gier musi pozostać bezpłatny, innowacyjny i niezależny-nie zagłębiony w ciężkim nadzorze rządowym, który grozi usunięciem samej kultury, która sprawia, że ​​społeczności gier online kwitną.

Elizabeth Grossman jest studentką prawa pierwszego roku w University of Akron School of Law w programie własności intelektualnej i ma na celu pracę w polityce technicznej.

Złożone pod: Moderacja treściW kontekstW paraW gry wideo

Firmy: AdlW zawór