z How-Suff-Works Wydział

Sąd Najwyższy Brazylii wydaje się bliski orzeczenia Firmy mediów społecznościowych powinny ponosić odpowiedzialność za treści hostowane na swoich platformach– Ruch, który wydaje się reprezentować znaczące odejście od pionierskiego prawa cywilnego w Internecie Marco. Chociaż takie podejście ma oczywiste apelu dla osób sfrustrowanych niepowodzeniami platformy, prawdopodobnie cofnie się w sposób, który pogorszyłby problemy, a nie lepsze.

Podstawową kwestią jest to, że większość ludzi zasadniczo źle rozumie zarówno to, jak działa moderacja treści, jak i co napędza zachęty platformy. Istnieje ciągły mit, że firmy mogłyby osiągnąć prawie idealne umiar, gdyby po prostu „mocniej” lub miały wystarczające konsekwencje prawne. Ignoruje to matematyczną rzeczywistość tego, co dzieje się, gdy próbujesz codziennie łagodzić miliardy fragmentów treści, i źle rozumie, w jaki sposób odpowiedzialność faktycznie zmienia zachowania korporacyjne.

Myślę, że część zamieszania wynika z braku zrozumienia ludzi Niemożność dobrze robienia moderacji treści na dużą skalę. Istnieje bardzo niewłaściwe założenie, że platformy mediów społecznościowych mogą zrobić doskonałe (lub bardzo dobre) moderację treści, gdyby po prostu próbowali lub miały większą motywację do lepszego robienia. Bez zaprzeczania temu Niektóre jednostki (*kaszel*extwitter*kaszel*) wyjaśniły, że w ogóle nie obchodzi to, większość innych stara się to zrobić, i Odkryj w kółko jakie to niemożliwe.

Tak, wszyscy możemy wskazywać na przykłady awarii platformy, które są przygnębiające i wydają się oczywiste, że rzeczy powinny być wykonane inaczej, ale nie ma awarii, ponieważ „prawa tego nie wymagają”. Niepowodzenia wynikają, że nie można tego zrobić na skalę. Niektóre osoby zawsze nie zgadzają się z tym, jak wychodzi decyzja, a innym razem nie ma „właściwych” odpowiedzi. Czasami od razu dzieje się zbyt wiele i żaden system prawny na świecie nie może tego naprawić.

Biorąc to wszystko pod uwagę, to, czego naprawdę chcemy Lepsze ogólne zachęty aby firmy mogły lepiej. Niektórzy ludzie (znowu, fałszywie) wydają się uważać, że jedyne zachęty są regulacyjne. Ale to nieprawda. Zachęty są w różnych kształtach i rozmiarach – i o wiele potężniejsze niż przepisy to takie rzeczy sami użytkownicy, wraz z reklamodawcami i innymi partnerami biznesowymi.

Co ważne, moderacja treści jest również stale poruszającym i rozwijającym się problemem. Ludzie, którzy próbują grać, system nieustannie się dostosowują. Znikąd powstają nowe rodzaje problemów. Jeśli nigdy Moderacja treścinie masz pojęcia, ile jest „przypadków krawędziowych”. Większość ludzi – w tym – uważa, że ​​większość decyzji jest łatwymi połączeniami i czasami możesz spotkać się z trudniejszym.

Ale istnieją stałe przypadki, unikalne scenariusze i niejasne sytuacje. Z tego powodu każdy dostawca usług popełni wiele, wiele błędów codziennie. Nie ma sposobu, aby. Częściowo jest to prawo dużych liczb. Częściowo chodzi o fakt, że ludzie są omylni. Częściowo jest to fakt, że decyzje należy podejmować szybko bez pełnych informacji. I wiele z nich polega na tym, że osoby podejmujące decyzje po prostu nie wiedzą, jakie jest „właściwe” podejście.

Sposób na lepsze jest Ciągłe dostosowanie i eksperymentowanie. Zespoły moderacyjne muszą być dostosowywane. Muszą być w stanie szybko odpowiedzieć. I potrzebują swobody eksperymentowania z nowymi podejściami, aby poradzić sobie ze złych aktorów próbujących nadużyć systemu.

Uprawnienie odpowiedzialności prawnej na platformie utrudnia to wszystko

Teraz dochodzą moje obawy dotyczące potencjalnego orzeczenia w Brazylii: jeśli jest odpowiedzialność prawna, tworzy scenariusz, który tak naprawdę jest mniej prawdopodobne prowadzić do dobrych wyników. Po pierwsze, skutecznie wymaga od firm zastąpienia moderatorów prawnikami. Jeśli Twoja firma podejmuje teraz decyzje, które mają znaczącą odpowiedzialność prawną, prawdopodobnie wymaga to znacznie wyższego rodzaju wiedzy specjalistycznej. Co gorsza, tworzy pracę, której mało prawdopodobne jest, aby większość ludzi z prawem.

Każda firma mediów społecznościowych ma przynajmniej niektórych prawników, którzy pracują ze swoimi zespołami zaufania i bezpieczeństwa w celu przeglądu naprawdę trudnych spraw, ale gdy odpowiedzialność prawna może naliczyć każdą decyzję, staje się ona znacznie, znacznie gorsza.

Co ważniejsze, to robi o wiele trudniejsze Aby zespoły zaufania i bezpieczeństwa eksperymentują i dostosowują się. Gdy rzeczy obejmują potencjał odpowiedzialności prawnej, o wiele ważniejsze staje się, że firmy miały jakąś prawdopodobną zaprzeczenie – niektóre sposoby wyrażenia sędziemu „Spójrz, robimy to samo, co zawsze mamy, to samo, co zawsze robiła każda firma”, aby pokryć się w sądzie.

Oznacza to jednak, że te wysiłki na rzecz zaufania i bezpieczeństwa stwardnieją, a zespoły są mniej w stanie dostosować się lub eksperymentować z lepszymi sposobami walki z ewoluującymi zagrożeniami. To katastrofa dla firm, które chcą postępować właściwie.

Kolejnym problemem z takim reżimem jest to, że tworzy on reżim prawdziwego Hecklera. Jeśli ktokolwiek narzeka wszystko, Firmy szybko go zdejmują, ponieważ ryzyko zrujnowania odpowiedzialności po prostu nie jest tego warte. A my teraz Posiadać dziesięciolecia dowodów Pokazanie, że rosnąca odpowiedzialność na platformach prowadzi do ogromnego przeciążenia informacji. Rozumiem, że niektórzy ludzie uważają, że jest to akceptowalne szkody uboczne… aż do nich wpłynie.

Ta dynamika powinna brzmieć znajomo każdemu, kto studiował cenzurę internetową. Dokładnie tak działała wielka zapora Chin – nie poprzez wyraźne zasady dotyczące tego, co było zabronione, ale przez informowanie dostawców usług Że kara byłaby poważna, gdyby coś „złego” się przeszło. Rząd stworzył celową niepewność co do tego, gdzie była linia, wiedząc, że firmy zareagują masowym przeciążeniem, aby uniknąć potencjalnie zrujnowanych konsekwencji. Rezultatem była o wiele bardziej kompleksowa cenzura niż mogłyby osiągnąć bezpośrednie mandaty rządowe.

Proponowane podejście Brazylii podąża za tym samym podręcznikiem, tylko z innym mechanizmem egzekwowania. Zamiast urzędników państwowych dokonujących niejasnych zagrożeń, byłaby to odpowiedzialność cywilna tworząca tę samą strukturę motywacyjną: w razie wątpliwości, ponieważ koszt błędu jest zbyt wysoki.

Ludzie mogą być z tym w porządku, ale sądzę, że w kraju z historią dyktatury i cenzury chcieliby być nieco bardziej ostrożni przed przekazaniem rządu podobnie potężnego narzędzia tłumienia.

Jest to szczególnie rozczarowujące w Brazylii, którą dziesięć lat temu złożył Marco CivilInternetowe prawo dotyczące praw obywatelskich, które zostało zaprojektowane w celu ochrony praw użytkowników i swobód obywatelskich – w tym odpowiedzialności za pośrednik. Marco Civil pozostaje przykładem bardziej przemyślanego internetowego tworzenia prawa (znacznie lepsze niż widzieliśmy prawie gdziekolwiek indziej, w tym USA). Tak więc ten najnowszy ruch wydaje się odwrotnie.

Tak czy inaczej, długoterminowy strach polega na tym, że w rzeczywistości ograniczy to zdolność mniejszych, bardziej konkurencyjnych graczy w mediach społecznościowych do działania w Brazylii, ponieważ będzie to zbyt ryzykowne. Najwięksi gracze (meta) nie mogą odejść, ale mają budynki pełne prawników, którzy mogą walczyć z tymi pozwami (i często, prawdopodobnie wygrywać). Badanie, które przeprowadziliśmy kilka lat temu, szczegółowo opisało, gdy kraje podniosły swoją odpowiedzialność pośredniczącą, efektem końcowym było wielokrotne mniej miejsc online do mówienia.

To wcale nie poprawia wrażeń w mediach społecznościowych. Daje to tylko największym graczom z najgorszymi osiągnięciami. Jasne, kilka procesów może wydobyć od tych firm gotówkę za to, że nie były idealne, ale nie jest tak, że mogą machać magiczną różdżką i nie pozwolić, aby żadna „przestępcza” treść istniała. Nie tak działa.

Niektóre odpowiedzi na kwestie poruszone przez krytyków

Kiedy pisałem o tym w krótkim bluesowym wątku, otrzymałem setki odpowiedzi – wiele złych – które ujawniły kilka powszechnych nieporozumień na temat mojej pozycji. Winę za to, że nie wyrażam się tak wyraźnie, jak powinienem, i mam nadzieję, że powyższe punkty wyraźniej przedstawiają argument dotyczący tego, jak może to cofnąć się w niebezpieczny sposób. Ale ponieważ niektóre punkty były powtarzane w kółko (czasem ze sprytnymi zniewagami), pomyślałem, że dobrze byłoby bezpośrednio zająć się niektórymi argumentami:

Ale media społecznościowe są złe, więc jeśli się tego pozbyli, to dobrze. Dostaję, że wiele osób nienawidzi mediów społecznościowych (jednak ludzie wysyłali mi te wiadomości w mediach społecznościowych). Ale tak naprawdę większość ludzi nienawidzi tego, co widzą w mediach społecznościowych. A kiedy ciągle wyjaśniam, sposób, w jaki naprawiamy, dzięki większej eksperymentacji i większej agencji użytkowników – nie przekazując wszystkiego Markowi Zuckerberga i Elonowi Muskowi lub rządowi.

Brazylia nie ma pierwszej poprawki, więc zamknij się i zatrzymaj się w stosunku kolonialistycznym. Dostałem ten wielokrotnie i to… dziwne? Nigdy nie zasugerowałem, aby Brazylia miała pierwszą poprawkę ani że powinna ona wdrożyć równoważne. Po prostu zwróciłem uwagę na nieunikniony wpływ rosnącej odpowiedzialności pośredniej na mowę. Możesz zdecydować (zgodnie z powyższym komentarzem), że nie masz nic przeciwko, ale nie ma to nic wspólnego z moimi uczuciami na temat pierwszej poprawki. Nie sugerowałem też Brazylii importowania amerykańskich przepisów dotyczących wolności słowa. Po prostu wskazałem, jakie konsekwencje tej jednej zmiany w prawie mogą stworzyć.

Istniejące media społecznościowe są naprawdę złe, więc musimy to zrobić. To jest klasyczna odpowiedź „Coś należy zrobić, to jest coś, zrobimy to”. Nie mówię, że nic nie trzeba zrobić. Mówię tylko, że to konkretne podejście będzie miało znaczące konsekwencje, że pomoże ludziom przemyśleć.

Dotyczy to treści dopiero po tym, jak został uznany za przestępcę. Dostałem to kilka razy od ludzi. Ale z mojego czytania wcale nie jest to prawdą. To właśnie istniejące prawo był. Te orzeczenia znacznie rozszerzyłyby to z tego, co mogę powiedzieć. Rzeczywiście, artykuł zauważa, w jaki sposób zmieniłoby to rzeczy z istniejącego prawa:

Obecne ustawodawstwo stwierdzają, że firmy mediów społecznościowych mogą być pociągnięte do odpowiedzialności tylko wtedy, gdy nie usuwają niebezpiecznych treści po postanowieniu sądowym.

[….]

Alvaro Palma de Jorge, profesor prawa Getulio Vargas Foundation, think tank i uniwersytet.

„Muszą przyjąć pewne środki ostrożności które nie są zgodne z po prostu czekaniem, aż sędzia ostatecznie wyda decyzję Zamawiając usunięcie tej treści – powiedział Palma de Jorge.

Jesteś anarchokapitalistą, który uważa, że ​​nie powinno być żadnych praw, więc pieprzyć. Ten faktycznie został mi wysłany kilka razy w różnych formach. Zostałem nawet dodany do listy bloków anchokapitalistów. Naprawdę nie jestem pewien, jak odpowiedzieć na to inne niż powiedzenie „Um, nie, po prostu spójrz na wszystko, co napisałem przez ostatnie dwie i pół dekady”.

Ameryka jest teraz pieprzonym bałaganem, więc wyraźnie to, o co dążysz, nie działa. Ten był najdziwniejszy ze wszystkich. Niektóre osoby wysyłające odmiany tego wskazywały na wiele przerażających przykładów amerykańskich urzędników deptających wolność słowa Amerykanów, mówiąc: „Widzisz? To jest to, co popierasz!” Jakbym wspierał te rzeczy, zamiast konsekwentnie walczyć z nimi. Jednym z powodów, dla których sugeruję, że tego rodzaju odpowiedzialność może być problematyczne, jest to, że chcę zatrzymywać się Inne kraje od kierowania ścieżką, która daje rządom moc stłumienia mowy, takiej jak USA.

Rozumiem, że wielu ludzi jest – z pewnością! – w tym strasznym stanie świata. I wiele osób jest równie sfrustrowanych stanem dyskursu internetowego. Ja też. Ale to nie znaczy każdy Rozwiązanie pomoże. Wielu pogorszy sytuację. A rozwiązanie Brazylia zmierza w kierunku, wydaje się, że sytuacja go pogarsza.

Złożone pod: BrazyliaW Moderacja treściW wolność słowaW niemożliwośćW Odpowiedzialność pośredniaW Marco CivilW Odpowiedzialność na platformęW Media społecznościowe