z awarią jest-system dział

Mówimy to od lat i będziemy to powtarzać, aż w końcu dotrze do nas przesłanie: obowiązkowa weryfikacja wieku tworzy ogromne, scentralizowane zbiorniki miodu z wrażliwymi danymi biometrycznymi, które będą nieuchronnie zostać naruszone. Każdy pojedynczy raz. I za każdym razem, gdy tak się dzieje, politycy, którzy nakazali te systemy, oraz firmy, które je zbudowały, są zszokowani…zszokowany!—że gromadzenie ogromnych baz danych zawierających rządowe dokumenty tożsamości, skany twarzy i dane biometryczne milionów ludzi okazuje się koszmarem dla bezpieczeństwa.

No cóż, znowu to samo.

Kilka tygodni temu, Ogłoszono niezgodę uruchomiłaby dla odbiorców na całym świecie ustawienia „domyślne nastolatki”, co oznaczałoby, że wszyscy użytkownicy byliby ograniczani, chyba że zweryfikowaliby swój wiek za pomocą skanowania biometrycznego. Jak można się było spodziewać, internet nie był zachwycony. Jednak podczas gdy wielu użytkowników było zajętych wyładowywaniem swojej frustracji, grupa badaczy bezpieczeństwa zdecydowała się zrobić coś bardziej przydatnego: zajrzała pod maskę Persona, jednej z firm, których Discord używał do weryfikacji (szczególnie dla użytkowników w Wielkiej Brytanii).

Według The Rage odkryli coś takiego dokładnie to, co byśmy przewidzieli:

Razem z dwoma innymi badaczami postanowili przyjrzeć się Persona, startupowi z siedzibą w San Francisco, którego Discord używa do biometrycznej weryfikacji tożsamości, i odkryli interfejs Persona udostępniony w otwartym Internecie na serwerze autoryzowanym przez rząd USA.

W 2456 publicznie dostępnych plikach kod ujawnił szeroko zakrojony nadzór, jaki oprogramowanie Persona zapewnia swoim użytkownikom, w ramach interfejsu łączącego rozpoznawanie twarzy z raportowaniem finansowym – oraz równoległą implementację, która wydaje się być przeznaczona dla agencji federalnych.

Powiem to jeszcze raz: 2456 publicznie dostępnych plików znajdujące się na serwerze autoryzowanym przez rząd, wystawionym na działanie otwartego Internetu. Pliki, które ujawniły, że system nie przeprowadzał prostej kontroli wieku, ale mnóstwo potencjalnie inwazyjnych kontroli:

Gdy użytkownik zweryfikuje swoją tożsamość w Persona, oprogramowanie przeprowadza 269 odrębnych kontroli weryfikacyjnych oraz przeszukuje Internet i źródła rządowe w poszukiwaniu potencjalnych dopasowańna przykład dopasowując swoją twarz do osób na eksponowanym stanowisku politycznym (PEP) oraz generując oceny ryzyka i podobieństwa dla każdej osoby. Adresy IP, odciski palców przeglądarki, odciski palców urządzeń, rządowe numery identyfikacyjne, numery telefonów, nazwiska, twarze, a nawet tło selfie są analizowane i przechowywane przez okres do trzech lat.

Informacje, które oprogramowanie analizuje na podstawie samych zdjęć, obejmują „wykrywanie podejrzanych obiektów w selfie”, „porównanie niespójności wieku w selfie”, wykrywanie podobnego tła, które wydaje się być dopasowane do danych innych użytkowników w bazie danych, oraz „wykrywanie powtarzających się pozycji w selfie”, które prawdopodobnie służy do ustalenia, czy przyjmujesz tę samą pozę, co na poprzednich zdjęciach.

To ta sama firma sprawdzała, czy nastolatek powinien mieć możliwość korzystania z czatu głosowego na platformie do gier.

Oprócz oferowania prostych usług oszacowania Twojego wieku, ujawniony kod Persony porównuje Twoje selfie ze zdjęciami z listy obserwowanych za pomocą rozpoznawania twarzy, sprawdza Cię pod kątem 14 kategorii niekorzystnych mediów, od wzmianek o terroryzmie po szpiegostwo, i oznacza raporty kryptonimami z programów aktywnego wywiadu obejmujących partnerstwa publiczno-prywatne w celu zwalczania materiałów wykorzystujących dzieci w Internecie, handlu konopiami indyjskimi, handlu fentanylem, oszustw romantycznych, prania pieniędzy i nielegalnego handlu dziką fauną i florą.

Chciałeś więc sprawdzić, czy jesteś na tyle dorosły, aby korzystać z czatu głosowego, a teraz znajduje się gdzieś stała ocena ryzyka dokumentująca, czy możesz być zamieszany w nielegalny handel dziką fauną i florą.

Co może pójść nie tak?

Jak ujęli to badacze w The Rage:

“Internet miał być wielkim korektorem. Informacja chce być wolna, sieć interpretuje cenzurę jako szkody i omija ją, cały ten piękny optymizm. I przez chwilę to była prawda.”

[….]

“Państwo chce widzieć wszystko. Korporacje chcą widzieć wszystko. I nauczyły się współpracować.”

Discord, trzeba przyznać, teraz to powiedział nie będzie kontynuować współpracy z Personą w celu weryfikacji tożsamości. I szczerze mówiąc, Discord i podobne firmy internetowe znajdują się tutaj w niemożliwej sytuacji — w obliczu rosnącej presji regulacyjnej w wielu jurysdykcjach, aby weryfikować wiek, a jednocześnie mają do dyspozycji rynek dostawców, którzy stale okazują się koszmarem bezpieczeństwa. Jest to jednak część wzorca, który powinien być już dobrze znany.

Tylko w zeszłym roku, Discord poprzedni zewnętrzny partner zajmujący się weryfikacją wieku dopuścił się tego naruszenia ujawnił 70 000 rządowych zdjęć identyfikacyjnychktóre następnie przetrzymywano dla okupu. Discord powiedział, że zaprzestał korzystania z usług tego dostawcy. Następnie przeniósł się do Persony, która już budziła obawy z powodu powiązania z Peterem Thielem. Teraz interfejs Persony jest szeroko otwarty na serwerze autoryzowanym przez rząd, a Discord również go usuwa.

Widzisz wzór? Discord ciągle zmienia sprzedawców, niczym ktoś gorączkowo obracający wiadra pod cieknącym dachem, najwyraźniej mając nadzieję, że w następnym wiadro nie będzie dziury. Ale problemem nigdy nie było wiadro. Problemem jest dziura w dachu – niekończący się strumień nakazów rządowych dotyczących weryfikacji wieku.

A to prowadzi nas do ważniejszej kwestii, w którą prawie nikt z zwolenników polityki „chroń dzieci” nie chce szczerze się zaangażować. Za każdym razem, gdy nakazujesz weryfikację wieku, nakazujesz utworzenie scentralizowanej bazy danych zawierającej niezwykle wrażliwe dane osobowe. Identyfikatory rządowe. Dane biometryczne twarzy. Rodzaj danych, których po naruszeniu nie można „zmienić” tak jak hasła. Masz jedną twarz. Otrzymujesz jeden rządowy numer identyfikacyjny. Kiedy te wyciekają – i oni będzie wyciek – uszkodzenie jest trwałe.

Nawet magazyn IEEE Spectrum publikuje obecnie artykuły szczegółowo opisujące sposób weryfikacji wieku podważa wszelkie wysiłki mające na celu ochronę dzieci narażając swoją prywatność na ryzyko.

Systemy te zawodzą w przewidywalny sposób.

Często zdarzają się fałszywe alarmy. Platformy identyfikują się jako nieletni dorośli o młodzieńczych twarzach lub dorośli dzielący urządzenia rodzinne lub korzystający z nich w inny sposób w nietypowy sposób. Blokują konta, czasem na kilka dni. Utrzymują się także fałszywe wyniki negatywne. Nastolatki szybko uczą się, jak unikać kontroli, pożyczając dowód osobisty, jeżdżąc na rowerze lub korzystając z VPN.

Sam proces odwoławczy stwarza nowe zagrożenia dla prywatności. Platformy muszą przechowywać dane biometryczne, obrazy identyfikacyjne i dzienniki weryfikacyjne wystarczająco długo, aby bronić swoich decyzji przed organami regulacyjnymi. Jeśli więc osoba dorosła, która jest zmęczona przesyłaniem selfie w celu sprawdzenia swojego wieku, w końcu prześle dokument tożsamości, system musi teraz zabezpieczyć przechowywany dokument. Każdy zachowany rekord staje się potencjalnym celem naruszenia.

Skaluj to doświadczenie na milionach użytkowników, a uwzględnisz ryzyko prywatności w działaniu platform.

Katalogujemy te naruszenia od lat. W 2024 r. Australia zapaliła zielone światło dla programu pilotażowego weryfikacji wiekuI godziny później naruszono obowiązkową weryfikacyjną bazę danych prętów. W tym samym roku inna usługa weryfikacji tożsamości została naruszonaujawniając prywatne informacje zebrane w imieniu Ubera, TikTok i innych. Potem w zeszłym roku doszło do naruszenia dostawcy Discord. A teraz Persona.

To się ciągle dzieje, bo tak musi dzieje się dalej. Jest to nieunikniony skutek działania systemu zaprojektowanego do agregowania dokładnie tego rodzaju danych, które napastnicy najbardziej chcą ukraść. Informatycy i eksperci ds. prywatności alarmują od lat.

A jeszcze bardziej irytujące jest to, że te systemy weryfikacji wieku nawet nie osiągają tego, co rzekomo osiągają.

Weźmy na przykład niesławny australijski zakaz korzystania z mediów społecznościowych dla osób poniżej 16 roku życia, będący sztandarowym przykładem takiego podejścia. To była kompletna porażka sama w sobie: wiele dzieci już się o tym przekonało sposoby na obejście zakazupodczas gdy ci, którzy nie mogą – szczególnie dzieci z niepełnosprawnościami, które korzystały z platform społecznościowych na rzecz społeczności— są aktywnie krzywdzeni przez swoje wykluczenie. Jak badaczka bezpieczeństwa, która pomogła odkryć wyciek Persony, Celeste, powiedziała The Rage:

„Normie nie będą w stanie tego ominąć”, podczas gdy mniej życzliwi ludzie „zawsze znajdą sposób na wykorzystanie twojego systemu”.

Dlatego stworzyliśmy system, który nie powstrzymuje osób, na które rzekomo jest ukierunkowany, a jednocześnie skutecznie tworzy trwałe dokumentacje biometryczne milionów użytkowników przestrzegających prawa. Nie wspaniale!

Tymczasem to, co dzieje się na poziomie legislacyjnym, jest być może jeszcze bardziej cyniczne. Rządy na całym świecie coraz mocniej naciskają na wprowadzenie obowiązkowej weryfikacji wieku w Internecie. A ponieważ te mandaty tworzą rynek zmonopolizowany wart miliardy dolarów, powstał cały ekosystem wspieranych przez przedsięwzięcia typu venture startupów oferujących „tożsamość jako usługę”, aby mu służyć. Persona, wyceniana na 2 miliardy dolarów i wspierana przez sieć inwestycyjną Petera Thiela, to tylko jedna z wielu. Firmy te składają wielkie obietnice dotyczące weryfikacji chroniącej prywatność, zawierają umowy z głównymi platformami, a następnie – ups – zostawiają 2456 plików ujawnionych na serwerze rządowym.

I oczywiście te właśnie firmy są teraz lobbowanie na rzecz bardziej rygorystycznych mandatów dotyczących weryfikacji wieku. Zajęli pozycję obrońców dzieci, aktywnie pracując nad rozszerzeniem wymogów prawnych gwarantujących im strumień przychodów.

Ustawodawcy zlecają niemożliwe zadanie, pojawiają się start-upy wspierane przez VC, aby sprzedać „rozwiązanie”, a następnie te startupy lobbują za jeszcze bardziej rygorystycznymi mandatami w celu ochrony swojego rynku i cykl się powtarza.

„Bezpieczeństwo dzieci” stało się po prostu działem marketingu dla żądnej renty branży nadzoru.

Dopóki prawo wymaga istnienia takich bramek biometrycznych, „bezpieczeństwo” gromadzonych przez nie danych będzie zawsze kwestią drugorzędną w stosunku do „zgodności” z nakazem. Firmy będą zmieniać dostawców, a każdy z nich to obiecuje ich system to taki, który nie będzie przeciekał, aż do momentu, w którym to nastąpi. A branża weryfikacji wieku będzie nadal lobbować za bardziej rygorystycznymi przepisami, ponieważ każde nowe zlecenie to kolejne gwarantowane źródło przychodów.

Badacze, którzy ujawnili interfejs Persony, mają nadzieję, że ich odkrycia posłużą jako sygnał ostrzegawczy. Biorąc pod uwagę dotychczasowe osiągnięcia, prawdopodobnie tak się nie stanie. Usunięcie Persony przez Discord niczego nie zmienia — następny dostawca zbierze te same dane, złoży te same obietnice i ostatecznie doświadczy tego samego naruszenia. Ponieważ problemem nigdy nie było to, która firma przechowuje Twoje dane biometryczne. Problem w tym, że ktoś jest zmuszony go oddać w pierwszej kolejności.

Zapisano pod: weryfikacja wieku, naruszenia danych, prywatność, bezpieczeństwo

Firmy: niezgoda, osoba