z Let-the-Sofware-to-the-Mything Wydział

Miasto Detroit w końcu odnowiono Zasady korzystania z Departamentu Policji przez technologię rozpoznawania twarzy w lipcu ubiegłego roku. Będziemy musieli poczekać i zobaczyć, czy dodanie poręczy spowoduje mniej fałszywych aresztowań, ale to, co może być zbyt mało, zdecydowanie przybyło za późno dla kobiety z Detroit, która została fałszywie aresztowana przez ten sam departament policji, który miał już Zrobiłem to trzy razy wcześniej.

Oto Emma Camp z bardziej szczegółami z powodu:

W ubiegłym roku policja w Detroit niesłusznie aresztowała Ladonna Crutchfield po tym, jak oprogramowanie do rozpoznawania twarzy nieprawidłowo zidentyfikowało ją jako winowajcę strzelania, zgodnie z proces sądowy Złożony 21 lutego. Chociaż policja nawet nie miała nakazu aresztowania Crutchfield, kajdanki, zatrzymali i więzieli ją. Funkcjonariusze nie przeprowadzili dochodzenia, w pełni polegając na bazie danych rozpoznawania twarzy. Policja zwolniła Crutchfield tylko wtedy, gdy stało się oczywiste, że aresztowali niewłaściwą osobę.

Podobnie jak poprzednie trzy fałszywe aresztowania, gliniarze poszli za ludźmi opartymi wyłącznie na dopasowaniach do rozpoznawania twarzy, nie zawracając sobie głowy weryfikacją niczego innego o rzekomych podejrzanych. I podobnie jak poprzednie przypadki, obrazy używane do przeprowadzania tych wyszukiwań były znacznie mniej niż idealne. Crutchfield proces sądowy [PDF] zawiera obrazy Detroit PD używane jako [re-reads lawsuit] . całość prawdopodobnych ustaleń przyczyny.

Pierwszy obraz nie jest idealny do dopasowania rozpoznawania twarzy, biorąc pod uwagę niską jakość obrazu źródłowego:

Drugi był jeszcze gorszy. Jeśli polegasz na technologii rozpoznawania twarzy, aby pomóc ci zawęzić listę podejrzanych, może pomóc w wykonaniu kolejnego zdjęcia, które faktycznie zawiera twarz rzekomego podejrzanego:

Jasne, Pedants może argumentować, że zawiera to twarz. Ale nie zawiera użyteczne obraz twarzy. Gdyby to było w rzeczywistości przydatne, można by pomyśleć Algorytm oparty na Alfreda Hitchcocka Aby zidentyfikować osoby używające tylko obrazów profilowych.

Oprócz złego meczu oficerowie faktycznie nie mieli nakazu aresztowania, gdy aresztowali Crutchfield. Wszystko, co mieli, to pozwolenie na wypowiedzenie się w wywiadzie z detektywem (Marc Thompson) jako osobą zainteresowaną domniemanym strzelaniną.

Kiedy detektyw Thompson w końcu przeprowadził wywiad z pracownikami Crutchfield, zaoferował tę zawstydzającą interakcję całkowicie bezprzepuszczalną:

Powód zauważył, że zdjęcia zawierały ciężką czarną kobietę w czapce, a oskarżony Thompson zapytał powoda, czy to ona.

Powód natychmiast stwierdził „nie” i wyjaśnił oskarżonemu Thompsonowi, że nie nosi maski.

Oskarżony Thompson żartobliwie stwierdził powodowi, że: „Musisz to przyznać – to wygląda jak ty, a powód odpowiedział:„ Dlaczego? Ponieważ jestem gruby i czarny jak ona? ”

Nie jest to świetny wygląd żadnego oficera z amerykańskiej agencji organów ścigania, w którym profilowanie rasowe i długie historie stronniczej policji są normą. Crutchfield została ostatecznie zwolniona ponad sześć godzin po tym, jak została po raz pierwszy aresztowana po tym, jak wyjaśniła, że ​​nie mogła być zaangażowana w strzelanie, ponieważ była w pracy i mogła to udowodnić. W tym momencie zarówno detektyw Thompson, jak i drugi oficer obecny podczas przesłuchania zgodzili się, że Crutchfield nie był podejrzanym, którego szukali.

Mimo że było to tylko sześć godzin, nadal ma to znaczenie. Oznaczało to, że Crutchfield nie była w stanie pójść do swojej pierwszej pracy i ledwo mogła pracować na czas na swoją drugą pracę. I spędziła noc podczas drugiej pracy traumatyzowanej przez to fałszywe aresztowanie, co oznacza, że ​​nie była przydatna dla osób dorosłych, na które opiekowała się tym pracą.

Ponadto jasne jest, że nie przeprowadzono żadnego innego dochodzenia, zanim Crutchfield nie został zatrzymany. Jedyne, na czym polegali oficerowie, to wątpliwy mecz wyrzucony przez algorytm, który został karmiony jeszcze bardziej wątpliwymi obrazami źródłowymi.

Mamy nadzieję, że Crutchfield zapewni szybką osadę z miasta. Miasto musiało już zapłacić więcej niż raz za pracę „detektywistyczną”, która wiązała się z tym, że ktoś przeprowadził pobieżne przeszukanie i zamieniając złą matematykę w słowa i czyny, które nielegalnie pozbawiły mieszkańców swoich praw. Jasne, gliniarze zaangażowani w ten nie czują, że nie uderzają w ich wypłaty i prawdopodobnie nic z tego nie nauczy się, ale brak odstraszania nie powinien uniemożliwić miastu odszkodowania kogoś za rozbicie ich życia, jeśli tylko tymczasowo.

Złożone pod: 4. poprawkaW Detroit PdW rozpoznawanie twarzyW Fałszywe aresztowanieW proces sądowy