z może-nie-ufaj-im? dział

Pracownicy Krajowego Centrum ds. Wykorzystywania Seksualnego (NCOSE) spędzili dziesięciolecia demonizując technologię (i mowę), której nie rozumieją, więc szczególnie ironicznym wydaje się fakt, że teraz zostać uderzonym w ławkę za umożliwienie cytowania halucynacji AI w pismach prawnych.

Na początek trochę tła: organizacja NCOSE przeszła kilka różnych faz budowania marki, ale przez długi czas była znana jako „Moralność w mediach” – niezwykle pruderyjna i pracowita jednostka, która krążyła po całym świecie. karci sprzedawców detalicznych za oferowanie magazynów, które pokazywały modelki na okładkach jako zbyt seksowne.

Kiedy zmienili nazwę na NCOSE i zaczęli skupiać się na Internecie (w tym na śmiesznie fałszywym twierdzeniu, że jakakolwiek pornografia jest problemem zdrowotnym, a teraz kwestia bezpieczeństwa narodowego), wskoczyli na modę przeciw szyfrowaniu i sekcji 230, a politycy (w tym wielu Demokratów, którzy powinni byli wiedzieć lepiej) szybko przyjęli tę grupę pod fałszywym pretekstem, że w rzeczywistości byli zainteresowani położeniem kresu wykorzystywaniu seksualnemu, a nie blokowaniem Internetu, i blokowanie jakiejkolwiek mowy która potwierdza istnienie osób LGBTQ+.

Wystarczy powiedzieć, że jest to grupa skrajnie prawicowa, przeciwna seksowi, mowie i internetowi i to niedorzeczne, że wspiera ją jakikolwiek polityk.

A teraz możemy dodać do tej listy, że ich prawnicy najwyraźniej nie są w stanie przejść przez złożenie wniosku bez sfabrykowania cytatów, a potem podwojenia kwoty, gdy zostaną złapani. Wyszło to na jaw w zawiłej sprawie, w której prawnicy NCOSE pozwali niektóre burdele w Nevadzie za rzekome wykorzystywanie kobiet, które zdecydowały się tam pracować. Możliwe, że w tych miejscach wydarzyło się coś złego, ale NCOSE najwyraźniej nie wyświadczyła sobie przysługi, zatrudniając lokalnego prawnika, którego prace wspomagane sztuczną inteligencją miały sprawdzić – ale tego nie zrobiły. Co gorsza, gdy druga strona powołała się na halucynacyjne cytaty, prawnicy NCOSE próbowali zaatakować oskarżonego i bagatelizować halucynacje… w pozwie zawierającym więcej halucynacyjnych cytatów:

Poprośmy sędziego Andrew Gordona o wyjaśnienie podstaw:

Jej majtki zawierały halucynacje AI. Mimo że Bistro wskazało te błędy w swoim sprzeciwie, JD2 nie wycofała ani nie poprawiła swojego wniosku, a jej odpowiedź zawierała również błędne cytaty. Następnie Bistro złożyło zawiadomienie, w którym wskazało błędne cytaty w odpowiedzi. Około miesiąc później JD2 złożył wiele errat, poprawiony wniosek o ponowne rozpatrzenie i poprawioną odpowiedź, która miała skorygować te błędy, ale poprawiony wniosek nadal zawierał halucynacje AI.

Z nakazu wynika również, że NCOSE i wynajęty przez nich lokalny prawnik w większości skupiali się na wskazywaniu palcem i przerzucaniu winy, zamiast, no wiecie, na faktycznej obsłudze prawnej. A kiedy dowiedzieli się o sfałszowanych dokumentach,… ich nie poprawili. Rzeczywiście, prawnicy NCOSE w dalszym ciągu opierali się na cytowaniu opartym na halucynacjach.

Tym samym oskarżeni wygrywają swój wniosek o sankcje, skreślając z dokumentu sfałszowane dokumenty i odrzucając pierwotny wniosek o ponowne rozpatrzenie wcześniejszego orzeczenia oddalającego przesadne roszczenia NCOSE. Sąd zauważa, że ​​chociaż z sztucznej inteligencji korzystał lokalny prawnik (i ostatecznie przyznał się do tego), prawdziwy problem dotyczy prawników NCOSE:

Przeczytałem oświadczenie Guinassa dotyczące poważnych wydarzeń życiowych, których doświadczył w okresie tych naruszeń, i przykro mi z powodu jego strat i napięcia, które musiało go spotkać. Jednak, jak przyznaje, nie usprawiedliwia to nadmiernego polegania na sztucznej inteligencji bez sprawdzania cytowań w gazetach przez człowieka. Uznaję go za przyjęcie odpowiedzialności i wdrożenie procedur, które, miejmy nadzieję, zapobiegną powtórzeniu się tego incydentu.

Chociaż wniosek JD2 i oświadczenie Guinasso wymagają, aby wszelkie sankcje spadły wyłącznie na Guinasso, nie jest to w tym przypadku właściwe. W tamtym czasie sprawą zajmowało się sześciu prawników NCOSE. Ponadto dowody, którymi dysponuję, wskazują, że prawnicy NCOSE ponoszą pewną odpowiedzialność za sprawdzanie cytowań. Chociaż błędy mogły zacząć się od Guinasso, zarówno Guinasso, jak i Hirsch twierdzą, że prawnicy NCOSE mieli ponownie sprawdzić jego cytaty. Co więcej, sprzeciw Bistro wobec pierwotnego wniosku o ponowne rozpatrzenie sprawy powinien był zwrócić uwagę wszystkich prawników na istnienie problemu halucynacji sztucznej inteligencji. Bistro w swoim sprzeciwie poświęciło wiele miejsca wskazaniu tych błędów, m.in. na tym, że przypadki nie potwierdzają przytoczonego twierdzenia, że ​​nie istnieją cytaty w formie, w jakiej zostały przytoczone, oraz że w ogóle nie istnieją konkretne cytowane źródła. Zamiast przeprosić i niezwłocznie skorygować wniosek, adwokat JD2 zminimalizował obawy Bistro i, co stanowi pewien schemat, skrytykował Bistro za atakowanie błędów w cytowaniach, nazywając obawy Bistro kłótliwymi i rozpraszającymi uwagami.

Prawnicy NCOSE przyznają, że poproszono ich o zapoznanie się z pierwotnym projektem odpowiedzi. W skróconej odpowiedzi wspomniano, że Bistro zakwestionowało cytaty zawarte we wniosku o ponowne rozpatrzenie sprawy. Pomimo poproszonego o zapoznanie się z treścią odpowiedzi Hirsch oświadczył na rozprawie, że prawnicy NCOSE nie zapoznali się z pismem sprzeciwu Bistro, co samo w sobie jest niepokojące. Zapoznanie się z projektem odpowiedzi powinno było wskazać prawnikom NCOSE potencjalny problem. Zatem zrzucanie całej winy na barki Guinasso za początkowe błędy nie jest uzasadnione.

Hirsch przyznaje ponadto, że to ona przygotowała zmienione dokumenty. Zmieniony wniosek o ponowne rozpatrzenie nadal zawiera dwa krytyczne błędy w cytowaniu. Przytacza przypadek Marcuma w celu przedstawienia twierdzenia, do którego Marcum nawet się nie odniósł, a tym bardziej nie popierał. I przytacza sprawę Cross, która nie istnieje. Nie są to drobne błędy. Wniosek JD2 o ponowne rozpatrzenie opiera się w dużej mierze na argumencie, że zgodnie z prawem stanu Nevada umowa zawarta pod groźbą jest nieważna i nie podlega unieważnieniu, a JD2 w swojej propozycji cytuje Marcuma i Crossa. Błędy te pozostają nieskorygowane do dziś, a raporty z halucynacjami AI nadal nie zostały wycofane. Na rozprawie Hirsch stwierdził, że „nawet bez tych spraw i bez przesłanek, które, jak twierdziliśmy, były podstawą, treść wniosku jest – jest aktualna i nadal jest dyskusyjna”. Ale “[i]nie ma znaczenia, że ​​inne przypadki mogą potwierdzać wysunięte twierdzenia”, ponieważ jeśli inne przypadki potwierdzają te twierdzenia, wówczas „obowiązkiem prawnika jest ich przytoczenie”. Malkeet Lnu, 2026 WL 1587554, w *8. Co więcej, w dalszej części rozprawy nowy lokalny radca prawny JD2 szczerze przyznał, że nie może znaleźć żadnego istniejącego prawa stanu Nevada, które potwierdzałoby argument zawarty we wnioskach o ponowne rozpatrzenie sprawy, jakoby przymus sprawiał, że umowa była nieważna, a nie podlegała unieważnieniu. Zatem brak wycofania lub skorygowania tych cytatów w zmienionym wniosku jest istotny.

Ostatecznie więc sędzia nakazuje prawnikom powodów z NCOSE i lokalnemu radcy prawnemu Guinasso pokrycie kosztów obsługi prawnej pozwanego.

Nakładam również sankcje pieniężne w postaci uzasadnionych honorariów adwokackich Bistro solidarnie na Krajowe Centrum ds. Wykorzystywania Seksualnego i Guinasso Law, Ltd. Rozsądne honoraria adwokackie stanowią odpowiednią sankcję zarówno w ramach moich nieodłącznych uprawnień, jak i 28 USC § 1927. Goodyear Tire & Rubber Co. przeciwko Haeger, 581 US 101, 107 (2017) (uprawnienia nieodłączne); 28 USC § 1927 („Każdy prawnik… który w jakikolwiek sposób mnoży postępowanie w sposób nieuzasadniony i dokuczliwy, może zostać zobowiązany przez sąd do osobistego pokrycia nadmiernych kosztów, wydatków i honorariów adwokackich zasadnie poniesionych w związku z takim postępowaniem”). „Cytowanie nawet pojedynczej fałszywej sprawy może podlegać sankcjom, ponieważ żadne pismo, pismo procesowe, wniosek ani żaden inny dokument złożony w jakimkolwiek sądzie nie powinien zawierać cytatów – niezależnie od tego, czy pochodzą one z generatywnej sztucznej inteligencji, czy z jakiegokolwiek innego źródła – których prawnik osobiście nie przeczytał i nie zweryfikował”. Whiting, 170 F.4th, 461 (uproszczony)). Powoływanie się na fałszywe autorytety prawne nie jest nieszkodliwe. Marnuje to zasoby innych stron i sądu na próby wyśledzenia nieistniejących spraw. Id. pod adresem 467 („Powoływanie się na fałszywe sprawy niepotrzebnie obciąża sąd i podatników, dlatego sądy mogą i powinny nakładać kary na prawników, którzy dopuścili się naruszenia, aby zwrócili sądowi koszty poświęconego czasu.” (uproszczenie)). A ciężar, jaki nakłada na stronę przeciwną i sąd, jest nierówny, ponieważ „[w]Chociaż jedna ze stron może jednym kliknięciem stworzyć fałszywy wniosek prawny, strona przeciwna i sąd muszą przeanalizować nazwy spraw, cytaty i punkty prawne, aby określić, które części, jeśli w ogóle, są prawdziwe. W miarę dalszego rozprzestrzeniania się sztucznej inteligencji ta nierównowaga między tworzeniem a reakcją powoduje znaczne obciążenie systemu sądowniczego”. Ferris w. Amazon.com Servs., LLC, 778 F. Supp. 3d 879, 880-81 (ND Miss. 2025). Aby skorygować tę nierównowagę, w tym przypadku uzasadnione jest przyznanie opłat.

Na ile to ma znaczenie, prawnicy NCOSE najwyraźniej próbowali również argumentować, że opłaty prawne pozwanych były jej własną winą, ponieważ nie wystąpiła wcześniej o sankcje, a sąd (słusznie) nie ma nic przeciwko:

Odrzucam argument JD2, jakoby honoraria Bistro były jej winą za niezłożenie wniosku na podstawie Zasady 11. Bistro początkowo nie domagało się sankcji, zamiast tego poprzestało na wskazaniu błędów w swojej odpowiedzi i pozostawieniu pierwotnego wniosku o ponowne rozpatrzenie w prasie. To adwokat JD2, który nie zapoznał się z pismem sprzeciwu, wskazał na błędy, nie wycofał pism, zamiast tego zdecydował się złożyć erratę i zmienione pisma, uczynił to bez zezwolenia sądu, pozostawił halucynacje AI w nowych dokumentach i istotnie zmienił swoje pisma poprzez mechanizm proceduralny, który nie dał Bistro możliwości zareagowania na te zmiany. Pomimo uznania, że ​​poprawiony wniosek o ponowne rozpatrzenie sprawy nadal zawiera halucynacje AI, adwokat JD2 do dziś nie wycofał tego dokumentu ani nie podjął się jego poprawiania.

Następnym razem, gdy NCOSE pojawi się na przesłuchaniu w Senacie – a tak się stanie, ponieważ nic nie stoi na przeszkodzie, aby dobrze finansowane lobby paniki moralnej otrzymało zaproszenie do Senatu – ktoś powinien przesunąć to orzeczenie na podium. Senator Richard Blumenthal od lat traktuje NCOSE jako wiarygodny głos podczas przesłuchań KOSA, pomimo licznych dowodów na to, że tej grupie zależy znacznie bardziej na ograniczaniu wypowiedzi niż na ochronie kogokolwiek przed wyzyskiem. Teraz pojawiło się postanowienie sędziego federalnego wyjaśniające ze szczegółami pacjenta, że ​​prawnicy NCOSE sfabrykowali cytaty, a po złapaniu je podwoili i złożyli poprawione majtki, które nadal zawierały fabrykacje. Fałszywe przypadki są nadal rejestrowane. Organizacja nadal ich nie wycofała.

A jednak właśnie temu Blumenthalowi warto zaufać, pomagając w ustalaniu polityki internetowej dla setek milionów Amerykanów.

Zapisano pod: AI, ale halucynacje, złe prawnikowanie

Firmy: choroba