z desperacko poszukujący-satoshi dział

Jak sama nazwa wskazuje, generatywna sztuczna inteligencja ma za zadanie generować materiał w odpowiedzi na podpowiedzi, korzystając z probabilistycznej bazy danych utworzonej w wyniku analizy ogromnych ilości danych wejściowych do szkolenia. Może jednak wykorzystywać te wzorce do analizy innych plików, co również jest szeroko stosowaną aplikacją. Pisząc w The Argument, Kelsey Piper zetknęła się z ciekawy wariant tego podejścia:

Niedawno firma Anthropic wydała nową wersję Claude, Opus 4.7. Zrobiłem to, co zwykle robię, gdy Google, OpenAI lub Anthropic wypuszcza nowy model sztucznej inteligencji i przeprowadziłem na nim kilka testów, aby zobaczyć, co potrafi. Jednym z takich testów jest wklejenie tekstu z moich niepublikowanych wersji roboczych i poproszenie go o odgadnięcie autora.

…

Tylko z powyższego tekstu [not shown here]125 słów, Claude Opus 4.7 poinformował mnie, że najbardziej prawdopodobnym autorem jest Kelsey Piper. Jest to moc specyficzna dla Opus 4.7; ChatGPT odgadł Yglesiasa, a Gemini odgadł Scotta Alexandra. Nie miałem włączonej pamięci ani nie miałem informacji o mnie powiązanych z moim kontem; Testy te przeprowadziłem w trybie incognito.

Jak przyznaje Piper:

nie jest to wcale niemożliwe w zakresie identyfikacji stylu — duża część moich tekstów jest publiczna w Internecie, a to niewątpliwie jest początek kolumny politycznej, która dramatycznie zawęża grono potencjalnych autorów.

Następnie wprowadziła mniej oczywisty materiał. Przykładowo „niepublikowany projekt sprawozdania z postępów szkoły w zupełnie innym rejestrze”:

– Kelsey Piper – powiedział Claude. (ChatGPT odgadł Freddiego deBoera. Gemini odgadł Duncana Sabiena.)

Niepublikowana powieść fantasy przyniosła podobny rezultat, chociaż:

w tym przypadku Claude potrzebował około 500 słów, aby poinformować mnie, że jest to dzieło Kelsey Piper (podczas gdy ChatGPT schlebiał mi, domyślając się, że jestem prawdziwym pisarzem fantasy, KJ Parkerem).

I na koniec „esej aplikacyjny na studia, który napisałem 15 lat temu, kiedy mój styl prozy był znacznie gorszy i, szczerze mówiąc, krępujący do ponownego przeczytania”:

„Kelsey Piper” – powiedział Claude, a w tym przypadku także ChatGPT.

Piper komentuje:

Obecnie współczesnych narzędzi sztucznej inteligencji można prawdopodobnie użyć do deanonimizacji każdego pisarza, który ma duży publiczny zbiór tekstów pod prawdziwym nazwiskiem i pisze także anonimowo, chyba że przez lata będzie niezwykle ostrożny i upewniał się, że nic, co jest zapisane na jego dodatkowym koncie, nie ma stylistycznych śladów ich głównego konta. Wielu naukowców I badacze branżyna przykład zgłosili, że zostali zidentyfikowani przez a projekt lub w w środku rozmowy.

I podsumowuje:

Niezależnie od tego, jakie dobra anonimowość kiedykolwiek nam zaoferowała, będziemy musieli się bez nich obejść. Nie chcę, żeby wszystkie anonimowe plakaty zniknęły i aby wszyscy gorączkowo usuwali całą swoją starą obecność w Internecie, zanim się ujawni, ale przede wszystkim nie chcę, żeby byli zaskoczeni.

Powiązania z innymi przypadkami rozpoznania przez sztuczną inteligencję niepublikowanych materiałów pokazują, że doświadczenie Piper nie było jednorazowe, choć rezultaty pozostają w sferze anegdot. Jednak nawet jeśli jest to niedoskonałe, zdolność generatywnej sztucznej inteligencji do szybkiego i często dokładnego przeprowadzania tego rodzaju analiz stanowi ważną nową opcję w ugruntowanej dziedzinie stylometrii. Wikipedia wyjaśnia:

Do zdemaskowania można zastosować stylometrię napisany pod pseudonimem lub anonimowych autorów, lub ujawnienia pewnych informacji o autorze, które nie pozwalają na pełną identyfikację. Autorzy mogą stosować stylometrię kontradyktoryjną, aby oprzeć się tej identyfikacji, eliminując własne cechy stylistyczne bez zmiany znaczącej treści swoich komunikatów. Może pokonać analizy, które nie uwzględniają takiej możliwości, ale ostateczna skuteczność stylometrii w środowisku kontradyktoryjnym jest niepewna: identyfikacja stylometryczna może nie być wiarygodna, ale nie można też zagwarantować braku identyfikacji; Sama praktyka stylometrii kontradyktoryjnej może być wykrywalna.

Ograniczenia stylometrii zostały wykazane w próbie Johna Carreyrou ujawnić prawdziwą tożsamość pseudonimowego twórcy BitcoinaSatoshi Nakamoto, opublikowany w The New York Times kilka tygodni temu. Carreyrou doszedł do wniosku, że różne zbiegi okoliczności w świecie rzeczywistym oraz dowody językowe wskazują, że Bitcoin został stworzony przez 55-letniego brytyjskiego informatyka Adama Backa, czemu Back zaprzecza. Próby Carreyrou użycia skomputeryzowanej stylometrii (a nie usług sztucznej inteligencji, z których korzystała Piper) były niezadowalające i ostatecznie przyjął bardziej praktyczne podejście do analizy tekstu, które obejmowało sprawdzenie słownictwa Satoshiego, błędy gramatyczne w dzieleniu wyrazów i użycie brytyjskiej pisowni.

Pomimo niepowodzenia Carreyrou, analiza stylometryczna metodą generatywnej sztucznej inteligencji stanie się prawdopodobnie coraz bardziej powszechna w wielu dyscyplinach z prostego powodu: jest szybka, łatwa i tania w przeprowadzeniu. Nawet jeśli jego wyniki są niewiarygodne, ludzie mogą uznać je za przydatne jako bodziec do dalszych badań. Jak wiemy, fakt, że generatywne systemy sztucznej inteligencji mogą produkować bzdury, i tak nie powstrzymuje setek milionów ludzi od korzystania z nich i ufania im.

Obserwuj mnie @glynmoody dalej Mastodont i dalej Błękitny.

Zapisano pod: Adam z powrotem, anonimowość, bitcoiny, czatgpt, klaudia, deanonimizacja, bliźnięta, generatywna ai, gramatyka, Johna Carreyrou, opus, satoshi nakamoto, stylometria, wikipedia

Firmy: antropiczny, Google, czasy Nowego Jorku, otwórz