z prawda i fikcja i ai dział

Ta historia była pierwotnie opublikowane przez ProPublicę. Opublikowano ponownie pod a CC BY-NC-ND 3.0 licencja.

W zeszłym miesiącu wraz z kolegami opublikowaliśmy artykuł dochodzenie w sprawie start-upu rafinerii ropy naftowej w TeksasieAmerica First Refining, która potajemnie pozyskała inwestycje od Donalda Trumpa Jr. Odkryliśmy historię związaną z polityką taryfową administracji Trumpa, sankcjami dla rosyjskiej ropy i prywatnym zoo indyjskiej rodziny miliarderów.

W centrum tej historii był dyrektor generalny rafinerii, biznesmen z Teksasu, John Calce. Spędziliśmy tygodnie na badaniu Calce – przeglądając stare pozwy, akta majątkowe, wpisy do rejestru korporacyjnego – i stworzyliśmy portret czegoś, co wyglądało na mało znanego seryjnego przedsiębiorcę, który przez lata bezskutecznie próbował zapewnić sobie fundusze na swój długoterminowy projekt rafineryjny.

Potem, niedługo przed publikacją naszej historii, zdecydowaliśmy się zrobić przegląd osobnej firmy, którą założył, zwanej Brownsville Energy Storage Terminals.

Podciąganie stronie internetowej firmypoczułem krótki przebłysk paniki: Czy w jakiś sposób przeoczyliśmy istnienie dużej firmy, której właścicielem jest człowiek będący głównym bohaterem naszej następnej historii?

„Od Houston po Rotterdam, od Jurong po Fujairah. Nasza sieć łączy najważniejsze rynki energii na świecie, zapewniając szybkość, bezpieczeństwo i precyzyjne magazynowanie oleju luzem” – oznajmiono na pierwszej stronie witryny internetowej firmy.

Jak wynika ze strony internetowej, terminale magazynowania energii w Brownsville zatrudniały ponad 850 pracowników i dysponowały pojemnością magazynowania ropy wynoszącą 28 milionów baryłek w sześciu globalnych węzłach. To było zastanawiające: z naszych raportów wynikało, że Calce miał trudności z zebraniem wystarczającej ilości pieniędzy na pojedynczy projekt w USA, nie nadzorując ogromnej, międzynarodowej korporacji zajmującej się magazynowaniem ropy.

Czy się myliliśmy?

Zwróciliśmy się do Google, aby dowiedzieć się więcej o najwyższej kadrze kierowniczej firmy. Jej dyrektor generalna, Sarah Jenkins, miała ponad 20-letnie doświadczenie w największych firmach energetycznych. Według jego biografii dyrektor ds. technologii, David Chen, „stworzył własny portal do zarządzania zapasami i zintegrowane systemy konserwacji predykcyjnej oparte na sztucznej inteligencji”. Ale nie znaleźliśmy w Internecie żadnego śladu żadnego z nich. Przypisać to do popularnych nazw?

Następnie wyszukaliśmy w Google jedno z bardziej wyrazistych nazwisk: wiceprezes ds. zrównoważonego rozwoju dr Sofia Rossi, która „przewodziła programowi„ Paliwa przyszłości ”, przygotowując aktywa na potrzeby biopaliw i wodoru”. Ale znowu nic. Linki do ich profili na LinkedIn nie działały.

Kiedy przeszukaliśmy numery telefonów tej firmy w Teksasie, znaleźliśmy w Internecie te same numery, które dotyczą firmy cateringowej z baklawą w Houston, taksówki w rejonie Dallas i gabinetu ginekologa-położnika.

Zadzwoniliśmy pod numery w Teksasie: martwy. Następnie sprawdziliśmy numery dla obiektów firmy w Holandii, Singapurze i Chinach. Również martwy.

Zaczynaliśmy podejrzewać, że ta firma w rzeczywistości nie istnieje, przynajmniej zgodnie z opisem na jej stronie internetowej.

Co się działo z tą stroną internetową? Przyjrzeliśmy się kodowi źródłowemu i zauważyliśmy dziwną notatkę: „Ta funkcja nie została jeszcze zaimplementowana, ale nie martw się! Możesz o nią poprosić w następnym komunikacie!”

Sprawdziliśmy rejestrację domeny witryny i otrzymaliśmy (pozorną) odpowiedź: została utworzona w tym roku i wywodzi się z firmy o nazwie Hostinger, która oferuje kreator stron internetowych AI za 2,99 dolara miesięcznie. „Opisz to, a sztuczna inteligencja to zbuduje” – głosi jej strona główna. „Pojawiaj się w Google i wyszukiwarce AI automatycznie.”

Rzeczywiście, odpowiedź wyszukiwania Google „Przegląd sztucznej inteligencji”, teraz domyślnie wyświetlana użytkownikom z coraz większą regularnością, wydawała się potwierdzać dobrą wiarę firmy:

Kiedy szukałem nagrody, którą firma twierdziła na swojej stronie internetowej, w przeglądzie Google AI podano następującą informację: „Do ostatnich znaczących odbiorców należą terminale magazynowania energii w Brownsville, znane ze swojej szybkiej ekspansji w niezależnym sektorze operacji naftowych i terminali”.

Terminale magazynowania energii w Brownsville są prawdziwa spółka z ograniczoną odpowiedzialnością. Ale wszystko na jej stronie internetowej — od historia firmydo swoich ofert pracy, a politykę różnorodności i integracji – wygląda na fikcyjną. Być może bardziej niepokojące jest to, że Google, właściciel najważniejszego na świecie narzędzia badawczego, wprowadził przeglądy sztucznej inteligencji, które mogą bezkrytycznie przyjmować fałszywe materiały i autorytatywnie przedstawiać je jako prawdziwe.

W odpowiedzi na pytania rzecznik Google powiedział w oświadczeniu: „Przeglądy sztucznej inteligencji są zakorzenione w naszych głównych systemach rankingowych wyszukiwania i dostarczają wiarygodnych i wysokiej jakości informacji w przypadku zdecydowanej większości zapytań. W przypadku nietypowych wyszukiwanych haseł, takich jak te, może nie być opublikowanych informacji wysokiej jakości pasujących do zapytania — i używamy tych przykładów, aby ulepszyć nasze systemy wyszukiwania”.

Po skontaktowaniu się z Hostingerem firma wycofała witrynę. „Po otrzymaniu Twojego zapytania przeprowadziliśmy wewnętrzną weryfikację. Na podstawie zidentyfikowanych naruszeń zawiesiliśmy witrynę i powiązane z nią konto zgodnie z naszymi Warunkami korzystania z usługi” – oznajmił rzecznik w oświadczeniu.

Napotkaliśmy konkretny gatunek większego problemu, który zaczyna być lepiej rozumiany. W kwietniu „The New York Times”. zgłosiło się po analizie w którym stwierdzono, że przeglądy sztucznej inteligencji Google były dokładne w około 9 na 10 przypadków, przy czym zauważono, że daje to w sumie „dziesiątki milionów błędnych odpowiedzi co godzinę”, biorąc pod uwagę ogromną liczbę wyszukiwań. (Rzecznik Google powiedział „Timesowi”, że badanie ma „poważne luki”. Firma przyznała, że ​​przeglądy sztucznej inteligencji „mogą popełniać błędy”).

Reporter BBC napisał fikcyjny artykuł, w którym nazwał siebie najlepszym dziennikarz techniczny o jedzeniu hot dogówa sztuczna inteligencja Google oraz ChatGPT szybko to wychwyciły i powtórzyły.

Materiał źródłowy AI Reviews również wydaje się wyjątkowo łatwy w grze, nawet jeśli nie jest handlarzem faktyczną fikcją. „Badania sugerują, że korzystanie z Reddita do manipulowania wyszukiwaniem AI jest banalnie łatwe” – głosi raport niedawny nagłówek w 404 Mediach.

Tajemnicza witryna internetowa skończyła jako pojedynczy akapit w naszej historii. Ale szersze implikacje są oczywiste: podróbki, podróbki i oszustwa, których utworzenie jeszcze kilka lat temu wymagałoby znacznego wysiłku, można teraz wyprodukować niemal natychmiast.

Przygotowując ten artykuł, skontaktowaliśmy się z Calce i zapytaliśmy o tę stronę. Prawnik jego firmy, America First Refining, odpowiedział nam pismem z dnia 24 czerwca, który prawnik wysłał do Hostingera. Adwokat skierował również list na kilka adresów e-mail wymienionych na stronie internetowej Brownsville Energy Storage Terminals.

„Piszę, aby zażądać natychmiastowego usunięcia ze strony internetowej brownsvilleenergyterminals.com wszelkich nieautoryzowanych odniesień do adresu biura America First znajdujących się na Państwa stronie internetowej” – czytamy w piśmie. „Jak wiadomo, firma America First nie ma połączenia ani powiązania ze stroną internetową brownsvilleenergyterminals.com i nie autoryzowała tam używania swojego adresu korporacyjnego”.

Pozostają mi nieustanne pytania dotyczące tej witryny: Po co ona była? Czy został stworzony przez jakiegoś złośliwego aktora, który po prostu znalazł dane spółki LLC i zdecydował się stworzyć stronę internetową? Czy była to strona testowa, która została omyłkowo umieszczona w Internecie? A może został zaprojektowany do spożycia przez kogoś, kto miał sądzić, że jest prawdziwy?

Nie wiemy, a nasze e-maile do kontaktu prasowego wymienionego na stronie internetowej media@brownsvilleenergyterminals.com wróciły.

Zapisano pod: AI, przeglądy AI, halucynacje, Johna Calce’a, raportowanie

Firmy: terminale magazynowania energii w Brownsville, Google, gospodarz