Chcielibyśmy powitać nowy głos w Econlib, Sama Enrighta. Sam pracuje nad polityką innowacyjności w Postęp Irlandiiniezależny zespół doradców ds. polityki z siedzibą w Dublinie i prowadzi publikację pt Fitzwilliama. Najbardziej dla nas istotne, na jego osobisty blogpisze popularną połączyć łapankaw którym krótko komentuje najciekawsze rzeczy, które przeczytał, obejrzał i przesłuchał w poprzednim miesiącu. Czasami są to jego „linkposty”. miłośnie wyśmiewany ze względu na ich zdumiewającą długość; poniżej znajduje się jego skrócona wersja Linki na październik.

Blogi i krótkie linki

1. Ava Huang na teoria wszystkiego o przyjaźni. (Podpisuję się pod tą teorią.)

2. Nie musisz wybierać pomiędzy środowisko i wzrost gospodarczy.

3. Gospodarka wolnorynkowa działa zaskakująco dobrze. Jak Noah Smith wskazuje w tym artykule, korzyści, jakie argentyńska gospodarka odnotowała dotychczas pod rządami Milei, można prawdopodobnie przypisać głównie ortodoksyjna polityka stabilizacji makroekonomicznej. Jest zbyt wcześnie, aby powiedzieć, czy pozostałe reformy odniosą sukces. Czy alternatywny tytuł „Wszyscy jesteśmy winni MFW przeprosiny”?

4. Jedynymi krajami, które opodatkowują obywateli niebędących rezydentami od światowych dochodów, są Stany Zjednoczone i… Erytrea. Oto wiki o Inny ograniczenia finansowe i prawne, przed którymi stają obywatele amerykańscy po emigracji, do których zalicza się zakaz inwestowania w największym instrumentem podatkowym w Wielkiej Brytanii, indywidualne konto oszczędnościowe. To jest od Bogleheadzistrona internetowa ludzi, którzy… naprawdę lubią Johna Bogle’a.

5. W końcu zrobimy to wszyscy pokochaj ceny za zatory komunikacyjne.

6. Sebastiana Garrena burzliwa podróż po historii gospodarczej Chile. Wkrótce usłyszycie na ten temat więcej:

Muzyka i podcasty

7. Chakravarthi Rangarajan o tym, co stało się z indyjską polityką pieniężną od liberalizacji w 1991 r. Nie zdawałem sobie sprawy, jak duży to problem dominacja fiskalna był w Indiach przed 1990 rokiem (a nawet czym tak naprawdę jest).

8. Dymitr Szostakowicz, Symfonia nr 8. I powiązane Odcinek Sticky Notes. To jest mroczniejsze i bardziej skomplikowane niż triumf Symfonia nr 7co byłoby lepszym miejscem na rozpoczęcie. Myślę, że można usłyszeć ostrożny optymizm co do postępu Armii Czerwonej i ogólnie dużo łatwiej jest mi dotrzeć do kompozytorów z konkretnymi epizodami historycznymi, z którymi są związani (premiera nr 8 miała miejsce w 1943 r., nr 7 do 1942).

9. Tabla Beat Science, Tala Matrix. Kolejny z zespołów Zakira Hussaina. Jeśli nadal nie czytałeś Nekrolog Shruti Rajagopalan dla Zakirato najlepsza rzecz, jaką znalazłem na temat muzyki indyjskiej.

10. Richard Sutton, ojciec uczenie się przez wzmacnianiedlaczego uważa LLM trafiają w ślepy zaułek. Kiedy nauczę się własnego?gorzka lekcja”, że nie jestem wystarczająco mądry, aby słuchać tych podcastów w trybie audio i muszę się na to przełączyć czytając transkrypcje?

Dokumenty tożsamości

11. PW Anderson, Więcej jest inne: złamana symetria i natura hierarchicznej struktury nauki. Tytuł tego artykułu słyszałem już niezliczoną ilość razy, ale nigdy nie miałem okazji go przeczytać. Autor przedstawia argumentację na rzecz antyredukcjonistycznego pluralizmu, która jest (jak sądzę?) podobna do tego, co mówi Daniel Dennett w swojej książce Prawdziwe wzory. Minęło trochę czasu, odkąd myślałem o tych kwestiach, ale z tego, co pamiętam, sympatyzowałem z twierdzeniem, że „chemia to po prostu fizyka stosowana” jest filozoficznie zagmatwana. Czytałem też A Retrospektywa 50 lat przez Stevena Strogatza i in. Z socjologicznego punktu widzenia jest to dość fascynujące, że niefilozofowi udało się napisać tak szeroko dyskutowany artykuł z filozofii na zaledwie czterech stronach.

12. Richard Sutton, Gorzka lekcja. Pomyślałem, że skoro czytam Suttona, równie dobrze mogę zająć się tym słynnym esejem. Oto lekcja, o której mowa:

Jednej rzeczy, której nauczyłem się od Suttona, jest to, że bardziej ogólne metody budowania sztucznej inteligencji – zwiększające skalę obliczeń i unikające symbolicznych reprezentacji Pamiętać – zwykło się nazywać „metodami słabymi”. Ludzie byli naprawdę przekonani, że skalowanie nie zadziała, i szczerze, kto może ich winić?

13. Davida Silvera, Richarda Suttona, Witamy w erze doświadczenia. Przeczytałem ten przystępny esej w ramach grupy czytelniczej poświęconej uczeniu maszynowemu z miłymi ludźmi z przestrzeni coworkingowej Mox. Mają fajną grupę, którą nazywają Klubem 90/30, w której tydzień po tygodniu czytają Lista Ilyi Sustkevera z 30 artykułów poświęconych sztucznej inteligencji, w których „Jeśli naprawdę nauczysz się tego wszystkiego, będziesz wiedział 90% tego, co jest dziś ważne”. Wygląda na to, że w pewnym momencie skończyli tę listę i przeszli do innych dokumentów. Zakładałem, że nie będę w stanie podsłuchać rozmowy z legendarnymi „pękniętymi” (czy dobrze używam tego określenia?) inżynierami z San Francisco, ale na szczęście udało mi się też posłuchać Sutton w podcaście Dwarkesh w przygotowaniu.

Szczerze mówiąc, uważam, że intensywne zainteresowanie Bay Area jest nadmiernie stymulujące, co przyczyniło się do złego nastroju i rozproszenia uwagi podczas mojej wizyty. W Dublinie podoba mi się to, że można tam poznać praktycznie każdego, kto ma określony zestaw zainteresowań. Małe stawy są niedoceniane.

W każdym razie podstawowym argumentem w artykule Silvera i Suttona jest to, że sztuczna inteligencja osiąga obecnie limit tego, czego może się nauczyć z danych generowanych przez człowieka, i w przyszłości sztuczna inteligencja będzie się uczyć głównie na podstawie doświadczenia, prób i błędów i tak dalej. Z tego punktu widzenia osiągnięcie superinteligencji będzie wymagało słynnej „zmiany paradygmatu” i będzie w dużej mierze opierać się na uczeniu się przez wzmacnianie. Oto kluczowy wykres ze strony 6:

Rysunek 1: Szkic chronologii dominujących paradygmatów sztucznej inteligencji. Oś Y sugeruje część całkowitego wysiłku i obliczeń w polu, która koncentruje się na uczeniu się przez wzmacnianie. Od Silvera i Suttona „Witamy w erze doświadczenia.”

Mają bardziej szczegółowy obraz, w którym najbardziej zaawansowana sztuczna inteligencja będzie sterowana ludzkimi pragnieniami i opiniami, których nie do końca przestrzegałem. Artykuł ten ukazał się w kwietniu i zostanie (ostatecznie) opublikowany w książce pt Projektowanie inteligencjiwięc złożę zamówienie w przedsprzedaży, gdy tylko będzie znana data premiery.

To wszystko jest dość ciężkie i boli mnie głowa, więc zakończę tę sekcję najnowszymi mądrościami mojego kolegi Davida:

• Możesz przeczytać pełną wersję tego wpisu Tutaj.

[1] Czytając ten temat, przypomniałem sobie o Komentarz do marginalnej rewolucji z 2023 r. o tym, jak John Bogle powinien otrzymać (hipotetyczną) Nagrodę Nobla dla praktyki ekonomicznej.
[2] Nazwisko Davida Silvera nie wydało mi się znajome, ale teraz zdaję sobie sprawę, że go widziałem ten niesamowity dokument o AlphaGo.