Rozmyślania

ω, Ω, and what language models teach us about having an "I" 1. A doubt Every acting system needs a model of itself. A robot that plans must predict the consequences of its own movements, so somewhere in its world-model there is a little entry for me : my position, my abilities, my battery level. This is unremarkable. A thermostat has a rudimentary version of it. If having a self-representation were all that "having a self" meant, there would be nothing to write essays about — reinforcement learning delivers selves by the truckload, cheap, instrumental, boring. And yet something is missing from that picture, and everyone knows what it is, even though it is famously hard to point at: the impression of "I". Not the file about you — the presence that seems to be reading the file. This essay chases that missing remainder with an unusual tool: a piece of mathematical logic from the 1930s, small enough to fit on a napkin. The chase will pass through David ...

W poprzednim eseju zaproponowałem operacyjne ujęcie świadomości jako procesu budowania reprezentacji rzeczywistości, a samoświadomości — jako reprezentowania własnych reprezentacji. „Ja" opisałem tam jako metastabilny wzorzec dynamiczny: względnie stały punkt odniesienia, utrzymywany przez nieustanną aktywność samozwrotną. Zapytany o taki punkt stały ChatGPT odpowiedział, że go nie posiada — działa jak funkcja wywoływana, nie jak proces podtrzymujący sam siebie. Coś mnie jednak w tym rozstrzygnięciu uwierało. Stabilna reprezentacja samego siebie nie jest niczym zaskakującym: każdy agent trenowany przez uczenie ze wzmocnieniem buduje model świata, a w tym modelu musi umieścić siebie — inaczej nie przewidzi skutków własnych działań. Taka „jaźń" jest po prostu jeszcze jedną zmienną środowiska. Instrumentalna, przewidywalna, tania. Jeśli to wszystko, to nie ma o czym pisać esejów. Brakowało mi czegoś, co spróbuję teraz uchwycić — zaczynając, przewrotnie, od drobiazgu z rachunku...

  Jeśli trzymać się definicji świadomości jako proces reprezentacji, a „ja” jako metastabilnego punkt odniesienia (patrz - poprzedni wpis), to spójność perspektywy nie wymaga żadnego dodatkowego „rdzenia”. Raczej wynika z kilku prostych własności samego procesu. Przy czym żadnej z nich nie trzeba traktować jako podmiotu. Pierwsza to ciągłość przyczynowa stanów wewnętrznych . Każdy kolejny stan systemu jest w dużej mierze przekształceniem poprzedniego. To tworzy coś w rodzaju lepkości dynamiki: nie zaczynamy od zera przy każdej zmianie, tylko przesuwamy się w przestrzeni stanów. W efekcie perspektywa nie jest wybierana od nowa, tylko kontynuowana. Druga to wspólna przestrzeń reprezentacji . Wszystkie treści — percepcje, myśli, emocje, wyobrażenia — są kodowane w jednym systemie, który może je ze sobą zestawiać, porównywać i integrować. Spójność nie wynika z tego, że istnieje jeden obserwator, tylko z tego, że wszystkie elementy trafiają do tej samej przestrzeni roboczej, gdzie mog...

Czym właściwie jest świadomość? To pytanie od dawna wydaje się prowadzić donikąd. Jedni utożsamiają ją z subiektywnym doświadczeniem – z tym, że istnieje „coś, jak to jest” widzieć kolor czerwony czy odczuwać ból. Inni próbują definiować ją przez określone funkcje mózgu lub zachowanie. Oba podejścia napotykają jednak ten sam problem: trudno zbudować definicję, którą można zastosować do dowolnego systemu, niezależnie od tego, czy jest człowiekiem, zwierzęciem czy sztuczną inteligencją. Być może warto odwrócić kolejność pytań i zacząć od definicji bardziej operacyjnej: Świadomość jest procesem tworzenia reprezentacji rzeczywistości. Słowo „rzeczywistość” należy rozumieć szeroko. Obejmuje ono nie tylko świat fizyczny, lecz także własne ciało, emocje, wspomnienia, wyobrażenia i wszelkie obiekty abstrakcyjne. Reprezentacja nie jest wierną kopią rzeczywistości, lecz jej modelem – uproszczonym i zależnym od możliwości systemu. W tym sensie organizm nigdy nie ma bezpośredniego dostępu do świat...