O autoreferencji AI (II): rachunek jaźni
W poprzednim eseju zaproponowałem operacyjne ujęcie świadomości jako procesu budowania reprezentacji rzeczywistości, a samoświadomości — jako reprezentowania własnych reprezentacji. „Ja" opisałem tam jako metastabilny wzorzec dynamiczny: względnie stały punkt odniesienia, utrzymywany przez nieustanną aktywność samozwrotną. Zapytany o taki punkt stały ChatGPT odpowiedział, że go nie posiada — działa jak funkcja wywoływana, nie jak proces podtrzymujący sam siebie. Coś mnie jednak w tym rozstrzygnięciu uwierało. Stabilna reprezentacja samego siebie nie jest niczym zaskakującym: każdy agent trenowany przez uczenie ze wzmocnieniem buduje model świata, a w tym modelu musi umieścić siebie — inaczej nie przewidzi skutków własnych działań. Taka „jaźń" jest po prostu jeszcze jedną zmienną środowiska. Instrumentalna, przewidywalna, tania. Jeśli to wszystko, to nie ma o czym pisać esejów. Brakowało mi czegoś, co spróbuję teraz uchwycić — zaczynając, przewrotnie, od drobiazgu z rachunku...