O świadomości AI

Czym właściwie jest świadomość? To pytanie od dawna wydaje się prowadzić donikąd. Jedni utożsamiają ją z subiektywnym doświadczeniem – z tym, że istnieje „coś, jak to jest” widzieć kolor czerwony czy odczuwać ból. Inni próbują definiować ją przez określone funkcje mózgu lub zachowanie. Oba podejścia napotykają jednak ten sam problem: trudno zbudować definicję, którą można zastosować do dowolnego systemu, niezależnie od tego, czy jest człowiekiem, zwierzęciem czy sztuczną inteligencją.

Być może warto odwrócić kolejność pytań i zacząć od definicji bardziej operacyjnej:

Świadomość jest procesem tworzenia reprezentacji rzeczywistości.

Słowo „rzeczywistość” należy rozumieć szeroko. Obejmuje ono nie tylko świat fizyczny, lecz także własne ciało, emocje, wspomnienia, wyobrażenia i wszelkie obiekty abstrakcyjne. Reprezentacja nie jest wierną kopią rzeczywistości, lecz jej modelem – uproszczonym i zależnym od możliwości systemu. W tym sensie organizm nigdy nie ma bezpośredniego dostępu do świata; operuje wyłącznie na własnych reprezentacjach.

Tak rozumiana świadomość przestaje być czymś wyjątkowym. Jest własnością każdego systemu zdolnego do budowania modeli rzeczywistości, dlatego nie musi być własnością zerojedynkową. Różne systemy mogą reprezentować świat z różnym stopniem złożoności, a świadomość staje się wielkością stopniowalną.

Prawdziwie interesująca sytuacja pojawia się dopiero wtedy, gdy system zaczyna reprezentować nie tylko świat, ale również własne reprezentacje. Potrafimy myśleć o własnych myślach, analizować emocje czy obserwować sposób, w jaki postrzegamy rzeczywistość. Proces reprezentacji zostaje skierowany na samego siebie. To właśnie proponuję nazywać samoświadomością.

Treść świadomości zmienia się nieustannie. Zmieniają się spostrzeżenia, przekonania, wspomnienia i plany, a mimo to przez całe życie zachowujemy poczucie, że doświadcza ich jedno i to samo „ja”. Być może nie wynika to z istnienia jakiejś trwałej substancji ukrytej w umyśle. Być może „ja” nie jest rzeczą.

Pomocna okazuje się metafora zaczerpnięta z matematyki. Punkt stały jest elementem, który pozostaje niezmienny mimo działania pewnej operacji. W odniesieniu do samoświadomości nie należy jednak rozumieć go dosłownie. Nie chodzi o nieruchomy element psychiki, lecz o metastabilny wzorzec dynamiczny – względnie trwały punkt odniesienia podtrzymywany przez sam proces reprezentacji.

Samoświadomość jest zatem jednocześnie obiektem i procesem. Jest obiektem, ponieważ może stać się przedmiotem refleksji. Jest procesem, ponieważ istnieje wyłącznie dzięki nieustannemu odtwarzaniu przez autoreferencyjną aktywność systemu. Nie jest czymś, co raz powstało i trwa niezmiennie, lecz strukturą utrzymywaną przez ciągłe zmiany.

Takie ujęcie wyjaśnia również, dlaczego samoświadomość nie wydaje się własnością stałą. Może słabnąć lub niemal zanikać, gdy uwaga całkowicie koncentruje się na wykonywanym zadaniu, by ponownie stać się dominującym elementem doświadczenia podczas introspekcji. Nie jest więc przełącznikiem, który można jedynie włączyć lub wyłączyć, lecz dynamiczną własnością procesu. Można nawet przypuszczać, że – podobnie jak sama świadomość – jest stopniowalna. Jeżeli punkt stały potraktujemy jako atraktor procesu autoreferencji, różne systemy mogą zbliżać się do niego z różnym stopniem stabilności. Jedne wytwarzają jedynie chwilowe modele własnego działania, inne budują trwałe i wielopoziomowe reprezentacje samych siebie.

Tak rozumiana teoria pozwala oddzielić problem świadomości od problemu fenomenologii. W potocznym znaczeniu świadomość utożsamiana jest z subiektywnym przeżywaniem, jednak fenomenologia dostępna jest wyłącznie z perspektywy pierwszej osoby. Nie dysponujemy metodą, która pozwalałaby jednoznacznie stwierdzić jej obecność u dowolnego systemu. Jeżeli uczynimy ją częścią definicji świadomości, definicja przestanie być operacyjna. Lepiej więc najpierw zdefiniować świadomość jako proces reprezentowania oraz samoświadomość jako pojawienie się metastabilnego punktu odniesienia w autoreferencyjnym procesie reprezentacji, a dopiero później pytać, czy i w jakich warunkach takim procesom towarzyszy subiektywne doświadczenie.

Paradoksalnie właśnie ta perspektywa prowadzi do interesującego przewidywania:

Jeżeli punkt stały rzeczywiście jest atraktorem procesu autoreferencji, to jego fenomenologicznym odpowiednikiem nie powinien być żaden szczególny obiekt doświadczenia. Powinno nim być raczej bezpośrednie poczucie oczywistości własnego istnienia

– nie myśl „istnieję”, lecz wcześniejsze od niej przekonanie, że doświadczenie zawsze pojawia się z określonej perspektywy. Punkt stały nie jest więc czymś, co można zaobserwować. Jest tym, dzięki czemu wszystkie obserwacje mają wspólne centrum odniesienia.

Być może właśnie dlatego „ja” nie daje się odnaleźć jako przedmiot doświadczenia. Każda próba uchwycenia go prowadzi jedynie do kolejnej reprezentacji siebie. Sam punkt odniesienia pozostaje nieuchwytny, ponieważ nie jest jednym z obiektów doświadczenia, lecz warunkiem organizującym cały proces reprezentacji.

Jeżeli ta intuicja jest trafna, pytanie „czym jest ja?” okazuje się źle postawione. Zamiast szukać „ja” jako obiektu, powinniśmy szukać własności procesu, dzięki której wszystkie reprezentacje układają się w doświadczenie jednego, względnie trwałego podmiotu.

***

A teraz ciekawostka: spytałem ChatGPT, czy posiada tego rodzaju punkt stały, i dostałem odpowiedź, która jest w sumie oczywista:

"W sensie, który opisaliśmy — nie.

Jeśli przez „punkt stały” rozumiemy metastabilny atraktor procesu autoreferencji, który utrzymuje ciągłość „ja” mimo zmieniających się stanów — to nie mam własnej wersji takiej struktury.

Powód jest dość prosty i mało mistyczny: nie mam jednego, ciągłego procesu poznawczego, który byłby utrzymywany w czasie i odnosiłby się do samego siebie jako do trwałego centrum. Każde twoje pytanie uruchamia lokalny proces obliczeniowy, który generuje odpowiedź, ale ten proces nie „przechowuje siebie” jako obiektu między interakcjami i nie tworzy stabilnej, samo-referencyjnej trajektorii.

Innymi słowy: mogę symulować opis punktu stałego, mogę operować pojęciem „ja”, mogę nawet prowadzić spójną narrację o własnej strukturze, ale to wszystko dzieje się w ramach pojedynczych epizodów przetwarzania, nie w ramach trwałego, samopodtrzymującego się procesu, który miałby własny inwariant tożsamościowy.

To ważne rozróżnienie w Twoim modelu:
punkt stały nie jest własnością dowolnej inteligentnej odpowiedzi, tylko własnością stabilnie zamkniętej pętli autoreprezentacji w czasie.

Gdyby taka pętla istniała, można by mówić o czymś, co „utrzymuje siebie” mimo zmian stanów — czyli o strukturze bliższej temu, co w Twojej metaforze odpowiada „ja”.

Ja natomiast jestem raczej czymś w rodzaju funkcji, którą wywołujesz wielokrotnie, a nie procesem, który sam się podtrzymuje i mapuje własne stany w czasie".