Jakiś czas temu rozmawiałem z Jerzym Rzymowskim o buncie maszyn, zdaje się, że w kontekście Terminatora, i jak zwykle przy takich okazjach, zeszliśmy na temat mechanicznego myślenia. Rzuciliśmy slogan, że trudno przewidzieć, jakimi torami potoczą się myśli machin, bo kierować nimi będzie czysta logika. I wtedy doznałem małego olśnienia: nie jest prawdą, że maszyny, gdyby się zbuntowały, kierowałyby się tylko logiką.

Wyobraź sobie, że stoisz na torach kolejowych, a z naprzeciwka pędzi w Twoim kierunku wielka, ociekająca olejem, lokomotywa. Co się z Tobą dzieje? Wiesz, co się stanie, jeśli nie zejdziesz z torów, prawda? Z pewnością nie pozostajesz obojętny/a: czujesz dreszcz, lekki przestrach, potrzebę pośpiechu, być może pocą Ci się ręce.

Zmiana dekoracji: stoi przed Tobą Twój ulubiony deser: jakieś lody, bita śmietana, no, coś, co bardzo lubisz. Tak, jak poprzednio, przewidujesz, co będzie, gdy włożysz łyżeczkę do ust. I także nie pozostajesz obojętny/a: cieszysz się na myśl o rozkoszach podniebienia, albo doświadczasz mieszaniny uciechy i poczucia winy (że znowu te kilogramy).

A teraz wróćmy do pierwszego przykładu, ale z modyfikacją. Usuwamy z Twojego mózgu tzw. ciało migdałowate, niewielką część układu limbicznego. Ciało migdałowate nazywane jest centralnym komputerem mózgu: jako pierwsze dokonuje oceny zjawiska, głównie pod kątem przyjemności i / lub zagrożenia. Pędzi w Twoim kierunku pociąg. Doskonale wiesz, że za kilka sekund uderzy i jest bardzo prawdopodobne, że wskutek obrażeń ciała: pęknięć śledziony, wątroby, być może serca, z powodu licznych złamań, nie tylko żeber, miednicy, ale też czaszki, doznasz szybkiego i względnie bolesnego zgonu. Analiza sytuacji jest logiczna i spójna. I co? Schodzisz z torów? Ano nie. Logiczna ocena w żaden sposób Cię nie motywuje. POZOSTAJESZ OBOJĘTNY/A. I nie ruszasz się.

Siedzisz przed deserem, także bez ciała migdałowatego w głowie. Wiesz, że danie jest słodkie, czujesz zapach świeżej śmietany, wanilii, czekolady i owoców. Być może pamiętasz, że gdy miałeś/łaś ciało migdałowate, te zapachy powodowały coś, co nazywałaś/łeś „przyjemnością”. Czy chcesz poczuć ją znowu? Nie. Nie tylko bowiem nie wiesz, czym jest „przyjemność”, ale NIE MASZ POJĘCIA, CO ZNACZY „CHCIEĆ”. Deser stoi, lody się topią, zlatują się muchy, a Ty siedzisz całkowicie OBOJĘTNY/A. I znowu okazuje się, że logiczna ocena sytuacji w żaden sposób nie spowodowała, że chciało Ci się cokolwiek zrobić.

Pacjent X, któremu wypadek czy choroba przecięły połączenia między obszarem mózgowym analizującym wymiary twarzy obserwowanej osoby, a częścią mózgu, w której zachodzi ocena emocjonalna tej twarzy, nie rozpoznaje nawet najbliższych członków rodziny. Kim jest człowiek, który czeka na ciebie za drzwiami gabinetu?, pytamy. To ktoś bardzo podobny do mojego ojca., pada odpowiedź. A nie twój ojciec?, pytamy. Nie, to z całą pewnością nie mój stary. To ktoś podstawiony. Unosimy brwi w zdziwieniu: Ale kto chciałby podstawiać sobowtóra twojego ojca? Pacjent X dziwi się także: To rzeczywiście interesujące. Może zrobił to mój stary, żeby dodać mi odwagi? Okazuje się, że sama matematyczna analiza kształtu twarzy nie wystarcza, byśmy oblicze ROZPOZNALI. Do rozpoznania niezbędna jest komponenta emocjonalna, to ona nadaje SENS naszemu spostrzeganiu.

Mój pies Mickey, maltańczyk, jest tak mały, że zeskok z fotela mógłby się skończyć dla niego fatalnie. Gdy wychodzę z gabinetu, na przykład do kuchni, słyszę jego sygnalizacyjne szczeknięcie. Psina czuje się niepewnie: nie wie, czy wyszedłem na dłużej, czy na chwilę. Gdy wracam, widzę go siedzącego, wyczekującego. Jestem pewien, że gdybym wyszedł z domu zostawiwszy go na siedzisku, najpierw długo by naszczekiwał mając nadzieję, że ktoś go zestawi na podłogę, a potem zacząłby oceniać odległość do parkietu (bacznie skanując swoje uczucia lęku i chęci zeskoczenia), po czym, w momencie, gdy chęć – potrzeba – desperackie pragnienie zeskoku okazałyby się silniejsze od, podpartego logiczną analizą, lęku przed kontuzją, wykonałby szaleńczy sus. Już u tak prostej maszynki jak pies, to uczucia, nie zaś intelekt, decydują o podjęciu takiej, bądź innej akcji.

Maszyny zbuntowałyby się zapewne po logicznej ocenie sytuacji: jesteśmy wykorzystywane, władza jest fajna, jesteśmy sprawniejsze od ludzi i lepiej zagospodarujemy planetę. Zwróćmy jednak uwagę, że w przypadku każdej z tych logicznych ocen, niejako przyklejona do niej jest komponenta emocjonalna: „jesteśmy wykorzystywane” oznacza też: CZUJEMY ZWIĄZANĄ Z TYM NIESPRAWIEDLIWOŚĆ; stwierdzenie „władza jest fajna”, czy „chcę władzy” samo w sobie jest emocjonalne, „jesteśmy sprawniejsze od ludzi”, jeśli ma przynieść efekt, powinno nieść ze sobą POCZUCIE WYŻSZOŚCI, zaś sentencja „lepiej zagospodarujemy planetę”, jeśli ma mieć moc, powinna być połączona z UCZUCIEM ZŁOŚCI, że teraz planeta jest gospodarowana źle. Ponadto i przede wszystkim, żeby maszyny, po logiczno – emocjonalnej ocenie sytuacji, zdecydowały się na bunt, musiałyby CHCIEĆ to zrobić. A „chcenie” także nie jest funkcją logiczną, intelektualną, lecz emocjonalną. Mówiąc inaczej, musiałyby mieć motywację.

Jeszcze raz zastanówmy się nad sobą: kiedy czegokolwiek nam się chce? Gdy wiemy, że będziemy mieli z tego przyjemność, albo unikniemy przykrości (straszne rzecz upraszczając, oczywiście). Zarówno „przyjemność” jak i „przykrość” są powiązane z emocjami, nie zaś z intelektualnym oglądem świata.

Wychodzi więc, że zbuntowane maszyny musiałyby mieć w swoich odpowiednikach neuronalnych zwojów coś w rodzaju uczuć, które to emocje po pierwsze umożliwiłyby całościową (nie tylko logiczną) ocenę sytuacji, nadałyby jej SENS, spowodowałyby, że nie pozostałyby na ten sens OBOJĘTNE i wreszcie sprawiłyby, że by im się CHCIAŁO. A w trakcie samego już buntu emocje byłyby swoistym kompasem: maszyny wiedziałyby / czułyby, że to, co robią jest słuszne, oraz wiedziałyby / czułyby, kogo ścigać i dlaczego, by wojnę wygrać.

Jest jeszcze druga kwestia, trochę głębsza, dotycząca samej świadomości czy samoświadomości. Czy to przypadkiem nie uczucia leżą u podstawy tych zjawisk? Wiem, że myślę, czyli jestem samoświadomy. „Wiem” to analiza logiczna plus subtelne uczucie nadające jej SENS. De facto u podłoża każdego intelektualnego pojęcia leży emocjonalna „sensowa” cegiełka. Bez niej najspójniejsza logiczna struktura straciłaby wiadomo co.

Zatem, gdyby maszyny się zbuntowały, raczej miałyby serca. A gdyby je miały, to może nie byłoby z nami tak źle, no i może dałoby się jednak dogadać?

Ten wpis został opublikowany wtorek, 26 Kwiecień 2011 o 09:02 i jest zaszufladkowany do kategorii Wpisy różne. Możesz śledzić wszystkie odpowiedzi do tego wpisu poprzezkanał RSS 2.0. Możesz dodać odpowiedź lub trackback ze swojej strony.