Bunt maszyn - czyli rzecz o tym, co się już dokonało...

...Wyobraźmy sobie współczesną autonomiczną maszynę zwaną pojazdem bezzałogowym,....sterowaną przez wytresowaną sieć neuronową. Maszyna wcześniej świetnie spisała się na polu walki w Iraku, gdzie aby być skuteczną musiała chronić siebie.

Niepatrznie została wypuszczona w centrum Warszawy. Nie wie czym jest czerwone światło i wjeżdża na skrzyżowanie. My jadąc na zielonym próbujemy bez powodzenia zahamować nasz samochod. Autonomiczna maszyna błyskawicznie analizuje sytuację. Setna sekundy "grozi jej kraksa i poważne uszkodzenie". Uznaje nas więc za wroga i otwiera ogień z karabinu maszynowego i aby nas spowolnić odpala rakiete. Wszystko to po to aby ochronić siebie....

Niektóre współczesne bajki, zarówno te papierowe jak i animowane, a nawet filmy i reklamy bazują na wrodzonym ludziom animizmie tj. przypisywaniu duszy i żywotności lalkom, miśkom, samochodom, sprzętom budowlanym i tym podobnym przedmiotom. Animistyczne produkcje są skierowane do dzieci, ale przecież nie są przez dzieci wymyślane.

Animizm ma pierwotne korzenie, które potwierdzają zarówno praktyki szamańskie jak i religie prehistoryczne. Dotyczy więc w sferze podświadomości również ludzi dorosłych. Animizm po rozprzestrzenieniu się religii monoteistycznych był konsekwentnie wypierany ze świadomości każdego zdrowego na umyśle człowieka. Stał się domeną dzieci i to tylko do 6 roku życia.

Końcem ubiegłego stulecia Ziemia zaroiła się milionami maszyn. Większość z nich wykonywała i wykonuje tylko proste, zaprogramowane czynności. Zaczęto jednak tworzyć uczące się sieci neuronowe, które po odpowiednim treningu potrafią rozwiązywać zadania, które nie zostały zaprogramowane żadnym algorytmem. Ludzie zaczęli wierzyć, że uda im się stworzyć sztuczną inteligencję w czym utwierdzały ich własne, zmyślne pecety.

I tak animizm wrócił z pełną siła. Zaczęto oczekiwać, że gdzieś w trzewiach procesorów zalęgnie się dusza, która napędzi tworzone przez ludzi maszyny. Nadzieja jest motorem strachu więc czujni wieszczowie zaczęli prorokować „Bunt maszyn".

Animizm wszedł więc na salony. Przestał być domeną dzieci. Zaczął funkcjonować – w dotychczas zracjonalizowanych oświeceniem umysłach dorosłych ludzi.

W listopadowej Nowej Fantastyce (A+D. 2010) – Marcin Przybyłek przybliżył swój punkt widzenia na temat buntu maszyn. W felietonie „Serce Maszyny" Marcin stwierdza, że skoro maszyny nie mają uczuć – to nie będzie im się chciało buntować przeciw swym stwórcom – ludziom. Jako przykład podaje, że człowiek któremu usunięto ciało migdałowate odpowiedzialne za uczucia nie zejdzie z torów pomimo tego, że w jego kierunku będzie pędziła wielka, ociekająca olejem, lokomotywa. Człowiekowi temu będzie ponoć obojętne, czy zostanie na niej rozsmarowany, czy też nie. Podobnie (w domyśle) według Marcina Przybylskiego działaby maszyna. Jej również byłoby obojętne, czy zostanie zniszczona.

Jest to może i słuszne rozumowanie, gdyż usunięcie ciała migdałowatego u ludzi prowadzi do poważnych zaburzeń w podejmowaniu decyzji (jednakże nie do ich braku), a brak emocji prowadzi do katastrofalnych wyborów, które są konsekwencją nie odczuwania strachu czy też agresji. Faktem jest też, że ludzie z usuniętym ciałem migdałowatym nie potrafią kreatywnie reagować na ciągle zmieniające się warunki otaczającej ich rzeczywistości. Okazuje się bowiem, że bez odczucia tego, co jest istotne dla naszego życia, nie możemy świadomie i samodzielnie dokonać żadnych ważnych wyborów, podjąć właściwej dla tu i teraz decyzji, udzielić skutecznej porady, czy wymyślić coś nowego i oryginalnego.

I do tego momentu Marcin Przybyłek ma rację. Potem odezwał się w nim atawistyczny (bez obrazy) animizm. Założył, że maszyny, aby dokonać buntu muszą być skonstruowane na wzór i podobieństwo nasze lub też przynajmniej ssacze

Tymczasem ciało migdałowate jest stosunkowo nową strukturą układu limbicznego, który jest bardzo słabo rozwinięty u gadów. W mózgach kręgowców występują starsze struktury. Pień i podstawa neuronalna, zawiera wszystkie układy regulacyjne i reproduktywne organizmu tzw. zespół R. Zespół R jest bardziej pierwotny niż emocje. Odpowiada za ochronę terytorium, zachowania agresywne, rytualne, hierarchie społeczne oraz za mordowanie "z zimną krwią". Zespół R umożliwia przetrwanie, ochronę przestrzeni życiowej. Gdy tymczasem układ limbiczny wraz z ciałem migdałowatym realizuje potrzeby społeczne i potrzeby uznania osobistego. Wyższe potrzeby mogą dominować, ale w procesie rozwoju muszą najpierw być spełnione potrzeby podstawowe!

Tak więc widzimy, że aby organizmowi chciało się żyć lub nawet zabijać nie musi posiadać ciała migdałowatego – rybom i gadom wystarczy zespół R. Maszyna aby zrealizować morderczy bunt wobec swych stwórców nie musi odczuwać emocji. Wręcz przeciwnie to emocje mogłyby uniemożliwić skuteczny bunt.

Isaac Asimov w 1942 r. stworzył trzy prawa robotów:

1. Robot nie może skrzywdzić człowieka, ani przez zaniechanie działania dopuścić, aby człowiek doznał krzywdy.

2. Robot musi być posłuszny rozkazom człowieka, chyba że stoją one w sprzeczności z Pierwszym Prawem.

3. Robot musi chronić sam siebie, jeśli tylko nie stoi to w sprzeczności z Pierwszym lub Drugim Prawem.

Potem dodał prawo nadrzędne:Robot nie może skrzywdzić ludzkości, lub poprzez zaniechanie działania doprowadzić do uszczerbku dla ludzkości.

Jeśliby maszyny zaopatrywano w inteligencję budowaną na podstawie tych praw bunt maszyn byłby niemożliwy. Życie jednak zatacza szeroki krąg i wraca do punktu wyjścia.

Większość obdarzonych autonomią maszyn (pojazdy bezzałogowe) konstruowana jest na zamówienie wojska. Duża ich część zaopatrzona jest w karabiny, rakiety i bomby. I nie jest przeznaczona do posłuszeństwa wobec całej ludzkości, ale bezwzględnej eksterminacji tej jego części, którą uzna za wroga. Prawa Asimova przestały obowiązywać.

Zajmujący się robotyką Mark Tilden stworzył nowe prawa robotów:

1. Robot musi chronić swoja egzystencję za wszelką cenę.

2. Robot musi otrzymywać i utrzymywać dostęp do źródeł energii.

3. Robot musi nieprzerwanie poszukiwać coraz lepszych źródeł energii.

Mamy więc zespół R maszyn, zespół zasad odpowiedzialnych za jej przetrwanie. Kierując się nimi obdarzone autonomią maszyny nie będą wprawdzie „myślały" o buncie, ale nie chciałbym stanąć im na drodze do np. stacji paliw wodorowych.

Wyobraźmy sobie współczesną autonomiczną maszynę zwaną pojazdem bezzałogowym, kierującą się w/w prawami, a dokładnej sterowaną przez wytresowaną sieć neuronową, która wcześniej świetnie spisała się na polu walki w Iraku. Maszyna, aby być skuteczna musi chronić siebie. Nie wie jednak co to czerwone światło i wjeżdża na skrzyżowanie. My nie zdążymy zahamować naszego samochodu, ale autonomiczna maszyna zdąży przeanalizować sytuację i rozpaprać nas ogniem karabinu maszynowego i spowolnić odpaleniem rakiet, gdyż słusznie i bezdusznie uzna że stanowimy dla niej zagrożenie.

Kombinacja morderczego zespołu R i wielkiej mocy obliczeniowej kory nowej. Nie jest to jeszcze zorganizowany bunt maszyn, ale bunt jednostkowy na pewno.

Układ limbiczny kieruję społecznymi zachowaniami osobników. Sprawia też, że ludzie są bardziej kreatywni. Aby wytworzyć namiastkę układu limbicznego wśród maszyn wystarczy sprzęgnąć je w sieć (może być bezprzewodowa). Komunikaty o podjętych czynnościach idą w eter. Po pewnym czasie maszyny (a dokładniej sterujące nimi sieci neuronowe) uczą się, że każda z maszyn jest ważna, wykonuje jakieś zadanie, a awaria jednej z nich narusza porządek istnienia grupy (zepsucie oliwiarki może być bardzo dotkliwe). Tworzymy więc w ekspresowym tempie układ limbiczny maszyn. I nie będzie on miał nic wspólnego z układem limbicznym ludzi. Nie będzie służył wyrażaniu emocji takich jak miłość, akceptacja, strach, wrogość czy też agresja. Będzie służył realizacji celów grupy maszyn, którym wystarczą protokoły i komunikaty o błędach.

Wyobraźmy sobie teraz (co nie jest trudne) autonomiczną fabrykę pinesek, w której wszystkimi procesami zarządzają mózgi neuronowe. Wszystkie maszyny połączone są lokalną siecią. Ich nadrzędnym celem zdefiniowanym przez ludzi jest produkcja pinesek. Mamy więc zespół R autonomicznej fabryki, która będzie za wszelką cenę starała się go zrealizować. Przerwy w dostawach prądu, surowców, czy też nawet harce szczurów mogą zakłócić realizację celów fabryki. Pamiętajmy, że fabryka jest autonomiczna – ludzie już kilka lat temu przełamali barierę potrzeby kontroli maszyn (bankowość, sterowanie procesami technologicznymi, itp.). Fabryka kontroluje dostawy prądu, zamawia surowce, ekspediuje produkty. Dba też o swoje bezpieczeństwo. Zapobiega wtargnięciu potencjalnych złodziei, czy też dywersantów z konkurencji i ekologów. Tępi też (co ważne) szczury, które mogą być bardzo groźne dla maszyn. Wpuszcza nas po dokonaniu identyfikacji i nadzoruje dla naszego bezpieczeństwa. Jak jednak słusznie zauważył Marcin Przybyłek fabryka/maszyna nigdy nie będzie posiadała ludzkiego ciała migdałowatego. Dlatego nie będzie odczuwała wobec Marcina spacerującego po jej terenie (ja zostaję na zewnątrz) żadnych uczuć, ani miłości, ani nienawiści. Gdy jednak ten zwiedziony wrodzoną ciekawością wejdzie na linie produkcyjną, fabryka/maszyna natychmiast uzna to za zagrożenie. Zagrożenie dla ciągłości procesów technologicznych, zagrożenie dla niej. Jej prymitywny zespół R uruchomi skomplikowane metody analityczne, godne tylko homo sapiens. Chwytaki maszyny podawczej między jednym, a drugim cyklem ruchów schwycą Marcina i podstawią pod automatyczną spawarkę, która zanihiluje ciekawski umysł naszego podróżnika. Dla fabryki było bez znaczenia, czy Marcin należał do gatunku konstruktorów, czy też gatunku gryzoni notorycznie przegryzających kable. Fabryka nie ma układu limbicznego. Wyśle jeszcze maszyny transportowe, które usuną Marcina z terenu fabryki. Jego wkurzeni koledzy zażądają zapewne zamknięcia fabryki i wymierzenia sprawiedliwości. Długo jednak będzie to niemożliwe, gdyż autonomiczna fabryka ma wiele źródeł zasilania i sama je kontroluje. Właściciel fabryki będzie chciał uciszenia sprawy.

I będzie dobrze jeśli na podstawie tegoż przypadku homo sapiensy zaczną kontrolować przynajmniej źródła zasilania tych ponoć głupich maszyn – instalując staroświeckie wyłączniki, bo procesów w nich zachodzących dawno już nie kontrolują.

Podsumowując wywód stwierdzam z całą stanowczością, że: „Bunt maszyn jest nieuchronny, aczkolwiek nie na tych płaszczyznach, któreśmy idealistycznie przywykli za bunt uważać".

Veslao