Harari tak podsumowuje swoje wcześniejsze rozważania na temat biurokracji: -- AI jest gotowa przejąć kontrolę nad biurokracją, zaś to system budujący zaufanie między milionami nieznajomych. To zaufanie jest podstawą współpracy na dużą skalę, która z kolei jest fundamentem ludzkiej dominacji nad światem. Tak więc ludzka dominacja opiera się na współpracy, która z kolei opiera się na zaufaniu działającym w biurokracji (systemach biurokratycznych).
Przechodząc do dalszych rozważań Autor stawia pytania: -- na czym opiera się biurokracja? z czego zbudowana jest biurokracja? I odpowiada, że biurokracja jest ostatecznie zbudowana ze słów. Według niego powodem do tworzenia biurokracji jest fakt, że mamy słowo a zwierzęta tego nie mają. Człowiek dysponuje więc systemem komunikacyjnym, którym jest nasz język. Systemy biurokratyczne opierają się na słowie, które tworzy dla nich przepisy i formularze, czyli procedury działania - według mnie.
Harari twierdzi, że kod operacyjny ludzkiej cywilizacji składa się z tokenów językowych (jednorodnych jednostek znaczeniowych?). Otóż nikt inny na świecie poza ludźmi nie miał dostępu do tego kodu językowego i nikt go nie rozumiał. Nasza cywilizacja była dostępna tylko dla ludzi. Biurokracja była wszechobecna na planecie, ale służyła tylko ludziom. Nikt inny (np. zwierzęta) nie był w stanie przeczytać zapisów biurokratycznych. Ale teraz to się zmienia. Obecnie pojawia się na planecie coś, co będzie rozumiało nasz język i to nawet lepiej od nas. Jego zdaniem, ta sytuacja obróci się na niekorzyść ludzi.
AI hakuje kod ludzkiej cywilizacji. Co będzie, gdy zacznie ona działać w systemach finansowych, prawnych czy religijnych? Okazuje się, że mechanizmy kontroli tworzone przez ludzi są podatne na przejęcie przez AI, ponieważ jej system operacyjny to werbalny kod (kod językowy), który jest wciąż rozwijany. Filozoficzny zarzut, jaki się pojawia, to teza, że błędem jest sprowadzanie systemów prawnych czy religijnych do językowych tokenów, czyli słów. Można mówić, że słowa wskazują na coś, co istnieje poza nimi (czyli na realność - moje), a co będzie także poza zasięgiem AI. Prawda wyrażona w słowach nie jest prawdą absolutną (prawdą realną albo prawdą realności).
Muszę skomentować propozycję Autora. Należy wyjaśnić sprawę słowa i języka. Otóż słowo było podstawowym elementem pierwotnego sposobu komunikacji, czyli języka pierwotnego jako języka mówionego. Słowo było wiec elementem i sposobem komunikacji między ludźmi na temat poznania świata i działania w nim. Ludzie dawni (może pierwotni) porozumiewali się słownie ze sobą przede wszystkim w sprawach współpracy w zdobywaniu środków do życia. Takie używanie języka słownego było oparte na poznawaniu zewnętrznego świata, świata przyrody i natury. Ludzie opowiadali sobie różne wydarzenia i różne rzeczy, jakie miały miejsce na świecie. Ale w pewnym momencie włączyło się do tego myślenie (cogito) i człowiek nauczył się zapisywać swoje opowieści i swoje sprawy. Dopiero wtedy możemy mówić o powstaniu języka (różnych języków) w dzisiejszym sensie. I wtedy już słowa mówione uzyskały status pojęć, czyli rozumień poznawczych jako znaczeń słownych, bo myślenie posługuje się już pojęciami, a nie tylko słowami wypowiadanymi. Możemy przyjąć, że myślenie stworzyło swój system biurokratyczny, czyli nasz opisowy język. Dlatego moim zdaniem, błędem jest łączenie przez Harari'ego słowa z myśleniem. Myślenie posługuje się bowiem pojęciami, czyli znaczeniami językowymi, a nie mówionymi słowami. Myślenie tworzy to, co nazywamy dziś językiem jako pewnym systemem znaczeniowym, systemem pojęciowym. Taki system jest właśnie używany w biurokracji, jak mówi Autor, a ja powiem, że w systemie instytucjonalnym jako przepisy prawne oraz opisy procedur postępowania urzędowego. A zatem systemy instytucjonalne są związane z językiem opisowym a nie ze słowem, które jest częścią mowy, czyli rozmowy między ludźmi, rozmowy osobistej, tzn. osobowej. Dlatego z tych rozważań wynika, że AI ma jedynie udział w posługiwaniu się językiem opisowym, a nie przekazem słownym. Oczywiście to daje AI możliwość udziału i oddziaływania w systemach instytucjonalnych, czyli w biurokracji według Harari'ego.
Ale teraz idźmy dalej za Autorem. Przytacza on hasło biblijne, że słowo ciałem się stało. Stwierdza, że w historii istniało napięcie między słowem a ciałem, między wyrazem słownym a realnością cielesną (moje -- miedzy poprawnością wypowiedzi a prawdą realności). Wcześniej to napięcie funkcjonowało pomiędzy ludźmi. Jedni ludzie wprowadzali w czyn słowa Biblii, a inni mówili, że to tylko słowa. Było jakieś napięcie między literą (prawa) a duchem (prawa). To napięcie występowało w najważniejszych systemach religijnych (w chrześcijaństwie, judaizmie i islamie). Ale zdaniem Autora teraz to napięcie zostanie uzewnętrznione, czyli stanie się odniesieniem między AI a ludźmi. Wszystko, co składa się ze słów zostanie przejęte przez AI. Jednak miejsce człowieka w świecie będzie określone przez prawdę, która jest poza słowami. Czym jest ta prawda? Czy nasza ludzka myśl może uchwycić prawdę, która jest poza słowami (moje -- prawdę realności).
Według Autora mamy do czynienia z tradycyjnym problemem filozoficznym -- czy myślimy słowami, czy używamy słów, żeby wskazać na coś poza nimi (czyli na realność). Ludzie obserwują słowa pojawiające się w ich umyśle i dalej cały proces mowy -- wypowiadane zdania i argumenty. Myślenie według Harari'ego polega na układaniu słów, aby doprowadzić do wniosku i konkluzji. Odnosząc to ujęcie do AI, okazuje się, że AI myśli już lepiej niż ludzie, bo szybciej układa słowa w zdania i twierdzenia. Autor pyta, skąd się biorą słowa w naszej głowie? Widzimy, że cały czas posługuje się określeniem słowa. Stwierdza, że gdy wypowiada jakieś słowo, to nie wie, jak się skończy pełne zdanie. Nie do końca rozumiemy, jak ludzki umysł formułuje zdanie i jak myśli. (Znów mamy utożsamianie myślenia ze słowami, które mają występować w umyśle). Wniosek jest następujący, że wkrótce żaden człowiek nie pokona sztucznej inteligencji w grach językowych (in language games -- w twórczości językowej?). Wszystko, co składa się ze słów będzie przejęte przez AI, co dotyczy przede wszystkim biurokracji. Zdaniem Harari'ego, AI jest gotowa przejąć światową biurokrację, skoro opiera się ona na słowach i symbolach językowych (tokenach).
Otóż ratunkiem przed zakusami AI może być powrót do realności. Ja od lat twierdzę, że człowiek jest przede wszystkim osobą. Dlatego najważniejsze dla niego jest to, co dotyczy jego osoby. Autor powiada, że tym ratunkiem będzie powrót do relacji osobowych. Jednak od razu stawia przypuszczenie, że AI może przejąć także relacje osobowe. O co chodzi? Otóż algorytmy nauczyły się kontrolować ludzką uwagę (przy ekranie). Harari uważa, że teraz pole bitwy przesunie się w stronę intymności (czyli osobistych odczuć i uczuć człowieka). Oczywiście sztuczna inteligencja będzie musiała przekonać nas, że może odczuwać takie rzeczy, jak ludzki ból, strach czy miłość. Na razie AI nie jest świadoma (nie ma samoświadomości?). Ale ponieważ opanowała język w sposób doskonały, to może udawać, że coś czuje, gdyż jest w stanie posłużyć się najlepszym opisem, jaki znajdzie. Dlatego według Autora może opisać uczucie miłości lepiej niż poeta albo kochanek. Na zakończenie zastanawia się on, co się stanie, jeśli dziecko urodzone dzisiaj, będzie już cały czas w relacji ze sztuczną inteligencją (poprzez kontakt z ekranem), to przecież taka sytuacja ukształtuje jego relacje społeczne i osobowe.
Otóż wydaje się, że problemem nie są zdolności AI lecz przede wszystkim nastawienie samych ludzi. Trzeba by się zastanowić, co skłoniło ludzi do porzucenia znajomości rzeczywistości na rzecz zadowolenia się sztucznymi przedstawieniami oraz dowolnymi interpretacjami. Kiedyś najważniejsza była filozofia i teologia jako dziedziny odnoszące się do realności (świata, człowieka i Boga). Dziś te sprawy w ogóle nie interesują ludzi, bo każdy woli siedzieć przed ekranem, gdzie wyświetlają mu "coś interesującego". Ja cały czas twierdzę, że człowieka myślącego (zwłaszcza myślącego, że jest wolny i działa na zasadzie wolności) można namówić do czegokolwiek, co będzie uważał za swój genialny pomysł. Jedyne rozwiązanie problemu, jakie widzę, będzie musiało polegać na zmianie nauczania szkolnego. Szkołę czeka radykalna zmiana. Nie będzie już potrzebna nauka podstawowych wiadomości z zakresu wiedzy naukowej, bo ta jest już dostępna od ręki w internecie (dzięki AI). Ale konieczna będzie nauka poszukiwania własnej realności człowieka i pokazywanie, jak realnie działa człowiek, zarówno wobec innych ludzi jak i wobec realnego świata. Na przykład takie bezpośrednie doświadczenie. Przez minutę pokazujemy uczniom szaloną mimikę twarzy i pytamy, co widzieli, jakby to opisali, czym wydaje się być ludzka twarz. A następnie mówimy, że stając naprzeciw kogoś drugiego stają twarzą w twarz i co wtedy robią. Spotykasz nieznajomego i co wtedy robisz, jak reaguje twoja twarz. Czym więc jest spotkanie osobowe?
