Sięgnąłem po cykl Algorytmy wojny Michała Cholewy, gdyż szukałem jakiegoś cyklu militarnej science-fiction. Militarna science-fiction świetnie się u mnie sprawdza w roli uprzyjemniacza długich, zimowych wieczorów – to literatura, która wciąga mnie i zajmuje, a zarazem jest na tyle lekka, by nie angażować za bardzo intelektualnie. Nie, żebym miał coś przeciwko intelektualnemu zaangażowaniu, jednak późne godziny wieczorne po pełnym wysiłku intelektualnego dniu wymagają u mnie często czegoś nieco lżejszego w odbiorze, niż heideggerowska hermeneutyka faktyczności.
Algorytmy wojny okazały się tu wyborem połowicznie trafionym. Są bowiem dobrze napisaną militarną fantastyką naukową, jednakże daleko im do rozrywki mało angażującej intelektualnie. Można śmiało pokusić się o stwierdzenie, że oprócz zajmującej historii wojennych zmagań, osadzonej dwa wieki w przyszłości, przedają nam też całkiem frapujące studium racjonalności instrumentalnej i śmiałe pytanie o charakterystykę człowieczeństwa. Brzmi górnolotnie? Cóż, może, ale takie nie jest. To bardzo konkretne studium i bardzo konkretne pytania.
Nakreślmy najpierw ogólne tło fabularne. Oto mamy XXIII wiek. Ludzkość kilka lat wcześniej doświadczyła wydarzenia apokaliptycznego: zaatakowały ją jej własne sztuczne inteligencje, wybijając dziewięćdziesiąt sześć procent populacji. Ocalałym udaje się pokonać SI (a przynajmniej tak im się wydaje), jednak zamiast grzecznie połączyć siły celem budowy nowej rzeczywistości, rzucają się sobie do gardeł w walce o zasoby i względnie dobrze sterraformowane światy. Imperium (czyli Azjaci), UE i Stany Zjednoczone ścierają się na powierzchniach planet i w przestrzeni, a gdzieś tam, poza granicami ich świata, sztuczne inteligencje nadal działają i realizują swój plan.
Aby było zatem zabawnie, zapytajmy Open AI o definicję racjonalności. GPT odpowiada następująco:
Racjonalność to pojęcie o szerokim zastosowaniu, które można interpretować na różne sposoby w zależności od kontekstu. Poniżej przedstawiam kilka perspektyw na to, co może oznaczać racjonalność […]:Racjonalność kognitywna: Oznacza zdolność do logicznego myślenia, analizy, rozumowania oraz podejmowania decyzji opartych na faktach i logicznych argumentach.
Racjonalność instrumentalna: Dotyczy wybierania środków najlepiej dopasowanych do osiągnięcia określonych celów. Racjonalne działanie polega na wybieraniu efektywnych środków w celu maksymalizacji osiągania zamierzonych celów.
Open AI, Chat GPT 3.5
Open AI (która nie jest przecież sztuczną inteligencją w szerokim rozumieniu, choć za taką część opinii publicznej już teraz chce ją uważać) podaje jeszcze definicje racjonalności etycznej, ekonomicznej czy naukowej, jednak można chyba zaryzykować stwierdzenie, że zazwyczaj mówiąc o racjonalności mamy na myśli właśnie jej kognitywną i instrumentalną odmianę. Co więcej, lubimy się (jako gatunek) definiować poprzez jej pryzmat. Tym, co wyróżniać nas ma ze świata zwierzęcego, jest właśnie nasza zdolność do logicznego myślenia, podejmowania decyzji opartych na faktach, dobierania optymalnych środków do celu tak, aby zmaksymalizować zamierzone rezultaty.
Co ciekawe, już całe wieki temu zdaliśmy sobie sprawę, że mamy jednak z tak ujętą racjonalnością pewien problem. Niccolo Machiavelli, opisując w swym Księciu techniki efektywnego sprawowania władzy, zauważył, że czasami, szczególnie w polityce, to, co jest optymalnie dobranym do celu środkiem, częstokroć kłóci się z moralnością. Manipulacja, dezinformacja i przemoc są, niestety, efektywne i władca, chcąc postępować pragmatycznie (a zatem niekoniecznie celem siania zła, raczej celem realizowania własnych zamierzeń) musi być gotowy czasami po takie środki sięgnąć.
Bardziej współczesny namysł nad tą kwestią przynoszą np. psychologiczne eksperymenty myślowe w rodzaju dylematu wagonika. W skrócie: mamy dwa tory. Na jednym unieruchomiono pięć osób, na drugim tylko jedną. Tory rozgałęziają się przy zwrotnicy, tam zaś stoimy my. Mamy dostęp do dźwigni. W stronę piątki osób pędzi wagonik. Możemy ich ocalić, jeśli skierujemy wagonik ku pojedynczemu nieszczęśnikowi lub też nie zrobić nic, powodując w rezultacie ich śmierć. Co zrobimy?
Sięgnijmy znów po pomoc Open AI (tak, robię to z premedytacją):
Dylemat wagonika stawia pytanie, czy moralnie uzasadnione jest aktywne działanie, które zagraża jednemu życiu, aby ocalić większą liczbę innych istnień. To zagadnienie wywołuje dyskusje nad wartościami moralnymi, konsekwencjami działań, a także różnicami między działaniem a zaniechaniem. Odpowiedzi na dylemat wagonika mogą różnić się w zależności od podejścia etycznego i indywidualnych przekonań moralnych.
Open AI, Chat GPT 3.5
Racjonalność instrumentalna podaje jednoznaczną odpowiedź na ten problem. Mówi krótko: tak, aby ocalić wielu, należy poświęcić niewielu. To oczywista matematyka, z którą świetnie radzą sobie psychopaci, nieobciążeni empatią i wynikającą z niej blokadą psychiczną przed zamordowaniem (bezpośrednio lub pośrednio) drugiego człowieka, jeśli służy to jakiemuś celowi. Oczywiście, im więcej danych posiadamy na temat problematycznej sytuacji, tym lepiej jesteśmy w stanie ocenić, które działanie długofalowo będzie najbardziej korzystne, jednak jest to już raczej kwestia mocy obliczeniowej i ekstrapolacji. Co do zasady rzecz sprowadza się do opisanego w dylemacie wagonika scenariusza.
Algorytmy wojny to w gruncie rzeczy długie, siedmiotomowe studium powyższego dylematu, posługujące się emocjonującymi akcjami oddziałów specjalnych, potyczkami gwiezdnej floty czy intrygami politycznymi jako środkami ekspresji.
Pierwsze, „rozgrzewkowe” tomy cyklu koncentrują się na losach żołnierzy piechoty wplątanych w działania oddziałów specjalnych zwanych oseami (sztuczne inteligencje pozostają na razie w tle). Oddziały te, cieszące się złą sławą ze względu na nieprzebieranie w środkach, zajmują się właśnie tym, o czym mówi dylemat wagonika: przestawianiem zwrotnicy tak, aby kosztem nielicznych osiągnąć możliwie wiele dla wielu. Ich komandosi nie budzą sympatii ani w swoich towarzyszach broni, ani w czytelniku. Przeprowadzane akcje pełne są manipulacji, dezinformacji i podstępów, wskutek których zawsze koszt ponoszą inni, często niewinni, z reguły słabsi, gdyż kierujący się jakimś kompasem moralnym. W późniejszych tomach na scenę wkraczają AI i natychmiast okazuje się, że w racjonalności instrumentalnej przerastają oesów o rząd wielkości. Autor nie pozostawia nam złudzeń, że nawet najlepsi spośród oficerów oddziałów specjalnych są w stanie nawiązać równorzędną walkę na dążenie do celu ze sztucznymi inteligencjami. Są one po prostu nieporównywalnie w tym lepsze od swoich ludzkich stwórców.
Obserwując zmagania ludzkich protagonistów z ich syntetycznymi przeciwnikami szybko zauważamy, że im bardziej bohaterowie starają się dotrzymać im kroku, tym bardziej oddalają się od zwykłych, ludzkich odruchów, relacji i emocji. Ludzie kierujący się wartościami i emocjami wydają im się słabi, irytujący i nieefektywni. W pewnym momencie protagonistom bliżej już do chłodnej kalkulacji ich śmiertelnych wrogów, niż do sposobu myślenia tych, których mają bronić.
Tu docieramy, poniekąd, do konkluzji, którą wyciągam spomiędzy wierszy Algorytmów wojny. My, ludzie, nie jesteśmy racjonalni, a przynajmniej nie jesteśmy tacy w tym sensie, że im więcej w nas tego, co nazywamy człowieczeństwem (nie potrafiąc nawet tego porządnie zdefiniować), tym mniej racjonalności instrumentalnej i vice versa. Dlatego właśnie, im dłużej czytamy Algorytmy wojny, im późniejsze tomy otwieramy, tym bardziej nieludzcy wydają nam się ich bohaterowie, tym więcej smutku i goryczy odczuwamy widząc, jak osuwają się w racjonalność, oddalając się zarazem od nas i od siebie nawzajem. Im dalej wiedzie nas fabuła, tym bardziej chcielibyśmy, aby bohaterowie zawrócili ze swojej drogi, choć przecież widzimy z drugiej strony, że jeśli mają mieć choć cień szansy na zwycięstwo, to nie mogą sobie na to pozwolić.
Człowieczeństwo jest irracjonalne. Nie działamy w oparciu o logiczne wnioskowania, nie kierujemy się faktami, nie dobieramy optymalnych środków wiodących do celu. Czasami, w ograniczonych kontekstach, w krótszych lub dłuższych scenariuszach – tak, jesteśmy w stanie tak działać. Jednak długoterminowo i globalnie rzecz ujmując, działamy niekonsekwentnie, nielogicznie i nieefektywnie. Nie potrafimy rozwiązać dylematu wagonika. Stoimy przy dźwigni patrząc na rozpędzony bolid i czekamy, aż ktoś pociągnie ją za nas aby to na niego zrzucić odpowiedzialność i winę.
