W zeszłym tygodniu oficjalne konto Palantir Technologies – amerykańskiej firmy sprzedającej rozwiązania z zakresu nadzoru i kontroli opartych na big data – opublikowało 22 punktowy manifest. Te punkty to skrót nowo wydanej książki CEO firmy Alexa Karpa oraz jej wiceprezesa Nicholasa Zamiski The Technological Republic: Hard Power, soft belief and the future of the West.
Publikacja manifestu pokazuje, że Karp „ekonomię uwagi” rozumie równie dobrze co systemy AI które produkuje jego firma. W chwili pisania tego tekstu wpis został wyświetlony ponad 30 milionów razy. Komentarzy doczekał się niemal ze wszystkich stron – od zachodniej lewicy w osobnie Yanisa Varoufakisa, aż po nadwornego intelektualistę Władimira Putina, Aleksandra Dugina.
Do tej pory nie przedstawiono jednak całościowej krytyki tez, zawartych w manifeście. Celem tego tekstu jest pokazanie, że nie jest on neutralną diagnozą. To normatywna propozycja nowego modelu państwa, w którym technologia i sektor publiczny splatają się w jedną, centralną strukturę. Wizja ta – gdyby doczekała się realizacji – oznaczałaby świat nie tylko mniej wolny, ale także mniej bezpieczny. I to pomimo – a być może właśnie dlatego – że „bezpieczeństwo” jest jednym z najczęściej powracających w Manifeście słów.
1. Jakiej republiki chce Karp?
Alex Karp z wykształcenia jest filozofem. Swój doktorat obronił na Uniwersytecie Goethego we Frankfurcie pod kierunkiem Jürgena Habermasa. Warsztat filozoficzny widać z resztą w każdym punkcie Manifestu.
Niestety promowana w nim wizja jest odległa od modelu „racjonalnej debaty” rozwijanego przez jego promotora. Już od pierwszego punktu, w którym pojawia się teza o „moralnym zobowiązaniu” Doliny Krzemowej wobec państwa jest jasne, że dla Karpa czas pluralistycznej, dążącej do porozumienia debaty się zakończył. Dziś rządzić ma siła – podtytułowe hard power – zdolność jej projektowania oraz egzekwowania decyzji, których ucieleśnieniem ma być państwo narodowe, przede wszystkim Stany Zjednoczone Ameryki.
W tej wizji siła – uosabiana przez państwo narodowe, konkretnie Stany Zjednoczone – potrzebuje narzędzi. Technologia ma stać się zarówno jego wszechwidzącymi „oczami” jak i „mieczem” – środkiem zarówno kontroli jak i działania.
Konsekwencje tej zmiany są głębsze niż tylko zmiana języka debaty. Celem nie jest korekta istniejących instytucji, ale ich całkowita przebudowa – szczególnie przekształcenie relacji pomiędzy jednostką, a państwem.
Widać to już na początku manifestu. Zamiast relacji opartych na dobrowolnych umowach i normach społecznych pojawia się kategoria „afirmatywnego obowiązku”. Nie jest jednak jasne, kto miałby taki obowiązek definiować ani kto ponosiłby odpowiedzialność za podejmowane na jego podstawie decyzje instytucji publicznych.
Państwo z wizji Karpa to już nie pluralistyczne, otwarte społeczeństwo (o obu tych cechach w manifeście wypowiada się on z resztą z pogardą), a państwo silnie scentralizowane i zorganizowane jak wielkie koszary, w których dobrowolność i swobodę zastępują obowiązki i rozkazy.
Ten model można z powodzeniem scharakteryzować jako formę współczesnego technokratycznego nacjonalizmu. Nie jest on wcale nowy, ani odkrywczy, ale w warunkach rosnącej niepewności i dynamicznych zmian technologicznych zyskuje dziś na atrakcyjności – także poza Stanami Zjednoczonymi.
2. Wolność, a obowiązek
Ten kierunek najmocniej ujawnia się w punkcie 6. Manifestu, gdzie pada postulat przywrócenia poboru. Jego uzasadnieniem ma być przekonanie, że państwo powinno prowadzić wojnę wyłącznie wtedy, gdy wszyscy jego obywatele dzielą „koszty i ryzyko”.
Sztuczka jakiej dokonują tutaj autorzy to przejście od konieczności toczenia - być może niedającej się uniknąć - wojny obronnej do sytuacji, w której państwo uzurpuje sobie prawo decydowania o tym kto i w jakim zakresie poniesie jej koszt.
Dla Karpa rozterki związane z poborem – wywodzące się przecież z amerykańskiej debaty publicznej – takie jak prawo do decydowania o własnym ciele czy fundamentalne prawo od odmowy pracy (a potencjalnie złożenia ofiary życia) na rzecz systemu, idei czy państwa z którymi jednostka może przecież się nie zgodzić w tym punkcie nie istnieją.
Pod pozorem solidarności i wspólnej odpowiedzialności za państwo próbuje się tu przemycić najgłębszą formę zniewolenia: pozbawienie milionów prawa decydowania o własnej przyszłości.
Jednocześnie wyraźna jest tu kolejna sprzeczność manifestu. Z jednej strony podkreślana jest potrzeba „równego dzielenia kosztów i ryzyka”. Z drugiej – w dalszych punktach - krytyce poddawane są elity polityczne. Te dzisiejsze mają być wg. autorów oderwane od rzeczywistości i niezdolne do podejmowania odpowiedzialnych decyzji.
Tyle, że o wojnie, sposobie jej prowadzenia i dystrybucji jej kosztów zadecydują – siłą rzeczy - właśnie elity. Albo obecne – wg. Karpa skorumpowane, niekompetentne i bierne - albo nowe, które on sam chciałby wyłonić spośród siebie i swoich kolegów z Doliny Krzemowej.
W obu tych modelach historie o „równym ponoszeniu kosztów i ryzyka” możemy śmiało włożyć między bajki.
3. Sojusz tronu z centrum danych
Sam mechanizm wyłaniania i oceny elit zajmuje istotną część Manifestu. W tym sensie książka Karpa i Zamiski to coś więcej niż ćwiczenie z filozofii praktycznej. To przemyślana strategia, w której implementacja miałaby bardzo konkretne konsekwencje instytucjonalne – utrwalenie i zmianę relacji pomiędzy państwem, a sektorem technologicznym z którego rekrutować miałyby się nowe elity.
W modelu Karpa te dwa, tradycyjnie odrębne a być może nawet antagonistyczne obszary – prywatne firmy technologiczne oraz rządowy monopol na przemoc – ulegają ścisłemu powiązaniu i integracji. Państwo ma przestać ograniczać się tylko do wyznaczania ogólnych ram i kierunki rozwoju, ale stać się kluczowym odbiorcą rozwiązań i dostawcą kapitału dla firm rozwijających zaawansowane technologie. Z kolei te firmy – dzięki dostępowi do zasobów, danych i kontraktów – uzyskać miałyby uprzywilejowaną pozycję.
Rynkowy mechanizm, w którym najlepsze rozwiązania wyłaniane są w wyniku konkurencji różnych technologii, paradygmatów i rozwiązań zostałby zastąpiony odgórnie zaplanowanym planem, w którym tylko wąska liczba podmiotów miałaby niemal wyłączność na obsługę całych segmentów ściśle kontrolowanego i „chronionego” rynku.
Nie trzeba przekonywać, że taki model byłby wyjątkowo korzystny dla Palantria, który już dziś znajduje się na krótkiej liście uprzywilejowanych dostawców rozwiązań dla rządu Stanów Zjednoczonych.
Co istotne ten pogląd jest jedynie emanacją przekonania obecnego w Dolinie Krzemowej od dawna. Chyba najbardziej jednoznacznie wyłożył go Peter Thiel – jeden z założycieli Palantira – gdy już kilkanaście lat temu sugerował, że demokracja i wolność nie są kompatybilne, a sposobem na ominięcie ograniczeń wynikających z deliberacyjnych procesów politycznych miałaby być właśnie technologia.
W tym kontekście manifest Karpa czytać należy jako próbę „operacjonalizacji” tego, wytyczonego lata temu, kierunku.
4. Czego nie widać ze szczytu Orthanku
By lepiej zrozumieć jak to nowe miejsce dla siebie i swojej firmy rozumie Karp warto sięgnąć do źródła nazwy jego firmy. Nazwa Palantir Technologies nie jest przypadkowa. Odwołuje się do palantirów - „kamieni widzenia” z legendarium J. R. R. Tolkiena. Było ich siedem. Rozmieszczone w warowniach Arnoru na północy i Gondoru na południu umożliwiały komunikację oraz obserwację odległych miejsc.
W swojej istocie tworzyły system pozyskiwania i wymiany informacji – coś na kształt sieci, która miała zapewnić przewagę i bezpieczeństwo dzięki wiedzy.
Problem – jak wiemy z kart Legendarium – polegał na tym, że Palantiry nie były narzędziem neutralnym. Ich moc sprawiała, że mogły okazać się także potężnym narzędziem wpływu, w którym przewagę zyskiwał nie ten kto w nie patrzył, ale ten kto kontrolował to co można zobaczyć i był zdolny do narzucenia swojej interpretacji rzeczywistości.
To w ten sposób Sauron oddziaływał na Denethora, stopniowo łamiąc jego ducha i prowadząc go do rozpaczy, oraz na Saruman, skłaniając go do podporządkowania. W obu przypadkach nie chodziło o prostą iluzję, ale o selekcję i kontekst prawdziwych informacji.. W obu przypadkach nie chodziło o prostą iluzję, ale o selekcję i kontekst *prawdziwych* informacji.
Ta metafora okazuje się zaskakująco aktualna. W wizji Karpa i jego kolegów z Doliny Krzemowej to technologia ma pełnić rolę narzędzia poznawczego o niemal nieograniczonym zasięgu - systemu zdolnego analizować dane z pola bitwy, przewidywać zagrożenia zanim one wystąpią i wspierać podejmowanie decyzji (a być może zupełnie zastąpić w tym względzie człowieka).
Implikacja jest subtelna, ale kluczowa: gdzieś w tym systemie musi istnieć uprzywilejowany punkt widzenia - zdolny syntetyzować rozproszone informacje i przekształcać je w spójny obraz rzeczywistości.
5. F.A. Hayek kontra AI
To właśnie w tym miejscu pojawia się napięcie, które ponad pół wieku temu opisał noblista Friedrich A. Hayek. Jego argument przeciwko próbom centralnej organizacji społeczeństwa nie dotyczył braku danych tylko samej natury wiedzy.
W złożonych systemach społecznych wiedza jest rozproszona, lokalna i często niewyrażalna wprost. Nie istnieje w jednym miejscu - ani w jednej instytucji - lecz powstaje w interakcji wielu niezależnych aktorów. Hayek nazywał to „wiedzą dotyczącą szczególnych okoliczności miejsca i czasu”.
Im bardziej złożony system, tym trudniej sprowadzić go do jednego modelu analitycznego. Im więcej uczestników, tym większe znaczenie mają ich lokalne, zmienne i często sprzeczne perspektywy.
Rozwój technologii nie znosi tego ograniczenia. Może zwiększyć ilość dostępnych danych, ale nie eliminuje problemu interpretacji - ani faktu, że każda interpretacja zakłada określony punkt widzenia.
To kolejny paradoks w całej wizji Karpa. O ile w świecie Tolkiena Palantiry dawały dostęp do rzeczywistości, ale jednocześnie czyniły swoich użytkowników podatnymi na wpływy to w świecie Karpa technologia miałaby tę podatność przezwyciężyć. Z kart jego manifestu nie dowiadujemy się jednak w jaki sposób.
Warto tu podkreślić, że fikcyjne „kamienie widzenia” – podobnie jak technologia Palantira – sama w sobie nie jest ani zła, ani dobra. Ostrzeżenie zawarte na kartach legendarium nie dotyczy ich natury, ale pokusy przed jaką stawiają zwłaszcza wybitne jednostki.
To właśnie ta pokusa doprowadziła do upadku Sarumana: nie brak wiedzy, ale przekonanie o tym, że posiada jej wystarczająco dużo, by działać w imieniu innych i swoją perspektywę uznać za uprzywilejowaną – bez zważania na koszty jakie w związku z tym poniosą inni.
6. Technologiczny determinizm
Wracając na chwilę do Denethora warto przypomnieć, że jego ducha Sauronowi udało mu się złamać pokazując potęgę i zwycięstwo Mordoru jako jedyny i nieunikniony scenariusz zamykając jego oczy na alternatywy i odzierając z nadziei.
Wydaje się, że dokładnie to w punkcie 5. – niezwykle istotnym z punktu widzenia także naszego bezpieczeństwa – robi sam Karp. Stwierdza w nim, że pytanie o to, czy powstaną systemy uzbrojenia oparte na sztucznej inteligencji, zostało już rozstrzygnięte. Pozostaje jedynie kwestia tego, kto je zbuduje i kto pierwszy osiągnie przewagę.
To rozpoznanie trudno jest całkowicie odrzucić. Historia technologii - zwłaszcza w kontekście militarnym - rzeczywiście pokazuje, że możliwości, które się pojawiają, prędzej czy później znajdują zastosowanie na polu bitwy. W tym sensie diagnoza Karpa jest poprawna i trafia w istotną intuicję podzielaną przez większość.
Problem pojawia się jednak w kolejnym kroku. Ponownie z opisu pewnej ogólnej tendencji wyprowadzony zostaje wniosek o charakterze normatywnym. Skoro rozwój technologii jest nieunikniony, odpowiedzią ma być jego przyspieszenie i instytucjonalizacja - poprzez bliższe powiązanie państwa z sektorem technologicznym oraz zwiększenie publicznych nakładów na obronność.
Przyjmując ten sposób widzenia możliwych odpowiedzi zostaje faktycznie niewiele. Logika „jeśli nie my, to inni” prowadzi do wniosku, że jedyną racjonalną strategią jest eskalacja - zarówno technologiczna, jak i polityczna i fiskalna. Karp doprowadza ją do logicznej konkluzji w swoim punkcie 12. postulując głębszą zmianę – odejście od logiki „odstraszania nuklearnego” na rzecz modelu opartego o przewagę systemów AI.
To właśnie w tym miejscu należy się zatrzymać i spojrzeć czego na temat eskalacji i rozwoju technologii uczy nas przywołana przez samego Karpa epoka atomowa. W okresie po II WŚ myślący podobnie do Karpa technologiczni determiniści wieszczyli nieuchronność nuklearnej proliferacji, wykorzystanie tej technologii przez terrorystów, a wreszcie upadek ludzkiej cywilizacji, którego pokoleniowym symbolem stał się „Zegar Zagłady”.
Tymczasem rzeczywistość okazała się bardziej złożona. Choć broń nuklearna odegrała istotną rolę w kształtowaniu ładu międzynarodowego, scenariusze jej powszechnego użycia nie zmaterializowały się w przewidywanej skali. Jednocześnie technologia atomowa znalazła zastosowania wykraczające poza kontekst militarny, przynosząc korzyści – np. w medycynie, energetyce czy transporcie – wielokrotnie większe niż szkody i koszty.
To właśnie na te problemy z przewidywaniem przyszłego rozwoju w swoim pracach zwracał wielokrotnie uwagę Ludwig von Mises, podkreślając, że gospodarka i społeczeństwo nie rozwijają się wg. jednego z góry określonego scenariusza. Ten rozwój to zawsze wynik decyzji – tak ekonomicznych jak i moralnych – podejmowanych przez konkretne jednostki.
Niestety to właśnie ten obszar w największym stopniu ograniczyłby scentralizowany, wojskowy model społeczeństwa z Manifestu Karpa – w tym sensie jego realizacja stałaby się samospełniającą się przepowiednią.
7. „Twarda Siła” i jej granice
Najmocniejszym – bo niewątpliwie prawdziwym – elementem Manifestu jest nacisk na wzrost znaczenia siły we współczesnym świecie. Widzimy to w trwającej za naszymi granicami wojnie, widzimy w rosnącej niestabilności kolejnych regionów świata. Tutaj zgoda panuje praktycznie wśród wszystkich – wszak to klasyczni liberałowie zawsze podkreślali, że podstawowym zadaniem państwa jest zapewnienie jego obywatelom bezpieczeństwa.
Uznanie tego faktu nie przesądza jednak o tym w jaki sposób ta siła powinna być produkowana i organizowana. W Manifeście sposobem ma być to co proste i oczywiste – koncentracja i centralizacja procesów decyzyjnych, zasobów i kompetencji. Tymczasem z perspektywy ekonomii i filozofii politycznej takie utożsamienie siły z centralizacją nie jest oczywiste.
Ludwig von Mises – sam posiadający doświadczenie jako oficer artylerii w czasie I wojny światowej – zwracał uwagę, że sposób ponoszenia kosztów wpływa na tryb podejmowania decyzji. W systemie, gdzie koszty podjętych działań ulegają rozmyciu i mogą być narzucone szerokim grupom społecznym dużo łatwiej o eskalację – nie dlatego, że podjęte decyzje stają się irracjonalne, ale dlatego, że zmianie ulega struktura bodźców. ale dlatego, że zmianie ulega struktura bodźców.
To dlatego dla Misesa bezpieczeństwo i pokój były tak ściśle związane z koniecznością ograniczenia, a nie jak chce Karp zwiększenia, obszaru kontroli i oddziaływania państwa. Mises na własne oczy widział do czego prowadzi sytuacja, w której odpowiedzialność za podejmowane decyzje oderwana zostaje od aktu ich podjęcia.
Jeszcze wyraźniej widać te ograniczenia, gdy wcześniejsze argumenty Hayeka dotyczące ograniczeń w dostępie do wiedzy przeniesiemy na poziom bezpieczeństwa. Nawet najlepsze systemy analityczne nie wyeliminują konieczności podejmowania decyzji w warunkach niepewności, ani ryzyka błędnej interpretacji dostępnych danych.
W tym kontekście deterministyczna logika „jak nie my, to oni!” nabiera nowego znaczenia: w jej ramach każde działanie może zostać uznane za uzasadnioną odpowiedź na działania potencjalnego przeciwnika. Co gorsza ten proces nie posiada jasnego punktu zatrzymania, bo sam z siebie generuje kolejne przesłanki dla dalszej eskalacji – co systemowo zwiększa np. prawdopodobieństwo wojny prewencyjnej lub nadmiernej eskalacji.
Z perspektywy czysto libertariańskiej problem „hard power” ma też wymiar normatywny. Nawet gdyby przyjąć, że bezpieczeństwo to warunek konieczny dla funkcjonowania wolnego społeczeństwa to nie można z tego faktu wyciągnąć wniosku, że wszystkie środki prowadzące do jego zapewnienia można uznać za dopuszczalne. Jak podkreślał Murray N. Rothbard – to właśnie w momentach zagrożenia autonomia jednostki poddana zostaje prawdziwej próbie, w której weryfikacji ulegają prawdziwe granice państwowego przymusu.
Żadne z tych spostrzeżeń – w dwóch z trzech przypadkach formułowanych przez ekonomistów z bogatym doświadczeniem prawdziwego konfliktu zbrojnego – nie oznacza oczywiście, że alternatywną dla przymusowej „służby” wojskowej, militaryzacji i centralizacji społeczeństwa musi być słabość.
Historia pokazuje, że możliwe są modele oparte na większej różnorodności rozwiązań, profesjonalizacji, dobrowolności i lepszym dopasowaniu bodźców systemowych do podejmowanych działań. W tym kontekście Karp ponownie dokonuje sztuczki: budowie państwowej siły chciałby podporządkować każdy obszar życia społecznego zamiast zadać naturalne pytanie o to gdzie dokładnie – zwłaszcza w niepewnych czasach – powinniśmy wytyczyć dla niej granice.
8. Fałszywy obrońca „Cywilizacji Zachodu”
Najbardziej problematyczna część Manifestu to jednak ta w której Karp sektor technologiczny oraz Stany Zjednoczone przedstawia jako głównych obrońców „cywilizacji zachodu”. Pokazuje ona, że Karp po prostu słabo rozumie fundamenty leżące u podstaw sukcesu zarówno Cywilizacji jak i Kraju, które chciałby „bronić”.
W jego wizji bezpieczeństwo i rozwój zdają się wynikać przede wszystkim ze zdolności do mobilizacji zasobów w której kluczową rolę odgrywać mają instytucje publiczne. Tymczasem historia nowoczesnych państw, w tym samego USA, pokazuje dużo bardziej złożony obraz.
Myśląc o „rewolucji AI” nie sposób nie zastanawiać się nad źródłami i przyczynami rewolucji przemysłowej która nie tylko zbudowała podwaliny naszego dzisiejszego dobrobytu, ale miliardy ludzi wydźwignęła z biedy dając szansę na godne życie.
Jak zwraca uwagę wybitna badaczka jej fenomenu prof. Deirdre McCloskey ta eksplozja produktywności nie wynikała wcale z lepszej organizacji zasobów czy nawet implementacji doskonalszej technologii, ale na zmianie sposobu w jaki społeczeństwa postrzegały inicjatywę, ryzyko i innowację.
Wagę tego „miękkiego” aspektu dla rozwoju zauważa sam Karp w punkcie 16. pisząc o konieczności docenienia wysiłków tych, którzy chcą budować „tam gdzie rynek jeszcze nie zdążył zadziałać”. Niestety nie wyciąga z niego logicznych wniosków dla reszty swojego systemu: przenikający cały manifest język obowiązku i centralnej koordynacji stoi w sprzeczności właśnie z tymi cechami wybitnych jednostek, które historycznie sprzyjały kumulatywnemu procesowi budowy innowacji.
To z resztą największy paradoks całego Manifestu: Karp, samemu będący „produktem” otwartego, akceptującego innowację i przedsiębiorcze eksperymenty amerykańskiego społeczeństwa postuluje model, który – gdyby wprowadzić go w życie – musiałby te warunki i swobodę znacznie ograniczyć.
9.
22 punktowy Manifest Karpa brzmi przekonująco i atrakcyjnie właśnie dlatego, że celnie diagnozuje wiele aktualnych problemów. Tempo zmian technologicznych, rosnąca niestabilność geopolityczna, brak zdolności utrzymania tempa przez stare instytucje polityczne – coraz bardziej realna potrzeba bezpieczeństwa w niebezpiecznym świecie.
To wszystko sprawia, że proponowana przez niego wizja – świata bardziej scentralizowanego, uporządkowanego i zaplanowanego – oparta na ścisłym sojuszu państwowego monopolu na przemoc i firm technologicznych może wydawać się odpowiednią, a być może jedyną możliwą, biorąc pod uwagę skalę współczesnych wyzwań.
Jej uważna analiza ujawnia jednak wewnętrzne sprzeczności – pomiędzy rolą elita, a próbą równego podziału kosztów zapewnienia bezpieczeństwa; pomiędzy innowacyjnością i otwartością na rozwój a centralizacją i kontrolą nad życiem gospodarczym; wreszcie pomiędzy dążeniem do bezpieczeństwa a zawartymi w samej wizji bodźcami zwiększającymi prawdopodobieństwo eskalacji kolejnych konfliktów.
Przede wszystkim widać w nim jednak stary i dobrze „rozpracowany” w literaturze ekonomicznej błąd utożsamienia kontroli i centralizacji – tym razem wspieranych odpowiednio zaawansowanymi narzędziami technologicznymi – z możliwością efektywnego planowania i zarządzania decyzjami całych społeczeństw w sposób lepszy i mądrzejszy niż zrobiliby to sami ich indywidualni członkowie.
Podobne ostrzeżenie znajdziemy także w listach tak cenionego przez Karpa pisarza – J.R.R. Tolkien pisze w nich o „Sarumanach tego świata” którzy wierzą, że dzięki wiedzy i technice będą zdolni „wszystkim narzucić swoją wolę (…) dla dobrych celów, które jedynie Mędrcy umieją dostrzec”.
W tym sensie intelektualne wyzwanie jakie stawia przed nami Manifest Karpa to nie pytanie o bezpieczeństwo czy rolę technologii, a jedna z najstarszych i najbardziej ludzkich rozterek: czy w obliczu zmieniającego się coraz szybciej i coraz bardziej złożonego, ale też mniej bezpiecznego świata jesteśmy gotowi zaakceptować rozproszoną, chaotyczną i spontaniczną naturę rządzących nim procesów czy też – jak chciałby Karp – będziemy dążyć do ich okiełznania, spętania i poddania centralnej kontroli.
Źródło ilustracji: pixabay.
