Just nu sker digitaliseringen av samhället i mycket snabb takt. Den hastiga teknikutvecklingen medför många ekonomiska fördelar och effektiviseringar. Men alla snabba samhällsförändringar utgör också en risk för etablerade politiska system. För att säkra den liberala demokratin i framtiden måste vi börja ta den politiska fighten om vilket sorts samhälle vi vill se i digitaliseringens spår.
Ska vi följa samma väg som Kina, eller borde de liberala demokratierna börja forma en egen politisk AI-vision?
På 1980-talet sade entreprenören Jan Stenbeck att ”Politics always beats business, but technology always beats politics”. Teknik slår politik, alltså. Och historien visar att det stämmer – på gott och ont.
När ångmaskinen fick sitt breda genombrott på 1800-talet gick startskottet för den industriella revolutionen. Landsortens folk emigrerade då i drivor in till städernas fabriker. Ångtekniken möjliggjorde elektricitet på beställning, vilket omvälvde samhällets produktionskapacitet och ekonomiska förutsättningar. Den industriella revolutionen möjliggjorde i sin tur en politisk omvälvning. Den stora massan av unga män arbetade nu inte längre som drängar utspridda över landsbygden, utan samlades tätt i fabrikerna. Där började de organisera sig med varandra. Socialismen föddes som idé och spreds på fabriksgolven. Den nya socialistiska idén applicerades sedan i den ryska revolutionen, den kinesiska revolutionen och i många fler länder.
Den industriella revolutionen var alltså först en teknisk revolution, som sedan ledde till politisk revolution – genom att möjliggöra socialismens genomslag. Förmodligen kommer digitaliseringen göra samma sak.
Digitaliseringen kommer likt den industriella revolutionen göra det möjligt att organisera människors arbete på nya sätt (t.ex. genom att eliminera behovet av geografisk närhet för att samarbeta), vilket i sin tur kommer möjliggöra nya politiska läror som är svåra för oss idag att föreställa oss. För att säkra att dessa nya tankegods inte leder mänskligheten i en totalitär riktning igen krävs en diskussion om hur de liberala demokratiska principerna ska anpassas för en ny tids dilemman.
Idag diskuterar vi i väst gärna digitaliseringens ekonomiska fördelar och möjligheter, men har ännu inte kommit att diskutera de politiska samhällseffekterna av teknikskiftet särskilt mycket. Det har man däremot börjat göra i Kina. Och deras exempel bör vi inte följa.
Den digitala planekonomin på frammarsch
Det är en myt att socialistiska system är oförmögna till att själva ta till sig ny teknisk utveckling. De är bara sämre på att distribuera den nya tekniken till breda folklager. Sovjet var trots allt först med att skicka en människa till rymden, men de vanliga sovjeterna upplevde sällan andra färdmedel än häst- och vagn. Nordkorea är idag framstående inom cyberkrigföring, men de flesta vanliga nordkoreaner har fortfarande aldrig rört vid en dator.
De senaste åren har det blivit tydligt att Kina vill ta ledartröjan inom teknikutvecklingen. Kommunistpartiet har fastslagit att man ska bli världens ledande AI-nation till 2030, och de verkar lyckas. För bara någon vecka sedan sade Pentagons mjukvaruchef Nicolas Chaillan upp sig från jobbet och sade resignerat i media att ”Kina är 15-20 år före USA på AI-området”.
En del av Kinas AI-projekt som blivit särskilt uppmärksammad är deras ”Social Credit System”. Med hjälp av kameror, sensorer och AI-understödd databehandling ska kommunistpartiet kunna massövervaka sin befolkning. Och det ska göras i en omfattning som hade gjort Stasi avundsjuka.
Kinas sociala kreditsystem går ut på att det mesta invånarna i Kina gör ska övervakas, registreras i ett big data-system och sedan betygssättas utifrån kommunistpartiets kriterier. Ditt beteende i vardagen ekonomiseras genom att du samlar poäng (sociala krediter) när du gör ”goda handlingar” och du mister poäng när du begår ”dåliga handlingar”.
Exempel på goda handlingar som ger poäng är att hjälpa till på städdagar i sitt bostadsområde. Exempel på dåliga handlingar som minskar dina poäng är att kritisera regeringen, stjäla, köra bil dåligt eller spela datorspel för många timmar.
Höga poäng gör det enklare att resa i landet, tillåter en att skippa kön på sjukhus, ger bättre synlighet på dejtingsajter, ger rabatt i matbutiker och möjlighet att slippa depositionsavgifter på till exempel hotell.
Låga poäng gör att din rörlighet begränsas genom att du inte får köpa tåg- och flygbiljetter, din profil döljs på dejtingsajter och du får svårare att söka jobb.
Detta är inget annat än planekonomi i en modern tappning, när kommunistpartiet nu använder den nya tekniken för att försöka centralstyra medborgarnas beteende. Tekniken är särskilt skrämmande eftersom den lär vara så effektiv.
Sociala kreditsystemet – en modern panoptikon
På 1700-talet uppfann den brittiska filosofen Jeremy Bentham begreppet ”Panoptikon”, som är en typ av fängelsebyggnad. Det beskrivs såhär:
”Konstruktionen utgörs av ett övervakningstorn i mitten av en rund byggnad, som längs väggarna är indelad i tårtbitsliknande celler utan dörrar. Övervakaren kan när som helst observera vilken fånge som helst, medan den enskilda fången inte kan avgöra om de blir övervakade eller inte, varför fångarna hela tiden måste agera som att vakten ser dem. Detta skapar därför enligt Bentham en ”känsla av ett osynligt allvetande”, och skulle därigenom få de kriminella att byta handlingsmönster till ett socialt acceptabelt och således behandla snarare än bestraffa de intagna”
Det är svårt att inte känna igen sig i Benthams panoptikonfängelse när man hör om Kinas sociala kreditsystem. Övervakaren i form av den kinesiska staten kan när som helst observera vilken medborgare som helst, men den enskilda medborgaren kan inte avgöra om de blir övervakade eller inte – och måste därför hela tiden agera som om de är övervakade. De måste i varje stund undvika att begå ”dåliga gärningar” som att kritisera regimen.
En kritisk del av den liberala demokratin är bevarandet av en privat sfär för enskilda. I Kina raderas den privata sfären effektivt av den nya tekniken. Och det är inte bara i Kina. Systemet går nu på export till andra länder. Regimerna i Laos och Kazakstan har redan visat intresse.
När tekniken är utrullad av en auktoritär härskare är det extremt svårt för medborgarna att ta tillbaka kontrollen. När du konstant övervakas av kameror, mikrofoner och all din kommunikation avläses blir det oerhört svårt att organisera frihetliga motståndsrörelser. Övervakningstekniken hindrar effektivt all sorts opposition från att gro, vilket naturligtvis är ett uttalat mål för staternas användning av systemet.
Liberaler har gärna en rosenskimrande idé om att friheten alltid vinner i slutändan. Under andra världskriget kunde franska män och kvinnor fortsätta organisera sig mot förtryckarna i motståndsrörelser, eftersom Gestapos öron och ögon inte nådde överallt. Men om Kinas övervakningsteknik sprids i fler länder blir den franska motståndsrörelsen mycket svår att emulera.
Den härskare som sitter på datasystemet sitter på makten, kanske för gott.
Vem bestämmer över samhället i Metaverse?
Men det är inte bara kommunistländerna som utvecklar ny teknik som kan utmana den liberala demokratin. Sådan teknik utvecklas också i väst.
Nyligen presenterade Facebook-grundaren Mark Zuckerberg företagets nya storsatsning de kommande åren. Projektet kallas ”Metaverse”, och går i korthet ut på att Facebook tror att vi människor kommer spendera våra dagar i framtiden i en Virtual Reality-värld, som de kallar metaverse. De vill naturligtvis gärna vill bli företaget som driver metaverse.
Att människor skulle spendera sina dagar i en VR-värld kan låta som en barock idé, men vem hade å andra sidan trott för trettio år sedan att vi skulle spendera fyra timmar i snitt per dag med att stirra in i en mobilskärm?
Vi lever våra liv digitalt idag. Så är det bara. Mobilens chattar och kamera har blivit sättet vi umgås med de flesta av våra vänner och affärsrelationer genom.
I takt med att VR-glasögon-teknik blir billigare är Metaverse ett ganska naturligt nästa steg. Vi går från att stirra på den digitala världen i mobilskärmen till att röra oss i den.
Att umgås i metaverse kommer förmodligen bli populärt, det är ju effektivt. Du kommer kunna ha en virtuell lägenhet som du tar hem vännerna till på några sekunder. Den är ju alltid städad. Eftersom den är virtuell kan du inreda den utifrån din kreativitets begränsningar istället för din hushållsbudgets begränsningar. Du får nya möjligheter att forma din egen identitet och komma i kontakt med kultur, oavsett var du bor.
Restid och jobbpendling blir ett minne blott. Företag slipper ha fysiska kontor när arbetet kan utföras på distans i Metaverse. Det kommer kännas som om alla är på kontoret, men i verkligheten sitter de anställda hemma i soffan, med ett VR-headset på huvudet. Bill Gates tror att utvecklingen sker redan inom 2-3 år.
Inga fria val i Metaverse
Metaverse låter ju trevligt. Men vem bestämmer där? I takt med att allt mer av samhällslivet flyttar över till digitala plattformar skapas också ett demokratiskt underskott.
Vi ser redan idag exempel på hur framstående opinionsbildare stängs av från sociala medier, och därmed från det offentliga samtalet, ibland till synes utan förklaring eller möjlighet att överklaga beslutet. Sociala medier-företagens avstängning av USAs högste politiker, dåvarande presidenten Donald Trump, är ett exempel.
I den virtuella världen bestäms spelreglerna av företaget som äger servrarna, inte av ett folkvalt parlament.
Men vem är det som bestämmer vilka som får delta i det publika samtalet i Metaverse och inte? Kommer man få diskutera massakern på Himmelska Fridens torg i metaverse?
Om Metaverse blir den plats där vi arbetar och spenderar våra dagar framöver, kan det leda till en splittrad situation. Vi kanske fysiskt fortsatt befinner oss i en liberal demokrati (i Sverige), men hela vår vakna tid spenderas i en företagsägd virtuell diktatur. Den som äger metaverse äger då i praktiken makten över det fria ordet, tryckfriheten, pengarna, företagen och det mesta som hör samhällslivet till.
Lever vi då fortfarande i en liberal demokrati?
Vi behöver en offensiv frihetlig syn på tekniken, och ett livaktigt samtal om de nya politiska dilemman som teknikutvecklingen ställer oss inför. Det behövs en inriktning som uppmuntrar innovation och konkurrenskraft samtidigt den liberala demokratins grundprinciper värnas.
Debatten om digitaliseringens framtida samhällseffekter borde vara särskilt högaktuell inom de politiska ungdomsförbunden. Det är ju de unga som kommer få leva med effekterna längst. Därför borde de också visa ett större intresse för vilken värld som ska formas i digitaliseringens spår.
Denna text publicerades först på Frivärlds sajt ”Säkerhetsrådet”.
