Det digitala kalla kriget — kampen om AI

Photo by Sheldon Nunes on Unsplash

Artificiell Intelligens har blivit en politisk fråga. Internationellt har de två huvudfårorna i debatten handlat om utvecklingen av superintelligent AI (ett datorprogram vars intelligens vida överstiger hela mänsklighetens) och om arbetets automatisering, där robotarna gör människor onödiga i arbetslivet. Det är viktiga debatter men de är svåra att vidareutveckla till dagspolitik, för det finns ingen AI vars förmåga är i närheten av att vara så omfattande.

Intelligens handlar om att lösa problem, vishet handlar om att välja vilka problem som är rätt att lösa först. Idag är de tekniska förutsägelserna för osäkra. Det är inte konstigt att en del forskare nu börjar att benämna sin forskning något annat än AI för att undvika den uppskruvade debatten.

För AI är inte en specifik teknik, det är snarare en kombination av beräkningskraft, databaser och nätverk som alla arbetar tillsammans för att utföra specifika uppgifter. Om tidigare expertsystem kom laddade med kunskap, börjar algoritmer från noll med att behandla stora mängder data och pröva sig fram.

Framstegen som kommer till användning inom AI kallas alltmer odramatiskt för “mjukvarutveckling”. Det brukar bli så när teknikutvecklingen går från att handla om producenterna till konsumenterna. De stora vinsterna från en generell teknologi, som exempelvis elektriciteten, kom inte energiföretagen tillgodo utan de som köpte de nya maskiner som gick att koppla upp till elnätet. Diskmaskinen, tvättmaskinen, symaskinen, datorn etc. omvandlade deras liv till det bättre.

Idéer är inte beroende av en specifik teknisk utveckling och kan även i sin tur forma tekniken. En risk är idén om den digitala diktaturen; AI och dess möjligheter att övervaka, mäta och styra medborgarna som aldrig förr. Det finns en oro i samtiden för auktoritära kleptokrater, men de är snarare resultatet av den liberala demokratins nedgång än representanter för ett särskilt framgångsrikt utmanande alternativ till den.

Den digitala diktaturen ställer sig som medtävlare till att forma 2000-talets politiska utveckling. Daniel Yergin och Joseph Stanislaw ger en bra beskrivning av den liberala demokratins seger i sin bok “Kommandohöjderna: berättelsen om marknadens globala renässans” från 1998. Diktaturer kan inte upprätthålla tillväxt, då de lägger hinder för entreprenörsanda, innovation och utvecklingspotential.

Den digitala diktaturen framhåller att länder visst kan vara repressiva och ändå fortsätta, om inte förbättra, sina ekonomiska framgångar jämfört med de liberala demokratierna. Folkrepubliken Kina är den digitala diktaturens föregångsland och även ideologiska tankesmedja. Landet är framstående inom övervakning och maskininlärning. Bakom “den kinesiska brandväggen” har myndigheterna kunnat utöva en stark kontroll över internetanvändarna.

Business Intelligence (BI) är ett samlingsbegrepp för färdigheter, tekniker, applikationer, processer och metoder för organisationer att bättre förstå verksamheter genom insamling av data. Förmågan att göra förutsägelser av människors beteenden är inte så perfekt som filmer och reportage visar, men BI blir bättre med tillgång till många fler konton och uppkopplade föremål. En digital diktatur kan ta in data för interaktioner som en person utför online och offline och lägga samman uppgifter från skattekontor, bank, polisen, sjukvården, biometriska data, övervakningskameror med ansiktsigenkänning o.s.v. för att jämföra med släkt, vänner samt kontakter och samköra fram relevanta samband. Det är så mycket data att det dessutom kan vara bra träningsprogram för AI även om kvalitetsnivån på insamlade data inte är bra.

Kinas sociala kreditsystem växte fram ur försök på 90-talet att bygga ett referenssystem för finansiell kredit i stil med FICO Score i USA. Det har därefter utvecklats till ett unikt kontrollsystem som hittills mest visat sig i manuella svartlistningar, och inte så mycket genom algoritmer och poängutdelning. Kina har en hel del svårigheter att upprätthålla människors identiteter (tänk på Hukou-systemet och hur många kineser som har samma namn!), korrekt ange deras kreditvärdighet och upprätthålla lagarnas efterlevnad (som att kineser i låg grad betalar utdömda böter). Den snabba utvecklingen kan innebära risker för att datainsamlingen inte blir noggrann och säker, och noggrannhet och säkerhet är mindre genomgående bakom “den kinesiska brandväggen” än många i Väst verkar tro. Det finns inte heller någon sammanhållen “social kreditvärdighet” i systemet, snarare är det fråga om ett ekosystem av ibland splittrade och ofta lokala initiativ, vilket gör det svårt att ta fram ett objektivt mått på hur “pålitlig” en individ skulle vara. Problemet är dock att den kinesiska staten genom sin digitala ideologi kanske inte ser de ovan uppräknade problemen riktigt som problem. “It’s not a bug, it’s a feature”.

Ingen säkerhetstjänst kan hitta alla dissidenter men genom användningen av prediktiv analys, som understöds av AI, går det att neutralisera oppositionen genom att hitta rätt personer i nätverken. En viktig fördel för myndigheterna är att användarna dessutom försöker att anpassa sig till systemet, så att systemet inte ska börja göra negativa förutsägelser över deras möjliga framtida handlingar. Den som tittar för länge på fel webbsidor eller laddar ned fel appar kan lägga pussel tillbaka till algoritmernas övervakning och myndigheternas reaktioner. Det förändrar inte bara beteendet, men utövar även en mer subtil kontroll över människors tankar. Nudge har sina nackdelar, men beteendeförändringar kan påverka eller i vart fall utesluta beteenden. Över hela världen har trollarméer inte i uppgift att sprida en viss ideologi utan att göra samhällsdebatten cynisk, få folk att tystna och inte bry sig om att diskutera politik.

Det finns en önskan från myndigheterna att uppnå en bättre kontroll av ekonomin. Det är inte centralplanering som på Mao Zedongs tid, det sitter inte någon byråkrat och försöker att räkna fram hur många spikar som behövs i ekonomin, men en byråkrat kan övervaka genom att sammanföra AI och Industri 4.0 för producenternas behov.

Kina gör ett misstag. Det var Deng Xiaopings reformer som ledde till välstånd, i kombination med att landet släpptes in på världsmarknaden. Det nationalekonomiska kunskapsproblemet och förståelsen av hur distribuerad kunskap används i samhället är inte löst genom AI, BI, sakernas internet etc.

En modern ekonomi är komplex och föränderlig, det är svårt för AI att kunna förutse utfallen och ersätta den distribuerade kunskapen. År 2030 är det möjligt att en tredjedel av alla jobb kommer att kräva färdigheter som inte är vanliga idag och som troligen inte ens existerar idag.

Den digitala diktaturen kommer stöta på tekniska problem, IT-projekt av den här storleken är svåra att styra rätt. Kina har dock arbetat med det här sedan internet kom och spenderar väldiga belopp. Landet har också tillgång till kunskap i världsklass och hälften av den enorma befolkningen är online.

Fast frågan om hur stark eller svag AI-tekniken kommer att bli är egentligen inte viktig i sammanhanget. Den digitala diktaturen är en fråga om idéer. Om den digitala diktaturen uppfattas som ett gångbart alternativ till den liberala demokratin så kommer den att verka lockande för de styrande i många länder som just nu går in i sin första digitaliseringsvåg. Det särskilt i länder som befinner sig i den problematiska medelinkomstfällan.

Kina försöker med sin “sharp power” att etablera praktiken att nationalstater ska kringgå dagens FN- stödda intressentdrivna process inom organisationer och fora som ICANN, IETF, IGF samt ISOC för att styra “sitt eget” internet och även påverka standarderna för AI-utveckling. Då blir det färre parter som kritiserar Kinas politik och den som sätter reglerna kan lättare bevara sin position inom AI-utvecklingen.

Frågan är hur de liberala demokratierna bemöter utmaningen från de digitala diktaturerna? Det är en svår uppgift att gå i digital klinch med ett självsäkert Kina och påverka landet i en mer demokratisk riktning, men det är en nödvändig uppgift för de liberala demokratierna att förnya sig. Förhoppningsvis så bevaras de demokratiska institutionernas integritet genom att övervakarna övervakas men än viktigare är att använda AI för att kunna vidareutveckla demokratin. Förnyelse påverkar hur länder som nu digitaliseras kommer att tillämpa AI och Big Data. Där behövs stöd till både IT- infrastruktur och IT-juridik för demokrati och öppenhet, samt internationella normer som stödjer individens rättigheter.

Indiens Aadhaar, världens största system för att registrera biometrisk ID, har byggts av den indiska staten men använder ett öppet API för licensierade tjänsteleverantörer att verifiera användarna. Människor kan använda Aadhaar för att öppna bankkonton, köpa SIM-kort, kräva sina rättigheter från regeringen, fylla i elektroniska blanketter, investera i fonder, få kredit, hyra cyklar och mer. Det med bara fyra datapunkter: namn, födelsedatum, adress och kön. Effekten av att hundratals miljoner människor kan identifiera sig online är omvälvande. Google och Facebook bygger ju sin marknadsstyrka på förmågan att samla data och länka den till enskilda identiteter. De två nätjättarna vet inte bara om användarnas demografiska detaljer utan kan också se deras beteende online. Den informationen används främst för att visa upp mer relevanta annonser och länkar, men för att göra det behövs allt djupare profileringar vilket får en extra stor hjälp från AI. Vilken användning som Aadhaar får kommer att få beror på vilka idéer som finns om e-förvaltningens syfte.

Skriften “E-demokrati på rätt sätt” berättar om den första digitaliseringsvågens utveckling och hur den avstannade. AI:s påverkan på styret ska inte underskattas. Den westfaliska nationalstaten skulle inte ha uppstått utan att kunna stödja sig på utvecklingen av korrekt återgivna kartor. Tillämpningen av AI kan användas för e-demokratin, men även med att säkra flytande demokrati för att undvika både populism och teknokrati. Andra intressanta utvecklingar att följa är digitala plattformar som BitNation Pangea och Estlands e-medborgarskap.

Det är inte tekniken i sig som bestämmer framtidens användning, det är människors idéer om vem som kontrollerar data och hur dessa data bör användas. Det är dags för förnyelse av den debatten, annars kan den digitala diktaturen bli vinnaren av det digitala kalla kriget.