Designade bebisar och makt – därför vill Kina bli bäst på AI
Teknikjättarna i Silicon Valley har fått allvarlig konkurrens av den kinesiska staten, som nu satsar hårt på att bli världsledande inom AI. Läget påminner om rymdkapplöpningen under kalla kriget, då det även handlade om att bevisa vilket politiska system som hade framtiden för sig.
Hur många atomer finns det i universum? Astrofysiker anger antalet 10 upphöjt till 80. Ett sådant ofattbart stort tal är dock mindre än mängden möjliga scenarier i det kinesiska strategispelet Weiqi, mer känt i omvärlden under sitt japanska namn Go. Detta komplexa spel med ett fåtal distinkta regler introducerades i Japan omkring 700-talet e Kr. Populariteten ökade stadigt bland samurajerna, och fick en alldeles särskild status när shogun Tokugawa Ieyasu i början av 1600-talet inrättade fyra Go-akademier.
Eftersom spelet inte bara kräver matematisk talang och förmåga att jämföra handlingsalternativ utan också ett inslag av intuition tog man länge för givet att ett datorprogram aldrig skulle kunna besegra en professionell Go-spelare. Därför gick chockvågor genom hela Östasien när Googles mjukvara Alphago i november 2016 vann ett parti Go över den sydkoreanske världsmästaren Lee Sedol. Det självlärande programmet hade uppenbarligen snappat upp det nödvändiga inslaget av intuition och därför lyckats besegra en mästarspelare.
För Kinas alla strateger – generaler, underrättelseofficerare och ledamöter i politbyrån – kom Sedols nederlag att signalera en ny fas i kapplöpningen med USA om tekniskt, ekonomiskt och militärt övertag. Den teknik som betecknas som artificiell intelligens (AI) gavs därför högre prioritet i den kinesiska statens strategiska dagordning.
I bakgrunden kan man ana en nedärvd rädsla hos den kinesiska eliten för att underskatta kraften i teknikskiften. Erfarenheten av hur det gick under den konservativa Qingdynastin – som var likgiltig inför den industriella revolutionen i Europa och därför underlät modernisering av utbildning, ekonomi och försvarsmakt på 1800-talet – går djupt.
Med AI står mycket på spel eftersom villkoren för ekonomi, arbetsmarknad, kultur och vardagsliv kommer att förändras i grunden. Som Andrew Ng, forskningschef på den kinesiska sökmotorn Baidu, har uttryckt det: "AI är den nya elektriciteten", det vill säga ett fenomen som kommer att förändra hur vi arbetar och lever. De av nationalstaterna som dominerar AI kommer att ha ett försteg också i spelet om dominans av världen.
Den kinesiska enpartistaten är fast besluten att inte försumma denna nya fas av it-revolutionen. Med både färska och nedärvda insikter lanserade därför regeringen i Peking förra året dokumentet "En utvecklingsplan för en ny generation av artificiell intelligens". Den uttalade ambitionen är att Kina år 2030 ska vara "världens primära innovationscentrum för artificiell intelligens".
Är det möjligt att Kina passerar USA som världsledande på AI inom elva år? USA har än så länge ett starkt övertag genom stabila forskningsmiljöer och långt hunnen utveckling av kraftfulla mikrochip. Trots enorma statliga satsningar på innovation och ingenjörstalanger är kinesiska företag fortfarande beroende av amerikanska produkter.
Det finns dock annat som talar till Kinas fördel. Folkrepubliken har sedan 90-talet uppnått många av sina högt uppsatta mål. Ett exempel är det gigantiska järnvägssystem för höghastighetståg som har färdigställts under det senaste decenniet. Ett annat är utvecklingen av avancerade raketer för att etablera en rymdstation, månlandningar och vidare utforskningar av Mars.
För att nya mönsterseende algoritmer ska kunna skapas utifrån astronomiska mängder data behövs också ett väloljat samarbete mellan stat och privata företag, som lagrar alla kinesers persondata. En sådan allians mellan staten och teknikjättar som Alibaba, Tencent och Baidu existerar i dag, vilket inte var fallet för tio år sedan då nya medieföretag var mer frihetssträvande. Men efter att Xi Jinping tog makten 2012 och expanderade den digitala övervakningen – och slog fast att massmedierna och kommunistpartiet är en och samma familj – försvann alternativa ståndpunkter helt i självcensurens tystnad. Alibabas styrelseordförande Jack Ma är idag inte den enda it-chefen som är stolt partimedlem. Att stödja kommunistpartiet är kommersiellt klokt när marknaden för övervakningstjänster växer explosionsartat.
Att vara tydligt nationalistisk är också lönsamt, eftersom privata företag förväntas bidra till nationell säkerhet och i samråd med Folkets befrielsearmé utveckla AI och kvantdatorer. Faktum är att den massiva statliga satsningen och miljardrullningen till AI-sektorn också har tillkommit genom lobbying från det privata näringslivet, bland annat genom Baidus politiskt nätverkande vd Robin Li. För att komma ikapp USA är uppköp av och samarbeten med ledande utländska teknikföretag och universitet högprioriterade.
Det som emellertid är Pekings viktigaste trumfkort i kampen mot USA är en brist
– bristen på etik. Den kinesiske etikern He Huaihong har klarsynt redogjort för detta fenomen i boken "Social ethics in a changing China: Moral decay or ethical awakening?" (2015). Googles förra Kinachef Kai-fu Lee har fastslagit att Kina kommer att bli världsledande inom ansikts- och röstigenkänning "på grund av den stora mängden data som kan samlas in men också eftersom kinesiska medborgare är mindre bekymrade över privat integritet". Det är alltså frånvaron av en etisk reflektion – en följd av den statliga censuren som omöjliggör offentlig diskussion – i kombination med drivkraften hos företagen att skapa algoritmer som möjliggör både social kontroll och säljbara tjänster, som är Kinas stora fördel.
– bristen på etik. Den kinesiske etikern He Huaihong har klarsynt redogjort för detta fenomen i boken "Social ethics in a changing China: Moral decay or ethical awakening?" (2015). Googles förra Kinachef Kai-fu Lee har fastslagit att Kina kommer att bli världsledande inom ansikts- och röstigenkänning "på grund av den stora mängden data som kan samlas in men också eftersom kinesiska medborgare är mindre bekymrade över privat integritet". Det är alltså frånvaron av en etisk reflektion – en följd av den statliga censuren som omöjliggör offentlig diskussion – i kombination med drivkraften hos företagen att skapa algoritmer som möjliggör både social kontroll och säljbara tjänster, som är Kinas stora fördel.
Denna konflikt mellan etik och marknad är förstås märkbar också i Silicon Valley. Skandalerna runt Facebooks läckage av användardata till Cambridge Analytica är illa, liksom den långsamma nednötningen av Googles höga ideal. Anställda vid Google protesterade nyligen mot ett AI-samarbete med Pentagon och företaget har även kritiserats för att ha bistått den censurerande sökmotorn Dragonfly i Kina. Med drygt 800 miljoner uppkopplade människor är Kina ett Klondyke av big data som även de västliga teknikjättarna trånar efter.
Bristen på efterlevnad av etiska principer gäller också andra nydanande teknikområden, som enligt samma logik lockar läkemedelsbolag och genetiker från väst. Nyheten att genetikern He Jiankui hade modifierat anlagen på ett tvillingpar genom klipp och klistra-tekniken Crispr-Cas väckte bestörtning i hela världen häromveckan (se Under strecket 27/12). Det självsvåldiga ingreppet var en varningsklocka som väckte kritik också bland kineser. Trots den kinesiska statens paranoida ambitioner beträffande övervakning av medborgarna saknar den uppenbarligen en fungerande kontroll av forskare som är beredda att bryta mot lagen för att hamna i historieböckerna.
Drömmen om personlig berömmelse och nationell storhet kan visserligen sporra till vetenskapliga genombrott som är till nytta för mänskligheten, och ett underutnyttjande av den nya tekniken kan också vara till skada. Men riskerna är kolossala. Hur långt är steget i dag från kinesiska designer babies till klonade supersoldater på framtidens slagfält? Vilken stat blir först med att låta militära beslut fattas av AI? Dessa obehagliga frågor handlar om etik. Vad kan göras för att undvika överträdelse av etiska principer – och vilka nya principer och standarder måste det uppnås internationell enighet om?
Det är svårt att vara optimistisk med den brist på globalt ledarskap som råder för tillfället. Men att reda ut de etiska problem som följer på den rasande snabba utvecklingen inom AI är nödvändigt, och i väst förs redan en sådan diskussion. Det vore högst önskvärt att även kinesiska filosofer som He Huaihong och Zhao Tingyang, som har varnat för riskerna med AI, tog del i den internationella debatten om etiska riktlinjer för AI. En sådan dialog skulle även stilla kinesiska farhågor om västerländsk "etisk imperialism" som strategi för att behålla det amerikanska tekniska försprånget.
Konkurrensen om att bli nummer ettinom AI påminner om den fas i kalla kriget då huvudfienderna Sovjetunionen och USA satsade enorma resurser på rymdresor för att bevisa att just deras politiska system hade framtiden för sig. Men dagens Kina är en annorlunda motståndare än Sovjetunionen. Kina är visserligen liksom Sovjet en repressiv enpartistat, som med den nyaste digitala tekniken spårar och övervakar alla medborgare, men också ett marknadssamhälle, organiserat av en enpartistat som drivs av att dominera marknader hemma och utomlands i syfte att permanenta partiets maktmonopol. Därför handlar spelet mellan USA och Kina mindre om ideologi än om teknikövertag, marknader och nationalism.
När Alphago besegrade Lee Sedol insåg Kinas ledare att det är med AI som det riktigt stora strategiska spelet om världsordningen börjar. Precis som i Go kommer detta stora spel att innehålla flera mindre intensiva spel. Flera av dem är av klassisk geopolitisk och geoekonomisk karaktär, som exempelvis oron för militär konfrontation mellan Kinas och USA:s flottor i Stilla havet, eller som det pågående handelskriget mellan länderna. Men de mer avgörande spelen är renodlade vetenskapliga kapplöpningar: inom till exempel rymdforskning, biomedicin och AI. Det är därför viktigt att fastlagda etiska principer i likhet med Unescos deklaration om bioetik och mänskliga rättigheter får en motsvarighet på AI-området och att man även hittar verktyg för att se till att de efterlevs i Kina och i forskningssamarbeten. Precis som bredspelet Go har tydliga regler borde det pågående strategiska stormaktsspelet, med alla dess underordnade mindre spel, regleras av okränkbara etiska principer.
posted by disco 3-way at 6:43 AM
0 comments
