För fem år sedan bevittnade jag hur Pekings repressiva metoder ödelade min hemstad Hongkong. Vi förlorade yttrandefrihet, politiska rättigheter och frihet från rädsla. Vänner satt fängslade i åratal på grund av fredlig opinionsbildning och jag flydde till Storbritannien som politisk flykting.
Jag lärde mig en värdefull läxa: När makten är koncentrerad och okontrollerad dör demokratin. Makt tar sig olika uttryck – ibland utövas den av regeringar inom nationella ramar, ibland av företag vars inflytande sträcker sig över jurisdiktioner och kan skalas upp i det oändliga. Vi bör vara oroade över båda, särskilt den senare, eftersom företagens makt är mer subtil, men lika inflytelserik.
Det är därför som den artificiella intelligensens utveckling och de narrativ som utvecklas kring den gör mig orolig. Upprustningsretoriken har dominerat nästan alla relaterade diskussioner och en kapplöpningsmentalitet gör att oro över maktkoncentration bara ses som ett oljud som stör den ekonomiska tillväxten. Vi är på väg in i en framtid där säkerheten för de mest betydelsefulla teknikerna – artificiell generell intelligens (AGI) och artificiell övermänsklig intelligens (superintelligens) – är beroende av ett fåtal ledande företags goda vilja och självreglering. Dessa företag kommer bara att få mer makt i takt med att AI-utvecklingen dramatiskt accelererar när dessa modeller kan automatisera forskning och utveckling inom AI.
Demokratin dör när makten blir alltför koncentrerad. Innan AI kan överträffa de flesta människor när det gäller distansarbete måste vi lyfta frågor och driva på för politiska förändringar som inför skyddsnät och skyddsvallar för att värna om demokratiska system.
Det är därför jag anser att AI inte bara ska tjäna mänskligheten utan också demokratin. Med stor makt följer stort ansvar – vi behöver en rörelse för demokratisk AI för att säkerställa att demokratin frodas i AGI-åldern och att AI-företag i frontlinjen hålls ansvariga.
Artificiell intelligens ska inte bara tjäna mänskligheten utan också demokratin
Vi måste agera snabbt. Anthropics VD, Dario Amodei, har förutspått att AI-modeller kan överträffa människans förmåga “i nästan allt” inom två till tre år. Även de mindre optimistiska experterna är för det mesta överens om att AGI är oundvikligt.
För närvarande arbetar vi fortfarande utifrån ett lapptäcke av frivilliga åtaganden och embryon till lagstiftning, som drivs av tillväxtcentrerade och kapprustande narrativ. AI:s otroliga kapacitet kan verkligen frigöra ofattbar ekonomisk tillväxt och vetenskapliga upptäckter, vilket kan leda till ett samhälle med mycket större resursöverflöd. AI-drivna tekniska genombrott inom militären har gjort det möjligt för Ukraina att avvärja betydligt större ryska arméer. Inom det medicinska området har den senaste tekniken också bidragit till att utveckla diagnostiska verktyg som räddar många liv.
Men tänk om denna tillväxt och dessa intäkter i slutändan bara tjänar en minoritet av teknikjättarna? Tänk om företag uppmuntras att ägna sig åt rovdjursbeteende när regeringar misslyckas med att ingripa eftersom de saknar tillgång till avancerade modeller? Tänk om de AI-system som används för miljarder är kodade för att tjäna sina skapare och står redo att iscensätta kupper?
Det samlade inflytandet kommer att vara ofattbart: från att hamstra resurser och kontrollera media till att manipulera den allmänna opinionen och den information vi får. Att fortsätta låta de främsta AI-företagen släppa ut sina produkter till allmänheten utan oberoende myndighetstester och säkerhetscertifiering är att avsiktligt äventyra demokratin. Bristen på transparens, ansvarsskyldighet och offentlig tillsyn när det gäller de mest inflytelserika AI-systemen utgör motsatsen till vad demokratiska samhällen står för.
Det finns ett akut behov av offentlig tillsyn och medborgardeltagande
AI bör inte vara ett ämne som bara en liten grupp skickliga tekniker kan diskutera. Avancerad AI-utveckling ska inte stängas in i en svart låda som endast ett fåtal (eller inga) oberoende revisorer kan granska. Utan offentlig tillsyn och medborgardeltagande i dessa ledande företags beslutsprocesser riskerar vi att låta dessa verktyg tjäna enbart kommersiella intressen.
Vi måste bygga en rörelse för att försvara demokratin mot en allt snabbare maktkoncentration. Som de mäktigaste intressenterna i AGI-åldern måste företagen svara på människors oro och förhoppningar, medan regeringen bör skapa större lagstadgad makt för bredare tillsyn. En rapport som tagits fram av en koalition av AI-forskningsinstitut visade att över 80 procent av respondenterna var överens om att utnyttja AI för att skydda demokratier och stärka de rättsliga ramarna för att bättre reglera AI-användningen. En annan studie visar att större delen av allmänheten anser att regeringar eller tillsynsmyndigheter bör ha en rad säkerhetsbefogenheter.
Makten måste nå människorna där de är. Det är så demokratin frodas i mötet med de största tekniska revolutionerna.
Betrodda medborgarrepresentanter bör ingå i bolagsstyrelser för att balansera incitamentsstrukturer. Framstående AI-företag bör installera mekanismer och upprätthålla lyhördhet för att bemöta människors oro, som kan fångas upp genom offentliga framställningar eller partnerskap med trovärdiga opinionsinstitut. Det bör vara obligatoriskt att dela modellfunktioner och specifikationer med flera oberoende och statliga intressenter för testning, vilket förhindrar potentiella maktövertaganden och system som förlorar kontrollen.
Vi måste också fastställa parametrar och vägledande principer för att säkerställa att AI-utvecklingen tjänar demokratiska värden. Vi bör införa exportkontroller för chip till länder där censur är ett statligt påbud, investera mer i smala och lokaliserade modeller för att minska miljöpåverkan, legalisera regler som kräver säkerhetstester innan produkter lanseras och aktivt kräva att företag arbetar med att minimera systematiska fel.
Värde- och rättighetsbaserat språk bör stå i centrum när vi diskuterar AI-säkerhet och styrning. Vi bör öka dataportabiliteten och interoperabiliteten på AI-plattformar för att underlätta marknadskonkurrensen, ständigt anpassa modellernas beteenden till den allmänna förklaringen om de mänskliga rättigheterna och bygga upp korrigerande mekanismer för AI-missbruk, säkerställa ett strikt dataskydd, kompensera människor för deras arbete och investera mer i forskning om maskintolkningsbarhet för att bättre kunna genomföra alla nödvändiga säkerhetsåtgärder.
Demokratiska system står ständigt inför utmaningar. Att förbli slumrande leder inte till överlevnad – att engagera sig i kraftfulla diskussioner och lära sig av sina misstag gör det. En debattartikel i New York Times av Yuval Harari, Tristan Harris och Aza Raskin om hur mänskligheten förlorade kampen mot den första AI:n – sociala medier – har inspirerat mig att slå larm om vår nästa kamp. Medan sociala medier har lett till ett samhälle med mer depression, beroendemissbruk och splittring, kan konsekvenserna av att missköta AGI bli långt värre.
Konsekvenserna av att missköta artificiell allmän intelligens kan bli dramatiska
Jag är inte teknikskeptiker. Jag tror på den tekniska utvecklingen och de fördelar den ger mänskligheten. Men att försvara demokratin är ännu viktigare: Vi måste förändra hur makten är strukturerad.
En mer varsam hållning innebär inte att vi måste tappa mark mot rivaler som Folkrepubliken Kina. Som professor Victor Shih träffande påpekat är ledarskapet i Peking ännu mer oroat över AGI:s frigörande kraft. Den kinesiska modellen började utforma AI-“bromsar” från början eftersom oron för att AI ska påverka regimens stabilitet är stor – Peking kommer sannolikt att dra fötterna efter sig när det gäller nästa AI-genombrott. I kombination med exportkontroller av chip och andra åtgärder är jag övertygad om att vi inte kommer att äventyra våra fördelar genom att hålla ledande AI-företag ansvariga.
Det finns gott om forskning som visar på farorna med att låta vår framtid bero på några få företags goda vilja – det är dags för opinionsbildning. Demokratiaktivister, yttrandefrihetsförespråkare, förespråkare för miljö- och rasrättvisa, forskare inom AI-säkerhet och många andra bör gå samman och uttrycka sin oro med en gemensam röst.
Democracy AI kan vara det projekt och den allians som skapar tillräckligt momentum för förändring. Framsteg kommer från nya narrativ, samförstånd över sektorsgränser och organiserade politiska påtryckningar. När lagstiftarna är pressade att agera får vi en säkrare och mer demokratisk framtid.
Denna artikel publicerades ursprungligen på asia.nikkei.com. Återpubliceras här med vänligt tillstånd. Upphovsrätten kvarstår hos författaren och/eller den ursprungliga utgivaren.
Regler och villkor för att använda innehåll från denna hemsida.