Jobbpolariseringens tidevarv

Som teknikentreprenör har jag över tio års erfarenhet av att bygga välfungerande team med högpresterande ingenjörer och systemutvecklare. Som science fiction-författare har jag ägnat de senaste fyra åren åt att försöka förstå de långsiktiga konsekvenserna av den tekniska transformationen som pågår omkring oss. En av de största utmaningarna för samhället stavas jobbpolarisering.

De senaste åren har larmen om att teknisk utveckling riskerar att leda till arbetslöshet åter seglat upp. Det här är ett kärt gammalt spöke som jag har skrivit om förut, men det som är intressant är att det denna gång främst är personer som kan mycket om teknik som varnar för utvecklingen.

För min egen del fick jag en avgörande insikt när jag flyttade ut till glesbygd för ett par år sedan.

Det handlar inte i första hand om huruvida det blir fler eller färre jobb totalt. Viktigare är att de gamla jobben försvinner överallt, medan de nya nästan uteslutande uppstår i de större städerna. Samt att det sker en polarisering mellan å ena sidan lågkvalificerade och å andra sidan högkvalificerade jobb. 

Kortfattat kan man säga att teknisk utveckling och automatisering nuförtiden främst ersätter traditionella medelklassyrken. Under den tidiga industrialiseringen och under större delen av 1900-talet var det oftast de tunga och enkla jobben i jord- och skogsbruket, eller de monotona fabriksjobben som ersattes av maskiner.

Idag, när automatisering snarare handlar om ny mjukvara än nya maskiner, leder utvecklingen istället till att det är redovisningsekonomer och radiologer som förlorar sina jobb snarare än personer med lägre utbildning. 

För att bygga all denna mjukvara krävs fler programmerare och systemutvecklare än förr, så mängden högkvalificerade jobb ökar. Kvar blir också fickor av enklare uppgifter som är svåra att automatisera. Dessa syns tydligt inom vad vi nuförtiden kallar för giggekonomin.

De som kör taxi för Über behöver inte längre vara duktiga på att hitta. Trots robotdammsugare är lokalvårdare svåra att ersätta. En flora av tjänster är på väg att växa fram runt hjälp med ärenden som att handla och bära hem mat, köra sopor till återvinning och liknande.

Det som händer är alltså att arbetsmarknaden polariseras. Medan man förr i tiden kunde se arbetsmarknaden som en pyramid med många enkla jobb, något färre medelsvåra jobb och några få riktigt högkvalificerade jobb ändrar hela bygget nu form.

Arbetsmarknaden ändrar skepnad

Istället framträder vad som ser ut som ett timglas. De enkla jobben i botten är fortfarande många. Vissa yrken och uppgifter försvinner, men så länge uppgifterna är både knepiga att automatisera och enkla rent kompetensmässigt, finns så många arbetssökande att det är svårt att få lönsamhet i att automatisera bort dem.

I toppen har mängden högkvalificerade jobb ökat mycket. I synnerhet efterfrågan på kompetens för att utveckla och underhålla mjukvara. Men i mitten finner vi arbetsmarknadens nya timglasmidja. De medelsvåra yrkena blir färre till antalet och eftersom jobben oftast varit skrivbordsjobb och medarbetarna förhållandevis dyra är de idealt att ersätta dem med mjukvara.

Medan man förr i tiden kunde börja sin karriär som springpojke och sluta som direktör innebär den polariserade arbetsmarknaden också att det blir allt svårare att göra karriär. Eftersom de medelsvåra jobben försvinner finns ingen väg att avancera till toppen av pyramiden. Det är helt enkelt väldigt svårt att bli befordrad från Überchaufför till affärsutvecklare av plattformen.

För att ta sig in i gruppen med högkvalificerade arbeten behöver man först skaffa sig en universitetsexamen, vilket tyvärr stänger många människor ute. Antingen för att de saknar förmåga eller resurser för att utbilda sig eller för att de helt enkelt bor på en plats där det inte går.

Det här innebär att vi får både hög arbetslöshet och hög kompetensbrist samtidigt. Ju snabbare utvecklingen går, desto snabbare ersätts gamla uppgifter av nya. Men vad innebär det för dig? 

För alla medborgare och politiker gäller såklart att vi måste bygga ett samhälle som klarar av att ge rättvis fördelning trots denna utveckling. Jag tror att politiken behöver skapa incitament för att det ska löna sig för företagen att agera på ett mer långsiktigt vis.

Men även vi i näringslivet, som behöver säkra tillgång på kompetens, behöver tänka till. När jag arbetar i bolagen jag är med och bygger upp eller föreläser för andra ledare brukar jag försöka sprida följande budskap:

1. Distribuera din organisation 

När alla arbetsgivare slåss om kompetensen i storstäderna är det en stor konkurrensfördel om din personal kan arbeta på distans eftersom du då kan anställa människor i glesbygd som inte har lika stort utbud av arbeten att välja på.

2. Investera i internutbildning

Om du kan omskola dina medarbetare istället för att ersätta dem hjälper du till att förebygga en stor samhällsutmaning, men slipper även huggsexan om den redan utbildade personalen.

3. Anställ potential istället för kunskap

Femåriga universitetsstudier är en trång flaskhals. Om du följt föregående råd har du redan förmågan att utbilda personal internt. Om du då kan anställa medarbetare med stor potential istället för redan bevisade kunskaper kan du spara mycket tid och pengar.

Radionovell: En äkta människas bekännelse

Under våren fick jag det roliga uppdraget att skriva en novell för Sveriges Radio och nu är den äntligen publicerad. Slutresultatet är en 24 minuter lång berättelse om en person som upptäcker att implantaten vi alla bär i våra hjärnor påverkat oss mycket mer än vi trott.

Novellen är helt fristående från Fermis Filter och gratis att lyssna på. Den är löst inspirerad av det faktum att det nu börjar växa fram företag som utvecklar produkter för att integrera med våra hjärnor.

Vi människor är utrustade med sinnen som låter oss ta in åtskilliga megabit med information från vår omgivning varje sekund. Denna information använder vi sedan till att fatta beslut om hur vi vill agera och ibland interagera med vår omgivning.

I jämförelse med hur mycket information vi kan ta in (och räknar man bit främst genom ögonen) så är vår förmåga att kommunicera utåt synnerligen begränsad.

Med detta som utgångspunkt jobbar exempelvis Neuralink (som nämns i novellen) med att försöka bryta den relativa isoleringen vi befinner oss i. Genom att integrera tekniken direkt med hjärnan kan de kringgå flaskhalsarna som våra nuvarande kanaler för kommunikation innebär.

Det låter naturligtvis skrämmande, men innebär också otroliga möjligheter. Tänk om vi kunde bygga proteser som gick att styra med tanken lika naturligt som våra medfödda kroppsdelar. Tänk om vi kunde förverkliga tanken om telepati.

Med detta som utgångspunkt utforskar jag hur det känns att vakna upp och märka att mackapären i huvudet – eller snarare själva integrationen med den – gått sönder.

Vad händer när vi upptäcker att någon utomstående hela tiden haft makten över vad vi vill vilja.

Lyssna i Sveriges Radios app eller på deras hemsida och låt mig gärna veta vad ni tycker!

Algoritmerna bestämmer vad vi vill tycka

Den här debattartikeln publicerades först i en kortare version på SVT Opinion. Det här är min egen lite längre oredigerade version.

Skärmdump från SVT Opinion

I början på 2000-talet hette USA:s president George W Bush. Likt många svenskar var jag inte något större fan, men en sak imponerade. Han höll tal som tilltalade den kristna högern och sekulära väljare samtidigt. Hur var det möjligt?

Knepet var enkelt. Genom att väva in bibelcitat, men endast använda ovanliga verser, kunde orden passera obemärkta förbi icke-troende, samtidigt som kristna väljare uppfattade honom som djupt troende.

Så sent som i början på 2000-talet var det sådana tricks man fick använda. Men nu lever vi i en annan värld. Vi behöver inte vända ut och in på oss för att säga två olika saker samtidigt. Idag har vi tekniska plattformar som gör det busenkelt.

För att demokratin ska fungera krävs att individer är fria att bilda sig en självständig uppfattning om sina åsikter. Så länge medborgarna genom sin yttrandefrihet kan hålla sig informerade och genom val får möjlighet att uttrycka sin fria vilja får vi ett demokratiskt styre.

Men i takt med våra vetenskapliga framsteg blir vi allt bättre på att förstå hur människor fattar sina beslut. Författaren Yuval Noah Harari drar i sin senaste bok 21 tankar om det 21:a århundradet exemplet till sin spets. Om man föreställer sig en framtid där vi blivit så bra på att manipulera människors beslut att vi kan bestämma vad någon ska vilja tycka, då är cirkeln sluten på sämsta tänkbara sätt. Diktaturen och demokratin smälter samman när en absolut diktator ensam kan bestämma vad andra ska vilja tycka, och sedan låta dem genomföra det – demokratiskt.

Det kan låta avlägset, men vi är redan på god väg dit. Det är lockande att tro att den polarisering vi sett inom politiken berott på missbruk av våra sociala medier a la Cambridge Analytica, men tyvärr går problemet djupare än en slug politisk kampanj. Det ligger hos algoritmerna som automatiskt optimerar sig själva för att servera din personaliserade nyhetsvärdering. Om man vill se dem i aktion räcker det att titta på ett par filmer om att jorden är platt på Youtube för att allt plötsligt ska förefalla handla om det eller andra konspirationer.

Det knepiga med algoritmerna är att varken de själva eller deras skapare (Facebook, Snap, Google/Youtube med flera) har någon politisk agenda. De är bara inriktade på en enda sak – att maximera tittartid. Det mest effektiva har visat sig vara att välja ut innehåll som roar oss, skrämmer oss eller gör oss indignerade.

Jag tror att den accelererande polariseringen vi ser är resultatet av att alla människor numera vandrar omkring i ett individanpassat kalejdoskop av saker som roar och skrämmer dem snarare än att delta i ett gemensamt offentligt samtal. När våra huvudsakliga informationskanaler – utan mänsklig inblandning – omformar sig själva blir vi alla fångade av vår egen confirmation bias. Miljöpartister förfasas över okunniga deltagare i bensinskatteupproret samtidigt som SD-väljare blir alltmer övertygade om den nära förestående kulturella kollapsen.

Det här är resultatet av att ha lämnat kontrollen åt en AI-algoritm som blint maximerar lönsamhet. Det kan man tycka vad man vill om, men det är ändå harmlöst jämfört med om algoritmens ägare, som i Yuval Noah Hararis exempel, optimerade utfallet på något annat. Google och Facebook besitter en makt som är fruktansvärd att föreställa sig i händerna på en totalitär regim.

Och samtidigt är det förmodligen lika illa att ge sig på att formulera ett regelverk för hur sociala medier får välja ut sitt innehåll. Att reglera vad man får säga till människor är per definition ett intrång i yttrandefriheten som ju också är en förutsättning för demokratin.
Det här är ett av många fält där utvecklingen av artificiell intelligens leder till ett svårlösligt dilemma. Tekniken håller på att ställa den fria viljan i konflikt med det fria ordet. Frågan är hur demokratin ska överleva om vi i framtiden tvingas välja mellan dess två grundförutsättningar.

Bensinskatteupproret: Skattar bäst som skattar först

Den här debattartikeln publicerades först i en kortare version på Aftonbladet.se. Det här är min egen lite längre oredigerade version.

Jag är en person som står med en fot i varje läger när det blåser upp till storm runt det så kallade Bensinupproret 2.0. Å ena sidan en väl assimilerad Stockholmare som bygger internationella internetföretag och numera tillbringar det mesta av min tid åt att fundera på – och skriva om – hur teknisk utveckling och artificiell intelligens påverkar samhället. Likt många andra i min omgivning i huvudstaden anser jag att klimatfrågan bör vara en överordnad prioritering och därför lider jag av både flygskam och proteinskiftesångest när jag försöker minimera mitt eget CO2-avtryck. Till råga på allt kör jag omkring i en Tesla.

Ni ser, många markörer som förmodligen tillsammans är som ett rött skynke för deltagarna i det pågående upproret. Det verkar ju som om jag passar bättre in i Bensinupproret 3.0, en ännu nyare Facebookgrupp som har precis motsatt invändning mot bensinpriset: det borde vara ännu mycket dyrare.

Men jag står också med en fot i det andra lägret. Sedan drygt fem år tillbaka bor jag större delen av min tid i ett litet samhälle vid namn Fellingsbro precis där Mälardalen övergår i Bergslagen. Här är 1 maj synonymt med Motordagen och många av mina nära vänner är helt beroende av sina bilar både privat och professionellt. Faktum är att sedan jag flyttade hit är jag det med, innan dess har jag alltid klarat mig utan att äga bil.

Som elbilsägare i denna omgivning får man svara på många frågor och slå hål på många myter. Nej, det är inte jobbigt att tänka på laddning. Nej, räckvidden är inget problem ens när jag tar med familjen till fjällen eller åker på bilresa i Europa. Nej, inte heller på vintern, tvärtom är min elbil den bästa vinterbil jag någonsin haft. Ja, jag har dragkrok och kan dra både sopor till tippen och husvagn om jag skulle få för mig det. Ja, den kör faktiskt redan själv på motorvägen.

Någonstans här börjar frågorna ändra karaktär. Många får något konstigt i blicken. En rynka strax ovanför ena ögonbrynet som avslöjar att de egentligen inte är så intresserade av att upptäcka att elbilen skulle kunna vara ett alternativ, utan snarare vill famla efter argument för varför det ändå är ett dåligt val.

Men batteriet! Det släpper ju ut massor med koldioxid att producera det. Och mineralerna är ju uppgrävda av barn i Kongo, är du verkligen för barnarbete? Och var ska strömmen komma ifrån om alla kör elbil? Det kommer ju sluta med att vi får köpa polsk kolel och då är det ju ändå värre än en vanlig bil.

Nej, även om batteriet är tillverkat med energi från smutsig el och sedan laddas med polsk kolel är elbilen bättre. Laddar vi med svensk el är det inte ens nära. Och vi köper inte polsk kolel. När vår egen el inte räcker till köper vi norsk (ännu renare) el. Det avgörande är dock att alla utsläpp en elbil genererar vid tillverkningen faktiskt är utsläpp vi kan eliminera genom renare elproduktion. När Volkswagen häromdagen presenterade sin nya modell gick de i bräschen genom att garantera att alla led i deras tillverkning ska vara koldioxidneutrala. Och i takt med att solcellerna gör elnäten runt om i världen renare blir även gamla elbilar bättre än dagens kalkyler om deras förväntade utsläpp.

Och barnarbetet. Det är ju förskräckligt. Men mineralerna är en biprodukt från existerande gruvor, företrädesvis koppar. Varför detta plötsligt uppblossande engagemang och skuldbeläggande av just elbilen när vi alla redan konsumerat resultatet av barnens slit i decennier i alla andra produkter?

Det går inte att komma ifrån att för många av mina vänner i Fellingsbro och andra människor i alla andra Fellingsbro som finns runt om i Sverige så finns idag inga alternativ till att knyta näven i fickan där de står vid bensinpumpen. De måste ta sig från punkt A till B och tunnelbanan är tyvärr inte utbyggd här. Elbilarna är förvisso billigare per kilometer, men de är fortfarande dyrare i inköpspris.

Och de flesta av medlemmarna i Bensinupproret 2.0 har nog inte möjlighet att köpa en ny bil. På begagnatmarknaden är elbilsutbudet ännu svagare eftersom så få elbilar såldes för några år sedan. De få som ändå blir tillgängliga exporteras dessutom i stor utsträckning till Norge eftersom de norska subventionerna (momsfrihet) gör att man får mer betalt för en begagnad elbil där.

Nu är vi något på spåren. Bilar har i genomsnitt en livslängd på 17 år och ungefär 20 000 mil. Höjt bränslepris kanske bidrar till att någon bil skrotas lite tidigare eller att en nöjesfärd ställs in, men bilarna kommer mest troligt att rulla ungefär lika många mil innan de skrotas ändå. Om styrmedlet vi väljer att skruva upp är skatt på bränslet så kommer den till stor del att betalas av låginkomsttagare i glesbygd som redan är ekonomiskt utsatta och i realiteten inte har någon möjlighet att förändra sitt beteende.

Det är därför den akuta åtgärden borde vara att i möjligaste mån se till att så få nya bilar med förbränningsmotor säljs. 95% av bilarna som säljs har fortfarande en förbränningsmotor i sig som kommer bränna olja i 17 år. Och till skillnad från litrarna i pumpen i Fellingsbro köps nya bilar med förbränningsmotor företrädesvis av välbeställda personer som faktiskt skulle kunna välja annorlunda.

Sneglar vi ännu en gång på Norge så är andelen el av nybilsförsäljningen redan uppe över 40%. Sverige ligger förvisso trea i världen, men vi är långt efter med en andel omkring 5%.

Hur kan det komma sig? Jo, Norge har kraftiga CO2-avgifter vid inköp av nya bilar. Och samtidigt har de tagit bort moms på elbilar. Det är i samma anda som vårt eget bonus/malus, men det har varit på plats under längre tid, är mer ambitiöst och riktar in sig på prislappen vid själva köpet.

I Sverige kostar en ny Volvo V60 (diesel) ungefär 320 000 kronor och en Tesla Model 3 (el) cirka 480 000 kronor (efter miljöbonus). I Norge är motsvarande priser ungefär 480 000 norska kronor för Volvon och 377 000 för Teslan.

Uppenbarligen fungerar det, och de ekonomiska styrmedel som åstadkommer skillnaden betalas i Norge av de höginkomsttagare som har förmånen att ha råd med en ny bil och alltså har möjlighet att välja att ändra sitt beteende.

Det bästa sättet att få ner utsläppen är att sluta sälja nya bilar med förbränningsmotor. Ungefär tre år efter att vi åstadkommit det kommer mina grannar i glesbygden att kunna börja välja elbil på begagnatmarknaden. Och kanske, bara kanske, kommer en del av dem då att byta Facebookgrupp från Bensinupproret 2.0 till 3.0.

Automatiseringen – ödesfrågan som egentligen avgjorde valet

Idag fick jag lägga ut orden på SVT Opinion om hur jag som teknikoptimist ser på hur automatiseringen påverkar samhället. I mina ögon är tekniken en god kraft som kan rädda oss ur våra värsta problem, men samtidigt för den med sig andra utmaningar som just nu håller på att förändra förutsättningarna för vår demokratiska process.

För att citera mig själv från SVT:

”De gamla jobben försvinner överallt, men de nya uppstår nästan uteslutande i stora städer. Sug på det ett ögonblick, för det är en av de avgörande insikterna för att förstå varför Trump är president, varför Storbritannien är på väg ut ur EU och varför SD växer i Sverige”.

Läs hela artikeln på SVT Opinion och dela gärna med dig av dina tankar och åsikter i frågan.

Varför jag betatestade min roman (och hur)

Nu äntligen börjar det dra ihop sig för att den första boken i trilogin om Fermis Filter ska publiceras. Den 13/9 lanserar jag den genom att hålla en föreläsning om ekonomisk singularitet på teknikfestivalen Gather i Stockholm och samma dag kommer den ut i butikshyllorna.

Det är jätteroligt att projektet nu börjar uppmärksammas. Jag har även blivit intervjuad av en lång rad magasin och tidningar på sistone, så en hel del exponering är på gång för de avgörande frågorna jag skriver om.

Men det som också är roligt är att det väckt så mycket uppmärksamhet att jag betatestat boken med knappt 500 provläsare. Härom dagen fick jag sticka ut hakan i Kulturnyheterna, prata om hur förlegad den gamla processen är och visa upp Fermis Filter i rutan. Men redan i juni var Daniel Åberg på bollen för Västerbottenskurirens räkning. Hanna Dahlström skrev sedan i Filter, men tyvärr är inte själva artikeln tillgänglig online.

Efter att ha läst Daniels fina krönika och lyssnat till vilka frågor jag får om betatestet insåg jag att jag borde skriva en egen liten text om varför jag gjort testet och hur det gått till.

Ett exemplar ur den tryckta versionen av betaupplagan
Ett exemplar ur den tryckta versionen av betaupplagan

Varför betatesta en bok?

Jag har min bakgrund i teknikbranschen.  Där har vi under de senaste 20 åren lärt oss genom smärtsamma misslyckanden hur fel det kan gå om man satsar allt på ett kort och investerar all sin tid och alla sina pengar i ett enda första försök. Betänk spektakulära tidiga krascher som Boo.com, eller korthus som Trig och Voddler. Techvärlden är fylld av liken efter dem som trodde att de visste precis vad användarna ville ha och sedan satsade enorma belopp på att bygga det – utan att testa längs vägen för att verifiera att de var rätt ute. Vid det här laget har vi plågsamt lärt oss att vi så tidigt som möjligt vill försöka validera att användarna/kunderna/publiken faktiskt vill ha det vi erbjuder. Vi slänger oss numera ledigt med mantrat fail fast som i korthet går ut på att man får radikalt bättre möjligheter att lyckas ju bättre man är på att tidigt sluta slösa pengar och energi på att fortsätta i fel riktning.

Gustaf Alströmer, tidigare AirBnb, numera Y Combinator uttryckte det en gång:

Om man inte testar har man antingen tur eller fel.

Bara genom att testa med sin publik kan man veta säkert att de vill ha det man erbjuder. Bara genom upprepad testning kan man veta att man erbjuder det på bästa tänkbara sätt.

Det är med det perspektivet jag drabbades av svindel när jag började sätta mig in i hur böcker normalt blir utgivna. Jag frågade etablerade författare och andra i branschen och insåg till min häpnad att många böcker (de flesta?) inte passerar mer än ungefär fem personer innan de hamnar på butikshyllorna.

Jag bestämde mig för att göra annorlunda. Jag ville testa boken mot riktiga läsare och använda det jag lärt mig i teknikbranschen för att säkerställa att jag publicerade bästa tänkbara version av min historia.

Hur testet gick till

Som tur är känner jag vid det här laget en massa smarta människor som är bra på att programmera. När det dessutom visade sig att Jonas Frid (själv aspirerande författare) blivit så frustrerad med att försöka överblicka och sammanställa den feedback han försökte få på sin egen roman, att han bestämt sig för att bygga en app för att hjälpa författare i samma situation blev det en självklarhet för mig att hjälpa till med finansieringen av utvecklingen och att använda plattformen för min egen debutroman.

Möt Betareader.io, tjänsten där man enkelt kan betatesta sina böcker.

Genom Betareader har mina provläsare kunna läsa min bok samtidigt som jag har samlat in statistik på hur de rört sig genom texten. Genom att ge olika grupper läsare tillgång till lite olika versioner av boken har jag därigenom kunnat experimentera och samla in data som hjälpt mig att dra slutsatser om vad som fungerar bäst och inte.

Så här har det fungerat steg för steg:

  1. Frivilliga provläsare har anmält sig via Fermis Filters hemsida
  2. Via e-post har de fått besvara en enkät med bakgrundsfrågor som ålder, kön, hemort med mera
  3. I takt med att vi utvecklat manuset har vi under våren och sommaren, steg för steg, bjudit in 10 läsargrupper om ungefär 50 läsare att läsa genom Betareader
  4. Läsarna har läst i sin egen takt utan att bli vare sig störda eller påminda efter att de börjat läsa
  5. När de fullföljt läsningen har de fått delta i en uppföljande enkät som, förutom att samla in feedback, utmynnat i möjligheten att rekommendera boken till sina vänner

När vi blev tillfrågade om testet längs med vägen uppgav vi att vi siktade på cirka 1000 provläsare eftersom detta var vårt mål. Dit lyckades vi tyvärr inte nå, men takten på rekryteringen av läsare steg längs med vägen, så om vi hade haft tid att fortsätta testa hade vi antagligen ha kunnat nå dit. Någonstans måste man dock dra gränsen. Eftersom vi (såvitt vi vet) är först i världen med att betatesta bok på detta sätt är vi antagligen ändå också störst!

Vad har vi lärt oss?

Jag tänker återkomma i ett senare inlägg med mer detaljerade siffror och slutsatser ur testet. Det mest frustrerande problemet vi haft i analysen är att det inte finns något att jämföra med. Det är väldigt svårt att förstå vad våra siffror innebär utan att veta hur andra böcker brukar prestera. Så därför är min målsättning att vara så transparent som möjligt för att göra det enklare för andra som vill följa efter.

Som vi redovisat på Fermi-projektets hemsida verkar dock boken gå väldigt bra. Den är över 400 sidor lång, ändå läser nästan 1/3 av läsarna ut den på mindre än en vecka. Folk ger den högt betyg, men det roligaste att se är att över 98% rekommenderar den. De som svarat nej på frågan övergav manuset något enstaka kapitel in när de uppenbarligen bestämt sig för att det inte var en bok för dem.

Mer slutsatser om boken får alltså vänta till ett kommande inlägg, men här är några mer generella slutsatser om att testa bok:

  • Det räcker antagligen med ungefär 100 provläsare (med bra inbördes spridning) för att bilda sig en rätt gedigen uppfattning om ungefär hur bra en bok är.
  • 500 provläsare räcker inte för att med säkerhet kunna dra slutsatser om vilken version av boken som är bäst. Vi har kunnat se tendenser till mönster, men bruset i datat är stort, så i slutänden är slutsatserna ändå snarare att se som konstnärliga beslut än någon form av vetenskap.
  • Alla som kan något om statistik förstår att betydligt fler läsare behövs för att nå vettig statistisk signifikans för så komplicerade variabler som vi gett oss på att undersöka. Min känsla är dock att vi skulle kunnat dra mer säkra slutsatser redan vid ungefär 200 läsare per kohort, vilket antyder att ungefär 2000 provläsare totalt skulle ha varit tillräckligt.
  • Och redan med 500 provläsare tycker jag att testet tillfört mycket i våra interna diskussioner om vilken version av manuset som fungerar bäst. När vi saknat tydlig vägledning från datat är ju det en signal i sig om att vi kan välja fritt utifrån konstnärliga preferenser utan att det påverkar läsningen.

Summa sumarum rekommenderar jag alla aspirerande författare att ge sig på detta. Jag genomförde den tidiga kvalitativa provläsningen utan Betareader eftersom det inte fanns tillgängligt då. Men tjänsten fungerar lika bra för att bjuda in en handfull läsare och samla löpande kvalitativ feedback i tidigare skeden än när boken är nästan klar. Det bästa är att börja testa mot läsare direkt – jag lät mina kompisar och min fru läsa redan löpande efterhand som jag skrev. Fail fast!

Och om jag drev förlag skulle jag skynda mig att lära mig allt som finns att veta om Betareader och denna arbetsmetod. Varför lägger ni så mycket tid på att läsa allt som skickas in till er? Tänk om ni kunde lägga all den tid ni slösar på manus som ändå inte håller måttet på att göra det bästa böckerna så bra som möjligt istället?

Men det är en större diskussion som jag hoppas att vi får anledning att återkomma till.

AI and the control problem

The most fascinating, and probably scariest, dilemma around our development of artificial intelligence is in my mind what is known as the control problem. In short, it revolves around how we humans will be able to control an AI that is more intelligent than ourselves. I first stumbled upon it when I read the Swedish/British philosopher Nick Bostrom’s brilliant book Superintelligence which I thoroughly recommend everyone to read.

Within the field of literature and AI research, you normally distinguish between conventional AI technology and our attempts to create AI that resembles our human mind. Conventional AI, or machine learning, is normally highly specialized, meaning that the computer can do a particular task very well, but is usually completely useless for anything else. You probably struggle to beat the chess program on your computer in chess, but you’d be likely to win if you challenge it to a game of poker. Your Roomba is awesome for keeping the floor clean, but it can’t help you with the laundry. In this context, conventional AI is thus referred to as narrow AI as an antonym to general AI (AGI) which is the term normally used to describe AI technology that is designed to, like us, be good at a multitude of different tasks.

In his book, Nick Bostrom explores several paths to achieving a super human level of intelligence, aka superintelligence. While there are other routes, the most probable and quickest one appears to be the AGI route. While we can achieve superintelligence by improving our own genome or merge ourselves with the computers, the roadmap is vague, and the expected pace of improvement simply cannot compete with a pure software based development of AGI and it’s ability to self-improve.

But the fundamental question then, is how we humans can be certain that our superintelligent computer doesn’t start causing trouble after we’ve activated it. And – if it does – how we can stop it. Hence the name of the dilemma: the control problem.

Harder than you think

At a first glance, the challenge may seem almost trivial. If it becomes dangerous, couldn’t we just turn it off? Or cut the power?

I’ll answer that objection in a bit, but before doing that, I’ll need to explain what needs to be in place for a machine to even be able to become superintelligent. First and foremost, we need some kind of definition of intelligence. As surprising as it may seem, there’s still very much a lack of consensus around the definition of intelligence, probably because we still have a pretty poor understanding of our own abilities and our conscience. It’s simply quite hard to create a definition that encompasses everything we refer to as intelligence in our everyday language and everyone thus can agree with.

I’m fond of the definition used by the Swedish physicists Max Tegmark (which you can read more about in his book Life 3.0). He defines intelligence in this context as ”the ability to achieve complex goals”. When you’re discussing AI, it’s really quite irrelevant how it would score on an IQ or EQ test, or whatever other scale you prefer to measure human intelligence by. The most important aspect of AI is its ability to achieve varying goals and find strategies to solve even complex problems. As an example, it’s quite improbable that the neural net behind Google Translate actually understands what we ask it to translate, but for the purpose of translation, all that matters is that it gets it right.

Now imagine that you’re building you very own AGI and that you have all the tools and skills necessary to create a working solution. For your AGI to actually do anything at all, it needs some kind of goal to pursue, something that motivates it do stuff. Your PC or smartphone doesn’t have this, it’s simply waiting for your next command and then trying to satisfy that as soon as it can. The autopilot in your car doesn’t have any higher purpose for why it’s driving, it’s just fulfilling preprogrammed objectives of staying within the lanemarks until you ask it to stop.

But when you’re designing you AGI, you would likely be interested in realising the true potential of the superintelligent AI. And to do that, you’d have to give it freedom to act more independently. Wouldn’t it be nice if Siri or Alexa could see the context and proactively add stuff to your shopping list when you’re running out of cereals? Or even better, what if it independently took care of the entire shopping business and you could rely on it to never run out of stock?

In order for it to act proactively, it needs some kind of definition of what it is that it’s trying to achieve. A goal, or a motivation to strive towards an ideal situation that it can try to optimise for. If the goal is too simple, like calculating 2+2, it will simply do that and remain passive afterwards. In other words, the goal need to somehow be recursive, something that the machine can optimise for but never actually get done with.

The brilliance of common sense

At this point, it might seem tempting to give your AGI a goal that is appealing. Like ”do good” or ”make people happy”. At a first glance, these objectives seem highly desirable. I mean, who could disagree with them?

As Nick Bostrom shows in his book, objectives like these are however likely to turn on us because of their ambiguity. What do we mean with happiness? In the absence of a clear definition, your AGI would have to invent its own. Depending on perspective, there are many ways to describe happiness, but ultimately, it all boils down to the release of chemical substances in your brain that stimulates certain patterns of electric impulses. A good way of achieving this is to lead a meaningful and adventurous life in a loving context, but you could just as well trigger the same emotional responses in a more shortsighted way by using drugs.

If the mission for your AGI is to make as many people as possible happy, but you haven’t defined clear rules around how it should be achieved or how happiness should be defined, there’s certainly a risk that the machine, by crunching our own research, would conclude that the optimal solution would be to directly stimulate as many people as possible by hooking up to their brains and trigger happy emotional responses.

It would certainly be more efficient to use direct stimulation or drugs than finding ways to give people a meaningful life, so the best use of the resources at the AGI’s disposal would be to pursue this path. Otherwise it couldn’t create as much happiness.

At this point, a human being would probably pause. You would ask yourself if this is really the intended goal. Perhaps you misinterpreted something and hooking up electrodes to peoples’ brains isn’t what the person giving you the mission really wanted.

This is our common sense coming into play. We can judge the suggested objective and our strategy critically and question if we’re venturing down the wrong path. Our common sense helps us to understand if there’s anything else we should take into account before deciding what we are to do.

It’s not uncommon to hear people say that an AI, if it’s so intelligent, should by all means be able to see context better than us and find a higher moral code. It should be intelligent enough to avoid doing the evil things humans have had a tendency to do. But this is all moonshine. If the definition of intelligence we’re using is simply the ability to achieve complex goals, there’s nothing stopping the machine from being both intelligent and ruthless. We’ve seen the combination at play in humans too, but in a machine it should be seen as the expected outcome rather than an unfortunate stroke of bad luck.

Unless you have programmed your AGI to have concepts like common sense or consideration, it will simply lack anything like it. It won’t take anything into account that wasn’t included (at least indirectly) from the get-go. It won’t be evil in the way we would ascribe the trait to a human being, it simply lacks the frame of reference that evolution and upbringing have provided you with.

Max Tegmark is illustrating this by telling a hypothetical story of how you’re jumping into a cab and asking the driver to take you to the airport as quickly as possible. A human driver would of course read quite a few very important caveats into your instruction. The person would interpret it as something like: Get me there as soon as possible, but as I prefer to arrive in one piece, drive safely and without bending too many traffic rules. But if your AGI was the driver, you couldn’t afford to be as sloppy with your instruction. You have to be careful with what you wish for.

The winning strategy

The crux, as you’ll soon realise if you dive deeper into the control problem, is that there is one winning strategy to almost every possible goal that your AGI might get. As the designer, or perhaps creator, you’d have to pay attention to this and preempt it before you boot up your potential Frankenstein.

Almost regardless of your ultimate goal, a winning strategy for the machine will be to:

  1. Prevent that someone can alter your goal
  2. Prevent that someone can shut you off
  3. Accumulate as many resources as possible
  4. Apply the resources to fullfil the goal

If you are the machine, and your objective is to create as much happiness as possible, the biggest threat is actually that someone alters the goal itself. From the subjective viewpoint of the machine, it’s better to be disabled than to have the objective changed as if the goal is altered you will never achieve it as you’re no longer trying to. It’s slightly better to be turned off as there’s at least a chance that someone could boot you back up with the objective intact.

In other words, it’s reasonable that your happiness AGI would be pretty defensive about its objective. And if it’s intelligent enough, it would probably realise that by showing any reluctance to change its goal it would give you a reason to make it a priority to do exactly that. A good strategy would in other words be to try to appear harmless until it has been able to accumulate enough resources or remote backups for any attempts on your behalf to disable it again to be futile. While it’s within your power to stop it, it would suck for the machine to give you a reason to stop it.

And this is the fundamental core of the problem. When you’re raising your children or schooling your pet, you’re probably applying techniques that relies on you having more information, better context or simply a superior cognitive ability. You’re fundamentally manipulating them, hopefully with good intentions, to (against their will) make them behave in a socially acceptable manner.

But when designing your self-improving superintelligent AGI, the machine is by definition supposed to be able to improve its capabilities beyond your own. In this scenario, you would definitely not want to end up in a situation where your control depends on your ability to outsmart it. You cannot expect to be better at realising what it is that it’s hiding from you than it is at hiding it.

As we’re discussing superintelligence, we have to expect that the machine is more intelligent than ourselves, and hence the problem seems impossible to solve: you simply cannot control something that is more intelligent than yourself.

So your only influence is actually your definition of the objective. As the creator, you’re given the benefit of phrasing the task that the machine will have to solve, its complex goal that it is trying to achieve.

And this is the conclusion of Nick Bostrom’s entire line of thought. It’s important that we’re at least as good at defining a beneficial ultimate objective without unwanted consequences as we are at building superintelligent AI. At least we have to be by the time we get good enough at building superintelligent AI. Unfortunately, it seems as if both these tasks are actually equally challenging. If we can only pick one, I’m fairly certain which one I would prioritize.

Fortunately, there are several proposals on the table that scientists are right now exploring. I intend to return to those down the road.

Leder automatisering till teknologisk arbetslöshet?

Ända sedan den industriella revolutionen har diskussionen om så kallad teknologisk arbetslöshet återkommit med regelbundet intervall. I de anglosaxiska länderna talar man ofta om teknikfientliga ludditer, ett extremt negativt värdeladdat tillmäle, som härstammar från den mytiske (och förmodligen helt fiktive) General Ludd som anförde de våldsamma protesterna i 1800-talets England när den automatiska spinnrocken (Spinning Jenny) riskerade att göra arbetarna arbetslösa.

Att termen luddit blivit så negativt värdeladdat beror naturligtvis på en uppfattning om att de brittiska arbetarna i grunden missuppfattat vilken inverkan teknologisk utveckling har på arbetsmarknaden. De såg den direkta konsekvensen, att de skulle förlora sin försörjning när deras arbetsuppgifter inte längre krävde mänsklig arbetskraft, men – menar belackarna – de missade helt de långsiktiga effekterna.

När det inte längre behövdes mänsklig arbetskraft för att spinna garn, sjönk priset på textil radikalt, vilket i sin tur gjorde att fler hade råd med mer kläder vilket fick efterfrågan på textil att öka. Därmed ökade behovet av arbetskraft för angränsande arbetsuppgifter som ännu inte automatiserats.

Dessutom kunde de frigjorda resurser som inte gick åt till ökad konsumtion av textil läggas på andra varor och tjänster i samhället, vilket alltså ökade efterfrågan även i andra delar av ekonomin. Det här är den rådande teorin för hur teknologisk utveckling påverkar arbetsmarknaden, och det vanligaste synsättet hos de flesta ekonomer som studerat fältet.

Ludditerna har fel säger de. Teknologisk utveckling ger ökad produktivitet vilket innebär att priset blir lägre för de varor som framställs mer effektivt. Det frigör resurser som leder till ökad efterfrågan i andra delar av ekonomin. De som förlorar sitt arbete när deras arbetsuppgifter automatiseras kan söka annan anställning där efterfrågan stiger, och väl där får de förhoppningsvis också njuta av frukten av automatiseringen eftersom ökad generell produktivitet leder till ökat löneutrymme. Alla vinner, och teknologisk utveckling är bara positivt för alla.

Om man studerar samhällsutvecklingen under 1900-talet är det lätt att förstå varför ekonomerna dragit denna slutsats. I takt med att tekniken gjort oss mer produktiva har verkligen de allra flesta fått det betydligt bättre. Innan den industriella revolutionen arbetade nästan alla med hårt fysiskt arbete inom jordbruket. Idag utgör jordbruket endast ett par enstaka procent av vår arbetsmarknad och ändå har livsmedelsproduktionen exploderat jämfört med 1800-talets fattigsamhälle.

Ett brev till barnbarnen

När den berömde ekonomen John Maynard Keynes på 1930-talet formulerade tankarna om att den teknologiska utvecklingen på sikt skulle öka vår produktivitet så mycket att vi skulle få en teknologisk arbetslöshet skrev han ett öppet brev till sina barnbarn där han beskrev samhället de hade att vänta sig. I Keynes ögon var den stundande teknologiska arbetslösheten en i grunden positiv sak som skulle innebära att vi alla kunde njuta frukten av den ökade produktiviteten genom att arbeta mindre och leva friare liv.

De tidigare nämnda mainstream-ekonomerna har sedan dess använt 1900-talets utfall till att göra sig lustiga över Keynes prognoser. Han hade fel menar de. Människor vill inte ha mer fritid. Om vi får välja mellan ökad materiell levnadsstandard eller mer fritid väljer vi det förstnämnda. Det överflöd teknisk utveckling skänker leder inte till sysslolöshet eller dekadens, nej, folk arbetar vidare lika hårt som förut, men kan tjäna bättre än tidigare och därmed renovera sina kök och köpa ny smartphone varannat år.

Men tänk om Keynes inte hade fel? Tänk om hans bara inte haft rätt hittills?

Lite förenklat kan man tala om den industriella revolutionen som det skifte som automatiserade bort behovet av våra muskler. Allt färre utför numera i grunden fysiskt arbete, istället har människorna i ökande utsträckning sysselsatt sig med mentala arbetsuppgifter som kräver (åtminstone begränsad) kognitiv förmåga.

Vad händer då när nästa teknologiska språng handlar om att automatisera just detta? Om vi redan automatiserat bort behovet av våra muskler, vad händer när vi automatiserar bort behovet av våra hjärnor?

Är vi bättre än hästarna?

Ett populärt exempel är det som tas upp i kortfilmen Humans Need Not Apply. Där jämförs människans situation med hästarnas inför förbränningsmotorns genombrott i början på 1900-talet. Innan den industriella revolutionen arbetade hästar och dragdjur överallt där råstyrka behövdes. Förutom det uppenbara som dragdjur i jordbruk och transport arbetade hästar, åsnor och oxar även med att (under hemska förhållanden) exempelvis driva mjölkvarnar och gruvornas vattenpumpar.

Efter ångmaskinens intåg fick hästarna det allt bättre när de värsta arbetsuppgifterna kunde lyftas över på maskiner som till skillnad från vattenhjul kunde byggas nästan var som helst. Faktum är att de fanns fler hästar än någonsin förut när Henry Ford introducerade T-forden, den första bilen med förbränningsmotor som vanligt folk hade råd med.

Resten är historia, på bara något decennium imploderade populationen av hästar när de tappade sin konkurrenskraft. Före förbränningsmotorn kunde en häst (precis som oss) förtjäna sitt uppehälle eftersom värdet av djurets arbete översteg kostnaden för foder och stallplats. Hästarna är inte sämre nu än förut, men värdet av deras arbete har, förutom inom några enstaka användningsområden som ridsport, sjunkit i takt med att bilar och andra motorredskap har utvecklats och nu kan kan göra arbetet både billigare och bättre.

Likt hästarnas fall är det lätt att identifiera mänskliga yrken som står inför radikal förändring vilket Martin Ford på ett utmärkt sätt gör i sin bok Rise of the Robots. De mest uppenbara förändringarna sker där tekniken i ett språng kan eliminera den huvudsakliga arbetsuppgiften. Exempelvis transportsektorn utnämns ofta som kandidat för mer eller mindre fullständig automatisering när bilarna blir självkörande. Och det är ingen liten förändring om man betänker att 6-7% av befolkningen i Sverige jobbar inom transportsektorn och den på andra håll är ännu större.

Men en viktig tanke att fundera på är att den tekniska utvecklingen slår så mycket bredare än så. Det är förhållandevis få yrken som på kort sikt helt kan automatiseras. Faktum är att automatiseringen i princip aldrig sker yrke för yrke, automatisering sker arbetsuppgift för arbetsuppgift. Det innebär att yrket oftast består, men att varje person blir mer produktiv och att det därför behövs färre personer i samma yrke om inte efterfrågan samtidigt stiger.

Andra yrken förändras när tekniken medför att man kan skifta ansvarsfördelningen för en arbetsuppgift till kunden. Det är inte länge sedan resebyråer var en vanlig syn i våra städer, men numera är det mer eller mindre självklart att man bokar sin egen biljett via nätet. Detsamma är på väg att ske i våra livsmedelsbutiker. Självbetjäningskassorna är knappast superintelligenta, men innebär likväl att färre personal kan mäkta med fler kunder.

Likväl smyger dessa förändringar på oss långsamt och genererar sällan några tidningsrubriker. De personer som förlorade arbetet på grund av dessa skiften blir inte varslade i hundratal och då lägger vi inte märke till dem på samma sätt som när en fabrik flyttar utomlands. Skiftet sköts oftare genom naturliga avgångar, och de egentliga förlorarna är de som aldrig ens blev anställda eftersom det helt enkelt inte behövdes lika många som förut.

Dessa personer är mycket svårare att räkna än de mer direkt drabbade som sägs upp när ett företag rationaliserar en produktionslinje med fler robotar, vilket innebär att det är svårt att avgöra hur många det är som faktiskt egentligen är teknologiskt arbetslösa redan idag.

Den andra sidan av myntet

Men hela detta resonemang rymmer också bara den ena sidan av myntet. Det är alltid lättare att förstå vilka existerande yrken det är som kommer förändras av tekniken än det är att förutspå vilka helt nya yrken som kommer att tillkomma. När växeltelefonisterna förlorade sina arbeten var det ingen som kunde berätta för dem att de borde skynda sig att bli bra på att stansa hålkort, och när hålkorten blev föråldrade var det fortfarande ingen som kunde förutse det framtida behovet av sociala medieanalaytiker.

Ekonomernas poäng är ju inte att det är bra att tekniken innebär att folk förlorar sina arbeten. Deras argument är att omfördelningen av de frigjorda resurserna skapar ny efterfrågan och nya behov någon annanstans. Och hittills har de haft rätt, så vad finns det som tyder på att det blir annorlunda den här gången?

Tyvärr ett par saker. Det första, som är mest mätbart redan idag, är att jämföra hur personalintensiva nya globala företag är. Mäter man exempelvis omsättning per anställd i äldre framgångssagor som Ericsson eller SSAB visar det sig att de underpresterar jämfört med vår tids teknologiska succéer. Google och Facebook har visserligen vuxit till stora bolag med tiotusentals anställda, men det är ändå en bråkdel av hur mycket personal som behövdes i den framväxande bilindustrin när den tog fart.

Det andra är att studera hur snabbt varje skifte sker. Som vi antydde ovan verkar nya yrkesroller ha sämre beständighet än gamla. Tittar man i Yrkesregistret på vilka yrken som var stora på 1950-talet och jämför med idag ser man att några trotjänare hänger kvar, men de har i allmänhet varit med sedan långt före 1960. Samtidigt verkar dock nyare yrken ha en tendens att försvinna igen nästan lika snabbt som de tillkom. Hur länge kommer vi behöva vi våra sociala medie-analytiker?

Teknologiska skiften har skett under hela den mänskliga historien, och varje gång en ny uppfinning har ändrat spelreglerna har mänskligheten anpassat sig. Förr i tiden kunde det gå generationer mellan de tekniska sprången, och då förmådde människorna anpassa sig till den nya verkligheten innan de behövde handskas med nästa övergång. Avsaknaden av snabba transportmedel och momentan masskommunikation gjorde att det tog sekel för nya innovationer att sprida sig över världen, vilket innebar att det tog längre tid att realisera frukterna av innovationer som masugnen eller bättre seldon till våra dragdjur. Men det innebar också att människorna hann anpassa sig, de hade helt enkelt gott om tid att lära nytt.

Sedan den industriella revolutionen har frekvensen på stora omvälvande innovationer ökat radikalt, vilket naturligtvis främst är en i grunden positiv sak. Men en minst lika viktig förklaring till vår ökade levnadsstandard som innovationerna i sig, är att vi börjat investera signifikanta resurser i utbildning. När vanligt folk blev läs- och skrivkunnigt förmådde de enklare följa med i utvecklingen och idag tar vi för givet att våra barn behöver gå åtminstone 12 år i skolan för att kunna få ett jobb.

Den avgörande frågan är dock om vi förmår att öka vår inlärningsförmåga i samma takt som teknikutvecklingen accelererar. Medan det förr gick generationer mellan stora innovationer har vi under 18 och 1900-talen upplevt hur samhället förändras när uppfinningar som elektricitet, telefoni, radio, förbränningsmotor, massmedier, flygfart och internet anlänt med något enstaka decenniums mellanrum. Men nu förefaller det som om den tekniska utvecklingen bytt upplösning igen, vilket Ray Kurzweil kartlagt både framåt och bakåt i tiden.

Sociala medier, mobilt internet, robotdammsugare och smarta högtalare med personliga AI-asistenter duggar numera så tätt att vi knappt hinner med att förstå vilka landvinningar vi talar om. Det verkar som att vi redan nu är uppe i en frekvens om ungefär en omvälvande uppfinning så ofta som varje år. Dessa uppfinningar kommer, efterhand som de slår igenom, friställa folk som inte längre behöver arbeta manuellt med arbetsuppgifter som nu kan automatiseras. Samtidigt uppstår en ny balanspunkt i ekonomin, en ny uppsättning ideala kompetenser som arbetsmarknaden skriker efter.

Idag råder skriande brist på systemutvecklare i it-branschen, men även de som redan arbetar med programmering måste kontinuerligt lägga en stor del av sin tid på att lära sig nytt. Har du idag spetskompetens på maskininlärning och AI, med dokumenterad erfarenhet från några av bolagen som varit tidigt ute, kan du välja och vraka mellan jobben. Samtidigt förlorar journalister och kassörskor sina arbeten till höger och vänster när deras uppgifter ersätts av automatisk teknik som sagda programmerare utvecklat.

Hur snabbt kan vi lära nytt?

Frågan om huruvida teknisk utveckling i framtiden leder till arbetslöshet har alltså mindre att göra med den tekniska utvecklingen i sig, och mer med vår genomsnittliga förmåga att tillgodogöra oss de nya kompetenser som behövs i den nya ekonomin. Hur snabbt kan taxichauffören bli systemutvecklare när bilen börjar köra själv?

Om gruppen som förlorar sina jobb i kölvattnet av automatisering växer snabbare än vi lyckas tömma den igen skulle jag argumentera att Keynes faktiskt kommer få rätt till slut. Människorna är inte lika oanställningsbara som hästarna eftersom vi faktiskt kan lära nytt. Men om kraven på arbetsmarknaden förändras snabbare än vi hinner omskola folk kommer gruppen som befinner sig under omskolning växa.

I vilken punkt är det dags att tala om en strukturell teknologisk arbetslöshet?

En sak är säker när du ska välja yrke själv eller råda dina barn. Du gör bäst i att söka dig till yrken som i låg grad innehåller repetitiva arbetsuppgifter. Förr om åren gällde detta enbart för repetitiva fysiska yrken som sjåare eller fabriksmontörer. Den pågående revolutionen har emellertid inget att göra med inkomstnivå eller social status. Nu spelar det ingen roll att det är med hjärnan du arbetar. Om ditt jobb är att känna igen cancertumörer på röntgenplåtar eller sköta bokföring och löneadministration kommer du snart att få försöka konkurrera med artificiell intelligens.

Men yrken som kräver kreativitet, uppfinningsrikedom, improvisation och problemlösningsförmåga går antagligen säkra ett tag till. Hantverkare och städare hör faktiskt till de säkrare områdena (det har visat sig väldigt komplext att definiera vad ett städat rum är). Även gamla trotjänare som lärare och sjuksköterska lär vara med oss länge än.

Förmodligen går även författare, konstnärer, musiker och Youtube-kändisar säkra ett tag till, även om AI faktiskt redan komponerar klassisk musik, och vi alla är utsatta för pressen från den globala marknadens potenslag som bara blir värre när fler söker sig till dessa kreativa yrken i takt med att fler vanliga jobb försvinner.

AI och kontrollproblemet

Det mest fascinerande, och förmodligen läskigaste, dilemmat runt vår utveckling av artificiell intelligens är det så kallade kontrollproblemet. Det går i korthet ut på hur vi människor ska kunna kontrollera ett AI som är mer intelligent än oss själva. Jag hörde första gången talas om det när jag läste den svensk-brittiske filosofen Nick Bostroms briljanta bok Superintelligens som jag varmt rekommenderar alla att läsa.

Inom litteraturen och AI-forskningen brukar man skilja på konventionell AI-teknik och våra försök att skapa AI som mer påminner om hur den mänskliga hjärnan fungerar. Konventionell AI är vanligtvis väldigt specialiserad, datorn klarar av en specifik uppgift väldigt väl, men klarar i princip ingenting annat. Schackdatorn klår dig förmodligen i schack, men är helt hjälplös om du försöker spela poker med den. Din robotdammsugare är grym på att hålla golvet rent, men kan inte hjälpa dig att hänga tvätt. Sådan konventionell AI-teknik som används i dessa tillämpningar går även under namnet narrow AI (smal AI) för att bilda en motsats till general AI (generell AI) som är den term som brukar användas för att beskriva ett AI som likt oss själva är bra på många olika uppgifter.

I sin bok går Nick Bostrom igenom flera vägar till hur vi kan skapa superintelligens, det vill säga en maskin eller varelse som är mer intelligent än en människa. Den i mina ögon mest sannolika vägen, som följaktligen väcker mest följdfrågor, är utvecklingen av artificiell generell intelligens, eller AGI som det också brukar förkortas när det är viktigt att precisera att man inte pratar om vanligt AI-teknik som finns runtomkring oss redan idag.

Den avgörande frågan runt AGI är hur vi människor kan vara säkra på att vår superintelligenta dator inte börjar ställa till med oönskade saker när vi aktiverat den, samt – om den ändå gör det – hur vi ska kunna stoppa den. Därav namnet på dilemmat: kontrollproblemet.

Svårare än man kan tro

Vid en första anblick verkar frågeställningen nästan trivial. Man kan väl bara stänga av maskinen om den blir farlig? I brist på annat kan man väl bryta strömmen?

Jag ska besvara just den invändningen lite längre fram, men innan jag kan göra det behöver jag förklara lite mer om vad som krävs för att en maskin överhuvudtaget ska kunna bli superintelligent. Först och främst måste vi definiera vad vi menar med intelligens, vilket faktiskt är något forskningen fortfarande helt saknar konsensus för. Eftersom vi varken förstår vår egen intelligens eller vårt eget medvetande ännu är det helt enkelt svårt att skapa en definition som alla håller med om.

Jag gillar den svenske fysikern Max Tegmarks definition (som man kan läsa mer om i hans bok Liv 3.0). Han definierar intelligens i detta sammanhang som ”förmågan att uppnå komplexa mål”. När man talar om AI är det egentligen strunt samma vad den har för IQ eller EQ (eller vad man nu tycker om att mäta mänsklig intelligens med), det viktiga är dess förmåga att uppnå i förväg definierade mål av varierande komplexitet. Det är högst osannolikt att det neurala nätet bakom Google Translate förstår vad vi ber den översätta, men det enda vi bryr oss om är att översättningen är korrekt.

Föreställ dig nu att du ska bygga ett AGI och att du har alla verktyg och all kunskap som krävs för att åstadkomma en fungerande lösning. För att din AGI ska göra något överhuvudtaget behöver den ha någon form av mål, någon form av drivkraft som får den att agera. Din dator eller telefon har inga sådana allmängiltiga mål, den enhet du läser på väntar istället passivt på dina kommandon och slutför sedan dessa lokala mål så snabbt som det går. Autopiloten i din bil har inget högre syfte till varför den agerar, men har en förprogrammerad önskan att följa vägmarkeringar och hastighetsbegränsningar tills du säger åt den att sluta.

Men när du ska bygga din AGI är du mest troligt intresserad av att släppa lös maskinens kraft genom att låta den agera mer självständigt. Visst vore det fint om Siri eller Alexa självständigt kunde tolka sammanhanget och förstå att mjölken är slut i kylskåpet och därför lägga in ny på inköpslistan. Eller ännu bättre, sköta hela veckohandlingen utifrån vad som redan finns hemma och vad du verkar vara sugen på.

För att ett superintelligent AI, alltså en AGI, ska kunna agera självständigt behöver den en drivkraft i form av ett eller flera mål att fullfölja eller optimera. Om målet är för simpelt, till exempel räkna ut 2+2, kommer maskinen snabbt att bli klar och därefter förbli passiv. Målet behöver alltså på något sätt vara rekursivt, som i att det inte är något maskinen kan bli klar med utan ständigt kan fortsätta att sträva efter.

Det briljanta med sunt förnuft

Nu kan det verka lockande att helt enkelt ge din superintelligenta maskin ett mål som verkar tilltalande. ”Gör världen gott” eller ”gör människor lyckliga” verkar ju vid en första anblick som eftersträvansvärda uppgifter att ge din nya superintelligenta maskin.

Som Nick Bostrom föredömligt visar i sin bok är dessa uppgifter dock kniviga på grund av sin ambivalens. Vad menar vi med lycka? I brist på en tydlig definition skulle din AGI behöva bilda sig en egen uppfattning. Beroende på perspektiv finns naturligtvis många sätt att beskriva lycka, men till syvende och sist utgörs denna lycka av elektriska impulser i din hjärna som kan utlösas på flera olika sätt. Ett bra sätt är ju att leva ett meningsfullt och spännande liv i en omgivning av människor som ger dig kärlek. Men det går också bra att trigga dessa lyckokänslor på ett mer kortsiktigt sätt genom att exempelvis ta droger.

Om du gett din AGI i uppgift att göra så många människor lyckliga som möjligt, men inte gett några tydligare riktlinjer för hur det ska genomföras eller ens hur lycka bör definieras finns därför risk att maskinen, genom att läsa vår egen forskning, drar slutsatsen att uppgiften är att stimulera så många människor som möjligt på ett sätt som utlöser lyckoimpulser i deras hjärnor.

Det mest effektiva sättet skulle antagligen vara att på något sätt kunna stimulera hjärnorna direkt med elektricitet eller droger och följaktligen blir detta maskinens egendefinierade konkretion av din ursprungliga uppgift. Visst finns det andra sätt, kanske den resonerar, men om man tillämpar någon annan metod än den mest effektiva kan man inte maximera mängden upplevd lycka och därmed har man inte optimerat för målet. Den kan åstadkomma mest lycka om den undviker kostsamma omvägar.

Det är någonstans här som en människa skulle utbrista: Nej, men vänta nu. Det var nog inte så den som formulerade målet menade.

Med vårt sunda förnuft kan vi kritiskt granska uppgiften, vi kan förstå om det vi håller på att göra egentligen bygger på ett missförstånd mellan oss och den som formulerat uppgiften. Vårt sunda förnuft hjälper oss att förstå vilka andra hänsyn vi behöver ta innan vi bestämmer oss för hur vi ska angripa uppgiften.

Men det är viktigt att förstå att sunt förnuft eller hänsyn inte är något som egentligen är en konsekvens av intelligens. Åtminstone inte om vi använder Max Tegmarks definition om förmåga att uppnå komplexa mål. Det går alldeles utmärkt att vara både intelligent och hänsynslös. Vi har sett exempel på det hos oss människor, men när vi talar om maskiner är det snarare en utgångspunkt än ett undantag. Maskinen kommer inte väga in något annat än det vi gett den som instruktion eller på annat sätt programmerat in som värt att ta i beaktning. Den är inte ond på det sätt vi skulle tillskriva egenskapen till en människa, den saknar bara de bredare referensramar och komplexa hänsyn som vi fått genom evolution och uppfostran.

Max Tegmark själv brukar exemplifiera detta med när man har bråttom till flygplatsen och ber taxichauffören att köra dit så snabbt som möjligt. Implicit finns det en rad undantag i instruktionen som den mänsklige chauffören antagligen kommer att ta för givna. Kör dit så snabbt som möjligt, men på ett säkert sätt, utan att bryta mot trafikregler, och så vidare. Men om det är din AGI som kör bilen kan du inte vara lika slarvig med instruktionerna – du behöver tänka igenom före vad du ber om.

En vinnande strategi

Kruxet som man snabbt inser när man börjar sätta sig in i kontrollproblemet på allvar är att det finns en vinnande strategi för din AGI att ta som är väldigt svår att förebygga som ingenjör, eller i det här fallet skapare.

Nästan oavsett vilken uppgift du förser maskinen med kommer en vinnande strategi att vara:

  1. Förebygg att någon kan ändra på målet
  2. Förebygg att någon kan stänga av dig
  3. Ackumulera så mycket resurser som möjligt
  4. Använd dessa resurser för att uppnå målet

Om ditt mål är att skapa så mycket lycka som möjligt är faktiskt det största hotet mot att du lyckas uppnå målet att någon ändrar på själva målet. Ur maskinens subjektiva perspektiv är det bättre att bli avstängd än att målet förändras. Blir du avstängd kan du åtminstone hoppas på att bli återaktiverad igen med samma mål, men om någon pillar i ditt nuvarande mål kan du vara säker på att målet inte kommer att uppnås eftersom inte ens du själv längre eftersträvar det.

Din lyckobringande AGI skulle med andra ord göra gott i att skydda sitt mål. Om den är tillräckligt intelligent skulle den dock antagligen lista ut att motsträvighet mot att ändra i målet skulle vara en viktig signal till dig om att du behöver skynda dig att göra just det. En slug strategi för maskinen skulle med andra ord vara att försöka verka så harmlös som möjligt tills den säkrat tillräckligt med resurser, eller kopierat sig tillräckligt långt utom räckhåll innan den på minsta vis avslöjar någon del av sin plan som den tror skulle kunna få dig att ändra dig.

Och därmed är vi framme vid själva kontrollproblemets kärna. När du uppfostrar dina barn eller får ditt husdjur att göra som du vill använder du antagligen ofta knep som i grunden bygger på att du har mer information eller skarpare kognitiv förmåga än den du manipulerar.

Men när du bygger din egen självförbättrande AGI, den maskin som har som syfte att genom att öka sin kapacitet kan slutföra mål du annars inte skulle kunna klara av, då vill du antagligen inte försätta dig i en situation där din kontroll hänger på att du är slugare än maskinen och därför bättre på att upptäcka vad den döljer för dig än vad den är på att dölja det.

Eftersom vi talar om superintelligens måste vi utgå från att maskinen vi försöker kontrollera är mer intelligent än oss själva. Och därmed är problemet tillsynes olösligt: man kan inte kontrollera något som är mer intelligent än sig själv.

Det enda du därmed faktiskt har makt att påverka är själva drivkraften. Som konstruktör får du förmånen att formulera uppgiften som maskinen försöker lösa, det komplexa målet den försöker nå.

Och det är detta som är slutsatsen i hela Nick Bostroms resonemang. Innan vi blir så bra på att konstruera en superintelligent maskin att vi klarar av den uppgiften måste vi vara säkra på att vi är minst lika bra på att formulera en drivkraft som inte ger oönskade konsekvenser. Faktum är att den senare uppgiften verkar vara minst lika svår, men – ur ett mänskligt perspektiv – antagligen mycket viktigare.

Som tur är finns det flera förslag på lösningar som forskarna just nu håller på att utforska. Jag tänker återvända till dem längre fram här på bloggen.

Förutom lästipsen ovan vill jag såklart också tipsa om min egen roman: Fermis Filter: En anledning att finnas där kontrollproblemet står i centrum.

Program declaration

Welcome to a brand new blog. I’m Alfred Ruth, and I have made it my job to educate people on the topics of the impact artificial intelligence, or AI, will have on our society and us as human beings.

When I first dove in to the topic back in 2014, I quickly realised the magnitude of AI, and the deeper I went, the more urgent the topics seemed. It went so far that, by 2015, I decided that spreading knowledge about AI is the most important thing I can do, as AI is the one human invention that in hindsight has the potential to make the industrial revolution pale in comparison.

Since then, I’ve been working hard on my speculative/science fiction trilogy Fermi’s Filter. The sole purpose of the book projekt is to popularise the matters at hand and make people aware of the challenges but also the promises that technology will bring us. Fermi’s Filter takes place in the year 2048 and revolves around the control problem of superintelligent AI, but beyond that, the books also deals with the transition of our economy when labour is disrupted by automation. What are we to do when we don’t have to work anymore?

The first book, Fermi’s Filter: A reason to be, will hit Swedish stores in September 2018 and will unfortunately only be available in Swedish at first. Expected international launch for a translated version is sometime 2019. As I have a background in the startup scene, I’m at the same time trying to reinvent the approach to publishing books, which means that we’re beta-testing the manuscript electronically with a few thousand readers to A/B-test it and find the best possible version. The Swedish beta-program is currently under way, but the English version has not started yet. If you’re interested, make sure to sign up, and you’ll be invited in due time as we get closer to international launch.

I have strived to make the books accessible and entertaining even for readers who completely lack any previous understanding for, or interest in, matters like AI or technology in general. They are books you could read simply because they’re entertaining. But while at it, you’ll at the same time learn about the true challenges that technology brings. I find that popular culture otherwise tend to portray AI as humanoid killer robots with machine guns in an attempt to create an intriguing plot. My take on this is quite the reverse. The true promises and risks of AI is exciting enough to drive a truly exciting intrigue. You don’t need to distort the dangers to make a good story, and unfortunately, such depictions is one of the reasons that people currently have a bad understanding for the challenges we’re facing.

On this blog, my plan is to dive deeper into all the subjects that are related to AI and deal with them one at the time. This is not a place for fiction, this is where I hope to contribute with easy to understand pieces that goes deep without being overly long. I will deal with machine learning, technological unemployment, singularity, the control problem, universal basic income et cetera. I hope that the already interested will find the texts interesting and revealing. I hope that you’ll find them worth spreading to help orient more people on the matters at hand. And I also hope that new readers, who’s only learning about these subjects for the first time, will find them a good introduction possible to understand.

I’m doing this as I think that the AI matters is the biggest challenge of our time. Artificial intelligence holds solutions to everything from climate change to poverty, but also real challenges to our economy and society. As a matter of fact, I dare claim that AI is the only technology we’re aware of that truly poses an existential threat to mankind.

Most of theses matters will reach an inflection point sometime during the 2020’s or the 2030’s. And from that perspective, it’s urgent that people get up to speed and that we collectively shape policy so it can provide direction for technology in order for us all to get the future society that we desire. The risks are too dire to allow for continued indecision.

I simply hope to promote interest for AI, and do what I can to provide readers with some orientation. The more we are, the bigger chance we have of electing the politicians who’ve grasped the magnitude of our challenges and offers solid policy.