#9 – Kommer vi ha hemligheter i framtiden?

Anders Sandberg, hjärnforskare vid Oxford University, är med i studion och pratar om informationssäkerhet.

Vi resonerar kring hemlig information och hur otroligt svårt det är att behålla hemligheter idag och ännu svårare i framtiden. 

Inspelat: (publicerat 2019-01-20)
Deltagare: Mattias Jadesköld, Erik Zalitis och Anders Sandberg
Texten skrevs och sammanställdes av Erik Zalitis.

Medan du lyssnar – framtiden

När man klassificerar information, försöker man förstå om den skulle kunna missbrukas om den kom i fel händer. Men detta är svårare än vad man kanske skulle kuna tro. Varje år kommer nya analystekniker som kan göra att vad vi trodde var ofarlig information helt plötsligt kan missbrukas på det mest oväntade sätt. Vi pratar om varför man ska vara försiktig med att lämna elektroniska fotspår efter sig på ett helt okontrollerat sätt. OSINT är ett nyckelord i diskussionen, alltså ”Open source intelligence gathering”. Alltså att samla och analysera publik information och dra långtgående slutsatser om en person, grupper eller en organisation. Tyvärr är ingenting ofarligt att säga, skriva eller spara idag – och det blir värre i framtiden när ännu mer avancerade analysmodeller blir allmänt tillgängliga.

Här är transkriptionen av avsnittet

Mattias Jadesköld (00:09.166)
Välkommen till Itisäkertspodden. Idag är vi tre stycken i studion. Erik naturligtvis, vi är med sida. Hur läget?

Erik Zalitis (00:17.358)
Alldeles utmärkt som vanligt. Hur själv?

Mattias Jadesköld (00:20.014)
Jora det är bra. Sen har vi också Anders Sandberg. Hej. Kan du berätta lite om dig själv?

Anders Sandberg (00:23.982)
Hej!

Anders Sandberg (00:29.55)
Jag är före detta datavetare, jag kom in på beräkningsneurobiologi men var en olydigt student och studerade allting. Så numera är jag Senior Research Fellow på Future of Humanity Institute vid universitetet i Oxford. Jag håller på forska om mänsklighetens långsiktiga framtid, globala hot, ny teknik, kort sagt allting som är intressant och futuristiskt.

Mattias Jadesköld (00:52.302)
Någon där.

Erik Zalitis (00:53.07)
Ja, verkligen. Och du får betalt för det också.

Anders Sandberg (00:54.254)
Besta jobbet i världen!

Anders Sandberg (00:58.862)
Till och med det!

Erik Zalitis (01:00.75)
Mm. Du hade en tanke på det här med informationssäkerhet och hur man hanterar informationssäkerhet även om man vet att den borde vara ofarlig.

Anders Sandberg (01:13.838)
Ja, vad vi försöker göra på vårt institut är fundera på idéer som skulle kunna ha långsiktig betydelse för mänsklighetens överlevnad och påverka hela framtiden. Så om vi gör vårt jobb verkligen bra så borde vi hitta sådana här idéer. Problemet är av symmetriskäl borde man räkna med att ungefär hälften av dem är väldigt dåliga saker sådant som skulle kunna göra världen sämre, snarast än bättre. Så frågan var ju, kan det vara så att sanna idéer kan vara farliga?

Kan det vara så att sann information är dålig och i så fall vad gör man med den?

Erik Zalitis (01:46.926)
Det är en intressant fråga. Man sorterar in information i det som är farligt. som folk inte får veta. Det ska vara hemligt. Det är riskabelt. Och saker och ting som är helt säkert att informera om.

Anders Sandberg (02:00.526)
Men ofta finns det lite lustiga övergångszoner. En normal problem är ju spoilers. Om jag har gått och sett en film så ska jag kanske inte berätta några riktigt roliga saker om slutet för er.

Erik Zalitis (02:12.43)
Nej, det tackar

Anders Sandberg (02:14.606)
Men det intressanta där är att man kan ju inte säga, och så har ni tystnadsplikt när ni lämnar filmen om det här.

Mattias Jadesköld (02:21.582)
Men hur menar du det kan vara farligt då eller liksom osäkert i framtiden eller?

Anders Sandberg (02:26.702)
Ja, att avslöja filmslut kanske inte är så farligt men om jag driver ett företag och ni driver konkurrerande företag så ska jag nog vara lite försiktig vad jag berättar om hur mitt företag fungerar och vilka mina leverantörer är och så vidare. i min egen forskning ibland kommer vi på sådana saker, oj på det här sättet borde vi kunna krascha plantens ekosystem.

Erik Zalitis (02:50.318)
Okej, det kanske… Skulle någon komma… Om ni berättar om det här, finns det någon som skulle tycka, fan vad häftigt, vi gör det!

Anders Sandberg (02:58.51)
Det värsta är att det nog gör det. Jag trodde i min naivitet att det är väldigt ont om folk skulle vilja skapa domedagen. en kompis till mig, Phil Torres, är också forskare därför han lyckas faktiskt hitta exempel på folk som verkligen om de kunde så skulle de vilja förstöra världen. Många av dem är liksom typer som inblandade med skolskjutningar och liknande sånt. Störda människor, väldigt pessimistiska, väldigt misantropiska.

Om de kunde krascha ett ekosystem så skulle de nog gladligen göra det.

Mattias Jadesköld (03:31.278)
Men det sådana som sitter i en sån här stor fotölj och klappar en katt.

Erik Zalitis (03:35.086)
Ja

Anders Sandberg (03:35.918)
Det är ju den andra gruppen, när du vill ha blivit miljardär och har ditt högkvarter. Nu är valet antingen att skaffa katt och börja ha H.L. James Bond eller försöka rädda världen.

Erik Zalitis (03:46.862)
Ja… Det intressanta är såhär, man tänker att man är ansvarig för någon form av informationsklassificering. Är det här någonting man bör tänka på då?

Anders Sandberg (03:57.934)
Ja, lite grann. Om man tänker på hur sådana här classification systems fungerar då i olika stater så handlar de ofta om att om den här information kommer ut hur mycket skada skulle det kunna bli och hur troligt är det? Så det amerikanska systemet då med classified, secret och top secret det är liksom att någonting classified om det är lite farligt och rätt troligt att det blir dåliga saker om det kommer ut. Och sen secret då att ja nu kanske inte så troligt att det blir jätteskada men skulle kunna bli det.

Och top secret, ja det här är jättealvarliga saker, liksom hur man hackar kärnvapensystemen eller de verkliga sakerna man gör i mellanöstern. Och då gäller ju att hantera det här och hela klassificerings idén är att man åtminstone har en stämpel på pappret eller dokumenten eller filen så man vet var den får och inte får röra sig.

Mattias Jadesköld (04:47.15)
Men hur många som har det här? Jag och Erik jobbar på lite olika kunder och sådär. Jag tycker att svenska företag är ganska dåliga på att klassificera sin information. Vad är din…

Anders Sandberg (04:56.814)
Det är väldigt många som har problem med det. Jag arbetar i den akademiska världen och som jag sa är inte ovanligt att vi sitter och diskuterar metoder att göra kärnvapen hemskare eller biovapen som är riktigt skräckinjagande. Men som akademiker förväntas vi ju ungefär, har vi en idé skriva en artikel om det, det är bra för karriären. Det är relativt få organisationer som egentligen tar informationssäkerhet på riktigt allvar.

Erik Zalitis (05:22.734)
Det intressant, för man tänker att det där borde ju vara väldigt mycket i tiden och tänka säkerhetsmässigt. Vi har ju diskuterat tidigare om att vi kanske inte brydde oss så mycket om säkerhet förr, men du menar att redan, eller även nu i dessa tider så slarvas den del.

Anders Sandberg (05:40.206)
Jag tänker bara på datasäkerheten på många företag, hur usel den är.

Erik Zalitis (05:45.134)
Jo, det har du ju för tjejen poäng i.

Anders Sandberg (05:48.27)
Det blir ännu lurigare när du har att göra med sådana här information som kanske inte finns i form av en datafil utan kunskap eller idéer. Många organisationer fungerar ju genom att man talar med varandra, att vi samarbetar. Om jag nu ska hålla tyst om någonting eller vara försiktig med vad jag talar om så försvagar jag ju därmed också organisationen.

Erik Zalitis (06:09.454)
Jo precis, här med NDA eller nån disclosure agreements och sådana

Anders Sandberg (06:15.246)
Ja, har ju åtminstone bra för där vet du explicit vad det är inte ska tala om. det finns väldigt mycket annat som är mer oklart. Det finns ju de här klassiska affischerna från första och andra världskriget då, det amerikanska Loose Lips Might Sink Ships. Och lite senare Loose Lips Sink Ships, då visade det sig det. Det räcker ju att man talar om när ett båt går, så om fienden hör det så kan de skicka en U-båt. Och i många fall i ett datasystem.

Det viktigaste kanske inte mastelösenordet utan några andra aspekter av vad loggfilerna finns eller vad det är för modell som gör det lätt att ta sig in.

Mattias Jadesköld (06:53.454)
Men du forskar ju ganska mycket på framtiden. Hur vävde du in det här tänket i det? Vad ser du att man är på väg någonstans?

Anders Sandberg (07:04.974)
Det finns en väldigt intressant analys som tyder på att halveringstiden för hemligheter blir kortare och kortare. Om jag har en hemlighet så finns det ju viss tid jag vill behålla den hemlig, sen kanske det inte spelar någon roll. Hur vissa filmer slutar när de gjordes på 30-talet spelar ingen roll längre och en del affärshemligheter från 50-talet är också kanske ointressanta. Men annat…

Vill jag hålla hemligt tillräckligt länge? Men då är frågan, klarar jag av att hålla det hemligt länge? Det kan ju hända att jag gör ett misstag eller att någon hackar min dator eller att någon av mina kollegor råkar ha misstag, ta en selfie på kontoret, lägga upp på Instagram och det är högupplöst nog så man kan se en av lilla post-itlappor lösenordet på eller invasionsplanerna i bakgrunden. Sådant har ju faktiskt hänt på en del tv-stationer att deras twittelösenord har kommit ut på det här sättet.

Så vad som händer är att det har blivit mycket lättare att läcka information och du kan läcka det mycket mer storskaligt. Så när Ellsberg läckte för Pentagon Papers en gång i tiden på 60-talet eller när var tidig 70-talet vad hade jag tvungen att stå i hemlighet vid kopiatorn och kopiera en himla massa papper och smuggla ut dem ur organisationen? Medan då Snowden, han behövde bara smuggla ut några USB-stickor och fick med sig otroligt mycket mer information.

Erik Zalitis (08:29.838)
Det är mängden på information som man tänker på. Med kopiator så är den ganska liten, man kallar det bandbröd. Det inte så mycket text per sida. Med USB-minnen är 1632 eller 64 GB. Man kan ju tänka sig det är enorma mängder information.

Anders Sandberg (08:49.454)
När Sony blev hackade så var det ju åtskilliga gigabyte utav information eller om det var ännu mer. Jag minns faktiskt inte hur mycket det Men det inkluderade ju hela filmer till exempel.

Erik Zalitis (08:59.918)
Och det är ju naturligtvis ingenting du vill att det ska läcka. Sen är det väl också det att informationen i mängd är inte samma sak som informationen i kvalitet. Om du kanske bara läcker ut 16 tecken av information så kan det vara just de 16 tecken som gör att du kan skicka kärnvapen eller något. Då är det lite mer allvarligt.

Mattias Jadesköld (09:20.558)
Men om du sätter en halveringstid på hemligheter framöver kommer det sluta med att vi inte kommer ha några hemligheter i framtiden. Kommer det vara omöjligt att bevara en hemlighet?

Anders Sandberg (09:31.182)
Det här var ganska kort efter Wikileaks och han skrockade lite grann, ja i framtiden så kommer alla våra hemligheter att ligga på Pirate Bay. Men våra fienders hemligheter kommer att vara nästa torrent.

Erik Zalitis (09:48.078)
Ja, jo precis.

Anders Sandberg (09:50.286)
Det blir ganska svårt att hålla saker hemliga när det är lätt att överföra dem. När det är svårt att hålla dem inlåset i ett system om man samtidigt vill kunna arbeta med dem. Och vi håller på få infrastrukturer också som Wikileaks och torrentfiler och mycket annat som gör att när en hemlighet kommer ut kan den också skickas runt och paketeras. Om jag behövde kopiera av de hemliga pappren för att skicka till alla tidningar så skulle det ta ganska lång tid för mig. Men nu kan jag skicka det via mail.

Erik Zalitis (10:17.934)
Nåååå

Anders Sandberg (10:19.278)
Den viktiga utmaningen är naturligtvis den fysiska observerbarheten. Än så länge så är det svårt att titta vad som faktiskt händer inne på NSAs kontor. Men återigen, smartast, dron-teknologi och en massa annat gör att det blir nog svårare och svårare till och att hålla folk borta från att se vad du skriver på ditt tangentbord.

Mattias Jadesköld (10:37.102)
Vad är Smart Dust för någonting?

Anders Sandberg (10:39.534)
Det här är en idé som man har funderat på militärt och vetenskapligt ganska länge. Kunde man göra väldigt små billiga sensorer som du bara sprider ut över neden och var och en av dem har inte så bra uppfattning och omvärlden men de bildar ett mesh-nätverk, kommunicerar och så kan de tala om vad de upptäcker. Då kan man ju tänka sig du har liksom en liten provröme där du sprider ut på parkeringen utanför eller att organiserar om folk trampar på det och så följer du med små sensorer på skorna och sen hamnar du i mattan och på tapeterna och överallt.

och kanske diskretsända utdat.

Erik Zalitis (11:11.374)
Det är ju spännande. Jag tänker på det här med att skicka in USB-stickor i organisationer som de stoppar in i datorn och tar över och sådana saker. Men det här är Det här är ju oändligt mycket svårare att upptäcka.

Anders Sandberg (11:24.494)
Och än så länge naturligtvis att göra smartast, ja det är ett kul forskningsprojekt. Amerikanska försvaret har satsat ganska mycket på det här för de vill ju använda det militärt liksom. Du kastar in dammet i en byggnad, du vill undersöka och sen så kan soldaterna veta var alla finns. Men tio år senare så är det här någonting som även andra länder har. Tio år efter det så är det många företag och tio år efter det så köper du förmodligen liksom på Butrix och Teknikmagasinet.

Erik Zalitis (11:51.758)
Och den dagen det händer så lär vi ju inte ha någon form av privatliv för du kan ju lika gärna spionera på grannarna som du kan spionera på en i sig.

Anders Sandberg (12:01.806)
Och det är förmodligen mer intressant att spionera på grannarna man känner än en sej.

Erik Zalitis (12:07.214)
Jo, det känns som att det är mer sannolikt och då kommer väl antagligen finnas krav på att försöka hitta någon form av countermeasures, alltså saker och som motverkar det där. Sen har frågan hur det funkar.

Anders Sandberg (12:19.118)
Många metoder att motverka det ligger ju inte på att hindra själva tekniken. kan tänka mig att NSA kommer ägna massa tid åt att hitta på de perfekta skoborsten och hur elektromagnetiska skydd och allsjöns intressanta tekniska lösningar. Men lösningen mot att din granne tittar på det är att när du får reda på det så skäller du ut grannen eller kanske till och med drar dem inför domstol. Och vi ska ju tänka på att vårt privatliv skyddas i allmänhet genom sociala konventioner, snarast än våra tekniska lösningar.

Erik Zalitis (12:49.294)
Okej, det anses att om du spionerar på folk så litar folk inte på dig. För då kanske de tycker att de kanske börjar spionera på oss nästa gång. Eller hur tänkte du?

Anders Sandberg (12:59.342)
Ja, om du tänker till exempel på vad kan man säga på mobiltelefonen när man sitter på restaurang Det var ju ungefär en 10-20 år då vi utarbetade normer efter att mobiltelefonen kom av var det är oartligt och inte att använda mobiltelefon Och även på en restaurang så hör du ju konversationer från andra men du ska inte bry dig Det är ofint att lyssna på grannkonversationen även om man kan göra det Och de flesta av oss väljer också att inte göra det för vi vill inte vara såna människor

Visst, finns alltid norra som är lite jobbiga. Så den här formen av informell privatliv är jätteviktig och det det som är majoriteten av hur vi sköter vår informationssäkerhet eller informationsprivacy. När jag frågade folk i det brittiska etablissemanget hur de fick sina organisationer att hålla hemligheter. Jag hade ju väntat med att de skulle ha interna kurser liksom för sina agenter, hur man inte talar ut och sånt där, men det visade sig att 90 procent av det här var att

När du blir anställd så sitter någon chef med dig förklarat nu gör vi viktiga saker här och du ska inte tala om dem och skriva på det här pappret om att du har förstått att det är viktigt. Och det är nästan tillräckligt. För du får en kultur på organisationen som förhoppningsvis har fattat att det här är lite känsliga saker vi ska hantera er rätt. Och det fixar 90 procent av problemet.

Erik Zalitis (14:18.03)
Jo, det där kan jag faktiskt skriva under på. Jag har jobbat ungefär på det sättet som jag jobbat åtminstone tidigare i karriärer som mot försvarsvakt och sånt. har det suttit lite grann i väggarna att man inte tar hem dokument och ja, den typen grejer. Att man läser det viktiga säkerhetsklassade materialet i en zon gjord för just detta och det gamla vanliga helt enkelt.

Anders Sandberg (14:39.534)
Riktigt spännande är att du också hjälps av att alla omkring det vet att det är så man ska göra. Så om du inte läser det dokumentet i den zonen så kanske folk rynkar pannan eller nämner för dig och Erik, borde nog ha gjort det i det där rummet. den här korrektionen, den här formen av kultur är någonting som faktiskt håller ihop väldigt mycket säkerhetstäckande. Du kan ha aldrig så fina regler men om ingen bryr sig så kommer det aldrig att hålla.

Erik Zalitis (15:06.062)
Nej, det där är ju ett problem. Det är som du säger kultur. Jag menar det kanske är viktigare. För jag vet att de har diskuterat det här med att de gjorde en del säkerhetsinformation till folk om när de skulle bete sig och sånt där. Sedan ett halvår senare hade folk glömt bort allting. För det som du säger, det sitter inte i väggarna. Det kommer aldrig tillbaka och om någon gör fel så finns det ingen kvar som påminner dem om att du kanske borde bete dig på det här sättet.

Anders Sandberg (15:31.886)
I en del organisationer så gör man det här väldigt formellt. På en del aerospaceföretag till exempel som jag känner till så måste man ha en säkerhetsclearance för att få hålla på med de riktigt viktiga sakerna. Så när du anställd som ingenjör måste du först sitta i vad man kallar isboxen tills du har fått din clearance. Vilket kan ta månader. Under den här tiden kan du inte hålla på med någonting spännande. Du får göra de totalt ointressanta sakerna. Du får sköta företagswebsite ungefär. När du väl får din clearance kan du börja jobba med ditt riktiga jobb.

Och får du den inte naturligtvis, då kan du ju inte jobba kvar där. Och det gör också att du vill bevara din clearance. Så att folk tar det på jättestort allvar inom organisationen. Man är lite grann sin clearance. Och det här är inte alltid bra. Det leder till en massa konstigheter. Men det gör också att folk som en kultur tänker på vad de gör. Vilket innebär att de påpekar att du kan inte ha tuggummi här inne. För vi har faktiskt regler om att tuggummi är förbjudet. För det skulle du kunna smuggla ut data i.

Okej, då slutar man med tuggummi. Alla vet att det är jätteosannolikt. Det är liksom från någon hopplös James Bond-filmen. Vi vill behålla våra kleranser, det är jätteviktigt för oss, och då kör vi med det. Det var ju därför Hillary Clintons mail server blev ett sånt herrans liv. För många människor som har säkerhets-clearance i den amerikanska försvars- och underrättelse- och teknikvärlden.

För de är det jättekentralt och skulle de göra något sånt här så skulle de ju hamna i fängelse nästan. Men här är någon som kommer undan med det för att hon fungerar på ett helt annat sätt politiskt. Och de tog det väldigt illa. De blev väldigt upprörda och de är fortfarande sura över det här. Inte för att nuvarande amerikanska statsledningen har visat sig bättre på datasäkerhet och det knåras en hel del där också. Men det här var alltså flera miljoner personer med klerans blev superarga på Hillary Clinton över den där mail-servern.

Erik Zalitis (17:26.286)
Ja, det är intressant. Det ser ut som att exponerade henne för en del. Vi vet ju att det läckte data ur den. Det en förmodel, någonting som ryssarna…

Anders Sandberg (17:38.35)
Men datalicken spelade nästan mindre roll än att hon kom undanmed det. För det är ju lite grann som är man religiös så tycker man väldigt illa om personer som håller på klanka på ens religion. Har man något som är väldigt viktigt i ens liv, vare sig det religion eller en säkerhetsclearance eller något annat, ser man någon som hackar på det så reagerar man i det. Och ser man att någon kan hacka på det och komma undanmed det, då blir man extra sur.

Erik Zalitis (18:03.182)
Det är ju förståeligt, är ju helt logiskt. Så om man ska försöka få någon form av bild på det hela. Vad bör man om man håller på och är ansvarig för klassificeringar av data? Kan du någon form av tumregler? Vad bör man tänka på?

Anders Sandberg (18:19.374)
Det första man ska fundera på är, kan det här bli farligt på något sätt? Och det kräver ju både fantasi och ett visst mått av paranoia men också ett visst mått av sundt förnuft. Många sorters data kan vara farliga i något tänkbart scenario. Man kan alltid tänka sig någon actionfilm där det här skulle kunna vara helt vitalt men det kanske inte är så troligt. Den andra halvan är förstås, hur troligt är det här att det är ett problem? Men sen ska man också fundera på, ja bad guys, vad de nu än må vara. Vet de redan det här?

För ganska mycket känslig information finns ju redan. Det har ju gått en oändlig debatt från låsmedelssida och idag i datasäkerhet liksom. Är det säkrare att tala om för folk att något är osäkert eller är det bättre att försöka fixa det i tysthet? Så att man behöver förstå vad händer om det här är allmän kunskap. Och det handlar inte bara om direkt farlighet. Det är ju en sak om du har det liksom genetiska koder för dödsvirus. Det är en annan sak om

Det här kommer ut så kommer Aftonbladet att skriva något om organisationen som gör att nu måste man besvara mediefrågor och försvara sig istället för att jobba i ett par månader. Det kan vara nästan lika illa som om någon hackades datasystem.

Mattias Jadesköld (19:29.55)
Nä, nästan värre.

Anders Sandberg (19:31.694)
Aftonbladet och kvällspressen är ju ofta mycket mer kreativa. är ju de här advanced persistent threats i datasäkerheten när det kommer många attacker från många håll på många sätt. Det är jättesvårt att skydda sig mot det. Om man vet däremot att ja, Gunt finger är bara ute efter den här hemliga koden, då kan man sätta in ett kassaskåp och gjuta in kassaskåpet i betong och ägna sig åt att försvara den.

Mattias Jadesköld (19:57.134)
Men du jag tänkte på det här om vi backar lite bant där men integriteten som vi började lite mer på något sätt. Du som ser lite framtiden har man gett upp det här liksom. Kommer strunta i åtgärder mot integriteten. Ska man säga så här ja i framtiden kommer alla våra hemligheter vara öppna ändå

Anders Sandberg (20:16.27)
Jag tror att det viktiga är inte så mycket att försöka hindra hemligheten från att läcka ut, för det kommer vara svårt. Utan istället se att folk inte ska kunna använda det på fel sätt och komma undanmed det. David Brin skrev en väldigt bra bok på 90-talet, The Transparent Society, som handlar om framtiden för övervakningsteknik. Han skrev den här på 90-talet, långt innan WikiLeaks och Snowden och alltihopa. Men han var ganska på pricken om att vi är på väg mot en värld där vi har total övervakning.

Men som han sa, skillnaden är ska det vara en genomskinlig värld där alla kan se alla, inklusive att vi kan se makthavarna eller att det är envägspeglar som makthavarna kan se oss och vi kan aldrig se vad de har för sig. Och han menar ju då att både demokratiskt sett och rättsligt så är det ganska viktigt att hålla den här transparensen och det innebär att man också kan hålla folk ansvariga för de använder informationen. Det kan vara svårt att göra saker i hemlighet, men framförallt så ska man se att det blir konsekvenser av vad man gör.

Och det är där jag tror vi kan skydda integriteten Så det som skrämde mig mest när det gällde Snowden och hela den affären Det var inte så mycket att NSA lyssnar på allting här i världen Det är ungefär vad de borde göra Utan att de har så dålig reglering att det är så svag kontroll över hur de använder information och hur de samlar in det Och den har inte uppgraderat särskilt mycket efteråt Det är där vi borde egentligen säga, Morsla gör det liksom att sen det här hände har datorerna blivit tusen gånger kraftigare och ni har säkert

algoritmer som är tusen gånger bättre och ni har förmodligen tusen gånger mer budget också. Så vi borde alltså övervaka er organisation ungefär en miljard gånger noggrannare. Men det borde göras.

Erik Zalitis (21:53.966)
Ja, är ju intressant. ju som sagt det jag tänkt på. Jag minns den här diskussionen från 90-talet då där vi tog det där och jag minns att jag trodde inte på det då. Det ska jag säga. Du har haft helt rätt i den här diskussionen. Men just den här grejen. Om man lite grann får göra en breakout här. Vad gör man som privatperson i den här världen? På vilket sätt, om det nu är så att…

Alla kommer veta allt om alla, det är speglar i båda riktningarna och hela den biten. Vad om man inte vill att alla ska veta allt om?

Anders Sandberg (22:29.422)
En av de praktiskaste saker är att se till att man inte har för jobbiga hemligheter. Jag valde att outa mig som gay, helt enkelt för att jag kom på att det en sak som är mindre, det är inte så farligt och det är en hemlighet man mindre bär på. Jag outade också att jag använde kognitionsförbättrande mediciner ibland, över times. Nu är inte det nyhet längre, nu kan inte engelsk skvallerpress avslöja att Oxford-forskare tar kognitionsförbättrande preparat.

Det är old news, jag behöver inte bry mig. Men det finns ju saker man vill ha i privata svären. Vad jag gör på toaletten och vad jag säger till min make. Ja, det är ju kanske inte sånt som jag vill att alla ska höra. Men å andra sidan, de flesta är inte särskilt intresserade av det. Den svåra biten är när du har någon som är efter dig. Och det kan ju vara dåliga relationer eller alldeles för nyfikta grannar. Eller någon ens förening som man råkar vara ovän med över någon revisionsprocess.

Det kan vara idiotiska triviala saker. Där måste man försöka hålla koll på det. Samma sak naturligtvis för folk som försöker knäcka ens dator bara för att ta pengar från sin kreditkort. Man ska ju inte göra det lätt för de hackarna. Ganska ofta är det att du behöver inte så otroligt mycket säkerhet för att göra att det är jobbigt att samla in den där informationen. Och det är ju det som jag tror vi behöver för vår vardags datasäkerhet men också för vår vardags privat liv. Det finns persigener.

Man kan faktiskt ha ett snack med folk om vad man tycker är okej och inte okej att tala om. Mycket av det är ju den vardagsnivån. Sen är problemet om man verkligen har en stor hemlighet att bära på. Då blir det mycket tyngre. Rent allmänt så är det ju det. Mycket handlar ju om att veta vad det är som är värt att hålla koll på och vad man inte behöver bry sig om. Och det är ju liksom ett medvetenhet man vill ha. En bra organisationskultur hjälper det med det.

Men i vardagen fungerar vi lite annorlunda och i många fall förtjener oss om saker och ting.

Mattias Jadesköld (24:32.142)
Men jag tänker att kanske att kriminaliteten kan sjunka i ett sådant här samhälle eller om alla om allting kan komma ut.

Anders Sandberg (24:43.182)
Då blir det väldigt svårt att begå brott. För en tid sen inträffade för första gången ett bankrån på Svalbard i Långjerbyn. Den har blivit ungefär 1000 invånare. Den har en bank. Det är en ö uppe i Arktis. Bankrånan kom inte så långt där för det finns ju ingenstans att gå där utanför stan. Där börjar bara isen och där finns det bara isbjörnarna. Så det funkade ju inte så bra.

Och samma sak som vill hända i framtiden, om det finns övervakning överallt, är ganska lätt att trasa någon, så kommer du inte kunna skäla något. För vi kan följa det stulna föremålet. Det innebär att vi kan lösa en massa problem. Lösenord till exempel kanske blir mindre viktig om vi har den här bra biometrin. När jag startar datorn för första gången så vet den att jag är jag och nästa gång jag försöker logga in följer den mig bara med övervakningskamera och har sett att, jo men den här figuren som startat mig första gången, det är samma person. Jag kan liksom se att

att det är den samma person som kom tillbaka.

Mattias Jadesköld (25:41.934)
Jesta.

Erik Zalitis (25:42.574)
Det har tänkt lite grann på. Har du inte spårat ur i Kina med den här typen av ranking där du har någon form av personlig ranking på varenda medborgare?

Anders Sandberg (25:54.894)
Ja, det är delvis ett experimentsystem. Man ska nog inte ta det på för blodigt allvar. Men kinesiska staten är intresserade av idén att ha ett social credit score.

Mattias Jadesköld (26:05.87)
Kan vi backa lite band där för de lyssnare som kanske inte har hört talas om det? Vad är det för någonting egentligen?

Anders Sandberg (26:11.214)
Idén med Social Credit Score startade som en sorts kreditvärdighet. Man väger in inte bara hur bra du är att betala igen lån. Utan också till exempel att inte postat någonting illegalt på nätet. Du har inte umgåts med olämpliga personer. Det riktigt obehagliga med det här är att även om man själv inte är dissident så vill man undvika dissidenter eller rapportera dem. För i alla fall kan det vara dåligt för ens poäng.

Och då här ska det sedan avgöra vad man får åka tåg och flygresor och man får lån på huset.

Mattias Jadesköld (26:48.078)
Som ett digitaliserat kastsystem eller någonting.

Anders Sandberg (26:51.918)
Ja, det är ju inte så mycket ett kasssystem för kasssystem är oföränderligt. du visar dig vara lojal medborgare, då kan du ju få ett bättre poängsystem. Det intressanta med det här är att det här är fortfarande väldigt experimentellt och jag misstänker att kineserna kommer upptäcka att det finns alldeles för många sätt att hacka det här eller göra andra saker. Men det kan också skapa märklig återkoppling för det här gäller för alla, inklusive partimedlemmar. Så nu är frågan kommer partimedlemmarna börja göra policy som förbättrar deras poäng?

Och i så fall kommer det påverka hur poängsystemet utvecklas.

Mattias Jadesköld (27:26.19)
Ja men är det inte lite så, så våran bransch funkar här i västvärlden också då? Lite fast kanske mer i nöjesvärlden då att influencer, sådana här saker som har kanske 200 000 följare på Instagram är helt plötsligt populära bara för att de har ett antal följare och så vidare.

Anders Sandberg (27:42.99)
Ja, problemet är att följare på Instagram är ett skalärt värde. Det är ett tal som startar vid noll och kan gå uppåt. Du kan ha olika former av rykte. Jag har min akademiska reputation baserat på vilka vetenskapliga artiklar jag gjort och föredrag och sånt där. Visst, kan man samla ihop det där till en siffra, mitt H-index. Men oftast akademiskt bryr man sig om. Ja, men han är en expert på D &D och lite skraltig på de där områdena.

Bra på att undervisa men dåligt på att föreläsa och sådant där. I många fall vill vi ju ha mångdimensionella beskrivningar av folk. Som pålitlighet är inte alltid så säkert att du kan kombinera det med kreditvärdighet. Problemet för det kinesiska systemet att det stoppar ihop många många egenskaper. Och det tror jag kommer att visa sig väldigt problematiskt för det är ju en sak att någon har pengar och kan betala igen ett lån men han kanske inte är en pålitlig människa. Eller han kanske är politiskt väldigt konstig. Så jag tror att

Hantering av personers renommé är superviktigt. Det det vi bygger våra samhällen på. Vi vill umgås med folk med hög status som är pålitliga. Vi vill gärna sätta upp system som gör att folk som inte är pålitliga bestraffas för det. För vanligtvis gör det att de nu kommer att vilja uppföra sig lite bättre. Det kan man automatisera till viss del.

Mattias Jadesköld (29:04.43)
Ja, men det låter ju nästan som att det är ganska… har jag fel om det låter lite rättvist på ett sätt? Det är ungefär som en kompiskrets och där som att ja, men han Mattias är inte pålitlig för att han betalar aldrig tillbaka och så vidare. Fast här är liksom hela systemet på något sätt, hela samhället som registrerar det.

Anders Sandberg (29:25.166)
Ja, och i Kina har det här visat sig ganska populärt för ett av problemen Kina har är ju korruption och småpåvare till lokala partitjänstemän som bestämmer på egen behov. Delvis är det mer påliteligt att lämna över det till en algoritm än att låta dem styra och ställa mäns liv.

Mattias Jadesköld (29:44.014)
så att det här kommer att spridas till västvärlden.

Anders Sandberg (29:46.638)
Inte i den formen. tror att det här är en väldigt speciell och förmodligen också bara första försöket. Men det skulle inte förvåna mig att du hittar liknande saker. Jag vet att EU har funderat på lite gränskontroller med maskininlärning och annat. Det är återigen mycket handvifta om förmodligen bara att någon har fått massa pengar för att forska om det. Återigen försöka göra bedömningar av asylsökande. Egentligen gör vi ju det hela tiden i vårt samhälle.

Försök göra bedömningar av saker och ting och sen ska vi fatta beslut på det här. I bästa fall så tittar vi på helhetsbilder men man vill ju ofta ha en snabb sortering. Jag tror vi kommer få se mer av det men återigen kommer det handla mycket om är det här en pålitligt sätt att sortera? Bara för att man har ett högt poängtal betyder det inte nödvändigtvis att det egentligen man ska ha den renomen. Någon som har massor följare på Instagram, hur många av dem är riktiga människor, hur många är i bottar?

Om någon har en jättehög kreditvärdighet beror det på att de faktiskt är pålitliga med pengar eller att de har lyckats göra smarta ekonomiska drag så att de ser mer pålitliga ut än vad de är. Återigen så kommer man in på ett index som är lätt att manipulera kommer ju snabbt förlora sin möjlighet att vara ett bra index. Det är därför som vi bryr oss mer om folk vid

känner för det är mycket svårare att ljuga folk rakt upp i ansiktet och särskilt när man interagerar och det är många gånger man delar på restaurangnotan så man märker vilka som är pålitliga och vilka som faktiskt delar med sig ordentligt. Det är mycket svårare om det är en liten siffra som kommer ifrån ett litet API upp i molnet.

Mattias Jadesköld (31:25.038)
Så i framtiden kanske om någon är lite snålig och inte vill dela på sin restaurang då ska vi inte ge någon så högt betyg i systemet.

Anders Sandberg (31:35.566)
Exakt. Vi har ju redan en massa av de här betygssättningssystemen och i många fall så är det ju en bra idé. Det bara att det oftast blir märkligt. Om man till exempel åker med Uber så ja, ger man föraren bara tre stjärnor, då blir han väldigt sur. Så det är liksom en enorm inflation i vilka poäng man ska ge föraren av. Och de ger ju förmodligen poäng också till oss passagerare. Samma sak på Airbnb och många av de här. Så att hantera de här betygsinflationen.

Ja, det är ju samma problem som hanterar riktig betygsinflation i skolan.

Erik Zalitis (32:09.358)
Ja, jag är ju radioamatör och när man kommunicerar över radion så säger man ofta en signalrapport och då säger man 5-9 som betyder högsta hörbarhet. Det har blivit en inflation i det också. Man kommunicerar med folk ute i sig i Europa eller någonting så ger de det alltid så kallade 5-9 rapporter. Perfekt mottagning. Sen kan de fråga, jag hörde inte riktigt din signal, kan du repetera den?

Då tänker jag såhär ja. ger man dem någonting annat än 5-9 till lägre betyg, då blir de förbannade istället.

Mattias Jadesköld (32:41.166)
Ja men det är, men tänk om du skulle utföra någon konsultuppdrag för någonting Erik då så bara får man ett betyg rakt upp i ansiktet? en fyra

Erik Zalitis (32:51.246)
Ja då känner man att jag kanske inte var så bra. Jag förstår vad menar.

Mattias Jadesköld (32:57.806)
Lenni.

Anders Sandberg (32:58.126)
Det är så godtyckligt när vi ska värdesätta saker. Det är mycket enklare när du verkligen kan mäta hur väl det fungerar. Om jag löser ekvationen så kan man se hur många procent av ekvationen jag lyckats lösa eller hur noga lösningen har gjort. Så i vissa domäner tror jag att vi kan skapa betygssättningar som verkligen är väldigt ärliga. De kan fortfarande driva oss i konstiga riktningar. Men mycket av våra medmänskliga relationer är svåra att bara sätta på en femgradig skala. Man vill ju skriva mer.

Men problemet är de flesta av oss inte är riktigt bra poeter för att beskriva våra känslor för varandra. Och i synnerhet inte på en mobiltelefon liksom fem minuter efter att man träffas för att pizza.

Mattias Jadesköld (33:37.358)
Ja, intressant samtalsämne lite om informationssäkerhet i framtiden och sådär.

Anders Sandberg (33:45.742)
Och det är värt att notera att även våra rykten, vårat renommé, det är en information som faktiskt är viktig för oss. Om jag tappar mitt renommé så kommer jag svårt att få jobb. Jag måste tänka på informationssäkerheten för min image. Så det ju därför som jag verkligen bryr mig att ingen ska hacka min Twitter. Eller alltför lätt göra en fake video där jag säger något riktigt dumt.

Mattias Jadesköld (34:10.318)
Ja, det här kan vi prata om hur länge som helst. Anders, ska prata nästa vecka och då går vi in lite mer på AI. Framtidsforskning funkar där också.

Är det någonting du vill tillägga?

Erik Zalitis (34:23.181)
Jag tror jag har fått igenom det viktigaste faktiskt.

Mattias Jadesköld (34:26.03)
Spännande ämne.

Anders Sandberg (34:31.118)
Vi ses!

(Denna transkription är automatiskt genererad och kan innehålla felhörningar)

Länkar – framtiden
–

Felaktigheter

Inget att rapportera denna gång. Kommentera gärna om ni inte håller med om hittar fel i något vi sagt.