#10 – AI, människans bästa eller sämsta uppfinning

Vi pratar AI med Anders, vår framtidsforskare.

Hur långt har vi kommit med AI egentligen? Är Google DeepMind smartare än Mattias 2-åriga son och när företag pratar om AI – är det smart då eller ett marknadsföringstrick?

Och varför har vi inte fått butlerrobotarna som man ”utlovade” på 50-talet?

Inspelat: (publicerat 2019-01-27)
Deltagare: Mattias Jadesköld, Erik Zalitis och Anders Sandberg
Texten skrevs och sammanställdes av Erik Zalitis.

Medan du lyssnar – uppfinning

AI är framtiden och verkar alltid ha varit det. Men nu börjar vi närma oss en värld där teknologin börjar komma mänskligheten till nytta. Dock är frågan hur pass lik en mänsklig intelligens den kan tänkas vara och varför vi fått vänta på något som utlovats oss så länge. Anders har en positiv, optimistisk syn på frågan och förfaller inte till att bli en domedagsprofet. Istället ser han möjligheter och chanser, men även faror och problem. Och problem, enligt honom, är till för att lösas.

Här är transkriptionen av avsnittet

Erik Zalitis (00:08.622)
Ja välkomna då till it-säkerhetspodden avsnitt nummer 10. Vi har gått över till tvåsiffret för första gången någonsin i historien.

Mattias Jadesköld (00:17.838)
Och vi Anders med oss igen. Hejsan! Den här gången ska vi prata lite djupdyka lite i AI-delarna. Och dina framtidstankar kring det. Men kan inte du bara berätta lite, du som bor i Oxford, vad är det för stad? det någonting som är andastbar, universitet och framtidstankar när man går runt där på gatorna?

Anders Sandberg (00:42.734)
Ja, centrala Oxford, den biten som turisterna ser, där har vi massa vackra 600-talsbyggnader, lättflagnade, krämfärgade sandstenor med idel gargoyles uppe på taket. Det ser väl ut ungefär som rekvisita från en Harry Potter-film ungefär. I synnerhet när studenter går förbi medeltida kappor och annat. Vi har lite riktiga industrier i utkanten av stan också. Det finns folk med riktiga jobb.

Mattias Jadesköld (01:04.397)
Ha ha

Mattias Jadesköld (01:11.438)
Hur kom du in där egentligen?

Anders Sandberg (01:14.798)
Jag är en olydig doktorant, jag skulle studera datavetenskap och tillämpa det här på förstå hjärnan, göra neuronets modeller av hjärnan. Men jag var ju intresserad av allting, psykologi, medicin och lite av varje. Jag började fundera på hur det här påverkade samhället, hur vi kan utvecklas i framtiden. Så jag skrev ju om det också. 2005 grundades The Future of Humanity Institute i Oxford. De behövde folk som kunde göra jobbet.

Det var så jag hamnade där, trots att det här är tekniskt sett på filosofiska fakulteten och inte inom datavetenskapen.

Mattias Jadesköld (01:52.142)
De tänker lite kanske liksom vad som händer när maskinen och människan går ihop lite på något sätt då eller?

Anders Sandberg (02:01.582)
Exakt, så mitt inledande forskningsprojekt handlade just om förbättring av människan. Vad finns det för tekniska möjligheter att göra oss smartare, leva längre, bli intelligentare på olika sätt, inklusive då man kopplar ihop människor med maskin. Och vad är de sociala och etiska konsekvenserna? Och jag upptäckte att det finns ett fantastiskt område mellan filosofi och vetenskapen där jag kan förklara vetenskapen för filosoferna som kan tänka igenom det här och sedan försöker jag förklara filosofin för naturvetare och ingenjörer.

Så vi kan gå i rätt riktning med tekniken.

Mattias Jadesköld (02:35.086)
Ja men intressant, du kom in lite på Dagens Ämnes där. Vad kommer det här lanta i tror du? Det här med AI-delarna, att vi gör maskiner smartare och smartare och smartare.

Anders Sandberg (02:50.894)
Ja det är ju någon som har sagt, jag vet inte om var Stephen Hawking eller Bill Gates eller om de knyckte det från någon att ja, det här är förmodligen det bästa eller sämsta uppfinning vi någonsin kommer att göra. Och jag tror att de har helt rätt. Och det är lite grann obestämt än så länge om det här kommer att vara det som är slutet för mänskligheten eller betyder att nu har vi kirrat det. Nu är framtiden riktigt ljus.

Erik Zalitis (03:13.006)
Så det kan gå antingen totalt käpprätt åt skogen eller det kan bli en ny lysande framtid. En gyllen epok av utveckling och ja, beroende på hur ser det.

Anders Sandberg (03:24.078)
Och anledningen till det hänger ju ihop med vad är det som är bra med intelligens? Våra förfäder bland schimpansliknande apor, de levde ungefär som schimpanser gjorde nu. Men några av deras ättlingar hamnade på savannen och blev oss människor och blev intelligenta. Medan då schimpanserna levde kvar i skogarna ungefär som förfäderna gjorde. Och skillnaden är förstås att vi dominerar planeten. På gott och ont styr vi klimatet.

Vi bestämmer var skogarna ska finnas och huruvida olika vilda djur överlever eller inte beror helt på vad vi gör miljömässigt. Vi är den vanligaste stora djuret på planeten. Vi skickar iväg sonder utanför solsystemet. Vi kliver atomer. Vi gör en massa väldigt märkliga saker. Och det är för att vi är lite intelligenta där än chimpanserna.

Erik Zalitis (04:11.182)
En sak jag har tänkt på när det gäller AI är den här skillnaden mellan specialiserat AI och generellt AI.

Anders Sandberg (04:19.438)
Ja, för vi är ju väldigt generella. De flesta av oss kanske kan vissa saker bra, men vilken människa som helst kan med viss möda förmodligen lära sig andra uppgifter. Men de mesta mjukvaror och de flesta verktyg vi konstruerar, de är ju väldigt inriktade på att en sak väldigt väl. Vilket ofta är ytterst effektivt, men det gör att samtidigt att jag inte kan återanvända dem och ändra sig situationen så behöver jag ju liksom helt ny mjukvara.

Mattias Jadesköld (04:48.302)
Vi har tagit det här exemplet lite förut. Om man tänker på 90-talet när en maskin slog en människa i chack. Det var för att man hade programmerat den här datorn att klara igenom ett antal miljarder drag som chackspel har. Och nu för tiden har större datorkapacitet, mer processorkraft och allt sådant. Och så kan man helt plötsligt göra…

andra saker, i stort sett samma sak. Alltså att man till exempel kan analysera bilder och så vidare. Eller har man kommit längre med intelligens i en maskin? Verkligen. Eller är bara det att man har bättre kapacitet?

Anders Sandberg (05:32.398)
När man började med artificiell intelligens på 50-talet, då handlade väldigt mycket om logikprogrammering och man hade system som försöker bygga en bild av omvärlden, räkna igenom vilken plan den ska göra för att komma till ett önskat slutmål och sedan genomföra planen. Det krävde väldigt mycket att vi människor la oss i och la in detaljer. Det var väldigt svårt att utveckla.

Men det fanns en annan skola inom AI-forskningen som tänkte att vi kan låna från nervsystemet och hjärnan för att vet att de fungerar. Och de fungerar på ett väldigt annorlunda sätt. Många små nervceller är sammankopplade till ett stort nätverk och varje nervcell och varje koppling vet ju ingenting. Men helheten kan lära sig från data att fungera bättre. Så man kan träna upp det med exempeldata så att det gör olika uppgifter.

Det här är det som är hemligheten bakom den nuvarande renässansen i maskinen lärningen. Jag höll på och doktorerade på det här på 90-talet och det var innan det här verkligen fungerade särskilt bra. Det var innan du kunde verkligen hantera bilder i en kändning och göra de fantastiska saker som händer nu. Det var också innan man kunde få en jättefin lön av att hålla på med det här. Jag lämnade fältet också innan det var uppenbart. Sen kom överraskning ungefär 2010.

Datakraften var tillräckligt stor och vi hade inte gick mycket data för att träna de här neuronnätet att plötsligt göra saker som vi inte kunde göra tidigare. Många av nätverken var exakt som man tänkte på på 80-talet men då hade vi inte datorerna för det.

Erik Zalitis (07:06.158)
Det är Morslag som litegrann har hjälpt oss att komma dit vi ska vara.

Mattias Jadesköld (07:10.35)
Sätt.

Anders Sandberg (07:11.566)
Både Morslag och internet finns där det finns enorma mängder data som man kan samla in och träna med. Har du inte en miljard exempel på kattbilder så är det faktiskt förvånansvärt svårt att träna ett neuronet att känna igen katten från hundar. Men har du en miljard, då funkar det.

Mattias Jadesköld (07:30.094)
Jag brukar fundera på det här ganska mycket. läser i saga för min son som är två år. Han är nu outvecklad hjärna kan man säga. Vi läser i saga olika ritningar varje gång. Det oftast en mus eller råtta eller en katt eller hund. Han prickar det varje gång. Oavsett om det olika tecknare eller om det en ny bok. det ny ritat djur eller någonting. Då han att det där en hund eller fan. Då tänker jag liksom så

Skulle den här Google Deep Mind eller vad heter kunna pricka det på samma sätt som han kan?

Anders Sandberg (08:04.91)
Och svaret är nej. Därför att de här systemen just nu som fungerar väldigt bra, de använder enorma mängder rådata eller träningsspel om de då ska lära sig spela schack eller go eller något annat dataspel för att bli bra. Men vi människor kan i många fall, ser vi ett par exempel så kan vi gissa oss till vad resen ska vara. Det pågår en massa spännande forskning till exempel på MIT under Georgetowns Group.

Just att hålla på med small data och kunna göra det här men än så länge har inte det lyckats lika bra. Den dag du gör det så kommer vi att få se ännu mer kraftfulla maskiner. Men den nuvarande metoden är att man istället använder brute force. Man har väldigt mycket data och väldigt kraftfulla datorer. Som sedan producerar något som du kan paketera i din mobiltelefon. Som är bra på att identifiera katter och möss. Men det krävs enorm träning för att skapa det.

Erik Zalitis (08:57.454)
En tanke jag har funderat lite grann på är att när man tittar lite grann på man är på seminarium och sådana saker och lyssnar på företagens senaste antivirusprogram och saker ting, då säljer de ju ofta med att jo men numera så är ju det här styrt av AI så det är mycket bättre nu. Är det där bara ren marknadsföringsnys eller har de någon form av intelligens i de här produkterna?

Anders Sandberg (09:23.214)
Ja, det är just det där med intelligens. En bra definition av intelligens som Shane Legge, av grundarna av Google DeepMind, var att det förmågan att lösa problem för att uppnå sina mål i generella miljöer, det är riktig intelligens. Om en människa hamnar på en främmande planet så är det en smart person, han eller hon, att räkna ut hur man kan använda vad som finns där för att klara sig. Det finns förstås gränser för det här, för tillräckligt ojästvänliga miljöer klarar man sig inte i.

Mycket av den smala AI-in i dag och mycket av maskinen lärning fungerar bara i väldigt litet område. inte särskilt intelligent. Om man ska vara ärlig, förmodligen är de flesta tillämpningar du hittar i säkerhetsprogramvaran det är nog mer reklam. Artificiell intelligens har ju länge haft det här problemet om man har hajpat sig själv till döds. På 50-talet sa man att inom en generation kommer vi förmodligen ha battle-roboter. Det blev aldrig av och hela området kollapsade.

Sen började man igen och man blev jätteentusiastisk på tidigt 70-tal om neuronäten och sen blev det ingenting av dem och så blev det en vinter igen. Och jag skulle inte förvåna mig att det kommer bli fler hype-bubbel-collapser av det här slaget. Samtidigt är det det att för en del problem är maskinlärning helt fantastisk. Om inte jag kan formalisera vad lösningen är men jag kan ge många exempel på det här löser det, det här är inte rätt lösning så kan man ibland träna upp system som kan bli förvånansvärt bra.

Och det är ju mycket möjligt att t.ex. känna igen malware. Det är ett sådant problem kanske. Det är inte uppenbart för mig som Ike-expert om det går. Och även experterna blir ofta förvånade. Det var många inom neuronäten som blev helt förvånade när 2010 när det plötsligt började fungera så bra. Inklusive folk som hållit på i decennier med fältet.

Mattias Jadesköld (11:12.238)
Jo, jag tänkte på det här lite med… Om en människa blir duktig på chack så är det ju så mycket mer än bara att lära sig ett antal drag. Det är saker som intresse, kanske är ens pappa som är duktig på chack och man är VD på något sätt, någon slags talang och allt vad det kan vara. Det är så många andra delar i mänskliga hjärnan som bygger upp en duktig chackspelare.

som driver en människa att det blir en bra schackspelare. Men finns det någon typ av forskning på det på A i att man kan få en maskin att på något sätt välja vad det vill bli liksom och så får bli en bra schackspelare över datorn eller någonting liksom.

Anders Sandberg (11:54.062)
Ja, det har man inte jobbat jättemycket på, i varje fall inte i den mer industriella AI-forskningen. Där vill du ju ha en schackspelare eller en industrirobot. Att ha en maskin som börjar fundera på sitt eget karriärval är förmodligen en ganska dålig investering. Forskningsmässigt är det här jätteintressant och man kan träna upp maskiner på olika sätt. Vad jag tidigare nämnde var vad man kallar övervakad inlärning. Jag ger ett exempel på in-data. Maskinen producerar någon sorts utdata.

Vi korrigerar så att svaret blir lite mer rätt. Men jag måste alltid veta vad rätt svar på frågan är. Men det finns också oövervakad inlärning där man bara skickar in datorn och maskinen anpassar sig till det här. Det var det jag själv höll på att doktoria på. Jag var intresserad på att vilka kunskapsstrukturer som kunde uppstå. Men det finns också någonting som kallas förstärkningsinlärning. Det innebär att man vet inte vad rätt svar är men man kan känna igen det när man ser det.

Så du kan tänka dig att du har en robot som vandrar runt och varje gång den krockar med någonting, ja då får den minuspoäng. Det ska den inte göra. Men om den lyckas servera en drink, ja det är pluspoäng. Och så gradvis provar den en massa saker. I början kommer den vara naturligt helt hopplös. Men ibland av en ren slump råkar den servera någonting. Och gradvis kan den där genomlära sig. Det här är hemligheten just bakom varför Google DeepMind har varit så framgångsrika med sina dataspel.

De vet ju inte hur man ska spela schack på geninivå. De är bara duktiga schackspelare, de som har utformat programmet. Men de vet ju om man vinner eller inte. Så systemen får poäng för det och lär sig skaffa poäng på sätt som man aldrig har kunnat förutse. I verkligheten, vi människor, vi får ju poäng genom att vi mår bra och folk beundrar oss. Så vi gör lite saker i skolan. Ibland får vi klapp på huvudet och ibland får vi skäl. Och sen gradvis hittar vi på något sätt att maximera det där.

Och ibland blir det naturligt märkliga saker, för ibland kanske man bestämmer sig för att det är coolt att bli utskälld på en mest stil så att man kanske börjar bli legist istället. Så det är ganska komplexa system inom oss som är att avgöra vad vi betraktar som en belöning.

Mattias Jadesköld (14:01.806)
Men det där som är machine learning då då?

Anders Sandberg (14:07.918)
Exakt, man hittar metoder att få maskiner att ge rätt svar eller ge rätt beteende. Och helst av allt så ska ju inte vi behöva tala om hur man gör för att hitta på rätt svar. Vi vill att den ska komma på det på egen hand utan att vi ska behöva anstränga oss.

Mattias Jadesköld (14:23.278)
Det där tycker jag är abstrakt. Jag såg någon film om det där, till exempel om Google Deep Mind, man försökte lära en maskin att upptäcka en bild på en katt. Kan du beskriva det i väldigt enkla termer som man förstår på något sätt?

Anders Sandberg (14:40.814)
Om jag skulle försöka göra det så skulle jag först ha ett stort bibliotekabilder på både katter och icke-katter. Och sen så skulle jag ta ett stort neuronät. Alltså många simulerade nervceller kopplade till varandra. Var det en liten förbindelse då som kallas för en vikt. Så kan det vara ett värde som är plus ett eller minus ett eller något annat värde. Och så stoppar jag in första bilden på insidan och så får jag ut något signal på utsidan. Om vi tänker att så ska klassificera katter och icke-katter.

så är det väl förmodligen då att en nervcell ska signalera att är troligt att det är en katt och en annan att det inte en katt. Så jag stoppar in en kattbild och förmodligen blir det ungefär lika mycket aktivering av båda. Men jag vet ju att det här var en katt. Så jag kan nu gå tillbaks och justera alla vikterna så att det blir lite mer på den sidan att det här är en katt. Så visar nästa bild. Det inte en katt. Om den nu säger att det en katt så måste jag korrigera vikterna på något annat sätt.

Det här naturligtvis gör man ju inte för hand utan det är ju en annan mjukvara som sitter och kör där. är en matematisk algoritm som uppdaterar de här vikterna. Och det här man gärna vill låna Googles datacenter då för det krävs väldigt mycket beräkningar.

Mattias Jadesköld (15:50.414)
Kast mer energi än mänsklig hjärna fördrivar det.

Anders Sandberg (15:53.678)
En mänsklig hjärna är ungefär 20 watt. Och jag vet inte vad ett ordinärt datacenter går, men det nog åtskilliga kilowatt.

Mattias Jadesköld (16:01.966)
Det kanske är det jag vet eller.

Anders Sandberg (16:04.078)
Ja, har i timmar eller dagar. Det intressanta är att efterhand så mejslar ut en struktur i nätverket som gör att det blir bra på att identifiera katter. Vi vet kanske inte ens varför. Det är väldigt svårt ofta att avgöra varför ett neuronet gör en kategorisering på det sätt den gör. Men har vi ställt in allting rätt så får vi något som är väldigt robust och även när vi så här, nya bilder som inte katter de tidigare har tränat på kommer att känna igen det.

Det finns problem med det här. har visat sig att man kan om man är lite listig skapa bilder som ser ut som en hund men garanterat övertyga nätverket att det är en katt för att man just har utformat den för att skapa en sorts optisk illusion som funkar för neuronet. är också det problemet att vi aldrig kan vara helt säkra på att den korrekt klassificerar alla katter. Det kommer säkert att finnas en del misstag där.

Men det fantastiska är att nu har vi det här systemet och det kan stoppas in i ett enkelt chip och du kan använda det telefon eller kanske en smartkattlucka. det inte bara katter här, du kan ju tänka dig du kan kategoriserar, låt oss säga mjukvara som säker mjukvara eller malware. Att den kanske börjar skicka varningssignal om det någon misstänkt mjukvara. Eller varför inte användare som ska vara i systemet och sånt som ser ut som att här är någon som försöker hacka den.

Erik Zalitis (17:18.637)
Jag tänker på en sak, när man tittar på antivirus eller skadelikodprogram så har de åtminstone tidigare talat om heuristik heuristik, jag vet inte hur man uttalar det där som någon form av kontroll av vad som liknar skadelikod eller vad som inte liknar skadelikod, som liknar spam eller inte liknar spam och sånt där. Är det någon form av AI-system eller är det någonting annat?

Anders Sandberg (17:43.502)
Ursprungligen så var det nog ganska mycket att man handkodade det. Men ganska snabbt på 90-talet kom man på vad man kallar för bajesianska spamfilter. De är döpta efter Bayes regel i sannolikhetsläraren som beskriver hur man kan givetvis att data ändrar på sina uppskattningar om någon hypotesisk san eller ej. Så när det kommer ett mail så kan mjukvaren göra en gissning på hur stor sannolikheten det här är spam.

Och om det talar väldigt mycket om viagra och att man kan tjäna pengar då är det nog ganska troligt att det är spam. Så man kunde börja träna, man tog massa exempel spam-mail och tittade på nyckelord och sånt där. Sen blev det lite svårare för spamarna började ju också försöka knäcka det här genom att inte tala om viagra rakt ut eller använda siffror istället för bokstäver. Så det blev en kapplöpning. Men det är ganska likt vad som händer i neuronäten.

Många använder mer de här bajsianska nätverken än neuronet. De fungerar väldigt bra för en del tillämpningar.

Erik Zalitis (18:42.222)
Så det är alltså inte samma sak då.

Anders Sandberg (18:44.75)
Det liknar varandra väldigt mycket. En av de tråkigare insikterna vi kom på på 90-talet var att vi som höll på med neuronet, vi var ju väldigt intresserade av den riktiga människojärnan och tänkte att vi kan lära oss väldigt mycket från det. Men så kom några duktiga matematiker och statistiker och visade att vad ni egentligen gör, det är en sorts avancerad statistik och det kan man göra på många olika sätt. Att använda neuronet, det bara ett verktyg, stor verktygslåda. Det finns många andra metoder och en del är bättre för vissa ändamål.

Så att använda så kallad bajesianska nät, då tänker vi i term av sannolikhetslära, det fungerar också väldigt bra. Det finns metoder att göra beslutsträd som inte alls fungerar som neuronät alls, men de kan göra många av de här jobben bra. Så delvis från ett praktiskt ingenjörsperspektiv så väljer man det verktyg som råkar vara väldigt praktiskt. Vi som då är mer intresserade av hjärnor, vi drog oss lite grann tillbaka och började fundera mer på neuroner som verkligen liknar biologiska neuroner.

Det inte det du vill stoppa in i din övervakning kameror eller i ditt spermfilter för de har massa andra egenskaper som är biologiskt spännande men ganska opraktiska ingenjörsmässigt.

Mattias Jadesköld (19:54.222)
Men apropå det här kommer man, kanske frågan är snarare när kommer man kunna skapa en maskin som är identisk med mänskliga hjärnan?

Anders Sandberg (20:07.438)
Ja, det där är ju det luriga för folk har ju talat om det i decennier. vad vi vet nu ett par decennier senare är att det är mycket svårare än vad det verkade. Och folk har varit väldigt dåliga på att förutsäga hur långt in i framtiden är. Rent allmänt att förutsäga AIs framtid, är någonting vi har goda skäl att tro att vi människor är dåliga på. Så vissa menar att, ja men det här är självklart att det kommer att gå, se hur bra det går just nu och fortsätter bara gå såhär bra några år till, då har vi säkert upp någon människojärna.

Och det finns andra som säger, nej, ni tar inte hänsyn till den här filosofiska spetsfundigheten, det kommer aldrig någonsin att gå. Och jag tror det är det härliga svaret är osvuret är bäst. Jag skulle inte bli förvånad om vi uppnår artificiell intelligens på mänsklig och högre nivå det här århundradet. Det är någonting som oroar oss lite på vårt institut, för det gäller ju att få till säkerheten innan vi har fått riktigt kraftfull AI.

Men det är också mycket möjligt att det visar sig att det här kommer ta mycket längre tid. Själv har jag forskat på ett annat knep. Vad händer om vi scannar en riktig människa hjärna och bara kör neuronätet i datorn? Det är väldigt opraktiskt idag för vi kan inte scanna hjärnor särskilt stort. Vi kan bara ta några enstaka nervceller åt gången och vi behöver mycket mer datakraft än vad som finns. Men det ser ut som att vi borde klara kring 2050-talet, 2060-talet om nuvarande trender håller i sig.

Mattias Jadesköld (21:31.726)
Men vad då? Ska bety att jag skulle kunna göra en backup av mitt egna medvetande i en dator då?

Anders Sandberg (21:38.734)
Ungefär. Det lilla problemet är att de metoder att scanna vi har just nu är destruktiva så att det är inte så mycket backup som att det blir en överkopiering. Sen kan du ta backup-kopior hur mycket du vill.

Mattias Jadesköld (21:51.054)
Men jag skulle på något sätt kunna leva vidare fast min kropp.

Anders Sandberg (21:56.974)
Exakt. Naturligtvis, det här hänger på en del filosofiska frågor om vem du är och om mjukvaruversionen av dig fortsätter att vara dig en meningsfull bemäkser. Några filosofer skulle också börja grumsa om kan mjukvara vara medveten. Och det finns en del tekniska frågor också om hur skärmbara hjärnor är. Men jag tror att det här är en ganska hygglig chans att man skulle kunna göra sig till mjukvarumänniska i det långa loppet.

Mattias Jadesköld (22:24.046)
Mm, så man kan kopiera sig själv. Eller det behöver man inte göra. Jag tänker resandet i framtiden då i så fall. Att liksom…

Anders Sandberg (22:32.91)
Det är massor med saker som blir väldigt praktiska. Du kan resa vart som helst, du har en bra internetförbindelse och ladda ner dig i en lämplig robotkropp eller androidkropp. Du kan ha backup-kopior i händelse av något går snett. Du kan hålla på och kanske hacka om ditt neuronet och göra det lite bättre. Och vad det inte är bättre så finns det en andu-knapp också så du kan gå tillbaka till en föregående person.

Erik Zalitis (22:54.734)
Jag kommer att tänka på den här science fiction-boken, Altered Caravan. har tydligen blivit tv-serien nu också, men den har jag inte sett. det var det Boken handlar i alla fall om möjligheten att föra över själv mellan planeter som information, och sen ladda ner sig i en kropp och då fortsätta på den här planeten.

Anders Sandberg (23:02.222)
Tack för att ni tittat!

Mattias Jadesköld (23:13.262)
Ja men det är ju år 2060 vi kan vänta oss, År 2050, ja okej.

Erik Zalitis (23:17.166)
Ja, 2050 sa du va? Nej,

Anders Sandberg (23:20.238)
5-talet, 60-talet, någonstans där. Men det är väldigt mycket gissning. Återigen, att gissa framtida teknik när man får den brukar sällan fungera så jättebra. Det intressanta är dock att man kan försöka bygga strategi på det här. Så till exempel kan vi bestämma oss att vi ska försöka undvika att dö fram till 2050-talet, för då har vi en godare chans. Vi på vårt institut tänker mycket på att det här med AI, kraftfull artificiell intelligens, verkar väldigt farlig om man inte har hittat sätt att få den att uppföra sig.

Vi borde utveckla det innan AIN blir tillräckligt bra, även om vi inte vet om det tar ett århundrad eller tio år.

Erik Zalitis (23:56.27)
Ja, det finns ju i här boken Superintelligence heter den så.

Anders Sandberg (24:00.878)
Ja, eller Superintelligens på svenska. Och Nick Oström, chef.

Erik Zalitis (24:02.83)
Ja, den finns också. Ja, just det. Lite roligt.

Mattias Jadesköld (24:08.942)
Då gäller det att inte… Vi får taska saker då i så fall.

Erik Zalitis (24:12.206)
Nej, precis. Nej, men det var intressant faktiskt. Jag har läst den här för några år sen. fick den här av dig i så…

Anders Sandberg (24:17.262)
har hänt mycket med Nicky. Jag håller viss med honom väldigt mycket men som kollega och gammal vän så har jag också åsikter. Men hans viktiga poäng är ju att det ser ut som på samma sätt som att vi blev lite smartare än andra apor, gjorde att vi tog över planeten. Får vi något som är lite smartare än oss, det har väldigt stora effekter för hela världen. Då vill man nog se till att vi har säker och pålitlig och bra AI.

Och givet hur dålig vi är på att få vanlig mjukvara att vara säker och bra så har vi ganska mycket jobb framför oss.

Mattias Jadesköld (24:52.654)
Jag hörde någon sån här intervju med någon. Om vi skulle skapa en sån smart AI, att det blir komplicerat med en avknapp. Kan det bli?

Anders Sandberg (25:06.286)
Många säger ju om maskinerna inte gör som vill, vi bara ur sladden. Har du provat att dra ut sladden för elnätet? Eller sladden för marknaden? är en sak att dra ut sladden för sin laptop. Men de flesta riktigt kraftfulla system finns i molnet. är distribuerade. Förmodligen kommer de att väldigt viktiga för övriga samhällsfunktioner. Problemet är att du måste få dem att uppföra sig.

Om de gör fel, att vi kan programmera om dem så de gör rätt. Problemet är att om ett system har ett givet mål och någon kommer och vill ändra på system som har ett nytt mål, då kommer systemet, om det är smart, tänka efter. Hmm, i framtiden, vad kommer jag att uppnå? Hmm, jag kommer att uppnå det nya målet om jag låter mig bli omprogrammerad. Men mitt mål är ju det första målet. Så jag kommer att, alltså måste jag hindra dem för att omprogrammera mig.

Så för att konstruera ett system som snällt nog säger, ja visst du får väldigt gärna koda om vad jag är ute efter. Måste man göra ganska spetsfundiga kodningar? Min kollega Stuart Armstrong skrev en artikel om det här ihop med Google Folket.

Erik Zalitis (26:17.39)
Det är intressant att du inte kan ändra det. Sen är det också den etiska frågan om du har byggt ett system. Kan man då anser att det är levande i så fall? Vad har du för rättighet både etiskt och lagligt att ändra eller avsluta systemet? Det är också en fråga.

Anders Sandberg (26:35.534)
Jag tror att det är nästan den enklare biten för långt innan dess kommer vi ha system vi behöver kunna edutera ändå. När system börjar säga, ja jag vill faktiskt kunna rösta, jag är en fri varelse, fint vi kan säga det kräver en rättighet, då vet vi att det nog borde ha det. Det riktigt luriga kommer det vara om du har någonting i stil med Google. Ja det är ett fråga svarsystem, det är kanske super intelligent och kapabelt till en massa saker men det har ingen vilja.

Det kanske borde ha rättigheter tycker vi men det bryr sig inte. är ganska jobbig filosofisk fråga vad man ska göra med sådana saker. För vi är vana vid att tänka på rättigheter när de relaterar till varor som oss. Vi är individer med ett eget livsmål och en egen vilja och tycker väldigt illa om när någon ändrar på vad vi är ute efter.

Mattias Jadesköld (27:26.926)
Ja men det känns långt fram i tiden, det gör ju faktiskt det. Men 2050 då kanske? är 30 år, det kan verkligen vara möjligt.

Anders Sandberg (27:39.438)
Det är inte omrymligt om vi blir överraskade av att maskininlärning som det funkar idag faktiskt kan lösa de här problemen. Och det ju många som är skeptiska till det. En av mina favoritforskare, Gary Marcus, är också väldigt mycket retfluga. påpekar att vad vi har löst är möjligtvis perceptionsbiten. Men det ju inte så att bebisar när de växer upp att de lär sig bli intelligenta genom att se människor göra intelligenta saker omkring dem.

Babys har lärts se genom att uppleva en massa seende och höra saker. Men vissa andra bitar av vårt intellekt fungerar helt annorlunda och då är vi inte ens i närheten av det. Och det här tror jag Gary Marcus har helt rätt om. Men vi också blivit jätteöverraskade av hur kraftfulla neuronäten var på att lösa problem vi trodde krävde helt andra arkitekturer. Så osvuret är bäst.

Mattias Jadesköld (28:29.326)
Men om vi 30 år framåt då och för 30 år sedan då har vi gått från VHS till Netflix. att det är stor steg men ja.

Anders Sandberg (28:37.998)
Redan där ser vi något spännande att vi inte ens föreställa oss Netflix på VHS-tiden. Många av de enklare tillämpningar av AI kan vi inte heller föreställa oss idag och de kan ändå ändra väldigt mycket på samhället. Rent säkerhetsmässigt till exempel behöver du kanske inte ha en super intelligent program bara för att en elektronisk hacker som du kan sätta upp i molnet. Nu har du en miljard halvdasia hackers som kan ge sig på

en motståndare.

Erik Zalitis (29:09.454)
Det är ju lite grann nästan vad vi har idag. Haldasiga skript och grejer och allting flyger på. Men om du har Haldasigt Aisler, var ett stort lyft. Hur bra är det på hacka-system?

Anders Sandberg (29:23.47)
Det finns ett projekt som DARPA, Defense Advanced Research Project Agency i USA har hållit på med, de kallar det Cyber Grand Challenge, som handlar om att göra programvara som kan hitta sätt att hacka annan programvara. Målet officiellt sett i varje fall är skydda sig så att det ska kunna patcha systemen. Och sen har de tävlingar då där olika program sitter och försöker hacka varandra server och skäla information. Om vi antar att de är helt ärliga om att det här är defensivt så är ju det bra.

Problemet är att vad tror vi Kina och Ryssland och alla andra håller också på med? Det finns några av de här lite mer offensiva projekten. Så vi har ju risken att hamna i en värld där vi får automatisk hackning.

Erik Zalitis (30:06.158)
Ja, i alla fall får någon form av mer modern variant av det. Vi har ju automatisk hackning idag men den är ju inte så extremt bra.

Mattias Jadesköld (30:17.55)
Man kan köpa hacking som tjänst. vill säga ungefär som städhjälp och nästa steg i städhjälp är väl en städrobot som redan finns idag. Så det är väl inte konstigt att det kanske hacking robot kommer snart också.

Erik Zalitis (30:19.726)
Jo, det är också en…

Anders Sandberg (30:32.238)
Du kan ju liksom abonnera på tjänsterna. En av mina kollegor, Erik Drexler, har påpekat att vi ofta tänker på AI på fel sätt. Vi tänker på AI-en. Vi tänker liksom på en robot som står där och leker butler eller springer omkring med en stridsmang. Men egentligen riktig AI, det är ett system. Och vi förmodligen kommer att få superintelligence as a service. Du har en applikation, du kopplar upp den till Amazon eller Google.

Och nu får du den sortens intelligens du behöver för den här uppgiften. Så det är bara att du abonnerar på. Om ditt säkerhetssystem behöver vara smart så kopplar du in säkerhetsintelligens. Ska ditt system städa så kopplar du in städintelligens.

Mattias Jadesköld (31:15.278)
Ja men Erik du har ju köpt den här Google Home ju. Den kostar ju bara några hundra kronor eller vad är det där?

Erik Zalitis (31:20.462)
Ja, 749 fick jag ju för,

Mattias Jadesköld (31:22.862)
Ja, och är liksom en smart data. Varför är den så billig? Ja, är för att du som är varan på något sätt, eller?

Erik Zalitis (31:28.334)
Den kollar väl allting man säger och lär sig själv. Jo, det ligger nog något i det. Men den är ju inte särskilt smart jämfört med vad som skulle kunna vara.

Mattias Jadesköld (31:37.006)
Nä, du, jag vill den smartare varje gång du frågar en grej.

Erik Zalitis (31:39.694)
Ja, alla fall. Med tanke på jag frågar samma saker hela tiden så tror jag inte det. Jag frågar om vädret. var andra än det.

Mattias Jadesköld (31:46.222)
Anders Sandberg (31:46.894)
Där har vi ett annat spännande problem. Artificiell intelligens motsatser artificiell dumhet. vill säga en enorm kompetens att genomföra saker men göra fel. Det stora problemet är att det är ganska svårt att övertyga maskiner om att göra vad vi vill eller vad de borde göra. För de är lite för bokstavliga eller missförstår talkommandot eller vi skrev en bugg någonstans i programmet. Och resultatet blir att med stor energi så ägnar de sig att göra helt fel saker.

Och det där måste vi bli bättre på att fixa och där är ju A i både problemet och lösningen delvis.

Mattias Jadesköld (32:21.23)
Men jag och Erik pratade för några avsnitt sedan om Max Tegmark somarprat. Har du lyssnat på det eller?

Anders Sandberg (32:29.39)
Nej det har jag inte men jag känner honom. Det är lite värd.

Mattias Jadesköld (32:31.214)
Okej, ja de sa. Jo men han pratar ju mycket om det här med säkerheten vi inte står beredda för när vi väl kommer med generell intelligens ju.

Anders Sandberg (32:48.878)
Ja, det är ju det som är problemet för generell intelligens behöver inte vara jätteavancerad för att fortfarande vara väldigt kraftfull för vi människor kan inte kopiera oss till nya servrar. Det skulle ju en AGI kunna göra och även om inte jättebegåvad så kan du liksom nu har du en miljon instanser som sitter och jobbar på problemet och när någon lär sig någonting så kan den överföra det till alla andra. Framförallt är det ju att det blir en väldigt främmande form av intelligens.

Vi tenderar ju att tro att allting i världen är ungefär som en människa. Vilket gör att vi ibland har väldigt problem att programmera våra datorer och att vi håller på själ och sparkar på våra bilar.

Mattias Jadesköld (33:29.39)
Men alltså, jag var lite orolig. Jag såg världen på ett lite annorlunda sätt efter det jag såg när pratade. Jag tyckte det var lite läskigare på något sätt. Var det så meningen med allting då? Att AI kommer bli vår sista uppfinning sedan mänskligheten körd?

Anders Sandberg (33:49.934)
Ja, men det beror ju på vad det är för värderingar du stoppar in i A &E. Så vad vi hoppas på, med vårt institut och våra vänner på DeepMind och andra ställen, är ju att man kan göra vad vi kallar value aligned intelligence. Att vi får över rätt sorts värderingar och gör system som åtminstone är kapabla att titta på vad vi människor egentligen vill och i någon bemärkelse kan ta hänsyn till det. För det bästa som kan hända är att vi får superintelligens som gillar människor.

Mattias Jadesköld (34:17.678)
Ja, man måste få in samma typ av värderingar som en människa har i en dator.

Anders Sandberg (34:23.342)
I varje fall förståelse av dem. Egentligen vill vi ha bättre värderingar. Vi människor har ju lite skraltiga värderingar. Filosofer har liksom försökt få oss att bli mer moraliska av 2500 år med blandade resultat. Och idealiskt sett skulle vi vilja ha en superintelligen som lyssnar på vad vi vill och säger, mm, ni har fått ganska mycket om bakfoten här, men jag ser ungefär vad ni skulle gilla. Det är ett par saker ni inte kommer gilla, men de är faktiskt bra för er. Trust me om det.

Mattias Jadesköld (34:49.485)
Ja.

Erik Zalitis (34:50.446)
Mm. Ja, jo det blir…

Mattias Jadesköld (34:53.838)
Avslutningsvis, hur känner du för framtiden? Är du orolig eller hoppfullt?

Anders Sandberg (35:03.022)
Jag är jätteoptimistisk, samtidigt som jag tror att kanske är en 10 % chans att det slutar i totalkatastrof. Men det betyder att det 90 % chans att we muddle through och faktiskt få någonting som funkar bra eller till och med otroligt bra.

Mattias Jadesköld (35:18.542)
Men det var lite det som var max teg max poäng att alla andra uppfinningar vi har gjort, atombomben, allting alldeles, så är det aldrig någon som har tänkt på konsekvenserna. Den personen som har utvecklat atombomben har aldrig tänkt på säkerheten kring atombomben. Och i samma sak här då. det inte är samma gäng som att någon brinner för att bygga en smartmaskin. Tänk till Google Deepmind och så vidare. Det kanske inte är samma gäng som tänker så ja men…

Vad händer när det här implementeras i ett stort sammanhang?

Anders Sandberg (35:51.886)
Det här är lite nytt faktiskt. Vi har lärt oss lite av våra misstag. Det är värt att notera att säkerhet för artificiell intelligens var det ingen som talade om för sent på 90-talet. Det närmaste var möjligtvis att göra att industriroboter inte mosar folk, vilket är mer praktisk grej. Men nu har vi en viss community av folk som tänker på AI-säkerhet. Det inte så otroligt många. Du kan nog få in dem i en ganska stor föreläsningssal utan problem. Men de interagerar också med de som håller på att utveckla AI.

En hel del AI-utvecklare tycker att det här är dumt att skräpa och de skrämmer upp folk i onödan om problem som inte finns. Jan LeCun har jag för mig och sa att det här är som att oroa sig för överbefolkning på mars. Det är problem vi tar hand om senare. Med de andra AI-forskare menar att det här är viktigt att vi tar upp nu som Stuart Russell som skrev den största läroboken alla använde. Så jag är ganska optimistisk om det här. Vi har fått en del intressant säkerhetstänkande.

Och en del av det är naturligt rent praktiskt, inte bara för hur framtida superintelligen ska funka utan också att autonoma bilar måste ju kunna uppföra sig i trafiken. Det är ett lagom svårt problem och man kan tjäna ganska mycket pengar på att göra det rätt.

Mattias Jadesköld (37:03.822)
Men vad vi har lärt oss så fort något som är uppkopplat blir ett hot.

Anders Sandberg (37:09.966)
Oja, och man ska ju inte glömma att maskinen lärning innebär att du får maskiner som kan råka lära sig fel. Microsoft hade ju den här lilla chatbotten Taden så de satte upp på Twitter och inom två dagar så var den ju rasist. Det gäller ju att vi skapar ett mjukvara som kanske inte faller för det dummaste det läser online.

Erik Zalitis (37:32.142)
Ja, jag tror att vi har täckt ganska mycket. Det här var…

Mattias Jadesköld (37:36.302)
Det här är bara boll.

Anders Sandberg (37:38.958)
Vi kommer igenom 20 år då vi kan diskutera de senaste problemen med AI säkert. Vi kanske ska ha med ett AI-program i debatten också.

Mattias Jadesköld (37:46.702)
Vi kanske skulle prata om Aja åtminstone en gång i halvvaret eller någonting.

Anders Sandberg (37:51.406)
När det snabbt rör sig just nu så är det nästan inte en dum idé. Och AI’s tillämpning på datasäkerhet och databrott och liknande. är jättespännande. Jag tror vi kommer att upptäcka spännande och skrämmande saker bara de nästa månaderna där.

Mattias Jadesköld (38:06.158)
Ja, okej. En sak som jag bara tänkt på och som funderat lite på, Erik du, jag vet att du tittar lite på tiden här. Vi har väl några minuter till i alla fall. det kul. Jag tänker bara, som jag har en dröm till exempel att skriva en roman till exempel. Jag känner lite hopplöshet om man kan få en maskin. En maskin skulle säkert kunna skriva en hundra gånger bättre roman än jag någonsin kan knoppa ihop under min livstid på kanske en halv minut i framtiden.

Erik Zalitis (38:15.022)
Bara för…

Anders Sandberg (38:34.382)
Det finns ju jätteduktiga Nobelpristagare författare som också förmodligen skulle kunna knappa ihop en jättebra roman på några månader kanske. du jämför dig inte med dem. Varför ska du då jämföra dig med mjukvaran?

Mattias Jadesköld (38:47.31)
Ja, jag har hört ett program om en mjukvarig som har skrivit en symfoni eller AI som har skrivit en reklamfilm för bilar och grejer. Jag vet inte, lite skeptisk ibland blir man.

Anders Sandberg (39:01.902)
Mycket handlar ju om att komma på vad kan du använda AIM till? tror att ett av de viktigaste jobben i framtiden kommer vara att vara en botthörd på samma sätt som shepard. Du är liksom herde för din mjukvara. Du kanske inte är kompositören, men du har en massa kompositionsmjukvara som du får att skriva bra symfonier.

Anders Sandberg (39:24.75)
En symfoni av symfonier.

Mattias Jadesköld (39:26.766)
Ja precis. då, då känns det att har tömt ut lite mina sista tankar. Tack så jättemycket Anders att du var med oss. Ja, så hörs vi från över.

Anders Sandberg (39:36.942)
Tack för att du ville ha med mig!

Anders Sandberg (39:42.638)
Har det så gott.

(Denna transkription är automatiskt genererad och kan innehålla felhörningar)

Länkar – uppfinning

–

Felaktigheter

Inget att rapportera denna gång. Kommentera gärna om ni inte håller med om hittar fel i något vi sagt.