SPECIAL – AI med Microsoft och IBM

I detta specialavsnitt berättar Daniel Akenine (Nationell teknikchef, Microsoft) och Mikael Haglund (CTO, IBM Sweden) om AI och machine learning. 

AI är inte enkelt att beskriva börjar Mikael. Själva definitionen är svår och vad händer när AI blir ”vilsen”?

Daniel berättar om hur AI tillämpas idag. Vad är bäst bäst? Människan, maskinen eller människan och maskinen tillsammans?

Intervjun bygger på en SIG Security FOKUS-kväll där Daniel och Mikael pratade om just AI.

Inspelat: (publicerat 2020-02-19)
Deltagare: Mattias Jadesköld, Daniel Akenine och Mikael Haglund.
Texten skrevs och sammanställdes av Erik Zalitis.

Medan du lyssnar – Microsoft och IBM

…

Här är transkriptionen av avsnittet

(Denna transkription är automatiskt genererad och kan innehålla felhörningar)

Länkar – Microsoft och IBM

Mattias Jadesköld (00:08.846)
Sådär då, då är vi igång med ett specialavsnitt av IT-säkerhetsbådden som vi har tillsammans med SIG Security. Och den här gången har vi Daniel… Nu ska vi se… Aki… Nina.

Daniel Akenine (00:21.55)
Jag har svårt att uttala det efterna mig själv ibland också men det var bra.

Mattias Jadesköld (00:25.23)
Ja, bra! Ja, Akenine. Från Microsoft och sen Mikael Haglund från IBM. Ja, gud. Ni pratade ju på SIG Security i slutet av januari om AI, så det tänkte vi väl grotta ner oss i idag. Men ni kan börja med att introducera oss, eller introducera er er lite själva, så vi kan börja med Daniel då.

Daniel Akenine (00:45.774)
Precis. Jag jobbar som nationell teknik och säkerhetschef för Microsoft. Så jag jobbar mycket med olika typer av strategier, tekniska policyfrågor men också djupt säkerhetsintresse kring AI, kring cloud och generellt kring IT.

Mattias Jadesköld (01:07.054)
Okej, vi får passa på att tacka till vi blev inbjudna till kontoret här också som är nya kontor mitt i Stockholm. Ja, Mikael då? Upprest från Göteborg,

Mikael Haglund (01:18.126)
Precis. Jag är CTO på IBM i Sverige. En specialitet inom att jobba med vår researchavdelning och titta bland annat på AI men också just nu mycket med kvant-datorer.

Mattias Jadesköld (01:30.478)
IBMs Watson?

Mikael Haglund (01:31.982)
Vad? Kvant, Kvant, Kvantdatorer.

Mattias Jadesköld (01:33.742)
Det inte i Watson, utan här. Vad spännande. Nu vill jag nog ställa ett följdfråga på det. Får vi ta en annan gång? Okej, men om börjar lite så här. Om du börjar prata lite om osäkerheten. Jag kan bara nämna att Erik är med, men du har ju ingen mix, så du får vara studiemann igen idag. Vi börjar lite med osäkerheten kring agen. Om du kan förklara lite det då, Mikkel.

Mikael Haglund (01:58.798)
Ja, vi hade ju i vår dragning så pratade vi om, försökte göra en definition av vad AI är för någonting. En av utmaningarna med AI är det är väldigt svårt att definiera. Det stora mängder definitioner. Det finns ju en liknande med några blinda munkar som skulle…

definiera vad en elefant var för någonting. De fick tag i varsin del av elefanten. En fick tag i ett ben och så. En elefant är som ett trädstamm. En fick tag i svansen och så. En elefant är som ett rep och så vidare. Man ser motsvarande typer av definitioner av vad är AI för någonting. Från väldigt många olika vinklar. Men det är svårt att se elefanten bakom så att säga. Det kan vara en elefant eller det kan vara en okapi eller sjöelefant eller något sådant. Det är svårt att säga vad det är för någonting.

En av de simplare definitionerna är att det är någon form av system byggd av människor, konstgjortsystem, som beter sig intelligent. Men då faller man lite gärna in i samma fälla som biologer försöker definiera vad är ett intelligent beteende. att man tittar på slämsvampar, ju ondekligen är små korkade varor, så beter de sig ändå väldigt intelligent. Hur ska vi definiera intelligens och vad är det för någonting? Och en av de sakerna vi måste värna oss vid

när vi jobbar med AI är att i väldigt många fall blir svaren avvägningar. Jag tror att det här är en katt jag ser med 75 procent sannolikhet till exempel. att få en osäkerhet i bedömningar av vad systemen har upptäckt är någonting vi får lära oss leva med. Och det är faktiskt också en aspekt av flera andra tekniker som är på gång, som till exempel kvantnator.

Mattias Jadesköld (03:42.318)
Just det. Men det där var… Du sa det när vi tryckte på inspelningen här att det här med katt just att små barn kan lära sig ganska snabbt än en katt. var lite spännande. Hur tänkte du då?

Mikael Haglund (03:54.19)
Som människor är vi ganska duktiga på att se några få exempel och förstå vad är en hund och vad är en katt och vad skillnaden på dem. Vi behöver inte se tusentals bilder på katter eller hundar för att kunna se skillnaden på dem. Vi som människor har väldigt effektiva inlärningsmetoder där vi får jobba mycket mer med väldigt stora exempelmängder för AI-systemen.

När vi faktiskt bygger av i system så gör vi ofta kombinationer numera av flera olika typer av inlärningar och delar av systemet som hjälper till med lite olika saker. Så kombinationen ser bättre ut, är intelligentare än var en av delarna.

Mattias Jadesköld (04:35.854)
Ha

Ja, intressant. Sen gick det in lite på vilsen AI också.

Mikael Haglund (04:43.406)
Ja, Dels så ser ju som sagt då systemen inte världen så som vi ser den. Och det upptäcker man när man ger vissa typer av exempel till den så ser den konstiga saker. Och jag har några sådana exempel med bilder som jag uppenbarligen föreställer till exempel en äckor eller en trollslända. Men där systemet säger att den har sett ett sjölejon och ett brunnslock. Så att vi har ett antal sådana…

tränningsdatabaser i princip som man ska kunna använda i framtiden för att se till att de färdigtrenade modeller som man har också klarar av de här svåra sakerna. Så finns det en annan aspekt av det också och det är att man kan bygga bilder som vi som människor ser en sak i. Till exempel hade jag ett exempel med ett strutshuvud. Men i bilden är det dåligt ett svagt brusmönster som kittlar

bildigenkänningen så att den ser en skoaffär istället för den här strutsen. Det är typiska exempel på adversarial examples. Någonting som man använder för att försöka lura systemet. Och vi måste bygga våra framtida AI-system robusta. Inte bara så de ser rätt saker. När de ser en katt så säger de att det en katt. Utan också när någon försöker att aktivt lura dem att de klarar av det och inte gör felaktiga bedömningar.

Mattias Jadesköld (06:10.478)
Är det bara för vi är så pass tidigt i AI-forskningen som gör att den inte kan göra den bedömningen eller vad beror det på?

Mikael Haglund (06:22.382)
Jag skulle snarare säga att de metoder och modeller och verktyg vi använder fungerar till stor del lite annorlunda än vad vi gör. De är inte lika stora och komplexa som våra hjärnor, inte lika paralyserade som våra hjärnor och inte inte upplevt lika lång typ av träning som våra hjärnor har.

Mattias Jadesköld (06:42.062)
Okej.

Då ska vi se… Ja, det har gått igenom lite. Jag tycker att du har landat i definitionerna att i.

Mikael Haglund (06:55.47)
Nej, för det finns ingen enkel definition av AI, skulle jag vilja säga. En del pratar om att det måste vara deep learning och stora, neurala nätverk handlar sig om att du kan få AI ur ett regelsystem och så vidare. Så system som är goda av människor och beter sig intelligent kanske är vår gemensamma definition.

Mattias Jadesköld (07:16.75)
Just det. Och A i enligt Hollywood har du tagit som exempel.

Mikael Haglund (07:21.262)
Ja, precis. Hollywood har ju gett oss massor med exempel, även naturligtvis böcker och tidigare berättelser faktiskt. En riktigt gamla berättelse också om när man bygger någonting som är intelligent av det slaget så kommer det snart att slå mot sin härskare eller sin skapare och ställa till stora problem. Som någon sa AI kommer att ta ditt jobb och sedan ta ditt liv.

Mattias Jadesköld (07:48.014)
Mm.

Mikael Haglund (07:49.038)
Som tur är finns också del intressanta motexempel i Hollywood som man kanske inte tänker på. Till exempel R2D2 och andra robotar som är som en sidekick. Någon som kan hjälpa en att göra någonting som man inte kan själv. Jobba i miljöer som man inte kan själv. Prata med datorer på ett sätt som man inte kan själv eller någonting sådant. Eller i fallet då när vi använder oss som människor.

Att den kan hantera stora volymer av data, hitta subtila mönster i de förståspråk som man själv inte kan till exempel. Till och med leta efter förutfattade meningar i de beslut jag fattar. Så att om jag fattar beslut gång på gång på gång och då ser det ut att bli bra beslut och de ger bra resultat men så har förutsättningarna ändrat sig lite. Så bör jag tänka till.

inför nästa beslut. Då kan systemet hjälpa till att påpeka det. är här. Här ska du se upp lite grann. För nu har förutsättningarna ändrat sig på ett kanske subtilt sätt för mig som människa. Men systemet kan ändå hjälpa till att leta rätt på.

Mattias Jadesköld (08:51.662)
Just det. Och då är det som ett slags motsvarighet

Mikael Haglund (08:56.27)
Det är sidekicken, det är medhjälpen.

Mattias Jadesköld (08:58.734)
Ja visst ja. Hellredén Terminator. Ja en tjuvtitt in i forskningslabbet på IVM hade du också som exempel då. Är det någonting som du vill? Ja.

Mikael Haglund (09:06.862)
En av våra mest avancerade AI-system är det som heter IBM Debater. Tanken är att det ska kunna tävla i debatt. Inte politisk debatt utan den typen av debatt där man tävlar. Man får ett ämne och sen får man tilldelat om man ska vara för ämnet eller emot ämnet. Så att du kan vara tvungen att argumentera mot dina djupaste övertygelser.

För du ska vinna tävlingen så ska hitta de bästa argumenten som är på din sida. Säg att det är någonting kontroversiellt som aborter. Och så är du för aborter men du ska nu argumentera mot aborter. Då gäller det att hitta alla argument för det. För din motståndare har andra sidan, de ska då vara för aborter. Och det de du ska försöka bemöta.

Du har fyra minuter på dig att komma med dina argument, så kommer motståndaren med sina fyra minuter. Sen ska du försöka bemöta motståndarens argument och sedan är det någon form av slutblödering ofta. Så den typen av tävling där man ska förstå vad den andra säger i flera minuter är vad IBM Debater, så att säga, är framtagen för att göra. Och meningen med de här grejerna är ju naturligtvis att i förlängningen så ska det vara vår sidekick.

Någon som inför beslut, inför planering och så vidare kan hjälpa oss att lyfta fram argument för och emot någonting som vi ska fatta ett beslut runt. Det fortfarande vi människor som fattar beslutet. Systemet hjälper till att underbygga vad behöver du veta? Vad har du för argument på bägge sidor så att du inte bara fattar det efter din egen författarmering.

Mattias Jadesköld (10:45.102)
Okej, så det ingen maskin man kan försöka argumentera emot eller någonting än…

Mikael Haglund (10:49.518)
Nej, det här är ett forskningsprojekt den debaten men vi har även använt en lite annan sammanhang. Tanken är att det vi tar fram på något sätt ska bli en produkt på något sätt. Vi vill finnas i någon form av produkt inom några år. det finns ingen marknad för ett debatterande program.

Mattias Jadesköld (11:12.526)
Ja, det där är ju ett sätt som är vad man kan göra med A.I.U.D. men det ska ju du djupdika i, Daniel, lite mer.

Daniel Akenine (11:18.734)
Man kan ju ställa sig frågan varför man sitter här just nu och känner på den och pratar om AI. Jag tror andelen till det är egentligen de senaste tre-fyra årens extremt snabba utveckling kring maskinen. Vad man gör inom forskningsvärlden för att förstå hur långt man har kommit är att jämföra.

de här maskinedärningargoritmerna med människor. Så hur pass bra är du som person i förhållande till en maskinedärningargoritm på att en uppgift som människor ofta gör i arbetsliv och generellt sett. Till exempel att tolka bilder, läsa en text och göra en sammanfattning eller svara på frågor baserat på en text. Och tittar man vad som har hänt de senaste

3-åren så ser man att man mäter hela tiden när vi uppnår mänsklig paritet eller övermänsklig paritet. 2016 så uppnade man mänsklig paritet i något som kallas för Resnets Vision Test. Vilket gör att du kan kategorisera bilder, förstå bilder bättre eller lika bra som människor. Sedan dess, sen 2016 så har ni säkert självmärkt så.

otroligt många applikationer som har dykt upp som är dyktiga på att känna igen saker och hur du kan använda det. Både i konsumentprodukter men också i en mängd industriella applikationer. 2018, för ett och ett halvt år sen ungefär så uppnade man mänsklig paritet i det som man kallar för Squad Reading Comprehension Test. Det är ett test för att förstå text i Wikipedia.

text och sen läser du en algoritm där du kan ge svar på frågor som du ställde till den där. Vilket är också någonting som vi nu börjar säga blir mer kommersialiserat. Det vill säga att du har väldigt mycket text och du behöver någon sammanfattning och kunna ställa frågor mycket snabbare än att bara själv läsa igenom kanske två oran sig av text.

Daniel Akenine (13:37.614)
2018 hade vi en gemensklig paritet i översättningar mellan två olika språk. Jag tror att var kinesiska och engelska i det fallet. Vilket gör att du kan använda algoritmer till det. Ja, precis. Vilket är ju någonting som har varit otroligt svårt att göra faktiskt under decennier. Man har aldrig… Man har trott att det där skulle vara mycket, mycket enklare än vad det faktiskt är faktum.

Mattias Jadesköld (13:49.326)
Maskinen lika bra på att översätta.

Mattias Jadesköld (14:03.662)
Ja, för det vet man ibland när man leker lite med översättningsmotorn på nätet, att det kan bli ganska roligt.

Daniel Akenine (14:10.286)
Ja, och det är för att man tror att det är lätt som människa. Men om du säger att en gul penna, vad är det? Är det en penna som är gul på utsidan eller är det en penna som skriver gult? Det där förstår ju du när du tittar på den eller i kontexten. Men en översättningsmotor förstår inte den här typen av mer avancerade saker. Då blir det ganska mycket fel. Och blir det ganska mycket fel så blir det också generellt sett en dålig översättning.

Det där har ju blivit mycket bättre och det har också blivit bättre de sista sex månaderna tillbaka. 2017 ett annat exempel så uppnådde man mänsklig paritet och bra förstår vad vi säger i den här podden till exempel.

förstå det bättre än vad en människa kan göra. tänker att människor förstår väldigt väl vad vi säger men vi gör inte det. Vi missar ord och vi försöker lägga in ord bara om vi vet att vi kommer inte ihåg vad du sa eller en mening för du missade. Så vi är sämre än vad vi själv tror på att lyssna på när andra människor har faktiskt tagit till.

Då vill ge dem som exempel, för det här är typiska kognitiva förmågor som används i jobb hela tiden. är jurist, då ska du läsa igenom text, sammanfatta, du kanske ska titta på bilder, samla bilder. Alla de här grejerna är ju kognitiva funktioner där vi inte har kunnat digitalisera tidigare. Så därför har ju människor behövts i de månaderna.

Där är vi nu på väg i en liten nytt landskap där människor kanske inte alltid behövs för att utföra dem. Det tror jag är den stora potentialen för se det inte gräns. Det är att göra nya saker som de inte har kunnat digitalisera tidigare med traditionell teknik.

Mattias Jadesköld (16:07.182)
Det betyder då att maskinen kan ersätta människan eller sammanfoga människan och er tillsammans.

Daniel Akenine (16:14.67)
Ja, det här är ju ändå en jätteintressant fråga. Kommer då Ari ta över alla de här liksom billigenkännings- bitarna till exempel, då finns det faktiskt ganska goda nyheter för oss människor i alla fall. Ja, det bra. Och det finns många exempel på det. kan ge ett exempel, det till exempel schackdatorer.

där man under lång period försökte bygga en schaktdator som var bättre än människor helt enkelt och det var ett race mellan, ja det var egentligen på 80-talet där man byggde starkare och starkare datorer med mer avancerade algoritmer för att se längre och längre fram i schaktdatorer. Och då lyckades man ju till slut i BMS Watson i det fallet som lyckades slå kontakten på vem det var.

Mikael Haglund (16:59.118)
Deep blue heter det här djuret och det var…

Daniel Akenine (17:01.87)
Casparov som han slog då. Det blev en stor succé. Men man kan få se vad som hände efter det. Forskarna blev ganska ointressera och fortsatte utveckla algoritmer för schack i alla fall ett tag. För att man hade uppnått ett mål och då att slå en människa. Men det visade sig egentligen att om du kombinerade en schackdatum med en människa så fanns det inte en chans att kunna slå.

Varken en människa eller världens bästa schackdator kunde slå det teamet. kallar det ibland för kämtart team. Så när du sammanfogar en människa och en schackdator så ser du på spelet andra under. får båda den här förmågan att se jättedångt fram. har en viss intuition som kan vara viktig också i schack och förståelse. Det visar det på ett bra exempel. Det finns fler. Jag kan ge ett annat. Det är ganska känt.

Till exempel när man försöker att detektera vävnadsförändringar. Ett stort område just nu är att använda maskinledning för att upptäcka tumörer eller andra typer av anomalier i bilder. Ett exempel på hur människor fortfarande kan bidra till det var att man tittade på ett case där man försökte upptäcka vävnadsförändringar. I det här fallet hade 7,5 procents

och läkaren som gjorde samma sak hade då 3,5 procent. Då tänker man att det är bättre att börja köra människa. Men tog man samman de här två, och båda fick ge sin syn på hur ser ut, då hade man en halv procents felmarginal. Så man fick en enorm kvalitetsförbättring i att kombinera de två olika synsätten. Det tror jag AI kommer att göra framöver i jättehög utsträckning.

förbättra kvaliteten på beslut.

Mattias Jadesköld (18:59.598)
Vet du om man gör det i praktiken redan nu på vissa sjukhus?

Daniel Akenine (19:04.174)
Ja, man testar väldigt mycket olika typer av maskinenilärningsargorithmen just på bilder och tumördetektering, etc. Så det finns flera sådana projekt i Sverige bland annat.

Mattias Jadesköld (19:17.102)
Ja okej. Men det kvarstår flera utbadningar också, har du sagt.

Daniel Akenine (19:21.646)
Det som är utmaningen för maskininlärning är att det är en viss typ av sätt som vi ser på data. Vi hörde tidigare några exempel på att det är ganska lätt att lura de här maskininlärningsalgorithmerna. De lär sig väldigt mycket data. När data förändras och bilden vinklas lite annorlunda blir det plötsligt svårt.

Out of the ordinary cases, som man brukar benämna dem. Det är saker ting som är riktigt som det brukar vara med konstiga, det kanske är målad bild på en cykel på en vägg. Då tror man skinnedäremisalgoritmer att det är en cykel. Därför att allting bara triggar ju grönt. För att det är en cykel. Men en människa ser direkt. Det här är fel. En cykel kan inte vara inne i en vägg. Så att det här common sense och vår förståelse av omvärlden

saknar maskinen lärning algoritmer och det gör att de gör fel ibland i situationer som man tycker att ett barn skulle göra rätt i. Det där är lite utmaningen med maskinen lärning att uppnå tillräcklig robusthet och säkerhet i de algoritmerna.

Mattias Jadesköld (20:36.622)
Ja, just det. Ayo, Bayas. Färgning har du nämnt.

Daniel Akenine (20:42.67)
Det där är ytterligare en stor räddning. Det finns många diskussioner om vad som hända med de här algoritmerna och AI och BIOS är någonting man har pratat om de senaste två tre åren i allt hög utsträckning. innebär att de här maskinenärningsalgorithmen blir aldrig bättre än det data de tränas på. Så vill du till exempel göra en algoritm för att öppna

öppna en dörr eller detektera att dina ögon är öppna eller stängda på ett passfoto. Om du inte tar med alla typer av människor, olika typer av hudfärg, olika typer av hur du har dina ögon eller näsa, människor skiljer sig i olika etnicitet, så får du kanske algoritmer som bara fungerar bra för vissa typer av etnicitet och inte för andra.

Då har du plötsligt skapat en diskriminering i användningen.

Mattias Jadesköld (21:40.782)
En rasistisk skoj.

Mikael Haglund (21:42.382)
En av mina kollegor kommer från Irland. Men en av hans föräldrar är från Indien eller Pakistan eller någonstans i Asien. När han skulle skicka in sin passbild för att få ett pass, då han hade varit hos en fotograf och tagit en bild och skickat in den, så klagade systemet och sa, har du nyligen haft gulsot? För det var upptränat på hur irländare normalt sett ser det ut, bleka och gröna hår.

Han var tvungen att gå in i Photoshop och bleka ner det för att det skulle godkännas. Så vi har redan idag system som har de här problemen.

Mattias Jadesköld (22:15.054)
Adewy.

Mattias Jadesköld (22:18.638)
Ja, oj s-

Ja det var väl intressant. Lite typiska användningsområden då för AI. Vi har gått igenom lite mer än du vill.

Daniel Akenine (22:31.118)
Jag brukar ibland försöka ge er ett exempel. Det klassiska är ju, vad kan man använda Jag skulle säga att A idag handlar väldigt mycket om just maskinlärning. behöver inte vara så i morgon eller om fem år. Men idag handlar det väldigt mycket om maskinlärning. Så frågställning blir ofta, vad kan du använda maskinlärning till?

Det typiska är att man försöker prognosera framtiden på ett sätt utan att veta hur datat inbördes är korrelerat. Med hjälp av maskinledarning kan du ändå få ut en prognos till exempel för framtiden. Jag brukar ge er ett exempel som går ut så här. Om du en prenumerant, då sätter du in en tidning, då sätter du DN till exempel. Sen vill förstå vem av mina prenumeranter kommer att upp sin prenumeration.

Nästa år. Ja, då låter sig att du har 10 000 kunder eller prenumeranter med väldigt mycket information om dem, så mycket du har i alla fall. 5 000 av dem vet att du har sagt upp sin prenumeration. Så då tar du 9 000 av dem här. Du kör dem med olika modeller för att försöka träna dem och förstå vad är egentligen korrelationen, vem i den här och varför har de då.

Säkt upp sin prenumeration, det kopplingar till ålder, finns det kopplingar till någonting annat, hur länge de har haft den här och alla möjliga olika parametrar. Och sen så tittar man på den här tränad modellen, jämför den med data som inte har varit med i modellen och tränats och försöker förstå hur väl den där kan då prognostisera utfallet. Och då får man en ganska bra kål, man kanske får en träffsäkerhet på 90 % om man har tur så.

Då vet man till 90 procent som man kan använda på andra prenumeranter för att förstå när de kommer att upp sin prenumeration. Då kan man liksom titta om lite extra, kanske sänka priset, komma med erbjudande. Så att förstå korrelationer mellan faktorer i din data är ju otroligt svårt att göra utan maskininlärning faktiskt. måste du bygga upp matematiska modeller som kanske är fel.

Mattias Jadesköld (24:45.838)
Det är ett exempel där maskinen lärningen blir som en hjälp robot.

Mikael Haglund (24:52.27)
Överhuvudtaget. Fler av de maskinilärningssystem som vi idag använder, som blir använda någonstans, de går i bakgrunden. Det är saker som vi inte tänker på. Om man skickar in ett mail till en helpdesk någonstans, jag har det här det här problemet. Jag måste någonstans ställa mitt basvärde eller något annat sånt.

Många av dem scannas av av maskinen lära processer som gör de här snabba kontrollerna och säger att det här är bara en password reset. kan jag svara på direkt. Jag kan skicka tillbaka till dig en länk. Ingen människa behöver se det med.

Är det mer sofistikerat problem eller så kan du sortera fram det. Och till och skicka det till rätt typ av människor som ska ta hand om problemet. Det är några av tidiga exempelna. Vi ser i försäkringsbranschen, bankbranschen. Ska du få ett billigt lån eller ett snabbt lån. Den typen av problem ska kunna fattas snabbt med maskinen lära modeller. Utom när du har någon komplex situation, när du har en massa lån, då får vi sköpa det vidare till någon som ska.

utvärdera just det här projektet. Lånet av dig då.

Mattias Jadesköld (26:04.462)
det stort.

Mattias Jadesköld (26:08.75)
Men det finns också stora begränsningar i. Det har lite exempel på kortan.

Daniel Akenine (26:12.75)
Man får inte ha allt för stor övertro heller vad AI kan göra. tror att media spelar en ganska stor roll. Att man har en superintelligen i sin ficka som kan lösa alla dina problem. Men då ska man komma ihåg att det återspeglar data, datakällor och text. Ett exempel är om jag skulle ställa en fråga.

och du känner mig. Så bara en lös fråga man kan ställa på en fika. Jag funderar på att köra ner till mitt fritidshus i helgen. Tycker du det är en bra idé? Det är en ganska subtil, ganska avancerad fråga faktiskt. Det finns ingen hint kring varför eller varför inte det skulle vara en bra idé. Det kräver att du känner till ganska mycket om mig.

Du kanske vet att du har jobbat mycket, att vet att det är långt ner till fritidshuset. Du kanske tycker att det är ingen bra idé. Du kanske tycker att jag en jättedålig bilförare. Eller så tycker du att en bra idé för du vet att jag har jobbat mycket och behöver ställa… Det finns mängder med saker där som kan ge mig ett bra råd. Men en algoritm… är otroligt lång kvar innan algoritmen skulle kunna ge dig den typen av rådgivning som är ganska viktig för dig som person. En algoritm idag skulle säga…

Ställer du den frågan så får du hur många kilometer det är ner till ditt fritidshus.

Mattias Jadesköld (27:38.35)
Ja, är sant. Jag började genast tänka in såhär, man bör fundera på lite väder, hur långt bort har du till det? Fits det kanske bara andra planer i helgen med andra vänner och allt? Ja, det finns ju hur mycket som helst där. Jag funderar på att skriva en dikt hade du som exempel också.

Daniel Akenine (27:56.782)
Det är ett annat bra exempel. Om jag funderar på att skriva en dikt, vad skulle jag ställa för frågor till Tomas Tranström om jag mötte honom? Nu är han ju död. Men i den kontexten är det samma sak. Det är otroligt avancerad fråga att svara på. I den typen av frågor ligger inte AI-algoritmer över huvud taget i den förmågan att kunna ge rådgivning.

Mattias Jadesköld (28:28.046)
Ja.

Mikael Haglund (28:28.654)
Man kan ju alltid ställa sig frågan, skulle vi vilja att någon hade så mycket information om oss så att den skulle kunna ge rådet till exempel när det gäller att köra bilen ner till sommarhuset. Tranströmmen kanske kunde ha analyserat all hans lyrik och funderat på vad du har skrivit för lyrik tidigare och kanske ge någon form av råd eller så utan att klampa för långt in på integriteten. Men den andra frågan där man ska veta allting om vad du har jobbat med och så vidare.

Det kanske inte ska vara målet heller med AI att du ska sitta i den här sitsen, att du kan få det rådet.

Mattias Jadesköld (29:04.75)
Men många AI-forskare varnar för framtiden att det kan bli vår sista uppfinning och att det kan ta över hela.

Mikael Haglund (29:13.998)
Jag brukar använda ett argument som någon av de stora science fiction-författarna senare till, jag har inte hittat vem det var igen, tyvärr sa. Det var att det är inga problem att skriva en dystopisk roman. Beskriva en framtid det alltid åt helvete och människorna kämpar mot maskinerna och AI och så vidare. Problemet är att skriva övergången från där vi befinner oss idag.

Hur vi lät det ske, hur vi inte såg det hända och så vidare. Vi är så på tårna som mänsklighet för att se faror. Det är vi väldigt duktiga på som djur. Så att vi verkligen skulle sätta oss i den sitsen. Att det skulle vara ett stort hot. Det tror jag inte på personligen.

Däremot är risken stor att vi säljer vår själ, vår personliga integritet. Att vi låter systemet veta för mycket om oss. Där har varit mycket fram och tillbaka mellan de olika miljöerna de senaste åren. Mycket diskussioner, vilket vi visar på att vi är rätt känsliga. Att vi har antennen uppe. Att vi inte nödvändigtvis tycker om att Facebook vet allt om oss.

Mattias Jadesköld (30:22.158)
Ja, det var en intressant vinkel. Ja, det var det vi hade om AI som speglar redan i vår presentation från januari. Ja, då under var vi då. Tack så jättemycket att ni var med. Ja, skönt.

Daniel Akenine (30:38.83)
Toppen, tack för att kom.

Felaktigheter

Inget att rapportera denna gång. Kommentera gärna om ni inte håller med om hittar fel i något vi sagt.