4 juli, 2020

Show Notes för #83 – Turerna kring kritiserad ansiktsigenkänning

Vänta nu lite här… Så det finns alltså en metod för att neka tillgång till sitt ansikte när en kamera filmar en? Man behöver bara en lila ögonbindel och texten ”Access Denied” svävande över huvudet. Ok, låter rimligt.

Avsnittet heter 83 – Turerna kring kritiserad ansiktsigenkänning
Det spelades in 2020-07-02 och lades ut 2020-07-05.
Deltagare: Mattias Jadesköld och Erik Zalitis.
Show notes skrivna av Erik Zalitis.

Sommaren går nu in i sin lugnaste fas och det är en intressant observation att lyssnandet på podden mattas av något. Borde det inte vara tvärtom? Lyssnar inte folk mer på poddar i hängmattan? Kan vara så, men jag tror IT-säkerhetspodden har en trogen lyssnarskara som är på väg till eller från jobbet. En del poddar är avkoppling, men vår är nog information som folk tycker är vettig i sin yrkesutövning. Hur det än är med det, kan man snabbt konstatera att IT-säkerhetsproblemen inte tar någon semester.

Denna gång pratar vi ansiktsigenkänning och det finns en hel del beröringspunkter med tidigare avsnitt, som pratar djupare om vissa aspekter som vi tar upp i dagens avsnitt:

  • Hemlig dataavläsning – där vi pratar igenom polisens ny förmågor för övervakning med hjälp av trojaner.
  • AIs utveckling – där IBM och Microsoft pratar bland annat pratar om hur ansiktsigenkänning misslyckas med att känna igen folk och hur AI och maskininlärning inte alltid får till saker rätt.

Men tillbaka till dagens ämne: det finns det tekniska och det finns det sociala. Tekniskt sett är allting uppsatt för en perfekt storm, där datat till stora delar redan finns insamlat så att allt fler aktörer har allt fler korrekta identiteter med ansiktsdata i sina databaser. Det är inte omöjligt att tullen på en flygplats kan känna igen dig, när du äntrar hangaren, även om du är i ett helt annat land. Sen har tekniken brister, men dessa kommer lösas och för varje år som går blir samma data allt mer och mer användbart.

Dessutom kan man lätt se att antalet aktörer som kan få tillgång till ditt ansikte så att säga ökar. Polisen, företagen och troligen även allt fler privatpersoner får tillgång till möjligheter att spåra dig.

Det politiska programmet ”Last week tonight” skräder inte orden. Programledaren John Oliver berättar här om ansiktsigenkänning på ett roligt och ganska läskigt sätt.

Länkar

Som Mattias säger, kan all typ av teknologi som användas gör goda ting. DNA-teknik fångade till sist en serievåldtäktsman/mördare:
https://www.abc.net.au/news/2018-04-26/dna-links-former-us-police-officer-to-serial-killings/9698172

IBM slutar med ansiktsigenkänning efter mordet på Floyd:
https://www.nyteknik.se/digitalisering/efter-protesterna-i-usa-ibm-slutar-med-ansiktsigenkanning-6996868

Amazon likaså:
https://www.nyteknik.se/digitalisering/amazons-kovandning-pausar-forsaljning-av-teknik-for-ansiktsigenkanning-6996990

Svenska polisen använder modern teknik, men helgar ändamålen medlen?:
https://www.nyteknik.se/sakerhet/polisen-identifierade-utsatt-barn-med-kritiserad-app-6990417

Datainspektionens definition av ansiktsigenkänning:
https://www.datainspektionen.se/vagledningar/kamerabevakning/ansiktsigenkanning-och-dataskydd/


2 comments

  1. Karl skriver:

    Lite foliehatt och onyanserat, att seriemördare, pedofiler och våldtäktsmän kan hittas, fångas och stoppas innan dom begår fler brott, och därmed skapa ett tryggare samhälle för utsatta människor som barn och kvinnor, måste ändå utmana den konservativa bilden av ”min stackars osynliga-hot-integritetetsneurotism”-argumentet. Edge case utan källa av någon obskyr polis i någon obskyr stat är ganska ointressant i relation till den mer akademiska mängd fall som faktiskt kan avgöras pga DNA, fingeravtryck, övervakningskameror etc. Teknik kommer alltid användas till både gott och ont men att diskutera från edge-case är sällan givande, ta gärna in experter och mer nyanserade åsikter i en annars bra podd.

    1. Erik Zalitis skriver:

      Hej Karl
      Tack för dina synpunkter. Det hjälper oss verkligen att få återkoppling på våra avsnitt. Här är ett försök att svara på dina tankar från mig.

      > Lite foliehatt och onyanserat

      Håller med till viss del. Personligen har jag en negativ syn på detta, men Mattias är ju som hörs ganska positiv, så han får en chans att tala om hur polisarbetet med dessa nya möjligheter kan vara bra. Sen kan jag erkänna att det blir något av en slagsida åt att se risker snarare än möjligheter. Tror vi lyckades få till det bättre i vår diskussion om den nya lagen om ”automatisk dataavläsnming” där jag och Mattias från varsin sida debatterade för och emot.

      > måste ändå utmana den konservativa bilden av ”min stackars osynliga-hot-integritetetsneurotism”-argumentet

      Tja, visst får du gärna göra det. Men det kanske är lätt att se det så i Sverige, där ändamålsglidningen ännu är inom ganska bra kontroll. Men även här har polisen överskridit sina befogenheter (de vi ju pratar om). ”Edge case” vet jag inte om jag håller med om. Det kan man ju alltid säga när det händer några få gånger i början av en ny era. Problemet är att det är väldigt lite som går att göra om det blir systemiskt. Personligen tror jag faktiskt att länder med mindre respekt för mänskliga rättigheter visar exakt vad detta kan leda till i förlängningen.

      > Edge case utan källa av någon obskyr polis i någon obskyr stat är ganska ointressant i relation till den mer akademiska mängd fall som faktiskt kan avgöras pga DNA, fingeravtryck, övervakningskameror etc.

      Här är ett problem. Fallen ÄR relevanta, men källhänvisningar måste finnas. Det tar jag på mig att se till att det blir bättre i framtida avsnitt. Sen är inte det så obskyra stater vi talar om, utan detta händer på många ställen. När jag letade efter våldtäktmordet jag refererade till i slutet av avsnittet, hittade jag det inte, men Google gav mig andra fall där DNA begärts in av myndigheter. Ur floran:

      USA:
      https://www.nytimes.com/2005/01/10/us/to-try-to-net-killer-police-ask-a-small-towns-men-for-dna.html
      Storbritannien:
      https://www.independent.co.uk/news/mass-dna-test-to-find-killer-of-naomi-1579122.html
      Australien:
      https://www.theage.com.au/national/victoria/how-mass-dna-screening-caught-a-wee-waa-rapist-and-may-solve-tracy-connelly-murder-20160925-grnx1v.html

      Här kan man se att många faktiskt frivilligt gav DNA, vilket jag verkligen inte har något emot. På så sätt kan man fånga en mördare i sin egen släkt som man inte känner till. MEN… Det är just frivilligheten och därmed att den som givit sitt DNA kunnat utan press avgöra om de är bekväma med att ge polisen denna information. Om man inte är misstänkt, har man ingen plikt att göra det och får inte sättas i en situation där att neka detta gör en suspekt i sig. Jag vänder mig främst mot att alla ska ge ansiktsigenkänningsdata, DNA och alla biometri i förebyggande syfte. Detta är, enligt mig, en farlig väg att gå.

      > Teknik kommer alltid användas till både gott och ont men att diskutera från edge-case är sällan givande, ta gärna in experter och mer nyanserade åsikter i en annars bra podd.

      Precis som du säger, är tekniken i sig neutral, vilket kommit upp flera gånger i podden.

      Vad det gäller experter, är det givetvis en bra idé. Runt hälften av våra avsnitt är just intervjuer med specialister, experter och föredragshållare. Vi har bland annat pratat bland annat med Christoffer Strömblad som berättar om hur polisen arbetar med IT-säkerhet bland annat.

      Imorgon kommer jag intervjua en historiker från Försvarshögskolan om det kalla kriget. Det avsnittet kommer ut i slutet av augusti och kommer troligen bli mycket intressant.

      Jag ska ta ett snack med Mattias om det du skrivit och fundera på vad vi kan göra för att förbättra podden.

      Mvh
      Erik Zalitis

Lämna ett svar

E-postadressen publiceras inte. Obligatoriska fält är märkta *

Denna webbplats använder Akismet för att minska skräppost. Lär dig hur din kommentardata bearbetas.

Scroll to top