Människors metadata och maskinernas mani

@axbom Människors metadata Per Axbom @axbom maskinernas mani och

@axbom

@axbom 2 datapunkter

@axbom

@axbom Metadata

@axbom Deskriptiv Fysiska attribut Innehåll Målgrupp Rättigheter Tillgänglighet Metadata

@axbom Dewey Decimal klassiﬁcering

@axbom Dewey Decimal klassificering Systemet indelar världens alla ämnen i
tio huvudgrupper: • 001 - 099 Datavetenskap, information och allmänna verk • 100 - 199 Filosofi och psykologi • 200 - 299 Religion • 300 - 399 Samhällsvetenskaperna • 400 - 499 Språk och Språkvetenskap • 500 - 599 Naturvetenskap • 600 - 699 Teknologi, medicin, teknik (tillämpade vetenskaper) • 700 - 799 Konst, musik och fritid • 800 - 899 Litteratur • 900 - 999 Geografi och historia

@axbom

@axbom Sid 6 Arkiv Information Teknik, nr 2 2019 lanseringen
av Iphone år 2007, började den mängd metadata som våra foton nu innehåller att genereras automatiskt. Geotaggning är inte en manuell handling längre utan sätts sedan länge automatiskt på de foton du tar med mobilen. Ingen ansträngning krävs. Den stora nyttan är tydlig. När jag letar efter foton från min resa till Brasilien kan jag välja att visa mina foton på en världskarta, vilket gör det oerhört snabbt att hitta dem. Jag behöver inte ens komma ihåg vilket år jag var där. För den som vill bli en bättre fotograf så kan informationen ge ledtrådar om varför en bild blev suddig eller vilket objektiv som är bäst att använda. Man kan till exempel utläsa exponering, avstånd till motivet och om blixten användes. Den exakta kameramodellen syns också. Det kan vara bra information för den som vill jämföra foton från olika mobiler hen har eller har haft. Men det är också användbar information för tjuven som vill veta om du är en person som har råd med den senaste telefonmodellen. Det är nu det blir klurigt. Våra foton stannar inte längre i våra hem, utan delas vitt och brett i sociala medier, chattforum och privata meddelanden. Eller i tidningsartiklar och bloggar. Ibland tar de digitala tjänsterna opåkallat bort viss metadata från våra bilder, andra gånger inte alls. För den som trodde sig vara anonym på en dejtingsajt kan det bli otäckt att inse att den sel e man delat innehåller information om vilket hus man bor i. Eller att bilden på cykeln man vill sälja ger information om exakt var den står. När vi dessutom är många människor som lägger upp många bilder – det är trots allt gratis att ta foton idag – så kan tjänsterna börja se mönster som vi kanske inte tänker på. Två personer som ofta tar foton på samma plats känner förmodligen varandra. Tillsammans med tidpunkt kan platsen avslöja vilka evenemang jag besöker och vilka intressen jag sannolikt har. Hur ofta jag byter telefon blir känt. Annonser kan då riktas och utformas för att bättre påverka mig. Ur ett kriminaltekniskt perspektiv är det samtidigt välkommet. En fotograf i Australien kunde hitta sin stulna kamerautrustning då den var inställd på att fylla i copyright-information med hans namn. Två Harvard-studenter avslöjade år 2016 inte mindre än 229 drog- och vapenhandlare med hjälp av foton som tagits av kriminella själva och lagts ut på nätet. Den tillgängliga informationen gör att det är lika enkelt för individer att kartlägga människor som det är för polisen. Det demonstrerade jag inte minst med min tjänst DickPicLocator, där över 50 000 bilder laddats upp sedan augusti 2017. Genom att ge o er för oönskade snoppbilder en möjlighet att lokalisera avsändaren ville jag bidra till en förbättrad maktbalans. Vore jag illasinnad skulle jag med tjänsten kunna placera ut alla dessa foton (som i nuläget raderas omgående) Per Axbom blir fotograferad med egen telefon när han för första gången ska äta en myra. Sid 7 Arkiv Information Teknik, nr 2 2019 Sid 7 Arkiv Information Teknik, nr 2 2019 I bildens metadata hittar vi inte bara stad och gata i Brasilien, utan tjänsten gissar även rätt på restaurangens namn: Banzeiro. Mängder av information nns lagrad i bild len, bland annat telefon-modell och vilken mjukvara den använder.

@axbom

@axbom https://dddavid.com/project/there-are-too-many-things-in-the-cupboard/

@axbom

@axbom professional hair unprofessional hair

@axbom

@axbom https://shetransforms.us

@axbom Dewey Decimal klassiﬁcering Ämnet “Homosexualitet” • 1932 i kategorin
132 (mentala störningar) och 159.9 (abnorm psykologi) • 1952 i kategorin 301.424 (studier av kön i samhället) • 1989 i kategorin 363.49 (sociala problem) Ämnet “Kristendom” • Kategorierna 200-289 • Övriga religioner får dela på 290 till 299.

@axbom Frenologi

@axbom

@axbom Koder i IBMs syﬆem 3 8 9 12 Homosexuell
Jude Anti-social Zigenare 3 4 5 6 Naturlig Avrättning Självmord “Specialbehandling” Fångar Dödsorsak Koncentrationsläger

@axbom

@axbom https://arxiv.org/abs/1611.04135 https://www.technologyreview.com/s/602955/neural-network-learns-to-identify-criminals-by-their-faces/

@axbom https://www.independent.co.uk/news/uk/home-news/facial-recognition-london-inaccurate-met-police-trials-a8898946.html

@axbom “My transgender student’s legal name is showing on our
online discussion board. How can I keep him from being outed to his classmates?” https://alistapart.com/article/trans-inclusive-design/

@axbom Hur långt kan vi gå? När är det rätt
att sätta etiketter på människor? Vet maskinerna när de ska sluta?

@axbom https://www.theguardian.com/technology/2019/aug/14/major-breach-found-in-biometrics-system-used-by-banks-uk-police-and-defence-ﬁrms

@axbom Om ditt lösenord blir stulet så byter du ditt
lösenord. Om ditt ﬁngeravtryck blir stulet, vad byter du då? https://www.theguardian.com/technology/2019/aug/14/major-breach-found-in-biometrics-system-used-by-banks-uk-police-and-defence-ﬁrms

@axbom

@axbom dator m änniska

@axbom dator m änniska stat m arknad

@axbom dator m änniska stat m arknad Ansvarsfrågan? Välmående? Etik?

@axbom “Although these measures were crafted with the best of
intentions, I am concerned that they inadvertently undermine our eﬀorts to ensure individualized and equal justice,” he said, adding, “they may exacerbate unwarranted and unjust disparities that are already far too common in our criminal justice system and in our society.” Attorney General Eric Holder, 2014 20% of people the algorithm thinks will become repeat criminals, actually do. https://www.propublica.org/article/machine-bias-risk-assessments-in-criminal-sentencing

@axbom https://www.reuters.com/article/us-amazon-com-jobs-automation-insight/amazon-scraps-secret-ai-recruiting-tool-that-showed-bias-against-women-idUSKCN1MK08G

@axbom Vem hålls ansvarig? https://www.reuters.com/article/us-amazon-com-jobs-automation-insight/amazon-scraps-secret-ai-recruiting-tool-that-showed-bias-against-women-idUSKCN1MK08G

@axbom När normer förändras Allmän röﬆrätt i Sverige

@axbom Kvinnor ﬁck rätt att rösta. Röstade första gången 1921.
1919 Människor i fattigstugor ﬁck rätt att rösta. Omyndigförklarande av människor med funktionsnedsättningar upphörde. 1945 1989 När normer förändras Allmän röﬆrätt i Sverige

@axbom Hur förändras algoritmer när mänskliga normer och värderingar förändras?
Eller tvingar de en inbromsning av förändring?

@axbom

@axbom Inte bli inbjuden Inte kunna betala Inte kunna söka
jobb Att bli mindre mänsklig

@axbom dator m änniska Måﬆe jag beﬁnna mig i skärnings-
punkten för att få vara med i samhället? När du gav mig digitalisering, tog du också bort min möjlighet att välja?

@axbom Gör klassiﬁceringen oss mindre mänskliga?

@axbom

@axbom City points in Cascais, Portugal

@axbom Hur avgörs vem som är en god människa?

@axbom De material vi arbetar med är farliga för människor.
Hur hanterar vi det i vårt arbete? fysisk hälsa personliga relationer mental hälsa integritet politisk makt förtroende faktaresiﬆens beslutsfattande

@axbom Påverkan 1st 2nd 3rd

@axbom Påverkan 1st 2nd 3rd People do good deeds Some
deeds are valued more than others People won’t do good deeds without points People with more points are valued higher Crime networks Pets getting hurt

@axbom https://gizmodo.com/predictim-claims-its-ai-can-ﬂag-risky-babysitters-so-1830913997

@axbom https://www.forbes.com/sites/simonchandler/2019/09/04/researchers-use-big-data-and-ai-to-remove-legal-conﬁdentiality/

@axbom Discover Deﬁne Develop Deliver

@axbom Discover Deﬁne Develop Deliver NORM / “MOST PEOPLE”

@axbom Discover Deﬁne Develop Deliver NORM / “DE FLESTA”

@axbom Discover Deﬁne Develop Deliver EDGE-CASE EDGE-CASE NORM / “DE
FLESTA”

@axbom Metadata kan vara en källa till exkludering

@axbom

@axbom Den inkluderande pandan axbom.eu/panda

@axbom deltagare inkluderade exkluderade oönskade (icke-deltagare) negativ påverkan i riskzonen
i riskzonen axbom.eu/panda Den inkluderande pandan

@axbom deltagare inkluderade exkluderade oönskade (icke-deltagare) negativ påverkan i riskzonen
i riskzonen axbom.eu/panda Den inkluderande pandan Använd för att förﬆå eﬀekten på andra människor än “målgruppen”.

@axbom Påverkanskartläggning Hur illa? Hur mycket bidrar vi? Hur sannolikt?
Hur utsatta? Vad? Vem?

@axbom Påverkanskartläggning Hur illa? Hur mycket bidrar vi? Hur sannolikt?
Hur utsatta? Vad? Vem? Använd för att hjälpa din organisation förﬆå påverkan, och prioritera aktiviteter.

spoti.ﬁ/investigatingconsequences

@axbom Etisk design handlar inte om att stoppa teknisk innovation.
Det handlar om att påverka dess riktning. (med bättre kartor, mätvärden och underlag) mänsklig mindre mänsklig mindre mänsklig

@axbom Kom ihåg: Teknik är inte i sig själv farligt.
Det är människors design av tekniken som vi måste se upp med. Det är beroenden till historisk data vi måste se upp med när vi kategoriserar framtiden. mänsklig mindre mänsklig mindre mänsklig

Tack! Presentation och länkar hittar du på hej.axbom.se/fai

Människors metadata och maskinernas mani

Människors metadata och maskinernas mani

More Decks by Per Axbom

Other Decks in Technology

Featured

Transcript