50 böcker som kastar ljus över Silicon Valleys skuggsidor (del 2)

Med forskaren Carl-Gustav Lindén som guide har Forum silat fram 50 pärlor som ger insikt i den kanske viktigaste samhälleliga drivkraften framöver: teknikbolagen i Silicon Valley. Nedan följer del 2.

Silicon Valleys ekonomi drivs av data och algoritmer som är mjukvara, enkelt uttryckt exakta instruktioner till datorer för hur problem ska lösas steg för steg. Algoritmerna har tagits fram för att fatta beslut för oss och är oftast osynliga I våra dagliga digitala liv. Men med hjälp av dem erbjuds vi till exempel ett flöde av information på sociala medier, vi får rekommendationer (restauranger, hotell) och på Google hjälper de oss anpassa sökresultaten efter våra personliga preferenser, vare sig vi ska köpa nya skor eller vill veta varför det verkar vara så många getingar i år. Det är vår egen aktivitet som genererar data som algoritmerna jobbar med och väljer ut vad vi med vårt beteende indikerar är intressant och vill veta mera om. För många kattvideor på Face­book? Sluta klicka på dem! Kommentera inte! Du behöver inte ens klicka: Facebooks algoritmer vet exakt när du stannar upp för en tiondedels sekund. Det markeras i ditt aktivitetsflöde som att du ”reagerat”.

Jaron Laniers budskap är att det inte räcker med att radera apparna, han menar att vi måste lämna sociala medier helt och hållet för att få ett lyckligare liv.

En av Silicon Valleys veteraner Jaron Lanier, han som myntade begreppet virtual reality, vill gå längre än så. I färska Ten Arguments for Deleting Your Social Media Accounts Right Now (2018, nu även på svenska) anser att vi för att få ett lyckligare och rikare liv måste lämna den bur som heter sociala medier helt och hållet. Teknikjättarna omformar våra sociala beteenden och det måste vi sätta själva mäkta stopp för. Många har valt medelvägen att ta bort apparna från mobil­telefonen, men Lanier menar att endast en total brytning hjälper.

I Platform Capitalism (2017) går Nick Srnicek igenom historien från 1990-talets dotcom-boom fram till nu om framväxten av en till synes ny ekonomisk organisationsform, ”plattformar” som för samman konsumenter och vars främsta syfte tycks vara att uppnå och konsolidera monopol.

Hur har de digitala giganterna i Silicon Valley nått sin position?  I Digital Dominance: The Power of Google, Amazon, Facebook, and Apple (2018), en bok redigerad av Martin Moore och Damian Tambini erbjuds vi en detaljerad beskrivning av framväxten av bolagen GAFA (efter initialerna i namnen), deras politiska, ekonomiska och sociala inflytande och varför regleringsförsöken misslyckats.

I grund och botten består plattformar av några rader kod, ett varumärke, ett betalningssystem och marknadsföring. Där finns ingen arbetsledning utan algoritmerna matchar köpare och säljare och prissätter tjänster och produkter dynamiskt utifrån utbud och efterfrågan. Kostnaderna för att upprätthålla systemen är minimala och det sociala ansvaret nära noll.

Osynliga slagsidor. Det finns även slagsidor i algoritmer, dels så kallade bias som utgår från antaganden och preferenser inbyggda av programmerarna och en annan form av bias som är baserat på vårt eget beteende. Algoritmerna både förstärker och förändrar vårt sätt att leva våra liv. De kan också användas på ett oetiskt och omoraliskt sätt som är svårt att förstå ens för de som utvecklat dem och destruktivt för mänskligheten.

Dataanalytikern och aktivisten Cathy O’Neil redogör i sin epokgörande bok från 2016, Weapons of Math Destruction: How Big Data Increases Inequality and Threatens Democracy, hur algoritmer kan användas på skadliga sätt. Weapons of Math Destruction (WMD) kännetecknas av tre saker: de är utbredda och viktiga algoritmer, hur de gör sina bedömningar och poängsättningar är obegripligt och mystiskt och de är destruktiva.

Algoritmer används alltså allmänt för att förutspå våra liv. Vilken är till exempel sannolikheten för att just jag inte klarar av att betala mina lån? På basen av vårt tidigare beteende och vår profil – kön, ålder, bostadsort, socioekonomi etc. – bedömer algoritmerna risken och fattar beslutet om vi ska få en kredit eller inte. Genom maskininlärning, automatiska analyser av våra kreditkortsräkningar vet man med stor säkerhet vad vi kommer att göra. American Express sägs veta upp till ett år i förväg om vi är på väg att skilja oss. I de flesta fall blir besluten faktiskt bättre än om en människa skulle försöka göra motsvarande avvägningar. Men detta gäller inte alla. Virginia Eubanks visar i Automating Inequality: How High-Tech Tools Profile, Police, and Punish the Poor (2018) att de människor som redan har problem förfördelas av automatiska beslutssystem. Eubanks kommer förresten till Helsingfors i november.

Se hela boklistan som pdf här.

text: Carl-Gustav Lindén

Läs hela artikeln i papperstidningen eller i den finlandssvenska tidskriftsajten Paperini!

Läs del 1 av artikeln här: 50 böcker som kastar ljus över Silicon Valleys skuggsidor (del 1).

 

 

Dela:

Kommentera

E-postadressen publiceras inte. Obligatoriska fält är märkta *

*