Christopher Wylie, en varsler av samme kaliber som Edward Snowden, har nylig røpet noen av de digitale superkreftenes hemmeligheter. Wylie er aktuell med boken Mindf*ck: Inside Cambridge Analytica’s plot to break the world. Her forteller han om den mørke innsiden av det digitale maskineriet Cambridge Analytica, som ved hjelp av mega-aktøren Facebook manipulerte både det amerikanske presidentvalget og Brexit i Storbritannia i 2016. Selv det norske partiet Høyre var i kontakt med Cambridge Analytica, bekreftes det til NRK i en avisartikkel fra mars 2018 – dog takket Høyre nei til videre samarbeid grunnet «selskapets metoder var over grensen». En essensiell forutsetning ved demokratiske valg er at velgerne skal stå fritt til å velge mellom de tilgjengelige alternativene. For å opprettholde denne grunnleggende retten eksisterer det økonomiske og reklamemessige begrensninger som partiene og andre aktører må forholde seg til. Selskaper som Cambridge Analytica representerer en dødelig trussel mot denne sentrale bærebjelken av demokratiske samfunn – hvordan har de fått til det?
Gullbelagt data
Det viser seg at data, nærmere sagt personlig informasjon, er nøkkelen for å svinge demokratiske valg. De store selskapene innså lenge før forbrukerne at data er det nye gullet, og vi har i årevis gitt det bort for skitt og ingenting – til bytte mot gratis tilgang på sosiale medier. Avtalen var forholdsvis grei og rett frem, vi fyller inn personlig informasjon om oss selv, deler våre bilder og våre GPS-koordinater. Til gjengjeld får vi en bedre og persontilpasset tjeneste som kjenner oss, og som kun viser relevante tilbud, nyheter, og annet som vi faktisk er interessert i. Dette er positive konsekvenser ved informasjonsdeling som vi tjenes med. Nå har det derimot vist seg at dataen har blitt brukt til langt mer enn bare dette.
Maskin møter personlighet
Når du er i besittelse av så mye personlig informasjon, om så mange mennesker som Facebook har, kan du nemlig få en ganske nøyaktig representasjon av menneskets personlighet, temperament og følelsesliv. Informasjonen brukere deler med Facebook er allerede kategorisert og systematisert, perfekt for å trene opp maskinlæringsalgoritmer. Data er selve drivstoffet i maskinlæring, og jo mer du har, jo bedre og mer nøyaktig vil algoritmene klare å modellere og forutsi adferd. For eksempel viste en gruppe forskere ved institutt for psykologi ved Universitetet i Cambridge (2015) at algoritmers evne til å kartlegge personlighetstrekk korrelerer tett med antall datapunkter den har – i dette tilfellet antall likes den kan hente fra en Facebook-profil. Med 10 likes kan algoritmen modellere adferd på lignende nivå som en kollega, men med 300 likes lærte algoritmen å predikere adferd mer nøyaktig enn en ektefelle.
Psykometrisk kartlegging
Personlighetsmodellen som brukes i moderne psykologisk forskning heter femfaktormodellen og kartlegger personlighet ved 5 dimensjoner (OCEAN). Det er enkelt å kartlegge noen på femfaktormodellen, man trenger bare besvare 100-300 spørsmål relatert til ens personlighet. Flere besvarte spørsmål gir et mer nøyaktig bilde. Dette kan høres banalt ut, men modellen har visst seg å være svært god til å predikere politisk ståsted, musikkpreferanser, disposisjon for depresjon og mye mer. For eksempel vil en person med høy skåre i O, åpenhet for erfaringer, statistisk sett være mer politisk liberal, mens en høy skåre i C, planmessighet, statistisk sett vil være mer politisk konservativ. Wylie forklarer hvordan selskapet lagde applikasjoner som inkorporerte en variant av femfaktormodellen for å skape en psykologisk modell av velgerne. Personlig informasjon hentet fra Facebook, skattelister, handlevaner og så videre - kombinert med psykrometrisk kartlegging gjorde Cambridge Analytica i stand til å kjenne ‘kundene’ sine bedre enn hva som tidligere har vært mulig, og dermed hva som skal til for å svinge meningene deres, ved personifisert reklame eller et spesifikt sett av nyhetsartikler på Facebook. En objektiv forside slik vi er kjent med fra tradisjonelle aviser eksisterer dermed ikke lenger.
Hive Mind
Men hva i alle dager betyr alt dette? Det blir fort veldig abstrakt, teknisk og til dels svevende, la meg presentere en løs metafor som kan gi en intuisjon om hvordan disse algoritmene overstyrer oss. Det er et engelsk uttrykk, hive mind, som brukes til å beskrive desentralisert intelligens som en fiskestim, en bikube eller en maurtue. Desentralisert betyr at alle individene på en eller annen måte er involvert i overordnede avgjørelser som tas. Samtidig er de del av en helhet som er mer enn summen av individene – i den forstand at det ikke er et demokratisk valg der fiskene blir enige om å svømme hit eller dit, det skjer synkront og samtidig. Det menneskelige samfunn er litt som dette, vi har store selskaper og institusjoner som egentlig bare er en mellom-menneskelige abstraksjoner (Sapiens, 2015), de eksisterer ikke ett faktisk sted, men som desentraliserte fragmenter i hvert av våre sinn. Hold denne idéen i bakhodet, mens du inkorporerer idéen av å ha en ‘finger på vekta’; å manipulere noe i en bestemt retning uten å bli lagt merke til. Informasjonen vi mottar har blitt mediert via et filter, noen hatt en finger på vekta, og gjort velgerne mer mottakelige til det resultatet som Cambridge Analytica styrte dem mot. Vi er altså litt som en fisk i en stim, vi føler at det er oss selv som velger å svømme den retningen vi gjør, men egentlig er det noe i kulissene som trekker i trådene, ubevisst blir vi manipulert av algoritmer som er trent til å kjenne oss bedre enn vi selv gjør.
Psykohistorie (Isaac Asimov)
Ifølge Wylie har man nå evnen til å ta det enda et steg lenger. Psykohistorie, opprinnelig en forestilt og teoretisk vitenskap fra Isaac Asimovs Foundation-univers, er mer eller mindre blitt en virkelighet. Asimov definerer det som: «En vitenskap som kombinerer historie, sosiologi og matematisk statistikk for å gi generelle spådommer om fremtidige oppførsel for veldig store grupper mennesker». Gitt at Cambridge Analytica var i besittelse av informasjon om titallsmillioner velgere, kunne de gjøre nettopp dette: simulere utfallet av ulike inputs (diskusjonstemaer i dette tilfellet) før det faktisk skjedde. Det betyr at de kunne teste hvilke saker, for eksempel immigrasjon, økonomi og kjønn; eller hvilke slagord, ‘make America great again!’, som ville harmonere med velgerne. Slike metoder har naturligvis alltid blitt brukt, det er slik det avledes statistikk om fremtidige valgresultater, men Cambridge Analytica viste oss hvordan man tar det til et helt nytt nivå. Det fungerer omtrent som et svært intrikat dataspill, med utallige relasjoner og implikasjoner som kun en datamaskin kan beregne. Eksempel: Vi har identifisert en gruppe velgere som har høy N, nevrotisisme, og som er kulturelt homogene. Deres adferd og respons kan simuleres med høy nøyaktighet, så tilpasses input basert på hvilken retning en vil svinge, dersom en vil frembringe en innvandrerfiendtlig respons kunne en gi gruppen reklamer og artikler som overdriver oss-demdikotomien, helt uten at velgerne selv er bevisste over det. Det revolusjonerende er at dette gjøres billig, det er algoritmene som finner ut akkurat hvordan en melding skal justeres for å harmonere best med et gitt individ, basert på deres psykologiske sammensetning.
Spøkelser i veggene
Det er nå allerede 3 år siden algoritmer hadde en avgjørende finger med i 2010-tallets kanskje to viktigste demokratiske valg, Trump og Brexit – og dette er kun de tilfelle vi faktisk vet om. For alt vi vet er dette kun en brøkdel av den totale påvirkningskraften selskaper og aktører som dette har. Det virker obskurt og litt science-fiction-aktig, men vi må venne oss til tanken at det nå eksisterer ‘spøkelser’ i veggene rundt oss, som lytter og lærer oss å kjenne, bedre og bedre for hver dag som går. Disse algoritmene (spøkelsene) er likevel ikke autonome, hva slags målsetting de har og delvis hvordan de skal operere avgjøres av mennesker og selskaper – vi må strebe etter å holde dem ansvarlig, for de essensielle premissene til demokratiske valg står nå på spill.
.png?alt=listing)