Desinformasjonen vi får mot oss bryr seg ofte ikke om sannhet. Derfor er vi ikke forberedt på følgende av generativ KI og det ser veldig dårlig ut nå. Når formålet med desinformasjon er å ødelegge vår evne til å skille sannhet fra løgn, står vi langt mer forsvarsløse enn det KI-ekspertene forteller oss og de som mener de har løsninger, har sannsynligvis ikke forstått problemet.
Jeg merket det allerede i 1996, da jeg startet hjemmesidene til foreningen Skepsis: Gal informasjon spredte seg langt raskere enn det noen klarte å møte. Informasjon som appellerte til sterke følelser spredte seg raskest. Det handlet aldri om å nå ut til folk med riktig informasjon, det handlet om å nå inn i lukkede sinn, sinn som var lukket fordi de hadde en fortelling i hodet. Men jeg jobbet ikke så mye mer med det da, tok etterhvert ph.d. i informatikk i utkanten av KI-feltet og har jobbet mest i norsk og internasjonal IT-industri. I det siste har jeg jobbet med å etablere andre styringsformer for teknologiutvikling. I den forbindelse har jeg arbeidet litt med informasjonsforurensning inn mot FN-systemet.
Flood the zone with shit
Donald Trumps tidligere sjefstrateg Steve Bannon har forklart at hans strategi er å “flood the zone with shit”. Altså, målet er ikke å overtale noen ved å påpeke fakta, men å sørge for at folk ikke klarer å skille sannhet fra løgn. Men Bannon var slett ikke den som fant på strategien, dette gjorde Putin før ham, og Stalin før ham igjen.
Filosofen Harry Frankfurt forklarte i sin bok “On Bullshit” at bullshit er utsagn der avsenderen ikke bryr seg om utsagnet er sant eller usant. Generativ KI er nettopp dette: Bullshit-maskiner. Det er bare ord eller bilder satt sammen med en sannsynlighet for at de hører sammen uten en tanke for sannhet. Generativ KI passer som perfekt i hendene på aktører som ikke bryr seg om sannhet fordi teknologien driver prisen på bullshit mot null.
Når Inga Strümke uttaler til NRK at “Hvis vi blir skeptisk til troverdigheten i hva vi ser, så er det bare sunt.” så er det en alvorlig misforståelse. Dette er ikke sunn skepsis, dette er en nihilistisk skeptisisme som ødelegger vårt felles grunnlag for å avgjøre hva som er sant. Dette er kognitiv krigføring.
Det handler om fortellinger
Ekstremismeforskeren Ajit Maan argumenterer for at problemet ikke er desinformasjonen i seg selv, men at informasjon må passe inn i en fortelling for å gjøre inntrykk, og desinformasjonen er farlig fordi den passer inn i en fortelling man allerede har om seg selv.
Når Sølve Kuraas Karlsen forteller at vi skal være sammen med mennesker som spør hvor informasjonen kommer fra, og selv spørre etter kilder, så tar det ikke inn over seg betydningen av fortellinger for mennesker.
Nettverk av bullshit
Men det blir enda verre når han snakker om å bruke flere kilder. Snart vil generativ KI lage store nettverk av bullshit som peker på hverandre, for å gi inntrykk av et stort system av fakta.
Veien til nettverket er brolagt med personlige data. Med data fra sosiale medier og annonsesystemer vil systemet lage fortellinger som er tilpasset den enkeltes fortellinger. Karlsens utrustning vil være fullstendig ineffektiv.
Systemene er sikkert under utvikling
Etter at Libya falt sammen har en håndfull oljebaroner sett seg best tjent med at det ikke blir noen effektiv statsdannelse i landet. De har nok penger og bruker dem på å utvikle systemer for å spre bullshit i samfunnet. Libya kan bli en viktig leverandør av slik teknologi til autokrater og personer som vil brenne institusjonene. Vi må regne med at store penger brukes på dette mange steder i verden.
Sannsynligvis blir disse våpnene nå opplært til å komme seg rundt tek-gigantenes systemer for å detektere desinformasjon. Jeg var blant dem som fikk se en Lego-svindel på Facebook. Da jeg begynte å undersøke mer rundt svindelen fant jeg et stort et nettverk av flere hundre falske kontoer. Hver av de falske kontoene så ut til å ha en KI-generert falsk livshistorie og falske bilder. Dette handler om utvikling av våpen, ikke en simpel svindel.
Industriens dominans må brytes
Som teknolog har jeg lenge innsett at vi ikke har noen teknologi som kan hjelpe med dette på kort sikt. Jurister og medievitere må også innse at lov og “media literacy” ikke vil fare stort bedre. Det skjer en kollaps av vårt felles kunnskapsgrunnlag og offentlige sfære akkurat nå. I en verden med atommakter i krig, og der klimaendringer er i ferd med å ødelegge livsgrunnlaget for mange mennesker kan dette få katastrofale konsekvenser.
Vi har ikke makt til å styre teknologiutviklingen i dag, og vi må skaffe oss det, samtidig som vi gjør det aller første steget: Ingen må ha kontroll over dataene som kan brukes til å målrette fortellinger mot personer. Det er den aller farligste delen. Vi kan gjøre det ved å opprette tverrfaglige samfunnsinstitusjoner som utvikler teknologi med et demokratisk mandat. Og ikke gi opp håpet.