Det er ikke bare OpenAI som har hatt problemer med å etablere forsvarsverket, slik Dag Mostuen Grytli noterer i Morgenbladet. I fjor lekket et notat fra Google med tittel “We Have No Moat, and Neither Does OpenAI”. Siden har begge selskaper vært aktive med å grave vollgraver, og det ser ikke bra ut for samfunnet, men dokumentet gir oss også en måte å sikre demokratisk kontroll og innovasjonsevne på, men da må veldig mange løse tråder bindes sammen.
Forfatteren bak notatet mener at å konkurrere direkte med “Open Source” kommer til å feile, og at de i stedet bør lage en strategi for å dominere “Open Source”. Men hva er så “Open Source”? Og hvorfor er det så kraftig at det kan fylle vollgraven for Google og OpenAI?
Open Source og Free Software
For å forstå hva Open Source er bør vi gå (minst) 40 år tilbake i tid. Opprinnelig var programvare noe ganske smått som fulgte med maskinvare, men utover 70-tallet ble det stadig vanligere, med Bill Gates i spissen, å holde kildekoden man skrev hemmelig og selge programvaren separat, for å gjøre det vanskeligere å konkurrere. Det var den første vollgraven.
En utvikler og filosof ved navn Richard Stallman så til Kants etikk og skrev at å sette restriksjoner på menneskers bruk av et program reduserer verdien menneskeheten kan hente ut av programmet, noe som vil gjøre oss alle fattigere. Som en følge av dette begynte han å utvikle de helt fundamentale komponentene av IT-systemer og formulerte fire friheter: Friheten til å kjøre programmet som du vil, friheten til å studere programmet og gjøre endringer, friheten til å spre kopier for å hjelpe andre, og friheten til å spre dinne endringer til å andre. Han kalte dette “Free Software”, oversatt til “fri programvare”.
Selv om Stallman i dag kan karakteriseres som en løs kanon på dekk, og koden ikke har overlevd så mener jeg at dette arbeidet var av fundamental viktighet, og det etablerte også en annen viktig ting: Slik programvare er en allmenning, spesifikt passer det i nobelprisvinner Elinor Ostroms klassifikasjon i hennes arbeid om komplekse økonomiske systemer som en “Public Good”, altså det er ikke et eksklusiv gode og mitt bruk ødelegger ikke for ditt bruk.
På slutten av 90-tallet hadde fri programvare fått stor spredning og utviklet seg i tandem med Internet. Internet ble utviklet i åpne fora med få eller ingen restriksjoner, og for det meste implementert med fri programvare. Det har alltid vært store spenninger rundt konseptet, og i 1998 samlet en del mennesker seg i Silicon Valley og fant ut at den kantiske etikken stod i veien for videre spredning og ønsket å bruke begrepet “Open Source” fordi de mente at konseptet stod seg vel så godt på sine egne business-ben. Det slo an, selv om flere av de sentrale personene raskt forsto at etikken var viktig likevel.
Free Software leder tankene til gratis, og ettersom programvaren ikke er eksklusiv kan den gjerne fås gratis. Det økonomiske insentivet er langt mindre og det er problematisk, men det er mest fordi samfunnet tenker på programvare som et produkt og ikke som noe som skal løse et problem. Det ble raskt gjort et forsøk på å skille “free as in speech” fra “free as in beer”, med den forståelsen at det man ønsker å oppnå er frihet, som i ytringsfrihet, mens gratis ikke engang er et ideal. Tvert i mot, får du gratis øl ligger det nok en baktanke bak, og dine evner til å se det blir sannsynligvis svekket av gratis øl.
Det er kanskje ikke så lett å få øye på, men i dag er slik programvare over alt. Den gjør at mobilen din kjører, at datasentre fungerer og alt i mellom. Selv nesten alle lukkede systemer inneholder Open Source. Det er i samarbeid de virkelig store verdiene oppstår, og dette gjør Open Source så kraftig. Dette er ikke et eksotisk innslag, men likevel diskuteres det nesten aldri.
Altfor mye gratis øl
Dessverre har det blitt altfor mye gratis øl, både i åpne og lukkede systemer. Når notatet til personen i Google foreslår å dominere Open Source, så er det en gratis øl-strategi som foreslås.
Vi har klart å skape mye programvare, og Internet-standarder har ofte hatt ganske gode og åpne prosesser med mange deltakere. Dessverre går det en grense. En komponent startes ofte av en enkeltperson. Når det blir nyttig for flere, tiltrekker det seg flere bidragsytere, og ofte blir grunnleggeren da en BDFL — “Benevolent Dictator for Life”. Det er åpenbart et fleipete begrep, men brukes likefullt. Ettersom prosjektene vokser har de ofte gått over til å bli et større meritokrati. De siste år har store teknologiselskaper startet prosjekter og styrt meritokratiet.
Problemet er når programvare blir fundamental infrastruktur for samfunnet: Det vi aldri har klart er overgangen fra meritokrati til demokrati.
Det er da viktig å forstå at lukket og eksklusiv programvare i sin natur er vanskelig regulerbart, det ligger i forretningsstrategiens natur at kunnskapen om hvordan systemet faktisk fungerer må ligge i selskapet, fordi det er ikke selve programvaren som er konkurransefortrinnet, det er kunnskapen bak. Selve programvaren er enkel å skrive på nytt hvis man har kunnskapen. Denne ubalansen er en viktig årsak til at teknologien lar seg styre så dårlig.
Det er paradoksalt, dette er fullstendig menneskapte ting og burde vært lett å styre, men vår samarbeidsevne er så dårlig at vi mislykkes.
Jeg har vært meritokrat
Jeg har selv vært meritokrat, og vet veldig godt hvordan det er å utfordre det paradigmet. Jeg ble første ansatte i et selskap ved navn Inrupt. Selskapet ble feiret med store presseoppslag og “Boldness in Business” i Financial Times, en artikkel som beskriver godt hva vi trodde på. Det første halvannet året var fantastisk inspirerende. Men så kom det inn et lag med mellomledere som hadde helt andre ideer. Det ble bestemt at en lukket server skulle være hovedproduktet. Den vanligste arkitekturen på nett er kjent som klient-server-arkitektur, og i en slik arkitektur sitter nesten all normativ makt på server-siden, hvilket betyr at den som skriver serveren, hvis det er bare en, sitter med makten.
For å unngå slik maktkonsentrasjon så skriver man gjerne en presis spesifikasjon, noe som ble min jobb sammen med Sarven Capadisli og Tim Berners-Lee. Sistnevnte fant opp webben, er selskapets teknologidirektør og noe av en BDFL for prosjektet. Da kan makten forskyves til gruppa som bestemmer hva som skal stå i spesifikasjonen. Jeg prøvde mitt beste for å sikre en bredest mulig forankring av dette arbeidet. Jeg prøvde alt jeg kunne å gå fra meritokrati til demokrati. Det var tross alt demokrati vi solgte.
Selvfølgelig feilet jeg. Demokrati bygger ingen vollgrav. Selskapet skulle selge en server og hvis jeg lyktes med min jobb ville framtidige konkurrenter lett konkurrere den ut. Dermed sørget mine sjefer for å ta alle prosesser inn bak lukkede dører og ikke delta i noen offentlige prosesser de ikke fullt kontrollerte, samtidig som de snakket varmt om åpenhet offentlig.
Vi har et begrep for det: Commonswashing. Det har blitt viktig for teknologiselskapene å virke åpne men i praksis har lite endret seg.
Det vi mangler
Vi mangler ikke forskning, duppeditter eller tenketanker. Vi mangler institusjoner som kan bidra inn i økosystemer og sikre overgangen fra meritokrati til demokrati. Mesteparten av programvaren har vi allerede, men vi må spisse oss inn på de konkrete tilfellene der industrien henter makt.
Det betyr at vi må forstå når teknologien setter normer i samfunnet. Langt fra all teknologi gjør dette, og der vil jeg være langt mer pragmatisk enn Richard Stallman var. Men når den gjør det, må vi sikre at ingen kan utøve eksklusiv kontroll, fordi da er det ikke demokratiet som setter normene. Og det er her Open Source kan hjelpe, fordi hverken Google eller OpenAI har vollgrav mot det.
En vond erfaring rikere har jeg nå en ganske god ide om hvordan vi kan sørge for at de ikke får bygget denne vollgraven.
Det er mange andre som også tenker samme tanker, men de fleste har gått på en smell. EU-kommisjonen og delstatsregjeringen i Flandern er blant dem som ikke forsto taktikken til min tidligere arbeidsgiver. Europa prøver å etablere digital infrastruktur, og Frankrike snakker om “Digital Sovereignty”. Det er absolutt prisverdig, men i sluttfasen av forhandlingene om AI Act lærte de på den harde måten at Mistral AI ikke hadde spilt med så åpne kort som de lot som. Uten ordentlige institusjoner vil vi komme til kort gang på gang.
Drittifiseringsprosessen er i full gang
Hvordan vil det gå hvis det fortsetter slik det er nå? Kommentatoren Cory Doctorow har etablert begrepet “enshittification”. Bjørn Stærk oversatte det til “drittifisering” i en kronikk i Aftenposten.
Hvordan kan en drittifiseringsprosess se ut på KI-området? Jeg mener vi allerede er i første fase: Selskapene bygger ganske imponerende tjenester man kan få tilgang til for en billig penge eller gratis. Men som gratis øl er det en felle, det er for å få deg innenfor vollgraven. Dette skjer i form av at de bygger infrastruktur som kundene virkelig trenger og som de nå bindes til, kostnadene for å skifte må opp. Open Source er foreløpig eneste middel mot dette. Hvem, i den panikken vi nå ser der Digitaliseringsministeren sier at 80% av offentlig sektor skal hoppe på bølgen raskest mulig, vil faktisk ha mot og distanse nok til å se at de blir lurt?
Den andre delen nå er å etablere et narrativ om at KI er ekstremt kapitalkrevende, og at det derfor ikke gir mening å bære disse kostnadene selv. Om narrativet er sant eller ikke er jeg usikker på, men jeg er sikker på at det ikke kommer til å være sant så veldig lenge. Men det spiller ingen rolle, fordi investorene tar kostnaden med kalkulert risiko om at drittifiseringen vil lykkes. Det er i denne konteksten Sam Altman må forstås.
For dem er det eneste viktige nå at vollgraven er ferdig før skruen må vris om eller “compute” har blitt for billig.
Neste steg i drittifiseringsprosessen tipper jeg er å utnytte nettverkseffektene som oppstår når man har data fra mange aktører. Da kan man trekke slutninger de som har mindre data ikke kan trekke, og disse vil ha stor verdi. Da kommer festningsmurene opp også, og dermed er du virkelig fanget. Vi blir fanget alle sammen fordi det er våre data som kommer til å gå inn den store kverna vi ikke har kontroll på.
I en slik verden er verdi-basert innovasjon umulig, fordi du vil alltid være begrenset av en sterkere infrastruktur-eier. Det er infrastruktur-eieren som henter ut belønningen av ditt arbeid og som bestemmer rammene for hva du får lov til å gjøre. Slik er verden allerede nå på veldig mange områder, og slik vil den også om få år være på KI-feltet hvis vi ikke klarer å etablere en annen styring av teknologi enn det vi har i dag.
Hvert enkelt selskap står ikke så støtt, men noen av dem vil nok lykkes med drittifisering, da det er lite som kan stanse den prosessen.
Det er mange dyktige teknologer i dag som ser stor framtid for teknologien og de mange gode anvendelser. Jeg har vært som dem, men jeg er ikke det i dag. Langs veien vi går i dag er det ikke anvendelser som avgjør om dette kommer til å gå bra for menneskeheten.
Vi må gå en annen vei, med tverrfaglige institusjoner som utvikler teknologi med et demokratisk mandat i store, åpne økosystemer. Da får vi kunnskapen vi trenger til å skape normer, våre bedrifter kan innovere og med tiden vil nok de store teknologiselskapene innordne seg med denne realiteten, de har tross alt allerede store bidrag inn i Open Source.