A vision of what good looks like

Too much of the public debate on technology is about the harms of social media and technology in general. We also have to say what we think technology should be like to be good. Many of these things must be discussed in great detail, but I just wanted to state in a few points what my current thinking is on this.

I think of four pillars of technology for a that are important for future societies:

  • Respect and empowerment of individuals
  • A public sphere with empowered collective action by communities
  • A sociotechnological landscape that is regulable
  • Commercial opportunities at any scale for everyone

Now, to detail these:

Respect and empowerment of individuals

  • Individuals, by virtue of being citizens of societies, are respected as a basic autonomous agent.
  • Individuals are unimpeded in their pursuit of knowledge as knowledge is the basis for their ability to act as an autonomous agent.
  • Individuals are empowered to create technology, literal and artistic works.
  • Individuals have the right to be connected to digital networks.
  • Individuals have the right to digital identities that can be used in online ecosystems.
  • Individuals have the right to basic data management facilities online.
  • Individuals have the right to possess devices in which they can place their ultimate trust.
  • Individuals have the right to information security.

A public sphere with empowered collective action by communities

People do not thrive in privacy alone, we are first and foremost social. Sometimes, they want to be left alone, but sometimes, they want to go in public and wear a smile. Sometimes, they need somebody’s support for their cries. Sometimes, they want to find a pleasant beach to relax, sometimes they want to find a mountain to challenge themselves. Sometimes, they want to discuss matters of importance to them, sometimes they want to organize an event for a select group of friends, sometimes for a large crowd. The public sphere must encompass all these human endeavors, i.e. they are “societal scale technologies”. Technologies developed only for democratic debate or only for gathering a group of friends are unlikely to succeed, the vision must be so universal it can host the entire public sphere.

  • Positive social relationships and enhanced social cohesion should be key design goals.
  • Democracies should develop technologies to enhance democratic processes.
  • Technologies should promote establishment of epistemic commons.
  • Citizens should have the possibility to interact with government services through digital interfaces but must not leave any citizen behind because they may not wish or be able to do so.
  • Communication between parties in a community must be secured.
  • Communities must have technologies to help establish trust between different parties. They must do so without compromising the ultimate trust individuals have in their devices.
  • Technologies should support the formation and sound interaction between groups and within groups that forms on a permanent or ad hoc basis for social interactions.

A sociotechnological landscape that is regulable

Centralisation of power by technology companies has led to a situation where democracies do not have sufficient knowledge to regulate technology development sufficiently.

  • Enabling individuals to unimpededly seek knowledge to open technologies can shift the power balance towards gaining regulability in democracies.
  • Democracies need to form governmental institutions to set norms through developing technologies for citizens using technologists in close collaboration with cross-disciplinary teams.
  • Democracies will develop new frameworks to guide detailed technological development.  
  • Through these institutions, open technology projects can be governed in collaboration with private companies in greater detail than today.
  • Technology acceptance is driven by individuals who find that virtuous cycles emerge with technologies designed with positive social relationships in mind.
  • Pluralism is a cornerstone, helped by decentralised architectures and that normative technology development institutions are commonly supported by national governments.
  • However, decentralisation should support societal goals, and is not a goal in itself.
  • Technology should support communities in regulating and sanctioning undesired behaviour and an effective and scalable manner, so that law enforcement isn’t overwhelmed. 

Commercial opportunities at any scale for everyone

  • Architectures should be designed so that individuals are empowered over providers of digital infrastructure.
  • Architectures should be designed so that the distribution of usage of different systems is gently sloped.
  • When citizens assume the role of consumer, they should be empowered to make their requirements clear, so that businesses can develop products with a clear market fit and reduce the need for marketing in the form of advertisements.
  • Payment systems should be standardised so that payments of even small size can be made over networks with low risk of fraud.
  • eCommerce should enable societies to transparently collect taxes to encourage development of society as a whole.

Målrettet reklame er skummelt selv om den ikke treffer

Sosiale medier har klart å få en ide om at de er så treffsikre til å befeste seg og at de derfor er verdt alle annonsekronene som brukes. Dette har store konsekvenser for hvordan samfunnet behandler og styrer teknologiutviklingen, og det er derfor farlig å tro for mye om spørsmålet. At annonsene føles treffsikre på den måten NRK rapporterte om kan skyldes en rekke psykologiske mekanismer. For å forstå dybden i problemstillingen, må vi se på en bredere samfunnsdebatt.

Etter presidentvalget i USA i 2016 ble det en debatt om Facebooks algoritmer kunne ha påvirket valgutfallet. Mark Zuckerberg avviste først tanken som absurd, men reverserte sin posisjon raskt. Hvorfor? Av et genuint ønske om å ta ansvar for undegravingen demokratiet, eller fordi mange gjorde han oppmerksom på at hele Facebooks eksistens er avhengig av en forretningsmodell som handler om å påvirke folk til å endre atferd slik at de kjøper produkter som averteres på Facebook og Instagram? Han kan ikke både ha det slik at Facebooks algoritmer ikke kan influere valg når de kjører politisk reklame men samtidig være effektivt når de samme algoritmene brukes til reklame for produkter.

At reklamen på sosiale medier er så effektiv ser ikke ut til å få mye støtte i forskning, både fordi det ikke er så mye forskning og fordi mye er basert på enkelthistorier. Jeg har min egen enkelthistorie fordi familiens dieselbil nylig skulle byttes ut med noe elektrisk og det var vanskelig å møte behovet. Derfor har jeg de siste par årene gjort meg aktiv på sosiale medier, på bilsider, ved å søke aktivt etter biler som tilfredsstilte kravene, kontakte forhandlere og produsenter, samt å bruke de strukturerte søkene jeg fant. Jeg passer vanligvis på å ikke legge igjen så mye data, men jeg gjorde bevisst unntak så det knapt nok er mulig å legge igjen mer data enn det jeg gjorde. 

Annonsesystemene fungerer slik at hver gang man ser en annonse skjer det en auksjon, flere algoritmer som samhandler for å selge annonseflaten til høystbydende, og man vet at bil er noe av det som oppnår de høyeste prisene i de auksjonene. Riktignok forsto alle annonseselgere raskt at jeg var på jakt etter ny bil, men de forsto ikke noe så banalt at bilen måtte være ladbar, at jeg bor i Norge burde være nok for algoritmene. Jeg visste i flere måneder hvilken bil jeg kom til å gå for, mens annonsen for den kom først da kontrakten var underskrevet. Så, den målrettede reklamen feilet i et tilfelle der den burde være mest profitabel og der den hadde fått massevis av data over flere år. Dette var ikke et vitenskapelig eksperiment, men det er ganske talende.

Det er mye som tyder på at dagens sosiale medier er skadelig. Det er sannsynlig at det er mulig med en viss manipulasjon av folks følelser på stor skala, og at visse aspekter ved algoritmene fører til lavere selv-følelse hos sårbare mennesker. Siden konspirasjonstenkning gjerne handler om å prøve å danne seg et fullstendig bilde av hvordan verden “virkelig” fungerer og man ser at mennesker med følelse av utenforskap gjerne finner sammen i flere miljøer, er det sannsynlig at sosiale medier fører til polarisering i sårbare grupper. Det er mulig at sosiale medier fører til at slike problemer eskalerer. Dette er sannsynligvis veldig skumle konsekvenser av dagens sosiale medier. I områder av verden der situasjonen er skjør kan dette være katastrofalt.

Vi har derfor en internasjonal debatt der utgangspunktet er at dagens sosiale medier nærmest har makt til å gjøre mennesker til viljeløse slaver. Jeg er redd man er i ferd med å gjøre en stor feil, for hvis reklamen ikke er så effektiv, så har det veldig mye å si for hvordan vi behandler teknologigigantene. Vi må blant annet forstå:

  1. Beveges folk mot ekstreme synspunkter fordi teknologien driver dem dit, eller oppstår det først og fremst fordi folk har legitime behov som ikke blir tilfredsstilt av samfunnet de lever i, og teknologien forsterker følelser som allerede er der?
  2. Er det sant som teknologigigantene svarer når EUs legger fram forslag til reguleringer at små og mellomstore bedrifter er avhengig av målrettet reklame?
  3. Hvor realistisk vi ser for oss at det er å erstatte dagens sosiale medier med noe som er bedre for folk og som kan bedre reflektere de normer vi kan bli enige om i demokratiet? Hvis reklamen virkelig ikke fungerer, er Facebook en boble som kan sprekke. 

Den anerkjente psykologen Martin Seligman forteller i boka “Flourish” om et besøk hos Facebook da det var ganske nytt og hvor mye godt han så for seg at de kunne gjøre. Det gikk virkelig ikke den riktige veien, men vi kan ta tilbake kontrollen!

Per i dag har vi ikke nok forskningsbasert kunnskap til å vite om målrettet reklame virkelig fungerer så bra, men det vi vet er at det uansett er skummelt nok til at vi er nødt til å skape noe bedre. Vi må bare ikke ukritisk tro på hypen hvis det gjør det vanskeligere enn det er!