Overvåkingsscoring: Bransjer som måler forbrukernes verdi som kunder

• Forfatter:
• forfatternavn

  Quantumrun Foresight
• Februar 16, 2022

I 2014 kunngjorde den kinesiske regjeringen implementeringen av et sosialt kredittsystem. Dette systemet er et teknologiaktivert overvåkingsprogram som overvåker kinesiske borgeres oppførsel for å avgjøre om de er eksemplariske eller uenige individer. Et lignende system er under utvikling i USA i form av private selskaper som overvåker individuelle forbrukere for å forutsi deres oppførsel for fremtidige salgsmuligheter.  

Overvåkingsscoringskontekst

Private selskaper bruker i økende grad overvåkingssystemer for å kategorisere eller gradere forbrukere basert på deres estimerte predikerte atferd. I hovedsak scorer disse selskapene individer basert på atferd og rangeringer. 
Et eksempel på en bransje som bruker overvåkingsscoring er detaljhandel, der enkelte selskaper bestemmer hvilken pris de skal tilby til en kunde basert på hvor lønnsomme de er spådd å være. Dessuten gir poengsummen bedrifter mulighet til å avgjøre om en kunde fortjener service over gjennomsnittet. 

Overvåkingsscoring har som mål å øke sosial trygghet, samt skape beskyttelse for tjenesteleverandører. På nasjonalt nivå er slike systemer designet for å oppmuntre innbyggerne til å vise foretrukne sosiale egenskaper for høyere poeng og bedre privilegier (ofte på bekostning av visse friheter).

Forstyrrende påvirkning

Overvåkingsscoring er en tjenestetrend i forskjellige bransjer, inkludert livsforsikringsselskaper samt transport- og overnattingsleverandører. For eksempel, ifølge New York-regjeringen, undersøker livsforsikringsselskaper folks innlegg på sosiale medier som grunnlag for utvalgte premier. Leverandører av transport- og overnattingstjenester bruker også vurderinger for å avgjøre om du har lov til å fortsette å bruke utleietjenestene deres.

Bruk av slike overvåkingsscoresystemer kan imidlertid invadere personvernet og føre til urettferdig behandling av marginaliserte grupper. Disse systemene kan også være skadelige fordi de kan straffe borgere utenfor rettssystemet ved å ta fra seg ulike privilegier gjennom uoppfordret overvåking. Over tid kan innbyggerne bli tvunget til å kontrollere atferden sin overalt hvor de går for å opprettholde en høy score i bytte mot tilgang til ulike privilegier. 
For å redusere risikoeksponeringen til enkeltpersoner for disse uønskede overvåkings- og profileringssystemene, kan myndigheter i utvalgte land i økende grad regulere samfunnsovervåkingssystemer. Et eksempel er å utvikle standarder for sikker datautveksling basert på personopplysningskontroll. En annen kan være å utdanne allmennheten om hvordan de skal administrere personopplysningene deres.

Implikasjoner av overvåkingsscoring

Større implikasjoner av overvåkingsscoring kan omfatte:

• Ytterligere forskning på å opprettholde en persons integritet når selskaper bruker dataene deres til beslutninger om å yte tjenester. 
• Sterkere lag med cybersikkerhet for bransjer som opererer direkte med kunder. 
• Håndhevelse av et kontrollert samfunn som er forsiktige med å opprettholde høydepunkter da selskaper kontinuerlig overvåker dem.  

Spørsmål å kommentere

• Vil overvåkingsscoring gi flere fordeler for samfunnet, eller vil det føre til mer skade? 
• Hvordan kan regjeringer regulere bruken av privat overvåkingsscoring for å forhindre at den overskrider menneskerettighetene? 
• Bør myndighetene straffe private selskaper som driver uoppfordret overvåking?