China's moderne Jodenster: Huawei gebruikt gezichtsherkenningsoftware voor 'Oeigoer-alarm'

China's moderne Jodenster: Huawei gebruikt gezichtsherkenningsoftware voor 'Oeigoer-alarm'

Illustratie van camera met gezichtsherkenningssoftware. Foto via Shutterstock.com, door Scharfsinn

Wie nog meent even leuke filters te moeten gebruiken voor Snapchat en Instagram, die moet even verder lezen. Het Chinese telecombedrijf Huawei gebruikt namelijk gezichtsherkenningssoftware voor een 'Oeigoer-alarm' voor de Chinese overheid. Wanneer iemand van die minderheidsgroep z'n telefoon gebruikt, weet de Chinese overheid direct waar ze even langs moeten gaan...

Hier kun je lezen hoe de Chinese overheid, met hulp van Huawei, de moderne Jodenster heeft ontwikkeld. Zo doen ze dat tegenwoordig:

Gezichtsherkenningssoftware werkt op basis van algoritmen en iedereen die het gebruikt, kan zomaar hebben bijgedragen aan het perfectioneren ervan. Hartstikke leuk natuurlijk, al die meiden die de hele dag hondenfilters toepassen en zichzelf filmen met grote Disney-ogen, maar de lol is er nu waarschijnlijk wel snel af. De technologie wordt namelijk gewoon misbruikt en de Oeigoeren worden er de dupe van.

In Nederland wordt dergelijke technologie ook steeds meer gebruikt en lijken we ons ook totaal niet bewust van de risico's die hiermee gepaard gaan. Ik hoor en zie de term 'Smart City' ook al steeds vaker voorbij komen. Dan presenteert men dat bijvoorbeeld leuk met een groot scherm waarop te zien valt hoe een camera registreert dat twee mensen te dicht op elkaar staan en zich dus niet aan de anderhalve meter afstand houden. Potverdorie wat een leuke toepassing! Maar niemand staat er kennelijk bij stil hoe dit soort technologie zich ontwikkelt (data-mining) en waar het óók voor gebruikt kan worden.

Het meest vooraanstaande voorbeeld van hoe zo'n algoritme werd misbruikt is de toeslagenaffaire. Dat ding pikte vermeende fraudeurs eruit, mede vanwege het stukje data genaamd 'etniciteit'. Omdat ambtenaren informatie over fraudeurs uit het verleden hadden ingevoerd, is dat algoritme uiteindelijk zelf de puntjes gaan verbinden. Alleen stelde het algoritme nog dat het om 'mogelijke fraudeurs' kon gaan en vulden de ambtenaren zelf in dat het algoritme het vast goed moest hebben gehad, waardoor ze het woordje 'mogelijke' voor het gemak alvast weg lieten.

Kun je je voorstellen wat er allemaal kan gebeuren als algoritmes met 'adviezen' gaan komen over mensen met een Marokkaans uiterlijk? Of Volkswagenbestuurders uit wijken met een laag gemiddeld inkomen? Of als je door zulke herkenningssoftware met een sigaret wordt gespot en je een andere zorgverzekering wilt afsluiten?

Ik geloof niet dat ambtenaren of bedrijfswerknemers die informatie in álle gevallen correct zullen interpreteren. Dat gaat nu al mis namelijk. China loopt wat dat betreft gewoon voorop en heeft wat meer maling aan de ethische bezwaren.

Een oproep van de redactie: door de coronacrisis heeft DDS het, net als veel andere websites, ontzettend lastig. Wij willen alles gratis leesbaar houden voor iedereen, waardoor we voor onze inkomsten afhankelijk zijn van reclame. Maar bedrijven hebben financiële zorgen, en hebben dus niet veel te makken. Daar merken wij de gevolgen ook van. Vandaar onze oproep aan u, onze lezers: steun ons alsjeblieft! Via het betrouwbare Nederlandse BackMe-systeem kunt u maandelijks óf eenmalig doneren. Doe dat alstublieft, en help DDS in de lucht te blijven!

Plaats reactie

666

0 reacties

Laad meer reacties

Je bekijkt nu de reacties waarvoor je een notificatie hebt ontvangen, wil je alle reacties bij dit artikel zien, klik dan op onderstaande knop.

Bekijk alle reacties

Meest gelezen

Algemene Rekenkamer: 'Minister Jetten heeft gevolgen energietransitie voor netcapaciteit niet in oog gehouden'

Ondanks de nette bewoording van de Algemene Rekenkamer krijgt minister Rob Jetten (Klimaat en Energie) er flink van langs. Zi...

Weer mislukte poging Extinction Rebellion om iets voor elkaar te krijgen, politie pakt 76 demonstranten op

De politie heeft vandaag 76 demonstranten aangehouden bij een klimaatactie in het centrum van Rotterdam. Klimaatactivisten va...

Kabinet komt in de problemen: hogere rente voor leningen kost schatkist miljarden euro's

In een bijlage bij de Voorjaarsnota, die afgelopen vrijdag naar buiten kwam, zegt het ministerie van Financiën in 2023 naar v...

Kabinet trekt luttele 1,25 miljoen euro uit voor maatregelen tegen overlast asielzoekers

Staatssecretaris Eric van der Burg (Asiel) heeft voor 2022 en een deel van 2023 'maar liefst' 1,25 miljoen euro beschikbaar g...

Sprankje hoop voor spaarders die te laat waren met bezwaar maken: kabinet 'kijkt naar mogelijkheden' compensatie

Staatssecretaris Marnix van Rij (Financiën) zegt te gaan kijken naar mogelijkheden om (kleine) spaarders, die te laat waren m...

Filmpje! Gideon van Meijeren (FVD) staat ferm in de Tweede Kamer: 'Ik vind Jaap van Dissel corrupt'

In de Tweede Kamer was er een clash tussen Gideon van Meijeren (FVD) en enkele andere Kamerleden - waaronder zogenaamde oppos...

De geschiedenis van de piñata

De piñata is een groot onderdeel de Mexicaanse cultuur. De eerste platen van piñata's komen echter niet uit Mexico of zelfs S...

Column Frits Bosch: Sancties financieren Poetins oorlog

Binnen enkele dagen na de invasie van Vladimir Poetin in Oekraïne, leek het financiële systeem van Rusland op instorten te st...

Kamerplanten verpotten doe je zo

Heb je jouw kamerplanten al jaren in dezelfde bloempot zitten? Voor een gezonde én gelukkige kamerplant is het essentieel om...

Lees meer

Net binnen

Filmpje! Gideon van Meijeren (FVD) staat ferm in de Tweede Kamer: 'Ik vind Jaap van Dissel corrupt'

In de Tweede Kamer was er een clash tussen Gideon van Meijeren (FVD) en enkele andere Kamerleden - waaronder zogenaamde oppos...

Column Frits Bosch: Sancties financieren Poetins oorlog

Binnen enkele dagen na de invasie van Vladimir Poetin in Oekraïne, leek het financiële systeem van Rusland op instorten te st...

Kamerplanten verpotten doe je zo

Heb je jouw kamerplanten al jaren in dezelfde bloempot zitten? Voor een gezonde én gelukkige kamerplant is het essentieel om...

Weer mislukte poging Extinction Rebellion om iets voor elkaar te krijgen, politie pakt 76 demonstranten op

De politie heeft vandaag 76 demonstranten aangehouden bij een klimaatactie in het centrum van Rotterdam. Klimaatactivisten va...

De geschiedenis van de piñata

De piñata is een groot onderdeel de Mexicaanse cultuur. De eerste platen van piñata's komen echter niet uit Mexico of zelfs S...

Lees meer