Waarschuwing! Algoritmes bij reclassering werken te goed: ‘zorgen voor etnisch profileren’

Juridisch onderzoeker Gijs van Dijck maakt zich zorgen over een algoritme dat de reclassering gebruikt. Het ding werkt namelijk iets té goed, en werkt etnisch profileren in de hand. En in de wetenschap werkt het natuurlijk zo dat wanneer de uitkomst van een goed rekenmodel je niet bevalt, je moet zorgen voor een ander rekenmodel. Eentje die minder goed werkt…
Het gaat hier om een algoritme dat is ontwikkeld door de Universiteit van Oxford. Het is bedoeld om de kans op recidive mee te berekenen, dus om te voorspellen hoe groot het herhalingsrisico is. En ja, dan neem je natuurlijk zoveel mogelijk factoren mee die hierbij meewegen: leeftijd, opleidingsniveau, inkomen, alcohol- en drugsgebruik, omgeving, criminaliteitscijfers van die buurt, bijstandsuitkeringen etc. En laat daardoor nou verrassend vaak bepaalde groepen in terug te zien zijn! Een behoorlijke oververtegenwoordiging, terwijl factoren als etniciteit, nationaliteit of huidskleur niet door het algoritme worden meegenomen. Ook de foutmarges zijn volgens de reclassering ‘voldoende betrouwbaar en wetenschappelijk onderbouwd’.

Waar het dus op neerkomt is dat een algoritme, zonder te kijken naar uiterlijke kenmerken, maar puur naar zaken als iemands gedrag, verleden, omgeving en leefsituatie, vrijwel tot dezelfde conclusie komt als mensen die de beschuldiging van ‘etnisch profileren’ naar zich toegeworpen krijgen.

Altijd maar weer die vervelende racistische, discriminerende algoritmen, die zijn gemaakt door witte mannen op een witte universiteit in een land met een koloniale geschiedenis en een slavernijverleden. Potverdikkie zeg!

 


Waardeer jij de artikelen op DagelijkseStandaard.nl? Volg ons dan op Twitter!

In dit artikel

Wie op onze website reageert, gaat akkoord met ons huisreglement.

Reacties

6 reacties

  1. RPML

    Garbage in = garbage out geldt voor iedere data-collectie, hier dus ook; rest alleen nog de definitie van garbage

  2. RvdBe

    Discriminatie nu ook al in algoritmes doorgedrongen.
    Neem aan dat deze verboden gaan worden, het gif moet eruit!

  3. Original NL

    Q..Gijs van dijk maakt zich zorgen……
    Waarover gijs, dat hierdoor blijkt dat gekleurde minderheden sneller weer in de fout gaan?!
    Oh..dat strookt niet met de deugfabeltjes van linkse moraalridders en daarom moet het onder het tapijt…juist ja.
    Next…Nexit!

    1. Blitzkrieg

      Original NL :
      Quote : “Q..Gijs van dijk maakt zich zorgen……”
      Ik maak me zeker zorgen, wil niet leven in een wereld gerunt door algoritmes zonder menselijke maat. Oordeel een ander, zoals jezelf beoordeeld wilt worden. Dit is het begin van de afgrond. Algoritmes zijn fantastisch in het opsporen van criminelen maar ook in het onmogelijk maken van een normaal dagelijks leven, kijk uit wat je wenst!!!

  4. Nexit218

    Maar snap het niet, eerst creëer je die hele gangster cultuur. En dan ga je janken?

  5. 56RdK

    “Altijd maar weer die vervelende racistische, discriminerende algoritmen, die zijn gemaakt door witte mannen op een witte universiteit in een land met een koloniale geschiedenis en een slavernijverleden. Potverdikkie zeg!”

    Inderdaad, dus laat je de samenleving over aan parasieten, ontspoorden, gestoorden, criminelen omdat maatregelen met het deug dienen te rijmen. Wars van enig realisme dus.

    Daarom heeft de politie ook hier geen respect meer, moeten ze zich alles over zich heen laten komen, maar let wel, alléén waar het allochtonen betreft, krijgen daarbij geen rugdekking van hun meerderen, kunnen gewone Nederlanders door zogenaamde vluchtelingen worden omgebracht of worden bedreigd, kan een stadswijk een no-go area worden, kunnen er jarenlang tevergeefs tientallen miljoenen in oneindig diepe integratieputten worden gestopt, kunnen toezichthouders die fraude vaststellen bij allochtonen in de hoogste boom worden opgeknoopt, staan onze vrijheden en veiligheid danig onder druk, niet alleen door toedoen vanuit de zwarte parasitieve gemeenschap maar ook vanuit de hier alom gefaciliteerde satanische ideologie, de islam.

e-mail:

 
Ja, ik ga ermee akkoord dat Dagelijkse Standaard mij incidenteel commerciële emails stuurt.