Blik op de toekomst! Computer voorspelt agressie en kans op zelfmoordpoging, maar wat is het risico?

Blik op de toekomst! Computer voorspelt agressie en kans op zelfmoordpoging, maar wat is het risico?

In dit artikel wordt lovend gesproken over algoritmes en hoe zij ziekenhuispersoneel ondersteunen met het voorspellen van agressie van een patiënt en of hij bijvoorbeeld een zelfmoordpoging gaat doen. Klinkt goed maar hier zit een keerzijde aan!

Er wordt bij diverse ziekenhuizen geëxperimenteerd met een algoritme (of eigenlijk een meervoud ervan), die risico-analyses maakt. Kans op agressie of zelfmoordpoging, zwangerschapsdiabetes of algemene stabiliteit van een patiënt. Dit doet het doorgaans beter dan ervaren artsen en behandelaars.

Op basis van text mining: dossiers met lappen tekst scannen op sleutelwoorden binnen een bepaalde context, maakt zo'n algoritme een kansberekening. Dit ligt natuurlijk veel complexer want bepaalde woorden hebben een minimaal effect op de uiteindelijke berekening en sommige context juist weer veel meer. Het artikel gaat echter voornamelijk in op positieve ontwikkelingen en mogelijke bezwaren van patiënten, want wie laat zich nou door een computer vertellen dat hij straks in de behandelkamer agressief kan worden?

Het probleem zit hem in het feit dat deze kunstmatige intelligentie, straks veel meer kan meten en analyseren, met een grotere nauwkeurigheid. Verzekeraars zijn hier natuurlijk zéér in geïnteresseerd! Het is nogal wat dat je straks met een hoog zekerheidspercentage in kunt schatten dat iemand een dure klant wordt of juist erg goedkoop!

In de Verenigde Staten hebben ze al met kunstmatige intelligentie de criminaliteit in bepaalde wijken met zo'n 80 procent terug weten te dringen. De strekking was dat een deel van een wijk op bepaalde tijdstippen een verhoogd risico op criminaliteit had. Een politieauto volgde het algoritme en patrouilleerde in dat deel van de wijk op het juist aangegeven moment. Er werd geen crimineel tegengehouden, maar door de aanwezigheid van de agenten was er geen sprake van criminaliteit! Klinkt prima toch?

Maar wat als een verzekeraar of werkgever op basis van jouw geslacht, leeftijd, woonsituatie, inkomen etc. gaat bepalen dat jij een veel hoger risico met je meedraagt? Gaat dat opgelost worden met een wetje dat zegt: 'Dat mag je niet doen hoor'? Gaat een overheidsinitiatief dergelijke risicogroepen proberen terug te dringen? Succes daarmee! En waarom moet straks een collega nog accepteren dat jij rookt en het bedrijf daarmee in de problemen kan brengen als je langdurig ziek wordt? Misschien moet je maar niet meer op ski-vakantie als je ieder jaar toch je been breekt en je collega's en werkgever voor de lasten laat opdraaien?

Dit gaat geheid voor problemen zorgen en het antwoord ligt écht niet bij een goed geformuleerde wet.

Een oproep van de redactie: door de coronacrisis heeft DDS het, net als veel andere websites, ontzettend lastig. Wij willen alles gratis leesbaar houden voor iedereen, waardoor we voor onze inkomsten afhankelijk zijn van reclame. Maar bedrijven hebben financiële zorgen, en hebben dus niet veel te makken. Daar merken wij de gevolgen ook van. Vandaar onze oproep aan u, onze lezers: steun ons alsjeblieft! Via het betrouwbare Nederlandse BackMe-systeem kunt u maandelijks óf eenmalig doneren. Doe dat alstublieft, en help DDS in de lucht te blijven!

Plaats reactie

666

0 reacties

Laad meer reacties

Je bekijkt nu de reacties waarvoor je een notificatie hebt ontvangen, wil je alle reacties bij dit artikel zien, klik dan op onderstaande knop.

Bekijk alle reacties