Wat doe je als je bij het beoordelen van verdachten moet kiezen tussen je eigen ervaring en intuïtie óf een algoritme? Wat doet een agent of bewaker als hij ’s nachts op een industrieterrein of in een villawijk opgeschoten jongens ziet rondscharrelen? Je belt de meldkamer. Toch? Enne… ben je extra alert bij jongens met een donker uiterlijk? Je intuïtie is je beste of je slechtste adviseur.
Ander geval. Je zit in de rechtbank. De rechter oordeelt over arrestanten. Voorlopige vrijlating of hechtenis? Hoe groot is de kans dat zo’n arrestant eenmaal op vrije voeten weer een misdrijf pleegt? De rechter heeft in de rechtbank álle informatie: het dossier, de verhoren en hij ziet de verdachte in levenden lijve. Werkt dat? Er is een beroemd onderzoek uit New York over maar liefst 550 duizend zaken. De rechters lieten zo’n 400 duizend van de verdachten voorlopig vrij. Onderzoekers voerden alle feiten ook in een computer. Welke 400 duizend verdachten kunnen volgens de computer naar buiten en wie niet? Let wel: de computer had alleen de kale feiten uit het dossier. Geen emoties, geen intuïtie. Alleen zo’n onpersoonlijk algoritme. Wie ging na vrijlating het vaakst in de fout? De computer won met een straatlengte voorsprong.
De collega in uniform maakt plaats voor een robot met slimme software
Laat je de computer dus alles beslissen? Was het maar zo simpel. Ik lees een artikel (Algoritmes en de menselijke maat) dat voor het tegendeel pleit: “Gebruik van algoritmes brengt grote risico’s met zich mee, zoals discriminatie en een gebrek aan transparantie. Strikte regulering is dan ook van het grootste belang.” Maar als dat tot veel foute of aanvechtbare beslissingen leidt met onnodig veel nieuwe misdrijven tot gevolg? Dankzij kunstmatige intelligentie kun je ook persoonlijke factoren meenemen, precies zoals de rechter. De collega in uniform maakt plaats voor een robot met slimme software. Discrimineert die robot écht niet? Of is zo’n rechter van alle smetten vrij? Met een druk op de knop rolt er een voorspelling uit (predictive policing). Dat doen politie en justitie nu amper. Die reageren pas als het te laat is.
Terug naar de bewaker die ’s nachts verdachte types op een afgesloten terrein ziet. Agent: “Je gaat mee naar het bureau. Handen op de rug.”
Verdachte: “Waarom? Ik heb niks gedaan. Ik mag hier toch wel lopen.”
“U hebt vaker ingebroken.”
“Ja, ik heb die straf uitgezeten.”
“Er is een kans van 86,52 procent dat je binnen een maand weer een overval pleegt.”
“Hoe weet je dat?”
“Alwetend algoritme. De computer weet meer dan wij samen. Bel je advocaat maar.”
Wat vinden we belangrijker: het recht van een verdachte op een juiste behandeling? Of het recht van de brave burger op een veilig bestaan? Dilemma’s dus…
Tekst | Charles Groenhuijsen, journalist
Reacties, suggesties? Graag!
charlesgroenhuijsen@gmail.com
www.chgroenhuijsen.com
