#38 Denkfouten en fraude-profielen

8 jun.

1 juni 2019

Op de site van RTL Nieuws staat het verhaal van Fatma. Haar toeslag voor de kinderopvang werd stopgezet. De toeslag die ze eerder kreeg werd een schuld en er werd beslag gelegd op haar loon. Fatma raakte haar tweede baan kwijt, omdat ze geen oppas kon krijgen voor haar kinderen. En als ze naar de rechter gaat, moet ze procederen tot aan de Raad van State voor ze gelijk krijgt. Fatma’s verhaal staat in de context van het onderzoek naar het vermoeden dat mensen met een tweede nationaliteit op grote schaal slachtoffer werden van ‘etnisch profileren’.

Zodra de gevolgen van een fout zelf weer statistieken worden en meegaan in de volgende risico-inschatting, versterken ze weer de kans op een nieuwe verkeerde conclusie. Terwijl de werkelijke oorzaak de fout van de Belastingdienst is.Etnisch profileren is selecteren op zichtbare minderheden. Dat mag niet. We ervaren het als onrechtvaardig om als individu te worden afgerekend op kenmerken van een groep. En het gelijkstellen van samenhang met oorzaak is een typische denkfout. De Amerikaanse staat Illinois stuurde ooit bijna naar ieder kind boeken, omdat kinderen uit een huis met veel boeken betere studieprestaties hebben. Maar ook kinderen die helemaal niet in die boeken keken bleken betere studieprestaties te hebben. De werkelijke oorzaak, van zowel veel boeken als goed leren, ligt waarschijnlijk bij de ouders.

Het risico op dit soort denkfouten is inherent aan werken met fraude-profielen. En dat doet de Belastingdienst sinds 2013. Want een toeslag krijg je als voorschot. En dat is een volautomatisch proces. Maar de Bulgarenfraude uit 2013 maakte duidelijk dat zo’n toeslag achteraf niet altijd is terug te vorderen. De reactie daarop was om met een algoritme de mensen te selecteren die misschien fraude plegen. De vraag is nu: is daar sprake van etnisch profileren?
Die etniciteit kan de Belastingdienst min of meer afleiden uit de tweede nationaliteit van mensen. Een vreemde nationaliteit werd, om heel andere redenen, tot 2015 bijgehouden in het bevolkingsregister. En de Belastingdienst krijgt die gegevens automatisch.

Die fout – of nu blijkt dat het om etnisch profileren ging of niet – is signalen niet zien voor wat ze zijn: vermoedens die aanleiding kunnen zijn voor onderzoek, geen feiten op basis waarvan je iemands leven overhoop kunt halen.Wat het verhaal zo leerzaam maakt is dat het een paar ideeën die vaak abstract blijven zo duidelijk maakt. Eén daarvan is bias – hoe onze vooroordelen in data terugkomen – en zelfversterkend werken. Fatma verliest haar baan. En ze heeft opeens duizenden euro’s schuld. Dit zijn eerst alleen gevolgen van een verkeerde conclusie op basis van een risico-inschatting. Maar zodra die gevolgen statistieken worden en meegaan in de volgende risico-inschatting, versterken ze weer de kans op een verkeerde conclusie. De werkelijke oorzaak is de fout van de Belastingdienst.

Die fout – of nu blijkt dat het om etnisch profileren ging of niet – is signalen niet zien voor wat ze zijn: vermoedens die aanleiding kunnen zijn voor onderzoek, geen feiten op basis waarvan je iemands leven overhoop kunt halen. Want hier gaat het om een vreemde nationaliteit, waardoor heel duidelijk kan blijken dat er sprake is van etnisch profileren. Vaker is dit subtieler en vaker is dit breder dan alleen etniciteit.

Arjan Widlak

Arjan Widlak is directeur en onderzoeker bij Stichting Kafkabrigade, die organisatie die onnodige bureaucratie opspoort en oplost. Arjan publiceert regelmatig over de impact van informatietechnologie op het openbaar bestuur.

Deze column verscheen op:

1 juni 2019 in het Financieele Dagblad

31 juli 2019 op iBestuur.nl