Tech for Society: Algoritmische besluitvorming

Wie krijgt gelijk als het algoritme het fout heeft? En hoe weten we überhaupt dat er iets fout kán zijn? Neem de parkeercontrole. De scanauto herkent kentekens met een nauwkeurigheid van 99,8 procent. Dat klinkt geruststellend, tot je het vermenigvuldigt met 375 miljoen scans per jaar. Dan blijven er honderdduizenden onterechte boetes over. Allemaal keurig per post bezorgd, met een betaaltermijn die gewoon doorloopt. Het is een bekend patroon, van de Belastingdienst tot je bank, ze gebruiken allemaal algoritmen om efficiënter te werken. En met een goede reden, het bestrijden van misdaad, fraude, misbruik. Maar wat zijn de gevolgen voor de mensen die onterecht worden beschuldigd? Hoe komen we hieruit? En hoe winnen we de menselijke maat terug?

Met in dit programma:

• Sven Stevenson, Directeur Directie Coördinatie Algoritmes, AP
• Karien Sondervan, Directeur Cybersoek
• Marloes Pomp, Projectleider blockchainpilots bij de overheid
• Munish Ramlal, Ombudsman, Metropool Amsterdam
• Mariëtte van Huijstee, Coördinator bij Rathenau Institute
• Lilian de Jong, Toekomstonderzoeker Stichting Toekomstbeeld der Techniek

Als een overheid of een bedrijf algoritmische besluitvorming inzet, laat zij de computer besluiten nemen of voorbereiden. Vaak kijkt daarbij een mens mee. De computer volgt regels, en de mens ziet alleen wat de computer laat zien, vaak alleen de uitkomst.

Deze avond maken we naar aanleiding van de themastudie van de Autoriteit Persoonsgegevens ‘Inzet van scanauto’s voor parkeerhandhaving’ (zie leeslijst). Dit is slechts één voorbeeld van vele. In de leeslijst hieronder staan nieuwsberichten over computers die foute beslissingen nemen en mensen die niet ingrijpen, van het toeslagenschandaal tot een verkeerd afgestelde flitspaal in 2017. We bespreken de bevindingen uit de studie, de gevolgen voor mensen en waarom dit geen uniek voorbeeld is.

In het eerste panel verkennen we hoe algoritmische besluitvorming werkt, op basis van welke instructies en van wie, waar de mens in de keten zit, en wie het raakt als het misgaat. Daarna bespreken we wat we hier eigenlijk van vinden, welke keuzes we kunnen en moeten maken, en hoe we onze samenleving weerbaar maken en onze fundamentele rechten beschermen. Het publiek kan de hele avond meepraten.

Klik hier voor meer informatie en om aan te melden.

Dit programma is gemaakt door Servaz van Berkum voor |DTAM| in samenwerking met Autoriteit Persoonsgegevens en Pakhuis de Zwijger.