Juridische aspecten van algoritmen die besluiten nemen

Abstract

In our daily lives we all encounter decisions that are made with the help of algorithms. The use of algorithms creates opportunities for the fulfilment of public values and interests. Algorithms, for example, can make decision-making processes more efficient and contribute to finding solutions to various challenges in society. At the same time, the use of algorithms can involve risks and give rise to the question whether the applicable legal frameworks are future proof and able to safeguard public values and interests. Considering the above, the research question of this study is defined as follows: What opportunities and risks exist in algorithmic decision-making in relation to the protection and realization of public values and interests, and are the current legal frameworks sufficiently future proof to realize opportunities and prevent the occurrence of identified risks or mitigate the consequences of such risks? The current use of algorithms in decision-making processes and anticipated developments in the next five to ten years constitute the main focus of the study. To help answer the research question, the use of algorithms was examined in case studies in four areas selected by the WODC and the Legislation and Legal Affairs Department of the Ministry of Justice and Security in the Netherlands. These areas are content moderation, self-driving cars, the judicial system and the collection of traffic fines.

Iedereen heeft in het dagelijks leven te maken met beslissingen die worden genomen door of met behulp van algoritmen. De inzet van algoritmen kan kansen opleveren voor het verwezenlijken van publieke waarden en belangen. Zo kunnen algoritmen besluitvormingsprocessen efficiënter maken en bijdragen aan het vinden van oplossingen voor verschillende soorten maatschappelijke uitdagingen. Tegelijkertijd kan de inzet van algoritmen risico’s met zich brengen en vragen oproepen over de bestendigheid van de juridische kaders die beschikbaar zijn om publieke waarden en belangen te beschermen. De onderzoeksvraag van dit onderzoek is in dit verband als volgt gedefinieerd: Welke kansen en risico’s doen zich voor bij algoritmische besluitvorming met betrekking tot de bescherming en realisering van publieke waarden en belangen, en zijn de bestaande juridische kaders voldoende bestendig om kansen te verwezenlijken en het intreden van geïdentificeerde risico’s te voorkomen of de gevolgen daarvan te mitigeren? Centraal in het onderzoek staan de huidige toepassingen van algoritmen in besluitvormings-processen en de ontwikkelingen die in de komende vijf tot tien jaar op dat gebied te verwachten zijn. Voor de beantwoording van de onderzoeksvraag is onder meer gebruikgemaakt van casestudy’s naar de inzet van algoritmen in vier, door het WODC en de Directie Wetgeving en Juridische Zaken van het Ministerie van Justitie en Veiligheid geselecteerde domeinen: contentmoderatie, zelfrijdende auto’s, rechtspraak en overheidsincasso bij verkeersboetes. INHOUD: 1. Inleiding 2. Algoritmen: een introductie 3. Publieke waarden en belangen 4. Casestudy Contentmoderatie door online platformen 5. Casestudy Zelfrijdende auto's 6. Casestudy De rechtspraak 7. Casestudy Overheidsincasso bij verkeersboetes 8. Kansen en risico's 9. Bestendigheid van de juridische kaders 10. Conclusie