Państwowa komisja: rząd musi przestać używać algorytmów do wykrywania oszustw, bo dyskryminują

Technologie / Nauka

Holenderska Państwowa Komisja ds. Dyskryminacji i Rasizmu wzywa rząd do zaprzestania stosowania algorytmów i profilowania danych przy wykrywaniu oszustw i przestępstw. Coraz więcej instytucji państwowych sięga po tego rodzaju narzędzia, jednak w praktyce prowadzą one do systematycznej dyskryminacji określonych grup społecznych.

Komisja wskazuje na dwa głośne przypadki. Pierwszy to skandal zasiłkowy toeslagenaffaire, w którym algorytm nieproporcjonalnie często typował rodziny migrantów jako oszustów. Drugi dotyczy agencji DUO, która między 2012 a 2023 rokiem skontrolowała około 10 tysięcy studentów na podstawie dyskryminującego algorytmu pod kątem rzekomych oszustw w systemie stypendialnym. Obie sprawy zakończyły się ogromnymi wypłatami odszkodowań.

Komisja podkreśla, że profilowanie algorytmiczne uderza w fundamenty państwa prawa i demokratycznego zarządzania. Według jej członków rząd powinien szukać innych metod wykrywania nadużyć, które nie opierają się na statystycznym typowaniu ludzi na podstawie ich pochodzenia lub innych chronionych cech.

08.05.2026 Niedziela.NL // fot. Shutterstock, Inc.