Holandia: W ramach walki z dyskryminacją i wykluczeniem rusza... monitoring algorytmów

Holandia

Organ specjalizujący się w ochronie danych, Autoriteit Persoonsgegevens (AP), rozpoczął monitorowanie wykorzystania algorytmów w ramach rządowego programu zapobiegania dyskryminacji i wykluczeniu.

Zarówno przedsiębiorstwa, jak i urzędy stosują algorytmy, na przykład przy selekcji kandydatów do pracy lub przy podejmowaniu decyzji, czy dana osoba powinna zostać zbadana pod kątem oszustwa na podstawie określonych czynników.

„Algorytmy są coraz częściej wykorzystywane do selekcjonowania ludzi, ale jeśli zostaną źle zaprogramowane, mogą być niebezpieczne” – w rozmowie ze stacją NOS, powiedział dyrektor AP, Aleid Wolfsen.



Dodał przy tym, że skandal związany z zasiłkami na dzieci, który wybuchł w 2020 roku, jest tego przykładem. W latach 2004-2019 tysiące rodziców zostało niesłusznie uznanych za oszustów. Podwójne obywatelstwo było jednym ze wskaźników potencjalnego ryzyka oszustwa, a dane osób posiadających podwójne obywatelstwo były przetwarzane w sposób niezgodny z prawem i dyskryminujący.

Innym przykładem jest rządowy program wykrywania oszustw SyRI, który okazał się łamać prawa człowieka.


21.01.2023 Niedziela.NL // fot. Shutterstock, Inc.

(kk)