Rechtbank vraagt minister om opheldering gebruik algoritme bij afwijzing visumaanvraag
Onderzoek en toelichting
De minister krijgt de kans om de motivering van het besluit aan te vullen. De rechtbankRechtsprekend orgaan dat in eerste aanleg oordeelt over zaken zoals echtscheidingen, misdrijven, geldvorderingen, en de meeste bestuursrechtelijke geschillen. Ook wordt met het begrip rechtbank het gebouw aangeduid waarin de rechtbank zetelt. vraagt om een schriftelijke uitleg over hoe het algoritme werkt en wordt gebruikt, inclusief de verwerking van gegevens en risicoprofilering. Ook moet duidelijk worden hoe het algoritme en de ‘hits’ in het geüploade document in het dossier van de eiseres hebben meegespeeld bij de afwijzing van het visum kort verblijf. Verder vraagt de rechtbank of er al een Impact Assessment Mensenrechten en Algoritmes (IAMA) is uitgevoerd, en zo ja: door wie, met welke inhoud en welke conclusies.
Belang van het onderzoek
De rechtbank stelt dat nader onderzoek belangrijk is omdat besluitvorming transparant moet zijn. Dit vereiste geldt ook voor het gebruik van algoritmes door bestuursorganenOrganisaties die een overheidstaak uitvoeren.. De rechtbank verwijst daarbij naar de toeslagenaffaire, waarbij is gebleken dat gebruik werd gemaakt van een discriminerend algoritme. Ook wijst de rechtbank op rapportages van onder meer de Algemene Rekenkamer, de Autoriteit Persoonsgegevens en de Nationale ombudsman. Deze rapportages waarschuwen voor risico’s van discriminatie, zoals etnisch profileren, bij geautomatiseerde besluitvorming en risicoprofilering.
Aanleiding voor de zaak en oordeel rechtbank
De rechtbank doet het verzoek om onderzoek en uitleg over het gebruik van het algoritme in een zaak die is aangespannen door een Marokkaanse vrouw uit Egypte. Zij wilde tijdelijk naar Nederland komen om haar Nederlandse man te verzorgen na zijn hartaanval. In september 2023 kreeg ze geen visum kort verblijf. In bezwaarProtest van een particulier of organisatie tegen bepaald overheidshandelen. stuurde ze extra documenten en vroeg om een hoorzittingMondelinge, vaak openbare gedachtewisseling over een rechtsgeschil die vooral is bedoeld om de behandelend rechter nadere informatie te verschaffen., maar de minister wees haar bezwaar zonder hoorzitting af. Naast het oordeel over het gebruik van het algoritme, oordeelt de rechtbank dat de minister de afwijzing van de visumaanvraag onvoldoende heeft gemotiveerd. Verder oordeelt de rechtbank dat de motivering van de minister om geen hoorzitting te houden, niet deugdelijk is.
Rechtbank wil binnen vier werken reactie en houdt verdere beslissingen aan
Binnen vier weken na de tussenuitspraakUitspraak waarbij de rechter geen eindbeslissing geeft, maar bijvoorbeeld een bewijsopdracht of onderzoek beveelt waarvan de beslissing van de zaak afhankelijk kan zijn (Ook wel interlocutoir vonnis genoemd). moet de minister de motivering van haar besluit aanvullen en opheldering geven over het gebruik van het algoritme. Daarna mag de vrouw daarop reageren en zal de rechtbank partijen benaderen voor een tweede zitting. Tot die tijd houdt de rechtbank verdere beslissingen aan.