Als je wilt weten wat de invloed is van een dienst op mensenrechten, dan schrijf je een ‘HRIA’, een Human Rights Impact Assessment. De rijksoverheid heeft al een eigen model ontwikkeld voor het analyseren van de mensenrechten impact van een algoritme, het IAMA-model. Aan de hand van dit model heeft Privacy Company voor het ministerie van Binnenlandse Zaken een analyse gedaan op de mensenrechtenimpact van het gebruik van Facebook Pages door de rijksoverheid. Privacy Company heeft ook een ‘DPIA’ uitgevoerd, een Data Protection Impact Assessment. Beide rapporten zijn nu gepubliceerd. Zowel de HRIA als de DPIA zijn nu gepubliceerd op rijksoverheid.nl
De HRIA kijkt naar vier soorten mensenrechten:
Bij deze HRIA was het een probleem dat Facebook geen inzicht gaf in de algoritmes die ze inzet en in de data die ze daarbij gebruikt. Privacy Company moest dus van buitenaf observeren. Daardoor was het bij veel mensenrechten onmogelijk om een harde uitspraak doen over de impact. Privacy Company kon wel aantonen dat er mogelijk een impact is en beschrijft manieren om die impact in samenwerking met Facebook te meten.
De HRIA identificeert vier manieren waarop het gebruik van Facebook Pages door de overheid een impact kan hebben op de mensenrechten:
Uit het onderzoek bleek dat Facebook bepaalde meningen bevoordeelt boven andere. Ook biedt Facebook onvoldoende mogelijkheden om haar acties uit te leggen en te corrigeren. De andere twee manieren kon Privacy Company niet uitsluiten maar ook niet bewijzen. Daarvoor is Facebook niet transparant genoeg. Al met al is er daarmee een groot risico op schendingen van mensenrechten als de rijksoverheid Facebook Pages gebruikt.
Privacy Company heeft veel ervaring met onderzoek naar de privacyrisico's van diensten, in DPIA's. Dit is de eerste keer dat Privacy Company een grondige analyse heeft gedaan van de mensenrechtenimpact van een dienst. Het Rijksmodel IAMA was een goed startpunt, maar bleek in de praktijk onvolledig. Daarom heeft Privacy Company dit model uitgebreid met een analysekader voor de manieren waarop een dienst impact kan hebben op mensenrechten. Een HRIA geeft daarmee goed zicht op hoe je een dienst verantwoord in kan zetten.
Wij publiceren deze blog over onze bevindingen met toestemming van het Ministerie van Binnenlandse Zaken en Koninkrijksrelaties. Voor vragen over het onderzoek kunt u contact opnemen met de perswoordvoering van het ministerie, Thomas van Oortmerssen 06 31 01 97 81.
Wil jij meer weten over de inzet van HRIA’s en het IAMA model, neem dan contact op met: Winfried Tilanus.