of 59965 LinkedIn

'Niet Big Brother, maar Kafka dreigt'

De rechtsstaat is in het geding door zelflerende computersystemen die profielen van ons maken, stelt prof. Mireille Hildebrandt in haar oratie.

Door de steeds verdergaande geautomatiseerde verwerking van gegevens over burgers is de rechtsstaat in het geding. Papieren wetten kunnen manipulatie met door computers gegenereerde profielen niet voorkomen. Dat betoogt prof. Mireille Hildebrandt, hoogleraar ICT en Rechtsstaat in Nijmegen, in haar oratie vandaag. Alleen de overheid zelf kan ons beschermen.

Profielen
Hildebrandts specifieke belangstelling gaat uit naar het heimelijke rekenen met (en correleren van) gegevens die overheid en bedrijfsleven voorturend over burgers opslaan – ook wel ‘data mining’ genoemd. Er is in ‘cyberspace’ een infrastructuur ontstaan die op geaggregeerd niveau allerlei slimme, dynamische profielen mogelijk maakt van gebruikers, burgers, consumenten, belastingbetalers, verzekeringnemers, reizigers of patiënten. Deze profielen bieden ongekende kansen en mogelijkheden en dito onzekerheden.

Patronen
Hildebrandt geeft desgevraagd als voorbeeld de Risicoverwijsindex in de jeugdzorg. “Ik ben betrokken geweest bij de Onderzoeksschool Maatschappelijke Veiligheid, die is geboren uit longitudinaal onderzoek met gegevens van voor de geboorte, van consultatiebureaus, creches en scholen. De gedachte was het zoeken naar patronen om bijvoorbeeld te zien wie er crimineel wordt. Daar zitten een heleboel haken en ogen aan.” En ander voorbeeld is Google, die niets prijsgeeft over hoe het bedrijf precies tot zijn zoekresultaten komt en wat er met onze zoekgegevens gebeurt.

Kafka

Het gevaar schuilt volgens Hildebrandt niet in 'mechanische' gegevensverwerking zoals die van Belastingdienst, studiefinanciering of het CJIB, maar in zelflerende, proactieve computersystemen, waarachter een logica schuilgaat waar de burger geen vinger achter krijgt. Niet ‘Big Brother’ van George Orwell bedreigt ons, maar eerder een situatie waarin de hoofdpersoon van Kafka’s ‘Het Proces’ belandt. Hildebrandt is ook niet bezorgd over de directe belangstelling die overheid of bedrijfsleven voor haar persoonlijk hebben, “maar in personen zoáls ik. Als ze mij maar kunnen matchen met een profiel, kunnen ze mij al manipuleren. Dan valt al het grootste deel van de bescherming weg. Er is een anonieme infrastructuur om ons heen, die ervoor zorgt dat al mijn handelingen van nu kunnen worden opgeslagen, en over tien jaar gecorreleerd kunnen worden met patronen die we nu nog niet kunnen verzinnen. Het kafkaeske zit in het feit dat je die patronen niet kunt voorzien.”

Overheid

Hildebrandt zegt geen doemdenker te willen zijn, al kunnen papieren wetten nauwelijks iets doen aan deze ontwikkeling. De overheid zou een grotere rol kunnen spelen. Bijvoorbeeld door het College Bescherming Persoonsgegevens groter te maken of in ieder geval aan te passen aan de realiteit. “Dus veel ICT-mensen binnenhalen, mensen die goed in dat machinaal leren zitten. En toch goed overleggen met het bedrijfsleven, want je moet het belang van het bedrijfsleven niet uit het oog verliezen. Overheid en bedrijfsleven proberen gewoon zo handig mogelijk hun werk te doen.”

Verstuur dit artikel naar Google+

Gerelateerde artikelen

Reageer op dit artikel
















Even geduld a.u.b.

Reactie op dit bericht

Door Jan Willem Broekema (voormalig vice-voorz CBP (nu consultant)) op
Professor Hildebrandt stelt volgens het artikel "Het gevaar schuilt [...] in zelflerende, proactieve computersystemen, waarachter een logica schuilgaat waar de burger geen vinger achter krijgt". Tevens geeft zij het CBP hierin een rol. Ik geloof daar niet in.

Hoewel ik pessimistisch ben over de zelfsturende rol van politiek en overheid denk ik dat een oplossing alleen kan komen van een zelfbewustzijn bij ambtenaar en politicus dat profileren een gevaarlijke vertekening kan geven als personen op basis daarvan worden beoordeeld. En dat gebeurt.

Profileren met als doel bij voorbeeld betere infrastructurele werken is logisch en prima, maar niet voor individuen. Als je niet kunt uitleggen hoe er geoordeeld is (besluit op computer-uitkomst) dan is dat volgens de Wbp dan ook niet geoorloofd. Maar de Wbp is niet het sturingsinstrument van de politiek, eerder andersom. Verantwoording nemen voor de manier waarop je individuele burgers beoordeelt is een kwestie van behoorlijk bestuur.
Door Margareth Weijers (eigenaar/redacteur) op
Ik zou dit artikel graag willen plaatsen op mijn site www.veiligleefbaar.nl. Met natuurlijk een link naar het artikel naar deze site.
met vriendelijke groet
Door Mark op
Bedrijven zijn hierin veel verder dan de overheid en beschikken over veel meer gegevens. Vanwaar de focus op overheid?
Door Dick op
Met name Kafka toestanden zie ik gebeuren.
Serie Quidam,Quidam, dat door VPRO in 2001 uitgezonden is en zich afspeelt in 2020 ,is mooi voorbeeld van het correleren / corrigeren / manipuleren om zodoende iemand te veroordelen .