'Niet Big Brother, maar Kafka dreigt'

Door de steeds verdergaande geautomatiseerde verwerking van gegevens over burgers is de rechtsstaat in het geding. Papieren wetten kunnen manipulatie met door computers gegenereerde profielen niet voorkomen. Dat betoogt prof. Mireille Hildebrandt, hoogleraar ICT en Rechtsstaat in Nijmegen, in haar oratie vandaag. Alleen de overheid zelf kan ons beschermen.

Profielen
Hildebrandts specifieke belangstelling gaat uit naar het heimelijke rekenen met (en correleren van) gegevens die overheid en bedrijfsleven voorturend over burgers opslaan – ook wel ‘data mining’ genoemd. Er is in ‘cyberspace’ een infrastructuur ontstaan die op geaggregeerd niveau allerlei slimme, dynamische profielen mogelijk maakt van gebruikers, burgers, consumenten, belastingbetalers, verzekeringnemers, reizigers of patiënten. Deze profielen bieden ongekende kansen en mogelijkheden en dito onzekerheden.

Patronen
Hildebrandt geeft desgevraagd als voorbeeld de Risicoverwijsindex in de jeugdzorg. “Ik ben betrokken geweest bij de Onderzoeksschool Maatschappelijke Veiligheid, die is geboren uit longitudinaal onderzoek met gegevens van voor de geboorte, van consultatiebureaus, creches en scholen. De gedachte was het zoeken naar patronen om bijvoorbeeld te zien wie er crimineel wordt. Daar zitten een heleboel haken en ogen aan.” En ander voorbeeld is Google, die niets prijsgeeft over hoe het bedrijf precies tot zijn zoekresultaten komt en wat er met onze zoekgegevens gebeurt.

Kafka

Het gevaar schuilt volgens Hildebrandt niet in 'mechanische' gegevensverwerking zoals die van Belastingdienst, studiefinanciering of het CJIB, maar in zelflerende, proactieve computersystemen, waarachter een logica schuilgaat waar de burger geen vinger achter krijgt. Niet ‘Big Brother’ van George Orwell bedreigt ons, maar eerder een situatie waarin de hoofdpersoon van Kafka’s ‘Het Proces’ belandt. Hildebrandt is ook niet bezorgd over de directe belangstelling die overheid of bedrijfsleven voor haar persoonlijk hebben, “maar in personen zoáls ik. Als ze mij maar kunnen matchen met een profiel, kunnen ze mij al manipuleren. Dan valt al het grootste deel van de bescherming weg. Er is een anonieme infrastructuur om ons heen, die ervoor zorgt dat al mijn handelingen van nu kunnen worden opgeslagen, en over tien jaar gecorreleerd kunnen worden met patronen die we nu nog niet kunnen verzinnen. Het kafkaeske zit in het feit dat je die patronen niet kunt voorzien.”

Overheid

Hildebrandt zegt geen doemdenker te willen zijn, al kunnen papieren wetten nauwelijks iets doen aan deze ontwikkeling. De overheid zou een grotere rol kunnen spelen. Bijvoorbeeld door het College Bescherming Persoonsgegevens groter te maken of in ieder geval aan te passen aan de realiteit. “Dus veel ICT-mensen binnenhalen, mensen die goed in dat machinaal leren zitten. En toch goed overleggen met het bedrijfsleven, want je moet het belang van het bedrijfsleven niet uit het oog verliezen. Overheid en bedrijfsleven proberen gewoon zo handig mogelijk hun werk te doen.”