De gemeente Haarlemmermeer wil Microsoft 365 Copilot inzetten, maar kan daar volgens de Autoriteit Persoonsgegevens (AP) niet zomaar mee beginnen. De manier waarop de gemeente het gebruik van Copilot heeft voorgelegd aan de privacytoezichthouder, zou inbreuk maken op de privacywet AVG. Eerst zijn aanvullende maatregelen nodig.
AP: Haarlemmermeer moet maatregelen nemen voor Copilot-gebruik
De aanpak van Haarlemmermeer kan als proactief worden beschouwd: de gemeente krijgt lof voor de openheid die wordt geboden.
De gemeente Haarlemmermeer vroeg de AP om advies over het voorgenomen gebruik van Microsoft 365 Copilot. Dat gebeurde via een zogenoemde voorafgaande raadpleging. Een organisatie kan zo'n procedure starten wanneer uit een privacyrisicoanalyse, een DPIA, blijkt dat een verwerking van persoonsgegevens hoge risico's oplevert die niet voldoende kunnen worden beperkt.
Proactieve houding
De aanpak van Haarlemmermeer kan als proactief worden beschouwd. De gemeente besloot niet simpelweg met Copilot aan de slag te gaan, maar legde de voorgenomen verwerking voor aan de privacytoezichthouder. De AP merkt in het advies bovendien op dat het positief is dat de gemeente met een kleinschalige pilot wilde beginnen, in plaats van een dergelijke complexe verwerking direct voor de hele organisatie uit te rollen. Ook een pilot moet echter aan de AVG voldoen.
Strategisch adviseur Digitalisering & Overheid Maarten Koningsveld complimenteert op LinkedInzowel Haarlemmermeer als de AP 'voor de openheid en manier waarop ze hier mee om gaan'. Volgens hem biedt het advies een waardevol referentiekader waar ook andere gemeenten, provincies, waterschappen en bestuursorganen van kunnen leren.
Eerst aanvullende maatregelen
De conclusie van de AP over de voorgenomen verwerking is duidelijk: zoals Haarlemmermeer die heeft beschreven, zou deze inbreuk maken op de AVG. De gemeente moet daarom aanvullende maatregelen nemen. Ook moet zij proberen meer duidelijkheid van Microsoft te krijgen. Als Microsoft onvoldoende meewerkt, kan de gemeente de diensten volgens de AP niet op een rechtmatige manier gebruiken.
Een belangrijk deel van het advies gaat niet alleen over Copilot, maar over voorwaarden voor het gebruik van generatieve AI in het algemeen. De boodschap: voordat een organisatie ermee begint, moeten de informatiebeveiliging en de omgang met gegevens op orde zijn.
Een organisatie moet bijvoorbeeld weten welke persoonsgegevens zij verwerkt en waar die staan. Ook moet duidelijk zijn welke medewerkers toegang hebben tot welke informatie. Het kan nodig zijn om documenten te controleren en te labelen, zodat informatie die niet door AI mag worden verwerkt ook daadwerkelijk buiten bereik blijft.
Dat is bij Copilot extra belangrijk. Volgens de informatie die de gemeente aan de AP heeft verstrekt, heeft Copilot toegang tot alle gegevens waartoe een gebruiker toegang heeft. Als die toegangsrechten niet goed zijn ingericht, heeft dat dus gevolgen voor de informatie die Copilot kan verwerken.
Waarvoor wil je AI gebruiken?
De AP is ook kritisch over het doel waarvoor Haarlemmermeer Copilot wil inzetten. De omschrijving 'het ondersteunen van de medewerker' is volgens de toezichthouder te vaag en te algemeen. Een organisatie moet vooraf duidelijk bepalen waarvoor zij generatieve AI wil gebruiken. Dat doel bepaalt vervolgens welke persoonsgegevens daarvoor echt nodig zijn en tot welke informatie het AI-systeem toegang moet krijgen.
Mensen moeten blijven controleren
Ook de betrouwbaarheid van de antwoorden van generatieve AI is een aandachtspunt. Een AI-systeem kan onjuiste informatie genereren die wel geloofwaardig klinkt. Medewerkers moeten daarom voldoende kennis én tijd hebben om antwoorden te controleren.
Dat wordt nog belangrijker wanneer AI wordt gebruikt in processen waarin besluiten over mensen worden genomen. Haarlemmermeer wilde Copilot onder meer inzetten voor ondersteuning van het Klantcontactcentrum en voor efficiencywinst bij bezwaar en beroep.
De AP waarschuwt voor het risico dat AI daarbij een te grote rol krijgt in de besluitvorming. Menselijke tussenkomst moet daadwerkelijk betekenisvol blijven. Medewerkers moeten daarom begrijpen hoe het systeem werkt, welke risico's eraan verbonden zijn en hoe zij de uitkomsten moeten beoordelen.
Vier hoge risico's
In de risicoanalyse waarop Haarlemmermeer zich mede baseert, staan vier hoge resterende risico's. Die gaan onder meer over de mogelijkheid van mensen om hun privacyrechten uit te oefenen, de gevolgen van onjuiste persoonsgegevens die door AI worden gegenereerd en een gebrek aan duidelijkheid over bepaalde gegevens die Microsoft bij het gebruik van Copilot verwerkt en hoe lang die worden bewaard.
Volgens de AP ontslaat een gebrek aan duidelijkheid van Microsoft de gemeente niet van haar eigen verantwoordelijkheid om aan de AVG te voldoen. Haarlemmermeer moet daarom niet starten met Copilot voordat voldoende maatregelen zijn genomen om duidelijkheid te krijgen over deze gegevens en de bewaartermijnen. Het advies is niet automatisch van toepassing op iedere gemeente of overheidsorganisatie. Andere organisaties moeten zelf beoordelen of hun situatie vergelijkbaar is en hun eigen afweging maken.
Juist door de voorgenomen inzet aan de AP voor te leggen, heeft Haarlemmermeer wel duidelijkheid verkregen die ook voor anderen relevant kan zijn. Koningsveld noemt het advies een 'heel waardevol referentiekader'. 'Succesvolle inzet van AI begint niet bij technologie, maar bij goed informatiebeheer, duidelijke governance en een organisatie die weet hoe zij met informatie omgaat.'
Plaats als eerste een reactie
U moet ingelogd zijn om een reactie te kunnen plaatsen.