‘Groningen loopt hard van stapel met genAI’

De Ethische Commissie Data en Technologie van de gemeente Groningen constateert dat de huidige inzet van generatieve AI schuurt met een aantal waarden, zoals eerder opgesteld in het Ethisch afwegingskader. De gemeente loopt wat te hard van stapel, concludeert de commissie: ‘Eigenlijk zit de gemeente nog in een verkennende fase, maar ondertussen worden er al stappen gezet in de uitvoering.’

Uitstroom opvangen

De gemeente Groningen is bezig met een modernisering van de bedrijfsvoering. De inzet van generatieve AI biedt kansen met de oog op de verwachte uitstroom door pensioengerechtigden de komende jaren, maar dat moet wel op een verantwoorde en veilige manier gebeuren. Mede daarom vroeg het college van B&W om advies aan de ethische commissie.

Concreet onderzoekt de gemeente op dit moment of Microsoft’s Copilot als digitale assistent integraal onderdeel kan worden van het nieuwe Officepakket dat wordt uitgerold. Met M365 worden verschillende Office-applicaties binnen de gemeente Groningen met elkaar verbonden. Voor de transitie naar M365 is een meerjarig programma opgericht met daaronder allerlei projecten.
 

Copilot wordt door de gemeente als veilig beschouwd vanwege de contractuele afspraken met Microsoft. Alternatieve vormen van generatieve AI, zoals ChatGPT, zijn (nog) niet expliciet verboden, maar het gebruik van Copilot wordt aanbevolen.

Plannen 'schuren'

De ethische commissie stelt in haar advies dat de plannen van de gemeente ‘schuren’ met een aantal eerder opgestelde publieke waarden in het Groningse afwegingskader. Wordt wel voldoende voorbij de hype van generatieve AI gekeken? En is de basis, zoals databeheer, wel voldoende op orde om het potentieel van generatieve AI volledig te benutten? Dat schuurt met het uitgangspunt uit het Ethisch afwegingskader: ‘De gemeente laat zich niet meeslepen door hypes, kijkt nuchter naar wat er nodig is en durft nieuwe oplossingen kritisch te bevragen’.

Grip op technologie

‘Hoe zit het met de omkeerbaarheid van werkprocessen wanneer Copilot wordt geïntegreerd? Kunnen medewerkers voldoende begrijpen wat Copilot precies doet wanneer ze assisteert – en daarmee eigenaarschap over hun werk houden? En hoe wordt bepaald wanneer ze wel of niet zou moeten worden ingezet?’ Groningers moeten er op kunnen vertrouwen dat de gemeente grip heeft op de gebruikte technologie, aldus de commissie.

Groningers mogen er ook op kunnen vertrouwen technische oplossingen de burgers ten goede komen. ‘Is er voldoende zicht op hoe het gebruik van Copilot de interactie met inwoners kan beïnvloeden? En is Copilot voor alle medewerkers toegankelijk genoeg, of versnelt het de scheiding tussen digitaal vaardige ‘cans’ en ‘cannots’?’ Hiernaast vraagt de commissie zich af of voldoende duidelijk is hoe groot de ecologische impact van het gebruiken van generatieve AI, zoals Copilot, is. En of de privacy van Groningers wel goed gewaarborgd is als alternatieven voor Copilot (zoals ChatGPT, Claude of Bard) nog steeds gebruikt mogen worden door medewerkers.

Beste middel?

De gemeente loopt te hard van stapel, oordeelt de commissie. Eigenlijk zit de gemeente nog in een verkennende fase, maar ondertussen worden er al stappen gezet in de uitvoering. Heeft de gemeente wel een duidelijk doel voor ogen en is Copilot het beste middel om dat te bereiken?

Op organisatieniveau bestaat volgens de commissie geen duidelijk standpunt in over de inzet van generatieve AI. ‘Op dit moment lijkt de verantwoordelijkheid voor het inzetten van generatieve AI vooral bij de medewerkers te liggen. De organisatie blijft echter primair aansprakelijk wanneer er iets misgaat.’

Ten slotte adviseert de commissie een exitstrategie te formuleren. Kan de inzet van GenAI in bepaalde werkprocessen op een gegeven moment nog teruggedraaid worden? Ook moet nagedacht worden over de grotere afhankelijkheid van Microsoft.