Eigen AI-assistent voor Amsterdamse ambtenaren

Ambtenaren in Amsterdam kunnen voortaan gebruikmaken van ChatAmsterdam bij het schrijven van teksten, het maken van samenvattingen en het analyseren van complexe documenten. De AI-assistent is door de gemeente zelf ontwikkeld. Gegevens die met de chatbot worden gedeeld, blijven binnen de gemeenten en worden niet gebruikt om het achterliggende taalmodel verder te trainen.

Publieke waarden

Dat achterliggende taalmodel is GPT4.0 van Open AI, het taalmodel dat ook in ChatGPT wordt gebruikt, maar ChatAmsterdam is zo opgezet dat ook (toekomstige) Europese taalmodellen kunnen worden aangesloten. De gemeente probeert de afhankelijkheid van grote bedrijven te verminderen.

Volgens wethouder Alexander Scholtes (ICT en Digitale Stad) bewijst ChatAmsterdam dat digitale vooruitgang en publieke waarden hand in hand kunnen gaan. ‘Door zelf AI-toepassingen te ontwikkelen en te beheren, houden we controle over onze data. Zo bouwen we aan een toekomstbestendig en digitaal sterk Amsterdam.’

Aangescherpt beleid

In februari 2025 scherpte de gemeente Amsterdam het beleid aan rondom het gebruik van generatieve AI. Ambtenaren werd verzocht om applicaties zoals ChatGPT, Midjourney en Copilot niet te gebruiken. ChatAmsterdam moet een veilig alternatief vormen, waarbij eigenaarschap van de data en bescherming van gevoelige gegevens en privacy goed zijn geregeld. De AI-toepassing is opgenomen in het algoritmeregister.

Aan de introductie van de AI-toepassing ging een grote pilot vooraf, die liep van 1 november 2024 tot 1 mei 2025. 800 Amsterdamse ambtenaren namen eraan deel. In die periode zijn meer dan 34.000 prompts en 10.000 chats verzameld en zijn meerdere enquêtes afgenomen, meldt de gemeente. De ambtenaren verwachten vooral tijdwinst te behalen door het gebruik van de digitale assistent.

Risico's 

Op basis van ervaringen en risico-analyses zijn maatregelen genomen. Zo bleek uit een eerste onderzoek onder 150 ambtenaren dat ongeveer 7 procent van de prompts was te classificeren als risicovol, omdat ze persoonsgegevens bevatten of omdat er uitspraken over besluitvorming werden gedaan. De huidige versie van ChatAmsterdam bevat een filter met twee lagen: de prompt-filter van Microsoft filtert alle prompts op gevaarlijke en onethische zaken, zoals discriminatie, zelfmoord of misbruik/ Daarnaast ontwikkelde de gemeente zelf een tweede filter, dat specifiek zoekt naar risicovolle inhoud zoals het gebruik van gevoelige data, etnische profilering et cetera.

Kennis delen

Onlangs paste de rijksoverheid het AI-beleid aan: ambtenaren worden aangemoedigd om met AI te werken en daarbij gebruik te maken van in Europa ontwikkelde toepassingen en opensource oplossingen. Amsterdam vindt dat de digitale assistent daar goed op aansluit en wil de kennis over ChatAmsterdam overdragen aan andere gemeenten en overheidsorganisaties, om zo bij te dragen aan een bredere beweging naar digitale autonomie binnen de publieke sector. De gemeente onderzoekt momenteel hoe ze dat precies kunnen vormgeven.