De Adviesfunctie Verantwoord Datagebruik publiceert een handreiking voor overheidsorganisaties die Large Language Models willen inzetten om vakkennis te ontsluiten. De handreiking gaat onder meer in op kwesties rond goed bestuur en ambtelijk vakmanschap.
AI gebruiken om vakkennis te vinden? Hier moet je op letten
Een nieuwe handreiking helpt overheidsorganisaties om verantwoord generatieve AI in te zetten om vakkennis te ontsluiten.
Snel de juiste vakkennis aanboren
Vakkennis staat vaak op allerlei verschillende plekken. Er zijn interne bronnen, platforms van uitgevers waarmee de organisatie een licentie heeft afgesloten en je checkt natuurlijk ook altijd wat Binnenlands Bestuur over het onderwerp heeft geschreven. Het scheelt nogal als je niet zelf op al die plekken op zoek moet naar het antwoord op je vraag, omdat een Large Language Model (LLM’s) die verschillende bronnen aanboort om te vinden wat je zoekt. De Adviesfunctie Verantwoord Datagebruik, onderdeel van de Interbestuurlijke Datastrategie (IBDS), dook in de juridische en ethische vraagstukken die hierbij spelen.
Het scheelt nogal als je niet zelf op al die verschillende plekken op zoek moet naar het antwoord op je vraag.
De Adviesfunctie Verantwoord Datagebruik kreeg in 2024 de vraag om zich over een specifieke use case te buigen, waarin het ministerie van Financiën, gebruikmaakt van een minimal viable product (MVP) van een AI-toepassing om snel en slim grote hoeveelheden informatie te doorzoeken, samenvattingen te genereren en vragen van ambtenaren te beantwoorden met bronverwijzing. Hiervoor werd gebruikgemaakt van Azure OpenAI. In samenwerking met Pels Rijcken en Highberg zet de Adviesfunctie de juridische en ethische aandachtpunten in deze casus op een rij.
Juridische en ethische aandachtspunten
De Handreiking Inzet van Large Language Models om vakkennis te ontsluiten helpt alle overheidsorganisaties die een dergelijke toepassing willen gebruiken op weg. Er is aandacht voor privacy, intellectueel eigendom, AI-regelgeving, goed bestuur en ambtelijk vakmanschap.
Een paar aandachtspunten zijn interessant om uit te lichten. Vanuit juridisch perspectief is het gebruik van taalmodellen zoals die van OpenAI best problematisch, aangezien de deze modellen zijn getraind op data zonder dat hiervoor toestemming is gevraagd aan de eigenaren. Dat maakt het eerste aandachtspunt paradoxaal: Verkrijg de garantie van de aanbieder van het generatieve AI-model dat door het gebruik van het generatieve AI-model geen inbreuk wordt gemaakt op het privacyrecht en de auteursrechten van derden.
Menselijke maat
Ook de ethische aandachtspunten met betrekking tot ambtelijk vakmanschap verdienen het om door veel overheidsorganisaties te worden bekeken. Zo ligt er veel nadruk op het bewaken van de menselijke maat. De Adviesfunctie waarschuwt dat naarmate dit soort technologie dominanter wordt op de werkvloer, het risico groter wordt dat ambtenaren zich hierdoor laten leiden. De gevoelde vrijheid om af te wijken van wat de AI-toepassing zegt en maatwerk te leveren, neemt af.
De gevoelde vrijheid om af te wijken van wat de AI-toepassing zegt en maatwerk te leveren, neemt af.
Dat leidt tot dit aandachtspunt: Leg de verantwoordelijkheid voor het gebruik van het MVP en de acceptatie van uitkomsten expliciet bij de gebruikers. Het advies is daarnaast om periodiek te evalueren welke effecten het gebruik van de AI-toepassing heeft, zowel voor het werkproces als het effect op de ambtenaren.
Angst voor tweedeling
De Adviesfunctie waarschuwt dat er een tweedeling op de werkvloer kan ontstaan tussen medewerkers die met generatieve AI overweg kunnen gaan en zij die dat niet kunnen. Er zijn onder meer duidelijke richtlijnen nodig voor het gebruik ervan en de toepassing moet zo worden ontworpen dat hij makkelijk te gebruiken is. Neem de nieuwe manier van werken mee in het profiel van de ambtenaar van de toekomst is het laatste advies.
Plaats als eerste een reactie
U moet ingelogd zijn om een reactie te kunnen plaatsen.