Het gaat om een tijdelijke en beperkte pilot, benadrukt de minister van Sociale Zaken in antwoord op vragen van D66. ‘Die past binnen de rijksbrede kaders voor verantwoord gebruik van generatieve AI met de kanttekening dat er geen open of Europees AI-model is.’ De resultaten van de tijdelijke pilot worden eind dit jaar geëvalueerd, aldus de minister. Er is nog geen besluit tot structurele inzet van Copilot Chat. ‘De tijdelijke pilot leidt niet automatisch tot voortzetting of uitbreiding.’
Van Mistral naar Microsoft: Copilot bij UWV blijft voorlopig pilot
Er is nog geen definitief besluit genomen over het structurele gebruik van Copilot bij het UWV, laat minister Vijlbrief weten aan de Kamer.
Van Mistral naar Microsoft
Vijlbrief reageerde op Kamervragen over het besluit van het UWV om over te stappen van Le Chat, de chatbot van het Franse bedrijf Mistral, naar Microsoft Copilot. Aanvankelijk werkte de uitkeringsinstantie met Mistral en de generatieve AI-chatbot Le Chat. Later werd toch gekozen, in pilotvorm, voor de chatdienst van Microsoft.
De pilot past binnen de rijksbrede kaders voor verantwoord gebruik van generatieve AI.
Uit de Kamerbrief
Dat leidt tot zorgen, zeker binnen het debat rond digitale soevereiniteit en autonomie. Nederland wil immers gefaseerd af van het niet-Europese techinfuus. Het gebruik van Copilot binnen een overheidsorganisatie als het UWV roept vragen op, vinden D66-Kamerleden El Boujdaini en Neijenhuis. Zij vroegen Vijlbrief dan ook om opheldering.
Zorgen rond digitale autonomie
De minister erkent in zijn brief aan de Kamer de zorgen die er leven: ‘Publieke organisaties moeten bij de inzet van generatieve AI rekening houden met Europese datasoevereiniteit en strategische autonomie.’ Hij verwijst daarbij naar de Nederlandse Digitaliseringsstrategie (NDS), de vorig jaar gepubliceerde Visie Digitale autonomie en soevereiniteit van de overheid en de passages over digitale autonomie in het coalitieakkoord.
Het gebruik van Copilot is volgens hem beperkt tot ‘niet-gevoelige, niet-dossiergebonden toepassingen’. Het UWV moet dit waarborgen door middel van vooraf zorgvuldig geformuleerde gebruiksregels en toezicht gedurende de tijdelijke pilot.
Risico op onbedoelde verwerking persoonsgegevens
Wel ziet Vijlbrief een aantal risico’s. Een daarvan gaat over mogelijke onbedoelde invoer en verwerking van persoonsgegevens door gebruikers. ‘Het UWV beperkt dit risico door in de tijdelijke pilot geen dossier- of persoonsgebonden gebruik toe te staan en door gebruiksregels en toezicht toe te passen.’
Ook bestaat het risico op ‘vendor lock-in’ als tijdelijk pilotgebruik uitgroeit tot structurele afhankelijkheid en is er een kans op geopolitieke afhankelijkheid van niet-Europese aanbieders. Vijlbrief: ‘UWV betrekt dit expliciet bij de evaluatie en onderzoekt parallel soevereine alternatieven.’
Plaats als eerste een reactie
U moet ingelogd zijn om een reactie te kunnen plaatsen.