Staatssecretaris Willemijn Aerdts benadrukt dat het gebruik van autonome AI-assistenten door overheden alleen onder strikte voorwaarden kan plaatsvinden. Belangrijke aandachtspunten zijn privacy, veiligheid, transparantie en het behoud van menselijke controle. Dat schrijft zij in antwoord op Kamervragen van Jantine Zwinkels van het CDA.
Kabinet: inzet autonome AI door overheid vraagt strikte waarborgen
Menselijke tussenkomst geborgd blijft, zeker bij besluitvorming richting burgers en bedrijven.
Gebruikers en organisaties kunnen het overzicht verliezen over wat AI-systemen zelfstandig doen, terwijl ook onduidelijkheid kan ontstaan over verantwoordelijkheid en dataverwerking. De Autoriteit Persoonsgegevens waarschuwt voor deze risico’s, met name bij experimentele toepassingen.
Voldoen aan wetgeving
Voor overheden geldt dat inzet van AI altijd moet voldoen aan bestaande wetgeving, zoals de AI-verordening en de AVG. Daarnaast zijn impactanalyses verplicht, zoals een gegevensbeschermingseffectbeoordeling of een mensenrechtenanalyse. Ook moet vooraf duidelijk zijn welk maatschappelijk doel wordt gediend.
Aerdts onderstreept dat bij overheidsgebruik van AI altijd sprake moet zijn van ‘meaningful human control’. Dit betekent dat menselijke tussenkomst geborgd blijft, zeker bij besluitvorming richting burgers en bedrijven. De Algemene wet bestuursrecht blijft daarbij leidend. Voor alle hoog risico AI-systemen moet er menselijk toezicht (‘human in the loop’) uitgeoefend kunnen worden.
‘Dit houdt onder andere in dat men de capaciteiten van het systeem moet begrijpen en de werking ervan moet kunnen monitoren. Ook moet het systeem stopgezet kunnen worden. De mate van deze menselijke controle is contextafhankelijk: des te groter het risico, des te steviger het menselijk toezicht moet zijn’, zo schrijft Aerdts.
Terughoudendheid
Uit een recente monitor blijkt dat het gebruik van generatieve AI binnen de overheid toeneemt, maar dat autonome AI-assistenten nog beperkt worden ingezet. Het kabinet werkt aan een nadere visie en een integraal afwegingskader voor verantwoord gebruik. Tot slot wordt terughoudendheid geadviseerd bij experimentele AI-systemen, vooral wanneer deze toegang hebben tot privacygevoelige of vertrouwelijke gegevens.
Plaats als eerste een reactie
U moet ingelogd zijn om een reactie te kunnen plaatsen.