‘Bij de inzet van AI moet er altijd een human-in-the-loop zijn’. Het klinkt mooi, het doet het goed aan de bestuurstafel, maar wat betekent deze frase precies in de gemeentepraktijk? Wat is er voor nodig om de rol van de mens in AI-systemen bewust in te richten? Het AI Lab van de gemeente Amsterdam ontwikkelde een framework voor een verantwoorde inzet van mensen.
Amsterdam zet ambtenaar in-the-loop
Nieuw framework laat verschillende ontwerpkeuzes zien voor het vormgeven van de rol van de mens bij AI-systemen.
Eén van de pijlers van de in 2024 verschenen Amsterdamse Visie op AI is dat de mens centraal moet staan. Is die de mens een ambtenaar, dan zijn er verschillende manieren om de rol van de mens in het AI-systeem in te vullen. Het Amsterdamse AI Lab maakte vijf prototypen, waaronder ook ‘anti-voorbeelden’. Het idee is dat deze helpen om te zien wat er nodig om die rol van de mens bij de inzet van AI-systemen wél goed in te vullen.
Doorklikmachine
Wat kan er zoal mis gaan? Dat laat het prototype van de behandelaar van parkeerboetebezwaren, oftewel de ‘doorklikmachine’, mooi zien. Het prototype oogt als een frustrerend computerspelletje: eenmaal in de ambtenarenrol ontdek je al snel dat het wel heel verleidelijk is om op de groene knop te drukken, waarmee je een beslissing van het AI-systeem accordeert. Het hele systeem is erop ingericht: een teller houdt bij of je je targets wel haalt, de groene knop is groter dan de rode, en elke afwijking van de keuze van de AI moet je uitvoerig en op stomvervelende wijze motiveren.
Aandacht ontwerp je is de boodschap van dit prototype. Bouw wrijving in op het moment dat telt, laat de mens het tempo bepalen, en zet de details die ertoe doen vooraan.
Eenmaal in de ambtenarenrol ontdek je al snel dat het wel heel verleidelijk is om op de groene knop te drukken, waarmee je een beslissing van het AI-systeem accordeert.
Het laatste woord, maar geen expertise
In een ander prototype ben je fraude-analist en moet je mogelijke fraudesignalen in bijstandsdossiers beoordelen die het AI-systeem heeft ontdekt. Jij hebt het laatste woord, maar daar heb je niet zoveel aan, want het is vrijwel onmogelijk om een gewogen oordeel te vellen op basis van de specialistische informatie die je onder ogen krijgt.
Om een waardevolle bijdrage te leveren, heb je naast de juiste informatie ook de goede kennis en expertise nodig, is ditmaal de les. Wie is de juiste expert in je loop, en welke informatie is er nodig om een goede afweging te maken?
Hoe moet het wel?
Hoe je dan wél een goede human-in-the-loop ontwerpt in een AI-toepassing, hangt volgens het framework af van drie dingen: de kwaliteit die je in de toepassing wil waarborgen, het risiconiveau en de mate van menselijke betrokkenheid. Is de rol van de mens te klein, dan creëer je schijnbetrokkenheid, is hij te groot, dan maak je niet genoeg gebruik van de dingen die AI juist goed kan, zoals relevante passages markeren in duizenden documenten. Met behulp van gekleurde kaartjes achterhaal je welke ontwerpkeuze past bij het soort systeem dat jouw organisatie wil inzetten.
De website biedt daarnaast wat verdieping over waar die term human-in-the-loop eigenlijk vandaan komt en wat bijvoorbeeld het verschil is met human-along-the-loop. Binnenkort is het ook mogelijk om een workshop over het framework te volgen bij het AI Lab van Amsterdam.
Plaats als eerste een reactie
U moet ingelogd zijn om een reactie te kunnen plaatsen.