Hoe ethische normen te creëren voor AI

De snelle opkomst van het toepassen van kunstmatige intelligentie roept veel vragen op rond ethische kwesties. Het is een vakgebied dat nog sterk in ontwikkeling is en afspraken maken over ethische kwesties is erg cultuurbepaald. Dat maakt het niet eenvoudig om te komen tot wereldwijd geaccepteerde standaarden. Toch is dat waar de normcommissie Artificial Intelligence van de Nederlandse standaardenorganisatie NEN aan werkt en input voor zoekt. Dat schrijft AG Connect.

Soms black box

Hoe komt het dat AI-systemen de neiging hebben te discrimineren en wat kun je er tegen doen? Welke beslissingen mag een AI-systeem zelf nemen? Wie is eindverantwoordelijk wanneer AI de fout ingaat? Hoe maak je toch aantoonbaar dat een algoritme binnen ethische waarden opereert, ondanks dat het soms een black box is?

 

Voor iedereen anders

Kunstmatige intelligentie is volop in ontwikkeling. Dat maakt het al lastig gemeenschappelijke afspraken te maken. Vooral omdat sommige AI-systemen ook nog eens zelflerend zijn, dus een beschrijving van het systeem van vandaag kan morgen al niet meer kloppen. Bovendien zijn de ethische waarden die daarbij komen kijken voor iedereen anders.

 

Lastiger

En de technologie kan vaak ook nog voor heel verschillende toepassingen worden gebruikt. Bijvoorbeeld: slimme camera's mensen laten tellen voor de nationale politie is technisch gezien misschien niet zo anders dan producten op een lopende band in een magazijn tellen. Maar het één heeft in het maatschappelijk leven wel een heel andere lading dan het ander. Dat maakt het opstellen van een normenkader of standaardisering voor ethische waarden nog lastiger.

 

Industrienorm
'Je kunt niet voor iedereen en voor alle toepassingen één ethisch waardensysteem vastleggen waaraan zij allemaal precies op dezelfde manier moeten voldoen', schets Yvette Mulder de uitdaging voor de normcommissie Artificial Intelligence waar zij voorzitter van is. Het werk van NEN is er daarmee de afgelopen decennia niet makkelijker op geworden. Als er behoefte was aan een industrienorm voor de manier waarop een boutje in een moertje moest passen, werden na onderhandelingen harde conclusies vastgelegd die jarenlang geldig bleven.

 

China of Verenigde Staten

Zo kan het opstellen van richtlijnen voor AI niet verlopen. Maar die normen zijn wel hard nodig. Consumenten en overheden in Europa willen dat producten en diensten op basis van kunstmatige intelligentie voldoen aan de normen en waarden die we in Europa hanteren ten aanzien van die toepassingen. Ook als die technologie uit China of de Verenigde Staten komt.
Internationale overeenstemming nodig

 

33 landen
Het Nederlands Normalisatie Instituut (NEN) is daarom 3 jaar geleden gestart met nadenken over deze onderwerpen. De markt voor producten en diensten waarin AI is verwerkt is mondiaal. Normen ontwikkelen voor alleen Nederland heeft daarom niet zo veel zin. De NEN-werkgroep neemt daarom deel in een internationaal samenwerkingsverband van standaardenorganisatie ISO, dat al een jaar eerder is begonnen met dit werk. In het samenwerkingsverband zijn 33 landen actief deelnemer en kijken er 17 mee. Datzelfde gebeurt sinds dit jaar bij de Europese standaardisatieorganisatie CEN.

 

Gewoon software
Voor het werk aan AI en ethiek nemen de werkgroepen de normen die er al liggen voor software als uitgangsmateriaal. 'In feite is kunstmatige intelligentie gewoon een softwaretoepassing. Daarom zijn veel afspraken die al zijn beschreven voor software, ook toepasbaar op algoritmen, zoals over onderhoud en het testen van software.'

 

Terminologie
Belangrijke zaken die specifiek bij kunstmatige intelligentie spelen, zijn de kwaliteit van data en de ethische aspecten. Maar eerst is begonnen met het vastleggen van terminologie. Wat verstaan we onder big data? En onder artificial intelligence? 'Het moet voor iedereen duidelijk zijn waar je het over hebt en dan moet je het eens zijn over de betekenis van de woorden die je gebruikt.'

Grondige afweging
Omdat het zo moeilijk is om afspraken te maken over de ethische aspecten van de inzet van kunstmatige intelligentie, richt de normcommissie zich sterk op governance, processen en de kwaliteitsborging van data. Er worden procedures en checklists ontwikkeld, die ervoor moeten zorgen dat bij ieder product of dienst een grondige afweging wordt gemaakt over de ethische aspecten die daarbij spelen. Daarnaast is ook risicobeheer (risk management) een belangrijk aandachtspunt. Inmiddels zijn daarvoor al 22 normen in ontwikkeling en zijn er 8 klaar.

 

Betalen
Een belangrijke taak van de normcommissie is om met betrokkenen uit het veld de normen te bespreken die in ontwikkeling zijn. Wie mee wil discussiëren kan zichzelf opgeven voor deelname. In principe betalen deelnemers een lidmaatschapsbijdrage, maar kleine, minder draagkrachtige organisaties dragen een lager bedrag bij.

Botsende meningen
Hoewel de meningen en belangen soms fors kunnen botsen, ziet NEN zichzelf ook als mediator die met de partijen in gesprek gaat om toch tot een consensus te komen. Die wordt dan in internationaal verband namens Nederland ingebracht. NEN heeft daartoe een opdracht van de overheid maar staat hier verder los van. De overheid zit vaak wel aan tafel met een vertegenwoordiger, maar heeft geen speciaal stemrecht. Mulder: 'Dat voorkomt dat de overheid via de normen verkapt een overheidsbeleid opdringt. Hoe de normcommissies in andere landen dat invullen, is wisselend. We weten bijvoorbeeld dat de Chinese overheid veel belang hecht aan standaardisatie en dat aanjaagt. Voor Nederland geldt dat ook, maar met een andere invulling. We leven nu eenmaal in een klein land dat het moet hebben van samenwerking. Dat is belangrijk voor onze economie.'

 

Minder vast
Mulder weet zeker dat er de komende jaren nog voldoende werk ligt. Het opstellen van de normen duurt gemiddeld al een jaar of twee tot drie. Bovendien liggen ze minder vast dan wetgeving of overheidsbeleid. 'Elke paar jaar vindt er een review plaats. De komende jaren zitten we wel in de ontwikkeling waar we nu mee bezig zijn. Kunstmatige intelligentie neemt nog een enorme vlucht, er is dus nog veel discussie.'

 

Dit bericht komt van AG Connect.