of 64621 LinkedIn

Verantwoord gebruik van AI staat bovenaan agenda

Verantwoord gebruik van AI staat bovenaan agenda. Ethiek wordt steeds belangrijker
SAS Institute Reageer

Door de sterke toename van artificial intelligence (AI) die in allerlei facetten van de samenleving worden toegepast wordt ethiek steeds belangrijker. Publieke bewustwording, persaandacht en aankomende regelgeving dwingen organisaties en de data science-community om na te denken over de ethische implicaties van AI.

De behoefte aan het verantwoord gebruik van AI staat bovenaan op de agenda. Gartner heeft ''Smarter, Responsible and Scalable AI'' benoemd als de belangrijkste markttrend voor data en analytics in 2021. In april 2021 publiceerde de Europese Commissie een voorstel voor een verordening voor AI. Dit is niet zomaar weer een voorbeeld van EU-regelgevingswoede. Veel regeringen over de hele wereld ontwikkelen vergelijkbare kaders voor AI. We moeten vragen stellen over:

 

  • De kwaliteit van de data die we gebruiken voor het trainen van machine learning-modellen.
  • Hoe kunnen we vooroordelen (bias) die tot discriminatie leiden beperken.
  • De uitlegbaarheid van voorspellingen en beslissingen die algoritmen maken.
  • De rol van menselijk toezicht bij het monitoren van de rechtvaardigheid en transparantie van AI-toepassingen.

 

Afgezien van het algemeen belang en de maatschappelijke verantwoordelijkheid staat een succesvolle toepassing van AI-technologieën op het spel, terwijl deze organisaties en de samenleving een enorme meerwaarde kunnen bieden.

 

Nu het bewustzijn en de volwassenheid toenemen, vragen we ons niet langer af wat we kunnen doen met AI-technologieën. In plaats daarvan vragen we ons af hoe we AI effectief, schaalbaar en verantwoord kunnen inzetten om concrete bedrijfsresultaten te behalen.


Drie krachten komen samen: versnelling, geautomatiseerde beslissingen en schaalbaarheid

Versnelling
Uit een recent onderzoek van McKinsey blijkt dat de reacties op COVID-19 de invoering van digitale technologieën met enkele jaren hebben versneld en dat veel van die veranderingen voor de lange termijn zijn. De exponentiële toename van data, opslag- en rekencapaciteiten maakt die versnelling mogelijk. En de pandemie heeft dit in de afgelopen 18 maanden nog verder aangewakkerd. Het gaat niet alleen om het ondersteunen van werken op afstand Ook het (veilig) delen van gegevens met test-, opsporings- en vaccinatieprogramma's van de overheid is nog belangrijker geworden.

 

Overheidsinstanties en organisaties hebben ingezien dat ze op hun analytics en digitale voorzieningen moeten vertrouwen om veerkracht en concurrentiekracht op te bouwen en om te kunnen overleven in onzekere tijden.

 

Geautomatiseerde beslissingen
Het tweede aspect dat me opvalt, is hoeveel van onze besluitvorming we bereid zijn om over te laten aan slimme technologie en bots. Zo wordt bijvoorbeeld geschat dat vandaag 85% van alle beurshandel geautomatiseerd gebeurt met algoritmen, zonder tussenkomst van mensen. Dit is handig en lucratief voor handelaren, investeringsbanken en hedgefondsen. Het roept tevens de vraag op naar de verantwoordingsplicht en verklaarbaarheid van de algoritmen die voor automatische handel worden gebruikt.

 

De aandelenhandel is maar een voorbeeld. Maar er zijn zoveel beslissingen waarvan we verwachten dat computers ze voor ons nemen, zoals:

 

  • De informatie die we krijgen via zoekmachines.
  • Routebeschrijvingen om van A naar B te reizen.
  • De werking van verkeerslichten, vliegtuigen en kernreactoren.
  • Bescherming van onze bankrekeningen tegen fraudeurs.

 

We lijken blind te vertrouwen op het vermogen van algoritmen om de juiste beslissingen te nemen. En in zekere zin zijn algoritmen in bepaalde dingen veel beter dan mensen, zoals het verwerken van enorme hoeveelheden gegevens om patronen te herkennen en voorspellingen te doen. Maar ze missen gezond verstand, cultuur en context. Ze leren alleen van de data die wij ze geven. Ze kunnen heel effectief zijn, maar ze zijn ook heel beperkt. Dit kan ertoe leiden dat AI-systemen voorspellingen doen of beslissingen nemen die technisch juist, maar sociaal onaanvaardbaar zijn.

 

We zien dat AI-toepassingen de mens aanvullen, en soms vervangen, om namens ons beslissingen te nemen, wat vragen oproept als:

 

  • Kunnen we ze vertrouwen?
  • Welke normen en ethische codes gebruiken AI's om die beslissingen te nemen?
  • Wie is verantwoordelijk voor de beslissingen die AI-toepassingen nemen?
  • Wat zijn de gevolgen van die beslissingen?

 

Waarom zouden algoritmen niet dezelfde ethische codes en normen moeten hanteren en net als mensen geconfronteerd worden met de gevolgen van slechte beslissingen?


Schaalbaarheid
De schaalbaarheid van AI-toepassingen en hoeveel beslissingen ze in een oogwenk kunnen nemen is een ander punt. We weten dat algoritmen soms ook onjuiste voorspellingen doen, en dat die onjuiste voorspellingen kunnen leiden tot het nemen van de verkeerde beslissingen, met serieuze gevolgen in de praktijk.

 

Het is één ding als een individu een slechte of oneerlijke beslissing neemt. Maar algoritmen nemen beslissingen op grote schaal en in real-time. De gevolgen van slechte beslissingen worden dus heel snel veel groter. Het bereik van AI-systemen is miljoenen keren groter. In feite werkt AI als een versterker.


Overdreven reactie?
Bezorgdheid is volkomen terecht, maar wat niet helpt, is de overweldigende media-aandacht die falende AI-systemen in de pers krijgen. Tot op zekere hoogte is deze bezorgheid begrijpelijk. Het bewustzijn van het publiek en de regelgevende instanties halen de technische innovaties die al een tijdje ongecontroleerd zijn gebleven in. Sommige mensen hebben besloten het heft in eigen hand te nemen en er iets aan te doen. Er zijn talloze initiatieven en groepen die vastbesloten zijn om het probleem aan te pakken, het onder de aandacht te brengen, richtlijnen en best practices te ontwikkelen.


Eenzijdige berichtgeving
Onlangs heb ik de documentaire ‘Coded Bias’ gezien, een documentaire die licht werpt op de discriminatie en het gebrek aan transparantie bij bepaalde AI-toepassingen, zoals gezichtsherkenning. De documentaire biedt een vrij verhelderend perspectief op de ethische kwesties rond het gebruik van AI. Maar het gaat volledig voorbij aan het tegenargument dat AI ook goed is voor de samenleving.

 

Laten we niet vergeten dat AI enorme voordelen kan opleveren voor het individu, de samenleving en het milieu, en dat ook doet. AI helpt nu al, met o.a.

 

  • Het Amazone-regenwoud beschermen.
  • Bedreigde diersoorten beschermen.
  • Artsen eerder de juiste diagnose te stellen.
  • Kwesties als kindermishandeling, dakloosheid en geestelijke gezondheidszorg aan te pakken.

 

Het probleem is dat negatieve zaken die veel publiciteit krijgen, al deze goede ontwikkelingen overschaduwen. Maar AI is in veel gevallen de sleutel tot het versnellen van digitale transformatie en het ontwikkelen van marktdifferentiatie en concurrentievoordeel.


De zakelijke noodzaak
Het wordt tijd dat we de balans vinden tussen deze twee schijnbaar tegengestelde werelden. Aan de ene kant hebben we ethiek. Aan de andere kant innovatie en succesvolle toepassingen van AI. Responsible AI is in feite goed voor het bedrijfsleven, de overheid, gezondheidzorg en veiligheid. Het gaat hierbij om vertrouwen, en dat wordt steeds meer een vereiste voor bedrijven en overheidsinstanties. Een belangrijke succesfactor voor digitale transformatie.

 

Organisaties gebruiken responsible AI ook als een manier om zich te onderscheiden van de concurrentie. Net zoals koffiemerken reclame maken voor hun eerlijke bedrijfsvoering, wordt het op een verantwoorde manier omgaan met AI gezien als een soort marketinglabel om een positieve uitstraling aan een merk te geven. Omdat de meeste consumenten en burgers graag het juiste willen doen, zullen ze meer vertrouwen hebben als ze zakendoen met bedrijven die hun ethische waarden en bedrijfsverantwoordelijkheid kunnen aantonen. Sommigen zien responsible AI zelfs als een verplicht onderdeel van de corporate PR-strategie.


Conclusie
Over het algemeen staan ethiek en technologie nu op gelijke voet. Voor het management van organisaties en overheidsinstanties is het niet langer een optie om de ethische risico's van de invoering van AI te negeren. Het beperken van die risico's hoeft geen belemmering te vormen voor innovatie. Als dit goed wordt toegepast, biedt het ook de mogelijkheid om de veerkracht en het concurrentievermogen van bedrijven en de overheid te vergroten.

 

Wil je meer weten over dit onderwerp? Kijk dan naar de webinar ‘Accelerate Innovation With Responsible AI’ en hoor hoe Nationale Nederlanden dit in de praktijk brengt. Je kunt je hier registreren.

Verstuur dit artikel naar Google+

Reageer op dit artikel
















Even geduld a.u.b.

Contactgegevens

AfbeeldingSAS Institute
Flevolaan 69
1272 PC Huizen
Tel.nr. 035-6996900
Adres website sas.com/nl
Mailadres sasinfo@sas.com

Meer nieuws

Whitepapers

Bloggers