of 65101 LinkedIn

Waar start je met het verantwoord gebruik van AI?

Waar start je met het verantwoord gebruik van AI? Hoe breng je Responsible AI in de praktijk?
SAS Institute Reageer

Hoe breng je Responsible AI in de praktijk?

Het belang van een verantwoorde inzet van AI (Responsible AI) valt niet langer te ontkennen, maar om dit in de praktijk te brengen is veel complexer. Hiervoor zijn praktische richtlijnen nodig en moet er een formeel governance-kader worden opgezet, om de nodige regels, normen en processen te integreren in de gehele analytics lifecycle, van data tot beslissingen. Dit vraagt om een proactieve strategie waarbij de focus ligt op het bevorderen van een cultuur van verantwoordelijkheid, zowel op collectief als individueel niveau.

Hoewel het misschien een onmogelijke opdracht lijkt, zijn er een paar aspecten die early adopters nuttig vinden om met Responsible AI aan de slag te gaan.

 

1. Breng de principes in de juiste context
Eerst dien je de principes voor het verantwoord gebruik van AI te definiëren, in lijn met de waarden en prioriteiten van je organisatie. De volgende uitdaging is om deze principes te vertalen naar praktische richtlijnen die je kunt communiceren naar alle medewerkers die betrokken zijn bij het ontwikkelen, implementeren en gebruik van AI-systemen. Het is belangrijk om deze principes in de juiste context te plaatsen, want er is niet één principe dat op dezelfde manier overal van toepassing is. Dit hangt af van de sector waarin je opereert, het land waar de oplossing wordt ingezet, de cultuur van je eigen organisatie en het beoogde gebruik van de AI-toepassing.

 

Zo kan het gebruik van de ‘geslachtsvariabele’ in de gezondheidszorg van cruciaal belang zijn om de analyse en diagnose van een medische aandoening te ondersteunen. Maar het geslacht gebruiken om een lening goed te keuren is uiteraard niet aanvaardbaar. Het transparantieniveau dat nodig is om op een commerciële website een "next-best" offer te doen, is niet hetzelfde als voor andere zaken. Zo is er een verschil tussen het screenen van een cv in een sollicitatieprocedure, het signaleren van mogelijke fraude bij sociale uitkeringsaanvragen of het berekenen van de kans dat een veroordeelde crimineel een nieuwe overtreding begaat. Je moet je principes omzetten in specifieke richtlijnen. En je moet een methode ontwikkelen om de ethische implicaties en de risico's te beoordelen.

 

2. Veranker verantwoorde AI als onderdeel van je data- en analyticsstrategie
De tweede aanbeveling is om het verantwoord gebruik van AI niet als een op zichzelf staand onderwerp te behandelen. Je kunt verantwoorde AI niet los zien van je data- en analyticsstrategie. Je zou deze moeten inbedden in je bestaande digitale transformatieprogramma's.

 

Wie is er in de organisatie verantwoordelijk voor AI? Er is momenteel een hype over een nieuw beroep, de "AI-ethicus". Die op papier een soort unicorn is, en in staat moet zijn om een enorm arsenaal aan AI-tools en -technologieën te beheersen. En daarnaast moet deze persoon voldoende kennis en ervaring hebben van zowel de business als de betreffende industrie, in staat zijn om specifieke AI-ethische valkuilen te identificeren, beschikken over uitstekende communicatieve vaardigheden en het vermogen hebben om over organisatiegrenzen heen te werken, met uitgebreide kennis van regelgeving, wetgeving en beleid, enzovoort. In de praktijk ben je er bijna zeker van dat je er geen zult vinden!

Het goede nieuws is dat je waarschijnlijk geen AI-ethicus nodig hebt omdat je beter af bent met het werken in teamverband. Verschillende mensen kunnen hun specifieke vaardigheden inbrengen, en de diversiteit vormt een bescherming tegen individuele vooroordelen.

 

Hoewel je waarschijnlijk geen AI-ethicus nodig hebt, is het wel verstandig om een klein team aan te stellen die dit project leidt. Een team dat de implementatie van verantwoorde AI-principes in alle afdelingen en in elk stadium van de AI-levenscyclus kan leiden. Ik zou ook aanraden om dit team op een zo hoog mogelijk niveau in uw organisatie te laten rapporteren. Zowel IT- als analytics-teams hebben soms belangenconflicten en zijn misschien niet de aangewezen personen om deze verantwoordelijkheid te dragen.

 

Te vermijden valkuilen
Voorkom dat je ethische team wordt ondergebracht bij de juridische afdeling. Dit kan ertoe leiden dat verantwoorde AI een pure compliance- en aansprakelijkheidskwestie wordt. En data scientists mogen ook niet de enige bewakers of beheerders zijn van verantwoorde AI-vereisten. Voor data scientists is meer een rol weggelegd bij het ontwerp en de ontwikkeling van voorspellende modellen die transparant, uitlegbaar en inzetbaar zijn. Maar zij bezitten slechts een klein deel van de end-to-end AI-levenscyclus.

 

Sommigen pleiten ervoor dat data science een gereguleerd beroep wordt. Of dat data scientists een soort eed zouden moeten afleggen, vergelijkbaar met de eed van Hippocrates die artsen afleggen. Hoewel ik de goede bedoelingen hierachter begrijp, vraag ik me af of dit in de praktijk zou werken.

 

3. Integreer responsible AI-principes in elke fase van de AI-levenscyclus
Zoals eerder aangegeven, is data science slechts een deel van de end-to-end AI-levenscyclus. Je moet proberen om de richtlijnen voor het verantwoord gebruik van AI in elke stap in te bouwen, vanaf het begin en helemaal tot het einde, met de juiste checklists en veiligheidsmaatregelen. Dit begint al bij de ontwikkeling en het ontwerp van je AI-systeem. Beoordeel de ethische risico's. En definieer risicobeperkende maatregelen en succescriteria.

Afbeelding

  • Datacollectie: Tijdens het verzamelen van de data moet je de expliciete toestemming van individuen verkrijgen om hun gegevens te mogen gebruiken en privacygevoelige informatie beschermen. Je wilt nog steeds een deel van die persoonlijke en/of vertrouwelijke gegevens verzamelen, zodat je later de bias kunt meten en verminderen. Bij privacygevoelige informatie moet je vermelden waar je deze gegevens opslaat, samen met de informatie over de toestemming (consent).
  • Data preparatie en analyse: Evalueer bias tijdens de data preparatie en analyse. Je trainingsgegevens moeten representatief zijn voor de beoogde doelgroep van het algoritme. Je kunt overwegen synthetische data te gebruiken om de privacy te beschermen en meer diversiteit toe te voegen aan de datasets die de kans op bias in de trainingsdata verkleint.
  • Modelleren en testen: Tijdens de modelleer- en testfase zijn er enkele voor de hand liggende zaken die je moet doen rondom de documentatie van de code en het gebruik van uitlegbare algoritmische technieken, zoals PD, ICE, LIME en SHAP. Maar mijn belangrijkste advies is om de zaken zo eenvoudig mogelijk te houden. Machine learning is niet het antwoord op alles, en je moet een evenwicht vinden tussen de behoefte aan nauwkeurigheid en transparantie en uitlegbaarheid. Het extra voordeel van machine learning weegt soms niet op tegen de moeite die het kost om die modellen te bouwen en te implementeren en de nadelen op het gebied van transparantie en uitlegbaarheid. Dus als een eenvoudige lineaire regressie goed genoeg is, ga er dan gewoon voor!
  • Ontwikkeling: bij de inzet van je analytics modellen en AI applicaties is het van belang om geautomatiseerde, voorspelbare en herhaalbare processen te gebruiken, bijvoorbeeld CI/CD (continuous integration/continuous delivery). Het is van cruciaal belang om onderweg ook lineage-informatie vast te leggen. Zo kun je traceren welke gegevens zijn gebruikt om modellen te trainen, welke modellen er gebruikt zijn om voorspellingen te doen en hoe deze voorspellingen zijn gebruikt.
  • Productie: Als een AI-applicatie eenmaal in productie is, ga er dan maar vanuit dat deze biased is en probeer dit vervolgens te weerleggen. Je moet proactief monitoren of er sprake is van bias in de output van de modellen en de beslissingen die het neemt. Maak een systeem van KPI's die je op een begrijpelijke manier met de verschillende stakeholders kunt delen, evenals een aantal bias- en fairness dashboards.


4. Maak gebruik van een ModelOps framework
Afhankelijk van hoe ver je bent met je analytics, heb je misschien het punt bereikt waarop het niet meer interessant is om alle mogelijkheden te verkennen en te experimenteren met nieuwe technieken. Misschien ben je klaar voor het operationaliseren van je analytics en het in productie brengen van de output van je voorspellende modellen, zodat er acties en beslissingen worden genomen en de bedrijfsresultaten worden gerealiseerd.

 

Om dit effectief te doen, moet je de gehele levenscyclus industrialiseren, het implementatieproces versnellen en betrouwbare en consistente resultaten produceren in een gecontroleerde omgeving, om uiteindelijk analytics-gedreven beslissingen te kunnen opschalen als onderdeel van je digitale transformatie. Die kun je realiseren met ModelOps (of MLOps). Dit omvat de implementatie van een formeel bestuursmodel voor AI, evenals geautomatiseerde implementatie- en monitoringprocessen.

 

Interessant is dat hetzelfde governance framework en de onderliggende structuren ook veel van de vereisten van het verantwoord gebruik van AI ondersteunen. In feite kunt je met ModelOps drie vliegen in één klap slaan. Je kunt je analytics opschalen, je kunt je analytics operationaliseren, en je kunt het op een verantwoorde manier doen.

 

5. Wacht niet, begin vandaag!

Mijn laatste advies is om niet te wachten. Wacht niet tot er regelgeving van kracht wordt. Het op een verantwoorde manier inzetten van AI kan niet als een bijzaak worden beschouwd. Als je de principes voor het veranwoord gebruik van AI in de bestaande AI-applicaties verwerkt, kun je deze beter vanaf het begin integreren. Zo voorkom je dat je alles opnieuw moet opbouwen en een zware strijd moeten leveren om veranderingen in het gedrag en de processen teweeg te brengen.
De reis begint nu!

Dit is een bijdrage van: Olivier Penel, Head of Global Advisory bij SAS. 

Verstuur dit artikel naar Google+

Reageer op dit artikel
















Even geduld a.u.b.

Contactgegevens

AfbeeldingSAS Institute
Flevolaan 69
1272 PC Huizen
Tel.nr. 035-6996900
Adres website sas.com/nl
Mailadres sasinfo@sas.com

Meer nieuws

Whitepapers

Bloggers