Naar inhoud

Effectief toezicht mét artificiële intelligentie is mogelijk

Automatische en zelflerende algoritmen rukken steeds verder op in de samenleving. De toepassing ervan gaat nog wel eens mis, getuige de nieuwsberichten en politieke discussie over autonome overheidsbesluiten die door het gebruik van eenzijdige data tot discriminerende keuzes leiden. Vooral toezichthouders liggen onder vuur. Compleet vergeten wordt dat het gebruik van algoritmes kansen biedt voor het werk van toezichthouders.

Een groep experts heeft daarom onder de vlag van ECP | Platform voor de InformatieSamenleving het essay ‘Toezicht met algoritmen' gepubliceerd. Daarin is een praktijkanalyse opgenomen die toezichthouders helpt artificial intelligence verantwoord in te bedden in hun beroepspraktijk en daarbij nauwlettend de vinger aan de pols te houden.

Artificial intelligence

De afgelopen jaren heeft artificial intelligence een vlucht genomen door de combinatie van snelle technische ontwikkelingen en de beschikbaarheid van grote hoeveelheden digitale data. Kunstmatige intelligentie biedt onder andere nieuwe kansen voor het uitvoeren van toezicht. Daartegenover staat dat de inzet van technologie die meer doet dan het optimaliseren van goed beschreven processen, onbedoelde en onverwachte gevolgen kan hebben. Dat is het geval bij AI-technologie. Het essay ‘Toezicht met algoritmen' biedt de helpende hand. De auteurs laten zien dat er werk aan de winkel is voor toezichthoudende instanties om artificiële intelligentie op een verantwoorde manier te implementeren in de toezichtspraktijk.

Daarbij geven zij aan dat het ook nodig is om de vinger aan de pols te houden, omdat de eigen organisatie en werkprocessen gaandeweg veranderen. Ook worden bij de implementatie van nieuwe technologie fouten gemaakt die hersteld moeten worden en moet de integriteit van data en besluiten bewaakt worden, om ongewenste neveneffecten te voorkomen. Aan de hand van drie casussen geven de AI-experts concrete handvatten. Achtereenvolgens worden het opsporen en aanpakken van witwassen, het toezicht in het verkeersdomein aan de hand van het toekennen en afhandelen van boetes en de verhouding tussen burger en overheid door de experts praktisch uitgewerkt.

Werk aan de winkel

De expertgroep signaleert dat toezichthoudende instanties de implementatie van AI-systemen onderschatten. De groep stelt dat implementatie veel meer vergt dan alleen het inpassen van een nieuwe technologie in de organisatie. Zo brengt artificial intelligence bijvoorbeeld veranderingen met zich mee in de organisatie en in de primaire processen. Het kennis hebben van wat AI-technologie kan en doet plus wat de sterke en zwakke kanten zijn, is onmisbaar voor een verantwoorde toepassing en implementatie van AI-systemen, aldus de experts. “Dat geldt ook voor het delen van ervaringen en het voeren van gesprekken over achterliggende ethische en juridische waarden tussen toezichthoudende instanties onderling”, aldus Daniël Frijters, programmamanager bij ECP – een publiek-privaat platform voor de informatiesamenleving.

Probleem is alleen dat wet- en regelgeving rondom de inzet van nieuwe technologie als artificial intelligence niet voldoende kaders biedt. Dat brengt onzekerheid met zich mee voor de partij die kunstmatige intelligentie wil inzetten, maar ook voor de toezichthouder zelf. In zo'n situatie stellen de experts voor om eenzelfde aanpak te kiezen als de Belastingdienst doet met de compliance-benadering. “In dergelijke situaties is het belangrijk om gezamenlijk verkennend te zoeken naar wat techniek wel en niet mag en wat wenselijk is”, stelt Daniël Frijters. “Samen met bedrijven ontdekt de toezichthouder waar de ethische en juridische grenzen liggen en hoe wet- en regelgeving kan worden toegepast in nieuwe en specifieke situaties.”

Vinger aan de pols

De experts schrijven dat een blind geloof in AI-technologie niet zaligmakend is. Aan de hand van het praktijkvoorbeeld ‘Opsporen en aanpakken van witwassen' laten zij zien dat burgers onevenredig getroffen kunnen worden. Zo zet de roep van toezichthouders om steeds meer informatiebronnen te mogen koppelen de privacy van burgers onder druk. Ook blijkt een blind geloof te leiden tot automatische besluiten die niet te herleiden en moeilijk aan te passen zijn, zoals zichtbaar wordt in de casus ‘Toezicht in het verkeersdomein'.

Vaak wordt met de beste bedoelingen gestreefd naar efficiency. De AI-experts laten zien dat dit ook zijn keerzijden heeft. De rol van de toezichthouder verandert ten opzichte van de partij waarop toezicht wordt uitgeoefend. Vaak gebeurt dat onderhuids, onbewust en onverwacht. Een voorbeeld van de Kafkabrigade laat pijnlijk duidelijk zien wat dat betekent voor de burger. “De toepassing van artificial intelligence biedt veel kansen voor toezicht, maar daarvoor is maatschappelijk draagvlak nodig”, duidt Daniël Frijters. “Dat vraagt om transparantie en een goede doordenking van het toepassing van artificiële intelligentie. Er is dan ook werk aan de winkel voor toezichthouders.”

Tip: Hét event over digital marketing in Nederland – ‘Digital Marketing in 1 Day’

  • Uiteenlopende onderwerpen op het gebied van digital marketing – van Ev Liu over haar strijd tegen plastic rietjes tot Sara Dol over haar 1,6 miljoen volgers op TikTok.
  • Leerzame praktijkvoorbeelden van onder meer ABN AMRO World Tennis Tournament, FBTO, Rabobank en VanMoof.
  • Internationale keynote van Michael Tchong over trends in digital marketing.
  • Aandacht voor digital marketing in zowel business-to-consumer als business-to-business, met B2B-cases van onder andere Daelmans Banket, Exact, Kramp en Omron.
  • Deelnemers aan het event ontvangen het boek ‘Digital Marketing Pinball’ van Daniël Markus.
Lees meer over dit evenement ►
Bron: CustomerTalk
0
Logo CustomerTalk

Cookie-instellingen

CustomerTalk maakt gebruik van cookies voor een optimale gebruikerservaring.

Graag vragen wij je toestemming voor het plaatsen van deze cookies.

Accepteren Meer informatie