Naar inhoud

Consument zet vraagtekens bij de eerlijkheid van algoritmen

Nederlandse consumenten zetten vraagtekens bij het eerlijke gebruik van algoritmen. In de Nederlandse samenleving wordt het nemen van beslissingen in toenemende mate toevertrouwd aan geautomatiseerde systemen die gebruik maken van algoritmen. Zo laten verzekeraars claims steeds vaker geautomatiseerd en zonder menselijke tussenkomst afhandelen, laten ziekenhuizen in sommige gevallen medische onderzoeksresultaten niet beoordelen door mensen maar door computers en zet de politie een algoritme in om etnisch profileren tegen te gaan.

“Algoritmen spelen een steeds grotere rol in de beslissingen die voor mensen worden genomen – in de zorg, in de financiële dienstverlening en in het publieke domein”, zegt Frank van Praat, artificial intelligence in control lead bij accountants- en adviesorganisatie KPMG. “Maar veel Nederlanders hebben twijfels over de eerlijke toepassing en vinden dat het gebruik door bedrijven en instellingen onvoldoende transparant is.”

Digitale tweedeling

Uit een onderzoek onder 1.113 Nederlanders, uitgevoerd door onderzoeksbureau Motivaction in opdracht van KPMG, blijkt dat niet meer dan 11 procent denkt dat algoritmen alleen worden gebruikt als dat goed is voor mens en maatschappij. Slechts 9 procent vindt dat algoritmen zorgen voor een eerlijke en rechtvaardige wereld. Ruim 30 procent is van mening dat algoritmen kunnen helpen bij het nemen van de juiste beslissingen.

“Overigens bestaat er in de samenleving veel onbekendheid met het begrip algoritme, vooral bij mensen die lager opgeleid zijn”, duidt Frank van Praat. “Mensen die aangeven bekend te zijn met het begrip en de toepassing van algoritmen in de samenleving zijn vooral jonge hoogopgeleiden. En onbekend maakt onbemind, want de groep mensen die bekend zijn met algoritmen laten ook blijken meer vertrouwen te hebben in de werking ervan.”

“Het verschil duidt op een duidelijke tweedeling in de maatschappij als het gaat om het digitale bewustzijn van mensen. Dat betekent dat veel meer aandacht besteed moet worden aan het waarom van het gebruik van een algoritme. Want niet alleen de vraag of het ethisch verantwoord is en de betrouwbaarheid van het gebruik zijn belangrijk.”

Weerstand bij banken en verzekeraars

Uit het onderzoek blijkt dat Nederlanders zich vooral in beperkte mate comfortabel voelen bij de inzet van algoritmen door banken en verzekeringsmaatschappijen. Mensen vinden vooral dat financiële dienstverleners onvoldoende transparant zijn over het gebruik van een geautomatiseerde afhandeling van de contacten die zij met hun bank of verzekeraar hebben.

“Het is voor veel Nederlanders in het algemeen niet duidelijk wanneer een advies of een beslissing afkomstig is van een robot of van een medewerker”, vertelt Frank van Praat. “Driekwart van de mensen is dan ook negatief over het gebruik van algoritmen door banken en verzekeraars. Bij banken en verzekeraars is de teneur duidelijk negatiever dan in andere branches. Het is goed mogelijk dat het big-data-effect hierbij een rol speelt.”

“Er bestaat maatschappelijke weerstand tegen financiële instellingen die alles van je willen weten. Mensen hebben klaarblijkelijk het gevoel dat computersysteem hiervan vooral misbruik maken. In andere sectoren is het beeld aanmerkelijk positiever. In de reisbranche bijvoorbeeld, maar ook bij boekingswebsites en in de retailsector. Burgers maken duidelijk onderscheid tussen sectoren bij de vraag of ze vertrouwen hebben in de vraag of algoritmes leiden tot betere beslissingen.”

Voordelen in het publieke domein

“In het publieke domein ziet de burger wél een duidelijke bijdrage van algoritmes. Zo is er bij de vraag of de politie en de overheid met algoritmes tot betere beslissingen komen een duidelijk positiever beeld dan in andere sectoren. Zo vindt bijna 92 procent dat de overheid algoritmen mag gebruiken om fraude met uitkeringen te voorkomen. En in het veiligheidsdomein is het nog aansprekender.”

“Zo vindt in alle gevallen een ruime meerderheid dat de politie algoritmen mag gebruiken voor het bepalen van flitslocaties, het voorkomen van georganiseerde criminaliteit en het assisteren bij de keuze of er preventief gefouilleerd dient te worden of niet. Dit suggereert dat mensen de inzet van algoritmen vooral vanuit het oogpunt van sociale controle gerechtvaardigd vinden.”

Meer toezicht op algoritmen

Een meerderheid van de Nederlanders vindt dat het in het algemeen schort aan voldoende transparantie over het gebruik van algoritmen. “Dit geldt eigenlijk over de hele linie”, stelt Frank van Praat. “De behoefte aan meer controle is bovendien groot. Bijna 80 procent geeft aan dat toezicht op een verantwoord gebruik van algoritmen gewenst is. Volgens de meeste Nederlanders moet deze taak in handen worden gelegd van een combinatie van overheid en onafhankelijke deskundigen.”

Bron: CustomerTalk
0
Logo CustomerTalk

Cookie-instellingen

CustomerTalk maakt gebruik van cookies voor een optimale gebruikerservaring.

Graag vragen wij je toestemming voor het plaatsen van deze cookies.

Accepteren Meer informatie