Naar inhoud

Het schemergebied tussen artificial intelligence en ethiek

In het bedrijfsleven en bij de overheid is het ethisch bewustzijn omtrent het gebruik van artificial intelligence (AI) in de afgelopen 12 maanden toegenomen. Toch is het beeld hierover nog diffuus, want er zijn slechts op enkele gebieden verbeteringen bereikt. Een van de redenen daarvoor is dat slechts 53 procent van de organisaties een manager heeft die verantwoordelijk is voor ethische en betrouwbare AI-systemen. Tegelijkertijd is momenteel maar 62 procent van de consumenten – tegen 76 procent vorig jaar – van mening dat bedrijven en instellingen volledig transparant zijn over hoe persoonlijke informatie wordt gebruikt.


Onvoldoende focus op ethische aspecten van AI-gebruik

Dit kun je opmaken uit het onderzoeksrapport ‘AI and the Ethical Conundrum – How organizations can build ethically robust AI systems and gain trust’ van het Capgemini Research Institute, een onderdeel van de gelijknamige consultancyorganisatie. Voor het onderliggende onderzoek zijn vragen voorgelegd aan 2.900 consumenten uit zes landen en bijna 900 leidinggevenden uit tien landen, waaronder Nederland. De resultaten zijn ook vergeleken met verschillende studies van vorig jaar. In het rapport wordt verder benadrukt dat een focus op ethische aspecten cruciaal is om het transformatiepotentieel van artificiële intelligentie voor het milieu, de economie en de maatschappij te realiseren.

Organisaties zien in toenemende mate de noodzaak in om actie te ondernemen met betrekking tot ethische AI-systemen. 45 procent heeft in 2020 namelijk een AI-handvest opgesteld – tegenover 5 procent in 2019 – en twee derde van de managers (65%) is zich ervan bewust dat AI-systemen mogelijk tot discriminerende beslissingen kunnen leiden. 58 procent geeft ook aan zijn medewerkers te hebben geïnformeerd over de mogelijke effecten van het gebruik van artificiële intelligentie.

Toch tonen AI-systemen in 2020 vooruitgang op de ethische dimensie van verklaarbaarheid ten opzichte van 2019. Op dit gebied denkt 40 procent van de AI-ontwikkelaars en 27 procent van de AI-gebruikers in marketing en sales te begrijpen hoe beslissingen door artificial intelligence worden genomen. Aan de consumentenkant verwacht 71 procent echter dat organisaties in staat zijn dergelijke beslissingen nauwkeurig te herleiden. Bovendien gaat 66 procent ervan uit dat AI-modellen eerlijk en zonder bias handelen en dat de interacties transparant zijn.

COVID-19 heeft een negatief effect op transparantie AI-processen

In de studie zijn AI-systemen onderzocht op basis van vier ethische dimensies: verklaarbaarheid, eerlijkheid, controleerbaarheid en transparantie. De onderzoekers concluderen dat in 2020 alleen de verklaarbaarheid is verbeterd. Het onderzoek leert dat in 64 procent van de organisaties – dat is in twee keer zo veel bedrijven en instellingen als in 2019 – de werking van de AI-systemen in eenvoudige taal kan worden verklaard. Een herziening van datasets en AI-systemen om een eerlijke en gelijke behandeling van alle groepen te garanderen, wordt uitgevoerd in 65 procent van de organisaties. In 2019 was dit 66 procent.

Het aantal bedrijven en instellingen waar onafhankelijke audits van de AI-systemen worden uitgevoerd, is met 1 procentpunt gedaald tot 45 procent. Het aantal organisaties waar transparante informatie wordt verstrekt aan AI-gebruikers over de mogelijke effecten van AI-beslissingen is het sterkst gedaald – van 73 procent naar 59 procent. In Nederland is dit percentage overigens onveranderd gebleven: 71 procent. Wereldwijd is er sprake van een lager consumentenvertrouwen, want 62 procent van de consumenten – in 2019 was dit 76 procent – is ervan overtuigd dat bedrijven en instellingen transparant opereren.

Volgens de onderzoekers is dit indicatief voor de huidige omstandigheden die door COVID-19 zijn ontstaan, maar ook voor de maatschappelijke en ecologische behoeften, de toenemende complexiteit van de AI-modellen en een verandering in het consumentengedrag. Die hebben allemaal de functionaliteiten van de bestaande AI-modellen verstoord. Nieuwe factoren – waaronder een voorkeur voor veiligheid en een gebrek aan trainingsgegevens voor vergelijkbare situaties uit het verleden – hebben ertoe geleid dat in organisaties de systemen aan een herontwerp onderhevig zijn om deze aan te passen aan een nieuwe norm. Dit heeft echter geleid tot minder transparantie.

Verantwoordelijkheid artificiële intelligentie beleggen in ethische kwesties

Volgens de onderzoekers moeten bedrijven een verantwoordelijke manager – zoals een chief ethics officer – aanstellen om te zorgen voor ethisch verantwoorde AI-systemen. Momenteel is deze functie in 53 procent van de bedrijven en instellingen aanwezig. Bovendien is een ombudsman of een hotline – waar klanten en medewerkers terecht kunnen met ethische vragen over AI-systemen – slechts in een op de twee organisaties beschikbaar. Daarnaast moeten bedrijfsmanagers en technology executives er ook voor kunnen zorgen dat de AI-toepassingen, die in hun werkveld worden gebruikt, ethische resultaten opleveren.

De onderzoekers benadrukken zeven belangrijke maatregelen die cruciaal zijn voor het bouwen van een ethisch robuust AI-systeem. Die systemen moeten gebaseerd zijn op een sterk fundament van leiderschap, governance en interne processen. Organisaties moeten daarom:

  1. het beoogde doel van een AI-systeem nauwkeurig kunnen beschrijven en het potentiële totale effect kunnen bepalen;
  2. actief artificiële intelligentie gebruiken ten behoeve van de samenleving en het milieu;
  3. de beginselen van diversiteit en inclusie gedurende de gehele levenscyclus van AI-systemen verankeren;
  4. de transparantie optimaliseren met behulp van geschikte technologische hulpmiddelen;
  5. ervoor te zorgen dat AI-ervaringen mensgericht zijn en dat AI-systemen onder menselijk toezicht staan;
  6. ervoor zorgen dat AI-systemen technisch robuust zijn;
  7. de privacy beschermen door gebruikers controle te geven over hun AI-interacties.

Foto: Unsplash

Tip: Wil jij weten hoe je marketing automation inzet voor jouw campagnes? Dan is de opleiding Marketing Automation & Campagne Management wat voor jou!

  • Tijdens deze opleiding leer jij hoe je jouw strategie voor marketing automation en campagnemanagement ontwikkelt en implementeert.
  • Je leert hoe je het maximale uit je campagnes kunt halen door middel van marketing automation.
Lees meer over deze opleiding ►
Bron: CustomerTalk
0

Reacties

Logo CustomerTalk

Cookie-instellingen

CustomerTalk maakt gebruik van cookies voor een optimale gebruikerservaring.

Graag vragen wij je toestemming voor het plaatsen van deze cookies.

Accepteren Meer informatie