Mensen staan open voor algoritmes (als het ze maar wat oplevert)

» Werk & ondernemen » Nijmegen innoveert

Dat algoritmes de komende jaren een steeds grotere rol in ons leven gaan spelen, is onvermijdelijk. Toch wordt er vaak gesuggereerd dat mensen huiverig zijn over computersystemen die alledaagse keuzes voor ons gaan overnemen. Vertrouwen we ze bijvoorbeeld wel met onze gezondheid en ons geld? Uit een nieuwe publicatie in AI & Society van onderzoekers van de Radboud Universiteit blijkt dat mensen best wel open staan voor de beslissingen van algoritmes, zolang we maar denken dat het ons wat oplevert.

Zolang we redelijk zeker weten dat het ons wat oplevert, hebben we helemaal niet zo'n moeite met het accepteren van beslissingen gemaakt door algoritmes. Dat zegt Gabi Schaap, communicatiewetenschapper en één van de onderzoekers betrokken bij de studie. De ruim duizend deelnemers van het onderzoek kregen verschillende scenario's voorgelegd op het gebied van online dating en aandelen. ‘Die deelnemers werd gevraagd of ze de beslissingen op dit gebied liever overlaten aan een algoritme, of aan een mens. Als ze werd verteld dat de kans van slagen hoger ligt als ze voor het algoritme kiezen, ging de voorkeur gemiddeld veel vaker uit naar het algoritme. Dat suggereert dat men niet per definitie bang is voor algoritmes, maar dat ook dit vooral een kosten-batenanalyse is voor veel mensen.’

Daarnaast bleek het voor veel deelnemers van het onderzoek belangrijk om nog enige vrije keuze te hebben. Schaap: ‘Dat zie je bijvoorbeeld als we mensen vragen naar het investeren in specifieke aandelen. Deelnemers die werd verteld dat ze de aandelenkeuzes van het algoritme in mochten zien vóór dat het geld geïnvesteerd werd, accepteerden vaker het algoritme dan de groep die er blind op moest vertrouwen dat het algoritme een hogere kans op koerswinst had.’

Mens en algoritme op gelijke voet gepresenteerd

Toch horen we vaak dat mensen wantrouwend zijn naar algoritmes, en dat ze bij belangrijke beslissingen liever een mens dan een machine hebben. Hoe komt dat dan? 'In eerder onderzoek werd vaak geen eerlijke keuze gepresenteerd. Deelnemers werd bijvoorbeeld gevraagd of ze liever hebben dat een medische diagnose wordt gesteld door een arts met menselijke empathie, of een robot die goed is in wiskundige berekeningen. Dan neigen veel mensen naar empathie, terwijl voor het stellen van de diagnose vooral die wiskundige achtergrond telt', legt Schaap uit.

‘In ons onderzoek presenteerden we mens en computersysteem op dezelfde manier. Daardoor werd het meer een keuze op competentie, en dan zie je dat de voorkeur is voor de methode die ons de meeste opbrengt of het meeste controle oplevert. ‘Is een mens beter? Dan kiezen we die. Is een algoritme beter? Dan nemen we die toch. Nu algoritmes steeds vaker beter of zelfs veel beter zijn in het maken van beslissingen dan mensen, kun je dus voorspellen dat onze voorkeur ook steeds vaker uitgaat naar die algoritmes.’ Heel verrassend is dat niet, volgens Schaap. ‘Het gaat over hele basale, menselijke mechanismen. Uiteindelijk willen we altijd weten wat iets ons oplevert, en hoeveel controle we hebben in onze keuzes. Het is bijna een oerinstinct: we zijn hard-wired om voor de oplossing te kiezen die voor ons het beste uitpakt.’

Autonomie

Volgens de onderzoekers biedt dit onderzoek belangrijke inzichten in hoe we de komende jaren als samenleving met algoritmes omgaan. Kunstmatige intelligentie ontwikkelt zich razendsnel, en wordt al gebruikt door overheden, in onderwijs, de medische wereld en tal van andere aspecten van ons dagelijks leven. Schaap: ‘De vraag die nu vaak gesteld wordt is: willen we dat wel? We zeggen vaak dat we weinig van algoritmes moeten hebben: in het maatschappelijke debat wordt de suggestie gewekt dat we ze eng vinden. Maar in concrete situaties doen we dus iets totaal anders, zo blijkt uit dit onderzoek. De bezwaren vallen dan opeens weg, en we blijken vooral gericht op optimale kansen en winsten. Dat biedt ook nieuwe aanknopingspunten: hoe presenteren we algoritmes, maar ook: waar moeten we voor opletten? Als de suggestie wordt gewekt dat het veel makkelijker is om beslissingen over te laten aan computersystemen, hoeveel autonomie zijn ze we dan bereid op te geven?’

Dit artikel verscheen eerder op Radboud Universiteit.

Dit vind je misschien ook interessant...