Merendeel van cfo’s kan AI-beslissingen niet herleiden

Bijna twee derde van de chief financial officers (cfo’s) kan niet volledig uitleggen of herleiden waarom artificial intelligence (AI) een bepaalde beslissing heeft genomen. Voor finance professionals als geheel geldt dit voor 54%. Dit blijkt uit onderzoek van marktonderzoeksbureau Markteffect, uitgevoerd in opdracht van Onguard onder ruim 300 financials.

Bijna de helft van de finance professionals (45%) gebruikt AI in het werk. Binnen deze groep kan 52% een AI-gedreven beslissing over kredietverlening of inning pas met toelichting achteraf onderbouwen. Bij 21% is alleen de uitkomst duidelijk en ontbreekt de onderbouwing. Nog eens 9% noemt een AI-beslissing nauwelijks of niet uitlegbaar.

Versnelling leidt niet altijd tot meer controle

Hoewel AI (tool) processen versnelt, leidt dit niet automatisch tot meer controle. Bij 41% gaat het werk sneller, terwijl de controle gelijk blijft. Bij 32% neemt de controle juist af. Slechts 20% ziet zowel meer snelheid als betere controle. Menselijke controle is bij een derde (31%) standaard ingebouwd. Bij de helft (49%) gebeurt dat vaak, maar niet altijd. Zeven op de tien finance professionals geven aan dat AI-beslissingen regelmatig of soms leiden tot correcties, uitzonderingen of handmatige beoordeling.

Snelheid ten koste van onderbouwing

Bijna de helft van de respondenten (48%) geeft aan dat AI is ingevoerd om snelheid te winnen, terwijl de onderliggende processen nog niet op orde waren. Dat aandeel is het hoogst onder cfo’s: 61%, tegenover 53% onder financieel managers en 37% onder financieel medewerkers. Hoewel AI financiële processen versnelt, gaat die snelheidswinst bij een gebrekkige onderbouwing en beperkte menselijke controle ten koste van grip en verantwoording. Beslissingen die met AI worden genomen, moeten daarom uitlegbaar en controleerbaar blijven.