Sage, een Engelse leverancier van bedrijfssoftware voor het MKB, heeft IDC onderzoek laten doen naar de impact en acceptatie van AI in de financiële sector. Dat onderzoek is hier te downloaden en is vooral interessant omdat het uitgebreid stilstaat bij de „Verification Tax“.
De samenvatting van het rapport is te vinden op de downloadpagina en geeft al de belangrijkste cijfers. IDC ziet dat gebruikers van AI voor financiële processen nog al wat uren per week kwijt zijn om de AI output de controleren.
Veel uren kwijt aan controle
Genoemd door een groep is een bandbreedte van 15 tot 29 uur per week. Zonder verdere context is dat iets waar iedereen die uren moet verantwoorden onrustig van wordt. IDC stelt dat 29% van de financiële verantwoordelijken heeft gezegd die controle door te voeren en het is die groep die ook te linken is aan het aantal uren.
Er is ook gemeten dat 18 procent zelfs nog langer bezig is, meer dan 30 uur per week om AI output te controleren. Dus van de bedrijven die AI inzetten voor financiële processen zou 47% per week meer dan 15 uur kwijt zijn met het controleren van de output.
Bruto versus netto besparing
Het is dan ook niet zo vreemd dat Sage / IDC vraagtekens zetten bij het echte netto effect van AI op dit terrein en op dit moment. Daar komt ook de term „Verification Tax“ om de hoek kijken. De bruto besparing van tijd en kosten is onder de streep vele malen geringer door die noodzakelijke geachte controles.
In het rapport staat ook dat het verschijnsel “black box” een belangrijke rol speelt. Dat is volkomen begrijpelijk, want als er een afdeling is die geacht wordt “ in control” te zijn dan is het wel finance. AI verantwoordelijk houden voor een verkeerde uitgestuurde of betaalde factuur zal voor de rechter geen stand houden, daarvoor is er nu al internationaal te veel jurisprudentie.
Accuraat is niet genoeg
Onder “black box” wordt in dit geval niet alleen verstaan dat de processen slecht navolgbaar zijn. Het gaat specifiek ook over de adviezen die uit het systeem rollen. De gebruikers, doelgroep, heeft grote moeite een AI aanbeveling te volgen als die in strijd is met hun eigen professionele oordeel. Een mooi citaat dat daarbij past is “In finance, accuracy without explainability isn’t enough. 71% of leaders would veto a 99% accurate AI system if it lacked a reasoning trace.“ Het verschil tussen de landen is op dit punt niet groot.
IDC maakt daarvan dat AI wordt gezien als een hulpmiddel dat zich moet meten aan menselijke expertise, en niet andersom. Een duidelijk standpunt dat de lezer bekend zal voorkomen. Toch is het wel handig daarvoor nu ook onderbouwing te hebben.
