Vorige maand is een rapport van Workviva verschenen over AI in de bestuurskamers. Dat in de pers en op social media hier weinig aandacht aan is besteed kan te maken hebben met de bevindingen. Het is zowel beschamend als verontrustend te lezen hoe vaak AI fouten voorkomen en onopgemerkt blijven.
Het onderzoek stelt vast dat AI steeds vaker gebruikt wordt om het C-level te informeren en door het C-level om aandeelhouders en eigenaars te kunnen vertellen wat er gebeurt. Dat is in lijn met alle verwachtingen en zou geen reden voor zorg mogen zijn.
Reden voor zorgen zijn er echter genoeg. Een op de vier bestuurders heeft toegegeven dat de onjuiste output van AI is beland in rapportages. Nog kwalijker is dat in die gevallen de fouten pas zijn opgemerkt na verspreiding naar bestuurders, aandeelhouders en auditors.
Fouten in dergelijke rapportages kunnen een uiterst dure grap worden, helemaal in de VS waar om het minste of geringste rechtszaken worden aangespannen. Maar het is ook kwalijk omdat deze rapportages op de bureaus van toezichthouders belanden.
Controle
Wie enigszins bekend is met het opstellen van kwartaal en jaarverslagen zal ook rillingen krijgen van de volgende bevinding: 84 procent gaat er vanuit dat in de jaarverslagen AI input staat die niet door mensen is gecontroleerd.
Forbes, dat wel aan dit onderzoek aandacht heeft besteed, merkt over dat laatste op dat het gebrek aan vertrouwen en accuratesse in AI kwartaalverslagen ook de andere kant heeft bereikt. Het verwijst naar een ander onderzoek waaruit blijkt dat 89 procent (!) van de professionele beleggers bezorgd is over de accuratesse van verslagen door het gebruik van AI.
Draai van Workviva
De draai die in het Workviva wordt gegeven aan de onbetrouwbaarheid van de data waarmee AI werkt wekt weinig vertrouwen. Slechts 11 procent van de bedrijven zegt te beschikken over data die goed genoeg is voor AI. Als die data in de regel zo slecht is, waarom laat men er dan AI op los?
Die vraag wordt niet geheel beantwoord. Nu nog niet. Wellicht is daar nog een aantal rechtszaken voor nodig waar over de bestuursaansprakelijkheid zal worden gestreden. Wel wijst Workviva naar een groot verschil in vertrouwen. Het C-level heeft 10 procentpunten meer vertrouwen dat de output van AI die in rapportages verschijnt betrouwbaar is dan een niveau lager. Dat niveau is waar normaal de data wordt vergaard om die verslagen te maken.
Het Workviva rapport, dat als subtitel heeft “The Verification Gap”, stelt dat het gebaseerd is input verzameld uit de hele wereld. Daar valt op af te dingen, al was het maar omdat er vooral veel aandacht is voor Amerikaanse regels en het ontbreken daarvan voor het gebruik van AI. Dat is echter geen reden om het als oninteressant te bestempelen.
