59 procent managers ligt wakker van autonome AI-beslissingen

Een groeiend aantal organisaties zet AI in om zelfstandig beslissingen te nemen, maar de managers die daarvoor verantwoordelijk zijn, ervaren dat als een ongemakkelijke spagaat. 59 procent ligt ‘s nachts wakker van het idee dat AI een fout maakt waarvoor zij verantwoordelijk worden gehouden. De grootste angstscenario’s die hen bezighouden zijn een cyberaanval waarbij hackers de AI manipuleren (22%), een onomkeerbare AI-beslissing (18%) en een AI die regels anders interpreteert dan bedoeld (16%). Dit blijkt uit onderzoek van Dynamic People onder 317 IT- en businessbeslissers binnen middelgrote en grote organisaties in Nederland.

Verantwoordelijkheid zonder controle

Die verantwoordelijkheid voelt voor velen als een oneerlijke last. Acht op de tien (79%) vindt het oneerlijk om op te draaien voor beslissingen die een autonoom systeem, zoals een ERP-systeem, heeft genomen. Toch is het beeld niet zwart-wit: hoewel bijna negen op de tien (89%) wil begrijpen waaróm AI een bepaalde beslissing neemt, zegt 68 procent ook dat een goede uitkomst voor hen voldoende is. Zolang het goed gaat, hoeven ze het niet per se uit te kunnen leggen aan de directie.

Meer vertrouwen in AI dan in de eigen collega

De nachtelijke zorgen staan in opvallend contrast met hoe beslissingsbevoegden AI daadwerkelijk beoordelen. Twee derde (67%) denkt dat AI betere beslissingen neemt dan de meeste managers, en die hogere verwachting vertaalt zich in een strenger oordeel. De helft accepteert een fout van een junior medewerker sneller dan een vergelijkbare fout van een AI-systeem. En dat vertrouwen in AI als autoriteit lijkt alleen maar te groeien: meer dan de helft (56%) gelooft dat “omdat de AI het zegt” over vijf jaar een volwaardige zakelijke onderbouwing is.”

Jan-Douwe Jildera, CEO bij Dynamic People: “Dat managers wakker liggen van beslissingen die door AI genomen worden, is een teken aan de wand. Het vertrouwen in AI als beslisser groeit snel, maar de organisatie groeit daar nog niet in mee. Organisaties moeten nu nadenken over governance: wie bepaalt wat het systeem mag beslissen, wie houdt toezicht en wie is aanspreekbaar als het een keer misgaat. Dat zijn geen technische vragen, maar organisatorische. En moeten ze beantwoord worden voordat het systeem live gaat, niet erna.”