Autonome AI-systemen nemen in steeds meer organisaties zelfstandig beslissingen, maar veel bedrijven blijken juridisch nauwelijks voorbereid op de gevolgen als het misgaat. Een kwart (24%) van de bedrijven heeft helemaal niets vastgelegd over waar de verantwoordelijkheid ligt wanneer het misgaat. Ruim driekwart (77%) van de organisaties heeft überhaupt geen idee wie verantwoordelijk is wanneer autonome AI, zoals een ERP-systeem, schade veroorzaakt. Dit blijkt uit onderzoek van Dynamic People onder 317 IT- en businessbeslissers binnen middelgrote en grote organisaties in Nederland.
Voorbereid op papier, kwetsbaar in de praktijk
Hoewel de juridische onduidelijkheid groot is, denkt een meerderheid van de organisaties toch goed voorbereid te zijn. Bijna zes op de tien respondenten (59%) zegt dat de eigen organisatie juridisch klaar is voor de inzet van autonome AI-systemen. Toch blijkt dat in de praktijk minder te zijn. Naast de 24 procent die niets heeft vastgelegd over aansprakelijkheid, geeft een derde (36%) aan dit gedeeltelijk te hebben vastgelegd.
Verantwoordelijk voor financiële schade
Bij financiële schade veroorzaakt door een autonoom AI-systeem verwachten organisaties vooral dat de verantwoordelijkheid intern wordt gedragen. Bijna een derde (29%) wijst de IT-afdeling aan als primair verantwoordelijke partij, gevolgd door de organisatie zelf (22%) en de manager die eindverantwoordelijk is voor het proces (21%). De softwareleverancier wordt als laatste genoemd met 19 procent.
Reageren?
Je moet ingelogd zijn op om een reactie te plaatsen.