59 procent van de IT- en businessbeslissers in Nederland maakt zich zorgen over fouten van autonome AI-systemen waarvoor zij verantwoordelijk worden gehouden. Dat blijkt uit onderzoek van Dynamic People, uitgevoerd door Markteffect.
Tegelijkertijd denkt twee derde van de ondervraagden dat AI betere beslissingen neemt dan de meeste managers. Volgens de onderzoekers ontstaat daarmee een spanningsveld tussen vertrouwen in AI en de verantwoordelijkheid voor de uitkomsten.
Zorgen over controleverlies
De grootste zorgen gaan over cyberaanvallen waarbij AI-systemen worden gemanipuleerd, onomkeerbare AI-beslissingen en systemen die regels anders interpreteren dan bedoeld.
Daarnaast vindt 79 procent het oneerlijk om verantwoordelijk te worden gehouden voor beslissingen die een autonoom systeem heeft genomen. Wel geeft 89 procent aan te willen begrijpen hoe AI tot een beslissing komt.
AI krijgt steeds meer autoriteit
Meer dan de helft van de respondenten verwacht dat omdat de AI het zegt over vijf jaar geldt als volwaardige zakelijke onderbouwing. Ook blijkt dat fouten van AI-systemen minder snel worden geaccepteerd dan vergelijkbare fouten van medewerkers.
Het onderzoek werd uitgevoerd onder 317 IT- en businessbeslissers binnen middelgrote en grote organisaties.
