De Verenigde Arabische Emiraten zijn een wereldleider op het gebied van AI-adoptie en kunnen bogen op het hoogste gebruikspercentage ter wereld onder de beroepsbevolking. Maar ondanks dat ze vooroplopen in deze technologische revolutie, onthult een nieuw rapport de hiaten in de manier waarop organisaties in de VAE hun AI-systemen besturen en begrijpen.
Dataiku’s Global AI Confessions Report heeft ruim 800 senior datamanagers in acht landen ondervraagd, waaronder 100 respondenten uit de VAE die bij grote bedrijven werken. De bevindingen schetsen een beeld van een ambitieuze AI-implementatie die botst met een gebrek aan robuuste toezichtsmechanismen.
Hoewel 72 procent van de dataleiders in de VAE vertrouwen heeft in het toevertrouwen van AI-agenten om autonome beslissingen te nemen in cruciale bedrijfsprocessen – zelfs zonder duidelijke uitleg voor die beslissingen – geeft bijna iedereen (94 procent) toe dat ze geen volledig inzicht hebben in hoe deze AI-systemen tot hun conclusies komen. Deze ontkoppeling leidt tot ernstige bezorgdheid over het bestuur, waarbij slechts de helft stappen onderneemt zoals het uitstellen of blokkeren van AI-implementaties vanwege zorgen over de uitlegbaarheid.
Bovendien heeft slechts 17 procent van de respondenten in de VAE altijd behoefte aan AI-systemen om hun beslissingen te verklaren – een schril contrast met het mondiale gemiddelde van 47 procent. Deze terughoudendheid om prioriteit te geven aan verklaarbaarheid creëert kwetsbaarheden. Hoewel tweederde (62%) toegeeft dat er een beperkt vertrouwen is in de AI-systemen van hun organisatie die basisbeslissingsaudits doorstaan, lijken slechts weinigen deze kloof actief aan te pakken.
De gevolgen van dit toezicht zijn potentieel schadelijk. Wanneer AI succesvolle resultaten oplevert, zullen organisaties in de VAE hoogstwaarschijnlijk het AI- en datawetenschapsteam (42 procent) waarderen, waarmee ze het mondiale gemiddelde van 32 procent overschrijden. Omgekeerd, als er iets misgaat, wijst 33 procent met de vinger naar dezelfde AI- en datawetenschapsteams, vergeleken met een mondiaal gemiddelde van 25 procent.
Interessant is dat, hoewel dataleiders in de VAE de nauwkeurigheid van AI boven alles benadrukken, ze voorzichtig zijn met het toevertrouwen van beslissingen met hoge inzet aan AI. Ze weigeren in overweldigende mate toe te staan dat AI-agenten deelnemen aan het aannemen of ontslaan (55 procent) of juridische en nalevingszaken afhandelen (48 procent). Dit suggereert een pragmatische aanpak waarbij de sterke punten van AI worden erkend en tegelijkertijd de beperkingen ervan worden erkend.
Het rapport benadrukt echter dat er een kloof bestaat tussen leiderschapsaspiraties en realistische verwachtingen met betrekking tot de implementatie van AI. Bijna zes op de tien respondenten in de VAE zijn van mening dat hun C-suite de nauwkeurigheid van AI-systemen overschat, en tweederde is van mening dat het leiderschap de tijd en complexiteit onderschat die nodig zijn om AI echt operationeel te maken. Dit duidt op een leemte in de communicatie en het begrip over AI-mogelijkheden binnen organisaties.
Een evenwichtsoefening:
De positie van de VAE als AI-pionier valt niet te ontkennen, maar het snelle adoptietraject ervan vereist een zorgvuldige afstemming met verantwoordelijke bestuurspraktijken. Het rapport dringt aan op een meer evenwichtige aanpak – een aanpak die prioriteit geeft aan de verklaarbaarheid, problemen met de aansprakelijkheid aanpakt en de technologische ambitie op één lijn brengt met realistische bedrijfsresultaten.
Als u dit niet doet, bestaat het risico dat het publieke vertrouwen in AI wordt ondermijnd, operationele kwetsbaarheden ontstaan en uiteindelijk de AI-doelstellingen van de VAE op de lange termijn worden belemmerd.
