Uni Emirat Arab adalah pemimpin global dalam penerapan AI, dengan tingkat penggunaan AI tertinggi di dunia di kalangan penduduk usia kerja. Namun, meskipun mereka berada di garis depan dalam revolusi teknologi ini, sebuah laporan baru mengungkapkan adanya kesenjangan dalam cara organisasi-organisasi di UEA mengatur dan memahami sistem AI mereka.
Laporan Pengakuan AI Global Dataiku mensurvei lebih dari 800 eksekutif data senior di delapan negara, termasuk 100 responden dari UEA yang bekerja di perusahaan besar. Temuan ini memberikan gambaran tentang penerapan AI yang ambisius dan tidak adanya mekanisme pengawasan yang kuat.
Meskipun 72 persen pemimpin bidang data di UEA menyatakan keyakinannya dalam mempercayakan agen AI untuk mengambil keputusan secara otonom dalam proses bisnis yang penting – bahkan tanpa penjelasan yang jelas atas keputusan tersebut – hampir semua (94 persen) mengakui bahwa mereka tidak memiliki visibilitas yang lengkap mengenai bagaimana sistem AI ini sampai pada kesimpulan mereka. Keterputusan ini menimbulkan permasalahan tata kelola yang serius, dan hanya separuh dari mereka yang mengambil langkah seperti menunda atau memblokir penerapan AI karena kekhawatiran akan kemampuan menjelaskannya.
Selain itu, hanya 17 persen responden UEA yang selalu memerlukan sistem AI untuk memberikan penjelasan atas keputusan mereka – sangat kontras dengan rata-rata global sebesar 47 persen. Keengganan untuk memprioritaskan penjelasan menciptakan kerentanan. Meskipun dua pertiga (62%) mengakui bahwa mereka kurang percaya diri terhadap sistem AI organisasi mereka dalam lolos audit keputusan dasar, hanya sedikit yang secara aktif mengatasi kesenjangan ini.
Konsekuensi dari pengawasan ini berpotensi merugikan. Ketika AI memberikan hasil yang sukses, organisasi-organisasi di UEA kemungkinan besar akan memberikan penghargaan kepada tim AI dan ilmu data (42 persen), melebihi rata-rata global sebesar 32 persen. Sebaliknya, ketika ada masalah, 33 persen menyalahkan tim AI dan ilmu data yang sama, dibandingkan dengan rata-rata global sebesar 25 persen.
Menariknya, meskipun para pemimpin data di UEA menekankan keakuratan AI di atas segalanya, mereka berhati-hati dalam mempercayakan keputusan berisiko tinggi kepada AI. Mereka sebagian besar menolak mengizinkan agen AI untuk berpartisipasi dalam perekrutan atau pemecatan (55 persen) atau menangani masalah hukum dan kepatuhan (48 persen). Hal ini menunjukkan pendekatan pragmatis di mana kekuatan AI diakui sekaligus mengakui keterbatasannya.
Namun, laporan tersebut menyoroti kesenjangan antara aspirasi kepemimpinan dan ekspektasi realistis terkait penerapan AI. Hampir enam dari sepuluh responden di UEA percaya bahwa C-suite mereka melebih-lebihkan keakuratan sistem AI, dan dua pertiga merasa bahwa kepemimpinan meremehkan waktu dan kompleksitas yang diperlukan agar AI benar-benar dapat beroperasi. Hal ini menunjukkan adanya kesenjangan dalam komunikasi dan pemahaman tentang kemampuan AI dalam organisasi.
Tindakan Penyeimbangan:
Posisi UEA sebagai pionir AI tidak dapat disangkal, namun perkembangan penerapannya yang cepat memerlukan kalibrasi yang cermat dan praktik tata kelola yang bertanggung jawab. Laporan ini mendesak adanya pendekatan yang lebih seimbang – pendekatan yang memprioritaskan penjelasan, mengatasi permasalahan akuntabilitas, dan menyelaraskan ambisi teknologi dengan hasil bisnis yang realistis.
Kegagalan untuk melakukan hal ini berisiko merusak kepercayaan publik terhadap AI, menciptakan kerentanan operasional, dan pada akhirnya menghambat tujuan AI jangka panjang UEA.
