Ambice SAE v oblasti umělé inteligence předčí postupy řízení
Spojené arabské emiráty jsou globálním lídrem v zavádění umělé inteligence a celosvětově mají největší podíl na jejím využívání mezi pracující populací. Navzdory tomu, že stojí v popředí této technologické revoluce, nová zpráva odhaluje vážné problémy v tom, jak organizace SAE spravují a chápou své systémy AI.
Dataiku „Global AI Confessions Report“ zkoumala 800 vedoucích pracovníků v oblasti dat z osmi zemí, včetně 100 respondentů ze Spojených arabských emirátů pracujících pro velké korporace. Výsledky vykreslují obrázek ambiciózní implementace AI, která čelí nedostatku robustních mechanismů dohledu.
Zatímco 72 % datových vůdců ze Spojených arabských emirátů je přesvědčeno, že mohou zadávat agentům AI, aby dělali autonomní rozhodnutí v kritických obchodních procesech – a to i bez jasného vysvětlení těchto rozhodnutí – téměř všichni (94 %) připouštějí, že postrádají plné pochopení toho, jak tyto systémy AI dosahují svých závěrů. Toto časové odpojení vyvolává vážné obavy z oblasti správy, protože pouze polovina podniká kroky, jako je zpoždění nebo blokování nasazení AI kvůli problémům s vysvětlitelností.
Navíc pouze 17 % respondentů ze Spojených arabských emirátů vždy vyžaduje, aby systémy umělé inteligence poskytly vysvětlení jejich rozhodnutí – to je v příkrém rozporu s celosvětovým průměrem 47 %. Neurčení priority vysvětlitelnosti vytváří zranitelnosti. Zatímco dvě třetiny (62 %) připouštějí, že jejich organizace mají problém důvěřovat jejich systémům AI, že projdou základními rozhodovacími audity, jen málo z nich podniká proaktivní kroky k řešení tohoto problému.
Důsledky tohoto nedostatku dohledu mohou být docela zničující. Když umělá inteligence přináší úspěšné výsledky, organizace ze Spojených arabských emirátů většinou připisují úspěch týmu AI a datových vědců (42 %), což je více než celosvětový průměr 32 %. Na druhou stranu, když dojde k selhání, 33 % poukazuje na stejný tým AI a datových vědců, zatímco celosvětový průměr je 25 %.
Zajímavé je, že zatímco datoví lídři ze Spojených arabských emirátů oceňují přesnost umělé inteligence nade vše, jsou opatrní při svěřování důležitých rozhodnutí. Naprostá většina odmítá, aby agenti AI byli zapojeni do najímání a propouštění (55 %) nebo do právních a regulačních záležitostí (48 %). To ukazuje pragmatický přístup, který uznává silné stránky AI i její omezení.
Zpráva však ukazuje propast mezi aspiracemi managementu a realistickými očekáváními pro přijetí AI. Téměř šest z deseti respondentů ze Spojených arabských emirátů se domnívá, že jejich vrcholový management přeceňuje přesnost systémů umělé inteligence, zatímco dvě třetiny se domnívají, že vedení podceňuje čas a složitost potřebnou k tomu, aby umělá inteligence skutečně fungovala. To ukazuje na mezeru v komunikaci a chápání schopností AI v rámci organizací.
Jemná rovnováha:
Pozice Spojených arabských emirátů jako průkopníka umělé inteligence je nepopiratelná, ale její rychlé tempo přijímání vyžaduje doladění pomocí odpovědných postupů řízení. Zpráva požaduje vyváženější přístup – takový, který upřednostňuje vysvětlitelnost, řeší otázky odpovědnosti a vyvažuje technologické ambice s realistickými obchodními výsledky.
Pokud tak neučiníte, mohlo by to podkopat důvěru veřejnosti v AI, vytvořit provozní zranitelnost a v konečném důsledku zabránit Spojeným arabským emirátům dosáhnout jejich dlouhodobých cílů v oblasti AI.
