Příslibem asistentů AI, jako je ChatGPT, je téměř univerzální kompetence, ale i tyto pokročilé systémy narážejí na překvapivě jednoduché úkoly. Jeden jasný příklad? ChatGPT nedokáže spolehlivě určit čas. Navzdory schopnosti generovat humanoidní text, překládat jazyky a dokonce psát kód, často selže, když se zeptáte, kolik je hodin.
Nekonzistentní odpovědi
Na požádání ChatGPT produkuje nepředvídatelné odpovědi. Někdy svou neschopnost přizná: “Nemám přístup k systémovým hodinám vašeho zařízení…”. V jiných případech hádá, často nesprávně, nebo se ptá na místo, jen aby stejně uvedl nepravdivé informace. Model čas od času odpovídá správně, ale chyby opakuje i po několika okamžicích. Tato nepředvídatelnost je dobře zdokumentována mezi uživateli na fórech, jako je Reddit, kteří vyjadřují frustraci ze systému, který jinak vykazuje působivé kognitivní schopnosti.
Proč se to děje: Klíčová omezení AI
Důvod této chyby spočívá ve způsobu, jakým funguje generativní AI. Na rozdíl od počítačů nebo chytrých telefonů, které získávají čas prostřednictvím vestavěných čipů, ChatGPT funguje tak, že předpovídá nejpravděpodobnější odpověď na základě svých tréninkových dat. Tato data nezahrnují neustálé aktualizace v reálném čase, jako je aktuální čas, pokud tyto informace aktivně nevyhledává. Expert na AI robotiku Yervant Kulbashian to popisuje jako AI „nabitou obrovskou sbírkou knih, ale bez hodinek“.
Kompromisy všímavosti
OpenAI mohla integrovat přístup k systémovým hodinám a v některých případech, s povolenou funkcí vyhledávání na webu, by ChatGPT mohl poskytovat přesný čas. To však přináší kompromisy. Modely umělé inteligence mají omezená „kontextová okna“ – množství informací, které mohou v daném okamžiku pojmout. Neustálé aktualizace času by zaplnily tento prostor, potenciálně by přidaly šum a zmátly systém.
„Pokud budete na svůj stůl dávat stále více věcí, dříve nebo později z něj budete muset něco přesunout,“ vysvětluje Kulbashyan. Systém riskuje, že upřednostní aktuální čas před smysluplnějším kontextem konverzace.
Beyond Time: The Blind Spot Model
Neschopnost určit čas není izolovaný incident. Výzkumníci zjistili, že modely umělé inteligence měly potíže s jinými úkoly souvisejícími s časem, jako je čtení analogových hodin nebo interpretace kalendářů. To ukazuje na širší problém: Systémy umělé inteligence nerozumí konceptům reálného světa stejným způsobem jako lidé. Předpovídají výsledky na základě vzorců a čas jako neustále se měnící proměnná do tohoto rámce nezapadá.
Problém transparentnosti
Nejotravnějším aspektem pro uživatele je nakonec nekonzistentní transparentnost ChatGPT. Lidský asistent přiznávající nevědomost je přijatelný; AI, která spolehlivě poskytuje nesprávné informace, ne. ChatGPT nelže, ale spíše předpovídá to, co chce uživatel slyšet. OpenAI si to uvědomuje a nadále zlepšuje schopnost modelu rozpoznat jeho vlastní omezení.
Navzdory pokrokům v AI zůstává neschopnost ChatGPT říkat čas jasnou připomínkou toho, že i ty nejsložitější systémy mají zásadní mezery v chápání skutečného světa.
