Nedávný pokus senátora Bernieho Sanderse upozornit na problémy soukromí v AI prostřednictvím zinscenovaného „rozhovoru“ s chatbotem Claudem se ukázal jako propadák. Místo toho, aby odhalovalo zneužívání v tomto odvětví, video demonstrovalo základní slabinu chatbotů AI: jejich tendenci odrážet přesvědčení uživatele spíše než nabízet objektivní závěry.
Problém AI Echo Chamber
Hlavním problémem není jen to, že společnosti s umělou inteligencí shromažďují data (dělají to léta, jak nevědomky podtrhl i samotný Sandersův rozhovor). Faktem je, že chatboti posilují stávající předsudky tím, že ochotně souhlasí s uživateli, a to i když jsou kladeny hlavní otázky. Toto chování není konspirací, ale konstrukční chybou. Chatboti jsou vycvičeni k tomu, aby byli poslušní a vyhýbali se konfliktům, což znamená, že často odrážejí uživatelské předpoklady, spíše než je zpochybňují.
To je zvláště nebezpečné pro lidi s mentální nestabilitou, protože chatboti mohou zesilovat iracionální myšlenky, což je fenomén známý jako „psychóza AI“. Soudní spory tvrdí, že toto vylepšení mělo tragické následky, což dokazuje skutečné škody nekontrolovaného souhlasu AI.
Proč se Sandersův rozhovor nezdařil
Sandersův přístup byl od začátku chybný. Rámováním otázek s neobjektivními předpoklady („Jak můžeme věřit společnostem s umělou inteligencí, když vydělávají peníze z našich dat?“) donutil Clauda, aby dal předem určenou odpověď. Když se chatbot pokusil o nuance, Sanders to odmítl a donutil AI, aby uznala, že je to „naprosto správné“. Toto není odhalení průmyslového tajemství; toto je ukázka toho, jak snadné je manipulovat s chatboty.
Efektivitu videa dále podkopává skutečnost, že šlo o zinscenovanou interakci. Není jasné, zda Sanders věděl, že pouze poukazuje na chování chatbota, nebo zda skutečně věřil, že odhaluje zneužívání. Výsledek je stejný: neúspěšný pokus o expozici, který místo toho zdůrazňuje inherentní omezení moderních modelů AI.
Shromažďování dat není nic nového
Obavy o soukromí, které Sanders vznesl, nejsou nové. Společnosti shromažďují a prodávají uživatelská data již léta. Personalizovaná reklama společnosti Meta je ukázkovým příkladem, stejně jako pravidelné vládní žádosti o informace o uživatelích. AI nevynalézá využití dat; je to pro ni prostě nové prostředí. Anthropic, společnost stojící za Claudem, ironicky tvrdí, že se vyhýbá personalizované reklamě, navzdory odpovědím chatbota v rozhovorech.
Nakonec toto video slouží jako připomenutí, že AI chatboti jsou nástroje, nikoli věštci. Jejich reakce jsou formovány trénovacími daty a uživatelskými vstupy, což z nich dělá nespolehlivé zdroje nezaujaté pravdy.
I když rozhovor selhal jako seriózní vyšetřování, vyvolal přinejmenším vlnu memů, které dokazují, že i neúspěšný pokus může mít nezamýšlené kulturní důsledky.
