TikTok po výrazném odporu komunity tvůrců obsahu oficiálně odstranil své kontroverzní nastavení „remixu“ poháněného umělou inteligencí. Toto rozhodnutí znamená pro platformu ostrý obrat, který v posledních několika letech agresivně integruje umělou inteligenci do své uživatelské zkušenosti.
Podstata funkce: co je to „AI remix“?
Experimentální nástroj nazvaný meme remixer umožnil uživatelům přeměnit stávající videa TikTok na obrázky generované umělou inteligencí. Pomocí videa jako základu by divák mohl použít textové požadavky ke změně pozadí nebo dokonce tváře osoby v záběru, čímž by se v podstatě skutečné video změnilo na digitální mem.
Hlavním důvodem nespokojenosti byl způsob implementace funkce:
– Ve výchozím nastavení povoleno: Toto nastavení bylo automaticky povoleno pro všechny uživatele.
– Ruční deaktivace: Aby se zabránilo použití jejich obrázku v remixech, museli tvůrci tuto funkci ručně deaktivovat pro každé jednotlivé video.
– Nedostatek globální kontroly: nebylo možné vypnout funkci pro celý profil najednou, což nutilo autory spravovat oprávnění pro každé video zvlášť.
Proč to autory znepokojuje
Protest komunity tvůrců obsahu byl postaven na třech hlavních pilířích: soukromí, souhlas a integrita obsahu.
- Digital Identity and Deepfakes: Autoři vyjádřili obavu, že tento nástroj výrazně usnadní vytváření „deepfakes“ – vysoce realistických, ale falešných obrázků lidí. Pokud uživatel může snadno podvrhnout osobu nebo nastavení, otevírá to dveře k vytváření škodlivého obsahu bez souhlasu osoby.
- Využití dat: Přestože TikTok prohlásil, že remixovaný obsah nebude použit k trénování jejich modelů AI, mnoho tvůrců je skeptických. Kvůli neprůhlednosti procesu vývoje AI mají uživatelé jen malý nebo žádný způsob, jak přesně ověřit, jak jsou jejich data v zákulisí zpracovávána nebo používána.
- Problém „AI Slop“: Mezi digitálními umělci a influencery narůstají obavy, že záplava nekvalitního, neurálně generovaného obsahu (často nazývaného „AI slop“ ) jednoduše přehluší původní, lidmi generovanou kreativitu.
„Nemělo by pro nás být tak těžké poskytnout možnost toto vypnout jedním přepínačem,“ řekl autor obsahu Sean Scholek-Van Valkenburgh a zdůraznil nerovnováhu mezi platformou a jejími uživateli.
Širší kontext: AI Arms Race
Akce společnosti TikTok jsou součástí trendu v celém odvětví. Techničtí giganti včetně Meta (Instagram/Facebook), Snapchat a TikTok se nyní účastní skutečného závodu ve zbrojení o integraci generativní umělé inteligence do sociálních médií.
Zatímco tyto společnosti usilují o zvýšení angažovanosti prostřednictvím nových kreativních nástrojů, čelí obtížné rovnováze. Musí porovnat přínosy inovací s:
* Právní a etická rizika: problémy související s autorským právem a právy na použití obrázku.
* Dezinformace: potíže s rozlišením skutečného natáčení od videí vytvořených neuronovou sítí.
* Dopad na životní prostředí: enormní náklady na energii potřebné pro provoz rozsáhlých modelů umělé inteligence.
TikTok se pokusil tato rizika zmírnit tím, že požadoval, aby obsah upravený umělou inteligencí měl neviditelný vodoznak (v souladu se standardy C2PA) a přísně zakázal „zavádějící“ deepfakes týkající se veřejných osobností nebo globálních událostí. Jak však autoři poznamenali, vymáhání zůstává obrovskou výzvou na platformě, kde je obsah znovu zveřejňován a manipulován milionykrát denně.
Závěr
TikTok pozastavil svůj „remixer meme“, aby změřil zpětnou vazbu uživatelů, což je krok, který zdůrazňuje rostoucí napětí mezi inovacemi AI a právy tvůrců. Tato epizoda slouží jako připomínka toho, že u sociálních platforem se rychlé přijetí technologie může rychle obrátit proti nim, pokud podkope důvěru a autonomii lidí, kteří skutečně vytvářejí hodnotu platformy.
