TikTok oficjalnie usunął kontrowersyjne ustawienie „remiksu” opartego na sztucznej inteligencji po znaczącym sprzeciwie ze strony społeczności twórców treści. Decyzja ta oznacza ostry zwrot dla platformy, która przez ostatnie kilka lat agresywnie integrowała sztuczną inteligencję z doświadczeniami użytkowników.
Istota tej funkcji: czym jest „remiks AI”?
Eksperymentalne narzędzie o nazwie remikser memów umożliwiło użytkownikom przekształcanie istniejących filmów TikTok w obrazy wygenerowane przez sztuczną inteligencję. Wykorzystując wideo jako podstawę, widz może za pomocą żądań tekstowych zmienić tło lub nawet twarz osoby w kadrze, zasadniczo zamieniając prawdziwe wideo w cyfrowy mem.
Głównym powodem niezadowolenia był sposób realizacji funkcji:
– Domyślnie włączone: ustawienie zostało automatycznie włączone dla wszystkich użytkowników.
– Wyłączanie ręczne: Aby zapobiec wykorzystywaniu ich obrazu w remiksach, twórcy musieli ręcznie wyłączać tę funkcję dla każdego pojedynczego filmu.
– Brak globalnej kontroli: nie było możliwości wyłączenia funkcji jednocześnie dla całego profilu, co zmusiło autorów do zarządzania uprawnieniami dla każdego filmu z osobna.
Dlaczego autorzy się niepokoją
Protest społeczności twórców treści opierał się na trzech głównych filarach: prywatność, zgoda i integralność treści.
- Tożsamość cyfrowa i Deepfakes: Autorzy wyrazili obawę, że to narzędzie znacznie ułatwi tworzenie „deepfakes” – wysoce realistycznych, ale fałszywych obrazów ludzi. Jeśli użytkownik może łatwo sfałszować osobę lub ustawienie, otwiera to drogę do tworzenia złośliwych treści bez zgody tej osoby.
- Wykorzystywanie danych: Chociaż TikTok oświadczył, że zremiksowane treści nie będą wykorzystywane do uczenia modeli sztucznej inteligencji, wielu twórców jest sceptycznych. Ze względu na nieprzejrzystość procesu rozwoju sztucznej inteligencji użytkownicy mają niewielki lub żaden sposób na dokładne sprawdzenie, w jaki sposób ich dane są przetwarzane lub wykorzystywane za kulisami.
- Problem „AI Slop”: Wśród artystów cyfrowych i wpływowych osób rośnie obawa, że zalew niskiej jakości treści generowanych neuronowo (często nazywanych * „AI Slop”*) po prostu zagłuszy oryginalną kreatywność stworzoną przez człowieka.
„Zapewnienie możliwości wyłączenia tego za pomocą jednego przełącznika nie powinno być dla nas takie trudne” – powiedział autor treści Sean Scholek-Van Valkenburgh, podkreślając brak równowagi sił między platformą a jej użytkownikami.
Szerszy kontekst: wyścig zbrojeń AI
Działania TikToka wpisują się w trend ogólnobranżowy. Giganci technologiczni, w tym Meta (Instagram/Facebook), Snapchat i TikTok, biorą obecnie udział w prawdziwym wyścigu zbrojeń, aby zintegrować generatywną sztuczną inteligencję z mediami społecznościowymi.
Chociaż firmy te starają się zwiększyć zaangażowanie za pomocą nowych narzędzi kreatywnych, stoją przed trudną równowagą. Muszą porównać korzyści płynące z innowacji z:
* Ryzyka prawne i etyczne: kwestie związane z prawami autorskimi i prawami do wykorzystania wizerunku.
* Dezinformacja: trudności w odróżnieniu prawdziwego filmu od filmów sfabrykowanych przez sieć neuronową.
* Wpływ na środowisko: ogromne koszty energii wymagane do uruchomienia wielkoskalowych modeli sztucznej inteligencji.
TikTok próbował złagodzić to ryzyko, wymagając, aby treści edytowane przez sztuczną inteligencję miały niewidoczny znak wodny (zgodny ze standardami C2PA) i surowo zabraniając „wprowadzających w błąd” deepfake’ów z udziałem osób publicznych lub wydarzeń o zasięgu globalnym. Jednak, jak zauważyli autorzy, egzekwowanie przepisów pozostaje ogromnym wyzwaniem na platformie, na której treści są ponownie publikowane i manipulowane miliony razy dziennie.
Wniosek
TikTok zawiesił swój „remikser memów”, aby poznać opinie użytkowników, co podkreśla rosnące napięcie między innowacjami w zakresie sztucznej inteligencji a prawami twórców. Ten odcinek przypomina, że w przypadku platform społecznościowych szybkie przyjęcie technologii może szybko obrócić się przeciwko nim, jeśli podważy zaufanie i autonomię osób, które faktycznie tworzą wartość platformy.
