TikTok heeft officieel een controversiële, door AI aangedreven ‘remix’-setting teruggetrokken na aanzienlijke tegenstand van de gemeenschap van makers. De beslissing markeert een plotselinge draai voor het platform, dat de afgelopen jaren op agressieve wijze kunstmatige intelligentie in zijn gebruikerservaring heeft geïntegreerd.
De functie: Wat was “AI-remixen”?
Met de experimentele tool, ook wel een meme-remixer genoemd, konden gebruikers bestaande TikTok-video’s omzetten in door AI gegenereerde afbeeldingen. Door een video als basis te gebruiken, kan een kijker aangepaste aanwijzingen gebruiken om de achtergrond of zelfs het gezicht van het onderwerp te veranderen, waardoor een echte video in feite in een digitale meme verandert.
De belangrijkste bron van wrijving was de manier waarop de functie werd geïmplementeerd:
– Standaard aanmelding: De instelling is standaard ingeschakeld voor alle gebruikers.
– Handmatig afmelden: Om te voorkomen dat hun gelijkenis wordt geremixt, moesten makers de instelling voor elke afzonderlijke video handmatig uitschakelen.
– Geen accountbrede controle: Er was geen manier om je voor een heel profiel af te melden voor de functie, waardoor makers gedwongen werden de rechten per video te beheren.
Waarom makers zich zorgen maken
De reactie van de makersgemeenschap concentreerde zich op drie hoofdpijlers: privacy, toestemming en inhoudintegriteit.
- Digitale identiteit en deepfakes: Makers uitten de vrees dat de tool het aanzienlijk gemakkelijker zou maken om ‘deepfakes’ te produceren: zeer realistische maar valse afbeeldingen van mensen. Als een gebruiker gemakkelijk het gezicht of de instelling van een maker zou kunnen verwisselen, opent dit de deur voor niet-consensuele en potentieel schadelijke inhoud.
- Data-exploitatie: Hoewel TikTok verklaarde dat geremixte inhoud niet zou worden gebruikt om de AI-modellen te trainen, bleven veel makers sceptisch. Het ‘black box’-karakter van AI-ontwikkeling betekent dat gebruikers weinig mogelijkheden hebben om te verifiëren hoe hun gegevens achter de schermen worden verwerkt of gebruikt.
- Het ‘AI-slop’-probleem: Er bestaat een groeiende angst onder digitale kunstenaars en influencers dat een stroom van met weinig inspanning gegenereerde, door AI gegenereerde inhoud (vaak ‘AI-slop’ genoemd) de originele, door mensen gemaakte creativiteit zal overstemmen.
“Het zou niet zo moeilijk moeten zijn om ons de mogelijkheid te geven om ons in één keer af te melden”, merkte bedenker Sean Szolek-Van Valkenburgh op, waarbij hij de onevenwichtigheid van de macht tussen het platform en zijn gebruikers benadrukte.
De bredere context: de AI-wapenwedloop
De stap van TikTok maakt deel uit van een grotere, sectorbrede trend. Techgiganten, waaronder Meta (Instagram/Facebook), Snapchat en TikTok zijn momenteel in een ‘wapenwedloop’ verwikkeld om generatieve AI in sociale media te integreren.
Hoewel deze bedrijven ernaar streven de betrokkenheid te vergroten door middel van nieuwe creatieve hulpmiddelen, worden ze geconfronteerd met een moeilijke evenwichtsoefening. Ze moeten de voordelen van innovatie afwegen tegen:
* Juridische en ethische risico’s: Problemen rond auteursrecht en gelijkenisrechten.
* Desinformatie: De moeilijkheid om onderscheid te maken tussen echte beelden en door AI gegenereerde verzinsels.
* Invloed op het milieu: De enorme energiebehoefte die gepaard gaat met het uitvoeren van grootschalige AI-modellen.
TikTok heeft geprobeerd deze risico’s te beperken door te eisen dat door AI bewerkte inhoud een onzichtbaar watermerk draagt (in overeenstemming met de C2PA-normen) en door ‘misleidende’ deepfakes waarin publieke figuren of crisisgebeurtenissen worden afgebeeld strikt te verbieden. Zoals de makers echter hebben opgemerkt, blijft handhaving een enorme uitdaging op een platform waar inhoud miljoenen keren per dag opnieuw wordt gepost en gemanipuleerd.
Conclusie
TikTok heeft de meme-remixer gepauzeerd om gebruikersfeedback te evalueren, een stap die de groeiende spanning tussen AI-innovatie en makerrechten benadrukt. De aflevering herinnert ons eraan dat snelle technologische inzet voor sociale-mediaplatforms snel averechts kan werken als het het vertrouwen en de autonomie ondermijnt van de mensen die daadwerkelijk de waarde van het platform opbouwen.
