TikTok ha ufficialmente lanciato una controversa impostazione di “remix” basata sull’intelligenza artificiale dopo un significativo rifiuto da parte della sua comunità di creatori. La decisione segna una svolta improvvisa per la piattaforma, che ha trascorso gli ultimi anni integrando in modo aggressivo l’intelligenza artificiale nella sua esperienza utente.
La caratteristica: cos’era “AI Remixing”?
Lo strumento sperimentale, denominato meme remixer, ha consentito agli utenti di trasformare i video TikTok esistenti in immagini generate dall’intelligenza artificiale. Utilizzando un video come base, uno spettatore può utilizzare istruzioni personalizzate per alterare lo sfondo o addirittura cambiare il volto del soggetto, trasformando essenzialmente un video reale in un meme digitale.
La principale fonte di attrito era il modo in cui è stata implementata la funzionalità:
– Attivazione predefinita: l’impostazione è stata attivata per impostazione predefinita per tutti gli utenti.
– Disattivazione manuale: per evitare che le loro sembianze venissero remixate, i creatori dovevano disattivare manualmente l’impostazione per ogni singolo video.
– Nessun controllo a livello di account: non c’era modo di disattivare la funzionalità per un intero profilo, costringendo i creatori a gestire le autorizzazioni video per video.
Perché i creatori sono preoccupati
La reazione negativa della community dei creatori si è concentrata su tre pilastri principali: privacy, consenso e integrità dei contenuti.
- Identità digitale e deepfake: i creatori hanno espresso il timore che lo strumento renderebbe molto più semplice la produzione di “deepfake”, ovvero rappresentazioni di persone altamente realistiche ma false. Se un utente potesse facilmente scambiare il volto o l’impostazione di un creatore, ciò aprirebbe la porta a contenuti non consensuali e potenzialmente dannosi.
- Sfruttamento dei dati: sebbene TikTok abbia affermato che i contenuti remixati non sarebbero stati utilizzati per addestrare i suoi modelli di intelligenza artificiale, molti creatori sono rimasti scettici. La natura “scatola nera” dello sviluppo dell’intelligenza artificiale significa che gli utenti hanno poco modo di verificare come i loro dati vengono elaborati o utilizzati dietro le quinte.
- Il problema dell’”AI Slop”: C’è una crescente ansia tra gli artisti digitali e gli influencer che un’ondata di contenuti generati dall’intelligenza artificiale con poco sforzo (spesso chiamati “AI slop”) soffocherà la creatività originale creata dall’uomo.
“Non dovrebbe essere così difficile permetterci di disattivarlo con un’unica impostazione”, ha osservato il creatore Sean Szolek-Van Valkenburgh, evidenziando lo squilibrio di potere tra la piattaforma e i suoi utenti.
Il contesto più ampio: la corsa agli armamenti dell’intelligenza artificiale
La mossa di TikTok fa parte di una tendenza più ampia che interessa tutto il settore. I giganti della tecnologia tra cui Meta (Instagram/Facebook), Snapchat e TikTok sono attualmente impegnati in una “corsa agli armamenti” per integrare l’intelligenza artificiale generativa nei social media.
Sebbene queste aziende mirino ad aumentare il coinvolgimento attraverso nuovi strumenti creativi, si trovano ad affrontare un difficile equilibrio. Devono valutare i vantaggi dell’innovazione rispetto a:
* Rischi legali ed etici: Problemi relativi al diritto d’autore e ai diritti di somiglianza.
* Disinformazione: La difficoltà di distinguere tra filmati reali e invenzioni generate dall’intelligenza artificiale.
* Impatto ambientale: l’enorme fabbisogno energetico derivante dall’esecuzione di modelli di intelligenza artificiale su larga scala.
TikTok ha tentato di mitigare questi rischi richiedendo che i contenuti modificati dall’intelligenza artificiale rechino una filigrana invisibile (conforme agli standard C2PA) e vietando severamente i deepfake “fuorvianti” che raffigurano personaggi pubblici o eventi di crisi. Tuttavia, come hanno sottolineato gli autori, l’applicazione delle norme rimane una sfida enorme in una piattaforma in cui i contenuti vengono ripubblicati e manipolati milioni di volte al giorno.
Conclusione
TikTok ha messo in pausa il remixer dei meme per valutare il feedback degli utenti, una mossa che evidenzia la crescente tensione tra innovazione dell’intelligenza artificiale e diritti dei creatori. L’episodio serve a ricordare che per le piattaforme di social media, una rapida implementazione tecnologica può rapidamente ritorcersi contro se mina la fiducia e l’autonomia delle persone che effettivamente costruiscono il valore della piattaforma.
