I april lanserade TikTok en ny funktion som gör att AI kan generera bilder baserat på inlägg. Funktionen kallas ”meme remixer” och låter användare skapa AI-genererade bilder baserat på relaterade klipp i kommentarsfältet.
Funktionen rullades ut i hemlighet, men fick kritik så fort den upptäcktes av Tiktok-skapare. Lisette Johnson reagerade starkt. Hon upptäckte funktionen själv efter att ha snubblat över en video av en brittisk kreatör som pratade om det nya verktyget, öppnade sekretessinställningarna på ett av hennes inlägg och såg knappen (Tillåt AI-remixer) slås på automatiskt.
– Först tänkte jag att det kanske inte fanns i Sverige, men sedan kollade jag mitt konto. Jag gillade det inte alls och var arg över att jag inte blev informerad om det, säger Lisette Johnson.
Lisette Johnson, som har lagt upp hundratals videor på sitt konto, gick systematiskt igenom varje inlägg och stängde av inställningen manuellt.
– När jag började inse att AI:n hade tillgång till alla mina klipp kände jag mig så obekväm att jag var tvungen att prata om det, säger hon till DN.
Hon laddade upp en video som pratade om den nya funktionen, men mest om osäkerheten kring den. Hundratals arga kommentarer strömmade snabbt in och videon sågs mer än 100 000 gånger.
– Ingen fick någon information om vad den här funktionen gör. Hon säger att det gör henne obekväm att en AI kan komma åt hela hennes Tiktok-konto, särskilt med tanke på vad som hände när Company X lanserade sina AI-verktyg.
Hon nämner när Platform X lanserade Grok, en AI-tjänst som gör det möjligt att skapa falska foton och videor. Tjänsten blev snabbt utnyttjad när användare började klä av sig riktiga människor, inklusive minderåriga.
Tiktok Nordics sa i ett mejl till DN att man har valt att tillfälligt stänga av sin AI-funktionalitet.
”Vi testar ständigt nya funktioner för att förstå vad som fungerar för vår community och hur vi kan göra Tiktok-upplevelsen mer intuitiv och kreativ. Som en del av den processen har vi beslutat att pausa testningen av Meme Remixer och dess tillhörande inställning ’Tillåt AI att remixa innehåll’ medan vi utvärderar feedback från användare och skapare”, skrev Tiktok Nordics i ett mejl och tillägger:
”De funktioner vi testar är ofta vidareutvecklade baserat på dessa typer av insikter och kan ändras innan en bredare release.”
