ByteDances populære videoplattform tester en ny innstilling for å bestemme hvor mye kunstig intelligens du vil se i «For deg»-feeden. Dette er et nytt skritt i personalisering som svar på økningen av innhold generert eller redigert av generative modeller.
Videre styrker selskapet sporbarheten med usynlige vannmerker og C2PA-innholdslegitimasjon , en kombinasjon som er utviklet for å identifisere syntetisk materiale selv når det redigeres utenfor appen. Denne todelte tilnærmingen – eksponeringskontroll og forbedret merking – tar sikte på å balansere kreativitet og tillit.
En kontroll for å bestemme hvilken AI som skal sees i feeden
Den nye kontrollen vises som en glidebryter som du kan flytte til venstre for å se færre AI-genererte videoer, eller til høyre for å se flere, med en standard mellomposisjon. Den fjerner ikke disse videoene fullstendig, men den modulerer frekvensen deres i anbefalinger.
Den nye funksjonen er integrert i «Administrer emner» i Innholdsinnstillinger , hvor det allerede er mulig å øke eller redusere kategorier som kunst, mote eller aktuelle hendelser. I motsetning til et engangsfilter brukes AI-justeringen generelt på alle emner i kontoen, etter samme logikk som de andre kontrollene.
Dette alternativet slår seg sammen med eksisterende verktøy som søkeordfiltre og «Jeg er ikke interessert»-knappen , med ideen om å gi bedre kontroll over balansen mellom menneskelige kreasjoner og automatisert innhold uten å endre essensen av feeden.
Deteksjon og merking: C2PA og usynlige vannmerker
TikTok kombinerer C2PA-innholdslegitimasjon – metadata som rapporterer om opprinnelse og redigeringer – med et usynlig vannmerkesystem som plattformen selv kan lese. Målet er at det digitale fotavtrykket skal overleve redigeringer, komprimeringer eller reeksport utenfor appen.
Ifølge selskapet er mer enn 1.300 milliarder videoer allerede tagget med denne teknologien. Utfordringen oppstår når materialet lastes opp til andre nettverk og den synlige taggen går tapt; dermed fungerer den usynlige taggingen som et ekstra sikkerhetslag mot slettingsforsøk.
Med dette tiltaket håper TikTok å forsterke autentisiteten til det som sees på plattformen og legge til rette for moderering av potensielt villedende innhold, samtidig som det opprettholdes rom for kreativ eksperimentering med AI.
Implementering og omfang i Europa
Kunngjøringen ble gjort på European Security Forum i Dublin , hvor selskapet detaljerte utviklingen av sin strategi for merking og personalisering. Testen av glidebryteren og den usynlige merkingen vil bli rullet ut til brukerne gradvis, med særlig fokus på europeiske land.
Med et fellesskap på hundrevis av millioner brukere over hele Europa er den regionale utrullingen nøkkelen til å måle effekten av kontroller på daglige opplevelser og eksponering for syntetisk innhold i «For deg»-feeden. Selskapet understreker at fellesskapets sikkerhet er «ikke-forhandlingsbart» og at åpenhet i AI er en prioritet.
Initiativet kommer med et fond på 2 millioner dollar for å styrke KI-kompetanse og sikkerhetsprosjekter, med pedagogisk innhold som bidrar til å forstå innholdet i delene som genereres eller redigeres av modeller.
Hvilke endringer for skapere og merkevarer
For utgivere gir merking – ved hjelp av C2PA og det usynlige vannmerket – et mer pålitelig rammeverk for å differensiere realistisk AI-generert innhold fra andre deler. Dette kan forbedre tilliten, redusere klager om villedende materiale og tydeliggjøre reklame eller kreative samarbeid.
På forbrukssiden unngår glidebryteren «alt eller ingenting»-beslutninger og lar brukerne justere tilstedeværelsen av AI i henhold til sine preferanser: fra de som liker generative videoer til de som foretrekker å se dem sjeldnere. Personalisering fungerer ikke som en streng blokkering, men snarere som et tilleggssignal til algoritmen.
Selskapet hevder at kombinasjonen av bedre brukersignaler og mer robust markup vil hjelpe anbefalingssystemet med å prioritere innhold som samsvarer med brukerpreferanser, uten å stenge døren for oppdagelse.
Hvordan er det sammenlignet med andre nettverk?
Andre plattformer har gjort fremskritt når det gjelder å merke syntetisk innhold , men få tilbyr eksplisitt kontroll over antall AI-genererte videoer som vises i feeden. I denne forbindelse henter TikTok også inspirasjon fra tilnærminger som Pinterests, som tillater innsnevrelse av AI-genererte kategorier basert på spesifikke emner.
Totalt sett kombinerer TikToks forslag aktive brukersignaler med mer vedvarende teknisk sporing , noe som setter en presedens for hvordan man skal håndtere blandingen av menneskelig og automatisert opprettelse i anbefalinger.
Med glidebryteren for å justere tilstedeværelsen av AI og ankomsten av usynlige vannmerker, skaper TikTok et scenario der brukerne får kontroll og plattformen styrker sin evne til å identifisere syntetisk innhold. Denne balansen, hvis testplanen i Europa overholdes, kan sette standarden for hvordan man kan sameksistere med AI uten å miste klarhet eller personalisering.