Sosiale medier står overfor et økende tillitsproblem i takt med at kunstig intelligens gjør det stadig vanskeligere å skille mellom ekte og syntetisk innhold. Denne utfordringen løftes nå eksplisitt av Instagram-sjef Adam Mosseri, som signaliserer at plattformen vurderer nye grep for å hjelpe brukerne å forstå hva de faktisk ser i feeden.
Bakgrunnen er den raske utviklingen innen generativ AI, som har gjort det mulig å produsere bilder og videoer som i praksis er umulige å skille fra autentiske opptak. Ifølge Mosseri er mengden AI-generert innhold i ferd med å bli så stor at dagens løsninger for merking og moderering ikke lenger er tilstrekkelige. Han peker på at strømmen av innhold i økende grad består av materiale som verken er tatt med kamera eller springer ut av en konkret, menneskelig situasjon.
Tradisjonelt har teknologiplattformer forsøkt å møte dette ved å merke innhold som er generert av kunstig intelligens. Denne tilnærmingen har imidlertid klare begrensninger. Etter hvert som AI-verktøyene blir mer sofistikerte, blir det stadig vanskeligere for systemene å oppdage hva som er syntetisk, særlig når innholdet er redigert eller bearbeidet i flere ledd. Mosseri antyder derfor at kampen mot AI-innhold kan være tapt dersom den utelukkende baserer seg på å identifisere det kunstige.
I stedet åpner han for et mulig paradigmeskifte: å merke det som er ekte, fremfor det som er generert. Tanken er at autentisk innhold, for eksempel bilder og videoer tatt direkte med kamera, kan gis en form for teknisk bekreftelse allerede i opptaksøyeblikket. En slik løsning kan innebære at mediefiler får en kryptografisk signatur som følger innholdet hele veien frem til publisering, og som gir plattformene mulighet til å verifisere at materialet faktisk stammer fra et fysisk opptak.
Dette vil i så fall representere et betydelig skifte i hvordan sosiale medier håndterer innhold og tillit. Der brukerne tidligere har vært overlatt til egen vurdering av hva som virker troverdig, kan verifisering av autentisk innhold bli et nytt signal i en stadig mer AI-dominert informasjonsstrøm. Samtidig understrekes det at dette foreløpig er refleksjoner, ikke et konkret lansert produkt eller en fastsatt politikk.
For innholdsskapere og virksomheter kan en slik utvikling få praktiske konsekvenser. Dersom autentisk innhold gis økt synlighet eller tillit, kan det påvirke hvordan markedsføring, historiefortelling og merkevarebygging utformes på plattformen. Det kan også reise nye spørsmål om hvem som får tilgang til å verifisere innhold, hvilke tekniske standarder som skal gjelde, og hvordan personvern og databeskyttelse ivaretas.