Spotify tar nye grep for å skille virkelige artister fra kunstig skapte artistidentiteter. Fra september skal strømmetjenesten merke profiler som helt eller delvis fremstår som AI-genererte. Samtidig skal slike artister som hovedregel holdes utenfor Spotifys anbefalinger.
Kunstig intelligens har gjort det mulig å produsere musikk i et tempo som tidligere var utenkelig. Nå forsøker Spotify å gjøre det enklere for lytterne å vite hvem – eller hva – de faktisk lytter til. Fra midten av september vil strømmetjenesten begynne å merke enkelte artistprofiler med betegnelsen «AI Persona». Merkingen skal gjøre det tydeligere når identiteten bak en artist kan være kunstig generert og ikke representerer en virkelig person.
Spotify begrunner endringen med tilbakemeldinger fra brukere som reagerer på å oppdage at artister som fremstår som virkelige mennesker, i realiteten er AI-genererte identiteter. Tiltaket markerer nok et steg i strømmetjenestens forsøk på å håndtere den raske veksten i AI-generert innhold.
Skal skille mennesker fra kunstige identiteter
Det nye merket vil kunne bli brukt både på artister som selv opplyser at de er AI-personaer, og på profiler Spotify selv vurderer som kunstig genererte. Artistene skal kunne opplyse om dette gjennom Spotify for Artists. Dersom Spotify selv mener at en profil sannsynligvis representerer en AI-generert identitet, kan selskapet merke den som en sannsynlig AI-persona.
Artistene vil samtidig få mulighet til å klage på vurderingen. Spotify vil blant annet se på hvordan artistens identitet presenteres offentlig, herunder navn, bilder og annen informasjon knyttet til profilen. Merkingen skal etter hvert bli synlig flere steder i tjenesten, blant annet på artistprofiler, i søkeresultater og i forbindelse med musikken som presenteres for brukerne.
Gjelder ikke nødvendigvis selve musikken
Det er samtidig et viktig skille mellom en AI-generert artist og musikk som er laget ved hjelp av kunstig intelligens. Det nye «AI Persona»-merket skal først og fremst fortelle brukerne noe om identiteten bak artisten, og ikke nødvendigvis hvordan selve musikken er produsert.
En virkelig musiker som bruker kunstig intelligens som et verktøy i deler av den kreative prosessen, skal dermed ikke automatisk bli stemplet som en AI-persona. Det betyr også at en låt i prinsippet kan være produsert med omfattende bruk av kunstig intelligens uten at artistprofilen nødvendigvis får dette merket. Spotify forsøker dermed å skille mellom bruk av AI som produksjonsverktøy og tilfeller hvor selve artisten som presenteres for publikum, ikke er en virkelig person.
Skal ikke anbefales på samme måte
Spotify går samtidig lenger enn bare å informere lytterne. Artistprofiler som merkes som AI-personaer skal som utgangspunkt ikke være kvalifisert for Spotifys redaksjonelle eller algoritmiske anbefalinger.
Det kan få betydelig økonomisk betydning. Anbefalingssystemene til de store strømmetjenestene spiller en viktig rolle for hvilken musikk som blir oppdaget og dermed hvor mange avspillinger en artist oppnår.
AI-genererte artister kan fortsatt eksistere på plattformen, men Spotify vil i mindre grad aktivt løfte dem frem til lyttere som ikke allerede har valgt å følge dem. Tiltaket viser dermed at selskapet ikke bare betrakter spørsmålet som et informasjonsproblem. Det handler også om hvordan AI-generert innhold konkurrerer om oppmerksomheten på plattformen.
75 millioner spor fjernet
Utfordringen har allerede fått enorme dimensjoner. Ifølge Spotify fjernet selskapet mer enn 75 millioner såkalte spam-spor fra plattformen i løpet av det siste året. En betydelig del av utfordringen er knyttet til muligheten kunstig intelligens gir til å masseprodusere lydinnhold.
Generativ AI har dramatisk senket terskelen for å lage store mengder musikk på kort tid. Det skaper nye muligheter for kreative produsenter, men åpner samtidig for misbruk av strømmetjenestenes forretningsmodeller. Store mengder innhold kan produseres og distribueres med svært lave kostnader. Dersom musikken samtidig oppnår tilstrekkelig mange avspillinger, kan den generere inntekter.
For strømmetjenestene skaper dette et nytt kontrollproblem: Hvordan skiller man legitim kreativ bruk av kunstig intelligens fra industriell masseproduksjon, spam og forsøk på å manipulere strømmeøkonomien?
Vil la brukerne rapportere falske artister
Spotify planlegger også å gi brukerne større mulighet til å bidra i kontrollen. Lyttere skal etter hvert kunne rapportere artistprofiler de mistenker for å representere kunstig genererte personer.
Det kan gjøre det lettere å oppdage profiler som har sluppet gjennom selskapets egne kontrollsystemer. Samtidig reiser ordningen nye spørsmål. Grensen mellom en kunstig artist, en fiktiv kunstnerisk karakter og en virkelig artist som bruker omfattende AI-verktøy kan være vanskelig å trekke.
En artistidentitet trenger heller ikke representere én konkret person for å være et legitimt kunstnerisk prosjekt. Fiktive karakterer og virtuelle artister eksisterte lenge før dagens generative kunstige intelligens. Spotify må derfor balansere ønsket om større åpenhet mot risikoen for å stemple legitime kreative prosjekter som kunstige eller villedende.
Har allerede strammet inn AI-reglene
Det nye merket kommer som en del av en bredere opprydding i hvordan Spotify håndterer kunstig intelligens. Selskapet har tidligere skjerpet håndhevingen mot innhold som etterligner virkelige artister uten tillatelse. Det gjelder blant annet AI-genererte stemmekloner.
Musikk som etterligner stemmen til en annen artist uten vedkommendes tillatelse kan fjernes fra plattformen. Spotify har også arbeidet med systemer for å identifisere spam og masseprodusert innhold.
Tidligere i år begynte selskapet dessuten å rulle ut merket «Verified by Spotify», som skal gjøre det lettere å identifisere autentiske artistprofiler.