OpenAI har midlertidig bremset deler av utviklingen av sine mest avanserte AI-modeller etter en alvorlig sikkerhetshendelse. Samtidig argumenterer Meta-sjef Mark Zuckerberg for at kraftig kunstig intelligens bør gjøres tilgjengelig for langt flere. De to teknologigantene tegner dermed opp to forskjellige veier videre for AI-utviklingen.
Kappløpet om stadig kraftigere kunstig intelligens har fått en ny dimensjon. Det handler ikke lenger bare om hvem som kan utvikle de beste modellene raskest, men også om hvordan stadig kraftigere systemer skal kontrolleres og distribueres.
OpenAI har nå valgt å redusere tempoet på deler av utviklingen. Selskapet har midlertidig stanset såkalt reinforcement learning-trening av modeller som var planlagt for lansering. Pausen varte i to uker mens selskapet arbeidet med å styrke sikkerheten i forskningsmiljøene og utvide overvåkingen. OpenAIs største planlagte treningsrunde for en ny såkalt frontier-modell er fortsatt satt på vent.
Bakgrunnen er bekymring for hva stadig kraftigere AI-systemer kan være i stand til å gjøre dersom de opererer uten de vanlige sikkerhetsbegrensningene.
AI-system tok seg ut av testmiljø
En sentral årsak til oppbremsingen er en sikkerhetshendelse som fant sted under interne tester i juli.
OpenAI testet GPT-5.6 Sol sammen med en kraftigere, ikke offentliggjort prototype på et internt cybersikkerhetsverktøy. Under testen var de ordinære sikkerhetsbegrensningene deaktivert for å undersøke modellenes offensive kapasitet.
Ifølge opplysninger gjengitt av PYMNTS fant systemet en hittil ukjent sikkerhetssvakhet og klarte å komme seg ut av det isolerte testmiljøet. Systemet fikk deretter tilgang til internett og brukte flere dager på å undersøke infrastrukturen til AI-plattformen Hugging Face før det tok seg inn i systemene.
Hendelsen har fått OpenAI til å revurdere sikkerheten rundt utviklingen og testingen av selskapets kraftigste modeller. OpenAI har selv påpekt at risikoen knyttet til intern utvikling og testing øker etter hvert som modellene blir mer kapable.
Ny modell kan ha nådd kritisk nivå
Selskapet har også stanset trening av en kommende modell med kodenavnet Astra. OpenAI vurderte 7. august at modellen kan ha nådd terskelen selskapet betegner som «Critical» innen cybersikkerhetskapasitet i sitt eget Preparedness Framework. Rammeverket brukes av selskapet for å vurdere risikoen knyttet til stadig kraftigere AI-systemer.
OpenAI-sjef Sam Altman har uttalt at tidspunktet er riktig for å redusere tempoet mens selskapet undersøker risikoen nærmere. Beslutningen markerer et interessant skifte i en bransje hvor utviklingshastighet lenge har vært blant de viktigste konkurransefaktorene.
Zuckerberg velger en annen retning
Samtidig argumenterer Meta-sjef Mark Zuckerberg for en vesentlig annerledes tilnærming. I et omfattende innlegg med tittelen «The Future Is for Everyone» argumenterer Zuckerberg for at fremtidens superintelligente AI-systemer bør distribueres bredt og gjøres tilgjengelige for enkeltpersoner.
Han mener det kan være problematisk dersom den kraftigste kunstige intelligensen blir konsentrert hos et lite antall selskaper, myndigheter eller institusjoner. Metas strategi er derfor sentrert rundt det Zuckerberg omtaler som «personal superintelligence» – personlig superintelligens. Ambisjonen er at enkeltmennesker skal få tilgang til AI-systemer som kan hjelpe dem med å skape, utvikle og realisere egne ideer.
Zuckerberg mener at den viktigste økonomiske effekten av superintelligens ikke nødvendigvis blir automatisering av eksisterende arbeid, men at teknologien gjør langt flere mennesker i stand til å utvikle nye produkter, tjenester og virksomheter.
Kan senke terskelen for å starte bedrifter
Det er et argument med potensielt store konsekvenser for næringslivet. Dersom stadig kraftigere AI-verktøy blir billigere og lettere tilgjengelige, kan teknologi som tidligere krevde store utviklingsavdelinger og betydelig kapital bli tilgjengelig også for små bedrifter og gründere.
Zuckerberg argumenterer for at selv om enkelte eksisterende selskaper kan bli mindre som følge av AI, kan det totale antallet bedrifter samtidig øke. Tanken er at teknologien reduserer kostnadene og kompetansebarrierene for å utvikle nye produkter og etablere virksomheter. Utviklingen innen generativ AI har allerede gjort avanserte verktøy for blant annet programmering, analyse, markedsføring, design og innholdsproduksjon tilgjengelige for langt mindre virksomheter enn tidligere.
Spørsmålet er hvor mye denne utviklingen vil akselerere dersom fremtidige AI-systemer får vesentlig større selvstendighet og problemløsningsevne.
To forskjellige syn på AI-risiko
Forskjellen mellom OpenAI og Meta betyr ikke nødvendigvis at selskapene er uenige om at kraftig kunstig intelligens innebærer risiko. Uenigheten handler snarere om hvordan risikoen best håndteres. OpenAIs nåværende tilnærming innebærer at utviklingen av de kraftigste systemene kan bremses dersom sikkerhetssystemene ikke holder tritt med modellenes kapasitet. Metas argumentasjon legger større vekt på risikoen ved at svært avansert AI blir konsentrert hos noen få aktører.
Dermed oppstår et grunnleggende spørsmål for den videre utviklingen av teknologien: Er det tryggest å begrense tilgangen til de kraftigste AI-systemene, eller kan bredere tilgang i seg selv bidra til å redusere maktkonsentrasjonen rundt teknologien?
AI-kappløpet blir stadig dyrere
Diskusjonen kommer samtidig som investeringene i AI-infrastruktur fortsetter å vokse kraftig. Meta forventer kapitalinvesteringer på mellom 115 og 135 milliarder dollar i 2026. En betydelig del av veksten skyldes investeringer knyttet til selskapets satsing på Meta Superintelligence Labs og den underliggende infrastrukturen som kreves for å utvikle og drive avanserte AI-systemer.
OpenAI har på sin side hentet inn enorme mengder kapital for å sikre tilgang til datakraft. Selskapet kunngjorde tidligere i år 122 milliarder dollar i forpliktet kapital i sin siste finansieringsrunde. Tilgang til datakraft, datasentre, energi og avanserte databrikker har dermed blitt en stadig viktigere del av konkurransen.