Goodfire, som er et forskningsselskap innen KI-forståelse, har sikret seg 50 millioner dollar i en finansieringsrunde for å styrke arbeidet sitt med å hjelpe virksomheter med å forstå og utforme kunstig intelligens (KI)-modeller. Dette fremgår av en pressemelding fra selskapet datert 17. april.
Selskapet planlegger å bruke de nye midlene til å utvide sin forskningsvirksomhet og videreutvikle sin viktigste plattform for forståelse av KI, kalt Ember. Ember lar brukerne få direkte tilgang til de «indre tankene» til en KI-modell, slik at de kan forme modellens atferd mer presist og forbedre ytelsen.
Goodfire spesialiserer seg på mekanistisk tolking – en forskningsretning som går ut på å reversere og analysere nevrale nettverk for å få innsikt i hvordan de egentlig fungerer. Ifølge Goodfire er dette avgjørende for å kunne forstå, designe og reparere KI-modeller på en effektiv måte.
Grunnlegger og administrerende direktør Eric Ho påpeker at dagens utfordring er at ingen egentlig forstår hvordan KI-modeller feiler, og derfor vet man heller ikke hvordan man skal rette dem opp. «Vi vil utvikle verktøy som gjør det mulig å se inn i nevrale nettverk og forstå dem fra innsiden og ut,» sier Ho i pressemeldingen.
Menlo Ventures ledet investeringsrunden, og investor Deedy Das uttaler at Goodfire nå «åpner den svarte boksen» og gir virksomheter reell innsikt i sine egne KI-systemer.
Et annet oppsiktsvekkende element i denne runden er at AI-selskapet Anthropic også investerte i Goodfire – den første investeringen Anthropic har gjort i et annet oppstartsselskap, ifølge en artikkel fra The Information publisert 17. april.
Anthropics grunnlegger og administrerende direktør, Dario Amodei, uttaler i pressemeldingen at Goodfires arbeid er viktig for å kunne utvikle kraftige KI-systemer på en ansvarlig måte. Han fremhever at mekanistisk tolking er en av de mest lovende veiene for å gjøre dagens «svarte bokser» av nevrale nettverk til systemer som kan forstås og styres.
Anthropic kunngjorde i mars at de hadde hentet inn 3,5 milliarder dollar i en Series E-runde, hvor en del av midlene skulle gå til forskning på nettopp mekanistisk tolking og bedre justering av KI-systemer. De opplyste også at finansieringen skulle brukes til å utvide deres utviklingskapasitet, bygge ut datakraft og styrke sin internasjonale satsning.
Det var nettstedet pymnts.com som først omtalte saken
