I en tid hvor kunstig intelligens spiller en stadig større rolle i kritiske samfunnsfunksjoner, er det avgjørende at disse systemene ikke bare leverer svar, men også forstår når de er usikre eller mangler tilstrekkelig informasjon. Dette er kjernen i arbeidet til Themis AI, en oppstartsbedrift spunnet ut fra Massachusetts Institute of Technology (MIT), som nylig ble omtalt i MIT News.
KI med selvinnsikt
Tradisjonelle KI-modeller, som ChatGPT, er designet for å gi plausible svar på et bredt spekter av spørsmål. Imidlertid har disse modellene en tendens til å presentere informasjon med høy selvtillit, selv når de opererer uten tilstrekkelig kunnskapsgrunnlag. Dette kan føre til alvorlige konsekvenser, spesielt når KI brukes i områder som legemiddelutvikling, informasjonsanalyse og autonome kjøretøy.
Themis AI adresserer dette problemet ved å utvikle verktøy som gjør det mulig for KI-modeller å identifisere og kvantifisere sin egen usikkerhet. Deres plattform, Capsa, kan integreres med eksisterende maskinlæringsmodeller for å oppdage og korrigere upålitelige resultater på sekunder. Dette oppnås ved å modifisere modellene slik at de kan gjenkjenne mønstre i databehandlingen som indikerer tvetydighet, ufullstendighet eller skjevhet.
Fra forskning til praksis
Themis AI ble grunnlagt i 2021 av MIT-professor Daniela Rus, sammen med tidligere forskningsmedarbeidere Alexander Amini og Elaheh Ahmadi. Siden oppstarten har selskapet samarbeidet med telekomselskaper om nettverksplanlegging og automatisering, samt med olje- og gassindustrien for å tolke seismiske bilder. De har også publisert forskning om utvikling av mer pålitelige og tillitsverdige chatboter.
«Vi ønsker å muliggjøre KI i de mest kritiske anvendelsene i alle bransjer,» sier Amini. «Vi har alle sett eksempler på at KI hallusinerer eller gjør feil. Etter hvert som KI tas i bruk i større grad, kan disse feilene få ødeleggende konsekvenser. Themis gjør det mulig for enhver KI å forutsi og forutse sine egne feil før de skjer.
Bred anvendelse og fremtidige muligheter
Capsa-plattformen har vist seg nyttig i ulike bransjer, inkludert farmasøytisk industri, hvor den hjelper KI-modeller med å identifisere legemiddelkandidater og forutsi deres ytelse i kliniske studier. Ved å gi innsikt i hvorvidt modellens prediksjoner er støttet av treningsdata eller er spekulative, kan Capsa akselerere identifiseringen av de mest lovende kandidatene.
Themis AI ser også på mulighetene for å forbedre nøyaktigheten i en KI-teknikk kjent som «chain-of-thought reasoning», hvor store språkmodeller forklarer trinnene de tar for å komme frem til et svar. Ved å hjelpe disse prosessene med å identifisere de mest pålitelige resonnementskjedene, kan Capsa forbedre brukeropplevelsen, redusere latenstid og redusere beregningskravene.
Themis AI representerer et viktig skritt mot mer ansvarlig og pålitelig bruk av kunstig intelligens. Ved å fokusere på modellens evne til å erkjenne egne begrensninger, bidrar selskapet til å bygge tillit mellom mennesker og de teknologiene som i økende grad blir en del av hverdagen vår.
