Kan KI-agenten gjøre jobben, er den trygg, og lønner den seg? Bedrifter bør kreve tydelige svar før de gir teknologien ansvar, mener advokater i Mayer Brown.
En KI-agent kan planlegge og gjennomføre oppgaver med begrenset menneskelig oppfølging. Det gjør grundig utprøving viktig før den får tilgang til virksomhetens systemer og fullmakt til å handle.
Nettstedet PYMNTS omtaler anbefalingene fra Spencer Glende og Samuel J. Hartman i advokatfirmaet Mayer Brown. De mener bedrifter bør vurdere KI-agenter omtrent som potensielle ansatte: undersøke ferdighetene, vurdere påliteligheten og finne ut om innsatsen forsvarer kostnadene.
Start med en tydelig jobb
Før testen begynner, må virksomheten definere agentens arbeidsoppgaver og fullmakter. Hvilke systemer og opplysninger skal den få tilgang til? Hva kan den gjennomføre selv, og når må et menneske godkjenne handlingen? En innkjøpsagent kan eksempelvis utarbeide bestillinger, mens en ansatt må godkjenne dem før de sendes.
Advokatene anbefaler et avgrenset pilotprosjekt som gir dokumentasjon på hvordan løsningen fungerer. En overbevisende demonstrasjon fra leverandøren er ikke tilstrekkelig beslutningsgrunnlag.
Test også når noe går galt
Utprøvingen bør omfatte både vanlige arbeidsoppgaver og vanskelige situasjoner. Agenten må blant annet håndtere uklare beskjeder, tekniske feil og forsøk på å få den til å overskride fullmaktene sine. Bedriften bør måle hvor ofte oppgavene blir løst riktig, hvilke feil som oppstår, og hvor mye menneskelig hjelp som trengs. Handlingene må dokumenteres slik at hendelsesforløpet kan undersøkes i ettertid.
Menneskelig kontroll må fungere
Det holder ikke at en ansatt i teorien kan stoppe agenten. Vedkommende må også få informasjon og tid til å gripe inn. Samtidig kan for mange varsler føre til at viktige advarsler overses. Derfor bør piloten undersøke hvordan samspillet mellom agenten og de ansatte fungerer, og om nødstopp og andre begrensninger virker.
Regn med hele kostnaden
Programvareprisen er bare én del av regnestykket. Databehandling, bruk av eksterne tjenester og arbeid med kontroll og feilretting kan øke kostnadene. En agent som sparer tid i én arbeidsprosess, kan skape merarbeid et annet sted. Lønnsomheten bør derfor vurderes ut fra kostnaden ved en vellykket utført oppgave.
Krev en beslutning før videre bruk
Pilotprosjektet bør ha en sluttdato og tydelige kriterier for videreføring. Det skal ikke automatisk bli permanent drift. Resultatet kan være videre utprøving, forbedringer eller en mer begrenset innføring. Målet er å gi bedriften et dokumentert grunnlag for å avgjøre hvilket ansvar teknologien kan få.