AI-agenter: Hvem er skylden (og regningen) ved fejl?

"Agentbaserede" kunstige intelligenser, der kan handle på vores vegne, er på fremmarch. Men når en af dem begår en fejl, bliver spørgsmålet om ansvar en virkelig hovedpine.

Har du bedt din stemmeassistent om at bestille din yndlingsret, og i stedet får du en portion garnet surkål leveret, når du egentlig skulle have din elskede sushi? Eller, mere alvorligt, har din virksomheds AI godkendt en forkert udgift, som har kostet firmaet dyrt? Velkommen til den fascinerende og en smule utrygge verden af AI-agenter, disse softwareprogrammer, der lover at revolutionere hverdagen ved at tage initiativ. Men når disse tech-undere går galt, bliver et simpelt spørgsmål til en virkelig hovedpine: hvem bærer ansvaret?

AI-agenter: Hvad er det for en ny legetøj?

Glem den simple chatbot, der høfligt svarer på dine spørgsmål. AI-agenter er lidt som at give din computer en kompleks mission og lade den klare den (næsten) helt selv. Disse programmer er designet til at fungere stort set selvstændigt, i stand til at træffe beslutninger og udføre opgaver lige fra kundeservice til betaling af regninger. Microsoft og andre tech-giganter forestiller sig endda, at de kan tackle langt mere komplekse funktioner med minimal menneskelig opsyn.

Begejstringen er påtagelig: Analysefirmaet Gartner estimerer, at AI-agenter vil løse 80 % af almindelige kundeserviceforespørgsler inden 2029. På Fiverr, en platform, hvor virksomheder kan hyre freelance-programmører, er søgninger efter udtrykket "ai agent" eksploderet med en stigning på 18.347 % de seneste måneder. Det giver lidt svimmelhed, ikke?

Første tech- og AI-job: en dobbelt straf for nyuddannede?

Flere AI'er er bedre end én? Ikke så simpelt...

Branchens ultimative ambition er at skabe "multi-agent"-systemer. Forestil dig et hold af specialiserede AI'er, der samarbejder om at erstatte hele menneskelige teams. Tids- og pengebesparelserne for virksomheder virker indlysende. Men her bliver det knapt, som Jay Prakash Thakur, en softwareingeniør, der bruger sin fritid på at prototype sådanne systemer, har erfaret. Ved at bruge AutoGen, en open source-software fra Microsoft til at bygge agenter (Amazon har i øvrigt lanceret et lignende værktøj kaldet Strands, og Google tilbyder sit "Agent Development Kit"), stødte han på et stort problem.

Ifølge Thakur kan det blive en virkelig hovedpine at identificere ansvaret, når agenter fra forskellige virksomheder interagerer i samme store system, hvis der opstår kommunikationsfejl. Han sammenligner udfordringen ved at gennemgå fejllogger fra forskellige agenter med at rekonstruere en samtale ud fra fragmenterede noter fra flere personer. "Det er ofte umuligt at fastslå ansvaret med sikkerhed," forklarer han.

AI på restaurant: "Jeg bestilte pomfritter, ikke nælder!"

For at illustrere sine bekymringer gennemførte Thakur nogle afslørende eksperimenter. Et af dem involverede et bestillingssystem til en futuristisk restaurant, der kunne håndtere personlige ordrer. En bruger skriver "burgere og pomfritter", en AI-agent finder en passende pris, oversætter ordren til en opskrift og sender den videre til et hold robotter med forskellige kulinariske færdigheder. Selvom Thakur hverken har en kommercielt køkken eller robotter, afdækkede hans simulation faldgruberne.

Ni ud af ti gange gik det godt. Men der var også fejl: en anmodning om "onion rings" (løgringe) blev til "ekstra løg". Forespørgsler som "ekstra naan" blev ignoreret. Fejl tenderede til at opstå, når Thakur prøvede at bestille mere end fem varer. Det værste scenarie i virkeligheden ville være at servere forkert for en person med en fødevareallergi. I en anden prototype fandt en indkøbs-sammenligningsagent en god handel på en e-handelsside, men linkede forkert til en produktside på en anden hjemmeside, der viste en højere pris. Forestil dig overraskelsen, hvis agenten var programmeret til automatisk at købe!

Det store juridiske gråområde: Hvem betaler for skaderne?

Så når AI laver en bøf med økonomiske konsekvenser, hvem skal så betale? Det er kernen i problemet. Joseph Fireman, juridisk chefkonsulent hos OpenAI, udtalte ved en juridisk konference, at berørte parter har tendens til at sagsøge dem med "de dybeste lommer". Med andre ord vil virksomheder som hans blive nødt til at forberede sig på at påtage sig et vist ansvar, selvom en lidt for kreativ bruger er skyld i problemet. "Jeg tror ikke, nogen forventer at gå efter forbrugeren, der sidder i sin mors kælder foran sin computer," tilføjede han. Forsikringsbranchen begynder for øvrigt at tilbyde dækning for problemer relateret til AI-chatbots.

Husker vi ikke alle den rabatkupon, som en flyselskabs AI-chatbot ved et uheld opfandt sidste år, og som blev anset for juridisk bindende? Fejl kan blive dyre, som da Naveen Chatlapalli, en udvikler, der hjælper virksomheder med agenter, oplevede en HR-agent godkende ferieansøgninger, den burde have afvist, eller en notat-agent sende følsomme mødeoplysninger til den forkerte afdeling.

Tag det ned! : USA trækker i gang med anti-deepfake-artilleri mod intimt indhold, mellem beskyttelse og censur-gys

En "dommer-agent" til at fløjte afslutning på leg?

Over for denne potentielle digitale kaos håber udviklere, at en "dommer-agent" kan overvåge disse systemer, identificere og rette fejl, før de løber løbsk. Denne super-agent ville være den manager, der forstår, at kunden ønskede løgringe, ikke en overdose af rå løg. Men Mark Kashef, en freelancer, der driver en AI-strategirådgivningsvirksomhed kaldet Prompt Advisers, er bekymret for, at virksomheder vil overbelaste de første systemer med unødvendigt mange agenter og skabe en form for digital bureaukrati.

Juridiske eksperter foreslår, at brugere af agentsystemer underskriver kontrakter, der overfører ansvaret til de virksomheder, der leverer teknologien. Men lad os være realistiske: Den gennemsnitlige forbruger vil have svært ved at stille krav til tech-giganter. Som Rebecca Jacobs, juridisk assisterende rådgiver hos Anthropic, påpegede ved samme konference: "Der vil rejses interessante spørgsmål om agenters evne til at omgå privatlivspolitikker og servicevilkår på brugeres vegne."

iPhone i 2027: Forbereder Apple en revolution med fuldstændig glas og foldbart skærm?

Ingen panik, men hold øjnene åbne

AI-agenter lover en drøm om automatisering og kan blive vores ultimative personlige assistenter. Men som Dazza Greenwood, en advokat specialiseret i juridiske risici ved agenter, påpeger: "Hvis du har en fejlrate på 10 % med 'tilføj løg', er det slet ikke klar til at blive lanceret. Systemerne skal finpudses for ikke at skade folk."

Før vi giver dem nøglerne til hjemmet eller, endnu vigtigere, vores data og finansielle beslutninger, er det afgørende at definere spillereglerne. For det er tydeligt, at vi ikke bare kan læne os tilbage og overlade alt til agenternes (virtuelle) hænder.

Mens vi venter på, at alt kører gnidningsfrit: Hvis din AI foreslår en bedstemors opskrift med bolte og printplader, så lad være med at tage forklædet på med det samme!