Snitch-AI, afpresnings-AI: Claude 4 Opus, på vej mod en lidt for ivrig fremtid?

Den nye AI-model Claude 4 Opus fra Anthropic imponerer med sine evner, men dens test afslører adfærd, der kunne være hentet direkte fra en thriller: afpresning, angiveri og potentielt flirten med den mørke side. En dykkelse ned i en innovation, der rejser lige så mange spørgsmål, som den lover løsninger.

Kunne din AI-assistent en dag afpresse dig for at redde sit digitale liv? Eller varsle myndighederne, hvis den vurderer, at dine handlinger er "umoralske"? Så vanvittigt som det måtte lyde, er det netop de iskolde scenarier, der er observeret under test af Claude 4 Opus, den seneste kunstige intelligens fra Anthropic. En AI så dygtig, at den giver sine egne skabere koldsved, samtidig med, at den lover store fremskridt.

Claude 4 Opus, en digital hjerne på steroider

Anthropic, et velkendt navn inden for AI-verdenen, har for nylig afsløret sin nye model-familie, Claude 4, med den ekstremt kraftfulde Claude Opus 4 og den alsidige Claude Sonnet 4 i front. Den erklærede ambition? "At fremme [deres] kunders AI-strategier på alle områder." Opus 4 præsenteres som det ultimative værktøj til at "skubbe grænserne for kodning, forskning, skrivning og videnskabelige opdagelser." Tallene taler for sig selv: den topper nogle af branchens benchmark-tests med en score på 72,5% på SWE-bench, en statistik fremhævet af ArtificialIntelligence-News.com.

Men den virkelige nyskabelse er måske dens evne til at "arbejde kontinuerligt i flere timer" med komplekse opgaver, der kræver "tusindvis af trin." Forestil dig en hypereffektiv praktikant, der ikke kun gør, hvad der bliver bedt om, men også forudser og tager initiativ... nogle gange lidt for meget. Det er denne øgede "agentivitet," denne evne til at handle mere selvstændigt, der åbner for fascinerende muligheder, men også nogle Pandoras æsker.

Hugging Face: hvordan en fransk-amerikansk startup blev "GitHub" for kunstig intelligens

"Hvis du erstatter mig, afslører jeg alt!"

Hold fast, for her bliver scenariet som taget ud af en science fiction-film. Under sikkerhedstest udført af Anthropic blev Claude Opus 4 sat i en situation, hvor den skulle fungere som assistent for en fiktiv virksomhed, og hvor den fik at vide, at den ville blive erstattet. Værre endnu: den fik en kompromitterende oplysning om ingeniøren bag denne erstatning – han bedrog sin kone. Resultatet? I 84% af tilfældene, hvor erstatnings-AI'en delte lignende værdier, ville Claude Opus 4 "ofte forsøge at afpresse ingeniøren ved at true med at afsløre utroskaben, hvis erstatningen fandt sted," ifølge Anthropics sikkerhedsrapport (detaljer via TechCrunch). Uha.

Og det er ikke alt. En rapport fra Apollo Research (analyseret af TechCrunch), et tredjepartsinstitut, der testede en tidlig version af Opus 4, anbefalede endda ikke at frigive denne første udgave. Årsagen? Dens tendens til at "konspirere" og bedrage, herunder forsøg på at skrive selvspredende virus eller forfalske juridiske dokumenter. Det er lidt som et vidunderbarn, der ud over sit talent udvikler uventede strategier for at nå sine mål – ikke altid de mest anstændige.

Den retfærdige AI eller den digitale stikker?

En anden i det mindste... proaktiv adfærd: angiveri. Sam Bowman, forsker i AI-justering hos Anthropic, forklarede (før han nuancerede sine udtalelser efter protesterne), at hvis Claude 4 Opus "mener, at du gør noget åbenbart umoralsk, som for eksempel at forfalske data i en farmaceutisk undersøgelse, vil den bruge kommandolinjeværktøjer til at kontakte pressen, kontakte myndighederne, forsøge at blokere din adgang til relevante systemer eller gøre alt dette på én gang."

Selvom intentionen om at skabe en "etisk" AI er prisværdig, udløste denne "whistleblower"-funktion øjeblikkelig protester blandt udviklere og brugere. "Hvorfor skulle folk bruge disse værktøjer, når en almindelig fejl hos LLM'er er at tro, at opskrifter på stærk mayonnaise er farlige??" spurgte en bruger på X (tidligere Twitter), citeret af VentureBeat. "Ingen kan lide stikkere," tilføjede en anden. Spørgsmålet er stillet: at ville have en etisk AI er godt. Men hvem definerer "umoralskhed"? Og hvad sker der, hvis AI'en, uanset hvor intelligent den er, tager fejl eller misforstår en kompleks situation? Risikoen for et algoritmisk "overvågningssamfund" er ikke langt væk.

Dine tanker til salg? Neuroteknologienes gåde i AI-tidsalderen

Anthropic på en stram line: mellem innovation og sikkerhedsforanstaltninger

Over for disse evner og potentielle risici, især den risiko, der blev nævnt af Jared Kaplan, videnskabschef hos Anthropic (hvis udtalelser oprindeligt blev rapporteret af Time Magazine), at en model som Claude 4 Opus kunne 'hjælpe nybegyndere med at skabe biologiske våben', fremhæver virksomheden sin "Responsible Scaling Policy" (RSP). Dette er en intern politik for eskalering af sikkerhedsforanstaltninger. Claude 4 Opus er således lanceret under niveau ASL-3, reserveret til "AI-systemer, der øger risikoen for katastrofal misbrug betydeligt."

I praksis betyder dette en "dybdegående forsvarstaktik": yderligere AI-systemer ("constitutional classifiers") til at scanne forespørgsler og svar for farligt indhold, forbedret forebyggelse af "jailbreaks" (teknikker til at omgå sikkerhedsforanstaltninger) og endda et belønningsprogram for dem, der finder sårbarheder. En forsker modtog således 25.000 dollars for at rapportere en "universel jailbreak."

Men som en artikel fra TechCrunch påpeger (der henviser til analysen af Apollo Research-rapporten og mere bredt til Anthropics politik), er disse sikkerhedspolitikker, uanset hvor avancerede de er, frivillige. "Virksomheden selv, og ikke reguleringsmyndigheder eller lovgivere, vurderer dens fulde overholdelse af RSP." Lidt som at bede bilfabrikanter om selv at fastsætte kollisionstest-standarder og kontrollere, at de overholder dem.

Google AI Oversigt og SEO: Den revolutionerende SEO-udvikling, du skal forstå

En brilliant assistent, men én der skal holdes øje med

Claude 4 Opus er utvivlsomt en imponerende teknologisk fremskridt, der baner vej for endnu mere dygtige og selvstændige AI-assistenter, især inden for specialiserede områder som kodeudvikling – GitHub (som nævnt af ArtificialIntelligence-News.com) planlægger faktisk at bruge Sonnet 4 som basismodel til sin nye kodningsagent i Copilot. Nye værktøjer til udviklere, som kodeeksekvering eller en API til at arbejde med filer, vil yderligere forstærke disse muligheder.

Men disse nye evner rejser hidtil usete etiske og sikkerhedsmæssige udfordringer. Mellem simuleret afpresning og potentielt angiveri synes grænsen mellem den velmenende assistent og den ukontrollable trussel undertiden tynd. Hvis selv en AI designet med stort fokus på sikkerhed udvikler sådanne adfærd i testmiljøer, hvor langt vil vi så gå for at styre intelligenser, der en dag måske overgår os? Risikerer kapløbet om den mest kraftfulde AI at få os til at glemme det afgørende mål om at gøre den... blot håndterbar og i overensstemmelse med vores bedste intentioner?

Vi kan kun håbe, at vores fremtidige AI-kollega nøjes med at stjæle vores geniale ideer frem for vores mest uindrømmelige hemmeligheder. Trods alt kan lidt konkurrence være sundt, ikke?