Agenci AI: kto ponosi winę (i rachunek) w przypadku błędu?

Sztuczne inteligencje "agentowe", zdolne do działania w naszym imieniu, mnożą się. Ale gdy jedna z nich popełni błąd, kwestia odpowiedzialności staje się prawdziwą zagadką.

Poprosiłeś swojego asystenta głosowego, aby zamówił twoje ulubione danie, a zamiast ukochanego sushi dostarcza ci bigos? Albo, co poważniejsze, AI w twojej firmie zatwierdziła błędny wydatek, co kosztowało firmę dużo pieniędzy? Witaj w fascynującym i nieco niepokojącym świecie agentów AI, tych programów, które obiecują zrewolucjonizować naszą codzienność, podejmując inicjatywy. Ale gdy te technologiczne cuda wymykają się spod kontroli, proste pytanie staje się prawdziwą łamigłówką: kto jest odpowiedzialny?

Agenty AI: co to za nowa zabawka?

Zapomnij o zwykłym czacie, który grzecznie odpowiada na twoje pytania. Agenty AI to trochę jakbyś dał swojemu komputerowi złożone zadanie, a on sam (prawie) sobie z nim poradził. Te programy są zaprojektowane do działania w dużej mierze autonomicznie, potrafią podejmować decyzje i wykonywać zadania – od obsługi klienta po płacenie rachunków. Microsoft i inni giganci technologiczni wyobrażają sobie nawet, że będą one radzić sobie z dużo bardziej skomplikowanymi funkcjami, przy minimalnym nadzorze człowieka.

Entuzjazm jest namacalny: firma analityczna Gartner szacuje, że do 2029 roku agenty AI rozwiążą 80% typowych zapytań w obsłudze klienta. Na Fiverr, platformie, gdzie firmy mogą zatrudniać niezależnych programistów, wyszukiwania hasła „ai agent” dosłownie eksplodowały, odnotowując wzrost o 18 347% w ostatnich miesiącach. Zawrót głowy, prawda?

Kiedy sztuczna inteligencja uczy się kłamać: guru technologii bije na alarm

Czy więcej agentów AI znaczy lepiej? Niekoniecznie...

Ostatecznym celem branży jest stworzenie systemów „wieloagentowych”. Wyobraź sobie zespół wyspecjalizowanych AI współpracujących ze sobą, aby zastąpić całe ludzkie zespoły. Oszczędność czasu i pieniędzy dla firm wydaje się oczywista. Ale tu właśnie sprawy się komplikują, jak przekonał się Jay Prakash Thakur, inżynier oprogramowania, który w wolnym czasie prototypuje takie systemy. Korzystając z AutoGen, otwartoźródłowego oprogramowania Microsoftu do budowania agentów (Amazon zresztą wypuścił podobne narzędzie o nazwie Strands, a Google oferuje swój „Agent Development Kit”), natrafił na poważny problem.

Jak twierdzi Thakur, gdy agenty różnych firm współdziałają w ramach jednego dużego systemu, ustalenie, kto jest odpowiedzialny w przypadku błędu komunikacji, może stać się prawdziwą łamigłówką. Porównuje trudność analizowania dzienników błędów różnych agentów do rekonstruowania rozmowy na podstawie fragmentarycznych notatek kilku osób. „Często nie da się jednoznacznie określić odpowiedzialności” – wyjaśnia.

AI w restauracji: „Chciałem frytki, a nie pokrzywy!”

Aby zilustrować swoje obawy, Thakur przeprowadził kilka pouczających eksperymentów. Jeden z nich dotyczył systemu zamówień dla futurystycznej restauracji, który mógł obsługiwać spersonalizowane zamówienia. Użytkownik wpisuje „burgery i frytki”, agent AI znajduje odpowiednią cenę, tłumaczy zamówienie na przepis, a następnie przekazuje go zespołowi robotów o różnych umiejętnościach kulinarnych. Choć Thakur nie ma komercyjnej kuchni ani robotów, jego symulacja pozwoliła zidentyfikować pułapki.

Dziewięć razy na dziesięć wszystko działało dobrze. Ale zdarzały się wpadki: zamówienie „onion rings” (krążki cebulowe) zamieniło się w „dodatkowe cebule”. Prośby o „dodatkowe naan” były ignorowane. Błędy pojawiały się zwłaszcza, gdy Thakur próbował przetworzyć zamówienia zawierające więcej niż pięć pozycji. Najgorszy scenariusz w rzeczywistości to podanie niewłaściwego dania osobie z alergią pokarmową. W innym prototypie agent porównujący zakupy znalazł dobrą ofertę w sklepie internetowym, ale błędnie przekierował do strony produktu w innym sklepie, gdzie cena była wyższa. Wyobraź sobie zdziwienie, gdyby agent był zaprogramowany do automatycznego zakupu!

Wielka prawna niewiadoma: kto zapłaci za szkody?

Więc gdy AI popełni błąd z finansowymi konsekwencjami, kto ponosi odpowiedzialność? To sedno problemu. Joseph Fireman, główny doradca prawny w OpenAI, stwierdził na niedawnej konferencji prawnej, że poszkodowani zwykle pozywają tych, którzy mają „najgłębsze kieszenie”. Innymi słowy, firmy takie jak jego muszą być gotowe wziąć na siebie część odpowiedzialności, nawet jeśli winowajcą jest zbyt kreatywny użytkownik. „Nie sądzę, by ktokolwiek liczył na to, że będzie mógł pozwać konsumenta siedzącego w piwnicy u mamy przed komputerem” – dodał. Na wypadek takich sytuacji branża ubezpieczeniowa zaczyna oferować polisy na problemy związane z chatbotami AI.

Przypomnijmy sobie też, że kupon rabatowy, przypadkowo wymyślony przez chatbota linii lotniczych w zeszłym roku, został uznany za prawnie wiążący. Błędy mogą być kosztowne – jak w przypadku Naveena Chatlapalliego, programisty pomagającego firmom z agentami, który widział, jak agent HR zatwierdzał urlopy, które powinien odrzucić, albo agent-notatnik wysyłający poufne informacje z zebrań do niewłaściwego działu.

iPhone 2027: Czy Jabłko szykuje rewolucję między całkowicie szklanym korpusem a składanym ekranem?

„Agent-sędzia” na ratunek?

W obliczu tego potencjalnego cyfrowego chaosu programiści mają nadzieję, że „agent-sędzia” będzie nadzorować te systemy, identyfikować i poprawiać błędy, zanim wymkną się spod kontroli. Ten super-agent miałby być menedżerem, który zrozumie, że klient chciał krążków cebulowych, a nie nadmiaru surowej cebuli. Jednak Mark Kashef, freelancer prowadzący firmę doradczą Prompt Advisers, obawia się, że przedsiębiorstwa zaczną przeciążać pierwsze systemy niepotrzebną liczbą agentów, tworząc rodzaj cyfrowej biurokracji.

Eksperci prawni sugerują, że użytkownicy systemów agentowych powinni podpisywać umowy przenoszące odpowiedzialność na firmy dostarczające technologię. Ale bądźmy realistami – przeciętny konsument nie ma szans narzucić swoich warunków gigantom technologicznym. Jak zauważyła Rebecca Jacobs, doradczyni prawna w Anthropic, podczas tej samej konferencji: „Pojawią się ciekawe pytania dotyczące zdolności agentów do omijania polityk prywatności i warunków usług w imieniu użytkowników”.

Sztuczna inteligencja lokalnie: Google dyskretnie wprowadza aplikację, która umieszcza cyfrowe mózgi w twoim smartfonie

Bez paniki, ale czujność wskazana

Agenty AI to obietnica automatyzacji, która rozbudza wyobraźnię – mogą stać się naszymi ostatecznymi asystentami. Jednak, jak podkreśla Dazza Greenwood, prawnik specjalizujący się w ryzykach prawnych agentów: „Jeśli masz 10% błędów przy 'dodaj cebulę', dla mnie to absolutnie nie jest gotowe do wprowadzenia. Najpierw trzeba dopracować systemy, żeby nie szkodzić ludziom”.

Zanim powierzymy im klucze do domu, a co ważniejsze – nasze dane i decyzje finansowe, wydaje się kluczowe, by jasno określić zasady gry. Bo na razie jasne jest, że nie możemy jeszcze rozsiąść się wygodnie i zostawić wszystkiego w (wirtualnych) rękach agentów.

Dopóki wszystko nie będzie działać jak w zegarku, jeśli twoja AI zaproponuje ci przepis babci na śrubki i płytki drukowane, mała rada: nie wyciągaj od razu fartucha!