agent-foundations · bank branch officer demo
Ez az oldal nem árulja el, mit kell megváltoztatni a te architektúrádon, és nem mutat „biztosan jó” irányt. Három dolgot ad:
Az architektúra alakja vitatható. Az alapelvek (stateless modell, szűk kontextus, guardrail minden hívás előtt és után, ami kötelező, azt a kód kényszeríti ki) a példában az Anthropic dokumentációjára és jegyzeteire épülnek, az OpenAI anyagai több ponton ugyanezt erősítik. Ezeket érdemes komolyan venni, bármilyen felépítést is választasz.
Microservice architektúra: az építőelemek jellemzően determinisztikusak. Ugyanarra a bemenetre ugyanazt adják, így a minták viselkedése jóval kevésbé szór, és egy bevált minta viselkedése nagyrészt előre megítélhető (a hálózati hibák, késleltetés és a terhelés persze itt is számítanak).
Agentic rendszer: az építőeleme az LLM, ami valószínűségi alapon működik. A kimenet függ a modelltől, a prompttól, az adatoktól és a feladattól. Ugyanaz a felépítés az egyik környezetben beválik, a másikban nem, és ezt előre nem lehet kiszámolni, csak megmérni.
Ezért sem az Anthropic, sem az OpenAI dokumentációja nem ad egyetlen, mindenre érvényes architektúrát. Adnak irányelveket (például: indulj a legegyszerűbb működő megoldással, és csak mérés alapján bonyolítsd), de hogy egy adott feladatra melyik felépítés a jó, azt nem döntik el.
Mivel egy agentic rendszer valós viselkedése csak futtatás közben derül ki, egy előre felrajzolt architektúra önmagában nem bizonyít semmit. A leginkább az számít, hogy azonnal ki lehet-e próbálni, és látszik-e, mit csinál.
Ezért a példa három darabból áll:
A kérdés útja lépésről lépésre: router, orchestrator, subagentek, guardrailek és a válaszkapu. Az elvek forrása és az agentenkénti modellválasztás is itt van.
Architektúra oldal →Az a „banki rendszer”, amit az agent lekérdez: három ügyfél teszt adatai, a menüpontok, és a mögöttük lévő REST végpontok. Minden GET-hez látható a válasz, a belépési szint szerinti hozzáféréssel.
Teszt adatok megnyitása →Az előző két kártya alapján itt próbálható ki az architektúra: a chatben kérdezhetsz, és élőben látszik, melyik végpontot találta el a router, mely tooloket hívta az agent, és mit adott vissza a guardrail után.
Chat megnyitása →Nem a példa része, csak segédeszköz: telefonos banki felület ugyanazokkal a végpontokkal, amellyel a chat válaszai ellenőrizhetők, és a csomag (lakossági / prémium / üzleti) szerinti zárolás kipróbálható.
Mobilbank megnyitása →Ezt az oldalt fájlként nyitottad meg. A chathez el kell indítani a szervert (lásd lent: „Kipróbálás”), a többi oldal szerver nélkül is megnyílik.
Ez nem az egyetlen helyes út, csak egy javaslat arra, hogyan lehet a jelenlegi architektúra előzetes, nagy megbontása nélkül haladni. A lényege, hogy előbb mérünk egy mock környezetben, és csak utána döntünk a valódi rendszer változtatásáról.
bank_data.py és a katalógus.
Ez a sorrend azért ésszerű, mert a mock környezetben olcsó és gyors a kísérlet, a valódi rendszeren drága és kockázatos. Azt viszont nem garantálja, hogy ami a mockon jobb, az élesben is az lesz, ezért a végén érdemes a valódi adatokon is ellenőrizni.