agent-foundations · bank branch officer demo

Nincs „tuti” agent architektúra. Vannak alapelvek, és van gyors kipróbálás.

Ez az oldal nem árulja el, mit kell megváltoztatni a te architektúrádon, és nem mutat „biztosan jó” irányt. Három dolgot ad:

Az architektúra alakja vitatható. Az alapelvek (stateless modell, szűk kontextus, guardrail minden hívás előtt és után, ami kötelező, azt a kód kényszeríti ki) a példában az Anthropic dokumentációjára és jegyzeteire épülnek, az OpenAI anyagai több ponton ugyanezt erősítik. Ezeket érdemes komolyan venni, bármilyen felépítést is választasz.

Miért nincs „tuti” megoldás, biztos recept?

Microservice architektúra: az építőelemek jellemzően determinisztikusak. Ugyanarra a bemenetre ugyanazt adják, így a minták viselkedése jóval kevésbé szór, és egy bevált minta viselkedése nagyrészt előre megítélhető (a hálózati hibák, késleltetés és a terhelés persze itt is számítanak).

Agentic rendszer: az építőeleme az LLM, ami valószínűségi alapon működik. A kimenet függ a modelltől, a prompttól, az adatoktól és a feladattól. Ugyanaz a felépítés az egyik környezetben beválik, a másikban nem, és ezt előre nem lehet kiszámolni, csak megmérni.

Ezért sem az Anthropic, sem az OpenAI dokumentációja nem ad egyetlen, mindenre érvényes architektúrát. Adnak irányelveket (például: indulj a legegyszerűbb működő megoldással, és csak mérés alapján bonyolítsd), de hogy egy adott feladatra melyik felépítés a jó, azt nem döntik el.

Az agentic architektúra akkor meggyőző, ha azonnal kipróbálható

Mivel egy agentic rendszer valós viselkedése csak futtatás közben derül ki, egy előre felrajzolt architektúra önmagában nem bizonyít semmit. A leginkább az számít, hogy azonnal ki lehet-e próbálni, és látszik-e, mit csinál.

Ezért a példa három darabból áll:

1 · elmélet

Az architektúra

A kérdés útja lépésről lépésre: router, orchestrator, subagentek, guardrailek és a válaszkapu. Az elvek forrása és az agentenkénti modellválasztás is itt van.

Architektúra oldal →
2 · mock alkalmazás

Teszt adatok és a hozzájuk tartozó funkciók

Az a „banki rendszer”, amit az agent lekérdez: három ügyfél teszt adatai, a menüpontok, és a mögöttük lévő REST végpontok. Minden GET-hez látható a válasz, a belépési szint szerinti hozzáféréssel.

Teszt adatok megnyitása →
3 · az architektúra kipróbálása

Branch Officer chat

Az előző két kártya alapján itt próbálható ki az architektúra: a chatben kérdezhetsz, és élőben látszik, melyik végpontot találta el a router, mely tooloket hívta az agent, és mit adott vissza a guardrail után.

Chat megnyitása →
ellenőrzéshez

Mobilbank szimuláció

Nem a példa része, csak segédeszköz: telefonos banki felület ugyanazokkal a végpontokkal, amellyel a chat válaszai ellenőrizhetők, és a csomag (lakossági / prémium / üzleti) szerinti zárolás kipróbálható.

Mobilbank megnyitása →

Egy lehetséges iránymutatás a jelenlegi rendszerhez

Ez nem az egyetlen helyes út, csak egy javaslat arra, hogyan lehet a jelenlegi architektúra előzetes, nagy megbontása nélkül haladni. A lényege, hogy előbb mérünk egy mock környezetben, és csak utána döntünk a valódi rendszer változtatásáról.

  1. Mock-oljuk a jelenlegi eval tesztekhez szükséges adatokat és funkciókat. A valódi rendszer helyett teszt adatok és mock végpontok szolgálják ki az agentet, ahogy a példában a bank_data.py és a katalógus.
  2. Futtatjuk a jelenlegi teszteket a mock környezeten a mostani architektúrával és orchestrationnel. Ez lesz a kiindulási mérés.
  3. Változtatjuk az architektúrát és az orchestrationt (agentek, toolok, modellek, sorrend), egyszerre egy dolgot, és minden változtatás után újra futtatjuk ugyanazokat a teszteket.
  4. Addig ismételjük, amíg jobb eredményt nem kapunk a kiindulási mérésnél. A „jobb” a saját eval mutatóidon dől el, nem megérzésen.
  5. Ezután határozzuk meg, hogyan lehet a jelenlegi rendszert változtatni a mockon bevált felépítés alapján. A valódi rendszer átalakítása csak ekkor kezdődik.

Ez a sorrend azért ésszerű, mert a mock környezetben olcsó és gyors a kísérlet, a valódi rendszeren drága és kockázatos. Azt viszont nem garantálja, hogy ami a mockon jobb, az élesben is az lesz, ezért a végén érdemes a valódi adatokon is ellenőrizni.