LangChain

LangChain ponúka spoločné abstrahované rozhrania k modelom, nástrojom a agentom. Výmena poskytovateľa môže zmeniť podporované parametre aj formát priebežných udalostí.

Rozhodnutia pri návrhu

Pri integrácii so skladom definujeme schému parametrov a oddelíme získanie odpovede od uloženia zmeny. V aplikačnej logike kontrolujeme typy aj hranice hodnôt.

Príklad z pracovného postupu

Dva modely zhodne vrátia pomenovanie operácie „rezervovať“, ale jeden vynechá časové pásmo. Rozhranie nástroja musí vedieť parameter odmietnuť alebo vyžiadať doplnenie bez vytvorenia nejednoznačnej rezervácie.

Ako výsledok overiť

Rovnaká sada úloh po výmene modelu preverí kvalitu rozhodnutí aj kompatibilitu volania nástrojov.

Rozpracovaná akcia v podnikovom systéme

Pri akcii s účinkom mimo rozhovoru potrebujeme nezávislý stav operácie. Požiadavka na vytvorenie dokladu môže doraziť na server, hoci sa odpoveď už stratila. Aplikácia má pred opakovaním dokázať dohľadať, či existuje výsledný doklad a kto schválil jeho vytvorenie.

Správanie možno preveriť na správe, ktorá súčasne reklamuje dodávku a objednáva ďalší kus. Dve požiadavky majú samostatný stav. Potvrdenie jednej nesmie automaticky uzavrieť druhú ani vytvoriť dve rovnaké objednávky.

Pôvodný odborný zdroj – LangChain

Výmena jedinej časti reťazca môže zmeniť formát ďalšieho kroku

Spracovanie prílohy môže pozostávať z načítania textu, výberu relevantných častí, vytvorenia odpovede a prevodu na štruktúrovaný výsledok. Ak sa zmení typ návratovej hodnoty jedného článku, neskorší krok môže ticho vynechať prílohu alebo citáciu. Každá hranica preto dostane konkrétny príklad vstupu a výstupu.

Pre problémový doklad potom porovnáme medzivýsledky jednotlivých krokov. Tým sa dá oddeliť chyba vyhľadania od obsahovo chybnej odpovede aj od prípadu, keď správny text neprešiel prevodom do evidencie.

Otázky z praxe

Je jednotné rozhranie k modelom aj jednotným pravidlom pre vstupy nástrojov?

Schéma nástroja môže byť rovnaká, ale rôzne modely môžu požiadať o iné parametre alebo niektoré vynechať. Aplikácia ich overí pri každom volaní. Pri presune termínu skúšame najmä časové pásmo, totožnosť dokladu a zákaz prepísania termínu bez potrebného potvrdenia.

Ako zachovať spätosť výsledku s podkladmi v reťazci spracovania?

Pri každej transformácii prenášame identifikátor pôvodného záznamu spolu s odvodeným textom. Keď sa z neho na ďalšom kroku pripraví odpoveď, vieme ukázať verziu a zdroj konkrétneho tvrdenia. Prázdny výsledok vyhľadávania má zostať rozpoznateľný až do posledného kroku.

Čo odhaliť pri výmene poskytovateľa v hotovej aplikácii?

Spustíme rovnaké volania s typickými aj nedostatočnými vstupmi a sledujeme výber nástroja, počet volaní a výsledný stav. Zmeriame tiež spotrebu, oneskorenie a správanie pri prerušení. Kompatibilita knižničného rozhrania nevyrieši rozdiel medzi významom dvoch odpovedí pri rovnakom zadaní.

Potrebujete poradiť?

Opíšte nám, čo potrebujete vyriešiť. Odpovedáme e-mailom.

O čo máte záujem?

Martin Michalka vám pošle návrh e-mailom. Opíšte jednu úlohu, ktorú vo firme robíte opakovane.

Ako vás máme kontaktovať?