LangChain
LangChain ponúka spoločné abstrahované rozhrania k modelom, nástrojom a agentom. Výmena poskytovateľa môže zmeniť podporované parametre aj formát priebežných udalostí.
Príklad z pracovného postupu
Dva modely zhodne vrátia pomenovanie operácie „rezervovať“, ale jeden vynechá časové pásmo. Rozhranie nástroja musí vedieť parameter odmietnuť alebo vyžiadať doplnenie bez vytvorenia nejednoznačnej rezervácie.
Ako výsledok overiť
Rovnaká sada úloh po výmene modelu preverí kvalitu rozhodnutí aj kompatibilitu volania nástrojov.
Rozpracovaná akcia v podnikovom systéme
Pri akcii s účinkom mimo rozhovoru potrebujeme nezávislý stav operácie. Požiadavka na vytvorenie dokladu môže doraziť na server, hoci sa odpoveď už stratila. Aplikácia má pred opakovaním dokázať dohľadať, či existuje výsledný doklad a kto schválil jeho vytvorenie.
Správanie možno preveriť na správe, ktorá súčasne reklamuje dodávku a objednáva ďalší kus. Dve požiadavky majú samostatný stav. Potvrdenie jednej nesmie automaticky uzavrieť druhú ani vytvoriť dve rovnaké objednávky.
Výmena jedinej časti reťazca môže zmeniť formát ďalšieho kroku
Spracovanie prílohy môže pozostávať z načítania textu, výberu relevantných častí, vytvorenia odpovede a prevodu na štruktúrovaný výsledok. Ak sa zmení typ návratovej hodnoty jedného článku, neskorší krok môže ticho vynechať prílohu alebo citáciu. Každá hranica preto dostane konkrétny príklad vstupu a výstupu.
Pre problémový doklad potom porovnáme medzivýsledky jednotlivých krokov. Tým sa dá oddeliť chyba vyhľadania od obsahovo chybnej odpovede aj od prípadu, keď správny text neprešiel prevodom do evidencie.
Otázky z praxe
Je jednotné rozhranie k modelom aj jednotným pravidlom pre vstupy nástrojov?
Schéma nástroja môže byť rovnaká, ale rôzne modely môžu požiadať o iné parametre alebo niektoré vynechať. Aplikácia ich overí pri každom volaní. Pri presune termínu skúšame najmä časové pásmo, totožnosť dokladu a zákaz prepísania termínu bez potrebného potvrdenia.
Ako zachovať spätosť výsledku s podkladmi v reťazci spracovania?
Pri každej transformácii prenášame identifikátor pôvodného záznamu spolu s odvodeným textom. Keď sa z neho na ďalšom kroku pripraví odpoveď, vieme ukázať verziu a zdroj konkrétneho tvrdenia. Prázdny výsledok vyhľadávania má zostať rozpoznateľný až do posledného kroku.
Čo odhaliť pri výmene poskytovateľa v hotovej aplikácii?
Spustíme rovnaké volania s typickými aj nedostatočnými vstupmi a sledujeme výber nástroja, počet volaní a výsledný stav. Zmeriame tiež spotrebu, oneskorenie a správanie pri prerušení. Kompatibilita knižničného rozhrania nevyrieši rozdiel medzi významom dvoch odpovedí pri rovnakom zadaní.
Súvisiace stránky
-
LangGraph
LangGraph skladá stavový pracovný postup z uzlov a prechodov.
Otvoriť -
smolagents
smolagents poskytuje agentov, ktorí použijú zaregistrované nástroje a podľa konfigurácie aj vykonanie kódu.
Otvoriť -
Riešenia s umelou inteligenciou
Vyvíjame AI funkcie pre firemný softvér. Model pripraví návrh zo správy alebo dokladu, pracovník skontroluje zdroj a potvrdí zápis do systému.
Otvoriť