pgvector
Rozšírenie pgvector pridáva PostgreSQL vektorové typy a operátory vzdialenosti. Embedding môže zostať v jednej databáze s prístupovými pravidlami a väzbou na revíziu dokumentu.
Príklad z pracovného postupu
V tabuľke môže mať jeden dokument viac odsekov s embeddingom. Po oprave toho istého dokumentu musí výsledok odkazovať na správnu revíziu. Na udržanie tejto väzby sa využije identifikátor dokumentu, revízie aj úseku.
Ako výsledok overiť
Porovnáme plán dotazu, čas zápisu a výsledky filtrovaného hľadania s presným výpočtom na skutočných dátach.
Ako rozlíšiť kvalitu indexu a odpovede
Na test vyberieme otázky s vopred označeným zdrojovým úsekom. Najprv posúdime, či sa úsek vôbec objavil medzi nájdenými kandidátmi. Potom skontrolujeme jeho poradie a až následne to, či výsledná odpoveď využila relevantný dôkaz. Tieto tri výsledky môžu byť rozdielne.
Pri zmene verzie dokumentu overíme prechod od starého záznamu k novému a odstránenie už neplatných podkladov z dohľadateľných výsledkov. Rovnakú otázku položia dve rôzne roly, aby sa preverilo filtrovanie aj pri podobných dokumentoch.
Aktualizácia obchodného záznamu a jeho reprezentácie má rozdielnu časovú cenu
Oprava názvu produktu sa dá zapísať okamžite, zatiaľ čo prepočet vektora sa môže vykonať až v ďalšej úlohe. V prechodnom čase by vyhľadanie mohlo používať starý význam a zobrazovať už nový názov. Schéma preto zaznamená revíziu, ku ktorej vektor patrí.
Pri oneskorenej aktualizácii určíme, či výsledok dočasne skryjeme alebo označíme. Test s dvoma rýchlymi zmenami názvu preverí aj to, že oneskorený starší výpočet neprepíše reprezentáciu platnej revízie produktu.
Otázky z praxe
Je lepšie ukladať embedding pri celom dokumente alebo pri odseku?
Celý dokument dá širší kontext, odsek umožní presnejšie nájsť a citovať konkrétnu vetu. Pri dlhom manuáli často potrebujeme identifikátor výrezu aj nadväznosť na susedný text. O vhodnej granularite rozhodne test, v ktorom sa podmienka alebo nadpis tabuľky nachádza tesne za hranicou odseku.
Ako porovnať vektorový index s presným vyhľadaním?
Použijeme rovnaké vektory, rovnaký operátor vzdialenosti a rovnaké relačné obmedzenia. Pri malej reprezentatívnej množine získame presnú odpoveď a potom porovnáme úplnosť a čas približného dotazu. Pri meraní treba zahrnúť aj selektívny filter a dodatočné zápisy do indexovanej tabuľky.
Čo urobiť s embeddingom, keď dokument patrí už inému tímu?
Zmena oprávnenia nemusí meniť samotný vektor, ale musí zmeniť množinu používateľov, ktorí ho môžu dostať medzi výsledky. Overíme spoločnú väzbu na aktuálny dokument a spôsob vyhodnotenia prístupu v dotaze. Pri teste použijeme aj priamy odkaz na staršiu citáciu po presune.
Súvisiace stránky
-
Amazon Neptune GraphRAG Toolkit
AWS GraphRAG Toolkit ponúka stavebné prvky na tvorbu grafového kontextu nad dokumentmi vrátane podpory pre nasadenia s Amazon Neptune.
Otvoriť -
Neo4j
Neo4j reprezentuje objekty ako uzly a ich prepojenia ako vzťahy.
Otvoriť -
Riešenia s umelou inteligenciou
Vyvíjame AI funkcie pre firemný softvér. Model pripraví návrh zo správy alebo dokladu, pracovník skontroluje zdroj a potvrdí zápis do systému.
Otvoriť