pgvector

Rozšírenie pgvector pridáva PostgreSQL vektorové typy a operátory vzdialenosti. Embedding môže zostať v jednej databáze s prístupovými pravidlami a väzbou na revíziu dokumentu.

Rozhodnutia pri návrhu

Operátor a typ indexu sa musia zhodovať s metrikou modelu. Bežný relačný filter môže ovplyvniť počet relevantných kandidátov pri približnom vyhľadávaní.

Príklad z pracovného postupu

V tabuľke môže mať jeden dokument viac odsekov s embeddingom. Po oprave toho istého dokumentu musí výsledok odkazovať na správnu revíziu. Na udržanie tejto väzby sa využije identifikátor dokumentu, revízie aj úseku.

Ako výsledok overiť

Porovnáme plán dotazu, čas zápisu a výsledky filtrovaného hľadania s presným výpočtom na skutočných dátach.

Ako rozlíšiť kvalitu indexu a odpovede

Na test vyberieme otázky s vopred označeným zdrojovým úsekom. Najprv posúdime, či sa úsek vôbec objavil medzi nájdenými kandidátmi. Potom skontrolujeme jeho poradie a až následne to, či výsledná odpoveď využila relevantný dôkaz. Tieto tri výsledky môžu byť rozdielne.

Pri zmene verzie dokumentu overíme prechod od starého záznamu k novému a odstránenie už neplatných podkladov z dohľadateľných výsledkov. Rovnakú otázku položia dve rôzne roly, aby sa preverilo filtrovanie aj pri podobných dokumentoch.

Pôvodný odborný zdroj – pgvector

Aktualizácia obchodného záznamu a jeho reprezentácie má rozdielnu časovú cenu

Oprava názvu produktu sa dá zapísať okamžite, zatiaľ čo prepočet vektora sa môže vykonať až v ďalšej úlohe. V prechodnom čase by vyhľadanie mohlo používať starý význam a zobrazovať už nový názov. Schéma preto zaznamená revíziu, ku ktorej vektor patrí.

Pri oneskorenej aktualizácii určíme, či výsledok dočasne skryjeme alebo označíme. Test s dvoma rýchlymi zmenami názvu preverí aj to, že oneskorený starší výpočet neprepíše reprezentáciu platnej revízie produktu.

Otázky z praxe

Je lepšie ukladať embedding pri celom dokumente alebo pri odseku?

Celý dokument dá širší kontext, odsek umožní presnejšie nájsť a citovať konkrétnu vetu. Pri dlhom manuáli často potrebujeme identifikátor výrezu aj nadväznosť na susedný text. O vhodnej granularite rozhodne test, v ktorom sa podmienka alebo nadpis tabuľky nachádza tesne za hranicou odseku.

Ako porovnať vektorový index s presným vyhľadaním?

Použijeme rovnaké vektory, rovnaký operátor vzdialenosti a rovnaké relačné obmedzenia. Pri malej reprezentatívnej množine získame presnú odpoveď a potom porovnáme úplnosť a čas približného dotazu. Pri meraní treba zahrnúť aj selektívny filter a dodatočné zápisy do indexovanej tabuľky.

Čo urobiť s embeddingom, keď dokument patrí už inému tímu?

Zmena oprávnenia nemusí meniť samotný vektor, ale musí zmeniť množinu používateľov, ktorí ho môžu dostať medzi výsledky. Overíme spoločnú väzbu na aktuálny dokument a spôsob vyhodnotenia prístupu v dotaze. Pri teste použijeme aj priamy odkaz na staršiu citáciu po presune.

Potrebujete poradiť?

Opíšte nám, čo potrebujete vyriešiť. Odpovedáme e-mailom.

O čo máte záujem?

Martin Michalka vám pošle návrh e-mailom. Opíšte jednu úlohu, ktorú vo firme robíte opakovane.

Ako vás máme kontaktovať?