Google Vertex AI
Vertex AI je pôvodné označenie nástrojov Google Cloud pre tréning, hodnotenie a nasadenie modelov. Google ich začlenil do Gemini Enterprise Agent Platform a zverejnil mapovanie zmenených názvov.
Príklad z pracovného postupu
Ak je staršie nasadenie v dokumentácii označené menom Vertex AI, pri preberaní sa riadime skutočným identifikátorom zdroja, rozhraním a regiónom. Premenovanie produktu samo osebe neurčí, či treba meniť používaný endpoint.
Ako výsledok overiť
Skúška porovná dávkové a online spracovanie podľa potreby a overí, že záznam predikcie vieme spojiť s konkrétnou verziou.
Prevádzkové hranice volania modelu
Pri väzbe na externú AI službu rozlišujeme identitu používateľa v podnikovej aplikácii, servisnú identitu volajúceho procesu a prístup k podkladom. To, že servisný účet dokáže prečítať celý archív, ešte neurčuje rozsah materiálov, ktoré patria do konkrétnej odpovede.
Do výpočtu ceny a odozvy patrí celá cesta vstupu vrátane načítania, transformácie a prípadného opakovania. Prechodnú chybu odlíšime od neplatného vstupu. Po vyčerpaní rozpočtu má aplikácia uložiť zrozumiteľný stav a ponúknuť pokračovanie.
Presun modelu zahŕňa aj prenos pravidiel vyhodnocovania
Starší projekt môže mať funkčný model, zostavenie vstupov a rozhodovaciu hranicu rozložené medzi viacero úloh. Pred zmenou platformy preto zachytíme jednu celú cestu od zdrojového súboru po rozhodnutie zobrazené pracovníkovi. Samostatné presunutie súboru modelu by nepokrylo túto väzbu.
Na novom rozhraní porovnáme referenčné predikcie, prípravu kategórií a záznam o použitom modeli. Hranicu medzi prijateľnou číselnou zmenou a zmenou rozhodnutia posúdime podľa prípadov ležiacich tesne pri pôvodnom prahu.
Otázky z praxe
Ako pracovať so starším názvom Vertex AI v dokumentácii firmy?
Najprv zapíšeme identitu projektu, región, používané API a skutočný zdroj v cloudovom účte. Až potom ho porovnáme s aktuálnym názvoslovím platformy Google. Premenovaný produkt môže stále používať známe technické identifikátory a názov v prezentácii nestačí na rozhodnutie o migrácii aplikácie.
Kedy uprednostniť dávkovú predikciu pred online odpoveďou?
Nočné odporúčanie pre celý sortiment má iné požiadavky na dostupnosť než odpoveď pri otvorení skladu. Pri dávke evidujeme úplnosť, čas dokončenia a správanie pri jednej zlej položke. Online volanie potrebuje hlavne kontrolu latencie, verzie modelu a zrozumiteľnú reakciu rozhrania pri časovom limite.
Ako preukázať, z ktorého modelu vznikla konkrétna predikcia?
K výsledku pripojíme identitu modelového artefaktu alebo konfigurácie, čas volania a verziu prípravy vstupu. Rovnaké číslo produktu môže mať medzitým zmenenú cenu či kategóriu. Na spätné vysvetlenie preto nestačí spustiť aktuálny model nad dnešnou podobou zdrojového záznamu.
Súvisiace stránky
-
Google AI Studio
Google AI Studio umožňuje skúšať vstupy a konfiguráciu modelov Gemini v interaktívnom prostredí.
Otvoriť -
Hugging Face Inference
Inference Providers sprostredkúva volanie podporovaných modelov cez dostupných poskytovateľov.
Otvoriť -
Riešenia s umelou inteligenciou
Vyvíjame AI funkcie pre firemný softvér. Model pripraví návrh zo správy alebo dokladu, pracovník skontroluje zdroj a potvrdí zápis do systému.
Otvoriť