Oracle Cloud AI
OCI Generative AI sprístupňuje modely na generovanie textu a ďalšie podporované úlohy v Oracle Cloud Infrastructure.
Príklad z pracovného postupu
Export servisných hlásení číta osobitná identita a model volá proces prípravy súhrnu. Ak oddeleniu odoberieme prístup k jednej pobočke, rovnaká zmena sa musí prejaviť aj v množine dokumentov posielanej na spracovanie.
Ako výsledok overiť
Skúška používa servisnú identitu aplikácie a meria aj čas prenesenia dokumentu do spracovania.
Prevádzkové hranice volania modelu
Pri väzbe na externú AI službu rozlišujeme identitu používateľa v podnikovej aplikácii, servisnú identitu volajúceho procesu a prístup k podkladom. To, že servisný účet dokáže prečítať celý archív, ešte neurčuje rozsah materiálov, ktoré patria do konkrétnej odpovede.
Do výpočtu ceny a odozvy patrí celá cesta vstupu vrátane načítania, transformácie a prípadného opakovania. Prechodnú chybu odlíšime od neplatného vstupu. Po vyčerpaní rozpočtu má aplikácia uložiť zrozumiteľný stav a ponúknuť pokračovanie.
Identita firemného dokladu má prežiť aj presun do spracovateľskej vrstvy
Pri volaní AI služby môže byť dokument prenesený ako samostatná príloha alebo ako text odvodený z uloženého objektu. Pre audit zachytíme identitu pôvodnej revízie aj okamih jej načítania. Inak sa pri neskoršej oprave dokladu môže starý výsledok javiť ako výsledok novej verzie.
Odpoveď služby preto pripájame ku konkrétnej revízii a jej platnosť pri zobrazení znovu posúdime. Pri teste zmeníme sumu medzi odoslaním a doručením výstupu a overíme, ktorú verziu pracovník vidí.
Otázky z praxe
Prečo má mať načítanie podkladov a volanie modelu oddelené oprávnenia?
Proces môže smieť vyžiadať generovanie textu bez práva otvoriť všetky archívne dokumenty. V návrhu preto sledujeme identitu volajúceho, politiku prístupu k podkladom aj rozdelenie zdrojov. Test s obmedzenou pobočkou musí overiť, čo sa modelu naozaj poslalo, a nie iba výslednú zobrazenú vetu.
Ako vyhodnotiť odozvu pri súhrne veľkej prílohy?
Zmeriame čas získania objektu, prevodu jeho obsahu, zostavenia vstupu a spracovania modelom. Ak príloha pochádza zo vzdialeného zdroja, zdržanie môže nastať ešte pred prvým volaním AI služby. Podľa rozdelenia času rozhodneme o priebežnom stave, uložení medzivýsledku alebo zmene prípravy príloh.
Čo uložiť k výsledku, ak sa zdrojový formulár neskôr opraví?
Súhrn spojíme s konkrétnou revíziou zdroja, časom vytvorenia a použitým nastavením. Ak sa zmení číslo obchodu, pôvodný súhrn môže mať historický význam, ale nesmie sa tváriť ako aktuálny. Pravidlo určí, ktoré zmeny vyvolajú nové spracovanie a komu sa rozdiel ukáže.
Súvisiace stránky
-
G42 / Core42
Core42 zo skupiny G42 poskytuje cloudovú a výpočtovú infraštruktúru pre AI.
Otvoriť -
NVIDIA AI Enterprise
NVIDIA AI Enterprise zahŕňa podnikové softvérové komponenty pre AI na podporovaných konfiguráciách.
Otvoriť -
Riešenia s umelou inteligenciou
Vyvíjame AI funkcie pre firemný softvér. Model pripraví návrh zo správy alebo dokladu, pracovník skontroluje zdroj a potvrdí zápis do systému.
Otvoriť