Oracle Cloud AI

OCI Generative AI sprístupňuje modely na generovanie textu a ďalšie podporované úlohy v Oracle Cloud Infrastructure.

Rozhodnutia pri návrhu

Prístup sa viaže na IAM politiky a členenie zdrojov do compartmentov. Pri integrácii treba vyznačiť hranicu medzi oprávnením volať model a čítať obsah úložiska.

Príklad z pracovného postupu

Export servisných hlásení číta osobitná identita a model volá proces prípravy súhrnu. Ak oddeleniu odoberieme prístup k jednej pobočke, rovnaká zmena sa musí prejaviť aj v množine dokumentov posielanej na spracovanie.

Ako výsledok overiť

Skúška používa servisnú identitu aplikácie a meria aj čas prenesenia dokumentu do spracovania.

Prevádzkové hranice volania modelu

Pri väzbe na externú AI službu rozlišujeme identitu používateľa v podnikovej aplikácii, servisnú identitu volajúceho procesu a prístup k podkladom. To, že servisný účet dokáže prečítať celý archív, ešte neurčuje rozsah materiálov, ktoré patria do konkrétnej odpovede.

Do výpočtu ceny a odozvy patrí celá cesta vstupu vrátane načítania, transformácie a prípadného opakovania. Prechodnú chybu odlíšime od neplatného vstupu. Po vyčerpaní rozpočtu má aplikácia uložiť zrozumiteľný stav a ponúknuť pokračovanie.

Pôvodný odborný zdroj – Oracle Cloud AI

Identita firemného dokladu má prežiť aj presun do spracovateľskej vrstvy

Pri volaní AI služby môže byť dokument prenesený ako samostatná príloha alebo ako text odvodený z uloženého objektu. Pre audit zachytíme identitu pôvodnej revízie aj okamih jej načítania. Inak sa pri neskoršej oprave dokladu môže starý výsledok javiť ako výsledok novej verzie.

Odpoveď služby preto pripájame ku konkrétnej revízii a jej platnosť pri zobrazení znovu posúdime. Pri teste zmeníme sumu medzi odoslaním a doručením výstupu a overíme, ktorú verziu pracovník vidí.

Otázky z praxe

Prečo má mať načítanie podkladov a volanie modelu oddelené oprávnenia?

Proces môže smieť vyžiadať generovanie textu bez práva otvoriť všetky archívne dokumenty. V návrhu preto sledujeme identitu volajúceho, politiku prístupu k podkladom aj rozdelenie zdrojov. Test s obmedzenou pobočkou musí overiť, čo sa modelu naozaj poslalo, a nie iba výslednú zobrazenú vetu.

Ako vyhodnotiť odozvu pri súhrne veľkej prílohy?

Zmeriame čas získania objektu, prevodu jeho obsahu, zostavenia vstupu a spracovania modelom. Ak príloha pochádza zo vzdialeného zdroja, zdržanie môže nastať ešte pred prvým volaním AI služby. Podľa rozdelenia času rozhodneme o priebežnom stave, uložení medzivýsledku alebo zmene prípravy príloh.

Čo uložiť k výsledku, ak sa zdrojový formulár neskôr opraví?

Súhrn spojíme s konkrétnou revíziou zdroja, časom vytvorenia a použitým nastavením. Ak sa zmení číslo obchodu, pôvodný súhrn môže mať historický význam, ale nesmie sa tváriť ako aktuálny. Pravidlo určí, ktoré zmeny vyvolajú nové spracovanie a komu sa rozdiel ukáže.

Potrebujete poradiť?

Opíšte nám, čo potrebujete vyriešiť. Odpovedáme e-mailom.

O čo máte záujem?

Martin Michalka vám pošle návrh e-mailom. Opíšte jednu úlohu, ktorú vo firme robíte opakovane.

Ako vás máme kontaktovať?