Keras

Keras ponúka vysokú úroveň pre modelovanie vrstiev a tréning neurónových sietí. Výber backendu a vlastné operácie môžu ovplyvniť prenositeľnosť.

Rozhodnutia pri návrhu

Pri vlastnej vrstve treba uchovať konfiguráciu aj spôsob serializácie parametrov. Pri tréningu s maskovaním má byť význam masky jasný i počas inferencie.

Príklad z pracovného postupu

Tréningový notebook používa vlastnú metriku a maskuje prázdnu časť sekvencie. Kontrolné načítanie na inom stroji nesmie výslednú predikciu viazať na lokálny stav notebooku. Hodnotíme aj krátke sekvencie s väčším podielom maskovania.

Ako výsledok overiť

Po uložení a opätovnom načítaní porovnáme výstupy modelu na bežnej aj netypicky krátkej dávke.

Reprodukovateľnosť výpočtu

Verzia knižnice, predspracovanie a poradie vstupných atribútov sú súčasťou správania výsledného výpočtu. Na opätovné použitie preto uchovávame aj schému, jednotky a malú sadu overených vstupov s očakávanými výstupmi.

Pri prenose medzi prostrediami zohľadníme rozdiely numerických typov a toleranciu vhodnú pre konkrétnu úlohu. Ak malá zmena čísla preklopí rozhodnutie na druhej strane prahu, praktický dopad môže byť významný aj pri malej priemernej chybe.

Pôvodný odborný zdroj – Keras

Výstup pri učení a pri používaní môže závisieť od režimu vrstiev

Niektoré vrstvy sa počas učenia zámerne správajú inak ako pri vytváraní hotovej predikcie. Pri porovnaní modelu pred exportom a po ňom preto pracujeme s rovnakým deklarovaným režimom. Inak môže pozorovaný rozdiel pochádzať zo skúšky, hoci uložené parametre zostali v poriadku.

Referenčný vstup spracujeme samostatne aj vedľa iného vstupu v dávke. Pokiaľ sa výsledok nečakane mení, postupne preskúmame prípravu dávky a príslušné vrstvy pred integráciou do používateľskej aplikácie.

Otázky z praxe

Prečo skúšať načítanie modelu v novom procese?

V tréningovom procese môžu zostať dostupné vlastné vrstvy, pomocné funkcie aj nastavenia, ktoré uložený artefakt sám neobsahuje. Nový proces preverí úplnosť odovzdania. Referenčnú predikciu porovnáme pred uložením i po načítaní, vrátane krátkej sekvencie alebo neobvyklého vstupného tvaru.

Ako posúdiť prenos modelu medzi backendmi?

Najprv zistíme, či použité operácie a vlastné komponenty majú podporu v oboch prostrediach. Potom porovnáme výsledky na rovnakých vstupoch a určíme prípustný rozdiel vzhľadom na rozhodovací prah. Prenesený súbor môže byť formálne čitateľný, ale ešte nemusí vyhovovať výkonu ani významu konkrétnej aplikácie.

Ako rozlíšiť chýbajúce prvky od skutočných nulových hodnôt?

Pri sekvenciách môže nula reprezentovať chýbajúce doplnenie aj skutočne nameranú hodnotu. Spôsob maskovania preto musí byť súčasťou vstupného kontraktu a musí sa zachovať aj po exporte. Pri skúške porovnáme dve sekvencie líšiace sa jedným reálnym nulovým meraním a jedným doplneným miestom.

Potrebujete poradiť?

Opíšte nám, čo potrebujete vyriešiť. Odpovedáme e-mailom.

O čo máte záujem?

Martin Michalka vám pošle návrh e-mailom. Opíšte jednu úlohu, ktorú vo firme robíte opakovane.

Ako vás máme kontaktovať?