Instruction tuning
Doladenie na inštrukciách využíva dvojice zadania a požadovanej odpovede. Kvalita zadania zahŕňa kontext, očakávaný štýl aj hraničné prípady.
Príklad z pracovného postupu
Dve zadania sa líšia iba inštrukciou „navrhni odpoveď“ a „vypíš chýbajúce údaje“. V prvom prípade čakáme návrh e-mailu, v druhom štruktúrovaný zoznam. Rovnaký pôvodný text pomôže preveriť citlivosť na význam pokynu.
Ako výsledok overiť
Zmeníme formuláciu inštrukcie aj poradie informácií. Skúška overí rovnaké pravidlo mimo doslovného znenia tréningovej vety.
Ako vyhodnotiť účinok zmeny v tréningu
Pre experiment si odložíme nemenný referenčný súbor. Záznamy od jednej organizácie alebo varianty rovnakého dokumentu môžu byť takmer totožné. Ich náhodné rozdelenie medzi tréning a test by vytvorilo zavádzajúci dojem, že model spoľahlivo zovšeobecňuje aj na nové prípady.
Pri porovnaní verzií evidujeme pôvod dát, rozhodnutie o čistení, konfiguráciu experimentu a rozdelenie chýb. O nasadení má rozhodnúť využiteľnosť na cieľovom procese spolu s nákladmi na správu a obnovu.
Výnimka z pokynu potrebuje vlastné príklady
Pri úlohe „prideľ podnet jednému oddeleniu“ môže jedna správa obsahovať dve nesúvisiace žiadosti. Ak sa má v takej situácii vytvoriť viac položiek, pravidlo uvedieme priamo v zadaní a pripravíme príklady oboch prípadov. Učenie má zachytiť vzťah medzi pokynom, vstupom a očakávanou reakciou.
Samostatná skúška zmení pokyn pri rovnakom texte správy. Raz žiadame iba stručný opis, inokedy rozdelenie požiadaviek. Výsledok ukáže, či sa správanie skutočne riadi aktuálnym pokynom a zachováva všetky potrebné informácie.
Otázky z praxe
Čo má byť v tréningovej odpovedi pri nejednoznačnom zadaní?
Ak sú chýbajúce údaje nevyhnutné na vykonanie úlohy, príklad má ukázať presnú doplňujúcu otázku. Pri zápise „presuňte piatkový servis“ môže byť otvorených niekoľko servisov. Očakávaná reakcia musí pomenovať chýbajúcu identifikáciu a zastaviť zmenu, kým sa nevyberie správny prípad.
Ako odlíšiť splnenie pokynu od opakovania frázy?
Použijeme rovnaké fakty s viacerými požiadavkami na výsledok. Raz má vzniknúť zoznam položiek, inokedy návrh odpovede alebo pomenovanie rizík. Posudzujeme, či sa mení štruktúra a výber informácií podľa pokynu a či pravdivé hodnoty zostali rovnaké pri každom podaní.
Prečo pridať príklady v slovenčine aj pri dobrej bežnej komunikácii modelu?
Bežná plynulosť nevypovedá o tom, či model správne rozlíši interné skratky, zdvorilú požiadavku a už potvrdené rozhodnutie. V príkladoch preto ukážeme prirodzené formulácie pracovníkov vrátane opráv uprostred vety. Test má používať ďalšie, dosiaľ nepoužité formulácie s rovnakým pracovným významom.
Súvisiace stránky
-
LoRA adaptéry
LoRA učí nízkohodnostnú aktualizáciu vybraných vrstiev so zmrazeným základným modelom.
Otvoriť -
Tréning od začiatku
Predtrénovanie od náhodne inicializovaných váh vyžaduje korpus, tokenizér, tréningovú úlohu a nezávislé hodnotenie.
Otvoriť -
Riešenia s umelou inteligenciou
Vyvíjame AI funkcie pre firemný softvér. Model pripraví návrh zo správy alebo dokladu, pracovník skontroluje zdroj a potvrdí zápis do systému.
Otvoriť