Techniky vytváření výzev

Tato příručka nezabíná do hloubky mechaniky struktury zpráv pro dokončování chatu. Pokud s modely dokončování chatu pracujete programově, doporučujeme napřed přečíst našeho průvodce dokončováním chatu v rozhraní API pro dokončování chatu.

Učení s několika snímky

Běžným způsobem přizpůsobení jazykových modelů novým úkolům je použití několika snímků učení. V rámci několika snímků učení se jako součást výzvy zobrazí sada příkladů trénování, která modelu poskytne další kontext.

Při použití rozhraní API pro dokončování chatu může řada zpráv mezi uživatelem a asistentem (napsaným v novém formátu výzvy) sloužit jako příklady pro několik snímků učení. Tyto příklady lze použít k vytvoření modelu, aby reagoval určitým způsobem, emuloval konkrétní chování a odpovědi na běžné otázky.

Výše uvedená tabulka popisuje základní strukturu výzvy, ale podrobné vysvětlení přesného formátu výzvy, který budete potřebovat, najdete v průvodci dokončením chatu.

Nechatovací scénáře

I když je rozhraní API pro dokončování chatu optimalizované tak, aby fungovalo s více konverzacemi, můžete ho použít i pro nechatovací scénáře. Například pro scénář analýzy mínění můžete použít následující výzvu:

Začněte s jasnými pokyny

Důležité informace o sekvenci se zobrazí v příkazovém řádku. Je to proto, že modely stylu GPT jsou vytvořeny určitým způsobem, který definuje, jak zpracovávají vstup. Náš výzkum naznačuje, že před sdílením dalších kontextových informací nebo příkladů může modelu pomoct vytvořit výstupy s vyšší kvalitou.

Opakování pokynů na konci

Modely můžou být náchylné k předsudkům ekence, což v tomto kontextu znamená, že informace na konci výzvy můžou mít větší vliv na výstup než informace na začátku výzvy. Proto je vhodné experimentovat s opakováním pokynů na konci výzvy a vyhodnocením dopadu na vygenerovanou odpověď.

Úvod do výstupu

To odkazuje na zahrnutí několika slov nebo frází na konec výzvy k získání odpovědi modelu, která následuje za požadovaným formulářem. Například pomocí upozornění, jako “Here’s a bulleted list of key points:\n- ” je například může pomoct zajistit, aby byl výstup formátovaný jako seznam odrážek.

V předchozí výzvě je text Jedním možným vyhledávacím dotazem: vytvoří model tak, aby vytvořil jeden výstup. Bez tohoto upozornění model vytvoří jako výstup několik vyhledávacích dotazů.

Přidání jasné syntaxe

Použití jasné syntaxe pro vaši výzvu , včetně interpunkce, nadpisů a značek oddílů, pomáhá komunikovat záměr a často usnadňuje analýzu výstupů.

V následujícím příkladu byly oddělovače (--- v tomto případě) přidány mezi různé zdroje informací nebo kroků. To umožňuje použití --- jako stav zastavení pro generování. Kromě toho se nadpisy oddílů nebo speciální proměnné zobrazují velkými písmeny, aby se odlišily.

Pokud si nejste jistí, jakou syntaxi použít, zvažte použití Jazyka Markdown nebo XML. Modely byly vytrénovány na rozsáhlém webovém obsahu v JAZYCE XML a Markdownu, což může poskytovat lepší výsledky.

Rozdělení úkolu

Velké jazykové modely (LLM) často fungují lépe, pokud je úloha rozdělená do menších kroků. Například ve výzvě vyhledávacího dotazu, na kterou jste odkazovali dříve, může být výzva restrukturalizována tak, aby byl model nejprve instruován k extrahování relevantních faktů a potom pokyn k vygenerování vyhledávacích dotazů, které lze použít k ověření těchto faktů.

Všimněte si použití jasné syntaxe k rozlišení oddílů a úvodu výstupu. V tomto jednoduchém příkladu není rozdělení úkolu z jednoho na dva kroky velmi dramatické, ale když se to snažíte udělat pro větší část textu s mnoha faktickými tvrzeními, může rozdělení úkolu výrazně změnit.

Použití cenových možností

Někdy můžeme model získat tak, aby používal cenovou dostupnost , a nespoléhat se na své vlastní parametry pro informace a odpovědi. Hledání může být například cenová dostupnost, která pomáhá zmírnit odpovědi na základě prostředků infrastruktury a získat aktuální informace.

Jedním z jednoduchých způsobů, jak použít cenovou dostupnost, je zastavit generování, jakmile model vygeneruje volání cenové dostupnosti, a pak výsledky vložte zpět do výzvy. Níže je příklad toho, co by následné volání mohlo být po provedení výše uvedených volání SEARCH . Všimněte si, jak jsme výsledky hledání vložili do výzvy a nahradili předchozí volání FUNKCE SEARCH .

Řetěz myšlenkových výzev

Jedná se o variantu techniky rozdělení úkolu. Místo rozdělení úkolu na menší kroky se v tomto přístupu dá odpověď modelu pokyn, aby postupoval krok za krokem a představil všechny příslušné kroky. Tím se snižuje možnost nepřesnosti výsledků a usnadňuje vyhodnocení odezvy modelu.

Určení výstupní struktury

Použití výzvy k určení struktury výstupu může mít významný vliv na povahu a kvalitu výsledků. Někdy vstupy systémových zpráv jako "zapisovat pouze pravdivá fakta" nebo "nevytváření informací" nemusí být přiměřené zmírnění rizik. Místo toho můžete požádat o odpověď modelu tak, aby obsahovala citace, což může vést ke snížení prevalenci nesprávných odpovědí.

Pokud dáváte modelu pokyn, aby při vytváření příkazů citoval zdrojový materiál, jsou tyto příkazy mnohem pravděpodobnější, že budou uzemněny. Když žádáte o citace, musí model při každém vygenerování odpovědi provést dvě chyby: první chyba je vytvořenou odpovědí a druhá je chybná citace. Všimněte si, že čím blíž je citace textem, který podporuje, tím kratší vzdálenost před modelem musí předjímat citaci, což naznačuje, že vložené citace jsou lepším zmírněním pro generování nepravdivého obsahu než citace na konci obsahu.

Podobně pokud model požádáte o extrakci faktických tvrzení z odstavce, může extrahovat složené příkazy, jako je "X dělá Y AND Z" (což může být obtížnější ověřit). Můžete se tomu vyhnout zadáním výstupní struktury, například (entity1, relace, entita2).

Následující příklady ukazují použití citací a nasměrování odpovědi modelu tak, aby odpovídaly definované struktuře.

Parametry teploty a Top_p

Změna parametru teploty změní výstup modelu. Parametr teploty lze nastavit v rozmezí od 0 do 2. Vyšší hodnota, například 0,7, způsobí, že výstup bude náhodnější a vytvoří více divergentní odpovědi, zatímco nižší hodnota, například. 0.2, zvýžňuje výstup zaměření a beton. Fiktivní příběh by mohl být generován pomocí vyšší teploty. Vzhledem k tomu, že k vygenerování právního dokumentu se doporučuje použít mnohem nižší teplotu. Top_probability je další parametr a podobá se teplotě v tom, že také řídí náhodnost odpovědi modelu, ale dělá to jiným způsobem. Obecné doporučení je změnit jeden z těchto dvou parametrů najednou, nikoli obojí.

Poskytnutí kontextu uzemnění

Jedním z nejúčinnějších způsobů, jak poskytnout spolehlivé odpovědi, je poskytnout datům modelu, aby nakreslily své odpovědi z (zemírající data). Pokud váš případ použití využívá aktuální a spolehlivé informace a nejedná se čistě o kreativní scénář, důrazně doporučujeme poskytovat podkladová data. Obecně platí, že čím blíže můžete získat zdrojový materiál k konečné formě požadované odpovědi, tím méně práce, kterou model potřebuje udělat, což znamená, že existuje menší příležitost k chybám. Tady je příklad, kdy je v systému k dispozici nedávný blog popisující spuštění GPT-4 ve službě Azure OpenAI a požádal o pojmenování některých jeho raných zákazníků.

¹ Text z webu Azure OpenAI GPT-4 launch blog.

Začněte s jasnými pokyny

Informace o sekvenci se přidají do výzvy. Náš výzkum naznačuje, že před sdílením dalších kontextových informací nebo příkladů může modelu pomoct vytvořit výstupy s vyšší kvalitou.

V prvním příkladu níže je klíčovou částí pokynů sdílena pouze na konci a výsledné dokončení je nesprávné.

V tomto dalším příkladu před poskytnutím kontextu fragmentu kódu dáme přesné prohlášení, které chceme zkontrolovat ("Několik zdrojů zmíní šanci na další erupci"). To umožňuje, aby reprezentace tokenů extrahované z fragmentů byly přizpůsobené příkazu, který kontrolujeme. Výsledná odpověď modelu je teď přesná:

Opakujte pokyny na konci.

Modely můžou být náchylné k zkreslení ekence, což znamená, že informace na konci výzvy můžou mít větší vliv na výstup než informace na začátku výzvy. Proto je vhodné experimentovat s opakováním pokynů na konci výzvy a vyhodnocením dopadu na váš případ použití.

V předchozím příkladu jsme viděli, jak opakování instrukce na začátku a na konci výzvy vede k vyšší pravděpodobnosti získání přesné odpovědi modelu.

Úvod do výstupu

To odkazuje na zahrnutí několika slov nebo frází na konec výzvy k získání odpovědi modelu, která následuje za požadovaným formulářem. Například pomocí upozornění, jako “Here’s a bulleted list of key points:\n- ” je například může pomoct zajistit, aby byl výstup formátovaný jako seznam odrážek.

V předchozí výzvě text "Jeden možný vyhledávací dotaz je:" předepíše model tak, aby vytvořil výstup ve formě vyhledávacího dotazu. Tato technika může pomoct odstranit ploty, které model může obvykle přidat, například "Jedna možnost je...".

Přidání jasné syntaxe

Použití jasné syntaxe pro vaši výzvu , včetně interpunkce, nadpisů a značek oddílů, pomáhá komunikovat záměr a často usnadňuje analýzu výstupů.

V následujícím příkladu byly oddělovače (--- v tomto případě) přidány mezi různé zdroje informací nebo kroků. To umožňuje použití --- jako stav zastavení pro generování. Kromě toho se nadpisy oddílů nebo speciální proměnné zobrazují velkými písmeny, aby se odlišily.

Pokud si nejste jistí, jakou syntaxi použít, zvažte použití markdownu nebo XML, protože velké jazykové modely byly natrénovány na velké množství webového obsahu v JAZYCE XML nebo Markdownu.

Rozdělení úkolu

Modely často fungují lépe, pokud je úloha rozdělená do menších kroků. Například ve výzvě vyhledávacího dotazu, na kterou jste odkazovali dříve, může být výzva restrukturalizována tak, aby byl model nejprve instruován k extrahování relevantních faktů a potom pokyn k vygenerování vyhledávacích dotazů, které lze použít k ověření těchto faktů.

Všimněte si použití jasné syntaxe k rozlišení oddílů a úvodu výstupu. V tomto jednoduchém příkladu není rozdělení úkolu z jednoho na dva kroky velmi dramatické, ale když se to snažíte udělat pro větší část textu s mnoha faktickými tvrzeními, může rozdělení úkolu výrazně změnit.

Použití cenových možností

Někdy můžeme model získat tak, aby používal cenovou dostupnost , a nespoléhat se na své vlastní parametry pro informace a odpovědi. Hledání může být například cenová dostupnost, která pomáhá zmírnit odpovědi na základě prostředků infrastruktury a získat aktuální informace.

Jedním z jednoduchých způsobů, jak použít cenovou dostupnost, je zastavit generování, jakmile model vygeneruje volání cenové dostupnosti, a pak výsledky vložte zpět do výzvy. Níže je příklad toho, co by následné volání mohlo být po provedení výše uvedených volání SEARCH . Všimněte si, jak jsme výsledky hledání vložili do výzvy a nahradili předchozí volání FUNKCE SEARCH .

Řetěz myšlenkových výzev

Jedná se o variantu techniky rozdělení úkolu. Místo rozdělení úkolu na menší kroky se v tomto přístupu dá odpověď modelu pokyn, aby postupoval krok za krokem a představil všechny příslušné kroky. Tím se snižuje možnost nepřesnosti výsledků a usnadňuje vyhodnocení odezvy modelu.

Výzvy k metadatům

Pokud zjistíte, že odpověď modelu není tak požadovaná, může být často užitečné přidat meta výzvu, která chování přímo opraví. Jedná se o direktivu předem určenou pro část výzvy. Představte si tento příklad, kdy se zdá, že počítač je příliš agresivní:

I když metaobjekty můžou často pomoct minimalizovat neúmyslné chybné výstupy, mějte na paměti, že nejsou robustní proti nežádoucím útokům, protože jsou zranitelné vůči injektáži výzvy.

Podmíněné příkazy vysvětlující, co má model dělat, pokud narazí na konkrétní okolnosti, jsou často efektivnější než jen říct modelu, aby něco neudělal.

Učení s několika snímky

Velmi běžným způsobem přizpůsobení jazykových modelů novým úkolům je použití několika snímků učení. V několika snímkech učení se v příkazovém řádku zobrazí sada příkladů trénování a pak se zobrazí výzva k dokončení jednoho nebo několika nedokončených příkladů. V následujícím příkladu použijeme instrukci v kombinaci s několika snímky učení, které tvoří puny:

Pečlivě si vyberte několik snímků příkladů a ujistěte se, že pokrývají různé okolnosti, které jsou pro váš scénář relevantní, včetně hraničních případů.

Stejně jako dříve můžou velké jazykové modely vykazovat formu předsudků souběžnosti. To znamená, že pořadí, ve kterém jsou pro model poskytovány příklady s několika snímky, záleží na tom. Pokud nechcete, aby to bylo důležité, zvažte vzorkování více dokončení z výzev na základě náhodných řazení příkladů nebo položek seznamu.

Použití uvozovek k vygenerování jedné věty

Pokud je požadovaná odpověď modelu pouze jednou jednoduchou větou nebo řetězcem, můžeme ukončit pokyny k dokončení pomocí symbolu "uvozovek a nastavit " jako sekvenci zastavení.

Určení výstupní struktury

Použitím výzvy k určení struktury výstupu může mít významný dopad na povahu a kvalitu výsledků. Někdy se může stát, že meta výzvy, jako je třeba "psát pouze pravdivá fakta" nebo "nevytváří informace", nemusí být přiměřené zmírnění rizik. Místo toho můžete požádat o odpověď modelu tak, aby obsahovala citace, což může vést ke snížení prevalenci nesprávných odpovědí.

Pokud například při vytváření příkazů vynutíte LLM citovat zdrojový materiál, budou tyto příkazy mnohem pravděpodobnější, že budou uzemněny. Když se zeptáte na citace, musí model pokaždé, když vytvoří odpověď, udělat dvě chyby: první chyba je oddělená odpověď a druhá je chybná citace. Všimněte si, že čím blíž je citace textem, který podporuje, tím kratší vzdálenost před LLM musí předjímat citaci, což naznačuje, že vložené citace jsou lepším zmírněním pro generování nepravdivého obsahu než citace na konci obsahu.

Podobně pokud požádáte model o extrakci faktických tvrzení z odstavce, může extrahovat složené příkazy, jako je "X dělá Y AND Z" (což může být obtížnější ověřit), což se dá vyhnout zadáním výstupní struktury, jako je například (entita1, vztah, entita2).

Úprava parametrů teploty a Top_P

Změna parametru teploty umožňuje modelům mít různé úrovně rizika. Vyšší hodnota, například 0,7, způsobí, že výstup bude náhodnější a vytvoří více divergentní odpovědi. Zatímco nižší hodnota, například 0,2, bude výstup více zaměřený a betonnější. Fiktivní příběh může být například generován pomocí vyšší teploty. Vzhledem k tomu, že k vygenerování právního dokumentu se doporučuje použít mnohem nižší teplotu.

V dalším příkladu otestujeme dvě odpovědi modelu na různá nastavení teploty 0,1 a 0,9. I když vyhodnocení kreativního obsahu, jako jsou části textu níže, je subjektivní cvičení a názory se mohou lišit, rozdíl v odpovědi modelu na stejnou výzvu pouze od změny parametru teploty je zřejmé.

Top_probability je další parametr a je podobný teplotě, že také řídí náhodnost odpovědi modelu, ale dělá to jiným způsobem. Experimentujte s různými odpověďmi modelu s různou teplotou a Top_P, ale ne s oběma najednou.