Snabbstart: Kom igång med GPT-35-Turbo och GPT-4 med Azure OpenAI Service i IntelliJ
Den här artikeln visar hur du kommer igång med Azure OpenAI Service i IntelliJ IDEA. Den visar hur du använder chattmodeller som GPT-3.5-Turbo och GPT-4 för att testa och experimentera med olika parametrar och datakällor.
Förutsättningar
Ett Java Development Kit (JDK) som stöds. Mer information om de JDK:er som är tillgängliga för användning när du utvecklar i Azure finns i Java-stöd i Azure och Azure Stack.
IntelliJ IDEA, Ultimate eller Community Edition.
The Azure Toolkit for IntelliJ. Mer information finns i Installera Azure Toolkit for IntelliJ. Du måste också logga in på ditt Azure-konto för Azure Toolkit for IntelliJ. Mer information finns i Inloggningsinstruktioner för Azure Toolkit for IntelliJ.
En Azure-prenumeration – Skapa en kostnadsfritt.
Åtkomst som beviljats till Azure OpenAI i den önskade Azure-prenumerationen.
För närvarande måste man ansöka om att få åtkomst till den här tjänsten. Du kan ansöka om åtkomst till Azure OpenAI genom att fylla i formuläret på Begäran om åtkomst till Azure OpenAI-tjänsten.
En Azure OpenAI Service-resurs med antingen
gpt-35-turboeller degpt-4distribuerade modellerna. Mer information om modelldistribution finns i Skapa och distribuera en Azure OpenAI Service-resurs.
Installera och logga in
Följande steg vägleder dig genom Azure-inloggningsprocessen i din IntelliJ-utvecklingsmiljö:
Om du inte har installerat plugin-programmet kan du läsa Azure Toolkit for IntelliJ.
Om du vill logga in på ditt Azure-konto navigerar du till det vänstra sidofältet i Azure Explorer och väljer sedan ikonen Azure-inloggning. Du kan också gå till Verktyg, expandera Azure och sedan välja Azure-inloggning.
I fönstret Azure-inloggning väljer du OAuth 2.0 och sedan Logga in. Andra inloggningsalternativ finns i Inloggningsinstruktioner för Azure Toolkit for IntelliJ.
I webbläsaren loggar du in med ditt konto som har åtkomst till din OpenAI-resurs och går sedan tillbaka till IntelliJ. I dialogrutan Välj prenumerationer väljer du den prenumeration som du vill använda och väljer sedan Välj.
Skapa och distribuera en Azure OpenAI Service-resurs
Efter inloggningsarbetsflödet högerklickar du på Azure OpenAI-objektet i Azure Explorer och väljer Skapa Azure OpenAI-tjänst.
I dialogrutan Skapa Azure OpenAI-tjänst anger du följande information och väljer sedan OK:
- Namn: Ett beskrivande namn för din Azure OpenAI Service-resurs, till exempel MyOpenAIResource. Det här namnet är också ditt anpassade domännamn i slutpunkten. Resursnamnet kan bara innehålla alfanumeriska tecken och bindestreck och kan inte starta eller sluta med bindestreck.
- Region: Platsen för din instans. Vissa modeller är endast tillgängliga i specifika regioner. Mer information finns i Azure OpenAI Service-modeller.
- Sku: Azure OpenAI-standardresurser faktureras baserat på tokenanvändning. Mer information finns i Priser för Azure OpenAI-tjänsten.
Innan du kan använda chatten måste du distribuera en modell. Högerklicka på din Azure OpenAI-instans och välj Skapa ny distribution. I dialogrutan Skapa Azure OpenAI-distribution i popup-fönstret anger du följande information och väljer sedan OK:
- Distributionsnamn: Välj ett namn noggrant. Distributionsnamnet används i koden för att anropa modellen med hjälp av klientbiblioteken och REST-API:erna.
- Modell: Välj en modell. Modelltillgängligheten varierar beroende på region. En lista över tillgängliga modeller per region finns i avsnittet Modellsammanfattningstabell och regiontillgänglighet i Azure OpenAI Service-modeller.
Verktygslådan visar ett statusmeddelande när distributionen är klar och redo att användas.
Interagera med Azure OpenAI med hjälp av frågor och inställningar
Högerklicka på din Azure OpenAI-resurs och välj sedan Öppna i AI Playground.
Du kan börja utforska OpenAI-funktioner via Azure OpenAI Studio Chat Playground i IntelliJ IDEA.
Om du vill utlösa slutförandet kan du ange text som en uppmaning. Modellen genererar slutförandet och försöker matcha kontexten eller mönstret.
Följ dessa steg för att starta en chattsession:
I chattsessionsfönstret kan du börja med en enkel fråga som den här: "Jag är intresserad av att köpa en ny Surface." När du har fyllt i prompten väljer du Skicka. Du får ett svar som liknar följande exempel:
Great! Which Surface model are you interested in? There are several options available such as the Surface Pro, Surface Laptop, Surface Book, Surface Go, and Surface Studio. Each one has its own unique features and specifications, so it's important to choose the one that best fits your needs.
Ange en uppföljningsfråga som: "Vilka modeller stöder GPU?" och välj Skicka. Du får ett svar som liknar följande exempel:
Most Surface models come with an integrated GPU (Graphics Processing Unit), which is sufficient for basic graphics tasks such as video playback and casual gaming. However, if you're looking for more powerful graphics performance, the Surface Book 3 and the Surface Studio 2 come with dedicated GPUs. The Surface Book 3 has an NVIDIA GeForce GTX GPU, while the Surface Studio 2 has an NVIDIA GeForce GTX 1060 or 1070 GPU, depending on the configuration.
Nu när du har en grundläggande konversation väljer du Visa kod i fönstret och har en repris av koden bakom hela konversationen hittills. Du kan se kodexemplen baserat på Java SDK, curl och JSON som motsvarar din chattsession och dina inställningar, enligt följande skärmbild:
Du kan sedan välja Kopiera för att ta den här koden och skriva ett program för att slutföra samma uppgift som du för närvarande utför med lekplatsen.
Inställningar
Du kan välja fliken Konfiguration för att ange följande parametrar:
| Name | beskrivning |
|---|---|
| Maximalt svar | Anger en gräns för antalet token per modellsvar. API:et stöder högst 4 096 token som delas mellan prompten (inklusive systemmeddelande, exempel, meddelandehistorik och användarfråga) och modellens svar. En token är ungefär fyra tecken för typisk engelsk text. |
| Temperatur | Styr slumpmässighet. Att sänka temperaturen innebär att modellen ger mer repetitiva och deterministiska svar. Att öka temperaturen resulterar i mer oväntade eller kreativa svar. Prova att justera temperatur eller Högsta sannolikheter, men inte båda. |
| De största sannolikheterna | Precis som temperatur styr slumpmässighet men använder en annan metod. Om du sänker värdet För högsta sannolikhet begränsas modellens tokenval till likelier-token. Om du ökar värdet kan modellen välja mellan token med både hög och låg sannolikhet. Prova att justera temperatur eller Högsta sannolikheter, men inte båda. |
| Stoppa sekvenser | Gör att modellen avslutar sitt svar vid en önskad punkt. Modellsvaret avslutas före den angivna sekvensen, så den innehåller inte stoppsekvenstexten. För GPT-35-Turbo säkerställer användning <|im_end|> att modellsvaret inte genererar en uppföljande användarfråga. Du kan inkludera så många som fyra stoppsekvenser. |
| Frekvensstraff | Minskar risken för att upprepa en token proportionellt baserat på hur ofta den visas i texten hittills. Den här åtgärden minskar sannolikheten för att upprepa exakt samma text i ett svar. |
| Närvarostraff | Minskar risken för att upprepa alla token som visas i texten hittills. Detta ökar sannolikheten för att introducera nya ämnen i ett svar. |
Rensa resurser
När du är klar med att testa chattlekplatsen kan du ta bort resursen eller resursgruppen om du vill rensa och ta bort en OpenAI-resurs. Om du tar bort resursgruppen tas även alla andra resurser som är associerade med den bort. Använd följande steg för att rensa resurser:
Om du vill ta bort dina Azure OpenAI-resurser går du till det vänstra sidofältet i Azure Explorer och letar reda på Azure OpenAI-objektet.
Högerklicka på den Azure OpenAI-tjänst som du vill ta bort och välj sedan Ta bort.
Om du vill ta bort resursgruppen går du till Azure-portalen och tar bort resurserna manuellt under din prenumeration.
Nästa steg
Mer information finns i Lär dig hur du arbetar med modellerna GPT-35-Turbo och GPT-4.
Fler exempel finns på GitHub-lagringsplatsen Azure OpenAI Samples.