Azure Functions 用の Azure OpenAI テキスト入力候補の入力バインド

この例では、テンプレート パターンを示します。ここでは、HTTP トリガー関数は name パラメータを受け取り、それをテキスト プロンプトに埋め込みます。その後、拡張機能によって Azure OpenAI 入力候補 API に送信されます。 プロンプトに対する応答は HTTP 応答で返されます。

[Function(nameof(WhoIs))]
public static IActionResult WhoIs(
    [HttpTrigger(AuthorizationLevel.Function, Route = "whois/{name}")] HttpRequestData req,
    [TextCompletionInput("Who is {name}?", Model = "%CHAT_MODEL_DEPLOYMENT_NAME%")] TextCompletionResponse response)
{
    return new OkObjectResult(response.Content);
}

/// <summary>

この例では、入力としてプロンプトを受け取り、それを直接入力候補 API に送信して、その応答を出力として返します。

        [HttpTrigger(AuthorizationLevel.Function, "post")] HttpRequestData req,
        [TextCompletionInput("{Prompt}", Model = "%CHAT_MODEL_DEPLOYMENT_NAME%")] TextCompletionResponse response,
        ILogger log)
    {
        string text = response.Content;
        return new OkObjectResult(text);
    }
}

この例では、テンプレート パターンを示します。ここでは、HTTP トリガー関数は name パラメータを受け取り、それをテキスト プロンプトに埋め込みます。その後、拡張機能によって Azure OpenAI 入力候補 API に送信されます。 プロンプトに対する応答は HTTP 応答で返されます。

@FunctionName("WhoIs")
public HttpResponseMessage whoIs(
    @HttpTrigger(
        name = "req", 
        methods = {HttpMethod.GET},
        authLevel = AuthorizationLevel.ANONYMOUS, 
        route = "whois/{name}") 
        HttpRequestMessage<Optional<String>> request,
    @BindingName("name") String name,
    @TextCompletion(prompt = "Who is {name}?", model = "%CHAT_MODEL_DEPLOYMENT_NAME%", name = "response") TextCompletionResponse response,
    final ExecutionContext context) {
    return request.createResponseBuilder(HttpStatus.OK)
        .header("Content-Type", "application/json")
        .body(response.getContent())
        .build();
}

この例では、入力としてプロンプトを受け取り、それを直接入力候補 API に送信して、その応答を出力として返します。

@FunctionName("GenericCompletion")
public HttpResponseMessage genericCompletion(
    @HttpTrigger(
        name = "req", 
        methods = {HttpMethod.POST},
        authLevel = AuthorizationLevel.ANONYMOUS) 
        HttpRequestMessage<Optional<String>> request,
    @TextCompletion(prompt = "{prompt}", model = "%CHAT_MODEL_DEPLOYMENT_NAME%", name = "response") TextCompletionResponse response,
    final ExecutionContext context) {
    return request.createResponseBuilder(HttpStatus.OK)
        .header("Content-Type", "application/json")
        .body(response.getContent())
        .build();
}

この例では、テンプレート パターンを示します。ここでは、HTTP トリガー関数は name パラメータを受け取り、それをテキスト プロンプトに埋め込みます。その後、拡張機能によって Azure OpenAI 入力候補 API に送信されます。 プロンプトに対する応答は HTTP 応答で返されます。

const { app, input } = require("@azure/functions");

// This OpenAI completion input requires a {name} binding value.
const openAICompletionInput = input.generic({
    prompt: 'Who is {name}?',
    maxTokens: '100',
    type: 'textCompletion',
    model: '%CHAT_MODEL_DEPLOYMENT_NAME%'
})

app.http('whois', {
    methods: ['GET'],
    route: 'whois/{name}',
    authLevel: 'function',
    extraInputs: [openAICompletionInput],
    handler: async (_request, context) => {
        var response = context.extraInputs.get(openAICompletionInput)
        return { body: response.content.trim() }
    }
});

この例では、テンプレート パターンを示します。ここでは、HTTP トリガー関数は name パラメータを受け取り、それをテキスト プロンプトに埋め込みます。その後、拡張機能によって Azure OpenAI 入力候補 API に送信されます。 プロンプトに対する応答は HTTP 応答で返されます。

import { app, input } from "@azure/functions";

// This OpenAI completion input requires a {name} binding value.
const openAICompletionInput = input.generic({
    prompt: 'Who is {name}?',
    maxTokens: '100',
    type: 'textCompletion',
    model: '%CHAT_MODEL_DEPLOYMENT_NAME%'
})

app.http('whois', {
    methods: ['GET'],
    route: 'whois/{name}',
    authLevel: 'function',
    extraInputs: [openAICompletionInput],
    handler: async (_request, context) => {
        var response: any = context.extraInputs.get(openAICompletionInput)
        return { body: response.content.trim() }
    }
});

この例では、テンプレート パターンを示します。ここでは、HTTP トリガー関数は name パラメータを受け取り、それをテキスト プロンプトに埋め込みます。その後、拡張機能によって Azure OpenAI 入力候補 API に送信されます。 プロンプトに対する応答は HTTP 応答で返されます。

TextCompletionResponse の function.json ファイルを次に示します。

{
  "bindings": [
    {
      "authLevel": "function",
      "type": "httpTrigger",
      "direction": "in",
      "name": "Request",
      "route": "whois/{name}",
      "methods": [
        "get"
      ]
    },
    {
      "type": "http",
      "direction": "out",
      "name": "Response"
    },
    {
      "type": "textCompletion",
      "direction": "in",
      "name": "TextCompletionResponse",
      "prompt": "Who is {name}?",
      "maxTokens": "100",
      "model": "%CHAT_MODEL_DEPLOYMENT_NAME%"
    }
  ]
}

function.json ファイルのプロパティについて詳しくは、「構成」セクションをご覧ください。

このコードは、単純に入力候補 API からのテキストを応答として返します。

using namespace System.Net

param($Request, $TriggerMetadata, $TextCompletionResponse)

Push-OutputBinding -Name Response -Value ([HttpResponseContext]@{
        StatusCode = [HttpStatusCode]::OK
        Body       = $TextCompletionResponse.Content
    })

この例では、テンプレート パターンを示します。ここでは、HTTP トリガー関数は name パラメータを受け取り、それをテキスト プロンプトに埋め込みます。その後、拡張機能によって Azure OpenAI 入力候補 API に送信されます。 プロンプトに対する応答は HTTP 応答で返されます。

@app.route(route="whois/{name}", methods=["GET"])
@app.text_completion_input(arg_name="response", prompt="Who is {name}?", max_tokens="100", model = "%CHAT_MODEL_DEPLOYMENT_NAME%")
def whois(req: func.HttpRequest, response: str) -> func.HttpResponse:
    response_json = json.loads(response)
    return func.HttpResponse(response_json["content"], status_code=200)

この例では、入力としてプロンプトを受け取り、それを直接入力候補 API に送信して、その応答を出力として返します。

@app.route(route="genericcompletion", methods=["POST"])
@app.text_completion_input(arg_name="response", prompt="{Prompt}", model = "%CHAT_MODEL_DEPLOYMENT_NAME%")
def genericcompletion(req: func.HttpRequest, response: str) -> func.HttpResponse:
    response_json = json.loads(response)
    return func.HttpResponse(response_json["content"], status_code=200)

属性

テキスト入力候補の入力バインドを定義するために適用する属性は、C# のプロセス モードによって異なります。

属性は次のパラメーターをサポートします。

注釈

TextCompletion 注釈を使用すると、これらのパラメーターをサポートするテキスト入力候補の入力バインドを定義できます。

デコレーター

プレビュー中に、入力バインドを次のパラメーターをサポートする textCompletion 型の generic_input_binding バインドとして定義します。

構成

このバインドでは、function.json ファイルで設定したこれらの構成プロパティをサポートします。

構成

このバインドでは、コードで定義されている、これらのプロパティをサポートします。