Azure Functions에 대한 Azure OpenAI 의미 체계 검색 입력 바인딩

Important

Azure Functions용 Azure OpenAI 확장은 현재 미리 보기 상태입니다.

Azure OpenAI 의미 체계 검색 입력 바인딩을 사용하면 포함에서 의미 체계 검색을 사용할 수 있습니다.

Azure OpenAI 확장의 설정 및 구성 세부 정보에 대한 자세한 내용은 Azure Functions용 Azure OpenAI 확장을 참조하세요. Azure AI 검색의 의미 체계 순위 지정에 대해 자세히 알아보려면 Azure AI 검색의 의미 체계 순위 지정을 참조하세요.

참고 항목

참조 및 예는 Node.js v4 모델에 대해서만 제공됩니다.

참고 항목

참조 및 예는 Python v2 모델에 대해서만 제공됩니다.

참고 항목

두 C# 프로세스 모델이 모두 지원되지만 격리된 작업자 모델 예제만 제공됩니다.

예시

이 예에서는 파일에 대해 의미 체계 검색을 수행하는 방법을 보여 줍니다.

    [Function("PromptFile")]
    public static IActionResult PromptFile(
        [HttpTrigger(AuthorizationLevel.Function, "post")] SemanticSearchRequest unused,
        [SemanticSearchInput("AISearchEndpoint", "openai-index", Query = "{Prompt}", ChatModel = "%CHAT_MODEL_DEPLOYMENT_NAME%", EmbeddingsModel = "%EMBEDDING_MODEL_DEPLOYMENT_NAME%")] SemanticSearchContext result)
    {
        return new ContentResult { Content = result.Response, ContentType = "text/plain" };
    }
}

이 예에서는 파일에 대해 의미 체계 검색을 수행하는 방법을 보여 줍니다.

        return searchableDocument;
    }

}

@FunctionName("PromptFile")
public HttpResponseMessage promptFile(
    @HttpTrigger(
        name = "req", 
        methods = {HttpMethod.POST},
        authLevel = AuthorizationLevel.ANONYMOUS)
        HttpRequestMessage<SemanticSearchRequest> request,
    @SemanticSearch(name = "search", connectionName = "AISearchEndpoint", collection = "openai-index", query = "{Prompt}", chatModel = "%CHAT_MODEL_DEPLOYMENT_NAME%", embeddingsModel = "%EMBEDDING_MODEL_DEPLOYMENT_NAME%" ) String semanticSearchContext,
    final ExecutionContext context) {
        String response = new JSONObject(semanticSearchContext).getString("Response");

예는 아직 제공되지 않습니다.

이 예에서는 파일에 대해 의미 체계 검색을 수행하는 방법을 보여 줍니다.

    type: 'embeddings',
    maxChunkLength: 512,
    model: '%EMBEDDING_MODEL_DEPLOYMENT_NAME%'
})

app.http('getEmbeddingsFilePath', {
    methods: ['POST'],
    route: 'embeddings-from-file',
    authLevel: 'function',
    extraInputs: [embeddingsFilePathInput],
    handler: async (request, context) => {
        let requestBody: EmbeddingsFilePath = await request.json();
        let response: any = context.extraInputs.get(embeddingsFilePathInput);

        context.log(
            `Received ${response.count} embedding(s) for input file ${requestBody.FilePath}.`
        );
        
        // TODO: Store the embeddings into a database or other storage.

이 예에서는 파일에 대해 의미 체계 검색을 수행하는 방법을 보여 줍니다.

파일 메시지를 표시하는 function.json 파일은 다음과 같습니다.

{
  "bindings": [
    {
      "authLevel": "function",
      "type": "httpTrigger",
      "direction": "in",
      "name": "Request",
      "methods": [
        "post"
      ]
    },
    {
      "type": "http",
      "direction": "out",
      "name": "Response"
    },
    {
      "name": "SemanticSearchInput",
      "type": "semanticSearch",
      "direction": "in",
      "connectionName": "AISearchEndpoint",
      "collection": "openai-index",
      "query": "{Prompt}",
      "chatModel": "%CHAT_MODEL_DEPLOYMENT_NAME%",
      "embeddingsModel": "%EMBEDDING_MODEL_DEPLOYMENT_NAME%"
    }
  ]
}

function.json 파일 속성에 대한 자세한 내용은 구성 섹션을 참조하세요.

using namespace System.Net

param($Request, $TriggerMetadata, $SemanticSearchInput)

Push-OutputBinding -Name Response -Value ([HttpResponseContext]@{
        StatusCode = [HttpStatusCode]::OK
        Body       = $SemanticSearchInput.Response
    })

예는 아직 제공되지 않습니다.

특성

SemanticSearchInput 특성을 적용하여 다음 매개 변수를 지원하는 의미 체계 검색 입력 바인딩을 정의합니다.

매개 변수 설명
ConnectionName 연결 문자열 값이 포함된 앱 설정 또는 환경 변수의 이름입니다. 이 속성은 바인딩 식을 지원합니다.
컬렉션 검색할 컬렉션, 테이블 또는 인덱스의 이름입니다. 이 속성은 바인딩 식을 지원합니다.
쿼리 쿼리에 사용할 의미 체계 쿼리 텍스트입니다. 이 속성은 바인딩 식을 지원합니다.
EmbeddingsModel 포함에 사용할 모델의 ID입니다. 기본값은 text-embedding-3-small입니다. 이 속성은 바인딩 식을 지원합니다.
ChatModel 채팅 응답을 위해 호출할 대규모 언어 모델의 이름을 가져오거나 설정합니다. 기본값은 gpt-3.5-turbo입니다. 이 속성은 바인딩 식을 지원합니다.
SystemPrompt 선택 사항. 대규모 언어 모델 프롬프트에 사용할 시스템 프롬프트를 가져오거나 설정합니다. 시스템 프롬프트에는 Query의 결과로 가져온 정보가 추가됩니다. 결합된 프롬프트는 OpenAI 채팅 API로 전송됩니다. 이 속성은 바인딩 식을 지원합니다.
MaxKnowledgeCount 선택 사항. SystemPrompt에 삽입할 지식 항목 수를 가져오거나 설정합니다.

주석

SemanticSearchInput 주석을 사용하면 다음 매개 변수를 지원하는 의미 체계 검색 입력 바인딩을 정의할 수 있습니다.

요소 설명
이름 입력 바인딩의 이름을 가져오거나 설정합니다.
connectionName 연결 문자열 값이 포함된 앱 설정 또는 환경 변수의 이름입니다. 이 속성은 바인딩 식을 지원합니다.
컬렉션 검색할 컬렉션, 테이블 또는 인덱스의 이름입니다. 이 속성은 바인딩 식을 지원합니다.
query 쿼리에 사용할 의미 체계 쿼리 텍스트입니다. 이 속성은 바인딩 식을 지원합니다.
embeddingsModel 포함에 사용할 모델의 ID입니다. 기본값은 text-embedding-3-small입니다. 이 속성은 바인딩 식을 지원합니다.
chatModel 채팅 응답을 위해 호출할 대규모 언어 모델의 이름을 가져오거나 설정합니다. 기본값은 gpt-3.5-turbo입니다. 이 속성은 바인딩 식을 지원합니다.
systemPrompt 선택 사항. 대규모 언어 모델 프롬프트에 사용할 시스템 프롬프트를 가져오거나 설정합니다. 시스템 프롬프트에는 Query의 결과로 가져온 정보가 추가됩니다. 결합된 프롬프트는 OpenAI 채팅 API로 전송됩니다. 이 속성은 바인딩 식을 지원합니다.
maxKnowledgeCount 선택 사항. SystemPrompt에 삽입할 지식 항목 수를 가져오거나 설정합니다.

데코레이터

미리 보기 중에 입력 바인딩을 다음 매개 변수를 지원하는 semanticSearch 형식의 generic_input_binding 바인딩으로 정의합니다.

매개 변수 설명
arg_name 바인딩 매개 변수를 나타내는 변수의 이름입니다.
connection_name 연결 문자열 값이 포함된 앱 설정 또는 환경 변수의 이름입니다. 이 속성은 바인딩 식을 지원합니다.
컬렉션 검색할 컬렉션, 테이블 또는 인덱스의 이름입니다. 이 속성은 바인딩 식을 지원합니다.
query 쿼리에 사용할 의미 체계 쿼리 텍스트입니다. 이 속성은 바인딩 식을 지원합니다.
embeddings_model 포함에 사용할 모델의 ID입니다. 기본값은 text-embedding-3-small입니다. 이 속성은 바인딩 식을 지원합니다.
chat_model 채팅 응답을 위해 호출할 대규모 언어 모델의 이름을 가져오거나 설정합니다. 기본값은 gpt-3.5-turbo입니다. 이 속성은 바인딩 식을 지원합니다.
system_prompt 선택 사항. 대규모 언어 모델 프롬프트에 사용할 시스템 프롬프트를 가져오거나 설정합니다. 시스템 프롬프트에는 Query의 결과로 가져온 정보가 추가됩니다. 결합된 프롬프트는 OpenAI 채팅 API로 전송됩니다. 이 속성은 바인딩 식을 지원합니다.
max_knowledge_count 선택 사항. SystemPrompt에 삽입할 지식 항목 수를 가져오거나 설정합니다.

구성

바인딩은 function.json 파일에 설정한 이러한 구성 속성을 지원합니다.

속성 설명
type semanticSearch이어야 합니다.
direction in이어야 합니다.
이름 입력 바인딩의 이름입니다.
connectionName 연결 문자열 값이 포함된 앱 설정 또는 환경 변수의 이름을 가져오거나 설정합니다. 이 속성은 바인딩 식을 지원합니다.
컬렉션 검색할 컬렉션, 테이블 또는 인덱스의 이름입니다. 이 속성은 바인딩 식을 지원합니다.
query 쿼리에 사용할 의미 체계 쿼리 텍스트입니다. 이 속성은 바인딩 식을 지원합니다.
embeddingsModel 포함에 사용할 모델의 ID입니다. 기본값은 text-embedding-3-small입니다. 이 속성은 바인딩 식을 지원합니다.
chatModel 채팅 응답을 위해 호출할 대규모 언어 모델의 이름을 가져오거나 설정합니다. 기본값은 gpt-3.5-turbo입니다. 이 속성은 바인딩 식을 지원합니다.
systemPrompt 선택 사항. 대규모 언어 모델 프롬프트에 사용할 시스템 프롬프트를 가져오거나 설정합니다. 시스템 프롬프트에는 Query의 결과로 가져온 정보가 추가됩니다. 결합된 프롬프트는 OpenAI 채팅 API로 전송됩니다. 이 속성은 바인딩 식을 지원합니다.
maxKnowledgeCount 선택 사항. SystemPrompt에 삽입할 지식 항목 수를 가져오거나 설정합니다.

구성

바인딩은 코드에 정의된 다음 속성을 지원합니다.

속성 설명
connectionName 연결 문자열 값이 포함된 앱 설정 또는 환경 변수의 이름입니다. 이 속성은 바인딩 식을 지원합니다.
컬렉션 검색할 컬렉션, 테이블 또는 인덱스의 이름입니다. 이 속성은 바인딩 식을 지원합니다.
query 쿼리에 사용할 의미 체계 쿼리 텍스트입니다. 이 속성은 바인딩 식을 지원합니다.
embeddingsModel 포함에 사용할 모델의 ID입니다. 기본값은 text-embedding-3-small입니다. 이 속성은 바인딩 식을 지원합니다.
chatModel 채팅 응답을 위해 호출할 대규모 언어 모델의 이름을 가져오거나 설정합니다. 기본값은 gpt-3.5-turbo입니다. 이 속성은 바인딩 식을 지원합니다.
systemPrompt 선택 사항. 대규모 언어 모델 프롬프트에 사용할 시스템 프롬프트를 가져오거나 설정합니다. 시스템 프롬프트에는 Query의 결과로 가져온 정보가 추가됩니다. 결합된 프롬프트는 OpenAI 채팅 API로 전송됩니다. 이 속성은 바인딩 식을 지원합니다.
maxKnowledgeCount 선택 사항. SystemPrompt에 삽입할 지식 항목 수를 가져오거나 설정합니다.

사용

전체 예제는 예제 섹션을 참조하세요.