GetCompletionsOptions interface

응답 공식화 전에 내부적으로 생성될 완료 수를 제어하는 값입니다. n과 함께 사용하면 best_of 후보 완성 횟수를 제어하고 n보다 커야 합니다. 이 설정은 많은 완료를 생성할 수 있으므로 토큰 할당량을 빠르게 사용할 수 있습니다. 신중하게 사용하고 max_tokens 중지에 적절한 설정을 보장합니다.

bestOf?: number

속성 값

완성 응답에 입력 프롬프트를 생성된 출력의 접두사로 포함할지 여부를 지정하는 값입니다.

echo?: boolean

속성 값

생성된 텍스트의 누적 빈도에 따라 생성된 토큰이 나타날 확률에 영향을 주는 값입니다. 양수 값은 빈도가 증가함에 따라 토큰이 나타날 가능성이 낮아지고 모델이 동일한 문을 그대로 반복할 가능성을 줄입니다.

frequencyPenalty?: number

속성 값

완료 응답에 나타나는 특정 토큰의 확률에 영향을 주는 GPT 토큰 ID와 바이어스 점수 간의 맵입니다. 토큰 ID는 외부 토큰 변환기 도구를 통해 계산되지만 바이어스 점수는 각각 토큰의 전체 금지 또는 배타적 선택에 해당하는 최소 및 최대 값으로 -100에서 100 범위로 상주합니다. 지정된 바이어스 점수의 정확한 동작은 모델에 따라 다릅니다.

logitBias?: Record<string, number>

속성 값

완료 응답 내에서 제공된 가장 가능성이 높은 토큰 수에 대한 로그 확률의 배출을 제어하는 값입니다.

logprobs?: number

속성 값

생성할 최대 토큰 수입니다.

maxTokens?: number

속성 값

전체 완료 응답의 일부로 제공된 프롬프트별로 생성해야 하는 완료 선택 항목 수입니다. 이 설정은 많은 완료를 생성할 수 있으므로 토큰 할당량을 빠르게 사용할 수 있습니다. 신중하게 사용하고 max_tokens 중지에 적절한 설정을 보장합니다.

n?: number

속성 값

생성된 텍스트의 기존 존재에 따라 생성된 토큰이 나타날 확률에 영향을 주는 값입니다. 양수 값은 토큰이 이미 있을 때 표시될 가능성이 낮아지고 모델의 새 topics 출력할 가능성이 높아집니다.

presencePenalty?: number

속성 값

완성 생성을 종료할 텍스트 시퀀스의 컬렉션입니다.

stop?: string[]

속성 값

생성된 완성의 명백한 창의성을 제어하는 데 사용할 샘플링 온도입니다. 값이 높을수록 출력이 더 임의로 생성되고 값이 낮으면 결과가 더 집중되고 결정적입니다. 이러한 두 설정의 상호 작용을 예측하기 어렵기 때문에 동일한 완료 요청에 대한 온도 및 top_p 수정하지 않는 것이 좋습니다.

temperature?: number

속성 값

핵 샘플링이라고 하는 온도를 사용하여 샘플링하는 대안입니다. 이 값을 사용하면 모델에서 제공된 확률 질량을 사용하여 토큰의 결과를 고려합니다. 예를 들어 값이 0.15이면 확률 질량의 상위 15%를 구성하는 토큰만 고려됩니다. 이러한 두 설정의 상호 작용을 예측하기 어렵기 때문에 동일한 완료 요청에 대한 온도 및 top_p 수정하지 않는 것이 좋습니다.

topP?: number

속성 값

작업의 호출자 또는 최종 사용자에 대한 식별자입니다. 추적 또는 속도 제한 용도로 사용할 수 있습니다.

user?: string

속성 값

요청을 중단하는 데 사용할 수 있는 신호입니다.

abortSignal?: AbortSignalLike

속성 값

상속된 From OperationOptions.abortSignal

요청된 작업을 수행하는 동안 서버에서 응답을 받을 때마다 호출되는 함수입니다. 여러 번 호출할 수 있습니다.

onResponse?: RawResponseCallback

속성 값

상속된 From OperationOptions.onResponse

이 작업에 대한 HTTP 요청을 만들고 보낼 때 사용되는 옵션입니다.

requestOptions?: OperationRequestOptions

속성 값

상속된 From OperationOptions.requestOptions

추적을 사용할 때 사용되는 옵션입니다.

tracingOptions?: OperationTracingOptions

속성 값

상속된 From OperationOptions.tracingOptions