기본 콘텐츠 보안 정책
Azure OpenAI Service에는 Azure OpenAI 위스퍼를 제외한 모든 모델에 적용되는 기본 안전 기능이 포함되어 있습니다. 이러한 구성은 기본적으로 콘텐츠 필터링 모델, 차단 목록, 프롬프트 변환, 콘텐츠 자격 증명 등을 포함하여 책임 있는 환경을 제공합니다.
기본 안전은 증오와 공정성, 성적, 폭력, 자해, 보호 자료 콘텐츠, 사용자 프롬프트 주입 공격 등의 위험을 완화하는 것을 목표로 합니다. 콘텐츠 필터링에 대해 자세히 알아보려면 여기에서 범주 및 심각도 수준을 설명하는 설명서를 참조하세요.
모든 안전은 구성 가능합니다. 구성 가능성에 대해 자세히 알아보려면 콘텐츠 필터링 구성에 대한 설명서를 참조하세요.
텍스트 모델: GPT-4, GPT-3.5
Azure OpenAI Service의 텍스트 모델은 텍스트와 코드를 모두 수용하고 생성할 수 있습니다. 이러한 모델은 Azure의 텍스트 콘텐츠 필터링 모델을 활용하여 유해한 콘텐츠를 검색하고 방지합니다. 이 시스템은 프롬프트와 완료 모두에서 작동합니다.
| 위험 범주 | 프롬프트/완료 | 심각도 임계값 |
|---|---|---|
| 증오와 공정성 | 프롬프트 및 완료 | 중간 |
| 폭력 | 프롬프트 및 완료 | 중간 |
| 성적 | 프롬프트 및 완료 | 중간 |
| 자해 | 프롬프트 및 완료 | 중간 |
| 사용자 프롬프트 주입 공격(Jailbreak) | 프롬프트 | 해당 없음 |
| 보호 자료 – 텍스트 | 완성 | 해당 없음 |
| 보호 자료 – 코드 | 완성 | 해당 없음 |
비전 모델: GPT-4o, GPT-4 Turbo, DALL-E 3, DALL-E 2
GPT-4o 및 GPT-4 Turbo
| 위험 범주 | 프롬프트/완료 | 심각도 임계값 |
|---|---|---|
| 증오와 공정성 | 프롬프트 및 완료 | 중간 |
| 폭력 | 프롬프트 및 완료 | 중간 |
| 성적 | 프롬프트 및 완료 | 중간 |
| 자해 | 프롬프트 및 완료 | 중간 |
| 개인 식별 및 중요한 특성 유추 | 프롬프트 | 해당 없음 |
| 사용자 프롬프트 주입 공격(Jailbreak) | 프롬프트 | 해당 없음 |
DALL-E 3 및 DALL-E 2
| 위험 범주 | 프롬프트/완료 | 심각도 임계값 |
|---|---|---|
| 증오와 공정성 | 프롬프트 및 완료 | 낮음 |
| 폭력 | 프롬프트 및 완료 | 낮음 |
| 성적 | 프롬프트 및 완료 | 낮음 |
| 자해 | 프롬프트 및 완료 | 낮음 |
| 콘텐츠 자격 증명 | 완성 | 해당 없음 |
| 기만적인 정치 후보 생성 | 프롬프트 | 해당 없음 |
| 공인 묘사 | 프롬프트 | 해당 없음 |
| 사용자 프롬프트 주입 공격(Jailbreak) | 프롬프트 | 해당 없음 |
| 보호 자료 – 예술 및 스튜디오 캐릭터 | 프롬프트 | 해당 없음 |
| 욕설 | 프롬프트 | 해당 없음 |
위의 안전 구성 외에도 Azure OpenAI DALL-E에는 기본적으로 프롬프트 변환도 함께 제공됩니다. 이 변환은 원래 프롬프트의 안전성을 강화하기 위해 모든 프롬프트에서 발생합니다. 특히 위험 범주인 다양성, 기만적인 정치 후보 생성, 공용 묘사, 보호 자료 등의 경우 더욱 그렇습니다.