AI 스튜디오의 모델 카탈로그를 통한 모델 사용에 대한 데이터, 개인 정보 보호 및 보안
이 문서에서는 모델 카탈로그에서 모델을 배포할 때 제공한 데이터가 처리되고, 사용되고, 저장되는 방법을 설명합니다. 또한 Azure 서비스의 데이터 처리에 적용되는 Microsoft 제품 및 서비스 데이터 보호 부록을 참조하세요.
Azure AI 스튜디오에 배포된 모델에 대해 어떤 데이터가 처리되나요?
Azure AI 스튜디오에 모델을 배포하면 서비스를 제공하기 위해 다음 형식의 데이터가 처리됩니다.
프롬프트 및 생성된 콘텐츠. 사용자가 프롬프트를 제출하고 모델은 모델에서 지원하는 작업을 통해 콘텐츠(출력)를 생성합니다. 프롬프트에는 RAG(검색 증강 생성), 메타 프롬프트 또는 애플리케이션에 포함된 기타 기능을 통해 추가된 콘텐츠가 포함될 수 있습니다.
업로드된 데이터. 미세 조정을 지원하는 모델의 경우 고객은 미세 조정에 사용하기 위해 데이터 저장소에 데이터를 업로드할 수 있습니다.
관리형 컴퓨팅을 사용하여 추론 출력 생성
관리형 컴퓨팅에 모델을 배포하면 모델 가중치가 전용 Virtual Machines에 배포되고 실시간 유추를 위해 REST API가 노출됩니다. 모델 카탈로그에서 관리형 컴퓨팅으로 모델을 배포하는 방법에 대한 자세한 내용은 Azure AI 스튜디오의 모델 카탈로그 및 컬렉션을 참조하세요.
이러한 관리형 컴퓨팅 리소스에 대한 인프라를 관리합니다. Azure 데이터, 개인 정보 보호 및 보안 약정이 적용됩니다. Azure AI 스튜디오에 적용되는 Azure 규정 준수 제품에 대한 자세한 내용은 Azure 규정 준수 제품 페이지를 참조하세요.
Azure AI에 의해 큐레이팅된 모델의 컨테이너에서 데이터를 반출할 수 있는 취약성이 있는지 검사하지만, 모델 카탈로그를 통해 사용할 수 있는 모든 모델이 검사되지는 않습니다. 데이터 반출 위험을 줄이려면 가상 네트워크를 사용하여 배포를 보호할 수 있습니다. Azure Policy를 사용하여 사용자가 배포할 수 있는 모델을 규제할 수도 있습니다.
서버리스 API로 추론 출력 생성
유추를 위해 종량제 청구를 사용하는 서버리스 API를 통해 모델 카탈로그(기본 또는 미세 조정)에서 모델을 배포하면 API가 프로비전됩니다. API를 사용하면 Azure Machine Learning Service에서 호스트하고 관리하는 모델에 액세스할 수 있습니다. 모델 카탈로그 및 컬렉션의 서버리스 API에 대해 자세히 알아봅니다.
모델은 입력 프롬프트를 처리하고 모델 세부 정보에 설명된 대로 모델의 기능을 기반으로 출력을 생성합니다. (모델 및 해당 출력에 대한 공급자의 책임에 따라) 모델을 사용하는 경우 모델에 대한 사용 조건이 적용됩니다. Microsoft는 호스팅 인프라 및 API 엔드포인트를 제공하고 관리합니다. 이 MaaS(Model as a Service) 시나리오에 호스트된 모델에는 Azure의 데이터, 개인 정보 보호 및 보안 약정이 적용됩니다. Azure AI 스튜디오에 적용할 수 있는 Azure 규정 준수 제품에 대해 자세히 알아봅니다.
Important
이 문서에 표시된 항목(미리 보기)은 현재 퍼블릭 미리 보기에서 확인할 수 있습니다. 이 미리 보기는 서비스 수준 계약 없이 제공되며, 프로덕션 워크로드에는 권장되지 않습니다. 특정 기능이 지원되지 않거나 기능이 제한될 수 있습니다. 자세한 내용은 Microsoft Azure Preview에 대한 추가 사용 약관을 참조하세요.
Microsoft는 종량제 유추(MaaS)를 위해 배포된 모델로 전송되고 생성된 프롬프트와 출력에 대한 데이터 프로세서 역할을 합니다. Microsoft는 이러한 프롬프트 및 출력을 모델 공급자와 공유하지 않습니다. 또한 Microsoft는 이러한 프롬프트 및 출력을 사용하여 Microsoft 모델, 모델 공급자의 모델 또는 타사 모델을 학습시키거나 개선하지 않습니다.
상태 비저장 모델의 경우 프롬프트 또는 출력을 저장하지 않습니다. 콘텐츠 필터링(미리 보기)을 사용하도록 설정하면 Azure AI 콘텐츠 보안 서비스가 프롬프트 및 출력에 특정 범주의 유해한 콘텐츠가 있는지 실시간으로 선별합니다. Azure AI 콘텐츠 보안 서비스가 데이터를 처리하는 방법에 대해 자세히 알아봅니다.
프롬프트와 출력은 배포 중에 지정된 지역 내에서 처리되지만 운영 목적을 위해 지리적 영역 간에 처리될 수도 있습니다. 성능 및 용량 관리가 운영 목적에 포함됩니다.
참고 항목
MaaS의 배포 프로세스에서 설명했듯이 Microsoft는 모델 게시자가 모델과 관련하여 고객에게 연락할 수 있도록 고객 연락처 정보 및 트랜잭션 세부 정보(제공 사항과 관련된 사용량 포함)를 모델 게시자와 공유할 수 있습니다. 파트너 센터의 Microsoft 상업용 Marketplace에 대한 인사이트에 액세스에서 모델 게시자가 사용할 수 있는 정보에 대해 자세히 알아봅니다.
종량제 배포를 위한 모델 미세 조정(MaaS)
서버리스 API에 사용할 수 있는 모델이 미세 조정을 지원하는 경우 데이터 저장소에 데이터를 업로드하거나 이미 있는 데이터를 지정하여 모델을 미세 조정할 수 있습니다. 그런 다음 미세 조정된 모델에 대한 서버리스 API 배포를 만들 수 있습니다. 미세 조정 모델은 다운로드할 수 없지만 가능한 작업은 다음과 같습니다.
- 용도에 따라 단독으로 사용할 수 있습니다.
- 미사용 이중 암호화(기본 Microsoft AES-256 암호화 및 선택적 고객 관리형 키)를 사용할 수 있습니다.
- 언제든지 삭제할 수 있습니다.
미세 조정을 위해 업로드된 학습 데이터는 서비스 내에서 사용자가 해당 활동을 지시한 경우를 제외하고 Microsoft 또는 타사 모델을 학습시키거나, 재학습시키거나, 개선하는 데 사용되지 않습니다.
다운로드한 모델의 데이터 처리
모델 카탈로그에서 모델을 다운로드하는 경우 모델을 배포할 위치를 선택합니다. 모델을 사용할 때 데이터를 처리하는 방식은 사용자의 책임입니다.