Como renderizar no DirectX

Windows Mixed Reality é baseado no DirectX para produzir experiências gráficas 3D avançadas para os usuários. A abstração de renderização fica logo acima do DirectX, o que permite que os aplicativos raciocinem sobre a posição e a orientação dos observadores de cena holográfica previstos pelo sistema. Em seguida, o desenvolvedor pode localizar seus hologramas com base em cada câmera, permitindo que o aplicativo renderize esses hologramas em vários sistemas de coordenadas espaciais à medida que o usuário se move.

Observação: este passo a passo descreve a renderização holográfica no Direct3D 11. Um modelo de aplicativo Direct3D 12 Windows Mixed Reality também é fornecido com a extensão de modelos de aplicativo Realidade Misturada.

Atualização para o quadro atual

Para atualizar o estado do aplicativo para hologramas, uma vez por quadro, o aplicativo irá:

• Obtenha um HolographicFrame do sistema de gerenciamento de exibição.
• Atualize a cena com a previsão atual de onde a visualização da câmera estará quando a renderização for concluída. Observe que pode haver mais de uma câmera para a cena holográfica.

Para renderizar em exibições de câmera holográfica, uma vez por quadro, o aplicativo:

• Para cada câmera, renderize a cena para o quadro atual, usando a visualização da câmera e as matrizes de projeção do sistema.

Criar um novo quadro holográfico e obter sua previsão

O HolographicFrame tem informações de que o aplicativo precisa para atualizar e renderizar o quadro atual. O aplicativo inicia cada novo quadro chamando o método CreateNextFrame . Quando esse método é chamado, as previsões são feitas usando os dados de sensor mais recentes disponíveis e encapsulados no objeto CurrentPrediction .

Um novo objeto de quadro deve ser usado para cada quadro renderizado, pois ele é válido apenas por um instante no tempo. A propriedade CurrentPrediction contém informações como a posição da câmera. As informações são extrapoladas para o momento exato em que se espera que o quadro seja visível para o usuário.

O código a seguir foi extraído de AppMain::Update:

// The HolographicFrame has information that the app needs in order
// to update and render the current frame. The app begins each new
// frame by calling CreateNextFrame.
HolographicFrame holographicFrame = m_holographicSpace.CreateNextFrame();

// Get a prediction of where holographic cameras will be when this frame
// is presented.
HolographicFramePrediction prediction = holographicFrame.CurrentPrediction();

Processar atualizações da câmera

Os buffers traseiros podem mudar de quadro para quadro. Seu aplicativo precisa validar o buffer traseiro para cada câmera e liberar e recriar exibições de recursos e buffers de profundidade conforme necessário. Observe que o conjunto de poses na previsão é a lista autoritativa de câmeras que estão sendo usadas no quadro atual. Normalmente, você usa essa lista para iterar no conjunto de câmeras.

De AppMain::Update:

m_deviceResources->EnsureCameraResources(holographicFrame, prediction);

De DeviceResources::EnsureCameraResources:

for (HolographicCameraPose const& cameraPose : prediction.CameraPoses())
{
    HolographicCameraRenderingParameters renderingParameters = frame.GetRenderingParameters(cameraPose);
    CameraResources* pCameraResources = cameraResourceMap[cameraPose.HolographicCamera().Id()].get();
    pCameraResources->CreateResourcesForBackBuffer(this, renderingParameters);
}

Obter o sistema de coordenadas a ser usado como base para renderização

Windows Mixed Reality permite que seu aplicativo crie vários sistemas de coordenadas, como quadros de referência anexados e estacionários para rastrear locais no mundo físico. Seu aplicativo pode usar esses sistemas de coordenadas para raciocinar sobre onde renderizar hologramas em cada quadro. Ao solicitar coordenadas de uma API, você sempre passará o SpatialCoordinateSystem no qual deseja que essas coordenadas sejam expressas.

De AppMain::Update:

pose = SpatialPointerPose::TryGetAtTimestamp(
    m_stationaryReferenceFrame.CoordinateSystem(), prediction.Timestamp());

Esses sistemas de coordenadas podem ser usados para gerar matrizes de visualização estéreo ao renderizar o conteúdo em sua cena.

De CameraResources::UpdateViewProjectionBuffer:

// Get a container object with the view and projection matrices for the given
// pose in the given coordinate system.
auto viewTransformContainer = cameraPose.TryGetViewTransform(coordinateSystem);

Processar a entrada de olhar e gestos

A entrada de foco e mão não é baseada em tempo e não precisa ser atualizada na função StepTimer . No entanto, essa entrada é algo que o aplicativo precisa examinar em cada quadro.

Processar atualizações baseadas em tempo

Qualquer aplicativo de renderização em tempo real precisará de alguma maneira para processar atualizações baseadas em tempo – o modelo de aplicativo Windows Holographic usa uma implementação StepTimer , semelhante ao StepTimer fornecido no modelo de aplicativo UWP do DirectX 11. Essa classe auxiliar de exemplo StepTimer pode fornecer atualizações de intervalo de tempo fixo, atualizações de intervalo de tempo variável e o modo padrão é intervalos de tempo variáveis.

Para renderização holográfica, optamos por não colocar muito na função de temporizador porque você pode configurá-la para ser uma etapa de tempo fixa. Ele pode ser chamado mais de uma vez por quadro – ou não, para alguns quadros – e nossas atualizações de dados holográficos devem acontecer uma vez por quadro.

De AppMain::Update:

m_timer.Tick([this]()
{
    m_spinningCubeRenderer->Update(m_timer);
});

Posicionar e girar hologramas em seu sistema de coordenadas

Se você estiver operando em um único sistema de coordenadas, como o modelo faz com o SpatialStationaryReferenceFrame, esse processo não será diferente do que você está acostumado em gráficos 3D. Aqui, giramos o cubo e definimos a matriz do modelo com base na posição no sistema de coordenadas estacionário.

De SpinningCubeRenderer::Update:

// Rotate the cube.
// Convert degrees to radians, then convert seconds to rotation angle.
const float    radiansPerSecond = XMConvertToRadians(m_degreesPerSecond);
const double   totalRotation = timer.GetTotalSeconds() * radiansPerSecond;
const float    radians = static_cast<float>(fmod(totalRotation, XM_2PI));
const XMMATRIX modelRotation = XMMatrixRotationY(-radians);

// Position the cube.
const XMMATRIX modelTranslation = XMMatrixTranslationFromVector(XMLoadFloat3(&m_position));

// Multiply to get the transform matrix.
// Note that this transform does not enforce a particular coordinate system. The calling
// class is responsible for rendering this content in a consistent manner.
const XMMATRIX modelTransform = XMMatrixMultiply(modelRotation, modelTranslation);

// The view and projection matrices are provided by the system; they are associated
// with holographic cameras, and updated on a per-camera basis.
// Here, we provide the model transform for the sample hologram. The model transform
// matrix is transposed to prepare it for the shader.
XMStoreFloat4x4(&m_modelConstantBufferData.model, XMMatrixTranspose(modelTransform));

Observação sobre cenários avançados: O cubo giratório é um exemplo simples de como posicionar um holograma dentro de um único quadro de referência. Também é possível usar vários SpatialCoordinateSystems no mesmo quadro renderizado, ao mesmo tempo.

Atualizar dados de buffer constante

As transformações de modelo para conteúdo são atualizadas como de costume. Até agora, você terá calculado transformações válidas para o sistema de coordenadas em que será renderizado.

De SpinningCubeRenderer::Update:

// Update the model transform buffer for the hologram.
context->UpdateSubresource(
    m_modelConstantBuffer.Get(),
    0,
    nullptr,
    &m_modelConstantBufferData,
    0,
    0
);

E as transformações de exibição e projeção? Para obter melhores resultados, queremos esperar até que estejamos quase prontos para nossas chamadas de sorteio antes de recebê-las.

Renderizar o quadro atual

A renderização no Windows Mixed Reality não é muito diferente da renderização em uma exibição mono 2D, mas há algumas diferenças:

• As previsões de quadro holográfico são importantes. Quanto mais próxima a previsão estiver de quando o quadro for apresentado, melhor será a aparência dos hologramas.
• Windows Mixed Reality controla as exibições da câmera. Renderize para cada um porque o quadro holográfico os apresentará para você mais tarde.
• Recomendamos fazer a renderização estéreo usando o desenho instanciado em uma matriz de destino de renderização. O modelo de aplicativo holográfico usa a abordagem recomendada de desenho instanciado para uma matriz de destino de renderização, que usa uma exibição de destino de renderização em um Texture2DArray.
• Se você quiser renderizar sem usar a instanciação estéreo, precisará criar dois RenderTargetViews que não sejam de matriz, um para cada olho. Cada RenderTargetViews faz referência a uma das duas fatias no Texture2DArray fornecido ao aplicativo pelo sistema. Isso não é recomendado, pois normalmente é mais lento do que usar instanciação.

Obter uma previsão atualizada do HolographicFrame

A atualização da previsão de quadros aumenta a eficácia da estabilização de imagem. Você obtém um posicionamento mais preciso dos hologramas devido ao menor tempo entre a previsão e quando o quadro é visível para o usuário. O ideal é atualizar sua previsão de quadros antes da renderização.

holographicFrame.UpdateCurrentPrediction();
HolographicFramePrediction prediction = holographicFrame.CurrentPrediction();

Renderizar para cada câmera

Faça um loop no conjunto de poses de câmera na previsão e renderize para cada câmera neste conjunto.

Configurar seu passe de renderização

Windows Mixed Reality usa renderização estereoscópica para aprimorar a ilusão de profundidade e renderizar estereoscopicamente, de modo que a exibição esquerda e direita estejam ativas. Com a renderização estereoscópica, há um deslocamento entre as duas telas, que o cérebro pode reconciliar como profundidade real. Esta seção aborda a renderização estereoscópica usando instanciação, usando o código do modelo de aplicativo Windows Holographic.

Cada câmera tem seu próprio destino de renderização (buffer traseiro) e matrizes de exibição e projeção no espaço holográfico. Seu aplicativo precisará criar outros recursos baseados em câmera, como o buffer de profundidade, por câmera. No modelo de aplicativo Windows Holographic, fornecemos uma classe auxiliar para agrupar esses recursos em DX::CameraResources. Comece configurando as visualizações de destino de renderização:

De AppMain::Render:

// This represents the device-based resources for a HolographicCamera.
DX::CameraResources* pCameraResources = cameraResourceMap[cameraPose.HolographicCamera().Id()].get();

// Get the device context.
const auto context = m_deviceResources->GetD3DDeviceContext();
const auto depthStencilView = pCameraResources->GetDepthStencilView();

// Set render targets to the current holographic camera.
ID3D11RenderTargetView *const targets[1] =
    { pCameraResources->GetBackBufferRenderTargetView() };
context->OMSetRenderTargets(1, targets, depthStencilView);

// Clear the back buffer and depth stencil view.
if (m_canGetHolographicDisplayForCamera &&
    cameraPose.HolographicCamera().Display().IsOpaque())
{
    context->ClearRenderTargetView(targets[0], DirectX::Colors::CornflowerBlue);
}
else
{
    context->ClearRenderTargetView(targets[0], DirectX::Colors::Transparent);
}
context->ClearDepthStencilView(
    depthStencilView, D3D11_CLEAR_DEPTH | D3D11_CLEAR_STENCIL, 1.0f, 0);

Use a previsão para obter as matrizes de exibição e projeção da câmera

As matrizes de exibição e projeção de cada câmera holográfica serão alteradas a cada quadro. Atualize os dados no buffer constante para cada câmera holográfica. Faça isso depois de atualizar a previsão e antes de fazer qualquer chamada de sorteio para essa câmera.

De AppMain::Render:

// The view and projection matrices for each holographic camera will change
// every frame. This function refreshes the data in the constant buffer for
// the holographic camera indicated by cameraPose.
if (m_stationaryReferenceFrame)
{
    pCameraResources->UpdateViewProjectionBuffer(
        m_deviceResources, cameraPose, m_stationaryReferenceFrame.CoordinateSystem());
}

// Attach the view/projection constant buffer for this camera to the graphics pipeline.
bool cameraActive = pCameraResources->AttachViewProjectionBuffer(m_deviceResources);

Aqui, mostramos como as matrizes são adquiridas a partir da pose da câmera. Durante esse processo, também obtemos a janela de visualização atual da câmera. Observe como fornecemos um sistema de coordenadas: este é o mesmo sistema de coordenadas que usamos para entender o olhar e é o mesmo que usamos para posicionar o cubo giratório.

De CameraResources::UpdateViewProjectionBuffer:

// The system changes the viewport on a per-frame basis for system optimizations.
auto viewport = cameraPose.Viewport();
m_d3dViewport = CD3D11_VIEWPORT(
    viewport.X,
    viewport.Y,
    viewport.Width,
    viewport.Height
);

// The projection transform for each frame is provided by the HolographicCameraPose.
HolographicStereoTransform cameraProjectionTransform = cameraPose.ProjectionTransform();

// Get a container object with the view and projection matrices for the given
// pose in the given coordinate system.
auto viewTransformContainer = cameraPose.TryGetViewTransform(coordinateSystem);

// If TryGetViewTransform returns a null pointer, that means the pose and coordinate
// system cannot be understood relative to one another; content cannot be rendered
// in this coordinate system for the duration of the current frame.
// This usually means that positional tracking is not active for the current frame, in
// which case it is possible to use a SpatialLocatorAttachedFrameOfReference to render
// content that is not world-locked instead.
DX::ViewProjectionConstantBuffer viewProjectionConstantBufferData;
bool viewTransformAcquired = viewTransformContainer != nullptr;
if (viewTransformAcquired)
{
    // Otherwise, the set of view transforms can be retrieved.
    HolographicStereoTransform viewCoordinateSystemTransform = viewTransformContainer.Value();

    // Update the view matrices. Holographic cameras (such as Microsoft HoloLens) are
    // constantly moving relative to the world. The view matrices need to be updated
    // every frame.
    XMStoreFloat4x4(
        &viewProjectionConstantBufferData.viewProjection[0],
        XMMatrixTranspose(XMLoadFloat4x4(&viewCoordinateSystemTransform.Left) *
            XMLoadFloat4x4(&cameraProjectionTransform.Left))
    );
    XMStoreFloat4x4(
        &viewProjectionConstantBufferData.viewProjection[1],
        XMMatrixTranspose(XMLoadFloat4x4(&viewCoordinateSystemTransform.Right) *
            XMLoadFloat4x4(&cameraProjectionTransform.Right))
    );
}

A janela de visualização deve ser definida a cada quadro. Seu sombreador de vértice (pelo menos) geralmente precisará de acesso aos dados de exibição/projeção.

De CameraResources::AttachViewProjectionBuffer:

// Set the viewport for this camera.
context->RSSetViewports(1, &m_d3dViewport);

// Send the constant buffer to the vertex shader.
context->VSSetConstantBuffers(
    1,
    1,
    m_viewProjectionConstantBuffer.GetAddressOf()
);

Renderize para o buffer traseiro da câmera e confirme o buffer de profundidade:

É uma boa ideia verificar se TryGetViewTransform foi bem-sucedido antes de tentar usar os dados de exibição/projeção, pois se o sistema de coordenadas não for localizável (por exemplo, o acompanhamento foi interrompido), seu aplicativo não poderá renderizar com ele para esse quadro. O modelo só chama Render no cubo giratório se a classe CameraResources indicar uma atualização bem-sucedida.

Windows Mixed Reality inclui recursos de estabilização de imagem para manter os hologramas posicionados onde um desenvolvedor ou usuário os coloca no mundo. A estabilização de imagem ajuda a ocultar a latência inerente a um pipeline de renderização para garantir as melhores experiências holográficas para os usuários. Um ponto de foco pode ser especificado para aprimorar ainda mais a estabilização de imagem, ou um buffer de profundidade pode ser fornecido para calcular a estabilização de imagem otimizada em tempo real.

Para obter melhores resultados, seu aplicativo deve fornecer um buffer de profundidade usando a API CommitDirect3D11DepthBuffer . Windows Mixed Reality pode usar informações de geometria do buffer de profundidade para otimizar a estabilização de imagem em tempo real. O modelo de aplicativo Windows Holographic confirma o buffer de profundidade do aplicativo por padrão, ajudando a otimizar a estabilidade do holograma.

De AppMain::Render:

// Only render world-locked content when positional tracking is active.
if (cameraActive)
{
    // Draw the sample hologram.
    m_spinningCubeRenderer->Render();
    if (m_canCommitDirect3D11DepthBuffer)
    {
        // On versions of the platform that support the CommitDirect3D11DepthBuffer API, we can 
        // provide the depth buffer to the system, and it will use depth information to stabilize 
        // the image at a per-pixel level.
        HolographicCameraRenderingParameters renderingParameters =
            holographicFrame.GetRenderingParameters(cameraPose);
        
        IDirect3DSurface interopSurface =
            DX::CreateDepthTextureInteropObject(pCameraResources->GetDepthStencilTexture2D());

        // Calling CommitDirect3D11DepthBuffer causes the system to queue Direct3D commands to 
        // read the depth buffer. It will then use that information to stabilize the image as
        // the HolographicFrame is presented.
        renderingParameters.CommitDirect3D11DepthBuffer(interopSurface);
    }
}

Código para criação de recursos de buffer de profundidade para CommitDirect3D11DepthBuffer:

// Create a depth stencil view for use with 3D rendering if needed.
CD3D11_TEXTURE2D_DESC depthStencilDesc(
    DXGI_FORMAT_R16_TYPELESS,
    static_cast<UINT>(m_d3dRenderTargetSize.Width),
    static_cast<UINT>(m_d3dRenderTargetSize.Height),
    m_isStereo ? 2 : 1, // Create two textures when rendering in stereo.
    1, // Use a single mipmap level.
    D3D11_BIND_DEPTH_STENCIL | D3D11_BIND_SHADER_RESOURCE
);

winrt::check_hresult(
    device->CreateTexture2D(
        &depthStencilDesc,
        nullptr,
        &m_d3dDepthStencil
    ));

CD3D11_DEPTH_STENCIL_VIEW_DESC depthStencilViewDesc(
    m_isStereo ? D3D11_DSV_DIMENSION_TEXTURE2DARRAY : D3D11_DSV_DIMENSION_TEXTURE2D,
    DXGI_FORMAT_D16_UNORM
);
winrt::check_hresult(
    device->CreateDepthStencilView(
        m_d3dDepthStencil.Get(),
        &depthStencilViewDesc,
        &m_d3dDepthStencilView
    ));

Desenhar conteúdo holográfico

O modelo de aplicativo Windows Holographic renderiza o conteúdo em estéreo usando a técnica recomendada de desenhar geometria instanciada para um Texture2DArray de tamanho 2. Vejamos a parte de instanciação disso e como ela funciona no Windows Mixed Reality.

De SpinningCubeRenderer::Render:

// Draw the objects.
context->DrawIndexedInstanced(
    m_indexCount,   // Index count per instance.
    2,              // Instance count.
    0,              // Start index location.
    0,              // Base vertex location.
    0               // Start instance location.
);

Cada instância acessa uma matriz de exibição/projeção diferente do buffer constante. Aqui está a estrutura de buffer constante, que é apenas uma matriz de duas matrizes.

De VertexShaderShared.hlsl, incluído por VPRTVertexShader.hlsl:

// A constant buffer that stores each set of view and projection matrices in column-major format.
cbuffer ViewProjectionConstantBuffer : register(b1)
{
    float4x4 viewProjection[2];
};

O índice da matriz de destino de renderização deve ser definido para cada pixel. No snippet a seguir, output.viewId é mapeado para a semântica SV_RenderTargetArrayIndex . Isso requer suporte para um recurso opcional do Direct3D 11.3, que permite que a semântica do índice da matriz de destino de renderização seja definida em qualquer estágio do sombreador.

De VPRTVertexShader.hlsl:

// Per-vertex data passed to the geometry shader.
struct VertexShaderOutput
{
    min16float4 pos     : SV_POSITION;
    min16float3 color   : COLOR0;

    // The render target array index is set here in the vertex shader.
    uint        viewId  : SV_RenderTargetArrayIndex;
};

De VertexShaderShared.hlsl, incluído por VPRTVertexShader.hlsl:

// Per-vertex data used as input to the vertex shader.
struct VertexShaderInput
{
    min16float3 pos     : POSITION;
    min16float3 color   : COLOR0;
    uint        instId  : SV_InstanceID;
};

// Simple shader to do vertex processing on the GPU.
VertexShaderOutput main(VertexShaderInput input)
{
    VertexShaderOutput output;
    float4 pos = float4(input.pos, 1.0f);

    // Note which view this vertex has been sent to. Used for matrix lookup.
    // Taking the modulo of the instance ID allows geometry instancing to be used
    // along with stereo instanced drawing; in that case, two copies of each 
    // instance would be drawn, one for left and one for right.
    int idx = input.instId % 2;

    // Transform the vertex position into world space.
    pos = mul(pos, model);

    // Correct for perspective and project the vertex position onto the screen.
    pos = mul(pos, viewProjection[idx]);
    output.pos = (min16float4)pos;

    // Pass the color through without modification.
    output.color = input.color;

    // Set the render target array index.
    output.viewId = idx;

    return output;
}

Se você quiser usar suas técnicas de desenho instanciadas existentes com esse método de desenho em uma matriz de destino de renderização estéreo, desenhe o dobro do número de instâncias que você normalmente tem. No sombreador, divida input.instId por 2 para obter a ID da instância original, que pode ser indexada em (por exemplo) um buffer de dados por objeto: int actualIdx = input.instId / 2;

Observação importante sobre a renderização de conteúdo estéreo no HoloLens

Windows Mixed Reality dá suporte à capacidade de definir o índice da matriz de destino de renderização de qualquer estágio do sombreador. Normalmente, essa é uma tarefa que só pode ser feita no estágio do sombreador de geometria devido à maneira como a semântica é definida para o Direct3D 11. Aqui, mostramos um exemplo completo de como configurar um pipeline de renderização apenas com os estágios de sombreador de vértice e pixel definidos. O código do sombreador é conforme descrito acima.

De SpinningCubeRenderer::Render:

const auto context = m_deviceResources->GetD3DDeviceContext();

// Each vertex is one instance of the VertexPositionColor struct.
const UINT stride = sizeof(VertexPositionColor);
const UINT offset = 0;
context->IASetVertexBuffers(
    0,
    1,
    m_vertexBuffer.GetAddressOf(),
    &stride,
    &offset
);
context->IASetIndexBuffer(
    m_indexBuffer.Get(),
    DXGI_FORMAT_R16_UINT, // Each index is one 16-bit unsigned integer (short).
    0
);
context->IASetPrimitiveTopology(D3D11_PRIMITIVE_TOPOLOGY_TRIANGLELIST);
context->IASetInputLayout(m_inputLayout.Get());

// Attach the vertex shader.
context->VSSetShader(
    m_vertexShader.Get(),
    nullptr,
    0
);
// Apply the model constant buffer to the vertex shader.
context->VSSetConstantBuffers(
    0,
    1,
    m_modelConstantBuffer.GetAddressOf()
);

// Attach the pixel shader.
context->PSSetShader(
    m_pixelShader.Get(),
    nullptr,
    0
);

// Draw the objects.
context->DrawIndexedInstanced(
    m_indexCount,   // Index count per instance.
    2,              // Instance count.
    0,              // Start index location.
    0,              // Base vertex location.
    0               // Start instance location.
);

Observação importante sobre a renderização em dispositivos não HoloLens

Definir o índice da matriz de destino de renderização no sombreador de vértice requer que o driver gráfico dê suporte a um recurso opcional do Direct3D 11.3, ao qual o HoloLens dá suporte. Seu aplicativo pode implementar com segurança apenas essa técnica de renderização e todos os requisitos serão atendidos para execução no Microsoft HoloLens.

Pode ser que você também queira usar o emulador do HoloLens, que pode ser uma ferramenta de desenvolvimento poderosa para seu aplicativo holográfico e dar suporte a dispositivos de headset imersivos Windows Mixed Reality anexados a computadores Windows 10. O suporte para o caminho de renderização não HoloLens – para todo o Windows Mixed Reality – também é integrado ao modelo de aplicativo Windows Holographic. No código do modelo, você encontrará código para permitir que seu aplicativo holográfico seja executado na GPU em seu computador de desenvolvimento. Veja como a classe DeviceResources verifica o suporte a esse recurso opcional.

De DeviceResources::CreateDeviceResources:

// Check for device support for the optional feature that allows setting the render target array index from the vertex shader stage.
D3D11_FEATURE_DATA_D3D11_OPTIONS3 options;
m_d3dDevice->CheckFeatureSupport(D3D11_FEATURE_D3D11_OPTIONS3, &options, sizeof(options));
if (options.VPAndRTArrayIndexFromAnyShaderFeedingRasterizer)
{
    m_supportsVprt = true;
}

Para dar suporte à renderização sem esse recurso opcional, seu aplicativo deve usar um sombreador de geometria para definir o índice da matriz de destino de renderização. Esse snippet seria adicionado após VSSetConstantBuffers e antes de PSSetShader no exemplo de código mostrado na seção anterior que explica como renderizar estéreo no HoloLens.

De SpinningCubeRenderer::Render:

if (!m_usingVprtShaders)
{
    // On devices that do not support the D3D11_FEATURE_D3D11_OPTIONS3::
    // VPAndRTArrayIndexFromAnyShaderFeedingRasterizer optional feature,
    // a pass-through geometry shader is used to set the render target 
    // array index.
    context->GSSetShader(
        m_geometryShader.Get(),
        nullptr,
        0
    );
}

HLSL OBSERVAÇÃO: nesse caso, você também deve carregar um sombreador de vértice ligeiramente modificado que passa o índice da matriz de destino de renderização para o sombreador de geometria usando uma semântica de sombreador sempre permitida, como TEXCOORD0. O sombreador de geometria não precisa fazer nenhum trabalho; O sombreador de geometria de modelo passa por todos os dados, com exceção do índice de matriz de destino de renderização, que é usado para definir a semântica SV_RenderTargetArrayIndex.

Código do modelo de aplicativo para GeometryShader.hlsl:

// Per-vertex data from the vertex shader.
struct GeometryShaderInput
{
    min16float4 pos     : SV_POSITION;
    min16float3 color   : COLOR0;
    uint instId         : TEXCOORD0;
};

// Per-vertex data passed to the rasterizer.
struct GeometryShaderOutput
{
    min16float4 pos     : SV_POSITION;
    min16float3 color   : COLOR0;
    uint rtvId          : SV_RenderTargetArrayIndex;
};

// This geometry shader is a pass-through that leaves the geometry unmodified 
// and sets the render target array index.
[maxvertexcount(3)]
void main(triangle GeometryShaderInput input[3], inout TriangleStream<GeometryShaderOutput> outStream)
{
    GeometryShaderOutput output;
    [unroll(3)]
    for (int i = 0; i < 3; ++i)
    {
        output.pos   = input[i].pos;
        output.color = input[i].color;
        output.rtvId = input[i].instId;
        outStream.Append(output);
    }
}

Presente

Habilitar o quadro holográfico para apresentar a cadeia de troca

Com Windows Mixed Reality, o sistema controla a cadeia de troca. Em seguida, o sistema gerencia a apresentação de quadros para cada câmera holográfica para garantir uma experiência de usuário de alta qualidade. Ele também fornece uma atualização de visor a cada quadro, para cada câmera, para otimizar aspectos do sistema, como estabilização de imagem ou Captura de Realidade Misturada. Portanto, um aplicativo holográfico que usa DirectX não chama Present em uma cadeia de troca DXGI. Em vez disso, você usa a classe HolographicFrame para apresentar todas as cadeias de troca de um quadro quando terminar de desenhá-lo.

De DeviceResources::P resent:

HolographicFramePresentResult presentResult = frame.PresentUsingCurrentPrediction();

Por padrão, essa API aguarda a conclusão do quadro antes de retornar. Os aplicativos holográficos devem aguardar a conclusão do quadro anterior antes de começar a trabalhar em um novo quadro, pois isso reduz a latência e permite melhores resultados de previsões de quadro holográfico. Essa não é uma regra rígida e, se você tiver quadros que levam mais de uma atualização de tela para renderizar, poderá desabilitar essa espera passando o parâmetro HolographicFramePresentWaitBehavior para PresentUsingCurrentPrediction. Nesse caso, você provavelmente usaria um thread de renderização assíncrona para manter uma carga contínua na GPU. A taxa de atualização do dispositivo HoloLens é de 60 Hz, em que um quadro tem uma duração de aproximadamente 16 ms. Os dispositivos de fone de ouvido imersivo podem variar de 60 hz a 90 hz; Ao atualizar a tela a 90 Hz, cada quadro terá uma duração de aproximadamente 11 ms.

Lidar com cenários DeviceLost em cooperação com o HolographicFrame

Os aplicativos DirectX 11 normalmente desejam verificar o HRESULT retornado pela função Present da cadeia de troca DXGI para descobrir se houve um erro DeviceLost. A classe HolographicFrame lida com isso para você. Inspecione o HolographicFramePresentResult retornado para descobrir se você precisa liberar e recriar o dispositivo Direct3D e os recursos baseados em dispositivo.

// The PresentUsingCurrentPrediction API will detect when the graphics device
// changes or becomes invalid. When this happens, it is considered a Direct3D
// device lost scenario.
if (presentResult == HolographicFramePresentResult::DeviceRemoved)
{
    // The Direct3D device, context, and resources should be recreated.
    HandleDeviceLost();
}

Se o dispositivo Direct3D foi perdido e você o recriou, será necessário informar ao HolographicSpace para começar a usar o novo dispositivo. A cadeia de troca será recriada para este dispositivo.

De DeviceResources::InitializeUsingHolographicSpace:

m_holographicSpace.SetDirect3D11Device(m_d3dInteropDevice);

Depois que o quadro for apresentado, você poderá retornar ao loop do programa principal e permitir que ele continue para o próximo quadro.

PCs gráficos híbridos e aplicativos de realidade misturada

Os computadores Windows 10 Creators Update podem ser configurados com GPUs discretas e integradas. Com esses tipos de computadores, o Windows escolherá o adaptador ao qual o fone de ouvido está conectado. Os aplicativos devem garantir que o dispositivo DirectX criado use o mesmo adaptador.

A maioria dos códigos de exemplo gerais do Direct3D demonstra a criação de um dispositivo DirectX usando o adaptador de hardware padrão, que em um sistema híbrido pode não ser o mesmo usado para o fone de ouvido.

Para contornar quaisquer problemas, use o HolographicAdapterID de HolographicSpace. PrimaryAdapterId() ou HolographicDisplay. AdapterId(). Esse adapterId pode ser usado para selecionar o DXGIAdapter correto usando IDXGIFactory4.EnumAdapterByLuid.

De DeviceResources::InitializeUsingHolographicSpace:

// The holographic space might need to determine which adapter supports
// holograms, in which case it will specify a non-zero PrimaryAdapterId.
LUID id =
{
    m_holographicSpace.PrimaryAdapterId().LowPart,
    m_holographicSpace.PrimaryAdapterId().HighPart
};

// When a primary adapter ID is given to the app, the app should find
// the corresponding DXGI adapter and use it to create Direct3D devices
// and device contexts. Otherwise, there is no restriction on the DXGI
// adapter the app can use.
if ((id.HighPart != 0) || (id.LowPart != 0))
{
    UINT createFlags = 0;

    // Create the DXGI factory.
    ComPtr<IDXGIFactory1> dxgiFactory;
    winrt::check_hresult(
        CreateDXGIFactory2(
            createFlags,
            IID_PPV_ARGS(&dxgiFactory)
        ));
    ComPtr<IDXGIFactory4> dxgiFactory4;
    winrt::check_hresult(dxgiFactory.As(&dxgiFactory4));

    // Retrieve the adapter specified by the holographic space.
    winrt::check_hresult(
        dxgiFactory4->EnumAdapterByLuid(
            id,
            IID_PPV_ARGS(&m_dxgiAdapter)
        ));
}
else
{
    m_dxgiAdapter.Reset();
}

Código para atualizar DeviceResources::CreateDeviceResources para usar IDXGIAdapter

// Create the Direct3D 11 API device object and a corresponding context.
ComPtr<ID3D11Device> device;
ComPtr<ID3D11DeviceContext> context;

const D3D_DRIVER_TYPE driverType = m_dxgiAdapter == nullptr ? D3D_DRIVER_TYPE_HARDWARE : D3D_DRIVER_TYPE_UNKNOWN;
const HRESULT hr = D3D11CreateDevice(
    m_dxgiAdapter.Get(),        // Either nullptr, or the primary adapter determined by Windows Holographic.
    driverType,                 // Create a device using the hardware graphics driver.
    0,                          // Should be 0 unless the driver is D3D_DRIVER_TYPE_SOFTWARE.
    creationFlags,              // Set debug and Direct2D compatibility flags.
    featureLevels,              // List of feature levels this app can support.
    ARRAYSIZE(featureLevels),   // Size of the list above.
    D3D11_SDK_VERSION,          // Always set this to D3D11_SDK_VERSION for Windows Runtime apps.
    &device,                    // Returns the Direct3D device created.
    &m_d3dFeatureLevel,         // Returns feature level of device created.
    &context                    // Returns the device immediate context.
);

Gráficos híbridos e Media Foundation

O uso do Media Foundation em sistemas híbridos pode causar problemas em que o vídeo não é renderizado ou a textura do vídeo está corrompida porque o Media Foundation está padronizando um comportamento do sistema. Em alguns cenários, a criação de um ID3D11Device separado é necessária para dar suporte a multithreading e os sinalizadores de criação corretos são definidos.

Ao inicializar o ID3D11Device, D3D11_CREATE_DEVICE_VIDEO_SUPPORT sinalizador deve ser definido como parte do D3D11_CREATE_DEVICE_FLAG. Depois que o dispositivo e o contexto forem criados, chame SetMultithreadProtected para habilitar o multithreading. Para associar o dispositivo ao IMFDXGIDeviceManager , use a função IMFDXGIDeviceManager::ResetDevice .

Código para associar um ID3D11Device ao IMFDXGIDeviceManager:

// create dx device for media pipeline
winrt::com_ptr<ID3D11Device> spMediaDevice;

// See above. Also make sure to enable the following flags on the D3D11 device:
//   * D3D11_CREATE_DEVICE_VIDEO_SUPPORT
//   * D3D11_CREATE_DEVICE_BGRA_SUPPORT
if (FAILED(CreateMediaDevice(spAdapter.get(), &spMediaDevice)))
    return;                                                     

// Turn multithreading on 
winrt::com_ptr<ID3D10Multithread> spMultithread;
if (spContext.try_as(spMultithread))
{
    spMultithread->SetMultithreadProtected(TRUE);
}

// lock the shared dxgi device manager
// call MFUnlockDXGIDeviceManager when no longer needed
UINT uiResetToken;
winrt::com_ptr<IMFDXGIDeviceManager> spDeviceManager;
hr = MFLockDXGIDeviceManager(&uiResetToken, spDeviceManager.put());
if (FAILED(hr))
    return hr;
    
// associate the device with the manager
hr = spDeviceManager->ResetDevice(spMediaDevice.get(), uiResetToken);
if (FAILED(hr))
    return hr;

Confira também

• Sistemas de coordenadas no DirectX
• Usando o emulador do HoloLens