チュートリアル: Windows Machine Learning のデスクトップアプリケーションの作成 (C++)

[アーティクル]
07/11/2023

Windows ML API を利用して、C++ デスクトップ (Win32) アプリケーション内で、機械学習モデルを簡単に操作できます。読み込み、バインド、評価の 3 つの手順を使用すると、アプリケーションで機械学習の機能を活用できます。

読み込み -> バインド -> 評価

GitHub で入手できる SqueezeNet オブジェクト検出のサンプルを少し簡略化したバージョンを作成します。完了したときにそれがどのようになるかを確認する場合は、完全なサンプルをダウンロードできます。

C++/WinRT を使用して、WinML API にアクセスします。詳細については、「C++/WinRT」を参照してください。

このチュートリアルで学習する内容は次のとおりです。

機械学習モデルを読み込む
VideoFrame として画像を読み込む
モデルの入力と出力をバインドする
モデルを評価し、意味のある結果を出力する

前提条件

Visual Studio 2019 (または Visual Studio 2017 バージョン 15.7.4 以降)
Windows 10 バージョン 1809 以降
Windows SDK ビルド 17763 以降
C++/WinRT 用 Visual Studio 拡張機能
1. Visual Studio で、[ツール] > [拡張機能と更新プログラム] を選択します。
2. 左ウィンドウで [オンライン] を選択し、右側の検索ボックスを使用して "WinRT" を検索します。
3. [C++/WinRT] を選択し、[ダウンロード] をクリックして、Visual Studio を閉じます。
4. インストール手順に従って、Visual Studio を再度開きます。
Windows-Machine-Learning Github リポジトリ (ZIP ファイルとしてダウンロードするか、またはコンピューターに複製できます)

プロジェクトを作成する

まず、Visual Studio でプロジェクトを作成します。

[ファイル] > [新規作成] > [プロジェクト] の順に選択し、[新しいプロジェクト] ウィンドウを開きます。
左ウィンドウで、[インストール済み] > [Visual C++] > [Windows デスクトップ] を選択し、中央にある [Windows コンソールアプリケーション (C++/WinRT)] を選択します。
プロジェクトに名前と場所を指定し、[OK] をクリックします。
[新しいユニバーサル Windows プラットフォームプロジェクト] ウィンドウで、[ターゲット] と [最小バージョン] の両方をビルド 17763 以降に設定し、[OK] をクリックします。
上部のツールバーのドロップダウンメニューが、コンピューターのアーキテクチャに応じて、[デバッグ] および [x64] または [x86] に設定されていることを確認します。
Ctrl + F5 キーを押して、デバッグなしでプログラムを実行します。ターミナルが開き、"Hello world" などのテキストが表示されます。任意のキーを押して閉じます。

モデルを読み込む

次に、LearningModel LoadFromFilePath を使用して、ONNX モデルをプログラムに読み込みます。

pch.h (ヘッダーファイル フォルダー内) に、次の include ステートメントを追加します (これらにより、必要なすべての API にアクセスできるようになります)。

#include <winrt/Windows.AI.MachineLearning.h>
#include <winrt/Windows.Foundation.Collections.h>
#include <winrt/Windows.Graphics.Imaging.h>
#include <winrt/Windows.Media.h>
#include <winrt/Windows.Storage.h>

#include <string>
#include <fstream>

#include <Windows.h>

main.cpp (ソースファイル フォルダー内) に、次の using ステートメントを追加します。

using namespace Windows::AI::MachineLearning;
using namespace Windows::Foundation::Collections;
using namespace Windows::Graphics::Imaging;
using namespace Windows::Media;
using namespace Windows::Storage;

using namespace std;

using ステートメントの後に、次の変数宣言を追加します。

// Global variables
hstring modelPath;
string deviceName = "default";
hstring imagePath;
LearningModel model = nullptr;
LearningModelDeviceKind deviceKind = LearningModelDeviceKind::Default;
LearningModelSession session = nullptr;
LearningModelBinding binding = nullptr;
VideoFrame imageFrame = nullptr;
string labelsFilePath;
vector<string> labels;

グローバル変数の後に、次の事前宣言を追加します。

// Forward declarations
void LoadModel();
VideoFrame LoadImageFile(hstring filePath);
void BindModel();
void EvaluateModel();
void PrintResults(IVectorView<float> results);
void LoadLabels();

main.cpp で、"Hello world" コード (init_apartment の後の main 関数内のすべて) を削除します。
Windows-Machine-Learning リポジトリのローカルの複製で、SqueezeNet.onnx ファイルを見つけます。これは \Windows-Machine-Learning\SharedContent\models にあります。
ファイルパスをコピーし、上部に定義した modelPath 変数にそれを割り当てます。 hstring で正常に動作するように、文字列に L のプレフィックスを付けてワイド文字列にし、円記号を追加して円記号 (\) をエスケープしてください。次に例を示します。
```
hstring modelPath = L"C:\\Repos\\Windows-Machine-Learning\\SharedContent\\models\\SqueezeNet.onnx";
```

まず、LoadModel メソッドを実装します。 main メソッドの後に次のメソッドを追加します。このメソッドは、モデルを読み込み、かかった時間を出力します。

void LoadModel()
{
     // load the model
     printf("Loading modelfile '%ws' on the '%s' device\n", modelPath.c_str(), deviceName.c_str());
     DWORD ticks = GetTickCount();
     model = LearningModel::LoadFromFilePath(modelPath);
     ticks = GetTickCount() - ticks;
     printf("model file loaded in %d ticks\n", ticks);
}

最後に、main メソッドからこのメソッドを呼び出します。
```
LoadModel();
```
デバッグなしでプログラムを実行します。モデルが正常に読み込まれたことが表示されます。

画像を読み込む

次に、このプログラムに画像ファイルを読み込みます。

次のメソッドを追加します。このメソッドは、指定されたパスから画像を読み込み、そこから VideoFrame を作成します。

VideoFrame LoadImageFile(hstring filePath)
{
    printf("Loading the image...\n");
    DWORD ticks = GetTickCount();
    VideoFrame inputImage = nullptr;

    try
    {
        // open the file
        StorageFile file = StorageFile::GetFileFromPathAsync(filePath).get();
        // get a stream on it
        auto stream = file.OpenAsync(FileAccessMode::Read).get();
        // Create the decoder from the stream
        BitmapDecoder decoder = BitmapDecoder::CreateAsync(stream).get();
        // get the bitmap
        SoftwareBitmap softwareBitmap = decoder.GetSoftwareBitmapAsync().get();
        // load a videoframe from it
        inputImage = VideoFrame::CreateWithSoftwareBitmap(softwareBitmap);
    }
    catch (...)
    {
        printf("failed to load the image file, make sure you are using fully qualified paths\r\n");
        exit(EXIT_FAILURE);
    }

    ticks = GetTickCount() - ticks;
    printf("image file loaded in %d ticks\n", ticks);
    // all done
    return inputImage;
}

main メソッドで、このメソッドの呼び出しを追加します。
```
imageFrame = LoadImageFile(imagePath);
```
Windows-Machine-Learning リポジトリのローカルの複製で、media フォルダーを見つけます。これは \Windows-Machine-Learning\SharedContent\media にあります。
そのフォルダー内のいずれかの画像を選択し、上部に定義した imagePath 変数にそのファイルパスを割り当てます。それに L のプレフィックスを付けてワイド文字列にし、円記号にもう 1 つ円記号を付けてエスケープしてください。次に例を示します。
```
hstring imagePath = L"C:\\Repos\\Windows-Machine-Learning\\SharedContent\\media\\kitten_224.png";
```
デバッグなしでプログラムを実行します。画像が正常に読み込まれたことが表示されます。

入力と出力をバインドする

次に、モデルに基づいてセッションを作成し、LearningModelBinding.Bind を使用してセッションからの入力と出力をバインドします。バインドの詳細については、「モデルを作成する」を参照してください。

BindModel メソッドを実装します。これにより、モデルとデバイスに基づいてセッションが作成され、そのセッションに基づいてバインドが作成されます。次に、入力と出力を、それらの名前を使用して作成した変数にバインドします。入力特徴には "data_0" という名前が付けられ、出力特徴には "softmaxout_1" という名前が付けられていることが事前にわかっています。モデルのこれらのプロパティは、オンラインのモデル視覚化ツールの Netron で開くことで確認できます。
```
void BindModel()
{
    printf("Binding the model...\n");
    DWORD ticks = GetTickCount();

    // now create a session and binding
    session = LearningModelSession{ model, LearningModelDevice(deviceKind) };
    binding = LearningModelBinding{ session };
    // bind the intput image
    binding.Bind(L"data_0", ImageFeatureValue::CreateFromVideoFrame(imageFrame));
    // bind the output
    vector<int64_t> shape({ 1, 1000, 1, 1 });
    binding.Bind(L"softmaxout_1", TensorFloat::Create(shape));

    ticks = GetTickCount() - ticks;
    printf("Model bound in %d ticks\n", ticks);
}
```
main メソッドから BindModel の呼び出しを追加します。
```
BindModel();
```
デバッグなしでプログラムを実行します。モデルの入力と出力が、正常にバインドされます。もう少しで完了です。

モデルを評価する

これで、このチュートリアルの冒頭にある図の最後の手順である評価に到達しました。 LearningModelSession.Evaluate を使用してモデルを評価します。

EvaluateModel メソッドを実装します。このメソッドは、セッションを取得し、バインドと関連付け ID を使用してそれを評価します。関連付け ID は、後で使用して、特定の評価呼び出しを出力結果と照合できるようにするものです。ここでも、出力の名前が "softmaxout_1" であることが事前にわかっています。

void EvaluateModel()
{
    // now run the model
    printf("Running the model...\n");
    DWORD ticks = GetTickCount();

    auto results = session.Evaluate(binding, L"RunId");

    ticks = GetTickCount() - ticks;
    printf("model run took %d ticks\n", ticks);

    // get the output
    auto resultTensor = results.Outputs().Lookup(L"softmaxout_1").as<TensorFloat>();
    auto resultVector = resultTensor.GetAsVectorView();
    PrintResults(resultVector);
}

次に、PrintResults を実装します。このメソッドは、画像に含まれている可能性があるオブジェクトの上位 3 つを取得し、それらを出力します。

void PrintResults(IVectorView<float> results)
{
    // load the labels
    LoadLabels();
    // Find the top 3 probabilities
    vector<float> topProbabilities(3);
    vector<int> topProbabilityLabelIndexes(3);
    // SqueezeNet returns a list of 1000 options, with probabilities for each, loop through all
    for (uint32_t i = 0; i < results.Size(); i++)
    {
        // is it one of the top 3?
        for (int j = 0; j < 3; j++)
        {
            if (results.GetAt(i) > topProbabilities[j])
            {
                topProbabilityLabelIndexes[j] = i;
                topProbabilities[j] = results.GetAt(i);
                break;
            }
        }
    }
    // Display the result
    for (int i = 0; i < 3; i++)
    {
        printf("%s with confidence of %f\n", labels[topProbabilityLabelIndexes[i]].c_str(), topProbabilities[i]);
    }
}

さらに LoadLabels を実装する必要もあります。このメソッドは、モデルが認識できるすべての異なるオブジェクトを含むラベルファイルを開き、解析します。

void LoadLabels()
{
    // Parse labels from labels file.  We know the file's entries are already sorted in order.
    ifstream labelFile{ labelsFilePath, ifstream::in };
    if (labelFile.fail())
    {
        printf("failed to load the %s file.  Make sure it exists in the same folder as the app\r\n", labelsFilePath.c_str());
        exit(EXIT_FAILURE);
    }

    std::string s;
    while (std::getline(labelFile, s, ','))
    {
        int labelValue = atoi(s.c_str());
        if (labelValue >= labels.size())
        {
            labels.resize(labelValue + 1);
        }
        std::getline(labelFile, s);
        labels[labelValue] = s;
    }
}

Windows-Machine-Learning リポジトリのローカルの複製で、Labels.txt ファイルを見つけます。これは \Windows-Machine-Learning\Samples\SqueezeNetObjectDetection\Desktop\cpp にあります。
このファイルパスを、上部に定義した labelsFilePath 変数に割り当てます。円記号にもう 1 つ円記号を付けてエスケープしてください。次に例を示します。
```
string labelsFilePath = "C:\\Repos\\Windows-Machine-Learning\\Samples\\SqueezeNetObjectDetection\\Desktop\\cpp\\Labels.txt";
```
main メソッドに EvaluateModel の呼び出しを追加します。
```
EvaluateModel();
```

デバッグなしでプログラムを実行します。これで、画像の内容が正しく認識されるようになります。出力される可能性のある内容の例を次に示します。

Loading modelfile 'C:\Repos\Windows-Machine-Learning\SharedContent\models\SqueezeNet.onnx' on the 'default' device
model file loaded in 250 ticks
Loading the image...
image file loaded in 78 ticks
Binding the model...Model bound in 15 ticks
Running the model...
model run took 16 ticks
tabby, tabby cat with confidence of 0.931461
Egyptian cat with confidence of 0.065307
Persian cat with confidence of 0.000193

次のステップ

C++ デスクトップアプリケーションで物体検出が機能するようになりました。次に、GitHub のサンプルで行っているのと同様に、モデルファイルと画像ファイルをハードコーディングせずに、コマンドライン引数を使用して、それらを入力してみることができます。さらに、GPU などの別のデバイスで評価を実行して、パフォーマンスの違いを確認することもできます。

GitHub の他のサンプルを試して、お好きなように拡張してみてください。

次の方法で共有

チュートリアル: Windows Machine Learning のデスクトップアプリケーションの作成 (C++)

前提条件

プロジェクトを作成する

モデルを読み込む

画像を読み込む

入力と出力をバインドする

モデルを評価する

次のステップ

関連項目

フィードバック

その他のリソース

次の方法で共有

チュートリアル: Windows Machine Learning のデスクトップ アプリケーションの作成 (C++)

前提条件

プロジェクトを作成する

モデルを読み込む

画像を読み込む

入力と出力をバインドする

モデルを評価する

次のステップ

関連項目

フィードバック

その他のリソース

チュートリアル: Windows Machine Learning のデスクトップアプリケーションの作成 (C++)