C#でGPU用のCUDAを構成する
Windows 11でONNX RuntimeとC#を使用してGPU用のCUDAとcuDNNを構成する
Section titled “Windows 11でONNX RuntimeとC#を使用してGPU用のCUDAとcuDNNを構成する”- Windows 11
- Visual Studio 2019または2022
Windows 11でONNX RuntimeとC#を使用してCUDAとcuDNNを構成する手順
Section titled “Windows 11でONNX RuntimeとC#を使用してCUDAとcuDNNを構成する手順”-
ONNX Runtimeバージョンでサポートされているバージョンに基づいて、CUDAツールキットをダウンロードしてインストールします。
-
ONNX Runtimeバージョンでサポートされているバージョンに基づいて、cuDNNバージョンをダウンロードしてインストールします。
サポートされているバージョンについては、次の表を参照してください。
| ONNX Runtimeバージョン | CUDAツールキットバージョン | cuDNNバージョン |
|---|---|---|
| 1.13 - 1.16 | 11.6 | 8.5.0.96 |
| 1.9 - 1.12 | 11.4 | 8.2.2.26 |
注：完全な表はこちらにあります。
-
2. WindowsへのcuDNNのインストールのセクションに従ってください。注：セクション2.3のステップ5（Visual Studio設定の更新）は、C++プロジェクト専用であるためスキップしてください。
-
コンピューターを再起動し、次のコマンドを実行するか、PyTorchを使用してPythonでインストールを確認します。
nvcc --versionimport torchtorch.cuda.is_available()- これで、次のコードを使用してC# ONNX Runtime APIでGPUを有効にできます。
// ほとんどすべてのクラスが破棄可能であることに注意してください。using var gpuSessionOptions = SessionOptions.MakeSessionOptionWithCudaProvider(0);using var session = new InferenceSession(modelPath, gpuSessionOptions);