CUDA分離コンパイルでホストコードとデバイスコードを分離する方法

CMake の "CUDA_SEPARABLE_COMPILATION" プロパティ解説

"CUDA_SEPARABLE_COMPILATION" は、CMake の "Properties: Targets" で使用できるターゲットプロパティです。これは、CUDA デバイスコードの分離コンパイルを有効にするために使用されます。

分離コンパイルとは

従来の CUDA コンパイルでは、ソースコード全体が単一のファイルにコンパイルされます。これは、大規模なプロジェクトの場合、コンパイル時間が長くなる可能性があります。

分離コンパイルでは、CUDA ソースコードを ホストコード と デバイスコード に分割し、別々にコンパイルします。これにより、コンパイル時間を短縮し、開発ワークフローを効率化できます。

"CUDA_SEPARABLE_COMPILATION" プロパティは、ターゲットの "Properties: Targets" パネルで設定できます。

例:

set_property(TARGET my_target PROPERTY CUDA_SEPARABLE_COMPILATION ON)

詳細

"CUDA_SEPARABLE_COMPILATION" プロパティを設定すると、以下の影響があります。

• CUDA ソースコードは、ホストコードとデバイスコードに分割されます。
• ホストコードは、CPU で実行されます。
• デバイスコードは、CUDA デバイスで実行されます。
• デバイスコードは、オブジェクトファイル (.cu.o) としてコンパイルされます。
• オブジェクトファイルは、リンク時にホストコードと結合されます。

分離コンパイルの利点

• コンパイル時間の短縮
• 開発ワークフローの効率化
• デバッグの容易化
• コードの再利用性の向上

分離コンパイルの欠点

• 複雑な設定
• 互換性の問題
• パフォーマンスの低下

補足

• 分離コンパイルは、CUDA 8.0 以降でサポートされています。
• 分離コンパイルを使用するには、CMake 3.10 以降が必要です。

"CUDA_SEPARABLE_COMPILATION" プロパティについて、他に質問があれば遠慮なく聞いてください。

CUDA 分離コンパイルのサンプルコード

基本的な例

set(CMAKE_CUDA_STANDARD 14)

add_executable(my_target
               main.cu)

target_compile_options(my_target
                       PUBLIC "-arch=sm_70")

set_property(TARGET my_target
              PROPERTY CUDA_SEPARABLE_COMPILATION ON)

• CMAKE_CUDA_STANDARD は、使用する CUDA 標準を指定します。
• target_compile_options は、ターゲットのコンパイルオプションを設定します。
• set_property は、ターゲットプロパティを設定します。

ホストコードとデバイスコードの分離

set(CMAKE_CUDA_STANDARD 14)

add_executable(my_target
               main.c
               device_code.cu)

target_compile_options(my_target
                       PUBLIC "-arch=sm_70")

set_property(TARGET my_target
              PROPERTY CUDA_SEPARABLE_COMPILATION ON)

set_source_files_properties(device_code.cu
                           PROPERTIES CUDA_HOST_COMPILE OFF)

この例では、main.c という名前のホストコードファイルと device_code.cu という名前のデバイスコードファイルを使用して、my_target という名前の実行可能ファイルを作成します。

• set_source_files_properties は、ソースファイルのプロパティを設定します。
• CUDA_HOST_COMPILE プロパティは、ソースファイルがホストコードとしてコンパイルされるかどうかを指定します。

CUDA ヘッダーファイルの使用

set(CMAKE_CUDA_STANDARD 14)

add_executable(my_target
               main.cu)

target_compile_options(my_target
                       PUBLIC "-arch=sm_70")

set_property(TARGET my_target
              PROPERTY CUDA_SEPARABLE_COMPILATION ON)

include_directories(${CUDA_INCLUDE_DIRS})

# デバイスコードで使用されるヘッダーファイル
set(DEVICE_HEADER_FILE "${CMAKE_CURRENT_SOURCE_DIR}/device_header.cuh")

# ホストコードからデバイスコードヘッダーファイルへのアクセス
add_custom_command(TARGET my_target
                   POST_BUILD
                   COMMAND ${CMAKE_COMMAND}
                   ARGS -E copy
                   "${DEVICE_HEADER_FILE}"
                   "${CMAKE_BINARY_DIR}/$<TARGET_NAME>/device_code.cu.o.dir")

この例では、device_header.cuh という名前の CUDA ヘッダーファイルを使用して、my_target という名前の実行可能ファイルを作成します。

• include_directories は、ヘッダーファイルの検索パスを設定します。
• add_custom_command は、ターゲットのビルド後に実行されるカスタムコマンドを追加します。

CUDA 分離コンパイルのその他の方法

手動による分離

• ホストコードは、.c または .cpp ファイルとして保存されます。
• デバイスコードは、.cu ファイルとして保存されます。

ホストコードとデバイスコードは、cudaMemcpy などの CUDA 関数を使用して通信できます。

CUDA Driver API を使用して、CUDA デバイスコードを直接実行できます。

• CUDA Driver API は、C言語で記述された API です。
• CUDA Driver API は、低レベルの機能を提供します。
• CUDA Driver API は、複雑で習得するのが難しい場合があります。

サードパーティ製ライブラリの使用

CUDA 分離コンパイルをサポートするサードパーティ製ライブラリがいくつかあります。

これらのライブラリは、CUDA 分離コンパイルを簡単に使用できるようにする高レベルの機能を提供します。

CUDA 分離コンパイルには、いくつかの方法があります。

• 手動による分離
• CUDA Driver API の使用
• サードパーティ製ライブラリの使用

最適な方法は、プロジェクトのニーズによって異なります。