Windows 环境下 Numba 与 CUDA 常见错误修复指南

本指南总结了在 Windows 系统中使用 NeMo (或 PyTorch + Numba) 进行 CUDA 编程时常见的两个严重错误及其详细修复方法。

====================================================================
问题一：Numba 报 CUDA 访问冲突错误
====================================================================
错误现象：
在使用 RNNT loss 或调用 Numba CUDA 算子时，出现底层的 C 语言级别崩溃：
OSError: exception: access violation reading 0x0000000000000001

问题原因：
Numba 默认使用旧版的 C 语言驱动绑定 (ctypes)。在 Windows 下，当 PyTorch 已经初始化了它自己的 CUDA 上下文 (Context) 时，Numba 的 ctypes 绑定尝试读取该上下文会失败，读取到空指针从而导致 access violation 内存访问违规。

解决方法：
让 Numba 放弃旧版的 ctypes 绑定，转而使用 NVIDIA 官方提供的 CUDA Python Bindings。

步骤 1：安装兼容版本的 cuda-python（当前 Numba 推荐 11.x 版本）
conda run -n <你的环境名> pip install "cuda-python<12"

步骤 2：设置环境变量，强制 Numba 使用 NVIDIA Bindings
在运行 Python 脚本前，设置环境变量：
set NUMBA_CUDA_USE_NVIDIA_BINDING=1

或者在 Python 代码的最开头（如 NeMo 的 __init__.py 中）加入：
import os
if os.name == 'nt':
    os.environ.setdefault('NUMBA_CUDA_USE_NVIDIA_BINDING', '1')

====================================================================
问题二：找不到 nvvm.dll (libNVVM cannot be found)
====================================================================
错误现象：
numba.cuda.cudadrv.error.NvvmSupportError: libNVVM cannot be found. Do `conda install cudatoolkit`:
FileNotFoundError: Could not find module 'nvvm.dll' (or one of its dependencies).

问题原因：
在较新的环境（如基于 CUDA 12/13 的 PyTorch 环境）中，NVIDIA 将编译动态链接库 `nvvm.dll` 重命名为了 `nvvm64_40_0.dll`，并且将其移动到了 `nvvm/bin/x64/` 目录下。而 Numba 的旧版搜索逻辑仍在试图直接加载根目录或 bin 下的 `nvvm.dll`，导致路径扫描失败。

解决方法：
补充缺失的 nvcc 组件，并将重命名后的 DLL 复制回 Numba 期望的路径。

步骤 1：通过 conda 安装 cuda-nvcc 工具链
conda install -y -c conda-forge cuda-nvcc

步骤 2：将 nvvm64_40_0.dll 复制并重命名为 nvvm.dll，并将 libdevice 复制到正确的路径
运行以下 Python 代码自动完成复制（确保在对应的 conda 环境下执行）：

```python
import os
import shutil

# 获取当前 conda 环境路径
env_dir = os.environ.get('CONDA_PREFIX')
if env_dir:
    # 1. 修复 nvvm.dll
    # 源文件路径 (CUDA 12/13 格式)
    src_nvvm = os.path.join(env_dir, 'Library', 'nvvm', 'bin', 'x64', 'nvvm64_40_0.dll')
    # 目标文件路径 (Numba 期望的格式)
    dst_nvvm = os.path.join(env_dir, 'Library', 'bin', 'nvvm.dll')
    
    if os.path.exists(src_nvvm):
        shutil.copy(src_nvvm, dst_nvvm)
        print(f'成功复制并重命名 nvvm.dll 到: {dst_nvvm}')
    else:
        print('未找到 nvvm.dll 源文件，请确认 cuda-nvcc 是否已正确安装。')

    # 2. 修复 libdevice.10.bc (解决 Missing libdevice file 错误)
    src_libdevice = os.path.join(env_dir, 'Library', 'nvvm', 'libdevice', 'libdevice.10.bc')
    dst_libdevice = os.path.join(env_dir, 'Library', 'bin', 'libdevice.10.bc')

    if os.path.exists(src_libdevice):
        shutil.copy(src_libdevice, dst_libdevice)
        print(f'成功复制 libdevice.10.bc 到: {dst_libdevice}')
    else:
        print('未找到 libdevice.10.bc 源文件，请确认 cuda-nvcc 是否已正确安装。')
else:
    print('未找到 conda 环境，请在 conda 环境中运行。')
```