GitHub - xanpavle/rocmfix: 自动检测 Windows/Linux 上的 AMD GPU,并为本地 AI(ROCm/HIP)提供正确的 HSA_OVERRIDE_GFX_VERSION。

📌 One-Sentence Summary ROCmFix 是一个单文件 Python 工具,用于自动检测 AMD GPU、应用必要的 HSA_OVERRIDE_GFX_VERSION 环境变量以修复 ROCm/HIP 兼容性,并提供本地 AI 设置的基准测试和诊断工具。 📝 Summary 该项目旨在解决在 AMD GPU 上运行本地 AI 模型时常见的神秘错误(例如 HSA_STATUS_ERROR_INVALID_ISA)。通过自动检测 GPU 型号并应用正确的覆盖,ROCmFix 确保 llama.cpp、Ollama 和 PyTorch 等框架可以有效利用硬件。该工具还包括检查系统健康、基准测试性能和导出诊断报告的功能。 💡 Main Points 自动检测和配置 ROCmFix 扫描系统以识别特定的 AMD GPU 型号,并自动设置所需的 HSA_OVERRIDE_GFX_VERSION 环境变量。这消除了手动试错以找到正确覆盖值的需要。 全面诊断 'doctor' 命令执行完整的健康检查,验证 AMD 驱动、HIP SDK 和 Vulkan API 的状态。这有助于用户在尝试运行 AI 工作负载之前,确定其系统是否已正确配置。 性能基准测试 'bench' 命令允许用户通过运行快速生成测试来比较不同后端(Vulkan 与 HIP/ROCm)的性能。这提供了数据,以确定哪种设置为其特定硬件提供最佳性能。 社区驱动的数据库 该工具维护着一个实时、社区贡献的受支持 GPU 数据库。这确保软件始终与最新的硬件发布保持同步,并且用户可以轻松贡献自己的发现。 💬 Key Quotes 一个文件。零安装。无 pip。无 venv。只需运行它。 ROCmFix 检测你的确切 AMD GPU,检查实时社区数据库,自动应用正确的 shell 环境覆盖,并运行健康诊断以确保你的设置准备就绪。 如果你在消费级 AMD 卡上运行 llama.cpp / LM Studio / Ollama(尤其是在 Windows 上),请先尝试 Vulkan。运行 rocmfix bench 进行验证。 📊 Article Meta AI Screening: 85 Source: Hacker News - Newest: "LLM" Author: Xanpavle Category: 软件编程 Language: 英文 Read Time: 3 min Word Count: 593 Tags: 编程与工程 , Windows 与微软生态 , 后端开发 , 编程语言 , 模型发布 Read Full Article
刚好最近在找这方面的资料,太及时了。
支持作者,持续关注中。
实话,说的不明不白