ABOUT TOPICS CATEGORIES ARCHIVE

所有文章

There are a total of 4 posts.

DGX Spark 模型推論：FlashAttention 2 安裝實錄與效能評測

2026-03-10

DGX Spark 模型推論：FlashAttention 2 安裝實錄與效能評測

深入探討在 DGX Spark 高效能運算環境中，為加速模型推論並有效節省 GPU 記憶體資源，而進行 FlashAttention 2 安裝的完整實戰心得。本文不僅詳細記錄了從準備到實際安裝過程中遇到的各種技術難題、AArch64 架構下的特殊處理方式，以及如何透過指令最佳化解決方案，更重要的是，將真實呈現安裝 FlashAttention 2 後，在模型推論速度與記憶體利用率上的實際改善效果與體感評估，為您提供寶貴的參考經驗。

#cuda #gpu #dgx spark #flashattention 2 +2
Ditto TalkingHead（DGX Spark / ARM64）TensorRT 移植作業紀錄

2026-03-03

Ditto TalkingHead（DGX Spark / ARM64）TensorRT 移植作業紀錄

在 DGX Spark ARM64 平台上將 Ditto TalkingHead 迁移至 TensorRT 的完整过程。解析 x86 GridSample3D 插件加载失败的原因，提供 ARM64 插件重新编译、CMake 配置调整、ONNX→TensorRT 转换及推论成功的步骤，为 AI 开发者和工程师提供实用的故障排查指南。

#cuda #dgx spark #tensorrt #arm64 +3
為AI開發構建CUDA環境

2025-05-07

為AI開發構建CUDA環境

為AI深度學習開發詳細介紹在Ubuntu上安裝CUDA、cuDNN的過程，並建立GPU環境的親切指導。初學者也能輕鬆跟隨的實戰指南。

#tensorflow #pytorch #cuda #nvidia
CUDA是什麼？GPU與並行計算的開始

2025-05-07

CUDA是什麼？GPU與並行計算的開始

CUDA是NVIDIA的並行計算平臺，對於利用GPU進行高速運算是必不可少的技術。介紹其概念和結構。

#cuda #gpu #nvidia #並行計算 +1