IT之家 2 月 20 日消息,有“硅仙人”稱號(hào)的吉姆?凱勒近日發(fā)布推文,表示“CUDA 是樹沼,而非護(hù)城河,X86 也是樹沼”。
凱勒在后續(xù)推文中表示:
CUDA 毫無美感,只是粗暴地堆砌而成。
基本上沒有人會(huì)寫 CUDA,即便是寫了相關(guān)代碼,其執(zhí)行速度也不快。
這也是為何 Triton、Tensor RT、Neon、Mojo 孕育而出的原因。
IT之家注:CUDA 工具包是 NVIDIA 為開發(fā)人員提供的一個(gè)軟件套件,它讓開發(fā)人員使用 NVIDIA 的圖形處理單元(GPU)來運(yùn)行通用計(jì)算任務(wù),特別是那些需要大量并行處理能力的任務(wù)。
凱勒認(rèn)為 CUDA 像 X86 一樣,英偉達(dá)為了確保軟件和硬件的向后兼容性,逐步增加功能的過程中拖慢了性能,增加了程序開發(fā)的難度。與此同時(shí),許多開源軟件開發(fā)框架可以比 CUDA 更高效地使用。
就連 Nvidia 本身也有不完全依賴 CUDA 的工具。
例如,Triton Inference Server 是 Nvidia 的一款開源工具,可簡(jiǎn)化人工智能模型的大規(guī)模部署,支持 TensorFlow、PyTorch 和 ONNX 等框架。
Triton 還提供模型版本化、多模型服務(wù)和并發(fā)模型執(zhí)行等功能,以優(yōu)化 GPU 和 CPU 資源的利用率。
廣告聲明:文內(nèi)含有的對(duì)外跳轉(zhuǎn)鏈接(包括不限于超鏈接、二維碼、口令等形式),用于傳遞更多信息,節(jié)省甄選時(shí)間,結(jié)果僅供參考,IT之家所有文章均包含本聲明。