設(shè)置
  • 日夜間
    隨系統(tǒng)
    淺色
    深色
  • 主題色
微信摇一摇回归    华为发布新一代鸿蒙智家解决方案

“硅仙人”吉姆?凱勒吐槽英偉達(dá) CUDA:是樹沼,而非護(hù)城河

2024/2/20 13:26:56 來源:IT之家 作者:故淵 責(zé)編:故淵

IT之家 2 月 20 日消息,有“硅仙人”稱號(hào)的吉姆?凱勒近日發(fā)布推文,表示“CUDA 是樹沼,而非護(hù)城河,X86 也是樹沼”。

凱勒在后續(xù)推文中表示:

CUDA 毫無美感,只是粗暴地堆砌而成。

基本上沒有人會(huì)寫 CUDA,即便是寫了相關(guān)代碼,其執(zhí)行速度也不快。

這也是為何 Triton、Tensor RT、Neon、Mojo 孕育而出的原因。

IT之家注:CUDA 工具包是 NVIDIA 為開發(fā)人員提供的一個(gè)軟件套件,它讓開發(fā)人員使用 NVIDIA 的圖形處理單元(GPU)來運(yùn)行通用計(jì)算任務(wù),特別是那些需要大量并行處理能力的任務(wù)。

凱勒認(rèn)為 CUDA 像 X86 一樣,英偉達(dá)為了確保軟件和硬件的向后兼容性,逐步增加功能的過程中拖慢了性能,增加了程序開發(fā)的難度。與此同時(shí),許多開源軟件開發(fā)框架可以比 CUDA 更高效地使用。

就連 Nvidia 本身也有不完全依賴 CUDA 的工具。

例如,Triton Inference Server 是 Nvidia 的一款開源工具,可簡(jiǎn)化人工智能模型的大規(guī)模部署,支持 TensorFlow、PyTorch 和 ONNX 等框架。

Triton 還提供模型版本化、多模型服務(wù)和并發(fā)模型執(zhí)行等功能,以優(yōu)化 GPU 和 CPU 資源的利用率。

廣告聲明:文內(nèi)含有的對(duì)外跳轉(zhuǎn)鏈接(包括不限于超鏈接、二維碼、口令等形式),用于傳遞更多信息,節(jié)省甄選時(shí)間,結(jié)果僅供參考,IT之家所有文章均包含本聲明。

相關(guān)文章

關(guān)鍵詞:英偉達(dá),硅仙人
  • 日榜
  • 周榜
  • 月榜

軟媒旗下網(wǎng)站: IT之家 最會(huì)買 - 返利返現(xiàn)優(yōu)惠券 iPhone之家 Win7之家 Win10之家 Win11之家

軟媒旗下軟件: 軟媒手機(jī)APP應(yīng)用 魔方 最會(huì)買 要知