設(shè)置
  • 日夜間
    隨系統(tǒng)
    淺色
    深色
  • 主題色
国资委:将对整车央企进行战略性重组    小米新机重拾 UWB 技术

AI 訓(xùn)練新利器:EROFS 文件系統(tǒng)支持 48 位尋址,突破 16TiB 容量限制

2025/3/24 9:52:50 來源:IT之家 作者:故淵 責(zé)編:故淵

IT之家 3 月 24 日消息,科技媒體 phoronix 昨日(3 月 23 日)發(fā)布博文,報道稱隨著 Linux 6.15 內(nèi)核周期的臨近,開源的只讀文件系統(tǒng) EROFS 將迎來重大升級,新增 48 位尋址支持,以應(yīng)對 AI 模型訓(xùn)練所需的海量數(shù)據(jù)處理需求。

當(dāng)前 EROFS 的 32 位塊尋址限制了文件系統(tǒng),最大容量為 16TiB(使用 4KiB 塊)。新增的 48 位尋址支持將大幅擴(kuò)展文件系統(tǒng)的容量,讓其更適合處理 AI 訓(xùn)練中的大規(guī)模數(shù)據(jù)集和對象存儲客戶端的需求。

本次更新擴(kuò)展核心磁盤結(jié)構(gòu)(如 inode、設(shè)備槽和 inode 塊),并引入 32 字節(jié)緊湊 inode 的 mtime 字段以支持基本時間戳功能。

本次更新還優(yōu)化了壓縮性能。為提升 Zstd 壓縮算法的效率,新版引入了字節(jié)導(dǎo)向的編碼擴(kuò)展,允許壓縮器保留其當(dāng)前方法。測試顯示,使用 48 位尋址后,Zstd 鏡像構(gòu)建時間顯著縮短,在 Intel Xeon Platinum 8163 CPU 上,構(gòu)建時間從 3 分 52 秒縮短至 12 秒。

IT之家注:EROFS(Enhanced Read-Only File System,增強(qiáng)型只讀文件系統(tǒng))是一種輕量級的只讀文件系統(tǒng),最初由華為開發(fā),現(xiàn)由全球開源社區(qū)維護(hù)。它專為各種只讀使用場景設(shè)計,不僅僅是為了節(jié)省存儲空間,更是提供高性能的解決方案。

廣告聲明:文內(nèi)含有的對外跳轉(zhuǎn)鏈接(包括不限于超鏈接、二維碼、口令等形式),用于傳遞更多信息,節(jié)省甄選時間,結(jié)果僅供參考,IT之家所有文章均包含本聲明。

相關(guān)文章

關(guān)鍵詞:EROFS,Linux,linux
  • 日榜
  • 周榜
  • 月榜

軟媒旗下網(wǎng)站: IT之家 最會買 - 返利返現(xiàn)優(yōu)惠券 iPhone之家 Win7之家 Win10之家 Win11之家

軟媒旗下軟件: 軟媒手機(jī)APP應(yīng)用 魔方 最會買 要知