IT之家 3 月 24 日消息,科技媒體 phoronix 昨日(3 月 23 日)發(fā)布博文,報道稱隨著 Linux 6.15 內(nèi)核周期的臨近,開源的只讀文件系統(tǒng) EROFS 將迎來重大升級,新增 48 位尋址支持,以應(yīng)對 AI 模型訓(xùn)練所需的海量數(shù)據(jù)處理需求。
當(dāng)前 EROFS 的 32 位塊尋址限制了文件系統(tǒng),最大容量為 16TiB(使用 4KiB 塊)。新增的 48 位尋址支持將大幅擴(kuò)展文件系統(tǒng)的容量,讓其更適合處理 AI 訓(xùn)練中的大規(guī)模數(shù)據(jù)集和對象存儲客戶端的需求。
本次更新擴(kuò)展核心磁盤結(jié)構(gòu)(如 inode、設(shè)備槽和 inode 塊),并引入 32 字節(jié)緊湊 inode 的 mtime 字段以支持基本時間戳功能。
本次更新還優(yōu)化了壓縮性能。為提升 Zstd 壓縮算法的效率,新版引入了字節(jié)導(dǎo)向的編碼擴(kuò)展,允許壓縮器保留其當(dāng)前方法。測試顯示,使用 48 位尋址后,Zstd 鏡像構(gòu)建時間顯著縮短,在 Intel Xeon Platinum 8163 CPU 上,構(gòu)建時間從 3 分 52 秒縮短至 12 秒。
IT之家注:EROFS(Enhanced Read-Only File System,增強(qiáng)型只讀文件系統(tǒng))是一種輕量級的只讀文件系統(tǒng),最初由華為開發(fā),現(xiàn)由全球開源社區(qū)維護(hù)。它專為各種只讀使用場景設(shè)計,不僅僅是為了節(jié)省存儲空間,更是提供高性能的解決方案。
廣告聲明:文內(nèi)含有的對外跳轉(zhuǎn)鏈接(包括不限于超鏈接、二維碼、口令等形式),用于傳遞更多信息,節(jié)省甄選時間,結(jié)果僅供參考,IT之家所有文章均包含本聲明。