設(shè)置
  • 日夜間
    隨系統(tǒng)
    淺色
    深色
  • 主題色

微軟正式上線最強生成式 AI 虛擬機、擴展 Azure OpenAI 服務(wù)

2023/8/8 9:12:57 來源:IT之家 作者:故淵 責(zé)編:故淵

IT之家 8 月 8 日消息,微軟今年 3 月和英偉達合作,宣布推出 Azure ND H100 v5 VM 虛擬機預(yù)覽版;經(jīng)過數(shù)月的測試之后,微軟今天正式推出該虛擬機,幫助企業(yè)更高效處理生成式 AI 任務(wù)。

IT之家此前報道,ND H100 v5 VM,是 Azure 迄今更強大和高度可伸縮的 AI 虛擬機系列。

該虛擬機支持的按需配置可達 8 至上千個通過 Quantum-2 InfiniBand 網(wǎng)絡(luò)互連的 NVIDIA H100 GPU,使得 AI 模型的性能明顯提高。相較上一代 ND A100 v4 VM,本次推出的虛擬機包含以下創(chuàng)新技術(shù):

  • 8 塊 NVIDIA H100 Tensor Core GPU,通過下一代 NV Switch 和 NV Link 4.0 互連。

  • 在無阻塞胖樹網(wǎng)絡(luò)中,每個 GPU 搭載 400 Gb / s NVIDIA Quantum-2 CX7 InfiniBand 和每 VM 3.2Tb / s 的性能。

  • 每個 VM 中的 8 塊本地 GPUs 之間通過 3.8Tb / s 對分割帶寬的 NV Switch 和 NV Link 4.0 互聯(lián)。

  • 第四代英特爾至強可擴展處理器。

  • PCIE 第 5 代主機到 GPU 互連,每個 GPU 帶寬為 64Gb / s。

  • 16 信道的 4800 MHz DDR5 內(nèi)存。

新的虛擬機使用 NVIDIA 的 NVIDIA Tensor Core H100 GPU 和 NVIDIA Quantum-2 InfiniBand 網(wǎng)絡(luò),當(dāng)前僅限于美國東部和西部 Azure 企業(yè)訪問。

微軟補充說,公司正在努力在明年為其虛擬機添加數(shù)十萬塊新的 GPU。

微軟正式宣布該 Azure 虛擬機之外,還宣布擴展其 Azure OpenAI 服務(wù),在加拿大東部、美國東部 2(East United States 2)、日本東部和英國南部地區(qū)上線。

微軟表示 Azure OpenAI 服務(wù)客戶已經(jīng)超過 11000 名,本季度平均每天吸引 100 名新客戶。

這一顯著的增長證明了我們的服務(wù)為渴望利用人工智能潛力滿足其獨特需求的企業(yè)帶來的價值和可擴展性。

微軟還補充說,ChatGPT AI 平臺最強大的版本 GPT-4 也將適用于新的 Azure OpenAI 服務(wù)區(qū)域。

相關(guān)閱讀:

微軟 Azure ND H100 v5 VM 虛擬機預(yù)覽發(fā)布:采用 8 至上千個 NVIDIA H100 Tensor Core GPU

廣告聲明:文內(nèi)含有的對外跳轉(zhuǎn)鏈接(包括不限于超鏈接、二維碼、口令等形式),用于傳遞更多信息,節(jié)省甄選時間,結(jié)果僅供參考,IT之家所有文章均包含本聲明。

相關(guān)文章

關(guān)鍵詞:Azure微軟
  • 日榜
  • 周榜
  • 月榜

軟媒旗下網(wǎng)站: IT之家 最會買 - 返利返現(xiàn)優(yōu)惠券 iPhone之家 Win7之家 Win10之家 Win11之家

軟媒旗下軟件: 軟媒手機APP應(yīng)用 魔方 最會買 要知