IT之家 2 月 22 日消息,英偉達(dá)于 2 月 20 日發(fā)布博文,宣布推出 NVIDIA In-Game Inferencing(NVIGI)SDK,簡(jiǎn)化 AI 模型在游戲中的部署,實(shí)現(xiàn)從云端到本地 PC 的無(wú)縫銜接,從而推動(dòng)游戲 AI 的革新。
IT之家援引英偉達(dá)官方介紹,NVIGI SDK 是一款基于插件的 GPU 優(yōu)化推理管理器,旨在簡(jiǎn)化 ACE 模型與游戲和交互式應(yīng)用的集成,提供以下功能:
簡(jiǎn)化 AI 集成:開發(fā)者可將 AI 推理直接集成到 C++ 游戲中,優(yōu)化性能并降低延遲。
賦能 ACE 角色:借助 NVIGI SDK,開發(fā)者可以將 NVIDIA ACE AI 角色輕松引入游戲,打造更智能的游戲體驗(yàn)。
插件式架構(gòu):采用 GPU 優(yōu)化的插件式推理管理,簡(jiǎn)化 ACE 模型集成。插件支持靈活添加、更新和管理,涵蓋語(yǔ)音識(shí)別(ASR)、語(yǔ)言模型等多種 AI 功能。
GPU 優(yōu)化:利用 Compute-in-Graphics (CIG)技術(shù),在渲染的同時(shí)高效進(jìn)行 AI 推理。
原生 DLL 支持:提供 Windows 原生 DLL,簡(jiǎn)化 C++ 游戲開發(fā)流程。
開發(fā)者通過結(jié)合 NVIGI 與 ACE 技術(shù),可以創(chuàng)造出具備高級(jí)生成式 AI 能力的自主角色。這些角色不僅能進(jìn)行實(shí)時(shí) NPC 對(duì)話,還擁有上下文記憶和逼真的動(dòng)畫,從而極大地提升游戲的沉浸感和互動(dòng)性。
NVIGI 的架構(gòu)支持靈活集成各類 AI 功能,并能編排智能代理工作流程,使游戲角色能夠?qū)崟r(shí)地聽、推理、說話和做出動(dòng)畫反應(yīng)。
開發(fā)者只需初始化 NVIGI,加載插件和模型,創(chuàng)建運(yùn)行時(shí)配置,啟用 GPU 調(diào)度和渲染集成,即可開始使用 ACE 的設(shè)備端推理功能。NVIGI SDK 提供了豐富的插件選擇,包括支持不同硬件和模型的語(yǔ)音識(shí)別(ASR)、語(yǔ)言模型(GPT)以及 RAG 嵌入等功能,為開發(fā)者提供了強(qiáng)大的 AI 工具箱。
廣告聲明:文內(nèi)含有的對(duì)外跳轉(zhuǎn)鏈接(包括不限于超鏈接、二維碼、口令等形式),用于傳遞更多信息,節(jié)省甄選時(shí)間,結(jié)果僅供參考,IT之家所有文章均包含本聲明。