英伟达近日在游戏开发领域迈出了重要一步,于2月20日正式揭晓了其NVIDIA In-Game Inferencing(NVIGI)SDK。这一创新工具旨在简化AI模型在游戏中的部署流程,实现从云端至本地PC的无缝迁移,为游戏AI的未来发展铺设道路。
据英伟达官方详细介绍,NVIGI SDK作为一款基于插件的GPU优化推理管理器,专为简化ACE模型与游戏及交互式应用的集成而设计。其核心功能亮点纷呈,为开发者带来了前所未有的便捷与高效。
首要优势在于AI集成的简化。借助NVIGI,开发者能够轻松将AI推理功能直接整合至C++游戏中,不仅优化了性能,还显著降低了延迟,为玩家带来更为流畅的游戏体验。
NVIGI SDK为游戏角色的智能化提供了强大支持。通过这一工具,开发者可以方便地将NVIDIA ACE AI角色引入游戏中,赋予游戏角色更加智能的行为模式,从而大幅提升游戏的沉浸感和互动性。
NVIGI的插件式架构同样值得称道。该架构采用GPU优化的插件式推理管理,使得ACE模型的集成变得更为简单。插件支持灵活添加、更新和管理,涵盖了语音识别(ASR)、语言模型等多种AI功能,为开发者提供了丰富的选择。
在GPU优化方面,NVIGI SDK充分利用了Compute-in-Graphics(CIG)技术,实现了在渲染的同时高效进行AI推理,进一步提升了游戏性能。
对于C++游戏开发者而言,NVIGI SDK还提供了Windows原生DLL支持,这一特性简化了开发流程,使得集成工作更加顺畅。
结合NVIGI与ACE技术,开发者能够创造出具备高级生成式AI能力的自主角色。这些角色不仅能够进行实时NPC对话,还拥有上下文记忆和逼真的动画效果,为玩家带来前所未有的游戏体验。
NVIGI的架构支持灵活集成各类AI功能,并能编排智能代理工作流程。这意味着游戏角色能够实时地听、推理、说话和做出动画反应,为玩家营造更加真实、生动的游戏世界。
使用NVIGI SDK的过程也极为简便。开发者只需进行初始化操作,加载插件和模型,创建运行时配置,并启用GPU调度和渲染集成,即可开始利用ACE的设备端推理功能。NVIGI SDK还提供了丰富的插件选择,包括支持不同硬件和模型的语音识别(ASR)、语言模型(GPT)以及RAG嵌入等功能,为开发者构建了一个强大的AI工具箱。