2 月 22 日，英伟达在 2 月 20 日发布的博文中宣布了一项重大技术突破——NVIDIA In-Game Inferencing（NVIGI）SDK 的正式推出。这一创新工具旨在简化 AI 模型在游戏中的部署流程，实现从云端到本地 PC 的无缝过渡，为游戏 AI 的发展注入全新活力。
据英伟达官方介绍，NVIGI SDK 是一款基于插件的 GPU 优化推理管理器，专注于简化 NVIDIA ACE 模型与游戏及交互式应用的集成工作。它具备以下几大核心功能：
-
简化 AI 集成：NVIGI SDK 允许开发者将 AI 推理直接嵌入到 C++ 游戏中，通过优化性能和降低延迟，提升游戏的整体流畅度。
-
赋能 ACE 角色：借助 NVIGI SDK，开发者可以轻松地将 NVIDIA ACE AI 角色引入游戏世界，为玩家带来更智能、更具沉浸感的游戏体验。
-
插件式架构：该 SDK 采用 GPU 优化的插件式推理管理模式，极大地简化了 ACE 模型的集成过程。其插件支持灵活添加、更新和管理，涵盖语音识别（ASR）、语言模型等多种 AI 功能，为开发者提供了极高的自由度。
GPU 优化：通过 Compute-in-Graphics（CIG）技术，NVIGI SDK 能够在游戏渲染的同时高效完成 AI 推理任务，进一步提升性能。
-
原生 DLL 支持：NVIGI SDK 提供 Windows 原生 DLL，进一步简化了 C++ 游戏的开发流程，降低了开发门槛。
通过将 NVIGI 与 ACE 技术相结合，开发者能够创造出具备高级生成式 AI 能力的自主角色。这些角色不仅能进行实时 NPC 对话，还能拥有上下文记忆和逼真的动画效果，从而极大地提升游戏的沉浸感和互动性。
NVIGI 的架构设计支持灵活集成各类 AI 功能，并能够编排智能代理的工作流程，使游戏角色能够实时地听、推理、说话和做出动画反应。开发者只需完成初始化 NVIGI、加载插件和模型、创建运行时配置、启用 GPU 调度和渲染集成等步骤，即可开始使用 ACE 的设备端推理功能。
此外，NVIGI SDK 提供了丰富的插件选择，包括支持不同硬件和模型的语音识别（ASR）、语言模型（GPT）以及 RAG 嵌入等功能，为开发者打造了一个强大的 AI 工具箱。这一创新工具的推出，无疑将为游戏开发带来新的变革，推动游戏行业进入一个更加智能、更具互动性的新时代。
