借助GeForce RTX AI PC，NVIDIA使AI助手栩栩如生
G-Assist 项目、用于数字人类的NVIDIA ACE NIM 以及生成式AI 工具为RTX 笔记本电脑提供了更先进的AI 体验；适用于小语言模型的RTX 加速API 即将添加到Windows Copilot Runtime
COMPUTEX—2024年6月2日—NVIDIA宣布推出新款NVIDIA RTX？支持在新款GeForce RTX 上运行的人工智能助手和数字人类的技术？人工智能笔记本电脑。
NVIDIA 推出G-Assist 项目，这是一个由RTX 支持的AI 助手技术演示演示，可以为PC 游戏和应用程序提供上下文感知帮助。 G-Assist项目的技术演示将在Studio Wildcard推出的《方舟：生存提升》中首次亮相。 NVIDIA还发布了首款基于PC的NVIDIA NIM？专为NVIDIA ACE 数字人类平台构建的推理微服务。
这些技术得到NVIDIA RTX AI 工具包—— 的支持，这是一组新的工具和SDK，可帮助开发人员在Windows PC 上优化和部署大规模生成式AI 模型。它们加入了NVIDIA 的全栈RTX AI 创新，加速了500 多个应用程序和游戏以及200 个OEM 合作伙伴笔记本电脑设计。
NVIDIA消费AI业务副总裁Jason Paul表示：“NVIDIA在2018年发布了搭载Tensor Core的RTX GPU和DLSS技术，迎来了AI PC时代。现在，在G-Assist项目和NVIDIA的帮助下ACE、NVIDIA将赋能超过1亿RTX AI PC用户解锁新一代AI体验。”
GeForce AI助手G-Assist项目
人工智能助手将改变游戏和应用内体验——从提供游戏策略到分析多人游戏重播，再到为复杂的创意工作流程提供动力。 G-Assist 项目让用户洞察未来。
PC 游戏提供了广阔的游戏世界供玩家探索，也提供了复杂的机制供玩家掌握，这使得即使对于最有经验的玩家来说也充满挑战且耗时。 G-Assist项目旨在利用生成式人工智能为玩家提供触手可及的游戏知识。
G-Assist项目可以接收玩家的语音或文本输入内容、游戏窗口的上下文信息，并通过AI视觉模型处理数据。这些模型通过连接到游戏知识数据库的大型语言模型(LLM) 增强对特定游戏和应用程序的上下文感知和理解，然后生成以文本或语音形式传递给用户的定制响应。
NVIDIA 和Studio Wildcard 合作在《方舟：生存提升》演示中展示了这项技术。 G-Assist项目可以帮助回答有关生物、物品、背景知识、任务、关卡BOSS等问题。由于G-Assist项目具有游戏环境感知和上下文理解能力，因此可以根据玩家的游戏进度提供个性化的响应。
G-Assist 程序还可以配置玩家的游戏系统，以获得最佳的游戏性能和能源效率。它可以提供对性能指标的深入了解，根据游戏玩家的硬件优化图形设置，执行安全超频，甚至在保持性能目标的同时智能降低功耗。
首款ACE PC NIM亮相
旨在为数字人类提供支持的NVIDIA ACE 技术现已通过NVIDIA NIM 在RTX AI PC 和工作站上提供，NVIDIA NIM 推理微服务使开发人员能够将部署时间从几周缩短到几分钟。 ACE NIM 在设备本地运行高质量推理，以实现自然语言理解、语音合成、面部动画等。
COMPUTEX 期间，NVIDIA ACE NIM 将在与Inworld AI 合作开发的Covert Protocol 技术演示中首次在PC 上游戏亮相，展示NVIDIA Audio2Face?以及在PC 上本地运行的NVIDIA Riva 自动语音识别技术。
为本地PC SLM增加GPU加速功能
Microsoft 和NVIDIA 正在联手帮助开发人员为Windows 本机和Web 应用程序带来新的生成式AI 功能。双方的合作将为应用程序开发人员提供便捷的API来访问GPU加速的小语言模型（SLM），并支持在设备上运行的Windows Copilot运行时驱动的检索和增强生成（RAG）功能。
小语言模型为Windows 开发人员提供了巨大的可能性，包括内容摘要、内容生成和任务自动化。 RAG功能使AI模型能够访问基本模型中未完全表示的领域特定信息，以增强小语言模型。开发人员可以通过检索增强生成(RAG) API 利用特定于应用程序的数据源，并根据应用程序需求调整小语言模型的行为和功能。
NVIDIA RTX GPU 和其他硬件供应商的AI 加速器将加速这些AI 功能，为最终用户在整个Windows 生态系统中提供快速、响应灵敏的AI 体验。
该API 将于今年晚些时候发布开发者预览版。
借助 RTX AI Toolkit，模型速度提升4倍，体积缩小3倍
AI生态系统已经构建了数十万个开源模型供应用程序开发人员使用，但大多数模型都是针对通用目的进行预训练并在数据中心运行。
为了帮助开发人员构建在PC 上运行的特定于应用程序的AI 模型，NVIDIA 推出了RTX AI Toolkit，这是一组用于在RTX AI PC 上自定义、优化和部署模型的工具和SDK。 RTX AI Toolkit将于6月份发布，供更多开发者使用。
开发人员可以使用开源QLoRa 工具定制预训练模型，并使用NVIDIA TensorRT Model Optimizer 对模型进行量化，以减少高达3 倍的RAM 消耗。 NVIDIA TensorRT Cloud 将优化模型，以在RTX GPU 产品中实现峰值性能。与预训练模型相比，性能提升高达4倍。
NVIDIA AI 推理管理器(AIM) 应用开发套件(SDK) 现已开放抢先体验，可完美调度PC 与云端之间的AI 推理，简化PC 应用开发者进行AI 集成的复杂性。它还以统一的NIM格式预先配置PC所需的AI模型、引擎和依赖包，并支持所有主流推理后端，包括跨不同处理器（GPU、NPU和CPU）的TensorRT、DirectML、Llama.cpp和PyTorch-CUDA 。
Adobe、Blackmagic Design 和Topaz 等软件合作伙伴将RTX AI Toolkit 的组件集成到其流行的创意应用程序中，以提高RTX PC 上的AI 性能。
Adobe 创意云产品营销副总裁Deepa Subramaniam 表示：“Adobe 和NVIDIA 将继续合作，为包括视频、成像、设计、3D 等在内的所有创意工作流程提供突破性的客户体验。RTX PC 上的TensorRT 10.0 为创作者提供了突破性的客户体验。” ，为设计师和开发人员提供了前所未有的性能和人工智能驱动的功能，为在Photoshop 等行业领先的创意工具中进行内容创作开辟了新的创意可能性。”
TensorRT-LLM 等RTX AI 工具包组件已集成到流行的生成式AI 开发框架和应用程序中，包括Automatic1111、ComfyUI、Jan.AI、Langchain、LlamaIndex、Oobabooga 和Sanctum.AI。
用于内容创作的AI
NVIDIA 还将RTX AI 加速集成到创作者、改装者和视频爱好者的应用程序中。
去年，NVIDIA 推出了使用TensorRT 进行RTX 加速的Automatic1111，这是最流行的稳定扩散用户界面之一。从本周开始，RTX 还将对流行的ComfyUI 进行加速，与当前可用版本相比，性能提升高达60%，与MacBook Pro M3 Max 相比，性能提升高达7 倍。
NVIDIA RTX Remix 是一个Mod 平台，它使用全景光线追踪技术、NVIDIA DLSS 3.5 和物理精确材质重新创建经典DirectX 8 和DirectX 9 游戏。 RTX Remix 包括运行时渲染器和RTX Remix 工具包应用程序，可简化修改游戏资产和材质的过程。
去年，NVIDIA 开源了RTX Remix Runtime，让改装者能够扩展游戏兼容性并提高渲染能力。
自今年早些时候推出以来，已有20,000 名改装者使用该工具包重制经典游戏，并在RTX Remix Showcase Discord 上开发了130 多款RTX 重制游戏。
本月，NVIDIA 将开源RTX Remix 工具包，让模组制作者能够简化资产替换和场景重新点亮的方式，增加RTX Remix 资产摄取器支持的文件格式，并通过新模型增强RTX Remix 的AI 纹理工具。
此外，NVIDIA还通过REST API访问RTX Remix工具包的功能，允许Modder实时连接RTX Remix和Blender等数字内容创建工具、Hammer等mod制作工具以及诸如此类的生成式AI应用程序作为ComfyUI。 NVIDIA 还为RTX Remix Runtime 提供了SDK，允许改装者将RTX Remix 的渲染器部署到DirectX 8 和DirectX 9 Classic 之外的其他应用程序和游戏中。
随着越来越多的RTX Remix 平台开源，世界各地的改装者可以创造出更多令人惊叹的RTX Remix 游戏。
NVIDIA RTX Video 是流行的AI 超分辨率功能，现已作为SDK 向所有开发者开放，可在Google Chrome、Microsoft Edge 和Mozilla Firefox 浏览器中使用。它可以帮助开发人员原生集成AI，以进行采样、锐化、压缩伪影减少和高动态范围(HDR) 转换。
视频编辑软件Blackmagic Design的DaVinci Resolve和Wondershare Filmora即将支持RTX Video，这将使视频编辑用户能够将低质量视频文件升级到4K分辨率，并将SDR源文件转换为HDR视频。此外，免费媒体播放器VLC media 将很快在其现有的超分辨率功能之上添加对RTX Video HDR 的支持。
继续浏览有关 快讯 的文章
