本地部署更简单!NVIDIA NIM微服务已上线 | AI快报

时间:2025-04-17 20:00:05分类:其他硬件浏览:5

NVIDIA NIM微服务已上线

本地部署更简单!NVIDIA NIM微服务已上线 | AI快报

前阵子,NVIDIA正式发布NIM推理微服务平台,旨在简化生成式 AI 模型的本地部署与优化,让搭载RTX显卡(包括50系列)的用户可通过预设包一键解锁本地AI的能力。通过该工具,普通玩家和创作者无需编程基础,即可在电脑上运行文本生成、图像创作、代码编写、语音处理、PDF解析等AI模型。

本地部署更简单!NVIDIA NIM微服务已上线 | AI快报

用户仅需下载对应功能的NIM应用(如PDF转播客问答用【PDF To Podcast】、人声修复用【StudioVoice】),即可快速调用AI模型。

本地部署更简单!NVIDIA NIM微服务已上线 | AI快报

相比ChatGPT等云端服务,本地运行免去长期订阅费用,且敏感数据全程保留在设备中,可避免泄露风险。目前已有数十项AI工具包可供选择,感兴趣的小伙伴,不妨前往查看【https://build.nvidia.com/nvidia】。

视频生成模型Google Veo2正式上线

本地部署更简单!NVIDIA NIM微服务已上线 | AI快报

昨天,谷歌全面开放“号称对标Sora”的Veo2视频生成模型,并将其整合到Google AI Studio中,用户只需输入文字提示词(中英文均可)或图片,即可免费生成720p的高清短视频(目前最长8秒,24fps)。

本地部署更简单!NVIDIA NIM微服务已上线 | AI快报

Veo2得益于对物理引擎的深度学习,目前已能精准地模拟水流和碰撞等规律与细节,真实性有颠覆性地提升,“多指”、“动作扭曲”等AI视频通病也得到改善。

本地部署更简单!NVIDIA NIM微服务已上线 | AI快报

此外,Veo2还可实现电影级运镜,支持广角、低角度跟踪等专业镜头指令,例如输入“蜜蜂绕蜂农飞舞+35mm镜头+金色逆光”,即可生成媲美纪录片的光影场景。想试用的小伙伴,不妨前往【https://aistudio.google.com/generate-video】免费使用。

3、OpenAI o3/o4 mini模型正式发布

本地部署更简单!NVIDIA NIM微服务已上线 | AI快报

OpenAI今日发布了新一代推理模型o3与轻量级o4-mini,据传这是其迄今为止最智能、多模态能力最强的AI模型。两款模型首次实现“图像思维链推理”,让AI像人类一样用视觉辅助思考,掀起通用人工智能的新浪潮。

本地部署更简单!NVIDIA NIM微服务已上线 | AI快报

用户可以上传白板照片或手绘草图等任意照片,模型可对其进行解释,即便图像模糊、颠倒或质量低下都没有问题,OpenAI o3 和 o4-mini 可以完全访问 ChatGPT 中的工具,通过处理图像、旋转、缩放或转换图像,作为其推理过程的一部分。且仅需一分钟左右的时间,AI就可以完成深度的视觉推理。

本地部署更简单!NVIDIA NIM微服务已上线 | AI快报

要想在本地实现AI模型的火力全开?你需要一张算力强大的显卡!影驰 RTX 5070 Ti系列显卡,让你的整机秒变AI引擎!配备16GB GDDR7大显存,轻松告别爆显存烦恼,模型加载丝滑流畅。AI算力高达1406TOPS,可轻松应对各类本地部署的AI模型,让你的AI使用告别卡顿!