边缘计算新标杆:索泰EN75060TC重塑AI大模型本地化部署

时间:2025-07-01 20:00:05分类:其他硬件浏览:1

自2008年推出首款ZBOX产品以来,索泰持续投入资源,与各行业客户建立紧密合作关系。通过深入洞察实际应用需求并紧密跟踪技术发展趋势,索泰不断推动ZBOX系列产品的创新与发展,致力于为各行各业提供真正契合实际需求的边缘计算终端解决方案。

边缘计算新标杆:索泰EN75060TC重塑AI大模型本地化部署

在生成式AI向边缘侧加速落地的进程中,ZBOX凭借突破性算力成为大模型本地化部署的关键载体。本地化部署对应用的实时性、稳定性、大规模数据处理能力及部署灵活性提出了极高要求。ZBOX EN高性能系列产品,搭载高性能 GPU 计算单元,并依托精妙的结构设计,成功在紧凑机身内显著提升稳定性与抗震能力,完美诠释了“体积小巧,性能强大”的产品精髓。使得 ZBOX 能够无缝融入多样化的边缘侧应用场景,有效解决了云端部署的响应瓶颈与数据隐私风险。

边缘计算新标杆:索泰EN75060TC重塑AI大模型本地化部署

ZBOX EN最新一代产品EN75060TC已经更新适配NVIDIA 50系显卡,荣获Tweaktown COMPUTEX 2025 最佳产品奖。本代最大的升级是使用桌面级显卡(RTX 5070/5060Ti)。首发版本搭载NVIDIA RTX 5060Ti 显卡。

新一代50系列显卡与40系列相比,在AI应用方面有着显著提升。在Ai生图方面,5060 Ti相较于4060 Ti 图片生成速度提升27%。

边缘计算新标杆:索泰EN75060TC重塑AI大模型本地化部署

而在MLPerf | ONNX的测试中,TTFT和生成速度这两个关键指标上5060Ti取得了大幅度的领先,平均快24%左右。

边缘计算新标杆:索泰EN75060TC重塑AI大模型本地化部署

边缘计算新标杆:索泰EN75060TC重塑AI大模型本地化部署

在充沛的算力与16GB大显存的支持下,EN75060TC能够低延迟运行14B版本/32B量化版本的模型。

在边缘计算应用场景下,其主要优势在于:

- 极致紧凑设计:2.65L超小体积,搭载壁挂配件选项,便于灵活部署于空间受限场景,助力边缘计算与嵌入式系统集成,提升项目部署效率。

- 旗舰级AI性能:首发版本集成桌面级ZOTAC GAMING GeForce RTX 5060 Ti 显卡与Intel Core Ultra 7 255H处理器,提供高达855 AI TOPSAI算力(* CPU:96 TOPS + GPU:759 TOPS),支持本地化大模型推理与高性能图形渲染任务。

*CPU算力来源于Intel官方:Overall Peak 96 TOPS (Int8)

- 强大硬件拓展潜力:配备双DDR5-6400/5600内存槽(最高支持96GB),双M.2接口,确保整机满足高性能存储与大容量数据需求。

- 丰富专业接口:双雷电四接口与双网口设计,高达5个USB3.2接口,内含RS-232串口完美适配工业外设、高速数据传输和多屏协同应用场景。

在2.65L体积内,提供桌面级显卡性能,全场景接口生态,实现大模型在边缘侧的「高密度算力部署」的要求,有效解决了云端方案的延迟、隐私、成本问题。?

边缘计算新标杆:索泰EN75060TC重塑AI大模型本地化部署

索泰 ZBOX 旗舰系列搭载高性能 GPU 计算单元,并依托精妙的结构设计,成功在紧凑机身内显著提升稳定性与抗震能力,完美诠释了“体积小巧,性能强大”的产品精髓。这使得 ZBOX 能够无缝融入多样化的边缘侧应用场景,并提供强劲的算力支撑。

边缘计算新标杆:索泰EN75060TC重塑AI大模型本地化部署