唯一本地跑1280亿参数大模型！AMD锐龙AI Max+ 395重磅升级
快科技7月30日消息，AMD Zen5架构的锐龙AI Max+ 395，是第一个可以在本地运行700亿参数AI大模型的平台，当然需要搭配128GB统一内存，而现在，AMD奉上重磅升级，1280亿参数大模型都可以在本地运行了！
当然，能做到这一点的还是只有锐龙AI Max+ 395，还是必须搭配128GB统一内存，并分配96GB作为显存，而且必须在Vulkan llama.cpp环境下。
驱动方面需要搭配还在测试阶段的25.10 RC 24版本，下个月初将会变成正式版25.8.1。
这使得锐龙AI Max+ 395成为第一个能在本地运行1090亿参数的meta Llama 4 Sout大模型的平台，体积多达66GB，活跃参数最多170亿，并支持Vision、MCP。
这得益于该模型使用了混合专家(MoE)模式，每次只激活模型的一部分，从而保持性能可用，锐龙AI Max+ 395实测可以做到每秒15 Tokens。
同时，锐龙AI Max+ 395还可以跑68GB体积、1230亿参数的Mistral Large，至于18GB、300亿参数的Qwen3 A3B、17GB、270亿参数的Google Gemma，自然更是不在话下。
当然，锐龙AI Max+ 395还支持各种各样的模型尺寸、量化格式，包括GGUF。
同样重要的是，锐龙AI Max+ 395升级支持了更大的上下文尺寸，从传统的4096 Tokens左右，一举来到了惊人的256000 Tokens，从而能够分析、汇总更大规模的文档等数据资料。
不过这里需要注意，得开启Flash Attention、Q8 KV Cache。
对于一般的非大规模模型，32000 Tokens的上下文就足够用了，锐龙AI Max+ 395则提供了新的可能，而以往如此超大规模的上下文，往往需要几万十几万的设备才能实现。
锐龙AI Max+ 395、128GB配置的迷你AI工作站，价格已经低至1.3万元左右，可以说性价比是相当高了。
相关文章
- 性能提升20％、功耗下降40%！AMD锐龙ThreadRipp
- 几乎追上AMD！兆芯新一代开胜KH-50000处理器飙
- 搭载AMD锐龙5 8600G！联想启天M550商用主机图赏
- 首款无核显Zen5 CPU来了！AMD锐龙7 9700F频率、
- 各自价位最好的两款游戏CPU！AMD 7800X3D、
- AMD推出全新基于"Zen 5"架构的锐龙Threadripper
- AYANEO NEXT 2官宣：AMD顶级锐龙AI Max+ 395走
- 与NVIDIA竞争信心满满 曝AMD要对MI350大幅提价
- 惊喜首发价13599元！玲珑星核超级AI主机发布：
- 64核只要4万元太良心！AMD Zen5撕裂者9000X国行