AMD锐龙AI Max:消费级硬件中独一无二的AI开发平台

更新时间:2025-07-07 17:28:48作者:ludashiwj
【ZOL中关村在线原创访谈】生成式人工智能以及大语言模型领域的突破与创新,为各行各业带来了新的机遇。尤其是对于PC领域而言,作为兼顾大众化普及与出色计算能力的平台,PC已然成为人工智能应用落地与广泛传播的核心媒介。人工智能技术与PC逐步融合的过程,快速推动了PC行业进入全面智能化的时代。

而在此背景之下,这种融合不仅重构了PC软硬件生态,更催生出了从芯片到算法,从硬件到软件,从个体应用到全产业生态的新的价值链。也因此,越来越多致力于通过AI改变生产、生活、工作方式的开发者与创业者们,义无反顾地投身其中。

佘洪宇,这位毕业于全球顶尖设计学府伦敦艺术?学中央圣?丁学院产品设计专业,并曾荣获IF设计奖的年轻人,正在独?运营着一个名为 "启问Spark Query"的AI创业项?。在众多AI开发者、创业者中,这个项目或许不够宏大,但却直击普通用户如何正确使用AI的核心痛点。而这个项目的诞生,源自于一次偶然的思维火花绽放。

AMD锐龙AI Max:消费级硬件中独一无二的AI开发平台

·架起普通用户与AI的桥梁:创新的火花常常来自一次偶然的机会

Spark Query项目的中文名称叫做“启问”,这个项目的诞生并非出自一份严谨又详尽的创业计划书,佘洪宇说,“年初,我在教??使?AI时,发现他们总是觉得AI‘不听话’, 难以有效沟通。此时我意识到,问题的根源在于他们?法清晰、准确地表达??的需求。后来,我的父母从他们自己的?作经验中, 受到通过“表单”来规范化输入的启发,和我—起沟通,开发了这个小工具。它通过—系列提问式交互,引导?户梳理思路,将模糊的想法转化为精准的,帮助AI能够充分理解用户需求的指令。”

当佘洪宇将这个免费工具分享给身边的同事好友之后,它在创作者和文字工作者群体中获得了出乎意料的积极反馈。显著的工作效率提升,使得启问Spark Query 在发布的第一个月,就累计提供了超过1500次服务,并吸引了数百位注册用户。

其实,不少人与AI很难成功、有效沟通的根本原因在于没有“产品经理”式的思维方式。这导致用户无法通过清晰、合理、详细、甚至专业的提示词或指令让AI充分了解自身需求,以生成真正符合用户要求,而非大量注水的内容或答案。这是摆在当前AI用户面前最为核心的问题。

启问Spark Query通过提问式交互,一步步引导用户去完善需求,而不是让用户自己去试着如何去完善需求,这种体验上的差异正是其精髓所在。

此外,启问Spark Query也支持企业本地部署,也就是在不联网的状态下也能够顺利运行,这使得一些担心商业机密、个人隐私泄露的用户,也能够放心使用。而要保证启问Spark Query在本地运行时也能够保持良好效果,至少需要在本地部署30B参数量的Q8量化模型。因此,启问Spark Query对于用户本地硬件性能,尤其是GPU显存提出了较高要求。

而在当前众多硬件解决方案里,佘洪宇选择了更具经济性的AMD锐龙AI Max+ 395平台。

·结缘锐龙AI Max+ 395:消费级硬件中独一无二的能力

当PC行业抓住AI契机全面进入AIPC时代之后,传统PC硬件率先迎来创新机遇。但在AMD锐龙AI Max+ 395平台诞生之前,不少硬件其实只是达到了迈入AI应用门槛的级别,并不能真正满足用户对于AI应用的需求。

从大语言模型应用的角度来说,硬件平台需要提供容量足够大和速度足够快的内存配置来加快大参数量大模型的加载,同时需要有大显存GPU为生成过程提速。AMD锐龙AI Max+ 395通过统一内存技术,可以将128GB内存中最高96GB内存分配做显存使用,完美解决了移动端平台内存小、显存低的瓶颈,从而让迷你电脑、AIPC具备了本地运行32B、70B参数量稠密大模型,以及235BMoE混合专家大模型的能力。

正因如此,佘洪宇与锐龙AI Max+ 395结缘,走上了AI创业的这条路。

在谈及自己对锐龙AI Max+ 395处理器的看法时,佘洪宇坦言,“我的典型?作流是:首先利用最先进的云端大模型(如DeepSeek来快速验证—个业务场景的可行性;如果可行,出于成本控制和数据安全这两个核心因素考量,我会转向在本地部署量化模型进行后续开发。这个过程中,—个核心的痛点在于对比测试——不同机构对同—模型的量化方案会产生效果差异,我必须反复对比才能选出最优解。在传统高端显卡(如RTX5090)上,每次对比都需要重新加载和卸载模型,这个过程非常耗时,严重拖慢了开发迭代的速度。而AMD锐龙AI Max+ 395平台则完美地解决了我的痛点,无需反复加载。”

确实,在笔者实际测试锐龙AI Max+ 395平台时也发现,得益于128GB超大统一内存以及内存-显存分配机制,传统高端显卡系统上都比较难实现的多模型加载与切换,在锐龙AI Max+395上实现起来却非常简单。下图是笔者测试时加载Qwen3-235B-A22B-IQ2_S的MoE混合大模型的截图,内存峰值占用高达63.6GB,如果没有128GB超大内存支持的话,这基本是不可能完成的任务。

AMD锐龙AI Max:消费级硬件中独一无二的AI开发平台

此外,佘洪宇结合自身在创业过程中的实际应用体验,总结并分享了锐龙AI Max+ 395处理器的几个核心价值:

首先,它拥有颠覆性的模型测试效率。这得益于128GB超大容量的统一内存,这一特性使得佘洪宇能够在内存中同时加载2到3个30B规模的量化大模型,并且轻松实现模型间的无缝切换和即时对比,无需等待,节约大量模型加载时间。佘洪宇说,“仅此—项,就将我的开发效率提升了?少20-30%。”

其次,轻松应对多模型复杂应用。在运行RAG(检索增强生成)、AI绘画这类需要语言模型、向量模型、绘图模型等多模型协同?作的场景时,锐龙AI Max+ 395平台也能轻松胜任。它避免了传统双显卡方案的高成本、高功耗和高噪音等弊端,非常适合在桌面或家庭环境中进行安静且高效的开发。

其三,攻克超长上下文处理瓶颈。当需要处理如播客转录、长文档分析等需要超长上下文(例如32K)的任务时,即便是顶级的消费级显卡也往往难以胜任。而锐龙AI Max+ 395平台则可以充分满足这种需求。佘洪宇表示,“这在目前的消费级硬件中几乎是独一无二的能力。”

佘洪宇的工作极度依赖基于GPU进行的模型开发和推理,同时也需要强大的CPU来支撑相关的软件开发、数据预处理以及后端服务,AMD锐龙AI Max+ 395处理器基于AMD Zen5架构打造,原生16颗超大核心32线程设计,最高加速频率5.1GHz,总缓存高达80MB,NPU峰值AI算力为50TOPS。同时它还集成了40个图形核心、2560个流处理器+64GB LPDDR5显存的Radeon 8060S iGPU,加上128GB超大统一内存以及其中最高96GB容量给显存分配。自然可以同时胜任AI开发以及软件开发两种不同的任务,足见锐龙AI Max+ 395平台的泛用性与独特性。

AMD锐龙AI Max:消费级硬件中独一无二的AI开发平台

·用锐龙AI Max+ 395初步构建个人智能数据中心:真正安全、私密的个人助理

AI应用可以说是非常典型的入门简单、精通难。这一点相信很多使用过AIGC生成图片、或者使用大语言模型生成文档的朋友都深有体会。正如前面所言,精通AI应用的本质是让自己的思维从用户思维转变为产品经理思维,这一点说起来容易,但做起来真的非常困难。

佘洪宇和他的“启问Spark Query”项目其实就是为了打破这种壁垒。“很多人认为AI的上限取决于模型本身,但我认为—个更完整的公式是:(模型算法+训练数据+外部知识库)x算力x优质提示词。在这个公式里,模型和大部分算力由厂商提供,但高质量的外部知识库和优质提示词,则越来越依赖于我们个人实时产生的数据。”

然而,这就面临着老生常谈的“数据隐私安全”问题。

当用户使用AI执行文档阅读、会议纪要、工作总结、记录生活等任务时,是否放心把这些数据交给云端的AI,就成为摆在用户面前的另一个非常棘手的问题。

在佘洪宇的创业过程中,不免也会遇到这样的问题。佘洪宇认为AIPC最终将会成为“个人智能数据中心”。它不仅是一台强大的计算设备,同时更是一个安全、可靠的本地数据堡垒,能够在终端侧完成对高度敏感数据的处理和分析,并确保用户数据安全与隐私。未来,AIPC将成为真正安全、私密的个人助理。

以前我们常说,“硬件为创新赋能。”但如何赋能?或许更多时候只是在一代又一代的游戏画面和GPU性能螺旋升级中感受得到。

而这一次,锐龙AI Max+395平台为佘洪宇这样的AI开发者所做的赋能,不仅仅在于AI应用本身的验证与开发,更在于未来有可能借助强劲算力平台所构建的“个人智能数据中心”这样的全新概念,它改变了我们对于AIPC的惯有看法,单纯的AI应用落地和传播媒介,至少在佘洪宇的概念框架中,已经不足以描述。

当然,为了最终实现“个人智能数据中心”这一愿景,佘洪宇也对AMD平台未来的发展提出了两点期待:首先是生态支持的敏捷性,期待AMD能加速对业界前沿AI模型的适配与优化,让开发者能第一时间利用最新的技术;其次是更亲民的价格,以降低个人开发者和小型团队的门槛,推动高性能AIPC在更广泛的开发者和用户群体中普及,加速生态成熟。

·结语

佘洪宇的AI创业项目“启问Spark Query”不仅解决了用户在AI使用过程中的沟通难题,还通过AMD锐龙AI Max+ 395平台实现了高效、安全的本地开发,并且基于这一平台勾勒了一个充满无限可能的“个人智能数据中心”图景,这一刻,“硬件赋能创新”得到了更为充分的诠释。而且我们也相信,在像佘洪宇这样的更多的AI开发者、创业者、实践者们的推动下,AIPC行业会有一个更加清晰的未来。

(10104395)

热门推荐

Copyright ©  2009-2025 鹿大师 www.ludashiwj.com 版权声明 网站地图