当前位置: 首页 » 资讯 » 新科技 » 正文

苹果与LM Studio强强联手:四台Mac Studio集群让万亿参数大模型本地化流畅运行

IP属地 中国·北京 编辑:大力财经 头部财经 时间:2026-06-22 21:52:11

在近期一场备受瞩目的技术发布活动中,消费级硬件与人工智能的融合迈出了关键一步。LM Studio与苹果联合宣布,双方通过深度技术协作,成功在一套由四台Mac Studio组成的计算集群上,实现了月之暗面公司研发的万亿参数大模型Kimi K2.6的本地化稳定运行。这一突破性成果打破了传统认知中大型AI模型必须依赖云端算力的局限,为个人及中小团队部署高性能AI系统提供了全新范式。

Kimi K2.6采用先进的混合专家(MoE)架构,模型总参数规模突破1万亿量级。在四台Mac Studio的集群配置下,依托苹果统一内存架构的协同优势,系统总内存容量达到1.5TB,充分满足了模型推理所需的内存带宽与存储需求。实测数据显示,该集群在特定任务场景下可实现每秒生成28个文本单元的输出速度,其能耗表现较传统企业级GPU集群降低超过40%,展现出消费级硬件在AI算力领域的巨大潜力。

技术演示中,研发团队重点展示了跨设备协作的实用场景。通过LM Studio开发的LM link技术,用户可使用MacBook Neo笔记本或iPhone等终端设备,在本地局域网环境下安全访问集群中的AI模型。所有数据处理过程均严格限定在私有网络范围内,配合端到端加密传输机制,有效解决了数据隐私保护的行业痛点。该功能已于今年6月完成Mac及iOS平台适配,标志着苹果生态在AI时代正式构建起硬件级安全防护体系。

支撑此次技术突破的关键在于硬件互联技术的革新。采用Thunderbolt 5接口的Mac Studio集群实现了多设备内存池化共享,这种创新架构使不同设备间的数据传输速率提升至传统方案的3倍以上。LM Studio工程师透露,通过优化内存管理算法,集群整体运算效率较单台设备提升达12倍,为消费级硬件运行超大规模模型提供了技术可行性验证。

对于开发者社区而言,这项成果具有里程碑意义。它证明通过合理的硬件组合与系统优化,个人或小型团队也能构建出媲美专业数据中心的AI计算平台。随着LM link等工具的开源推广,未来将有更多创新者能够基于现有消费级设备,开发出具备隐私保护特性的定制化AI应用,这或将重塑人工智能技术的普及路径与商业生态。

免责声明:本网信息来自于互联网,目的在于传递更多信息,并不代表本网赞同其观点。其内容真实性、完整性不作任何保证或承诺。如若本网有任何内容侵犯您的权益,请及时联系我们,本站将会在24小时内处理完毕。

全站最新