苹果旗下的Claris子公司正在测试一款名为Harbor的应用,它能把搭载苹果芯片的Mac直接变成私有AI服务器。
Harbor可以在单台苹果芯片Mac上使用,同时也支持通过Thunderbolt 5连接多台Mac电脑,把统一内存汇集起来跑更大的模型。苹果在macOS Tahoe 26.2里加入了Thunderbolt 5的RDMA支持,让多机集群速度更快。
Harbor能自动检测通过Thunderbolt 5连接的设备,并让用户在应用内浏览、下载和加载开源权重模型。它被描述为一款开箱即用的应用,完全不需要手动配置。
Harbor把你的Mac变成私有AI推理服务器。在苹果芯片上本地运行开源权重模型——你的数据永远不会离开你的硬件,也绝不会上传到云端。通过Thunderbolt 5连接多台Mac电脑来汇集统一内存,就能跑单台机器根本扛不住的大模型,同时支持更高的并发。
几分钟就能搞定,而不是几小时。Harbor会自动检测你通过Thunderbolt 5连接的设备并组成集群。插上线、启动,马上就能跑——不用手动配置,不用命令行,也不需要任何基础设施经验。
直接下载并运行模型。在应用里浏览、下载和加载开源权重模型。Harbor帮你搞定模型管理,让你把精力放在真正的工作上,而不是折腾环境。
集群才能真正上规模。连接两台或更多支持Thunderbolt 5的Mac电脑,Harbor会把它们的统一内存汇集成一个推理资源。既能跑超出任何单台电脑容量的模型,也能在集群上同时处理更多并发请求。
Harbor目前处于早期访问阶段,还没有公开发布。之前App Store上曾出现过它的页面,但现在已经被移除了。
Claris最出名的是面向企业的数据库平台FileMaker,所以苹果会怎么营销Harbor、它是否会免费,目前都不清楚。Harbor的注册页面要求填写公司名称,这明显更偏向商业用途。
对于想在Mac上跑本地AI服务器的用户来说,已经有一些知名的免费替代方案。Exo是开源的Mac集群工具,LM Studio则适合单台Mac使用,而苹果的Harbor看起来是把LM Studio那种简洁界面和多机集群能力结合在了一起。







