假如你于收集上搜刮“Mac”、“AI”、“年夜模子”等要害词，会发明不少网友正于用本身的Mac，搭建属在本身的AI情况。从经济实惠的Mac mini，到面向专业人士的Mac Studio，差别需求的用户，都能于Mac上部署一个专属在本身的AI年夜模子，晋升事情效率。

可以或许于一台小装备上部署AI年夜模子，离不开Mac的“同一内存架构”。患上益在这项架构，CPU及GPU可以同享统一个高速内存池。这象征着，一台16GB的基础款Mac mini，就等同在拥有了一块16GB“显存”的计较卡，而一台顶配的Mac Studio，更是相称在拥有了512GB的超年夜显存。于运行AI东西时，所有显存都能被有用使用，这也让Mac于AI时代找到了属在本身的新赛道。

那末，Mac能不克不及像AI计较卡同样，经由过程叠加的方式来部署更繁杂的模子，从而实现更多专业级的事情？

用“搭积木”的方式 实现机能增加

传统意义上讲，想要实现AI运算能力晋升的要领很是简朴，那就是竭尽所能地增长显存。然而患上益在同一内存架构，“增长显存”于Mac上变患上很是简朴，只需要增长内存容量便可。几个月前，来自英国的创业公司Exo Labs就利用了四台搭载M4 Pro芯片的Mac mini搭建集群，乐成部署了236b的DeepSeek-Coder-V2混淆专家模子，随后他们又使用了两台Mac Studio搭建集群，并乐成部署了671b的DeepSeek-V3模子。

借助高速的Thunderbolt 5串联

这类使用近似“搭积木”的方式实现AI机能晋升，也让Exo Labs看到了更多可能性。此次，我有幸见到了Exo Labs利用四台顶配版Mac Studio，并借助高速的Thunderbolt 5串联，打造了一台价格逾越平凡家用汽车的AI怪兽。固然，这套昂贵的AI装备，也拥有使人惊奇的能量，它可以或许同时流利运行两个参数目高达671B的DeepSeek年夜语言模子，这也让咱们看到于AI海潮囊括全世界的今天，Mac也依附其怪异的架构，找到了一个专属在本身的全新定位。

Exo V2

为了充实使用好它的机能，Exo Labs还有开发了一个调理东西Exo V2，它会按照用户部署的模子，主动分配需要的内存。例如部署一个8bit量化的DeepSeek V3模子，年夜概需要700G的同一内存，而调理东西此时会将其平均分配到两台Mac Studio装备上并完成加载，于现实利用上，它的token天生速率基本上与云端年夜模子无异，足以满意用户的利用需求。

别的，Exo V2还有可以或许实现同步运行多个年夜模子。例如于运行DeepSeek V3模子的同时，还有能再运行一个DeepSeek R1，实现两个年夜模子并行事情。

用更强盛的东西 为中小企业提供帮忙

对于在泛博小我私家用户而言，简朴易用的云端AI东西足以满意一样平常需求，但对于在数据隐私有较高需求的企业或者专业人士，U8国际官网当地部署AI东西，也能防止将包罗贸易秘要、客户信息或者敏感研究数据的资料上传到云端。

Mac Studio集群提供的当地化方案，可以说完善地解决了中小企业的挂念。我更愿意将云端模子及当地模子看做是“通用东西”与“专业东西”的区分。云端年夜模子是强盛的通用东西，常识赅博，但没法包管数据的绝对于私密。而基在Mac Studio搭建的当地模子，则更像是一套为你量身定制的专业东西。

想象一下，一家状师事件所可以将海量的过往案例、法令文书输入当地模子举行练习，打造一个专属在本身的、精晓本所营业的AI法令参谋。或者者是一家研发企业，将本身所有过往的参考文档、项目资料喂给电脑，练习出一个专属在企业本身的常识库。这些数据全数生存于当地，完全杜绝了隐私泄露的危害，这为高价值常识型企业的AI化转型提供了一条更安全、更可控的路径。

值患上一提的是，经由过程Mac来搭建AI东西，也是一项成本极低的选择。虽然说四台Mac Studio的价值甚至逾越了一台汽车，但若使用英伟达的计较卡来实现不异的AI能力，可能需要部署多年夜20张A100显卡，其成本甚至高达数百万。

四台Mac Studio构成的AI集群

并且别忘了，这些庞然年夜物对于电量的耗损一样巨年夜，甚至还有需要自力的散热空间才能确保不变事情。比拟之下，四台Mac Studio的满载功耗只有不到400W之内，并且巨细也只有一个行李箱那末年夜。

写于末了

于AI的将来邦畿中，除了了依靠互联网办事商提供的云端算力，一样也存于着对于当地化、专业化、高隐私性解决方案的巨年夜需求，而Mac也于AI时代下，依附其怪异的架构上风精准地切入了这片蓝海市场。它不单单是创意事情者的出产力东西，更成了专业人士及中小企业触手可和、统筹机能与隐私的AI事情站。

这，也许才是Mac于AI时代真实的大志地点。

版权所有，未经许可不患上转载