# 瞧我发现了什么用不起的软件：exo

**URL:** <https://meta.appinn.net/t/topic/83138>\
**Category:** 青蛙的分享\
**Created:** [2026 年3 月 25 日 03:53 UTC](https://meta.appinn.net/t/topic/83138 "2026-03-25T03:53:29Z")\
**Posts on this page:** 8\
**Page:** 1

<div class="post-metadata">

作者： ![Qingwa](https://meta-edge.appinn.com/user_avatar/meta.appinn.net/qingwa/32/58632_2.png) [@Qingwa](https://meta.appinn.net/u/Qingwa)\
发布日期： [2026 年3 月 25 日 03:53 UTC](https://meta.appinn.net/t/topic/83138/1 "2026-03-25T03:53:29Z")

</div>

> **[GitHub - exo-explore/exo: Run frontier AI locally.](https://github.com/exo-explore/exo)**
>
> Run frontier AI locally.

| 项目 | Ollama | exo |
| --- | --- | --- |
| 本质 | 本地跑模型工具 | 多设备拼模型框架 |
| 运行方式 | 单机 | 多设备 |
| 难度 | 简单 | 很复杂 |
| 稳定性 | 高 | 低（实验） |
| 性能 | 快 | 通常更慢 |
| 适合谁 | 所有人 | 折腾党 |

大概是你有好几台 Mac M5 Pro / M3 Ultra 以上设备，或者其他支持 [RDMA](https://en.wikipedia.org/wiki/Remote_direct_memory_access) 的设备。

然后就可以让几台设备，连在一起跑大模型了

 ![https://github.com/exo-explore/exo/raw/main/docs/imgs/dashboard-cluster-view.png](https://h2cdn.appinn.me/original/3X/b/e/be2ca8926602ffaf003ae7bd180e638041640afb.jpeg)

---

<div class="post-metadata">

作者： ![Duah](https://meta-edge.appinn.com/user_avatar/meta.appinn.net/duah/32/51072_2.png) [@Duah](https://meta.appinn.net/u/Duah)\
发布日期： [2026 年3 月 25 日 04:40 UTC](https://meta.appinn.net/t/topic/83138/2 "2026-03-25T04:40:25Z")

</div>

這是算力共享方案嗎?  
然後速度取決於傳輸速度這樣

---

<div class="post-metadata">

作者： ![Qingwa](https://meta-edge.appinn.com/user_avatar/meta.appinn.net/qingwa/32/58632_2.png) [@Qingwa](https://meta.appinn.net/u/Qingwa)\
发布日期： [2026 年3 月 25 日 05:52 UTC](https://meta.appinn.net/t/topic/83138/3 "2026-03-25T05:52:04Z")

</div>

就是组合硬件方案吧。一台机器不是内存不够么，多几台一起呗

---

<div class="post-metadata">

作者： ![tiger](https://meta-edge.appinn.com/user_avatar/meta.appinn.net/tiger/32/23490_2.png) [@tiger](https://meta.appinn.net/u/tiger)\
发布日期： [2026 年3 月 25 日 06:54 UTC](https://meta.appinn.net/t/topic/83138/4 "2026-03-25T06:54:41Z")

</div>

那么问题来了： e 发音吗？

---

<div class="post-metadata">

作者： ![Colin5887](https://meta-edge.appinn.com/user_avatar/meta.appinn.net/colin5887/32/59253_2.png) [@Colin5887](https://meta.appinn.net/u/Colin5887)\
发布日期： [2026 年3 月 25 日 07:29 UTC](https://meta.appinn.net/t/topic/83138/5 "2026-03-25T07:29:53Z")

</div>

显存很难通过拼多设备来提升，桥接/交火的方案，在家用机领域不是很常见。而且，有钱买好几张显卡的应该也不差这点预算直接上计算卡。

而内存不足跑不起来大模型…….内存的速度挺慢的，DDR4的速度更慢，DDR5哪怕价格上天，速度还是很慢。把他们共享起来，再加上设备通信的延迟，我不认为0.1token/s的速度算得上好用。

至于把苹果设备连在一起，单个苹果主机自己就能跑30B的大模型了，为什么还要连起来。如果我真的需要200B的大模型，直接订阅GPT或者Gemini就行了，每个月也没多少钱

---

<div class="post-metadata">

作者： ![e1bc91145138](https://meta-edge.appinn.com/user_avatar/meta.appinn.net/e1bc91145138/32/69325_2.png) [@e1bc91145138](https://meta.appinn.net/u/e1bc91145138)\
发布日期： [2026 年3 月 25 日 12:44 UTC](https://meta.appinn.net/t/topic/83138/6 "2026-03-25T12:44:54Z")

</div>

人家这个我觉得主要是针对有本地需求的人，4×MacMini就可以跑671B了，得益于thunderbolt接口，运行还是可以的  
不过真有大算力需求那还是不太行

---

<div class="post-metadata">

作者： ![dearxixi](https://meta-edge.appinn.com/user_avatar/meta.appinn.net/dearxixi/32/63819_2.png) [@dearxixi](https://meta.appinn.net/u/dearxixi)\
发布日期： [2026 年3 月 25 日 13:08 UTC](https://meta.appinn.net/t/topic/83138/7 "2026-03-25T13:08:01Z")

</div>

EXO

---

<div class="post-metadata">

作者： ![Debatrix](https://meta-edge.appinn.com/user_avatar/meta.appinn.net/debatrix/32/4680_2.png) [@Debatrix](https://meta.appinn.net/u/Debatrix)\
发布日期： [2026 年3 月 27 日 08:53 UTC](https://meta.appinn.net/t/topic/83138/8 "2026-03-27T08:53:46Z")

</div>

之前听一个老哥聊个这种操作，是公司需要微调一个模型，需求不算紧急，甚至租云服务训练都嫌不值。  
最后采购了几台mac，组网微调完模型之后当作办公电脑发下去了，相当于除了电费和折腾外没有任何额外支出。
