鲸云网10月4日消息，据媒体报道，把一台 iPhone 接到 Mac 上一起跑 AI，听起来像极客玩家的奇思妙想，如今已经被普通人用一根数据线变成了现实。
事情的起因很朴素。搭载 M4 Pro 芯片的 MacBook Pro 只有 24GB 统一内存，面对 Qwen3.8‑27B 这类参数规模不小的本地大模型，光是预填充（prefill）阶段就会因为内存吃紧而明显变慢。据 Wccftech 报道，一位 Reddit 用户用 USB‑C 数据线把 iPhone 17 Pro Max 外接到了这台 Mac 上，借助一款名为 backburner 的开源工具，把推理任务拆开，让 Mac 和手机里的 A19 Pro 芯片协同工作。
具体做法是分层接力。每一批 256 个 token 里，MacBook Pro 先算第 1 到 40 层，再把中间激活值传给手机；iPhone 17 Pro Max 的 GPU 负责第 41 到 64 层，与此同时 Mac 已经开始处理下一批数据。靠这种流水式分工，手机端 GPU 的运算速度相比不调用 GPU 时快了大约 2.4 倍。在 手机数码 圈子里，用随身设备给笔记本补算力，正在成为本地 AI 玩法的新思路。
实测数字更能说明问题。把一份 2000 token 的文档预填充并保存会话，在 8K 上下文下，仅靠 Mac 本机每秒处理 132 个 token，接上 iPhone 后达到 177 个，提升 35%；上下文拉到 16K，速度从每秒 109 个涨到 157 个，增幅来到 44%；即便到 32K，也有 29% 的改善。神经网络引擎也没闲着，旧上下文会被编译成专用模型，140K 长度下单 token 写入耗时从 279 毫秒降到 176 毫秒。
当然这套方案并非全能。该用户也坦言，在 64K 以内的场景里，手机并不会加速文本生成，真正”出活”的解码环节依旧全部压在 Mac 肩上。这也提醒打算折腾 AI大模型 本地部署的人：外设协同能缓解显存瓶颈，却替代不了主机本身的算力上限。背靠开源社区，类似的”拼凑式加速”或许还会冒出更多版本。
编辑：泽川
免责声明：本站转载的文章，版权归原作者所有；旨在传递信息，不代表本站的观点和立场。
