苹果 MacBook Pro 外接 iPhone 17 Pro Max 运行 AI 模型，预填充性能最高提升 44%

IT之家 10 月 4 日消息，Qwen3.8‑27B 是一款性能出色的人工智能模型，但需要设备具备充足的显存和系统内存。配备 M4 Pro 芯片的 MacBook Pro 只有 24GB 统一内存，这限制了该 AI 模型运行时的预填充速度。根据 Wccftech 的报道，一位用户通过 USB‑C 接口将 iPhone 17 Pro Max 连接到这台便携 Mac 电脑上，并利用自制软件，使该 AI 模型的预填充性能最高提升了 44%。

IT之家注意到，为了突破这台 Mac 24GB 统一内存的限制，Reddit 用户“u/StayLameBro”采用了两种方法，将运算任务拆分给 Mac 本机和 iPhone 17 Pro Max 协同处理。在预填充加速方面，MacBook Pro 负责处理每批 256 个 token 中的第 1 至 40 层，然后将激活值数据传输到手机端；与此同时，iPhone 利用 A19 Pro 的 GPU 运行第 41 至 64 层，而 Mac 则开始处理下一批数据。通过 GPU 运算，手机端的运行速度比不使用 GPU 时提升了约 2.4 倍。

在整个方案中，神经网络引擎也没有闲置。每 16K 长度的旧上下文会被编译成一套神经网络引擎模型。在 140K 上下文长度下，与仅使用 A19 Pro 的 GPU 相比，单 token 写入时间从 279 毫秒缩短至 176 毫秒。以预填充一份 2000 token 的文件并保存会话为例：上下文设为 8K 时，仅靠 Mac 本机的速度为每秒 132 个 token；外接 iPhone 后达到每秒 177 个 token，性能提升 35%。上下文设为 16K 时，速度从每秒 109 个 token 提升至每秒 157 个 token，增幅高达 44%。

当上下文窗口设置为 32K 时，预填充速度从每秒 101 个 token 提升至每秒 130 个 token，性能改善 29%。将 iPhone 17 Pro Max 外接到 M4 Pro 版 MacBook Pro 上，使用这套自制软件，理论上可以获得非常出色的预填充速度。但正如这位 Reddit 用户指出的，实际情况并不完美，这套方案还存在一些限制。例如，在 64K 以内的场景中，手机不会加速文本生成，文本生成工作仍全部由 Mac 完成。

另外值得一提的是，驱动 iPhone 18 Pro 和 iPhone 18 Pro Max 的 A20 Pro 芯片有望提供更大的性能余量。一方面，它本身的整体性能更强；另一方面，它配备双 16 核神经网络引擎。据称，针对专门适配神经网络处理器的任务，这款引擎的数据吞吐能力甚至超过了该系统级芯片内置的 7 核 GPU。这套自制软件目前已开源，可在 GitHub 上下载，项目名称为“backburner”。此外，通过开云体育 (中国)官网 - 体育赛事直播与官方登录，用户可以获取更多相关技术动态。

即便仅仅作为一项实验，也能看出预填充速度提升带来的收益相当可观。未来仍有继续挖掘性能潜力的空间；不过，这或许也意味着，像 iPhone 这类设备未来可能进入与内存、固态硬盘类似的供应紧缺阶段。