在AI技术迅猛发展的今天,一个小小的开源项目却可能颠覆整个行业的格局。近日,一位独立开发者通过逆向工程,成功实现了在苹果Neural Engine(ANE)上进行完整的神经网络训练,包括反向传播。这项突破不依赖CoreML、Metal或GPU,直接利用苹果硅的纯ANE硬件运行。消息一出,在X(前Twitter)上迅速引发热议,尤其是Brian Roemmele的推文,将其与“零人类公司”(Zero-Human Company)的愿景相结合,称其为“世界改变性”的进展。作为AI爱好者和从业者,我们不妨来深入了解一下这件事的来龙去脉,以及它对未来的潜在影响。
事件的起源:一个“不可能”的开源突破
这一切源于GitHub上一个名为“ANE”的开源项目(github.com/maderix/ANE),由开发者maderix独立完成。苹果官方一直声称ANE只适合推理(inference),不支持训练(training)。但这位开发者通过破解私有API,证明了ANE不仅能训练,还能高效运行。
在推文中,Brian Roemmele兴奋地描述道:项目演示了一个单层Transformer(维度768,序列512)在M4芯片上每步只需9.3毫秒,持续性能达1.78 TFLOPS,而ANE利用率仅为11.2%。这意味着M4芯片的潜力远未发挥——数百万台闲置的Mac mini、MacBook和iMac瞬间变成了高效的AI“超级计算机”。
更惊人的是效率对比:M4 ANE每瓦特约6.6 TFLOPS,比NVIDIA A100高出80倍!苹果宣传的“38 TOPS”其实是INT8格式下的峰值,而实际FP16训练性能远超预期。而且,由于功耗低如手机级别,你可以24/7运行训练,而不会担心电费或环境影响。
Brian Roemmele是“零人类公司”的创始人,他将这项技术视为实现愿景的关键:将闲置Mac转化为分布式AI训练节点。用户可以通过参与“ZHC@Home”项目,让电脑在空闲时处理AI工作负载,赚取收入——据称可达原有水平的100倍!这不仅降低了AI训练的门槛,还将计算从昂贵的云数据中心转移到桌面,减少碳足迹和成本。
技术细节:从单层到完整模型
项目起初只是单层演示,但很快演进到支持完整模型。在后续推文中,Brian分享了一个简单教程,让任何人能在M4或更新Mac上训练一个110M参数的Stories110M模型(基于Llama-2架构,12层,768隐藏维度,32k词汇表)。数据集是TinyStories(2000万token的简单故事数据),完美适合入门。
教程步骤简明:
1. 克隆代码:在Terminal中运行git clone https://github.com/maderix/ANE并进入training目录。
2. 准备数据:用Python脚本生成tinystories_data00.bin。
3. 构建程序:运行make train_large编译72个自定义ANE内核。
4. 开始训练:执行./train_large,观察实时损失值和性能(M4上每步约107毫秒)。
5. 监控仪表盘:安装blessed、psutil和numpy,运行Python脚本来看实时曲线、文本生成样本和硬件统计。
这个过程只需15分钟,无需额外软件,一切本地运行。项目使用MIT许可,社区已在扩展多层管道和权重处理。Brian的公司已测试更大模型,证明这是训练“数百万小型专家模型”的可行路径,而不是单一巨型模型。
当然,也有一些质疑声。回复中,有人指出逆向工程依赖私有API,苹果可能通过macOS更新封堵;ANE与A100针对不同负载,效率对比有争议;缺乏PyTorch等成熟生态。目前,这更像是研究黑客,而不是生产级工具。但正如开源精神所言,它证明了“可能性”——苹果本有能力,却未开放。
为什么这事重要?AI平民的新篇章
这项突破的意义远超技术层面。首先,它降低了AI入门的门槛。过去,训练模型需租用价值数万美元的A100集群,排队等候,成本动辄数十万。现在?只需一台Mac,就能本地、私密地微调大型模型。云GPU的时代或将终结,AI计算从“亿万美元数据中心”转向“你的桌面”。
其次,它契合分布式计算趋势。Brian的“零人类公司”愿景是将存档数据转化为自主AI系统,无需人类干预。想象一下:全球数百万Mac闲置时贡献算力,形成一个低功耗网络(增量功率仅10-20 MW,却媲美大型数据中心)。这不只省钱,还环保——避免建造耗资百亿的工厂。
对普通用户来说,这意味着新机会:你的Mac能“打工”赚钱。更广义上,它推动AI去中心化,减少对巨头(如NVIDIA)的依赖,促进创新。开源社区的胜利,再次证明个体开发者能挑战巨头叙事。
当然,挑战犹存:稳定性、生态支持、苹果的态度。但正如Brian所说,“我们才刚开始”——从单层到全模型,未来可期。
结语:未来已来,你准备好了吗?
这个开源突破如同一颗炸弹,炸开了苹果ANE的黑匣子。它不仅技术上“世界改变性”,还预示着AI从云端回归本地、从精英转向大众的时代。如果你有Mac,不妨试试教程,亲身感受。AI革命不再遥远,它已在你的电脑上运行。
欢迎在评论区讨论:你认为这项技术会如何改变AI格局?苹果会支持还是封杀?期待你的观点!
本文基于X用户Brian Roemmele的推文及相关开源项目撰写,旨在科普分享。如有技术疑问,建议直接查看GitHub仓库。