一个信号!苹果官宣:在谷歌TPU上训练其AI模型
财联社 2024-07-30 09:19

美东时间周一,苹果公司发布技术论文称,支撑其人工智能(AI)系统“苹果智能”(Apple Intelligence)的两个AI模型,是在谷歌设计的云端芯片上进行预训练的。

分析人士指出,苹果决定依赖谷歌的云基础设施是一个值得注意的信号,因为在生产人工智能处理器方面目前还没有公司能超过英伟达,英伟达占据了大约80%的市场份额。

这表明,在训练尖端人工智能方面,大型科技公司正在寻找英伟达以外的替代品。

苹果在上述技术报告中详细介绍了选择谷歌自主开发的Tensor处理单元(TPU)进行训练的情况。此外,苹果还在周一为部分设备发布了Apple Intelligence的预览版。

苹果指出,其Apple Foundation Model(AFM)和AFM服务器是在“云TPU集群”上进行训练的。这意味着苹果租用了云服务提供商的服务器来进行计算。

“这种系统使我们能够高效且可扩展地训练AFM模型,包括AFM设备端、AFM服务器和更大的模型。”该公司在报告中写道。

具体而言,苹果指出,为了构建可以在iPhone和其他设备上运行的人工智能模型(即设备端AFM),苹果使用了2048颗TPUv5p芯片。这是最先进的TPU,于去年12月首次推出。而在AFM服务器中,苹果部署了8192个TPUv4处理器。

此外,在上述报告中,苹果没有明确表示它未使用英伟达的芯片,但它对其人工智能工具和功能的硬件和软件基础设施的描述中,均没有提到英伟达的硬件。

据了解,与英伟达将其芯片和系统作为独立产品销售不同,谷歌通过其谷歌云平台销售TPU的使用权。有兴趣购买访问权限的客户必须通过谷歌的云平台构建软件才能使用这些芯片。

根据谷歌网站,最新的TPU在订购期限为三年时,每小时的使用成本不到2美元。谷歌于2015年首次推出TPU用于内部工作负载,并于2017年向公众开放。它们现在是为人工智能设计的最成熟的定制芯片之一。

而且,谷歌也是英伟达的主要客户之一。它在训练AI系统时使用了英伟达的GPU和自家的TPU,同时也在其云上出售英伟达技术的使用权限。

苹果的工程师在论文中表示,使用谷歌的芯片有可能制造出比论文中讨论的两种型号更大、更复杂的机型。该公司此前还表示,推理过程(即使用预训练的AI模型生成内容或做出预测)将部分在其数据中心的自有芯片上进行。

编辑/范辉

最新评论