苹果根本模型的建模概述苹果官方发布论文

苹果在谷歌芯片上演习AI打响抛弃英伟达GPU第一枪?_英伟_芯片 云服务

苹果发布的论文称,他们在8192块TPU v4芯片上演习云侧AFM(Apple Foundation Model),利用4096的序列长度和4096个序列的批量大小,进行了6.3万亿token演习。
端侧AFM在2048块TPU v5p芯片上进行演习。

苹果的决定表明,一些大型科技公司在人工智能演习方面可能正在探求英伟达图形处理单元的替代品。

一些芯片行业媒体称,这是苹果打响了抛弃英伟达GPU的第一枪。

今年6月初,日本证券公司瑞穗证券估计,英伟达掌握着用于演习和支配OpenAI的GPT等模型的AI芯片市场的70%至95%。
一些专家将英伟达在AI芯片市场的地位描述为护城河,其旗舰AI图形处理单元GPU(例如H100)与该公司的CUDA软件相结合,使其在竞争中霸占了先机。

包括谷歌、Meta、甲骨文和特斯拉在内的科技公司一贯在努力构建自己的人工智能系统和产品。

心智不雅观察所研究员潘攻愚指出,苹果宣告其Apple Foundation Model(AFM)在谷歌自主开拓的Tensor处理单元(TPU)进行演习,而且还租用了谷歌的云做事。
苹果在AI演习方面的权衡折射出了英伟达通用型AI加速器和谷歌的ASIC定制化AI做事体系的竞争升级。

谷歌自2015年以来一贯在利用自主设计的TPU来演习和支配AI模型。
不是设计通用途理器,而是将其设计为专门用于神经网络事情负载的矩阵处理器,在全体大量打算和数据通报过程中,根本不须要访问内存。

今年5月,谷歌宣告推出了人工智能(AI)数据中央芯片Trillium,据称该芯片的速率比较之前的版本提升了险些5倍。
该公司表示,这款芯片将用于开拓自己的模型,包括Gemini和Imagen。

谷歌称,如果提前三年预订,最新的TPU每小时利用本钱不到2美元。
谷歌于2015岁首年月次推出TPU用于内部事情负载,并于2017年向"大众开放。
它们现在是专为人工智能设计的最成熟的定制芯片之一。

只管如此,谷歌仍是英伟达最大的客户之一。
它利用英伟达 的GPU和自己的TPU来演习AI系统,并且还在其云端***英伟达技能的访问权限。

“虽然英伟达目前掌握着高达80%份额的高端AI芯片市场,但剩余市场份额大多被大型云做事供应商如谷歌、微软、亚马逊霸占。
这一次苹果采取的谷歌TPUv5虽然在通用性上较英伟达同生态位芯片逊色,但主打一个性价比,综合总本钱(TCO)要低英伟达四倍,而且拿货周期短。
目前谷歌TPUv5所在的市场大约有300亿美元,英伟达一贯觊觎这块‘肥肉’,但考虑到和谷歌奇妙的竞合关系,英伟达目前还不会贸然大举进入ASIC领域。
”潘攻愚剖析称。

Meta首席实行官马克·扎克伯格和Alphabet首席实行官桑达尔·皮查伊上周均揭橥评论称,他们的公司和业内其他公司可能在AI根本举动步伐上投资过度,但他们也承认,不这样做的商业风险太高。
一旦掉队,将无法节制未来10到15年最主要的技能。

本文系不雅观察者网独家稿件,未经授权,不得转载。