好意思东时分7月29日小色哥，苹果公司发布iPhone AI的首个预览版，随后发布论文，称其东谈主工智能模子是在谷歌的TPU（张量解决单位）上检会的。论文中先容了为扶直Apple Intelligence功能而迷惑的基础讲话模子，包括一个联想用于在建筑上高效开动的约30亿参数模子和一个基于专有云联想的云侧大模子。
苹果基础模子的建模概述苹果官方发布论文
苹果发布的论文称，他们在8192块TPU v4芯片上检会云侧AFM（Apple Foundation Model），使用4096的序列长度和4096个序列的批量大小，进行了6.3万亿token检会。端侧AFM在2048块TPU v5p芯片上进行检会。
苹果的决定标明，一些大型科技公司在东谈主工智能检会方面可能正在寻找英伟达图形解决单位的替代品。
一些芯片行业媒体称小色哥，这是苹果打响了烧毁英伟达GPU的第一枪。
本年6月初，日本证券公司瑞穗证券预计，英伟达截止着用于检会和部署OpenAI的GPT等模子的AI芯片市集的70%至95%。一些群众将英伟达在AI芯片市集的地位描画为护城河，其旗舰AI图形解决单位GPU（举例H100）与该公司的CUDA软件相合并，使其在竞争中占据了先机。
包括谷歌、Meta、甲骨文和特斯拉在内的科技公司一直在起劲构建我方的东谈主工智能系统和居品。
心智不雅察所磋磨员潘攻愚指出，苹果文书其Apple Foundation Model（AFM）在谷歌自主迷惑的Tensor解决单位（TPU）进行检会，而且还租用了谷歌的云行状。苹果在AI检会方面的量度折射出了英伟达通用型AI加快器和谷歌的ASIC定制化AI行状体系的竞争升级。
谷歌自2015年以来一直在使用自主联想的TPU来检会和部署AI模子。不是联想通用解决器，而是将其联想为有益用于神经网罗使命负载的矩阵解决器，在所有多半联想和数据传递流程中，根柢不需要探听内存。
本年5月，谷歌文书推出了东谈主工智能（AI）数据中心芯片Trillium，据称该芯片的速率比较之前的版块普及了确实5倍。该公司暗意，这款芯片将用于迷惑我方的模子，包括Gemini和Imagen。
谷歌称，要是提前三年预订，最新的TPU每小时使用资本不到2好意思元。谷歌于2015年头度推出TPU用于里面使命负载，并于2017年向公众绽放。它们咫尺是专为东谈主工智能联想的最熟习的定制芯片之一。
尽管如斯，谷歌一经英伟达最大的客户之一。它使用英伟达 的GPU和我方的TPU来检会AI系统，况且还在其云表出售英伟达本事的探听权限。
“诚然英伟达咫尺截止着高达80%份额的高端AI芯片市集，但剩余市集份额大多被大型云行状供应商如谷歌、微软、亚马逊占据。这一次苹果取舍的谷歌TPUv5诚然在通用性上较英伟达同生态位芯片失态，但主打一个性价比，轮廓总资本（TCO）要低英伟达四倍，而且拿货周期短。咫尺谷歌TPUv5地点的市集约莫有300亿好意思元，英伟达一直觊觎这块‘肥肉’，但洽商到和谷歌神秘的竞合相干，英伟达咫尺还不会贸然大举干预ASIC领域。”潘攻愚分析称。
亚州色情Meta首席本质官马克·扎克伯格和Alphabet首席本质官桑达尔·皮查伊上周均发表接洽称小色哥，他们的公司和业内其他公司可能在AI基础步调上投资过度，但他们也承认，不这么作念的交易风险太高。一朝逾期，将无法掌执昔时10到15年最紧迫的本事。