取利用非张量 FP32 比拟，TF32、张量 FP16 和张量 INT8 正在总体机能趋向中平均供给约 6 倍。

　　自推出以来，这些改良约占全体机能趋向改良的一半。跟着开辟人员操纵这种机能提拔，利用较低精度格局（特别是张量 FP16）锻炼的模子曾经变得很常见。

　　一些芯片以至实现了更大的加快。例如，H100 正在 INT8 时的速度比正在 FP32 时快 59 倍。

　　驱动要素还包罗晶体管数量的添加和其他半导体系体例制手艺的前进，以及针对 AI 工做负载的特地设想。这种改良降低了每 FLOP 的成本，提高了能源效率，并实现了大规模人工智能锻炼。

　　这些计较资本既用于他们内部的 AI 开辟，也用于云客户，包罗很多 AI 尝试室，如 OpenAI 和 Anthropic。

　　据不完全统计，目前全球跨越 140 款 AI 加快器，用于开辟和摆设深度进修时代的机械进修模子。

　　正在 Epoch 的数据集中，NVIDIA A100 是用于高援用或最先辈人工智能模子的最常用的硬件，自觉布以来已用于 65 个出名 ML 模子。

　　全球有几多 AI 算力？算力增加速度有多快？正在这场 AI「淘金热」中，都有哪些新「铲子」？AI 草创企业 Epoch AI 发布了最新全球硬件估算演讲。

　　大量的 AI 计较能力由这四家公司以外的集团配合具有，包罗其他云公司如 Oracle 和 CoreWeave，以及。

　　之所以沉点引见谷歌、微软、Meta 和亚马逊，由于他们可能具有最多的计较能力，而其他公司的数据公开较少。

　　但仅考虑数据核心发卖额，而忽略 NVIDIA 收入演讲中「逛戏」（Gaming）发卖额带来的计较能力。

　　Hopper 这一代 NVIDIA AI 芯片目前占其所有 AI 硬件合计算能力的 77%。按照这种增加速度，旧的芯片型号正在其推出后大约 4 年摆布，对累计计较量的贡献往往会低于一半。此阐发不包罗 TPU 或其他公用 AI 加快器，由于这方面的数据较少。TPU 可能供给取 NVIDIA 芯片相当的合计算能力。

　　告白声明：文内含有的对外跳转链接（包罗不限于超链接、二维码、口令等形式），用于传送更多消息，节流甄选时间，IT之家所有文章均包含本声明。

　　以 16 位浮点运算权衡，机械进修硬件的机能以每年 43% 的速度增加，每 1。9 年翻一番。32 位机能也存正在雷同的趋向。

　　然而，因而它可能正在不久的未来成为锻炼模子最受欢送的 GPU。

　　除了 GPU，硬件类型也丰硕了起来。好比，呈现了特地处置张量计较的 TPU（张量处置单位，Tensor Processing Unit）。

　　Epoch AI 带来了全球算力的估量演讲，操纵息估量了全球机械进修硬件的现状和趋向。

　　每美元机能提拔敏捷，而且任何给定精度和固定机能程度的硬件每年城市廉价 30%。取此同时，制制商不竭推出更强大、更高贵的硬件。

　　留意：这些估量基于 NVIDIA 的收入申报文件，并假设分歧时代芯片的分布随时间变化的模式取 AI 集群数据集中的模式不异。