科技行业：AI芯片风继续吹群贤毕至花落谁家？-华泰证券-2023.9.22-181页 2023-10-12 9915 51.pdf

《科技行业：AI芯片风继续吹群贤毕至花落谁家？-华泰证券-2023.9.22-181页 2023-10-12 9915 51.pdf》由会员分享，可在线阅读，更多相关《科技行业：AI芯片风继续吹群贤毕至花落谁家？-华泰证券-2023.9.22-181页 2023-10-12 9915 51.pdf（182页珍藏版）》请在淘文阁 - 分享文档赚钱的网站上搜索。

1、 免责声明和披露以及分析师声明是报告的一部分，请务必一起阅读。1 证券研究报告 科技科技 AI芯片风继续吹：群贤毕至，花落谁家？芯片风继续吹：群贤毕至，花落谁家？华泰研究华泰研究海外科技海外科技 电子电子 增持增持 (首评首评)半导体半导体 增持增持 (首评首评)研究员 何翩翩何翩翩 SAC No.S0570523020002 SFC No.ASI353 +(852)3658 6000 华泰证券研究所分析师名录华泰证券研究所分析师名录 重点推荐重点推荐 股票名称股票名称 股票代码股票代码 目标价目标价 (当地币种当地币种)投资评级投资评级 英伟达 NVDA US 650.00 买入 超威半导体

2、 AMD US 150.00 买入 资料来源：华泰研究预测 2023 年 9 月 22 日美国 首次覆盖首次覆盖 人工智能风继续吹，人工智能风继续吹，AI 芯片乘风而起，但芯片乘风而起，但 B 端应用落地才是制胜关键端应用落地才是制胜关键 本轮 AI 浪潮由 ChatGPT 掀起，并引发各中外科技企业展开对大语言模型及生成式 AI 的追逐和对算力的军备竞赛。GPT 背后的核心算法是谷歌在 2017年提出的 Transformer，相对于深度学习，其创新在于采用了接近无监督的自我监督预训练，因此需要大量训练数据，加上少量有监督的微调和强化学习相结合。随着更复杂和多元模型不断涌现，高算力的 AI

3、芯片将充分受惠。然而，若以上技术只停留在 C 端应用意义却并不大，因此我们更认为，本轮AI 热潮能否持续将取决于 B 端的大规模应用落地。AI 浪潮方兴未艾，我们首次覆盖给予 AI 芯片行业增持评级，重点推荐龙头英伟达及突围者 AMD。首选软硬件一体双护城河的首选软硬件一体双护城河的英伟达英伟达，同时看好突围二战有望凯旋，同时看好突围二战有望凯旋的的 AMD 作为全球 AI 芯片的龙头厂商，英伟达在高算力硬件和高粘性 CUDA 生态的双护城河下优势明显，将充分受益于 AI 需求高涨。我们认为，短期内英伟达将主要由数据中心业务带动，长期成长则取决于 AI 商业应用落地及芯片竞争格局的演变。随着

4、CoWoS 产能瓶颈的改善，我们认为英伟达 GPU 放量节奏将迎来加速。AMD 曾凭台积电的领先制程颠覆了一家独大的英特尔，如今在AI领域面对英伟达的突围战似曾相识。AI已是AMD战略首位，MI300也蓄势待发，我们认为 AI 新赛道乃 AMD 重估之钥。对比英伟达完善的软件生态 CUDA，AMD 的 ROCm 会否成为其阿克琉斯之踵？AI 芯片芯片竞争竞争趋白热化趋白热化：训练端“一超多强”，推理端百花齐放：训练端“一超多强”，推理端百花齐放 英伟达 GPU 一直为 AI 训练端首选。我们认为只有少数芯片能与其匹敌，如谷歌 TPU 和 AMD MI300 系列。当算法开始稳定和成熟，ASIC

5、 定制芯片凭着专用性和低功耗，能承接部分算力。因此，头部云计算及互联网大厂出于削减 TCO、提升研发可控性及集成生态等考量，均陆续发力自研芯片，我们认为或将成为英伟达最大的竞争对手。初创企业如 Cerebras、Graphcore等，以晶圆级芯片拼内存和传输速度，也有望异军突起。AI 推理市场规模大，但对算力要求比训练较低，因此百花齐放，在大模型和多模态趋势下 GPU或能夺份额。但目前推理端还是以 CPU 主导，多方涌入下竞争愈发激烈。台积电台积电 CoWoS 封装产能乃封装产能乃 AI 芯片厂商“必争之地”芯片厂商“必争之地”英伟达 H100 采用台积电 CoWoS 先进封装技术，而 AMD

6、 MI300 采用台积电 CoWoS 和 SolC 技术，二者都需依赖台积电先进封装产能。目前，AI 芯片需求旺盛，台积电 CoWoS 封装乃限制出货量的瓶颈之一。但据 Digitimes在 7 月 14/21 日报道，公司正积极扩产，到本年底至少达 12 万片，24 年将达 24 万片，而英伟达将取得约 15 万片；当前三大客户为英伟达、博通和赛灵思，而 MI300 在四季度推出后，AMD 或将一举跻身前五大客户。英伟达的订单或也将外溢到联电和 Amkor。另外，CoWoS 的瓶颈也许是来自日本的 Tazmo、Shibaura 等的封装设备厂商，交货周期往往需要 6-8 个月。配置建议：英伟

7、达配置建议：英伟达“买入”，“买入”，TP 650 美元美元；AMD“买入”，“买入”，TP 150 美元美元 英伟达作为全球数据中心 GPU 龙头，该业务已占总营收逾 75%，为主要盈利和营收贡献，将充分受惠于台积电先进封装产能明年翻倍，以及美国加息步入尾声。游戏显卡逐渐从挖矿和疫情间 PC 高基数影响中恢复，叠加高期待新游戏带动。首次覆盖英伟达（NVDA US）给予“买入”，FY24-25 年动态 20 倍 PS，目标价 650 美元。AMD 数据中心业务 CPU 制程仍领先英特尔，MI300 系列有力冲击英伟达，看好 CPU 和 GPU 均能抢夺份额；游戏业务将受益主机“半代升级”；客户

8、端业务 PC 市场下滑收窄渐入佳境，首次覆盖 AMD（AMD US）给予“买入”，目标价 150 美元，对应 24 PS 8.5x。风险提示：AI 技术落地和推进不及预期、行业竞争激烈、中美竞争加剧。免责声明和披露以及分析师声明是报告的一部分，请务必一起阅读。2 科技科技 正文目录正文目录 人工智能风继续吹，人工智能风继续吹，AI 芯片乘风而起芯片乘风而起.4 人工智能风再起，产业发展空间广阔.4 看好整体 AI 芯片需求将伴随着大模型和生成式 AI 的 B 端应用落地而增加.4 人脑神经网络的运作模式始终是人工智能追求的终极形态.7 我们处于 AI 的“iPhone”时刻吗？.8 生成式 A

9、I 将带动云大厂加码硬件基础设施.9“一超多强”的“一超多强”的 AI 芯芯片市场竞争格局片市场竞争格局.11 传统芯片巨头：英伟达在多方入局下能否继续笑傲江湖？.12 英伟达在推理端能否复制其在训练端的成功？.12 英伟达的两大护城河：高算力芯片和高粘性 CUDA 软件生态.12 先进的网络技术 NVLink+NVSwitch，为吞吐量和可扩展性带来突破.13 CUDA 软件生态的先发优势构筑英伟达第二护城河.16 生成式 AI 下较复杂的推理需求或为英伟达 GPU 赋新机.17 英伟达 SWOT 分析.19 传统芯片巨头：备受期待的突围者 AMD.20 以 AI 为战略首位，AMD 突围二

10、战能否凯旋？.20 MI300A 和 GH200：CPU+GPU AI 芯片架构仿生人脑结构.20 ROCm 生态圈会否成为 AMD 的“阿克琉斯之踵”？分而治之或可解困.24 传统芯片巨头：多元布局的追赶者英特尔.27 云计算和互联网大厂：或许是传统芯片厂商的最大竞争对手云计算和互联网大厂：或许是传统芯片厂商的最大竞争对手.32 谷歌 TPU：少数能与英伟达高算力 GPU 匹敌的 AI 芯片.32 亚马逊 AWS：Trainium&Inferentia，训练推理双管齐下.38 微软：“闭门造芯”Athena.40 Meta：首个自研推理端芯片 MTIA 将于 2025 年问世.41 异军突起

11、者：晶圆级芯片持续突破性能极限，内存和异军突起者：晶圆级芯片持续突破性能极限，内存和传输传输成破局关键成破局关键.43 Cerebras：向晶圆级大尺寸芯片迈出第一步，但良率和有效运行占比暂成疑：向晶圆级大尺寸芯片迈出第一步，但良率和有效运行占比暂成疑.43 Graphcore：Bow IPU 实现精细数据多指令并行实现精细数据多指令并行.48 特斯拉：特斯拉：Dojo 超算为自动驾驶而生，为公司四大全栈自研科技支柱之一超算为自动驾驶而生，为公司四大全栈自研科技支柱之一.52 晶圆级芯片跟传统芯片的各项对比晶圆级芯片跟传统芯片的各项对比.55 AI 芯片产业链：聚焦兵家芯片产业链：聚焦兵家必争

12、之地必争之地 CoWoS 封装封装.58 台积电大扩 CoWoS 产能，供给紧张有望得解.58 硅晶圆供应商：台积电的 6 家硅晶圆供应商占全球总产能 90%以上.59 衬底/基板（Substrate）：揖斐电、景硕、欣兴电子等.60 HBM 内存：SK 海力士、三星、美光，三足鼎立.61 服务器相关供应商：惠与、戴尔、联想、美超微、广达、纬创等.61 AI 不只是大模型，自动驾驶芯片群雄逐鹿，谁能突围？不只是大模型，自动驾驶芯片群雄逐鹿，谁能突围？.63 Mobileye：ADAS 技术奠基者，“黑箱子模式”优势不再，转型将面临挑战.65 免责声明和披露以及分析师声明是报告的一部分，请务必一

13、起阅读。3 科技科技 地平线：基于 BPU 架构布局自动驾驶生态追击.67 黑芝麻：第一家递交港股 18C 上市文件的车载芯片股，华山对标英伟达 Orin，武当实现跨域融合.70 高通：可扩展体系开展差异化竞争，对标英伟达 Thor 打造跨域融合.71 华为：边缘端 AI 芯片赋能 MDC 计算平台.72 特斯拉：车企破局者，FSD 和 DOJO 软硬件全栈自研.73 重点推荐：英伟达为重点推荐：英伟达为 AI 芯片行业龙头，芯片行业龙头，AMD 突围有望迎来重估突围有望迎来重估.75 英伟达：AI 龙头软硬一体双护城河（NVDA US，买入，目标价：650.00 美元）.75 超威半导体：A

14、I 新赛道为重估之钥（AMD US，买入，目标价：150.00 美元）.76 风险提示.78 首次推荐公司首次推荐公司.79 英伟达（NVDA US，买入，目标价：650.00 美元）.79 超威半导体（AMD US，买入，目标价：150.00 美元）.125 免责声明和披露以及分析师声明是报告的一部分，请务必一起阅读。4 科技科技 人工智能风继续吹，人工智能风继续吹，AI 芯片乘风而起芯片乘风而起 人工智能风再起，产业发展空间广阔人工智能风再起，产业发展空间广阔 本轮人工智能浪潮由本轮人工智能浪潮由 ChatGPT 掀起，并以语言大模型（掀起，并以语言大模型（Large Language M

15、odel,LLM）和生成式和生成式 AI（Generative AI）应用作为切入点。）应用作为切入点。自谷歌在自谷歌在 2017 年发表至今，年发表至今，Transformer除了带来像除了带来像 ChatGPT 这样的这样的 C 端爆款产品外，其早已在自然语言处理、计算机视觉、自端爆款产品外，其早已在自然语言处理、计算机视觉、自动驾驶等领域里广泛应用。动驾驶等领域里广泛应用。各中外各中外科技企业持续加大对相关的投入，科技企业持续加大对相关的投入，包括谷歌（GOOGL US）、Meta（META US）、微软（MSFT US）、字节跳动（未上市）、百度（BIDU US）等海内外一众科技巨头和

16、初创企业均希望分一杯羹，其他非技术公司也不断在人才、技术和资源方面进行布局。根据 Bloomberg Intelligence 的预测数据，到 2032 年，生成式 AI 在总体信息技术硬件、软件、服务、广告和游戏等支出中的占比或将从目前不到 1%的水平扩大至 12%。ChatGPT（Chat Generative Pre-trained Transformer）自 22 年 11 月发布后就引起了全球关注，5 天内注册用户超 100 万，仅两个月后，月活跃用户已达 1 亿。ChatGPT 将生成式AI 在文本、图像、视频等领域的多模态应用正式带入 C 端大众用户的视野。然而，我们认为，语言大

17、模型若只是停留在 C 端应用，提供给一些网民娱乐，其实意义并不大。我们更加认为，生成式 AI 的发展必须要配合 B 端应用的落地，才能成为真正可以改变世界的高端科技。目前，微软已发布 Microsoft 365 Copilot 等生成式 AI 产品，作为率先发布的重磅商业化应用。Copilot 依托微软庞大的用户群体、产品生态及使用场景，有望开启 AI 的 B 端应用发展新里程，并带动微软打开新的 AI 商业化空间。Bloomberg Intelligence 预测，全球生成式 AI 下游软件市场规模将在 2032 年扩大至 2799 亿美元，2022-2023 年十年复合增速达到 69%。图

18、表图表1：生成式生成式 AI 占科技投入支出不断增加（单位：十亿美元）占科技投入支出不断增加（单位：十亿美元）图表图表2：全球生成式全球生成式 AI 的市场机遇（单位：百万美元）的市场机遇（单位：百万美元）生成式生成式 AI 项目项目 2022 2032E CAGR 专业智能助手$447$89,035 70%代码编写、DevOps 等$213$50,430 73%工作负载基础设施软件$439$71,645 66%药物发现软件$14$28,343 113%网络安全支出$9$13,946 109%教育支出$370$26,500 53%软件软件$1,493$279,899 69%资料来源：Bloom

19、berg Intelligence、IDC、华泰研究 资料来源：Bloomberg Intelligence、IDC、华泰研究 看好整体看好整体 AI 芯片需求将伴随着大模型和生成式芯片需求将伴随着大模型和生成式 AI 的的 B 端应用落地而增加端应用落地而增加 2022 年开始，大模型的数量及参数量均呈指数级增长。年开始，大模型的数量及参数量均呈指数级增长。总体来说，我们认为模型的数量和总体来说，我们认为模型的数量和所需的训练数据才是对于算力要求的关键，因此，我们看好整体所需的训练数据才是对于算力要求的关键，因此，我们看好整体 AI 芯片的需求，将伴随着芯片的需求，将伴随着大模型和生成式大模

20、型和生成式 AI 所支持的所支持的 B 端商业应用落地而端商业应用落地而增加增加。自 2018 年 OpenAI（未上市）发布了包含 1.17 亿参数的第一代 GPT（Generative Pre-trained Transformer）模型以来，每一代 GPT 模型的迭代都伴随着参数量的飞跃。一众中外的科技巨头们也不甘示弱，包括Google、Meta、百度等纷纷发布了 PaLM、LaMDA、Llama、文心一言等为代表的大语言模型。2020 年 1 月，OpenAI 团队论文Scaling Laws for Neural Language Models提出“缩放定律”（Scaling Law

21、s），即大模型表现伴随模型参数量、数据集大小和计算量增长而增长，他们于 2023 年 5 月也再次强调，目前缩放定律仍未出现瓶颈。但我们也看到，谷歌在今年 5 月的 I/O 大会里发布的新一代 PaLM 大模型，PaLM2，就是通过算法上的改进达到训练数据增加为上一代 PaLM（7800 亿 tokens）的约 5 倍，达到 3.6 万亿个 tokens，但参数量为 3400 亿，小于 PaLM 的 5400 亿。14 23 40 67 137 217 304 399 548 728 897 1,079 1,304 3%4%5%6%7%9%10%11%12%0%5%10%15%20%25%30

22、%02004006008001,0001,2001,400202122 23E 24E 25E 26E 27E 28E 29E 30E 31E 32E生成式AI收入生成式AI在总科技支出占比 免责声明和披露以及分析师声明是报告的一部分，请务必一起阅读。5 科技科技 图表图表3：AI 训练对算力的需求成倍上涨，尤其是训练对算力的需求成倍上涨，尤其是 Transformer 相关模型相关模型 注：不同颜色代表不同模型种类 资料来源：英伟达官网、华泰研究 “大模型”通常指的是有大量参数的自我监督和预训练模型，“大模型”通常指的是有大量参数的自我监督和预训练模型，其背后的核心技术是其背后的核心技术是T

23、ransformer 架构，架构，目前比较广泛应用于文本生成等自然语言处理领域。Transformer 在2017 年由谷歌大脑团队在论文Attention Is All You Need中提出。该架构主要用于处理序列数据，主要采用自注意力机制（self-attention mechanism），为序列中的每个元素赋予不同的权重，从而捕获序列内部的长距离依赖关系。在 Transformer 之前，深度学习模型更多是采用监督学习的方法进行训练，因此需要大量标注的数据。相对来说，GPT 模型的创新之处在于采用了接近无监督学习（具体叫“自我监督学习”，self-supervised learning

24、）的预训练，加上少量有监督的微调相结合。图表图表4：GPT 各代模型迭代情况各代模型迭代情况 注：GPT-4 参数及训练基础设施数据来自 semianalysis 资料来源：OpenAI 官网、福布斯官网、InfoQ 官网、semianalysis 官网、微软官网、华泰研究 免责声明和披露以及分析师声明是报告的一部分，请务必一起阅读。6 科技科技 图表图表5：大模型训练过程示意图大模型训练过程示意图 资料来源：CSDN 官网、华泰研究 在文本生成、上下文语义理解、文章修订及摘要总结等需要泛化能力的大语言模型中，Transformer 架构相对以往的 CNN 和 RNN 网络结构取得了较大的进展

25、。Transformer 架构突破了 RNN（Recurrent Neural Network）模型固定顺序属性所带来的计算限制，其通过自注意力机制，可以同时处理整个序列的所有元素，从而实现了高效的并行化，提高了计算速度。同时，相比 CNN（Convolutional Neural Network）模型中伴随距离增大，计算位置关联所需操作将不断增多，Transformer 通过自注意力机制，可直接计算序列中任何两个元素之间的关联，且通过权重显示序列元素间的关系，从而为模型提供更为丰富的全局上下文信息，有效提高对复杂结构及语义的理解。故 Transformer 被认为与大部分白领工作相契合，在当

26、前人力成本较高及生产力急需提升的背景下，或将开始下沉至办公、会计、法律、编程和医疗等各领域进行结合。我们可将 Transformer 模型比作人类的右脑，在浅层关联性上表现优异，适用于需要创造性的生成式领域，但其仍然需要加强左脑的逻辑判断能力。图表图表6：Transformer 架构与架构与 CNN 和和 RNN 对比情况对比情况 资料来源：Devlin,Jacob,et al.Bert:Pre-training of deep bidirectional transformers for language understanding.arXiv preprint arXiv:1810.048

27、05(2018).、OpenAl、KDnuggets、斯担福大学官网、华泰研究 免责声明和披露以及分析师声明是报告的一部分，请务必一起阅读。7 科技科技 图表图表7：2018 年开始，年开始，Transformer 在谷歌学术的引用数量（次）在谷歌学术的引用数量（次）图表图表8：Transformer 相关的论文领域占比相关的论文领域占比 注：2023 年的数据截止至 7 月 资料来源：谷歌学术、华泰研究 资料来源：State of AI report、华泰研究 人脑神经网络的运作模式始终是人工智能追求的终极形态人脑神经网络的运作模式始终是人工智能追求的终极形态 类比人类大脑，左脑主要负责对信

28、息逻辑的处理，如串行运算、数字和算术、分析思维、理解、分类、整理等，而右脑负责并行计算、多模态、创造性思维和想象等。因此，左右脑从功能上分别代表 CPU 和 GPU，对比人类可实现左右脑协同工作，整体调动神经网络，将为 AI 的最终愿景。早在 2011 年，AMD 产品构想中就以 CPU 和 GPU 分别类比人类左右脑，并基于此提出了CPU+GPU 的异构产品策略。（详见 AMD 部分）目前 AMD 的 MI300A 和英伟达的 Grace Hopper（GH200）均为 CPU+GPU 的异构集成。GPU 的算力高并针对并行计算，但须由 CPU 进行控制调用，发布指令。在 AI 训练端，CP

29、U可负责控制及发出指令，指示 GPU 处理数据和完成复杂的浮点运算（如矩阵运算）。在面对不同模态数据的推理时，我们认为，CPU 与 GPU 的分工也各有不同，因此，同时部署CPU 和 GPU 能提供更大的运算支撑。例如，在处理语音、语言和文本数据的推理时，AI模型需逐个识别目标文字，计算有序，因此或更适合使用擅长串行运算的 CPU 进行运算支持；但在处理图像、视频等数据的推理时（对比人类的操作，每一个像素是同时进入眼睛），需要大规模并行运算，或更适宜由 GPU 负责，例如英伟达 L4 GPU 可将 AI 视频性能提高120 倍，据英伟达测试，L4 与基于 CPU 的传统基础设施相比能源效率提高

30、 99%。图表图表9：人类大脑不同部分功能及对应芯片种类人类大脑不同部分功能及对应芯片种类 资料来源：Hari R.From brainenvironment connections to temporal dynamics and social interaction:principles of human brain functionJ.Neuron,2017,94(5):1033-1039.、BrainFacts、华泰研究 1,220 5,110 11,700 20,489 24,600 21,400 05,00010,00015,00020,00025,00030,0002018201

31、92020202120222023 免责声明和披露以及分析师声明是报告的一部分，请务必一起阅读。8 科技科技 AI 推理市场规模大，但对算力要求比训练较低，因此我们认为各类芯片的使用将百花齐放，在大模型和多模态趋势下 GPU 或能夺份额。但目前推理端还是以 CPU 主导，多方涌入下竞争愈发激烈。值得一提的是，数据中心里拥有各类不同的芯片，而不同的 AI 工作负载应该在哪一片芯片上运行，将取决于以上提到的适配度以及性价比。因此，各类芯片也有其不同的优势。图表图表10：人脑处理信息与人工智能训练和推理的流程对比人脑处理信息与人工智能训练和推理的流程对比 资料来源：CSDN、谷歌官网、Vaswani

32、 A,Shazeer N,Parmar N,et al.Attention is all you needJ.Advances in neural information processing systems,2017,30.、华泰研究 我们处于我们处于 AI 的“的“iPhone”时刻吗？”时刻吗？人工智能的概念可以追溯到上世纪五六十年代。很多我们现在熟悉的算法，如神经网络，在 20-30 年前已经存在，但由于缺乏算力和数据，因此无法有效地运行。随着 GPU 被应用到 AI、云计算的普及和海量数据的产生和存储，AI 技术才得以快速发展和应用。对于“现在是对于“现在是 AI 的的 iPhone

33、 时刻”的观点，我们更倾向于认为，这是描述跟时刻”的观点，我们更倾向于认为，这是描述跟 GPT 相关的相关的生成式生成式 AI 开始应用于开始应用于 To B 端及解放生产力的重要突破。端及解放生产力的重要突破。至于在 To C 端，AI 技术其实早已有众多应用融入了我们的生活，如智能手机中的语音助手 Siri 和人脸识别等功能。免责声明和披露以及分析师声明是报告的一部分，请务必一起阅读。9 科技科技 图表图表11：AI 的“的“iPhone”时刻”时刻 资料来源：太平洋电脑网、苹果官网、英伟达官网、苹果派、OpenAI 官网、各公司公告、华泰研究 生成式生成式 AI 将带动云大厂加码将带动云

34、大厂加码硬件基础设施硬件基础设施 我们认为，我们认为，硬件设备的规模和性能是硬件设备的规模和性能是 AI 大模型时代的必然要求。大模型时代的必然要求。鉴于目前生成式 AI 主要以大参数模型路径实行，随着模型数量和所需要处理的数据量增长，其训练与推理均需要大量的计算能力与存储资源，故生成式故生成式 AI 应用的蓬勃发展将带动高算力应用的蓬勃发展将带动高算力 AI 芯片以及云计芯片以及云计算的需求增长。算的需求增长。Bloomberg Intelligence 及 IDC 数据显示，到 2024 年，AI 训练和推理硬件市场规模将达 930 亿美元，而到 2032 年将逾 6000 亿美元。图表图

35、表12：AI 训练和推理硬件市场占比训练和推理硬件市场占比 图表图表13：AI 训练和推理硬件市场规模（单位：十亿美元）训练和推理硬件市场规模（单位：十亿美元）资料来源：Bloomberg Intelligence、IDC、华泰研究 资料来源：Bloomberg Intelligence、IDC、华泰研究 89%89%83%70%64%63%62%62%66%70%74%11%11%17%30%36%37%38%38%34%30%26%0%10%20%30%40%50%60%70%80%90%100%2022 2023 2024 2025 2026 2027 2028 2029 2030 20

36、31 2032训练推理34497796114141179224283360474461642648310913814315516801002003004005002022 2023 2024 2025 2026 2027 2028 2029 2030 2031 2032训练推理 免责声明和披露以及分析师声明是报告的一部分，请务必一起阅读。10 科技科技 云大厂和互联网巨头预计将继续加大资本开支，云大厂和互联网巨头预计将继续加大资本开支，AI 硬件为重点领域。硬件为重点领域。谷歌、微软、亚马逊以及 Meta 在二季度业绩说明会中提到：微软微软 FY23Q4：资本开支（不含融资租赁）89.43 亿

37、美元，同比增加 30.16%，计划持续加大数据中心、CPU 和 GPU 等投入；谷歌谷歌 232Q：资本开支环比增长 10至 69 亿美元，主要投放在服务器以及 AI 大模型计算领域，增幅低于彭博一致预期主因数据中心建设项目延迟，但公司预计对技术基础设施的投资将在 2023 下半年增加；亚马逊亚马逊 23Q2：资本开支（含融资租赁）为 114.55 亿美元，同比下跌 27%，虽受逐渐下滑的运输投入影响，公司预计 2023 全年资本开支同比下滑至略高于 500 亿美元的水平，但仍将继续增加对 AI 和大语言模型的投入以满足客户需求；Meta 23Q2：资本开支（不含融资租赁）为 61.34 亿美

38、元，同比下跌 19%，主要鉴于非 AI 服务器费用的减少，以及部分项目和设备交付的延误将转入 2024 年，公司预计2024 年资本开支将伴随数据中心、服务器及人工智能方面投资的推进而增加。总体来看，2023 上半年，以谷歌、微软及亚马逊及 Meta 为代表的互联网巨头在资本开支方面，虽受到项目延期或宏观与其他业务规划等因素扰动，但在 AI 相关的资本开支方面正逐渐加大。展望 2024 年，AI 基础设施将是重点投入领域。故我们认为头部云厂商和互联故我们认为头部云厂商和互联网巨头加大网巨头加大 AI 领域资本开支将进一步支撑领域资本开支将进一步支撑 AI 的产业趋势的产业趋势。我们认为，202

39、2 年以来，美联储稳步提高利率导致企业削减数据中心支出，后续美联储或将停止加息，叠加 AI 需求增长，有望提振科技巨头的资本开支，将持续带动 AI 芯片等基础硬件设施放量。图表图表14：17Q1-23Q2 四大互联网巨头季度资本开支情况（单位：亿美元）四大互联网巨头季度资本开支情况（单位：亿美元）资料来源：各公司官网、华泰研究 17.0 22.8 21.3 25.9 29.3 39.8 36.0 37.1 25.7 40.5 33.9 35.5 37.7 47.4 49.1 41.7 50.9 64.5 58.1 58.7 53.4 68.7 62.8 62.7 66.1 89.4 12.7

40、14.4 17.6 22.6 28.1 34.6 33.4 43.7 38.4 36.3 35.3 41.0 35.6 32.6 36.9 46.1 42.7 46.1 43.1 53.7 53.2 75.3 93.6 89.9 68.2 61.3 21.5 25.0 30.7 36.2 31.0 32.4 33.5 37.3 32.9 35.6 47.0 53.1 68.0 74.6 110.6 148.2 120.8 142.9 157.5 189.4 149.5 157.2 163.8 165.9 142.1 114.6 25.1 28.3 35.4 43.1 73.0 54.8 52.

41、8 70.8 46.4 61.3 67.3 60.5 60.1 53.9 54.1 54.8 59.4 55.0 68.2 63.8 97.9 68.3 72.8 76.0 62.9 68.9 7%11%37%53%112%78%48%48%-11%8%18%1%40%20%37%53%36%48%30%26%29%20%20%8%-4%-10%-20%0%20%40%60%80%100%120%140%05010015020025030035040045017Q1 17Q2 17Q3 17Q4 18Q1 18Q2 18Q3 18Q4 19Q1 19Q2 19Q3 19Q4 20Q1 20Q2

42、 20Q3 20Q4 21Q1 21Q2 21Q3 21Q4 22Q1 22Q2 22Q3 22Q4 23Q1 23Q2MicrosoftMetaAmazon（含租赁）Google同比合计 免责声明和披露以及分析师声明是报告的一部分，请务必一起阅读。11 科技科技 “一超多强”的“一超多强”的 AI 芯片市场竞争格局芯片市场竞争格局 在人工智能的训练端（在人工智能的训练端（training），我们认为英伟达的），我们认为英伟达的 GPU 凭着高算力为门槛，一直以来凭着高算力为门槛，一直以来都是训练端的首选。但随着人工智能应用市场的不断扩大，都是训练端的首选。但随着人工智能应用市场的不断扩大，A

43、MD MI300 系列的系列的 GPU、云、云计算厂商自研专用芯片、以及大尺寸晶圆级芯片也开始异军突起。计算厂商自研专用芯片、以及大尺寸晶圆级芯片也开始异军突起。推理端对算力要求较训推理端对算力要求较训练端低，目前推理芯片市场百花齐放，各类芯片练端低，目前推理芯片市场百花齐放，各类芯片均均据有一席之地。我们认为，推理端和训据有一席之地。我们认为，推理端和训练端一样，传统芯片厂商也将面临练端一样，传统芯片厂商也将面临云计算厂商云计算厂商和和 AI 芯片初创企业的挑战芯片初创企业的挑战。AMD 在 23Q1 财报会议上表示，AMD 已将人工智能列为战略重点的首位，同时推出新产品MI300 系列，在

44、制程、架构及算力等多方面向英伟达同类产品看齐。另外，作为英伟达客户的云计算大厂也陆续发力自研专用芯片。谷歌的 TPU（Tensor Processing Unit）专为神经网络和 TensorFlow 框架量身打造，性能不断提升，目前已发展到第五代 TPU v5e，而于2020 年推出的 TPU v4，在多种机器学习框架模型上已与英伟达的 A100 可比。亚马逊 AWS自己造芯早已有迹可循，2018 年开发了基于 ARM 的服务器 CPU Graviton，也为 AI 推理端自研专用芯片 Inferentia(2018 年末推出第一代，目前已发展到第二代)和 AI 训练端定制芯片 Traini

45、um（2020 年末推出）。对比基于 GPU 的实例，Trainium 速度能提升 140%，成本能降低 70%。据 2023 年 4 月 18 日美国科技媒体 The Information 报道，微软也正在闭门造芯，研发支撑 AIGC 训练和运行的专用芯片 Athena（雅典娜），希望进一步降低开发AI 的成本。除了传统芯片龙头和云计算大厂之外，我们也发现一些新兴初创除了传统芯片龙头和云计算大厂之外，我们也发现一些新兴初创 AI芯片企业（如芯片企业（如Cerebras、Graphcore 等），以及芯片行业以外的企业，包括特斯拉等，正在异军突起，试图在芯片等），以及芯片行业以外的企业，包括

46、特斯拉等，正在异军突起，试图在芯片设计上另辟蹊径设计上另辟蹊径，通过大尺寸晶圆级芯片的技术路线，在持续上升的算力、传输和内存需求市场中抢占份额。短期来看，我们认为，使用先进封装技术的 GPU 相较晶圆级芯片或是更优选择，但长期来看，晶圆级芯片的瓶颈若能突破，也将成为传统技术路径的有力挑战者。图表图表15：主流主流 AI 芯片对比芯片对比 训练端训练端 通用性强，但较难适应于人工智能时代大数据并行计算工作。通用性强，多维计算及大规模并行计算架构，适合深度学习需要；在训练端是第一选择-针对特定框架进行深度优化定制，能耗较低，但开发周期较长，固定成本也较高 推理端推理端 需要大量空间去放置存储单元（

47、Cache）和控制单元（Control），用于逻辑控制。英伟达从 18 年开始通过 T4 芯片等布局推理端到边缘计算；对算力要求较训练端要低 多以加速器形式跟 CPU 一起搭载；依靠可编程性，适用于开发周期较短的产品，以及开发试错阶段等；较成熟的量产设备多采用 ASIC 若特定领域产生大规模需求，在大批量生产下固定成本可有效给摊分；能耗也较低 代表厂商代表厂商 Intel/AMD NVIDIA/AMD Altera（Intel）/Xilinx（AMD）Google 的 TPU AWS Tranium/Inferentia 资料来源：nextplatform 官网、HUAWEI、华泰研究 免责声

48、明和披露以及分析师声明是报告的一部分，请务必一起阅读。12 科技科技 传统芯片巨头：英伟达在多方入局下能否继续笑傲江湖？传统芯片巨头：英伟达在多方入局下能否继续笑傲江湖？英伟达在推理端能否复制其在训练端的成功？英伟达在推理端能否复制其在训练端的成功？英伟达的 GPU 虽在 AI 训练端属不二之选，对比市场同类训练产品也具有显著优势。然而，推理端的门槛相对较低，且应用场景和需求更为多元，目前各类芯片都在此领域获得一席之地，因此 AI 推理方面英伟达仍面临着激烈竞争。从发展历程来看，传统推理端主要依赖CPU 去处理相对简单和对算力要求较低的推理任务。不过，目前 AI 模型的规模和复杂度跟过去相比已

49、提升了不少，随着更多工作负载将逐渐纳入到推理领域，因此对于推理算力的要求也会越来越高，或将在一定程度上带动更多 GPU 在推理领域的应用。但我们需强调，推理所需要的算力本身比训练所需要的算力低，因此英伟达的高算力在推理端不一定像其在训练端般拥有明显优势。另外，数据中心里拥有各类不同的芯片，而不同的 AI 工作负载应该在哪一片芯片上运行，将取决于适配度以及性价比。因此，各类芯片也有其不同的优势。在这领域里英伟达的高性能推理芯片正面对着各种竞争对手，除了 CPU 之外，也包括AMD 的 GPU、英伟达的 GPU（包括老款）、FPGA 和 ASIC 等。英伟达的两大护城河：高算力芯片和英伟达的两大护

50、城河：高算力芯片和高粘性高粘性 CUDA 软件生态软件生态 我们认为，英伟达凭着高算力硬件和我们认为，英伟达凭着高算力硬件和高粘性高粘性软件生态两大护城河，是人工智能训练端的不软件生态两大护城河，是人工智能训练端的不二之选。二之选。根据不同芯片在 AI 论文中的引用数量可知，英伟达的芯片在 AI 研究论文中最受欢迎，其产品的使用率是 ASIC 的 131 倍，是 Graphcore（未上市）、Habana（给 Intel 收购了）、Cerebras（未上市）、SambaNova（未上市）和寒武纪（688256 CH）五家总和的90 倍，是谷歌 TPU 的 78 倍，是 FPGA 的 23 倍。