英伟达甜蜜的烦恼

英伟达看着供不应求的订单,有点着急。增加供应这句话,每发一次财报,英伟达都要再强调一次。继英伟达在*季度宣布公司“正大幅增加供应,以满足不断增长的需求”后,英伟达CEO黄仁勋在近期又表示,正准备将其GPU的产量至少增加三倍。具体来说,英伟达扩充的是H100芯片的产量。2023年英伟达H100预计出货

英伟达看着供不应求的订单,有点着急。

增加供应这句话,每发一次财报,英伟达都要再强调一次。

继英伟达在*季度宣布公司“正大幅增加供应,以满足不断增长的需求”后,英伟达CEO黄仁勋在近期又表示,正准备将其GPU的产量至少增加三倍。

具体来说,英伟达扩充的是H100芯片的产量。2023年英伟达H100预计出货量在50万颗,但据英国《金融时报》报道,英伟达计划明年出货至少150万颗H100处理器。

H100是英伟达于2022年推出的一款专为大型语言模型优化的GPU,得益于“全民造模”的趋势,推出至今长期卖断货,又被称之为英伟达的“印钞机”。

那么,宣称增加三倍产量的H100,能为英伟达赚多少钱?

0产量受制于人

要想知道H100究竟有多赚钱,只看两点便可知。

一,H100在芯片市场中拥有*统治力。当今世界你*时间想起的巨头企业,都在抢购它。上到特斯拉、苹果、微软、谷歌等知名公司,下到研究大语言模型的初创企业,也有 Azure、GCP 和 AWS 等云服务供应商(CSP),CoreWeave、Lambda 等大型私有云。

二是H100拥有超过90%的毛利率。

H100的物料成本主要有三部分:核心逻辑芯片、HBM内存芯片、CoWoS封装。

H100的核心逻辑芯片面积为814平方毫米,采用台积电4N工艺制造(5nm+),以一块报价为1.34万美元的300mm晶圆,结合良率、损耗来看,大概能切割65颗,平均算下来每颗单价200美元左右;HBM内存芯片来自SK海力士的HBM3内存芯片,一共六颗,单颗容量为16GB,每GB为15美元,合计1500美元;虽CoWoS没有公布其价格,但据分析师RobertCastellano结合台积电财报推算,制造一颗H100需要723美元。

三大合计约2500美元(台积电拿走约1000美元的情况下),算上除此以外的成本约3320美元左右。

也就是说英伟达的毛利率超过90%。

英伟达甜蜜的烦恼

《巴伦周刊》资深撰稿人tae kim发帖估计H100的成本为3320美元

但英伟达想赚钱,还得看台积电和SK海力士的脸色行事。

英伟达的H100确实在市场呈垄断地位,说新一代“印钞机”也无可厚非,但H100供不应求,在明年*季度之前都是售罄状态。

要看台积电脸色是因为,英伟达受制于台积电先进的封装技术—2.5D CoWos(Chip on Wafer on Substrate)。

CoWoS是一种2.5D/3D封装技术,是将多个有源硅模板集成在无源硅中介片上。然后将中介片和活性硅链接到包含I/O的包装基板上,将其连接到系统PCB上。

CoWoS能将不同制程的芯片封装在一起,可达到加速运算但同时控制成本的目的。简单来说,CoWoS有节省空间、减少功耗的优势

英伟达的H100、A100全部由台积电代工,并使用台积电的CoWoS先进封装技术,除了英伟达外,其他厂商也对台积电的CoWoS有需求,为此CoWoS产能供不应求。

有设备厂商估算,台积电 2023 年 CoWoS 总产能逾 12 万片,2024 年将冲上 24 万片,其中,英伟达将取得 14.4 万-15 万片。

CoWoS产能不足的背景下,依靠CoWoS封装的H100,自然被台积电扼住了咽喉。

HBM(高带宽存储)是限制英伟达H100生产的另一个重要瓶颈。

HBM类似数据的“中转站”,就是将每一帧、每一幅图像数据保存到帧缓存区域中,等候GPU调用。

相比传统内存技术,HBM带宽更高、功率更低、功耗更低、尺寸更小,能够使AI服务器的传输速率和数据处理量大幅提升,因此HBM也成了AI服务器的标配。

正如台积电垄断了先进封装一般,HBM的供应也被SK海力士垄断,市占率超过95%,也是目前*量产HBM3E(第三代HBM)的厂商。

无论是CoWoS还是HBM3,每年的产能都是固定的,除英伟达外,各大厂商需求也不少。AMD不仅大量采用HBM,其中MI300搭载的还是HBM3;传言谷歌在下半年推出的TPU张量处理器,也将搭载HBM。

搭载HBM的芯片几乎都需要像CoWoS这样的2.5D技术,所以目前*的GPU都有台积电打包在CoWoS上,也就是说芯片的产能进一步SK海力士和台积电的制约,英伟达并非说加芯就能加芯。

0台积电没有替代品

为了不被捏住命门,也为了芯片代工的议价权,英伟达开始“削藩”寻找更多代工厂。

英伟达在 CoWoS 封装等的关键制程已开放给其他供应链代工厂。目前,英伟达正积极对接联华电子,近日联华电子将扩充旗下硅中介层(前段CoW部分)产能,月产能将由目前的 3 千片扩增至 1 万片;封测厂Amkor、日月光投控旗下矽品则负责后段WoS封装。

某种意义上来说,英伟达构建的芯片帝国和台积电打造的*芯片代工厂如出一辙——同样拥有一骑绝尘的技术,是无可替代的存在。

所以扶持合作伙伴,并非短期有效解决措施,因为英伟达的核心芯片、产量,还是离不开台积电的怀抱,否则英伟达今年由台积电代工的芯片,怎么会占到台积电年出货量的40%左右?

好比远水救不了近火,扩产能这件事没有快速捷径。

一方面,建造周期较长,芯片从制作到包装都是的整个生态系统都是在台积电周围完成,如果另起炉灶,将制造业转移尤为艰难。

另一方面,台积电方也不会机会留给对手,对英伟达寻找替代工厂的暧昧态度,台积电以积极扩建产能做出了回应。

从营收结构来看,台积电也不会把嘴边的肥肉放跑。2022的CoWoS封装已经占总收入5%以上,且将以每年近20%的速率增长。

台积电也是下了重金扩产,斥资900亿元新台币在竹科铜锣园区设立先进封装厂,预计2026年底建厂完成,2027年第三季开始量产,而位于日本熊本的工厂已建成,九月底预计将有600名来自中国台湾的员工移民熊本。

值得英伟达高兴的是,至少在HBM上还有可选方案,不用等CoWoS的扩建周期。三星表示将投资1万亿韩元扩大HBM产能,并于今年推出HBM3产品;美光预计其相关HBM产品“将在2024财年贡献有意义的收入,并在2025年贡献大幅增加的收入”。

但把台积电,看成英伟达的镣铐,倒也不一定完全准确。

在硬币的另一面,产能短缺也绝非都是坏事,至少英伟达在全球缺芯的市场中,垄断了市场,也让自己的芯片单价水涨船高,售价3.6万美元的H100,此前在Ebay上的平均售价高达4.5万美元。

要是没有这场缺芯潮,芯片的二手市场怎会有如此高溢价,英伟达也没有底气开出如此高利润的售价。

0加不了量就加价‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍

在产能制约下,英伟达损失了高达百亿美元的收入。

据GPU Utils,保守估计,H100的供给缺口达到43.2万张。按每个 GPU 价格 3.5 万美元计算,意味着英伟达痛失总价值高达 150 亿美元的订单,这还不包括为中国*的H800。为了达到预期,英伟达采取的措施是推出更高端的芯片,提高收入和利润。在产能有限的空间里、市场普遍对英伟达预期乐观的背景下,英伟达利用近乎垄断的地位,让厂商为高端芯片买单,进而提高收入和利润。

比如,英伟达正准备推出新一代GH2000 Grace Hopper超级芯片,将于2024年第二季投产。相比最热门的H100芯片,该芯片内存容量高出3.5倍,带宽高出3倍。

把英伟达历代产品对比来看,就知道英伟达的利润一直在水涨船高。从配置成本来看,H100的前代产品A100的生产成本至少也要上千美金,售价1万美元,而成本3300美元的H100如今售价高达3.6万美元,利润极有可能成倍数增长。

英伟达毛利率的提高也是证据。英伟达最近一个季度的毛利率为70.93%,对比去年的43.48%提升显著。

至于英伟达的对手们,正在抓住那43.2万张H100的缺口。AMD就推出MI300,对A100和H100发起挑战。

但AMD的MI300和A100较量还好说,挑战H100有点难,从搭载配置来看,MI300 搭载了4核1.2GHz处理器、Android5.1系统、1GB的RAM和8GB的RAM,对比来看H100搭载了4核1.4Ghz处理器、Android8.1系统、2GB 的RAM和16GB的RAM。谁胜谁负高下立判,更别说H100 T860的GPU。

至于英特尔,选择了英伟达的弱势出击—在H100无法到达的地方,与其竞争。

英特尔在中国市场推出第二代AI芯片HabanaGaudi2。据悉,英特尔Gaudi 2国内首批将与百度智能云、浪潮信息、美团、紫光新华三等公司合作。

促使英伟达做该项决策的可能是英伟达在中国日益减少的收入。2022年,英伟达中国地区的收入从71.11亿美元减少13.26亿美元到57.85亿美元。

无论未来芯片市场有何变局,未来如何,至少AI的风现在不会灭,英伟达也仍在芯片领域中叱咤风云。

目前英伟达可能只剩下甜蜜的烦恼:如何造更多的芯片,如何让股价满足分析师预期。

参考资料:

1、《英伟达H100加速卡物料成本仅3000美元,毛利率超90%!》—— 芯智讯

2、《疯狂的H100》——硅基研习社

3、《谁卡了英伟达脖子》——远川研究所

4、《Is CoWoS Capacity Causing a GPU Shortage》——Phil Garrou.

(0)
小多多的头像小多多创始人

相关推荐

  • 回归的烟火气,坚守的创业者

    回归的烟火气,坚守的创业者,不可否认,创业难度也在指数级上升,对于实体项目更甚。创业终究是少数人的游戏,它让人更快成熟,又让人不敢老去。

    2023年5月30日
  • 科研成果,正一个个从实验室「醒来」

    不知从何时起,一股投资风潮兴起,刮向了正在实验室埋头苦干的教授们。尽管前几年就有“5年带动投资逾50亿”、“清华、浙大5年合同金额超百亿元”关于科技成果转化的喜人报道。但显然,这一次风潮不同凡响。如同当年风投机构们纷纷押注共享单车、 O2O、二手交易平台等,如今,风投机构们将目光瞄到了实验室里科研成

    2024年2月21日
  • IPO特种兵李书福

    极氪和路特斯,都在争着成为李书福的第8个IPO。四天前,极氪正式向美国证券交易委员会(SEC)递交招股书,计划以“ZK”为股票代码在纽约证券交易所挂牌上市。而昨天,有媒体爆料,路特斯打算下个月以SAPC方式完成并购交易,届时将正式登陆纳斯达克,股票代码为“LOT”。路特斯方面并未否认,回应称,目前公

    创投 2023年11月14日
  • 北汽雷驰七夕花式营销活动引“围观”,话题浏览量4500万+_行业动态

    盘点以往的七夕节日营销,主题大片、创意海报、节日限定、跨界联名……这些似乎已成品牌七夕“固定节目”。北汽雷驰反其道而行,以真诚打动人,请自己的员工为“主角”,免费为员工情侣拍摄七夕婚纱大片,用实际行动为自己的员工搭建一座“爱的桥梁”,传达“幸福”的初衷。没想到这一活动竟意外“出圈”,不仅很多观众充

    2023年8月24日 创投
  • 穿越百年,正大集团的荣耀与隐忧

    与中国有着密切渊源的泰国正大集团,经历了什么样的百年发展历程?1987年,中央电视台周日黄金时间播出的《正大综艺》节目,观众达3亿之多。这个正大就是卖饲料的正大、养猪的正大、易初莲花的正大、大阳摩托的正大,以及中国平安和中信银行两大金融巨头核心股东的正大集团。从拿下深圳的001号营业执照,40年后,

    2024年2月23日
  • 355亿超级独角兽换帅

    一则突发人事变动,引发各方广泛关注。节前,百度副总裁、小度原CEO景鲲原计划出席10月17日举办的百度世界大会 2023主论坛,演讲主题为《大模型时代,小度重塑智能生活》。节后,景鲲因个人原因即将辞任,百度当即宣布新一轮高管轮岗,由副总裁、首席信息官(CIO)李莹轮岗出任小度CEO,向李彦宏直接汇报

    创投 2023年10月8日
  • 股价跌八成、「高端性价比」能救「坚果一哥」吗?

    在宣布战略转型的一年半后,三只松鼠的基本面已然开始边际向好。10月25日,三只松鼠公布了三季报。报告显示,公司前三季度营业收入录得45.8亿元,同比下降14%;同期净利润录得1.7亿元,同比增加81%,增长亮眼。因此,数据披露后,在较好基本面的支撑下,股价低迷甚久的三只松鼠出现了阶段性上涨。2019

    2023年11月13日 创投
  • 13万人排队抢,堪比春运,山姆同行,掏空广东人钱包

    马上过年了,又出现了一波波的排队盛景。有人排队买年货、有人排队旅游,有人排队回家…但论匪夷所思的程度,哪里都比不上这个地方。它就是美国仓储会员店老巨头Costco。一个活了50多年的老超市,人们排队有多疯狂?开业*天,周边交通就是人山人海,至少3小时进场。不知道的,还以为是周杰伦来开演唱会。采购

    2024年2月1日 创投
  • 首发|一个深圳AI团队融资了

    AI浪潮席卷。近日,总部位于深圳的AI初创公司新旦智能完成了千万级别的天使轮融资,由全球化人工智能企业APUS与AI行业资深投资人周弘扬联合投资。相比国内其他大模型公司,新旦智能略显年轻,但创始团队阵容却颇为豪华:这是一支由清华、伯克利、腾讯、Meta等*学术与工程界精英组成的团队,成员包括全球*的

    2024年3月4日
  • 「养猪一哥」把猪送上新能源风口

    「养猪一哥」把猪送上新能源风口,秦英林这次想真正把猪送上新能源的风口,然而这场风口还能站多久,是所有跨界者押下的一个赌注。

    创投 2023年5月30日
  • 女性创业做什么好,5种适合女性的生意

    男女兴趣方向并不相同,因此在选择创业项目时,也会选择不同的创业项目,所以介绍以下5种适合女性的生意,希望还不知道选择创业项目的女性朋友,在阅读了内容后,获得了一些启示。 1、美甲店…

    创投 2022年1月25日
  • 耐克起诉阿迪达斯 两个运动品牌巨头打起来了

    耐克和阿迪达斯作为非常知名的两个运动品牌巨头,一直以来都把对方当成主要的对手,最近有消息称这俩巨头“打起来了”,耐克已经起诉了阿迪达斯,接下来就给大家聊聊这个事情! 周一,耐克正式…

    创投 2022年1月25日
  • 凯辉基金投资英国基因细胞治疗CDMO企业Ascend

    凯辉基金投资英国基因细胞治疗CDMO企业Ascend,目前,Ascend已在全球范围内设立办公室,总部位于英国,生产制造部分位于北伦敦波特斯巴,平台技术研究中心位于美国旧金山湾区,专业工艺开发和分析团队常驻德国慕尼黑。

    创投 2023年5月11日
  • 移动安全数字资产服务商「辰尧」完成数千万PreA轮融资

    移动安全数字资产服务商「辰尧」完成数千万PreA轮融资,辰尧核心团队具有15+年的网络安全,移动安全技术积累,经历了国际国内企业数字化演进及移动安全产品的演进,具备丰富的行业经验。

    2023年5月24日
  • 2020年猪肉价格下降了吗 猪肉降价的原因有哪些

    近几年猪肉价格的疯狂上涨可以说是大众关注与吐槽的焦点,猪肉价格每天都在变化,而大家最关心的莫过于猪肉降价的最新消息,毕竟猪肉价格再这样持续高位会直接影响居民的生活水平,影响社会的安…

    创投 2022年3月31日