如果您希望可以时常见面,欢迎标星 收藏哦~
来源:内容编译自日经亚洲
亚洲初创企业正试图证明他们可以提供比行业巨头 Nvidia 更好的芯片解决方案——至少对于某些应用而言。
尽管这家美国公司的图形处理单元继续在人工智能领域占据主导地位,但该地区的初创企业认为,GPU 的高能耗和笨重的设计留下了市场空白,新来者可以填补。
人工智能芯片有两种基本类型。一种是“推理”芯片,用于操作现有的人工智能模型。另一种是“训练”芯片,用于开发新的人工智能模型的高性能数据处理组件。
例如,OpenAI 需要数万个训练芯片来开发其 ChatGPT 聊天机器人的新模型。但 ChatGPT 要回答问题,就需要使用推理芯片。
日本人工智能独角兽公司 Preferred Networks (PFN) 首席执行官西川彻 (Toru Nishikawa) 向日经亚洲表示:“没有人能提出完美的推理芯片架构。我认为该领域的架构将发生巨大变化……谁能以最低的价格提供合适的架构,谁就能获胜。”
PFN 在开发训练芯片的同时,也将新兴的推理芯片市场视为测试其产品能效资质的机会。
Nvidia 的成功主要来自于训练的蓬勃发展,这要归功于其 GPU 能够处理 AI 模型开发所需的大量并行计算。
但 GPU 价格昂贵,体积庞大,不适合用于笔记本电脑和可穿戴设备。例如,Nvidia 的数据中心 AI 芯片单价为 2.5 万至 4 万美元,比传统产品贵七到八倍。
“如果推理芯片的成本与训练芯片相同,那么这种商业模式将永远无法持续,”西川说。“我们需要开发适用于个人电脑的人工智能芯片。”
分析师对此表示同意。英国研究公司 Omdia 的咨询总监 Kazuhiro Sugiyama 表示:“预计在不久的将来,对设备上 AI 的需求将会增加,这将鼓励风险投资公司加入竞争。”
设备上人工智能的潜在市场包括个人电脑、智能手机、监控摄像头和无人机。
Sugiyama 补充道:“Nvidia 的 GPU 主要适合训练,但我们看到越来越多的新公司正在开发既能用于训练又能用于推理的芯片。”
这些新来者包括由软银愿景基金支持的美国公司 SambaNova Systems、由前英特尔工程师创立的 Tenstorrent,以及最近被软银收购的英国公司 Graphcore。
谷歌、Meta 和 Amazon Web Services 等大型科技公司也加入其中,更不用说 Nvidia 的竞争对手 AMD 了。
Sugiyama 表示:“随着大型科技公司开始提供用于自身服务的专用 AI 芯片,我们将在 2025 年至 2026 年看到更多参与者进入目前由 Nvidia 占据的市场。”他还补充道,Nvidia 产品的“头号问题”是价格。“一块 Nvidia 芯片的价格可能高达 25,000 美元,这对想要投资 AI 的公司来说是一个负担。”
甚至 Nvidia 的供应商也已经指出了价格问题。
韩国 SK 集团董事长崔泰源 (Chey Tae-won) 在 7 月份的一次会议上表示:“很多公司都希望使用自己的芯片,而不是价格更昂贵的 Nvidia 芯片。”
该集团旗下的 SK Hynix 为 Nvidia 的 AI 芯片组提供高带宽内存 (HBM),但 Chey 表示,如果微软和谷歌等新来者能够制造出更便宜的 AI 芯片,“我认为 Nvidia 主导的商业模式可能会被打破。”
但成本并不是唯一的问题。
据报道,Nvidia的下一代Blackwell芯片功耗高达1200瓦。美国芯片初创公司Esperanto Technologies最近在东京的新闻发布会上告诉记者:“几年前,功耗超过100瓦的芯片被认为是相当极端的。”
一些专家估计,训练像 ChatGPT-3 这样的模型所消耗的电量比 1,000 个家庭一年的用电量还多。
PFN 及其合作伙伴(包括一家国家研究机构)的目标是在 2027 年 3 月之前开发出下一代 AI 加速器芯片。PFN 芯片设计主管、神户大学教授 Junichiro Makino 表示,该公司的目标是让其新芯片比使用 Blackwell 芯片的 Nvidia B200 芯片组“功能更强大、能耗更低”。
简单来说,PFN 希望利用软件提高 AI 芯片的效率。软件将决定如何高效地处理给定的任务,并将数据和计算分配给各个核心,即芯片内部的小“大脑”。这使得每个核心都可以专注于与其任务相关的数据,而不像传统的 GPU,其中的核心更加交织在一起。
这反过来意味着需要更少的核心来实现相同水平的计算能力,同时消耗更少的能源。
尽管这是一款训练芯片,但 PFN 相信这项技术最终可以用于创建更具成本效益的推理解决方案。“如果我们想利用这个不断增长的市场,我们希望在未来两到三年内市场上出现一款新的推理芯片,”Makino 说道。
GPU 的设计初衷从来就不是为 AI 而生的。其最初目的是确定视频游戏中数百万个像素的颜色。每个计算都相当简单,但要处理高分辨率的快速移动图形,则需要数千个核心同时运行。
研究人员在 21 世纪初注意到了它们的潜力,并开始破解 Nvidia 的 GPU 来运行复杂的模拟。这家美国公司从 21 世纪末开始适应这一新兴需求。
国家研究机构理化学研究所处理器研究团队负责人佐野健太郎表示,这种高速同时处理能力——加上 Nvidia 的一些改进和附加软件——使 GPU 成为人工智能科学家的最佳选择。
佐野表示:“我不想说现有 GPU 的架构就是最终形式,但与其他产品相比,GPU 在多用途处理方面是一个更好的解决方案。”
对于追求更优雅的 AI 芯片设计的初创公司来说,Nvidia 通过增加更多内核和内存来提高芯片性能的做法就像是“用更强大、更昂贵的芯片,用蛮力解决问题”,一位不愿透露姓名的美国芯片初创公司人士表示。“这就像美国汽车想要加速,就把引擎做得越来越大。是的,这很了不起,但效率很低。”
Nvidia 也在生产定制的 AI 芯片,甚至有些用于推理,但 Omdia 的 Sugiyama 表示,其架构策略并没有太大变化。其策略是调整其软件平台以适应特定应用,例如 AI 或自动驾驶汽车。
“Nvidia 不太可能将其架构改变为与 GPU 完全不同的东西。...他们总是制造同一类型的芯片,这就是他们如此经济高效的原因,”他说。
当被问及未来的研发战略时,Nvidia 向《日经亚洲》表示“不会对未发布的产品发表评论”。
业内人士称,英伟达还采用了更加多用途的设计方法,优先考虑能够运行多种尖端人工智能的芯片。消息人士补充说,初创公司可以通过将设计重点放在特定应用上来找到竞争空间。
这是日本 AI 芯片初创公司 Edgecortix 的战略的一部分,该公司由前微软和 IBM 工程师 Sakyasingha Dasgupta 领导,旨在解决“记忆墙”问题。
GPU 擅长计算大量矩阵,但记忆力不强。每次进行计算时,它们都会访问内存芯片来记录结果或调用下一个任务。“访问内存和返回内存的次数越多,功耗和延迟就越高,”Dasgupta 告诉《日经亚洲》。
芯片还需要额外的电力来补偿访问内存造成的延迟,从而导致设计更笨重且能效更低。
Edgecortix 设计其芯片以更简化的方式处理数据,以减少芯片需要访问内存的次数。
“如果我没有使用内存,我就会花时间进行处理和计算。因此,我使用芯片的效率比典型的 GPU 高得多,”达斯古普塔说。这种方法使该公司避免使用功能强大且价格昂贵的 HBM 芯片,例如 SK Hynix 生产的芯片。
Edgecortix 表示,其芯片专为“受限环境”(例如设备或工业机器)中的 AI 应用而设计,并且运行功耗仅为 GPU 所需功耗的十分之一,可实现同等性能水平。
Sugiyama 估计,Nvidia 将继续占据整个 AI 芯片市场 30% 至 40% 的份额,这主要得益于其在训练领域的主导地位,而初创公司则将争夺更为小众的市场领域。
如果业界对人工智能计算的态度发生根本性变化,“GPU 的统治地位可能会终结”,理化学研究所的佐野说。不过,他补充说,“Nvidia 的利润很高,人才储备丰富。我认为它在投资新技术领域方面也将占得先机。”
这就是一些初创公司将亚洲视为比西方更具战略意义的运营地点的原因之一。
例如,Edgecortix 希望满足对人工智能机器人或工厂自动化的需求。达斯古普塔表示,日本的机器人、航空航天和汽车行业“绝对”对其芯片有需求。该公司得到了汽车半导体公司瑞萨电子的支持。
该首席执行官补充说,日本的“芯片复兴”也改变了公司的格局。例如,台湾半导体制造公司决定在熊本县建造两家工厂,这将有助于培育当地的芯片设计生态系统。
“即使从地缘政治角度来看,亚太地区目前也处于非常关键的位置。这是我们的优势之一,”他补充道。“我们的目标是成为 Nvidia 或 Apple 那样的公司——而走出日本,我认为这是一个巨大的机会。”
PFN 的 Nishikawa 指出,日本在芯片封装解决方案方面具有竞争力。他表示,这些供应商可以想出更好的方法将内存芯片与处理器连接起来。
尽管初创公司正在以各种方式解决 GPU 问题,但他们在一个问题上是一致的:科技行业的变化可能很快发生。
“过去曾出现过许多新型处理器,改变了社会,但大公司很少能成功开发出新架构,”西川说。“公司规模变大后,就会变得更加僵化。”
达斯古普塔也表达了同样的看法:“IBM 曾一度在整个硬件领域占据主导地位。而苹果作为一家初创公司,却彻底颠覆了市场。类似的趋势通常也会发生在科技行业。”
参考链接
https://asia.nikkei.com/Business/Business-Spotlight/Nvidia-vs.-the-startups-AI-chip-challengers-chase-efficiency
点这里 加关注有实力的配资公司开户,锁定更多原创内容
海量资讯、精准解读,尽在新浪财经APP