高性能计算的产业化

发布时间:2022-01-19 12:03

在加入IDC之前,我曾在一家产品和流程创新咨询公司工作。技术人员——我的许多同事——由一百多名拥有多个博士和博士后学位的机械、电气、化学和其他工程师组成。该公司还积极维护着一个科学家网络,他们扮演着咨询角色,可以随时咨询。在我的十年任期内,这个网络增长到了数千个。该公司的主要客户包括财富 1000 强公司——主要是制造业和消费品行业——拥有大量研发投资。

按照大多数标准,这家咨询公司相对较小——主要是大型咨询公司的同行群体——但这并没有阻止它代表客户承担一些非常酷的任务。它为电信行业设计了微型天线(几毫米高),解决了铝制卡车车轮制造的棘手生产问题,解决了天然气管道的腐蚀问题,降低了太阳能电池板的成本,开发了油漆涂层的新方法,甚至推出突破性的牙齿美白解决方案。

这家公司怎么能在这么多不同的学科中如此有效?因为一种促进创新的文化。该公司开发了一种系统的创新方法,可以应用于任何工程、科学或研究领域。这种方法将“工程系统”,无论是牙齿美白系统还是卡车车轮制造系统,解构为其底层组件之间的功能。它确定了哪些功能是有用的,哪些是不必要的,甚至是有害的,然后通过消除不必要或有害的功能,增加有用的功能来重建系统。对于那些知道的人,这种方法是基于 TRIZ -创造性解决问题的理论. 各种其他的分析工具也被应用了,这里我就不深入了。

有人可能会争辩说,这家公司构建了需要优化、原型化或操作化的工程系统的“功能双胞胎”。这早在“数字双胞胎”(在运营技术的背景下使用)之类的术语变得司空见惯之前(“数字双胞胎”是物理对象或过程的虚拟表示和实时数字对应物)。事实上,除了基本的笔记本电脑外,没有计算机参与这家公司的技术人员使用的分析过程。简而言之,这家小型创新咨询公司能够蓬勃发展的真正原因是,它的大客户中很少有人投资或可以访问大型高性能计算 (HPC) 系统(例如可以在研究中找到的系统)当时的机构和大学),别管它有内部技能,可以将相关问题编码或编程到这些 HPC 集群上。可以说,这家咨询公司的 100 名工程师的核心员工和 3,000 名科学家的附属员工代表了并行的人机,有点像 NASA 用于早期阿波罗任务的“人机”,除了几十年后。

今天,公司不能再依赖“人机”进行研发活动。激烈的竞争、对保持或促进组织差异化的不断追求,以及在数字信息中做出决策的需要,意味着几乎每家公司——无论行业如何——都必须投资于高性能计算、人工智能和分析基础设施。他们必须聘请能够有效利用这些系统的技术人员。我们正处于英伟达首席执行官黄仁勋所说的“HPC 工业化”时代。如果数据是新的石油,HPC 的产业化旨在确保原油能够在内部和外部快速提取、精炼并适合消费。我工作的公司作为服务提供给有能力的客户,

彻底改变商业投资和成果

HPC 的工业化——有时也被称为 HPC 的民主化——只不过是 HPC 技术变得司空见惯。它们的采用不再局限于资金充足的国家实验室和大型大学。HPC 正在公共和私人研究机构、云计算、数字和通信服务提供商中获得更广泛的采用,而且——至关重要的是——在许多企业中。这正在彻底改变商业投资和成果:

  • 工业公司正在检修他们的制造工厂和研发中心。增加对软件解决方案的投资使科学家和技术人员能够以精确和确定性的依赖来加速产品和流程创新。
  • 快速、高度响应和破坏性而非增量产品和流程创新对于当今组织的竞争力至关重要,而此类创新需要越来越复杂的方法,包括在 HPC 系统上建模和仿真。
  • 公司正在增加对人工智能 (AI) 的投资,从而加快人工智能在企业工作负载中的渗透。IDC 预测,到 2025 年,全球五分之一的计算基础设施将用于运行 AI。AI 始于数据中心的孤立系统,但越来越多地迁移到可以运行 HPC 的相同类型的大型集群中。从本质上讲,这些 AI 集群是将 HPC 集群带入工业世界的良性特洛伊木马。

无论是本地 HPC 系统的资本支出还是 HPC 即服务的运营支出,以可管理的成本(和可衡量的回报)不断增长的海量计算的可用性,都为科学家、工程师和技术人员提供了巨大的支持能力。再加上丰富的数据集,对海量计算能力的访问为科学家带来了一种新的研发文化。在没有惩罚的情况下增加迭代运行的能力允许他们在可接受的时间范围内尽可能频繁地调整模型或运行模拟。

最后一点不仅仅是启用多次运行。它还允许企业的研发在其领域采用一种基本的科学和数据主导的方法,在这种方法中,他们不仅试图开发解决方案,而且还开始积极寻找新问题(可以使用算法方法解决) )。颠覆性创新在于利用技术寻找新问题,而这通常是科学发现的起点。

IDC 的高性能计算

所有这一切让我明白为什么这是 IDC 的一个重要领域,以及为什么我有幸领导 IDC 在该领域的再投资。IDC 的客户(包括供应商、服务提供商、最终用户和金融投资者)继续寻求有关高性能计算的高质量市场研究和情报。一段时间以来,他们一直在呼吁 IDC 扩展其全球研究框架,将 HPC 包括在内。我在这里告诉你,我们清楚地听到了你的声音。换句话说,IDC 对 HPC 的报道源于市场对可靠和可操作的市场数据和洞察力、相关趋势的未满足需求,以及 HPC 与人工智能、量子计算和加速计算等新兴领域的关键融合。在这样做,我们希望确保任何新的 HPC 相关覆盖在分类和本体上都与 IDC 的全球行业研究框架保持一致。这是IDC的战略投资领域,我们将全力以赴。

从2022年1月开始,IDC 将启动两个以 HPC 为重点的联合研究计划(称为持续情报服务或 CIS)。这些项目(这将是我实践的一部分,我正在为此聘请两名分析师——更多内容见下文)将从各个方面跟踪 HPC 市场和行业,包括在国家实验室、大学、企业和其他组织完成的工作在全球范围内。这两个程序是:

  • 高性能计算趋势和策略——该计划将成为我们的旗舰 HPC 服务,涵盖行业和市场趋势、洞察力、最终用户采用、用例和供应商策略。
  • 高性能计算即服务——该计划将深入了解最终用户在专用、托管和公共云基础设施中对高性能计算即服务的采用趋势。

这两个计划都将为供应商和服务提供商提供智能,因为他们寻求提供技术堆栈即服务,以实现与高性能计算相关的各种用例

IDC 多年来一直密切关注 HPC 市场,使用“建模与仿真 (M&S)”一词。我们将 M&S 作为一个用例组进行了检查,该用例组分布在我们的企业工作负载细分市场中,并与我们跟踪的企业基础设施市场相关联。此外,我们定义、跟踪、规模、预测和细分相邻市场、技术和用例组,即:

  • 人工智能 (AI) 基础设施
  • 大数据和分析基础设施 (BDA)
  • 用于 AI、BDA 和 M&S 用例的加速服务器
  • 大规模并行计算 (MPC) – IDC 对大规模并行集群的称呼
  • 量子计算

在此过程中,我们得出结论,上述所有内容都可以归为一个总称:性能密集型计算 (PIC),特别是因为用于部署与这些用例组相关的工作负载的计算和存储基础架构的融合。

IDC 将性能密集型计算 (PIC)定义为执行大规模数学密集型计算的过程,通常用于人工智能 (AI)、建模和仿真 (M&S) 以及大数据和分析 (BDA)。PIC 还用于处理大量数据或以尽可能最快的方式执行复杂的指令集。PIC 不一定规定特定的计算和数据管理架构,也没有规定计算方法。然而,某些类型的方法,例如加速计算和大规模并行计算,自然而然地获得了突出地位。

从性能密集型计算的背景来看,IDC 认为 HPC 由三个主要细分市场组成:

  • 为政府、国家实验室和其他公共组织资助和定制的超级计算站点
  • 使用定制和现成设计混合构建的机构或企业网站
  • 采用现成设计构建的主流 HPC 环境,可满足全球数千家企业的技术和科学计算需求

当我们定义这些市场时,我们会确保它们无缝地结合在一起——就像一个谜题。我们还确保它们在逻辑上符合 IDC 对全球企业基础架构市场的定义和跟踪方法。下图显示了在 IDC 的分类中,这些市场如何组合在一起。

十年前,像我在加入 IDC 之前工作的那家公司使用人类专家通过创建工程系统的功能双胞胎来开发解决或优化问题的方法。工程师将花费数周时间将系统拆开(在纸上),定义所有组件之间的功能,删除有害或不必要的功能,添加有益的功能,然后用创新的新功能重建系统。如今,工程系统以数字方式重新创建、分析和优化,产品和流程创新在 AI、HPC 和 BDA 的支持下进行,科学家必须具备软件开发专业知识。这种转变不亚于各种规模公司的研发和工程部门的全球数字化转型。

客户热线:037125966675

客户服务中心
云产品 服务器 合 作                  Skype