PCIe 与以太网:真的是这个或那个的选择吗?

发布日期:
July 1, 2023

最近,一位好奇的设计师向我们提了一个关于过去所谓的 “Fabric Wars” 的问题,这引发了关于嵌入式计算系统中连接选择演变的有趣讨论。这篇博文引发的对话更具体地围绕着OpenVPX和SOSA™(传感器开放系统架构)架构中的这些选择。

来自 “好奇” 的问:

“我很想听听你对为什么 PCIe 在 VPX 上战胜以太网(因此,为什么 PCIe 会在机架级别胜过以太网)的看法。是因为 PCIe 没有协议转换吗?还是因为 PCIe 更快、延迟更低,但性能是 “赌注”?PCIe刚刚在公众面前成为赢家,但我怀疑首选的串行总线是在某个地方的工作组中推出的。”

亲爱的好奇们:

实际上,目前,以太网和PCIe之间没有真正的 “赢家”,至少在OpenVPX中不是。这是独家新闻... 关于将背板连接分为数据平面(DP)、扩展平面(EP)和控制平面(CP),已经达成了普遍共识(但不是普遍的)。尽管开发人员在其应用程序中不一定局限于该功能,但它们在VPX系统中都有预期的作用。

• 控制平面用于系统控制消息,这些消息通常是集中发布的。以太网对此很有意义。

• 扩展平面通常用于将两个或更多电路板紧密连接在一起,通常采用根/叶组织。PCIe 在这方面是有道理的。一个很好的例子是 SBC 和 GPU 或 I/O 板。

o EP 还用于 FPGA 到 FPGA 的链路之类的东西,因此通常使用 Aurora 或前面板数据端口 (S-FPDP)

• 使用数据平面,线条更加模糊了一点:

o DP 通常用于点对点/全对点连接。以太网比PCIe更容易建立这种连接(桥接不透明,软件支持不好,而且通常很丑陋)。

o 无论是在协议还是在软件堆栈方面,以太网的开销都比 PCIe 多得多。因此,有些人会接受使用PCIe来获得性能的痛苦。

o 以太网和 PCIe 不断超越线速——有些人只想追逐最新/最快的速度。

SOSA 选择将重点放在采用多种协议的以太网 DP、以太网 CP 和 EP 上(首先是 PCIe、Aurora、简单的 LVDS,将来还会推出其他协议)。这主要是为了实现插卡 (PIC) 之间的互操作性和互换性。在这种情况下,以太网是整个系统的重中之重,PCIe(以及其他)在特定 PIC 之间更具局限性。但是,SOSA并不是整个市场,人们仍在推出不符合标准的新董事会。

因此,市场仍然变化很大。尽管SOSA在某个(但相当可观的)市场领域设定了界限,但仍有一些选择,尽管市场规模较小,例如Serial RapidIO、Infiniband等。

来自 “好奇” 的问:

特性和功能呢?RapidIO在每个版本中都引入了一系列功能,以提高其功能和吸引力,但即使是这组不断增长的功能也无法确保其生存。

亲爱的好奇们:

您对功能的评论也很合理。RapidIO 有两个对于 HPEC 系统非常有用的不错的功能——大多数实现都包括用于卸载处理器数据传输的 DMA 引擎(直接内存访问),它还包括原子测试和设置功能。DMA 直到现在才在 RoCE(聚合以太网上的远程 DMA)中可用,而且我认为以太网还没有原子测试和设置功能(至少在本机上是这样,有更高级别的协议可以提供它)。尽管如此,RapidIO 还是从我们的空间消失了。RoCE 尚未普及,因此人们并没有在 VPX 系统中大量使用它,但这只是时间问题。那么它可能会是一个 “必备” 功能。

来自 “好奇” 的问:

这是PCIe与以太网比较的好看法,但就可行性而言,这两种协议都是可行的。系统架构师需要选择即将存在的协议才能取得成功。那么,从更广泛的角度来看,为什么一种协议能胜过其他协议呢?是什么推动了它的成功?

也许这是经济和客户群的实力。如果该协议的销量很大,它就能存活下来,但是仅FORE Systems每年就销售7亿美元的ATM(异步传输模式),ATM被出售给了大型电信公司(富裕的客户群),但ATM已经过时了。

你提到了RapidIO(向嵌入式市场销售,我猜相当可行)和InfiniBand(向超级计算机行业销售,规模相当大且可行),但两者都几乎已经死了。

我想确保传播的最佳答案是协议的 “无处不在”。熟悉协议的开发人员基础有多广,行业知名度有多广?尽管按绝对美元计算,超级计算机市场相当大,但InfiniBand一直留在超级计算机行业,这确保了其消亡。

很难相信与ATM Telcom市场相比,以绝对美元计算,以太网局域网市场会更大,但是与ATM相比,以太网的开发者更多,对以太网的认识更高。似乎推动协议传播的是开发人员的数量,而不是其性能、功能或经济性。自动柜员机的速度为 155 Mbps,而以太网的速度为 10 Mbps。因此,如果是性能问题,那么 ATM 是如何失去领先优势然后在性能上落后的-以太网让更多的开发人员熟悉它。光纤通道永远不会从存储空间中爬出来。存储领域取得了巨大成功,但意识到这一点并推动其向前发展的人还不够。所以,它消失了。

那么,例如,为什么以太网能战胜自动柜员机呢?看来 ATM 从广域网垂直方向推向了垂直局域网(至少对于 FORE 系统来说是如此)。以太网不仅将其推回局域网,而且以太网进入了网域网和广域网,并将 ATM 推出了两者。这是怎么发生的?

亲爱的好奇们:

你的分析都相当合理,我认为这实际上是你所描述的因素的组合,最终以某种方式拉动了市场。

首先,嵌入式系统主要由空间、重量和功耗问题 (SWaP) 以及这些系统部署的操作环境驱动。尽管ATM是市场表现的领导者,但由于它需要的电力和产生的热量,它不适合嵌入式系统。还有一个问题是,零件的额定温度可以承受我们系统的运行温度。Infiniband也遭受了这种影响,尽管程度较小,因为它的功率/热量较低,而且实际上还有一些延长温度的部件可用。RapidIO 之所以成功一度是因为它可以应对这些挑战。

我认为还有两个因素不利于自动柜员机、RapidIO和Infiniband,那就是无处不在的软件堆栈和价格。RapidIO 和 Infiniband 需要像 MPI 这样的东西,人们要么喜欢,要么讨厌,而且基本上是由一个相对较小的专业社区维护的。Linux/以太网软件由开源社区中的绝对一大批开发人员维护,并且有大量的软件包几乎可以支持人们可能想要的任何数据移动模型。此外,很容易找到知道如何使用它的人才。它是一种真正的通用结构,但唯一的缺点是软件堆栈的性能受到影响。价格方面,以太网比所有三者都便宜,解决方案的成本始终是重要的决策驱动力。由于价格和无处不在的软件堆栈都对以太网有利,其他人确实没有机会。

3U VPX 交换机示例。
来自 “好奇” 的问:

如果我们从相反的方向来看待这个问题,问问接下来哪个协议会死掉或者协议会以什么顺序消亡,而不是问哪些协议能存活下来,会怎样?

我认为,如果我们知道每种协议的开发者人数,我们就能预测协议未来的衰落或崛起。

亲爱的好奇们:

我认为我们差不多已经将主要协议选项简化到了高性能嵌入式领域的最低限度。以太网和 PCIe 显然是赢家。我认为流媒体数据领域有竞争者的空间。Aurora 很受欢迎,但它仅限赛灵思。有人谈论串行FPDP从基于有线的传感器到节点协议转变为基于背板的节点到节点协议。但是,要确定市场是否真的采用了这种方法,还需要时间。因此,我认为,新的低开销高性能流媒体协议可能还有空间,该协议支持来自不同供应商的CPU和FPGA。只有时间会证明一切。

我肯定看到的是以太网需要新的功能。目前的两大问题是远程 DMA(以 RoCE 的形式)和时间敏感网络(TSN)。在未来几年中,支持RoCe和TSN的交换机和插卡供应商的需求量将很大。

Downloads

No items found.

阅读更多博客文章

MOSA 探讨国防模块化系统趋势

MOSA 探讨国防模块化系统趋势

在过去两年中,国防部、政府机构和业界的共同努力促成了通过开发开放标准来采用通用平台的共同努力。

消除机柜配置中的猜测

消除机柜配置中的猜测

就橱柜设计做出明智的决定并不一定令人沮丧。