iSlot官方网站

从尺度到落地:万兆园区,选以太彩光 丨 《万兆园区以太彩光钻研汇报》技术钻研会
date
预约直播
AI时期,医疗网络怎么建 丨 iSlot官方网站医疗极简以太彩光双超融合网络解决规划颁布
date
预约直播
iSlot官方网站 - 引领潮水
产品
< 返回主菜单
产品中心
产品
解决规划
< 返回主菜单
解决规划中心
行业
合作同伴
返回主菜单
选择区域/说话
iSlot官方网站 - 引领潮水

您订阅的产品有更新,请实时查阅

查看详情
iSlot官方网站 - 引领潮水 iSlot官方网站 - 引领潮水

揭秘EQDS:AI时期数据中心的新宠

EQDS技术将险些所有的列队操作从数据中心网络移动到了主机端侧,对数据中心网络流量传输进行了优化,EQDS成为了AI时期数据中心的新宠。

  • iSlot官方网站 - 引领潮水

    颁布功夫:2024-01-12

  • iSlot官方网站 - 引领潮水

    点击量:

  • iSlot官方网站 - 引领潮水

    点赞:

分享至

iSlot官方网站 - 引领潮水
iSlot官方网站 - 引领潮水
iSlot官方网站 - 引领潮水

我想评论

2023年以来,以ChatGPT为代表的天生式 AI(AIGC,Artificial Intelligence Generated Content)技术成为整个科技行业最热点的会商话题。业内大模型已推出千亿、万亿级参数量,底层GPU算力部署规模也达到万卡级别,对智能算力的需要不休增长。

在AI大模型的训练中,数据中心已经成为了AI运算的“大脑”,网络的机能成为了造约其规模扩大和机能提升的关键成分,一旦网络机能欠安,就会影响散布式训练的质量和速度。而EQDS技术,正是这个“大脑”中不成或缺的一部门。

 

揭秘EQDS:AI时期数据中心的新宠

 

何为EQDS?    

EQDS,全称为Edge-queued datagram service,是一种新型的数据报服务,它的出现为数据中心带来了革命性的刷新。该技术将险些所有的列队操作从数据中心网络移动到了主机端侧,对数据中心网络流量传输进行了优化,蕴含带宽提升、时延降低、流量负载平衡等。这就像是给数据中心装上了一个“加快器”,让数据传输越发流畅、高效。

EQDS DPDK能够在Host主机的用户空间运行,提供类似DMA内存直接接见能力。更沉要的是,EQDS的实现不必要依赖于特定的硬件网卡,利用法式能够直接在用户态执行数据传输,不必要在内核态与用户态之间做高低文切换。这意味着,无论是通用推算、存储还是高机能推算场景,EQDS都能轻松胜任。

 

何为EQDS?

 

EQDS是若何产生的?    

既然EQDS如此优良,那它又是若何产生的呢?其实,EQDS的出现并非无意。TCP和谈固然宽泛合用,但由于其自身的机造,导致通讯过期延增长;RDMA技术固然合用于高速网络,但其只对拥塞信号“过后”作出反映的机造,也导致了长尾时延的增长。此表,TCP流量和RDMA流量共存时,会贪心地占用带宽,导致RDMA被抑造。正是在这样的布景下,EQDS应运而生。

 

EQDS是若何产生的?

 

EQDS基于Credit信令机造,在无需互换机参加下实现了端到端的拥塞节造。主机接管端分发credit,确保主机发送端流量在接管端不会过载,解决了动态时延不确定性问题。

 

Credit信令机造

 

利用互换机逐包ECMP的方式,实现网络侧的负载平衡,同时在无需专用NIC支持的情况下实现接管端的数据包沉组。

 

逐包ECMP

 

选取EQIF隧路技术,成立EQDS virtual interface虚构队列和隧路细粒度的调度战术,实现TCP和RDMA流量的平正共享。

 

选取EQIF隧路技术

 

经过实考试证,EQDS技术在存储网络NVMe-OF场景下阐发优异。

在分歧网卡、分歧场景下,NVMe over EQDS的机能阐发险些一样,且显著优于NVMe over TCP,稍逊色于NVMe over RDMA。当然,由于EQDS DPDK运行在用户态,测试主机的CPU较低,无法齐全阐扬EQDS的机能。不外,只有选取AMD EPYC及以上的CPU,EQDS的机能将会得到充分阐扬。

 

iSlot官方网站 - 引领潮水

 

iSlot官方网站 - 引领潮水

 

iSlot官方网站 - 引领潮水

 

总的来说,EQDS技术为数据中心带来了诸多价值。

它兼容尺度网卡、协商阶段确定对EQDS的支持、兼容与传统网卡的TCP/IP通讯、业务无感部署、基于EQIF糊弄利用层实现利用层面零批改、兼容RDMA、TCP/IP业务、数据面去RDMA+QP基于EQDS转发、端侧基于标卡实现DMA进行内存拷贝、端到端不变低延时等。

EQDS能够通明地加快传统的TCP和RDMA和谈栈,并支持传输和谈的演进,同时受益于将来的互换机加强职能而无需批改更高层的和谈栈。更沉要的是,基于EQDS的Credit机造实现发端流控、基于Spray方式充分利用所有链路、基于EQIF隧路战术实现多业务的平正调度等个性,使得EQDS成为了AI时期数据中心的新宠。

iSlot官方网站网络推出AIGC网络规划,席卷高机能以太网络解决规划以及AI-FlexiForce网络解决规划,来应对全球互联网流量不休增长和数据利用需要多样化的发展趋向。iSlot官方网站网络致力于推动网络技术的进取和发展,持续进行技术研发和产品盛开创新,积极索求国内表先进技术,为全球的数据中心提供越发高效、靠得住、智能的网络解决规划,助力互联网、运营商等各行各业的急剧发展。

iSlot官方网站 - 引领潮水 iSlot官方网站 - 引领潮水

点赞

更多技术博文

任何必要,请联系iSlot官方网站

iSlot官方网站 - 引领潮水

返回顶部

收起
iSlot官方网站 - 引领潮水 文档AI副手
iSlot官方网站 - 引领潮水 文档评价
ev-close ev-close-m
该资料是否解决了您的问题?
ev-close ev-close-m
您对当前页面的中意度若何?
不咋滴
极度好
dark-star dark-star dark-star dark-star dark-star
ev-close ev-close-m
您中意的原因是(多。?
您对文档是否还有其它的问题或建议?
为尽快解决问题,请您留下联系方式以便回复
邮箱
手机号
ev-bg
感激您的反。
iSlot官方网站 - 引领潮水
iSlot官方网站 - 引领潮水
iSlot官方网站 - 引领潮水
请选择服务项目
关关征询页
售前征询 售前征询
售前征询
售后服务 售后服务
售后服务
定见反馈 定见反馈
定见反馈
更多联系方式
【网站地图】