gydtep

Shuffle agent的归集功能将reducer的input数据从碎片变为了连续数据文件，对HDD介质相当友好。由此，整个shuffle过程中对磁盘的读写均为连续访问。

gydtep

从标准的TPCH等测试中可以看到不同场景下性能可取得百分之几十到几倍的提升，且大幅降低磁盘压力、提升CPU等资源利用率。

gydtep

但在前述shuffle service流程中，由于shuffle agent输出的shuffle这个文件包含了来自所有mapper的shuffle数据，损坏文件的重新生成需要以重跑所有mapper为代价。

gydtep

在后续数据发送到新的shuffle agent同时，Fuxi还会将丢失的部分数据从备份副本中load起来并同样发送给新的shuffle agent, 使得后续reducer所有的数据都可以读取自shuffle agent侧，极大地提升了容错情况下的作业性能。

gydtep

而实际上多数场景计算逻辑生成shuffle数据的速度不足以填满shuffle带宽，运行中的计算节点等待数据的现象明显，性能提升付出了资源浪费的代价。

gydtep

典型的互联网公司业务一般区分为离线业务与在线业务两种类型。在阿里巴巴，我们也同样有在线业务如淘宝、天猫、钉钉、Blink等，

gydtep

如何保障离线稳定
当资源发生冲突时，第一反应往往是保护在线，牺牲离线。

gydtep

这里包括在线、离线两个大类的资源诉求，同时也包含了各自内部不同层次的优先级二次划分需求，十分复杂。

gydtep

在集群、Job作业、机器、worker等不同层次和粒度实现了资源信息的画像，实现了秒级的数据采集精度。

gydtep

探索机器学习场景的DAG调度，改善训练作业的效率，提升GPU使用率。