k+全球软件研发行业创新峰会-2024上海站 - K+全球软件研发行业创新峰会-官方网站

降本增效之混部与调度实战

分论坛：技术创新

专题：云原生技术实践

崔超杰

B站高级开发工程师
2021年加入B站基础架构部，主要负责k8s集群的弹性伸缩、资源调度、潮汐混部等工作
深度参与B站云原生技术的建设
深度参与B站在线业务降本增效场景的落地

内容简介：

如何在服务SLO不受影响的前提下，提高机器资源利用率，有效降低服务器采购成本，成为了备受关注的课题。在本次分享中，我们将重点介绍B站K8s平台在降本增效方面的实战经验和案例。我们将探讨混部技术的概念、原理以及一些常见的混部场景，如GPU混部和潮汐混部。此外，我们还将介绍调度器的基本原理，并讨论B站在调度方向的优化实践，包括负载感知调度和NUMa调度等策略。通过参与本次分享，您将了解到如何运用混部技术和调度优化策略去提高集群资源利用率。

演讲提纲：

混部

1、解释混部的概念和背景

2、B站混部框架和原理

3、B站混部的落地场景：GPU任务混部和潮汐混部等

K8s调度策略优化

1、介绍调度器的基本原理

2、B站在调度方向的优化实践：负载感知调度、NUMa调度等

听众收益：

1、了解混部技术：通过演讲，听众将能够了解混部技术的概念、原理和应用场景

2、了解K8s调度优化：听众将了解到调度器的基本原理以及B站在调度方向的优化实践，如何通过负载感知调度和NUMa调度等策略来优化任务调度和资源利用