拓展智能边界 开启云计算崭新时代 周靖人.pdf

MaaS

模型即服务的创新实践

QCon2023全球软件开发大会上海站（公开）PPT

阿里云首席技术官/周靖人

数据、计算与模型的协同发展，让知识触手可及

算法创新与突破，从数据中抽取知识

先验

农业

知识逻辑

法律

推理伦理语言认知艺术物理医学哲学金融

理解

持续演进的模型技术

QCon2023全球软件开发大会上海站（公开）PPT

爆炸性增长的数据不断提升的计算能力

MaaS(ModelasaService)

促进中国大模型生态的繁荣是阿里云的首要目标

通义垂直领域产品

通义听悟通义星尘通义晓蜜

通义灵码……

模型定制与应用服务

QCon2023全球软件开发大会上海站（公开）PPT

阿里云百炼

模型矩阵

通义千问通义万相三方开源商业模型魔搭模型社区

模型训练模型推理

（PAI灵骏）（PAI灵积）

阿里云飞天操作系统

MaaS(ModelasaService)

促进中国大模型生态的繁荣是阿里云的首要目标

QCon2023全球软件开发大会上海站（公开）PPT

模型训练

（PAI灵骏）

大模型训练的挑战

存储网络与调度故障恢复资源与配额管理

每一次训练迭代都需要对大规模瓶颈主要来自GPU之间的通信，单一GPU故障会对训练产生全模型训练需要gangscheduling，

数据集的高效导入需要动态调度以应对复杂计算与局影响，错误代价高对资源有效共享带来更大挑战

通信模式

QCon2023全球软件开发大会上海站（公开）PPT

Schedulejob

单个GPU故障

数据中心网络