思维导图备注

OneFlow v0.5 深度学习框架文档
首页 白天 夜间 BookChat 小程序 小程序 阅读
  • 书签 我的书签
  • 添加书签 添加书签 移除书签 移除书签

分布式训练

 来源:OneFlow 浏览 431 扫码 分享 2021-10-31 10:24:16
  • 常见的分布式并行策略
  • 集群的一致性视角
  • Consistent Tensor
  • 用 launch 模块启动分布式训练
  • 数据并行训练
  • 流水并行训练
当前内容版权归 OneFlow 或其关联方所有，如需对内容或内容相关联开源项目进行关注与资助，请访问 OneFlow .
上一篇:
下一篇:
  • 书签
  • 添加书签 移除书签
  • 基础专题
    • 快速上手
    • Tensor
    • Dataset 与 DataLoader
    • 搭建神经网络
    • Autograd
    • 反向传播与 optimizer
    • 模型的加载与保存
    • 静态图模块 nn.Graph
  • 分布式训练
    • 常见的分布式并行策略
    • 集群的一致性视角
    • Consistent Tensor
    • 用 launch 模块启动分布式训练
    • 数据并行训练
    • 流水并行训练
  • API
  • 原接口兼容
    • 说明
    • 3分钟快速上手
    • 识别 MNIST 手写体数字
    • 数据输入
    • 搭建神经网络
    • 优化算法及超参配置
    • 获取作业函数的结果
    • 模型的加载与保存
    • 分布式训练
    • OneFlow 概念清单
    • OneFlow 系统设计
    • 作业函数的定义与调用
    • Consistent 与 Mirrored 视角
    • OneFlow 的并行特色
    • OFRecord 数据格式
    • 加载与准备 OFRecord 数据集
    • 将图片文件制作为 OFRecord 数据集
    • 获取运行时数据
    • OneFlow 和 ONNX 交互
暂无相关搜索结果！

    本文档使用 BookStack 构建

    展开/收起文章目录

    分享，让知识传承更久远

    文章二维码

    手机扫一扫，轻松掌上读

    文档下载

    • 普通下载
    • 下载码下载(免登录无限下载)
    你与大神的距离，只差一个APP
    APP下载
    请下载您需要的格式的文档，随时随地，享受汲取知识的乐趣！
    PDF文档 EPUB文档 MOBI文档
    温馨提示 每天每在网站阅读学习一分钟时长可下载一本电子书，每天连续签到可增加阅读时长
    下载码方式下载：免费、免登录、无限制。 免费获取下载码

    微信小程序阅读

    BookChat 微信小程序阅读
    您与他人的薪资差距，只差一个随时随地学习的小程序

    书签列表

      阅读记录

      阅读进度: 0.00% ( 0/0 ) 重置阅读进度