火山引擎:云原生机器学习系统落地和实践(2023)
VIP专免
2023-10-22
999+
7.89MB
20 页
海报
侵权投诉
NoSuchBucket
NoSuchBucket
NoSuchBucket
摘要:
展开>>
收起<<
2023/3/271云原生机器学习系统落地与实践郭海青|火山引擎高级工程师22.云原生机器学习系统3.GPU利用率提升实践1.背景介绍2背景介绍3www.volcengine.com在线推理服务图片区域推荐/广告/搜索核心服务、CV/NLP/Speech等算法服务负载特性:•延迟、效果并重•NUMA绑定,异构设备支持;•波峰波谷规律明显4www.volcengine.com离线训练:PS-Worker架构图片区域推广搜亿级用户和item特征基础介绍:PS存储模型参数;Worker计算更新梯度;负载特性:•PS要求Gang性,需要保证高优资源,对稳定性要求较高,单个异常需要进行failover•...
声明:报告堂所有资料均为用户上传分享,仅供参考学习使用,版权归原作者所有。若侵犯到您的权益,请告知我们处理!任何个人或组织,在未征得本平台同意时,禁止复制、盗用、采集、发布本站内容到任何网站、书籍等各类媒体平台。