深度学习中的分布式训练

随着人工智能与深度学习的发展，大规模和超大规模的模型越来越受到业界的推崇。以NLP行业为例，从最开始的Bert-base只有1亿左右的参数量，到千亿级别的GPT-3，再到今年6月发布的目前全球最大预训练模型“悟道2.0”，参数规模达到惊人的1.75万亿，整个业界都由一种向更大模型发展的趋势。面对如此庞大的模型，必然也需要庞大的数据量才能进行训练，如果没有分布式训练的大算力加持，一个Epoch可能就要训练到天荒地老。抛开业界淬炼超大模型的场景，对于一个AI行业的普通算法工程师，面对日常的工作，分布式训练也可以大大加速模型的训练、调参的节奏、以及版本的迭代更新，在时间如此珍贵的当下，相信没有工程师会抗拒分布式训练带来的收益。因此，我们今天就聊聊深度学习中关于分布式训练的那些事儿。

2021-09-20
阅读63
下载0
5页
docx

深度神经网络网络计算框架基础

2021-09-20
阅读201
下载0
24页
docx

安筱鹏：未来十年，攸关中国企业数字化生存的10大趋势

不论是数字化，还是数智化，都已成为疫情之后几乎每家企业不得不做的必答题，也带给企业家诸多困惑：企业是否一定要数字化转型？究竟如何数字化转型？难点和坑又是什么？

2021-09-20
阅读62
下载0
17页
docx

机器学习聚类算法大全

一、资源介绍今天给大家分享的是一份关于机器学习聚类的资料，在这份资料中，作者总结了有关聚类的绝大部分算法，非常的值得一看~ 图片聚类分析（英语：Cluster analysis）亦称为群集分析，是对于统计数据分析的一门技术，在许多领域受到广泛应用，包括机器学习，数据挖掘，模式识别，图像分析以及生物信息。聚类是把相似的对象通过静态分类的方法分成不同的组别或者更多的子集（subset），这样让在同一个子集中的成员对象都有相似的一些属性，常见的包括在坐标系中更加短的空间距离等。聚类有很多应用，在商务上，聚类能帮助市场分析人员从客户基本库中发现不同的客户群，并且用购买模式来刻画不同的客户群的特征。在生物学上，聚类能用于推导植物和动物的分类，对基因进行分类，获得对种群中固有结构的认识。聚类在地球观测数据库中相似地区的确定，汽车保险单持有者的分组，及根据房子的类型、价值和地理位置对一个城市中房屋的分组上也可以发挥作用。聚类也能用于对Web上的文档进行分类，以发现信息。二、主要内容数据聚类算法可以分为结构性或者分散性。结构性算法利用以前成功使用过的聚类器进行分类，而分散型算法则是一次确定所有分类。结构性算法可以从上至下或者从下至上双向进行计算。从下至上算法从每个对象作为单独分类开始，不断融合其中相近的对象。而从上至下算法则是把所有对象作为一个整体分类，然后逐渐分小。下面是这份资料的主要内容：聚类类型聚类一般概念聚类之连通性模型聚类之质心模型聚类之密度模型聚类之其他模型

2021-09-27
阅读64
下载0
127页
pdf

40张动图看懂各种传感器工作原理

2021-09-27
阅读32
下载0
22页
docx

机器学习基础知识大全

机器学习已经有了十分广泛的应用，例如：数据挖掘、计算机视觉、自然语言处理、生物特征识别、搜索引擎、医学诊断、检测信用卡欺诈、证券市场分析、DNA序列测序、语音和手写识别、战略游戏和机器人运用。二、主要内容下面是一些主要目录：机器学习数据挖掘统计分类聚类分析异常检测关联规则学习强化学习结构预测特征学习在线机器学习（Online machine learning ）半监督学习（Semi-supervised learning ）语法归纳

2021-09-28
阅读41
下载0
80页
pdf

最全机器学习算法汇总

本文是对机器学习算法的一个概览，以及个人的学习小结。通过阅读本文，可以快速地对机器学习算法有一个比较清晰的了解。本文承诺不会出现任何数学公式及推导，适合茶余饭后轻松阅读，希望能让读者比较舒适地获取到一点有用的东西。引言本文是对机器学习算法的一个概览，以及个人的学习小结。通过阅读本文，可以快速地对机器学习算法有一个比较清晰的了解。本文承诺不会出现任何数学公式及推导，适合茶余饭后轻松阅读，希望能让读者比较舒适地获取到一点有用的东西。本文主要分为三部分，第一部分为异常检测算法的介绍，个人感觉这类算法对监控类系统是很有借鉴意义的；第二部分为机器学习的几个常见算法简介；第三部分为深度学习及强化学习的介绍。最后会有本人的一个小结。

2021-09-28
阅读32
下载0
11页
docx

14K117-2伞形风帽

14K117-2 伞形风帽

2021-09-01
阅读38
下载0
15页
pdf

上一页 1 …… 330 331 332 333 334 335 336 337 338 339 340 …… 2164 下一页共 17308 条



立即登录

没有账户，需要注册

登录用户可享受以下权益

免费下载方案
服币提现
发布方案得服币
交易分成

精品推荐

智慧楼宇智能化系统设计（技术方案）（281页 WORD）

本工程建筑为办公生产大楼，由地上32层、地下3层组成；其中1-5层为裙楼、6-32层为塔楼。地下1-3层含停车场、人防、设备用房；地上部分：主楼一层含公共大厅；5为设备转换层，11、22层为避难层，33层设置机房；6-10层、12-21层、23-32层为办公生产用房。

阅读1898
下载3

智慧能源-能源大数据综合管理服务平台解决方案（60页 PPT）

随着能源互联网的发展，能源系统智能化特征越来越突出，能源开发、生产、传输、存储、消费全过程的智能化水平快速提升，所涉及的设备和系统将数以亿计，在规划和运行过程中将产生海量数据，且结构复杂、种类繁多、因实时性要求高而快速增长。这些数据贯穿着能源互联网各个环节，蕴含着巨大的价值。

阅读2372
下载5

清华大学：中国企业数字化转型研究报告2023

技术开发的迭代推进和技术应用的规模化积累，在推进数字技术不断取得新突破的同时，也使数字技术变得更加成熟和可靠。数字技术的先进性、复杂性、集成性与数字化系统覆盖面更广、界面更直观、操作更简单同步发展。人们能够随时随地访问功能越来越强大的数字化系统。

阅读442
下载0

三甲智慧医院智能化设计方案（65页 PPT）

本工程为单缆无源系统，将为大楼提供全面无线通信信号覆盖，所设计的室内覆盖系统是为智能化大楼室内移动通讯信号覆盖的需要而提出的

阅读1860
下载4

最新上线

陈慧高工：基于离子流效应的同塔双回直流线路地线融冰感应过电压分析与抑制措施

针对某±500 kV同塔双回直流输电线路，在“一回停运、一回运行”工况下进行停运线路地线融冰时，感应电压过大导致融冰装置故障、自动接线装置和避雷器击穿受损情况，研究建立了静电耦合和空间离子流效应综合作用的停运线路过电压计算模型。按6种工况计算分析了带电运行回路导线不同起晕电压时在停运线路上感应的过电压水平，同时综合考虑过电压抑制水平和线路能量，提出了加装5 kΩ接地高阻的过电压抑制措施，可实现将超过100 kV感应电压抑制到20 kV以下，并经实际线路融冰操作，验证了其有效性。

阅读10

程启明教授：基于TLIMC-PMSM的改进型调制模型预测控制方法

针对三电平间接矩阵变换器-永磁同步电机系统（three-level indirect matrix converter-permanent magnet synchronous motor， TLIMC-PMSM）存在的模型预测控制（model predictive control， MPC）开关频率不固定以及传统调制型模型预测控制（modulation model predictive control， MMPC）计算负荷过重等问题，提出了改进型MMPC方法，旨在提高系统的控制性能和效率。首先，详细介绍了TLIMC-PMSM系统的拓扑结构和原理。其次，指出了基于MPC和传统MMPC的控制系统存在的问题；然后，提出了简化了逆变级扇区选择方法，采用输出电压预测改进型MMPC方法，并修改了逆变级价值函数。最后，在MATLAB/Simulink软件平台上实验验明了基于改进型MMPC的TLIMC-PMSM系统相较于传统的两种控制方法，具有更为优异的控制性能。