剪枝策略包括求二阶导数，求二阶偏导数，指定阈值，指定剪切比例，但是又有论文发现，其实重要的不是将哪些值剪掉，而是那些值所在的位置，也就是说我们剪枝之后剩下的参数其实可以不要，重新初始化一个参数，...
简介Deep Learning with Limited Numerical Precision 是 IBM T. J. Watson Research Center 发表的一篇关于网络如何提升...
简介Learning both Weights and Connections for Efficient Neural Networks 是 Song Han 在Stanford大学2016年...
简介DEEP COMPRESSION: COMPRESSING DEEP NEURAL NETWORKS WITH PRUNING, TRAINED QUANTIZATION AND HUFFM...
会议深度学习相关会议：（1）国际表示学习会议（International Conference On Learning Representations，ICLR）：主要聚焦于深度学习 2020...
引言在机器学习中，有各种个样的损失函数，不同的损失函数对于不同的任务通常会有不同的效果，而且在有些任务中，大家会使用多个损失函数联合起来，一起训练网络。本文将搜集一些以前人们设计出来的损失函数。...
引言最近做实验，一直没有好的结果，很是焦躁，又看到个医药的大公司招聘要求里面有说应聘者最好有个人技术专栏。为了缓解焦躁，就突发奇想，想着能写点东西，记点东西。找模版之前一直是有一个github的...
