什么是迁移学习和预训练模型?(Transfer learning & Pretraining
chenxiaoyun
发布于 2019-04-30 · 11.8w浏览

1.迁移学习

为了对迁移学习产生一个直观的认识,不妨拿老师与学生之间的关系做类比。

一位老师通常在ta所教授的领域有着多年丰富的经验,在这些积累的基础上,老师们能够在课堂上教授给学生们该领域最简明扼要的内容。这个过程可以看做是老手与新手之间的“信息转移”。

这个过程在神经网络中也适用。我们知道,神经网络需要用数据来训练,它从数据中获得信息,进而把它们转换成相应的权重。这些权重能够被提取出来,迁移到其他的神经网络中,我们“迁移”了这些学来的特征,就不需要从零开始训练一个神经网络了 。


2.预训练

1) 预训练模型就是已经用数据集训练好了的模型。

2) 现在我们常用的预训练模型就是他人用常用模型,比如VGG16/19,Resnet等模型,并用大型数据集来做训练集,比如Imagenet, COCO等训练好的模型参数

3 )  正常情况下,我们常用的VGG16/19等网络已经是他人调试好的优秀网络,我们无需再修改其网络结构。


chenxiaoyun
半自动人工智障点赞机
浏览 11.8w
相关推荐
最新评论
赞过的人
评论加载中...

暂无评论,快来评论吧!