迁移学习:人工智能深度学习的下一个方向

发布时间:2020-08-18 11:00:00
阅读量:119
作者:猎维人工智能培训
迁移学习并不是新的概念,在 1995 年 NIPS 的研讨会上大家就讨论过如何归纳系统的知识,整合并迁移到新的领域,在 2016 年的 NIPS 上,吴恩达教授在他的演讲里面也强调了下一个深度学习重要方向应该是迁移学习。

迁移学习并不是新的概念,在 1995 年 NIPS 的研讨会上大家就讨论过如何归纳系统的知识,整合并迁移到新的领域,在 2016 年的 NIPS 上,吴恩达教授在他的演讲里面也强调了下一个深度学习重要方向应该是迁移学习。

迁移学习:人工智能深度学习的下一个方向

迁移学习专注在某个任务上训练出一个很好的预训练模型,当然数据量是一个很好的条件,可以进行在线迁移学习、在线优化,自动下载到边缘端。当目标域的数据出现各种各样的情况时,会选择不同的迁移算法。比如无监督学习、自监督学习、小样本学习,以及 GAN 的迁移,还有多任务的学习,以及原域到目标域的映射,到新领域的一些迁移学习。

刚才提到一个很重要的迁移条件,预训练模型。如果有一个很好的预训练模型,任务就具备了很好的完成条件。ImageNet 在计算机视觉领域在图像分类 / 目标检测 / 分割中有着无法撼动的地位,从李飞飞等人在 CVPR2009 发表的论文以来,很多人在 ImageNet 上训练出越来越好的模型,受惠于各行各业。比如从 2012 年开始的 AlexNet,后来有 VGGNet、GoogleNet、ResNet、DenseNet,ResNeXt,这些模型大家今天都还在用,我们在场景下可以进行预训练的方式,在这个场景上应用后,可以迁移到新的域。

下一个深度学习重要方向应该是迁移学习

这是一个应用案例,比如在某个特定的场景下需要高性能无人看管包的检测,通过预训练模型(人的检测、包的检测),应用迁移学习的框架,使得在迁移学习框架上性能从 30%达到 98%以上,加上其他的算法,就可以做到高性能的无人看管包的检测。另一个例子是人脸识别,如果有一个很好的预训练模型,但训练数据里,只有很少的儿童人脸识别,或者不同肤色人脸的识别、暗光的识别,就可能存在性能下降,所以迁移学习可以在特定的情况下达到源域一样的性能,并且在源域的场景下,性能不打折扣。

另一个研究热点是行人再识别。人脸识别之后,人们想用行人再识别,从图像和外貌上寻找并鉴别是否是同一个人,在应用上我们叫跨相机场景下搜寻一个人。但是不像人脸和指纹,人体是非刚性的,受相机的角度、光线遮挡、分辨率变化,行人姿态 / 遮挡不同影响,它的因素是在变化的,到底人体的哪些特征是专属一个特定人的,没有一个确定的独特性。行人图像在监控下千变万化,使得这个课题在计算机领域还是极具挑战,也是一个研究的热点和难点。

更多资讯