迁移学习(transfer learning)
给定源域的数据和任务，提高目标域的任务性能
领域自适应(domain adaptation)
• 任务相同
• 数据域不同(光照，姿势，图像风格)
• 源域数据有标签， 目标域数据没有标签(或标签很少)
易混淆概念
无监督领域自适应 Unsupervised DA：
• 源域有标签，目标域没有标签
监督领域自适应 Supervised DA (fine-tune)：
• 源域有标签，目标域有少量标签
无监督迁移学习 Unsupervised transfer learning：
• 源域和目标域都没有标签，比较少见
半监督学习 Semi-supervised learning：
• 没有数据域或任务的差别
• 来源于同一个数据域的少量标签和大量无标签数据
领域自适应方法分类
基于样本的方法 Instance-based method：
• 改变源域标签数据的样本权重
• 与目标域数据相近的源域数据有更高的权重
基于特征的方法 Feature-based method：
• 将源域与目标域数据映射到共通的特征空间
提取源域和目标域的共通特征
• 部分特征是和数据域相关的
• 其它特征是数据域之间共通的
基于伪标签的方法 Pseudo-label-based method：
• 以目标域数据中可信度高的预测结果作为伪标
签来训练模型
伪标签
• 目标域中可信度高的预测通常是对的
• 可信度比较高的样本可以作为伪标签对模型进行自训练
