Multi-view Learning 多视角学习入门

Multi-view Learning 多视角学习入门

标签：机器学习

在上海呆了一年了，从啥都不会 到 啥都不会，还是要回归博客，做做小结整理整理……
多视角学习是老板的拿手好戏，最近布置的任务也和多视角相关。经过老板的一番吐槽，在找论文时候要注意其上过哪些会议，比较好的会议上论文的质量较高。经过多方求助，入门可以从最精（xuan）华（xue）的综述开始看起。

• Xu C, Tao D, Xu C. A Survey on Multi-view Learning[J]. Computer Science, 2013.
• Sun S. A survey of multi-view machine learning[J]. Neural Computing & Applications, 2013, 23(7-8):2031-2038.

多视角简介

Multi-view learning: introduces one function to model a particular view and jointly optimizes all the functions to exploit the redundant views of the same input data and improve the learning performance.

引入了一个函数去模型化一个特定的视角，并且利用相同输入的冗余视角去联合优化所有函数，最终提高学习效果。

多视角来源

(1) multiple sources (2) different feature subsets;

(1) 多个源：比如人物识别可以用脸、指纹等作为不同源的输入。
(2) 多个特征子集：比如图像表示可以用颜色、文字等作为不同特征表述。

多视角学习算法

• co-training 协同训练
  trains alternately to maximize the mutual agreement on two distinct views of the unlabeled data.
• multi-kernel learning 多核学习
  exploits kernels that naturally correspond to different views and combine kernels either linearly or non-linearly to improve learning performance.
• subspace learning 子空间学习
  obtains a latent subspace shared by multiple views by assuming that the input views are generated from this latent subspace.

学习准则

为了确保 redundant views 可以被有效充分地利用，建立以下 Principles：

1. consensus principle (共识准则)
   尽量保证两个 Hypothesis 一致，其不一致的概率作为右边式子的上界。右式为单独每个假设下的错误率，下式保证了该值最小化。
   
   P(f1≠f2)≥max{ Perr(f1),P<