Coursera台大机器学习技法课程笔记15-Matrix Factorization

       很多ML模型用的都是数值特征,那么对于分类特征,该怎么做呢?

       Coursera台大机器学习技法课程笔记15-Matrix Factorization

      以linear network为例:先对特征进行转换,转换成有意义的特征后,再对其进行线性组合

      Coursera台大机器学习技法课程笔记15-Matrix Factorization

   进一步,模型可表示为:使Ein最小,我们就能知道如何转换特征,如何组合线性模型。

  Coursera台大机器学习技法课程笔记15-Matrix Factorization

  以给电影打分为例,我们实际上要做的,就是从已有评分中,学习到特征V(观影人的喜好)和W(电影的类型)

 Coursera台大机器学习技法课程笔记15-Matrix Factorization

 对Ein的优化,可以通过先固定一个变量进行:

 Coursera台大机器学习技法课程笔记15-Matrix Factorization

 将矩阵分解和linear autocoder进行对比:一个可以降维,一个可以提取出隐藏特征。

 Coursera台大机器学习技法课程笔记15-Matrix Factorization

 用SGD来做矩阵分解:

 Coursera台大机器学习技法课程笔记15-Matrix Factorization