近期，中国科学院合肥物质科学研究院智能机械研究所副研究员桂杰在稀疏学习研究方面的综述文章发表在IEEE Transactions on Neural Networks and Learning Systems (TNNLS)的第七期中。
近年来，稀疏学习作为机器学习和模式识别领域的一个研究热点，已经应用到机器学习和模式识别的很多子领域，包括分类、聚类和子空间学习等。桂杰等首先给出了稀疏学习综述，并着重研究了结构化稀疏学习在特征选择方法中的应用问题。
特征选择是诸多模式识别领域面临的一个关键技术挑战。随着大数据时代的来临，模式识别经常需要处理高维的数据。特征选择算法用于从原始的特征子集中选择相关的特征子集，这样有利随后的分类、聚类等分析研究。近年来，基于结构化稀疏的特征选择算法受到广泛关注，已经有大量算法被提出。然而，关于这些结构化稀疏的特征选择算法之间的联系以及它们是如何演化的，没有得到系统的研究。该综述不仅系统总结了基于结构化稀疏的特征选择方法，包括它们的研究动机和数学表达等，而且还探究了不同方法之间的关系，提出一个分类方法来阐明它们的演变。作者将已有的结构化稀疏的特征选择方法分成两类：基于向量的特征选择(基于lasso的特征选择)和基于矩阵的特征选择(基于矩阵的r，p范数的特征选择)。此外，在某些特定的应用中，特征选择已经和其他机器学习方法融合在一起，比如多任务学习、多标记学习、多视图学习、分类和聚类等。文章不仅基于回归和正则化策略比较了这些方法的区别和联系，而且为特征选择等相关领域的从业者提供了有益的借鉴和指导。
该研究工作得到了“十三五”国家重点研发计划项目和国家自然科学基金等项目的支持。
图：基于结构化稀疏的特征选择的分类
