【传知代码】基于标签相干性的多标签学习（论文复现）

在当今信息爆炸的期间，数据中包罗的标签信息对于明白和分析复杂标题至关紧张。在诸如文天职类、图像辨认和保举体系等应用中，怎样有用地使用标签相干性提升多标签学习的结果成为了研究的热门之一。基于标签相干性的多标签学习方法，通过发掘差异标签之间的潜伏关联，旨在进步模子对多标签数据的正确性和泛化本事。
  目次
概述
算法流程
焦点代码
末了总结

---

概述

         帕金森病是一种使人衰弱的慢性神经体系疾病。传统中医（TCM）是一种诊断帕金森病的新方法，而用于诊断帕金森病的中医数据集是一个多标签数据集。思量到帕金森病数据会集的症状（标签）之间总是存在相干性，可以通过使用标签相干性来促进多标签学习过程。现在的多标签分类方法紧张实验从标签对或标签链中发掘相干性。该文章提出了一种简单且高效的多标签分类框架，称为潜伏狄利克雷分布多标签（LDAML），该框架旨在通过使用种别标签的主题模子来学习全局相干性。简而言之，研究职员试图通过主题模子在标签集上得到抽象的“主题”，从而可以大概发掘标签之间的全局相干性。大量实验清晰地验证了所提出的方法是一个通用且有用的框架，可以大概进步大多数多标签算法的性能。基于该框架，研究职员在中医帕金森病数据集上取得了令人满足的实验结果，这可以为该范畴的发展提供参考和资助。
         多标签学习（Multi-Label Learning）是一种呆板学习方法，用于处理惩罚具有多个标签的数据样本。与传统的单标签学习差异，每个数据点在多标签学习中可以同时属于一个或多个种别，而不但仅是一个确定的标签。其目标是颠末算法练习后输出一个分类模子，即学习一组从特性空间到标记空间的实值函数映射。假设使用X=RdX=Rd体现一个d维的输入空间，Y={y1,y2,y3,...,yq}Y={y1​,y2​,y3​,...,yq​}体现大概输出的q个种别，多标签使命即在练习聚集D={(x1,Y1),(x2,Y2),...,(xm,Ym)}D={(x1​,Y1​),(x2​,Y2​),...,(xm​,Ym​)}上学习一个X到Y的函数，该函数可以权衡x和y的相干性，对于未见过的实例x猜测其对应的标签y。
本日先容的论文是多标签学习经典算法——LDAML，论文链接：https://ieeexplore.ieee.org/abstract/document/8217717 ，如下图所示：

论文提出了一种通用且高效的多标签分类框架——Latent Dirichlet Allocation Multi-Label (LDAML)。该框架通过使用标签间的关联性举行多标签分类。该框架可以应用于大多数当前的多标签分类方法，使其性能得到提升。通过使用LDAML框架，可以明显提升简单方法（如Binary Relevance, BR）的性能，以致高出某些最新的方法，同时保持较低的时间资本。提出的改进LDAML在某些特别数据集（如帕金森数据集）上取得了最佳性能。特别是在帕金森数据集上，改进的LDAML框架实现了最优性能，到达了本文的终极目标。该方法可以大概在将来为医生提供引导和资助。
算法流程

         与通过查找标签子集或标签链来使用相干性的传统方法差异，LDAML通过发现标签的抽象“主题”来使用相干性。假设为d维特性向量的输入空间，体现q类标号的输出空间。给定多标签练习集，此中为d维特性向量，为对应的标签集。我们可以将每个实例看作一个文档，每个标签看作文档中的一个单词。直观地说，肯定有一些抽象的“主题”，渴望特定的标签或多或少地出如今实例中，特别是在包罗大量相干标签的多标签数据会集。LDAML算法的紧张流程分为两步：（1）从练习会集发掘标签主题；（2）盘算主题的离散分布。
从练习会集发掘标签主题: 起首，我们将LDA引入到练习集d中，每个实例xi体现文档，每个标签体现第i个实例中的第j个标签。然后使用LDA模子天生过程盘算实例-主题 θ 的概率分布矩阵，此中 体现第i个实例注入第j主题的概率。
主题的离散分布: 盘算实例-主题分布矩阵后，得到每个实例属于每个主题的概率值。为了确定实例确切属于哪个主题，我们须要用离散值0/1来取代概率值。在这里我们使用的离散化方法如下所示：

在这里我们的练习集数据与测试集数据分布相似，因此我们可以假设测试数据集的主题概率分布与练习数据集雷同。起首我们对练习集提取出具有标记相干性的k个主题(使用算法1)，然后我们使用多标签分类模子MTMT​对练习集的特性-主题举行拟合，然后使用练习好的MT模子对未知标记聚集的测试集特性数据天生含有标记相干性的k个主题（这里须要注意的是，MTMT​可以恣意选取一个有用的多标签分类模子，文章的重点是使用标签相干性来进步各种多标签学习模子的服从）。