多输出学习的目的是在给定输入的情况下同时预测多个输出。 因为在现实世界中进行决策通常涉及多个复杂因素和标准，所以它是决策中一个重要的学习问题。 近年来，越来越多的研究集中在一次预测多个输出的方法上。根据所研究的特定的多输出学习问题，这种努力以不同的形式发生。 多输出学习的经典案例包括多标签学习，多维学习，多目标回归等。 从我们对该主题的调查中，我们感到惊讶的是，缺乏将多输出学习的不同形式归纳为一个通用框架的研究。 本文通过对多输出学习范式的全面回顾和分析来填补这一空白。 特别是，我们通过从大数据中汲取灵感来表征多输出学习的四个Vs，即体积，速度，多样性和准确性 volume, velocity, variety, and veracity,，以及这四个Vs既受益又给多输出学习带来挑战的方式。 在输出标签的生命周期中，介绍了多输出学习的主要数学定义，并研究了该领域的主要挑战和文献中发现的相应解决方案。 还讨论了几种模型评估指标和流行的数据库。 最后但并非最不重要的一点是，我们从四个V的角度突出了多输出学习的一些新出现的挑战，这是值得进一步研究的潜在研究方向

MNIST 数据集 (Mixed National Institute of Standards and Technology database) 是美国国家标准与技术研究院收集整理的大型手写数字数据库,包含60,000个示例的训练集以及10,000个示例的测试集。

决策树类似我们人的决策过程。比如买北京学区房。就读学校是什么？预算？面积？

Dating-with-Machine-Learning

假设有 N 个实例 \mathbf{x_i} = (x_0, x_1, x_2, \cdots, x_n) ， x_i(i \neq 0) 代表了实例的第 i 个属性， x_0 = 1 。

之前我们说，当预测值为连续值时，称为“回归问题”，离散值时为“分类问题”。但回归是什么，为什么要叫回归？