本教程基于 TensorFlow - MNIST For ML Beginners ，其中有一些基于个人理解的删减和添加。

2018 年 2 月 1 日 更新：官方移除了这份入门教程，并将原链接重定向至 A Guide to TF Layers 。

集合（Ensemble）方法的目标是将不同的分类器组合到一起，相比每个单独的分类器具有更好的泛化性能。

评价指标（Evaluation Metrics）除之前介绍的准确率（Accuracy）之外，还有其他的一些指标，如精确率（Precision）、召回率（Recall）和 F1 分数（F1 Score）等。

网格搜索（Grid Search）是一种通过遍历给定的超参数组合来优化模型表现的方法。

绘制模型的学习曲线（Learning Curve）和验证曲线（Validation Curve）是常用的调试手段，能够从中直观看到模型在测试集和验证集上的表现，以及判断是否有过拟合或欠拟合问题。

K 折交叉验证（K-Fold Cross Validation）是一种模型选择（Model Selection）方法，将初始样本分为 K 个折叠（Fold），一个折叠作为数据集、其余 K-1 个折叠作为训练集，反复重复上述步骤 K 次并将得到的结果综合起来，得到最终的评估结果。

Scikit-learn 的管道（Pipeline）实现了对转换器（Transformer）和估计器（Estimator）的流式化封装和管理，本文以 wdbc 数据集 为例对其进行说明。

本文翻译自 TensorFlow - Get Started 官方入门教程。

线性判别分析（Linear Discriminant Analysis，LDA）作为一种特征提取技术，可以提高计算效率，防止由于维数灾难而导致的过拟合。
LDA 与 PCA 类似，不同之处在于 PCA 的目标是找到数据集中最大方差的正交分量轴，而 LDA 的目标是找到优化类可分性的特征子空间。

与特征选择类似，我们可以使用特征提取（Feature Extraction）来减少数据集中特征的数量。其区别在于，特征选择保留原始特征，而特征提取则将数据转换或投影到新的特征空间。
本文介绍主成分分析（Principal Component Analysis, PCA），它是一种无监督的线性变换技术，主要特点是特征提取和降维。