LabVIEW机器学习工具包用户手册

1. 介绍

机器学习的思想是模仿人类的学习过程，即通过经验获取知识。机器学习算法允​许机器从经验数据中概括规则，并根据学习到的规则对未来的数据进行预测。 机器学习工具包 (MLT) 在 LabVIEW 中提供了各种机器学习算法。它是解决高维数据可视化、模式识别、函数回归和聚类识别等问题的有力工具。

2. 特性

机器学习工具包包括算法、数据类型、验证函数和可视化工具。

2.1 机器学习算法

2.1.1 无监督学习算法

无监督学习是指揭示未标记数据中隐藏结构的问题。由于数据是未标记的，因此算法中没有错误信号反馈给学习器。这将无监督学习与监督学习区分开来。聚类是无监督学习的主要和重要方法之一。 聚类是指将类成员资格分配给一组对象，以便将相似的对象分配到同一类中，将不同的对象分配到不同的类中。 每个类通常代表各自问题中的一个有意义的模式。 因此，聚类对于识别数据中的不同模式很有用。 例如，在图像处理中，聚类可用于将数字图像划分为不同的区域以进​​行边界检测或对象识别。

功能列表：

k-means 均值

k-medians中位数

k-medoids中心点

Fuzzy C-means 模糊均值

Gaussian Mixture Model (GMM) 高斯混合模型

Hierarchical Clustering层次聚类

Spectral Clustering光谱聚类

Vector Quantization (VQ) 矢量量化

Self-Organizing Map (SOM) 自组织地图

使用机器学习工具包进行无监督学习的概念图

无监督学习的概念图

数据准备

数据需要格式化以适应用户选择的无监督学习函数的API。

无监督学习函数应用

无监督学习函数用于学习输入数据的结构。

结果的评估/可视化

有关选择适当的评估/可视化实用程序的信息，请参阅第2.4节。

例子：

Example_Clustering 聚类

Example_SOM 自组织地图

2.1.2 监督学习算法

监督学习是指对输入数据与其对应的输出（标签）之间的关系（函数）的泛化。关系（函数）是通过一组训练样例学习的，每个样例都是一对输入数据和期望输出。 在训练过程中，实际输出和期望输出之间的误差经常被反馈到系统中，用于根据一定的学习规则调整系统参数。系统通过自我调整来“学习”以最小化错误。训练结束后，应该在与训练集分离的测试集（示例）上评估学习关系（函数）的性能。监督学习对于模式识别，函数回归等非常有用。应用的一个示例是手写数字的识别。 监督分类器可以用手写数字的水库进行训练，每个数字都有一个标签（每个图像代表的真实数字）。在单独的测试集上经过验证后，经过训练的分类器可用于快速准确地识别未来的手写数字。

功能列表：

k-Nearest Neighbors (k-NN) 最近邻

Back-propagation (BP) Neural Network反向传播 (BP) 神经网络

Learning Vector Quantization (LVQ) 学习矢量量化

Support Vector Machine (SVM) 支持向量机

使用 MLT 进行监督学习的概念图

监督学习的概念图

数据准备

数据需要格式化以适应用户选择的无监督学习函数的API。

将数据拆分为训练集和测试集

MLT 提供了一个实用程序（Training & Test Set.vi），可以将原始数据按照用户指定的比例拆分为训练集和测试集。

监督学习功能（使用训练集学习）

训练集用于学习过程。

监督学习功能（使用测试集评估）

测试集用于评估性能。

结果的评估/可视化

有关选择适当的评估/可视化实用程序的信息，请参阅第2.4节。

例子：

Example_BP Network_Classification BP网络_分类

Example_BP Network_Curve Fitting BP网络_曲线拟合

Example_LVQ学习矢量量化

Example_SVM支持向量机

2.1.3 降维算法

降维是指对数据进行降维的过程。数据集在缩减空间中的投影通常需要保留某些重要的数据特征。 在某些情况下，数据分析（例如聚类）在缩减空间中比在原始空间中更容易、更准确地进行。 降维的一个主要应用是人脸识别，其中由大量像素表示的人脸图像在分类之前被投影到更易于管理的低维“特征”空间。

功能列表：

Isometric Feature Mapping (Isomap) 等距特征映射（等值线图）

Locally Linear Embedding (LLE) 局部线性嵌入 (LLE)

Multidimensional Scaling (MDS) 多维缩放 (MDS)

Principal Component Analysis (PCA) 主成分分析 (PCA)

Kernel PCA 内核主成分分析

Linear Discriminant Analysis (LDA) 线性判别分析 (LDA)

使用 MLT 进行降维的概念图

降维的概念图

数据准备

数据需要格式化以适应用户选择的无监督学习函数的API。

降维函数

降维函数用于将输入数据投影到缩小的空间。

结果的评估/可视化

有关选择适当的评估/可视化实用程序的信息，请参阅第2.4节。

例子：

Example_Manifold learning流形学习

Example_LDA线性判别分析

Example_Kernel PCA主成分分析

2.2 变体数据类型

对于需要输入数据类型为数值的学习算法，需要将数据组织成二维数值数组，其中每一行是一个输入样本。 对于利用数据样本的（异）相似性关系作为输入的学习算法，数据样本可以是任何类型的对象。 在这种情况下，需要将输入数据组织成一维变量数组。 此外，用户需要指定要使用的距离/内核 VI。 有关 MLT 提供的距离/内核 VI，请参阅第 2.3 节。

输入数据为一维变量数组且需要输入距离/内核 VI 的函数：

k-medoids中心点

Hierarchical Clustering层次聚类

Spectral Clustering光谱聚类

k-Nearest Neighbor (k-NN) 最近邻（k-NN）

Isometric Feature Mapping (Isomap) 等距特征映射（Isomap）

Locally Linear Embedding (LLE) 局部线性嵌入 (LLE)

Multidimensional Scaling (MDS) 多维缩放

例子：

Example_Clustering聚类

Example_Manifold learning流形学习

2.3 距离/内核 VI 参考

一些算法要求用户指定距离/内核 VI。 有关适用功能的列表，请参阅第 2.2 节。MLT 提供了一些最常用的距离和核函数。

2.4 验证和可视化实用程序

MLT 提供验证和可视化实用程序以促进对学习质量的监控。 这些实用程序分为三类：聚类有效性指数、分类评估、学习结果的可视化。每个类别中的功能列表如下所示。

集群有效性指数：

Rand Index兰德指数

Davies-Bouldin (DB) Index戴维斯-博尔丹指数

Jaccard Index杰卡德指数

Dunn Index邓恩指数

评价分类：

Classification Accuracy分类精度

Confusion Matrix混淆矩阵

学习结果的可视化：

Visualization (2D &3D) 可视化

Plot SOM (2D &3D) 绘制自组织地图

每个函数对不同算法的适用性如表 I 所示。

3.系统要求

Windows XP 或更高版本

LabVIEW 2009 或更高版本

4. 安装注意事项

从 NI Labs 下载并解压最新的安装程序。运行安装程序。

启动 LabVIEW，以便可以重建已安装的菜单。

打开图表并转到 Addons >> Machine Learning。

表 I. 验证和可视化实用程序对不同机器学习算法的适用性。 “x”表示一个效用适用于某种算法。

,