【机器学习】分类算法 - KNN算法（K-近邻算法）KNeighborsClassifier

**机器学习分类算法 - KNN算法**

在机器学习领域，分类算法是指用于将数据划分为不同类别的算法。其中，K-近邻算法（KNN）是一种常见且有效的分类算法。它通过找到每个样本点的K个最相似邻居来进行预测。

**什么是KNN算法**

KNN算法基于以下假设：

* 每个样本点都有一个特征向量。
* 每个样本点都有一个类别标签。
* KNN算法通过找到每个样本点的K个最相似邻居来进行预测。

**如何使用KNN算法**

1. **数据准备**: 将数据集分为训练集和测试集。训练集用于训练模型，测试集用于评估模型性能。
2. **特征提取**: 从原始数据中提取有意义的特征。
3. **距离计算**: 计算每个样本点与其他样本点之间的距离（例如欧式距离）。
4. **邻居选择**:选择每个样本点的K个最相似邻居。
5. **预测**: 根据邻居的类别标签进行预测。

**Python实现**

以下是使用Scikit-learn库在Python中实现KNN算法的示例代码：

from sklearn.neighbors import KNeighborsClassifierfrom sklearn.datasets import load_irisfrom sklearn.model_selection import train_test_split# 加载数据集iris = load_iris()
X = iris.data # 特征矩阵y = iris.target # 类别标签# 划分训练集和测试集X_train, X_test, y_train, y_test = train_test_split(X, y, test_size=0.2, random_state=42)

# 初始化KNN模型knn = KNeighborsClassifier(n_neighbors=5) # 使用5个邻居# 训练模型knn.fit(X_train, y_train)

# 预测测试集y_pred = knn.predict(X_test)

#评估模型性能print("准确率：", knn.score(X_test, y_test))