KNN

释义 Definition

KNN（k-nearest neighbors，k 近邻算法）：一种常见的监督学习方法，用于分类或回归。它根据某个样本在特征空间中距离最近的 k 个邻居的标签（或数值）来预测该样本的类别（或数值）。

发音 Pronunciation

/ˌkeɪ en ˈen/

词源 Etymology

KNN是英文短语 k-nearest neighbors 的缩写：

• k 表示选取的“最近邻”数量（一个可调参数）
• nearest neighbors 指“距离最近的邻居样本”
  该方法在统计模式识别与机器学习中被广泛使用，经典早期研究可追溯到 20 世纪 60 年代关于“最近邻分类”的论文。

例句 Examples

KNN is easy to understand and works well on small datasets.
KNN 很容易理解，并且在小型数据集上效果不错。

In high-dimensional spaces, KNN often suffers from the curse of dimensionality, so feature scaling and careful choice of distance metric become crucial.
在高维空间中，KNN 常受“维度灾难”影响，因此特征缩放和谨慎选择距离度量就变得非常关键。

相关词 Related Words

• K-Means
• Classification
• Regression
• Distance
• Euclidean
• Similarity
• Feature
• Normalization
• Overfitting
• Cross-Validation

文学作品与经典出处 Literary Works

• The Elements of Statistical Learning（Hastie, Tibshirani, Friedman）——介绍包含最近邻方法在内的经典统计学习内容
• Pattern Recognition and Machine Learning（Christopher M. Bishop）——讨论基于距离的分类与相关思想
• Cover & Hart (1967), Nearest Neighbor Pattern Classification ——最近邻分类的经典论文，奠定该类方法的理论基础