大规模向量检索与量化方法

KNN是一种基本的分类和回归方法，它根据一个样本在特征空间中的K个最近邻样本的类别，来预测该样本的类别。对于回归问题，则可能是根据K个最近邻样本的值来预测该样本的值。在向量检索中，KNN算法做的即是暴力检索，计算Query向量与向量库中每个向量的距离（或是方向，取决于衡量指标），来找出最相似的K条向量。KNN的优点是简单易懂，不需要训练，但它的缺点是计算成本高，尤其是在大数据集上，因为它需要计算测试样本与数据集中所有样本之间的距离。