Due to the iterative nature of most nonnegative matrix factorization (\textsc{NMF}) algorithms, initialization is a key aspect as it significantly influences both the convergence and the final solution obtained. Many initialization schemes have been proposed for NMF, among which one of the most popular class of methods are based on the singular value decomposition (SVD). However, these SVD-based initializations do not satisfy a rather natural condition, namely that the error should decrease as the rank of factorization increases. In this paper, we propose a novel SVD-based \textsc{NMF} initialization to specifically address this shortcoming by taking into account the SVD factors that were discarded to obtain a nonnegative initialization. This method, referred to as nonnegative SVD with low-rank correction (NNSVD-LRC), allows us to significantly reduce the initial error at a negligible additional computational cost using the low-rank structure of the discarded SVD factors. NNSVD-LRC has two other advantages compared to previous SVD-based initializations: (1) it provably generates sparse initial factors, and (2) it is faster as it only requires to compute a truncated SVD of rank $\lceil r/2 + 1 \rceil$ where $r$ is the factorization rank of the sought NMF decomposition (as opposed to a rank-$r$ truncated SVD for other methods). We show on several standard dense and sparse data sets that our new method competes favorably with state-of-the-art SVD-based initializations for NMF.
翻译:由于大多数非阴性矩阵系数化(\ textsc{NMFF})的迭接性,初始化是一个关键方面,因为它极大地影响趋同和最终解决方案,因此初始化是一个关键方面,因为初始化是一个关键方面,因为它极大地影响趋同和最终解决方案。许多初始化计划已经向NMF提出,其中最受欢迎的方法类别之一是以单值分解(SVD)为基础。然而,这些基于 SVD 的初始化方法并不满足一个相当自然的条件,即随着系数化等级的上升,错误应该减少。在本文中,我们提出一个新的基于 SVD 的系数值上升,以基于 SVVVV 的系数( tal- 递增 ), 因为它比先前的 SVD 和 最初的 S(1) 被丢弃SVD 的 SVD 因素( NNSVVD D- LRC ), 它被称为非内 SVD 低的 SVD 标准修正 ( NNSD 的计算成本小于微调 SVD 的 新的计算成本 。 NVD, NVD 最初的S- 和 的 Sration 的 Slation 的 Slation 的 Slation 和 的 Sl 的 Sl 的 S- 的 S- 的 S- S- 的 S- s- s- 的 S- s- 的 S- s- 的 S- 的 S- 的 S- 的 S- 的 S- 的 S- 的 S- 的 S- 的 的 S- 的 S- 的 的 的 的 S- 和 的 的 的 S- 的 S- 的 的 也 的 的 的 的 的 的 的 的 S- 的 S- 的 的 的 S- 、 的 的 的 的 的 的 的 的 的 和 的 的 的 的 的 的 的 的 的 的 的 的 的 的 的 S- 的 的 的 的 的 的 的 的 的 的 的 的 的 的 的