Mạng lưới phân cụm hình ảnh theo không gian con sâu với tự biểu diễn và tự giám sát

Springer Science and Business Media LLC - Tập 53 - Trang 4859-4873 - 2022
Chao Chen1, Hu Lu1,2, Hui Wei3, Xia Geng1
1School of Computer Science and Communication Engineering, Jiangsu University, Zhenjiang, China
2Jiangsu Province Big Data Ubiquitous Perception and Intelligent Agricultural Application Engineering Research Center, Zhenjiang, China
3School of Computer Science, Fudan University, Shanghai, China

Tóm tắt

Các thuật toán phân cụm không gian con cho bộ dữ liệu hình ảnh áp dụng ma trận hệ số tự biểu diễn để xác định mối liên hệ giữa các mẫu và sau đó thực hiện phân cụm. Tuy nhiên, các thuật toán như vậy được đề xuất trong những năm gần đây không sử dụng nhãn phân cụm trong không gian con để hướng dẫn mạng sâu và không tạo ra một khung trích xuất đặc trưng và phân cụm có thể huấn luyện theo kiểu đầu-đến-cuối. Trong bài báo này, chúng tôi đề xuất một mô hình phân cụm không gian con tự giám sát với cấu trúc sâu theo kiểu đầu-đến-cuối, được gọi là Mạng lưới phân cụm hình ảnh không gian con sâu với tự biểu diễn và tự giám sát (DSCNSS). Mô hình này nhúng mô-đun tự giám sát vào phân cụm không gian con. Trong quá trình huấn luyện mô hình mạng, tối ưu hóa lặp luân phiên được áp dụng để thực hiện sự thúc đẩy lẫn nhau giữa mô-đun tự giám sát và mô-đun phân cụm không gian con. Thêm vào đó, chúng tôi thiết kế một hàm tổn thất tự giám sát mới để cải thiện hiệu suất tổng thể của mô hình hơn nữa. Để xác minh hiệu suất của phương pháp đề xuất, chúng tôi đã thực hiện các thử nghiệm thực nghiệm trên các bộ dữ liệu hình ảnh chuẩn như Extended Yale B, COIL20, COIL100 và ORL. Kết quả thực nghiệm cho thấy hiệu suất của phương pháp đề xuất vượt trội hơn so với các thuật toán phân cụm không gian con truyền thống hiện có và thuật toán phân cụm sâu.

Từ khóa

#Phân cụm không gian con #mô hình tự giám sát #mạng sâu #trích xuất đặc trưng #tối ưu hóa lặp luân phiên

Tài liệu tham khảo

MacQueen J (1967) Some methods for classification and analysis of multivariate observations. In: Proceedings of the fifth Berkeley symposium on mathematical statistics and probability, vol 1, no 14, pp 281–297, Oakland, CA, USA Ester M, Kriegel H-P, Sander J, Xu X (1996) A density-based algorithm for discovering clusters in large spatial databases with noise. kdd 96(34):226–231 Johnson SC (1967) Hierarchical clustering schemes. Psychometrika 32(3):241–254 Koga H, Ishibashi T, Watanabe T (2007) Fast agglomerative hierarchical clustering algorithm using Locality-Sensitive Hashing. Knowl Inf Syst 12(1):25–53 Lu H, Song Y, Wei H (2020) Multiple-kernel combination fuzzy clustering for community detection. Soft Comput 24(18):14157–14165 Peng X, Feng J, Xiao S, Yau W-Y, Zhou JT, Yang S (2018) Structured autoencoders for subspace clustering. IEEE Trans Image Process 27(10):5076–5086 Peng X, Feng J, Zhou JT, Lei Y, Yan S (2020) Deep subspace clustering. IEEE Trans Neural Netw Learn Syst 31(12):5509–5521 Zhou P, Hou Y, Feng J (2018) Deep adversarial subspace clustering. In: Proceedings of the IEEE Conference on Computer Vision and Pattern Recognition, pp 1596–1604 Liu M, Wang Y, Sun J, Ji Z (2021) Adaptive low-rank kernel block diagonal representation subspace clustering. Appl Intell 52(2):2301–2316 Yang X, Deng C, Liu X, Nie F (2018) New l 2, 1-norm relaxation of multi-way graph cut for clustering. In: Thirty-Second AAAI Conference on Artificial Intelligence Ng AY, Jordan MI, Weiss Y (2002) On spectral clustering: Analysis and an algorithm. In: Advances in neural information processing systems, pp 849–856 Elhamifar E, Vidal R (2013) Sparse subspace clustering: Algorithm, theory, and applications. IEEE Trans Pattern Anal Mach Intell 35(11):2765–2781 Vidal EER (2009) Sparse subspace clustering. In: 2009 IEEE Conference on Computer Vision and Pattern Recognition (CVPR), vol 6, pp 2790–2797 Liu G, Lin Z, Yu Y (2010) Robust subspace segmentation by low-rank representation. In: Icml, vol 1, p 8, Citeseer You C, Li C-G, Robinson DP, Vidal R et al (2016) Oracle based active set algorithm for scalable elastic net subspace clustering. In: Proceedings of the IEEE conference on computer vision and pattern recognition, pp 3928–3937 Lu H, Liu S, Wei H, Tu J (2020) Multi-kernel fuzzy clustering based on auto-encoder for fMRI functional network. Expert Syst Appl 159:113513 Yang J, Liang J, Wang K, Rosin PL, Yang M-H (2019) Subspace clustering via good neighbors. IEEE Trans Pattern Anal Mach Intell 42(6):1537–1544 Zhang J et al (2019) Self-supervised convolutional subspace clustering network. In: Proceedings of the IEEE/CVF Conference on Computer Vision and Pattern Recognition, pp 5473–5482 Liu M, Wang Y, Sun J, Ji Z (2020) Structured block diagonal representation for subspace clustering. Appl Intell 50(8):2523–2536 Mi Y, Ren Z, Mukherjee M, Huang Y, Sun Q, Chen L (2021) Diversity and consistency embedding learning for multi-view subspace clustering. Appl Intell 51(10):6771–6784 Patel VM, Vidal R (2014) Kernel sparse subspace clustering. In: IEEE International conference on image processing (ICIP). IEEE, pp 2849–2853 Huang Q, Zhang Y, Peng H, Dan T, Weng W, Cai H (2020) Deep subspace clustering to achieve jointly latent feature extraction and discriminative learning. Neurocomputing 404:340–350 Zhang Y et al (2021) Deep multiview clustering via iteratively self-supervised universal and specific space learning. IEEE Trans Cybern (99):1–13 Ji P, Zhang T, Li H, Salzmann M, Reid I (2017) Deep subspace clustering networks. Advances in neural information processing systems, pp 24–33 Valanarasu JMJ, Patel VM (2021) Overcomplete deep subspace clustering networks. In: Proceedings of the IEEE/CVF Winter Conference on Applications of Computer Vision, pp 746–755 Sun X, Cheng M, Min C, Jing L (2019) Self-supervised deep multi-view subspace clustering. In: Asian Conference on Machine Learning. PMLR, pp 1001–1016 Masci J, Meier U, Cireşan D, Schmidhuber J (2011) Stacked convolutional auto-encoders for hierarchical feature extraction. In: International conference on artificial neural networks. Springer, Berlin, pp 52–59 Ji P, Salzmann M, Li H (2014) Efficient dense subspace clustering. In: IEEE Winter Conference on Applications of Computer Vision. IEEE, pp 461–468 Georghiades AS, Belhumeur PN, Kriegman DJ (2001) From few to many: Illumination cone models for face recognition under variable lighting and pose. IEEE Trans Pattern Anal Mach Intell 23(6):643–660 Samaria FS, Harter AC (1994) Parameterisation of a stochastic model for human face identification. In: Proceedings of 1994 IEEE workshop on applications of computer vision. IEEE, pp 138–142 Nene SA (1996) Columbia object image library (coil-100). Technical Report 6 You C, Robinson D, Vidal R (2016) Scalable sparse subspace clustering by orthogonal matching pursuit. In: Proceedings of the IEEE conference on computer vision and pattern recognition, pp 3918–3927 Vidal R, Favaro P (2014) Low rank subspace clustering (LRSC). Pattern Recogn Lett 43:47–61 Baek S, Yoon G, Song J, Yoon SM (2021) Deep self-representative subspace clustering network. Pattern Recogn 118:108041 Lu H, Chen C, Wei H (2022) Improved deep convolutional embedded clustering with re-selectable sample training. Pattern Recognit 127:108611