Một máy học cực đại trọng số mới dựa trên tối ưu hóa mạng đàn hồi được nhúng vào học từ điển phân biệt theo quy chuẩn mũ cho phân loại hình ảnh

Complex & Intelligent Systems - Tập 9 - Trang 6329-6342 - 2023
Di Wu1,2, PinYi Zhao1, Qin Wan1,2
1College of Electrical and Information Engineering, Hunan Institute of Engineering, Xiangtan, China
2Hunan Province Cooperative Innovation Center for Wind Power Equipment and Energy Conversion, Hunan Institute of Engineering, Xiangtan, China

Tóm tắt

Nó được biết đến rằng việc đại diện thưa phân biệt có thể cải thiện đáng kể hiệu suất phân loại hình ảnh. Tuy nhiên, vẫn còn một số vấn đề khó khăn cần được giải quyết do hiệu suất không đạt yêu cầu và thời gian tính toán cao. Trong bài báo này, một khung phân loại mới được gọi là máy học cực đại trọng số với học từ điển phân biệt theo quy chuẩn mũ (WELM-ERDDL) được đề xuất để giải quyết những vấn đề này. Những đóng góp chính của bài báo này bao gồm (1) WELM được nhúng cùng với ERDDL thông qua phân tích phân biệt tuyến tính quy chuẩn mũ (ERLDA) để thực hiện ánh xạ đặc trưng, cho phép đại diện đặc trưng phi tuyến tính và đa dạng; (2) trong quá trình học ELM, quy chuẩn lưới đàn hồi được sử dụng để tối ưu hóa trọng số đầu ra mạnh mẽ và có ý nghĩa hơn; (3) một quy tắc cập nhật trọng số hiệu quả được thiết kế cho WELM. Để xác minh tính hiệu quả của phương pháp được đề xuất, một số thí nghiệm được thực hiện trên các cơ sở dữ liệu phân loại hình ảnh trong thế giới thực. Các kết quả cho thấy rằng khung WELM-ERDDL được đề xuất còn hiệu quả hơn các thuật toán tiên tiến khác trong tổng thể.

Từ khóa

#phân loại hình ảnh #đại diện thưa #quy chuẩn mũ #máy học cực đại trọng số #phân tích phân biệt tuyến tính quy chuẩn

Tài liệu tham khảo

Zhang R, Lan Y, Huang GB et al (2012) Universal approximation of extreme learning machine with adaptive growth of hidden nodes. IEEE Trans Neural Netw Learn Syst 23:365–371 Cui D, Huang G, Kasun LLC, Zhang G, Han W (2017) Elmnet: feature learning using extreme learning machines. In 2017 IEEE international conference on image processing (ICIP) (pp 1857–1861) Foroughi H, Ray N, Zhang H (2018) Object classification with joint projection and low-rank dictionary learning. IEEE Trans Image Process 27(2):806–821 Wang S, Zhu E, Yin J, Porikli F (2018) Video anomaly detection and localization by local motion based joint video representation and OCELM. Neurocomputing 277:161–175 Sun K, Mou S, Qiu J, Wang T, Gao H (2018) Adaptive fuzzy control for non-triangular structural stochastic switched nonlinear systems with full state constraints. IEEE Trans Fuzzy Syste 2018:1 Zhang W, Zhanga Z, Wang L et al (2019) Extreme learning machines with expectation kernels. IEEE Trans Image Process 96:1–13 Lekamalage CL et al (2016) Dimension reduction with extreme learning machine. IEEE Trans Image Process 25(8):3906–3918 Yang Y, Wu QMJ (2016) Extreme leaning machine with subnetwork hidden nodes for regression and classification. IEEE Trans Cybern 46(12):2885–2898 Wu D, Qu ZS, Guo FJ, Zhu XL, Wan Q (2019) Hybrid intelligent deep kernel incremental extreme learning machine based on differential evolution and multiple population gray wolf optimization methods. Automatika 60(1):48–57 D Wu, ZS Qu, FJ Guo , Q Wan (2019) Hybrid Multilayer Incremental Hybrid Cost Sensitive Extreme Learning Machine with Multiple Hidden Output Matrix and Subnetwork Hidden Nodes . IEEE ACCESS 7:118422–118434. Scardapane S, Comminiello D, Scarpiniti M, Uncini A (2015) Online sequential extreme learning machine with kernels. IEEE Trans Neural Netw Learn Syst 26(9):2214–2220 Li S, Song S, Huang G, Wu C (2019) Cross-domain extreme learning machines for domain adaptation. IEEE Trans Syst Man Cybern Syst 49(6):1–14 Yu K, Liang J, Qu B, Luo Y, Yue C (2021) Dynamic selection preference-assisted constrained multiobjective differential evolution. IEEE Trans Syst Man Cybern Syst. https://doi.org/10.1109/TSMC.2021.3061698 Lakhdhar W, Mzid R, Khalgui M, Li Z, Frey G, Al-Ahmari A (2019) Multiobjective optimization approach for a portable development of reconfigurable real-time systems: from specification to implementation. IEEE Trans Syst Man Cybern Syst 49(3):623–637 Chen Q, Ding J, Yang S, Chai T (2020) A novel evolutionary algorithm for dynamic constrained multiobjective optimization problems. IEEE Trans Evol Comput 24(4):792–806 Zhou Y, Xiang Y, He X (2021) Constrained multi-objective optimization: test problem construction and performance evaluations. IEEE Trans Evol Comput 25(1):172–186. https://doi.org/10.1109/TEVC.2020.3011829 Huang GB, Zhu QY, Siew CK (2006) Extreme learning machine: theory and applications. Neurocomputing 70(1):489–501 Huang G-B, Chen L, Siew C-K (2006) Universal approximation using incremental constructive feed forward networks with random hidden nodes. IEEE Trans Neural Netw 17(4):879–892 Zeng Y, Li Y, Chen J et al (2020) ELM embedded discriminative dictionary learning for image classification. Neural Netw 123:331–342 Wang W, Zhang R (2014) Improved convex incremental extreme learning machine based on enhanced random search. Electr Eng Electron Engg 238:2033–2040 Tang J, Deng C, Huang G-B (2016) Extreme learning machine for multilayer perceptron. IEEE Trans Neural Netw Learn Syst 27(4):809–821 Dasgupa S, Stevens CF (2017) A neural algorithm for a fundamental computing problem. Science 358(6364):793–796 Kunjie Y, Jing L, Boyang Q, Caitong Y (2021) Purpose-directed two-phase multiobjective differential evolution for constrained multiobjective optimization. Swarm Evol Comput 60:100799 Kunjie Y, Xu C, Xin W, Zhenlei W (2017) Parameters identification of photovoltaic models using self-adaptive teaching-learning-based optimization. Energy Convers Manage 145:233–246 Pierezan J, Coelho LDS (2018) Coyote optimization algorithm: a new metaheuristic for global optimization problems. In: 2018 IEEE Congress on Evolutionary Computation (CEC). Rio de Janeiro, Brazil, USA: IEEE Ling T, Zhi-Hui Z, Wang YX, Wang ZJ, Yu WJ, Zhang J (2018) Competitive swarm optimizer with dynamic grouping for large scale optimization. In: Proc. IEEE Congr. Evol. Comput. (CEC 2018), Rio de Janeiro, Brazil, pp 2655–2660 Rahman CM, Rashid TA (2020) A new evolutionary algorithm: learner performance based behavior algorithm. Egypt Inf J. https://doi.org/10.1016/j.eij.2020.08.003 Abdullah JM, Ahmed T (2019) Fitness dependent optimizer: inspired by the bee swarming reproductive process. IEEE Access 7:43473–43486. https://doi.org/10.1109/ACCESS.2019.2907012 Di Wu, Li T, Wan Q (2021) A hybrid deep kernel incremental extreme learning machine based on improved coyote and beetle swarm optimization methods. Compl Intell Syst 7:3015–3032