Nội dung được dịch bởi AI, chỉ mang tính chất tham khảo
Hai Phương Pháp Gradient Đồng Nghịch Kiểu Dai–Liao Mới Đối Với Các Bài Toán Tối Ưu Hóa Không Ràng Buộc
Tóm tắt
Trong bài báo này, chúng tôi trình bày hai phương pháp gradient đồng nghịch kiểu Dai–Liao mới cho các bài toán tối ưu hóa không ràng buộc. Sự hội tụ của chúng dưới các điều kiện tìm kiếm đường thẳng Wolfe mạnh được phân tích cho các hàm mục tiêu đồng convex đều và cho các hàm mục tiêu tổng quát, tương ứng. Các thí nghiệm số cho thấy rằng các phương pháp của chúng tôi có thể vượt trội hơn một số phương pháp kiểu Dai–Liao hiện có bằng cách sử dụng hồ sơ hiệu suất của Dolan và Moré.
Từ khóa
#tối ưu hóa không ràng buộc #phương pháp gradient đồng nghịch #hội tụ #hàm mục tiêu đồng convex #hồ sơ hiệu suấtTài liệu tham khảo
Sun, W., Yuan, Y.: Optimization Theory and Methods: Nonlinear Programming. Springer, New York (2006)
Dai, Y.: Nonlinear conjugate gradient methods. Oper. Res. Manag. Sci, Wiley Encycl (2011). doi:10.1002/9780470400531.eorms0183
Hestenes, M.R., Stiefel, E.: Methods of conjugate gradients for solving linear systems. J. Res. Natl. Bur. Stand. 49(6), 409–436 (1952)
Polak, E., Ribiere, G.: Note sur la convergence de méthodes de directions conjuguées. ESAIM: Math. Model. Numer. Anal. - Modélisation Mathématique et Analyse Numérique 3(R1), 35–43 (1969)
Polyak, B.: The conjugate gradient method in extremal problems. USSR Comput. Math. Math. Phys. 9(4), 94–112 (1969)
Liu, Y., Storey, C.: Efficient generalized conjugate gradient algorithms, part 1: theory. J. Optim. Theory Appl. 69(1), 129–137 (1991)
Dai, Y., Liao, L.: New conjugacy conditions and related nonlinear conjugate gradient methods. Appl. Math. Optim. 43(1), 87–101 (2001)
Hager, W.W., Zhang, H.: A new conjugate gradient method with guaranteed descent and an efficient line search. SIAM J. Optim. 16(1), 170–192 (2005)
Yabe, H., Takano, M.: Global convergence properties of nonlinear conjugate gradient methods with modified secant condition. Comput. Optim. Appl. 28(2), 203–225 (2004)
Li, G., Tang, C., Wei, Z.: New conjugacy condition and related new conjugate gradient methods for unconstrained optimization. J. Comput. Appl. Math. 202(2), 523–539 (2007)
Yao, S., Qin, B.: A hybrid of DL and WYL nonlinear conjugate gradient methods. Abstr. Appl. Anal. 2014, 279891 (2014). doi:10.1155/2014/279891
Yao, S., Lu, X., Wei, Z.: A conjugate gradient method with global convergence for large-scale unconstrained optimization problems. J. Appl. Math. 2013, 730454 (2013). doi:10.1155/2013/730454
Cheng, Y., Mou, Q., Pan, X., Yao, S.: A sufficient descent conjugate gradient method and its global convergence. Optim. Methods Softw. 31(3), 577–590 (2016)
Dai, Z., Wen, F.: Another improved Wei–Yao–Liu nonlinear conjugate gradient method with sufficient descent property. Appl. Math. Comput. 218(14), 7421–7430 (2012)
Zoutendijk, G.: Nonlinear programming computational methods. In: Abadie, J. (ed.) Integer and Nonlinear Programming, pp. 37–86. North-Holland, Amsterdam (1970)
Gilbert, J., Nocedal, J.: Global convergence properties of conjugate gradient methods for optimization. SIAM J. Optim. 2(1), 21–42 (1992)
Andrei, N.: An unconstrained optimization test functions collection. Adv. Model. Optim. 10(1), 147–161 (2008)
Gould, N.I.M., Orban, D., Toint, P.L.: CUTEst: a constrained and unconstrained testing environment with safe threads for mathematical optimization. Comput. Optim. Appl. 60(3), 545–557 (2015)
Dolan, E.D., Moré, J.J.: Benchmarking optimization software with performance profiles. Math. Program. 91(2), 201–213 (2002)