Tối ưu hóa các kernel SVM dựa trên sai số thực nghiệm: Ứng dụng trong nhận dạng hình ảnh chữ số

N.E. Ayat1,2, M. Cheriet2, C.Y. Suen1
1CENPARMI, Concordia University, Montreal, Canada
2LIVIA, Ècole de Technologie Supérieure, Montreal, Canada

Tóm tắt

Chúng tôi giải quyết vấn đề tối ưu hóa các tham số kernel trong mô hình máy vector hỗ trợ (SVM), đặc biệt khi số lượng tham số lớn hơn một như trong các kernel đa thức và KMOD, kernel mới mà chúng tôi giới thiệu. Công trình hiện tại là một nghiên cứu thực nghiệm mở rộng của khung được đề xuất bởi Chapelle et al. (2001) nhằm tối ưu hóa các kernel SVM sử dụng một giới hạn trên phân tích của sai số. Tuy nhiên, phương pháp tối ưu hóa của chúng tôi giảm thiểu ước lượng sai số thực nghiệm bằng cách sử dụng phương pháp tối ưu hóa quasi-Newton. Để đánh giá phương pháp của chúng tôi, cách tiếp cận này cũng được sử dụng để điều chỉnh các kernel KMOD, RBF và đa thức trên dữ liệu tổng hợp và cơ sở dữ liệu NIST. Phương pháp cho thấy sự hội tụ nhanh hơn nhiều với các kết quả thỏa mãn so với phương pháp giảm độ dốc đơn giản.

Từ khóa

#Máy vector hỗ trợ #Kernel #Nhận dạng hình ảnh #Phương pháp tối ưu hóa #Phân loại máy vector hỗ trợ #Đa thức #Giới hạn trên #Hội tụ #NIST #Cơ sở dữ liệu

Tài liệu tham khảo

blake, 1998, UCI repository of machine learning databases 10.1109/ICPR.2002.1047860 10.1007/978-1-4757-2440-0 ayat, 2000, Un systeme neuro-flou pour la reconnaissance de montants num?eriques de cheques arabes, CIFED, 171 chapelle, 2001, Choosing multiple parameters for support vector machines, Advances in neural information processing systems, 3 larsen, 1996, Adaptive regularization in neural network modeling, Neural Networks Tricks of the Trade, 113 platt, 1999, Probabilistic outputs for support vector machines and comparisons to regularized likelihood methods, Advances in Large Margin Classifiers, 10 wahba, 1999, The bias-variance trade-off and the randomized gacv, Advances in neural information processing systems, 11 10.1023/A:1012489924661 press, 1992, Numerical Recipes in C The Art of Scientific Computing