Türev tabanlı parametre kestirim yöntemleri

Özet

Ters-çözüm kuramında çözüme karşılık gelen yanılgı enerjisi değeri, ön-kestirim parametrelerinden çözüm civarında Taylor açılımı ile kestirilebilir. Böylece, yanılgı enerjisi Hessian dizeyi ve gradyen yöneyi ile temsil edilebilir. Kare ve simetrik Hessian dizeyi yanılgı enerjisinin ön-kestirim parametrelerine göre ikinci, gradyen yöneyi ise birinci türevlerini kapsar. Hessian ve gradyen sırası ile eğrisellik ve eğim bilgilerini temsil ederler. Parametre kestirim problemlerinde, Hessian ve gradyen model yanıtı cinsinden tanımlanmalıdır. Hessian $A^T$ A ve Q dizeylerinin toplamları ile verilir. A dizeyinin sütunları ön-kestirim parametrelerine göre model yanıtın türevlerini kapsar ve Jacobian dizeyi olarak adlandırılır. Q dizeyi ise ön-kestirim parametrelerine göre model yanıtın ikinci türevlerini kapsar ve doğrusal problemler için sıfırdır. Gradyen yöneyi ise Jacobian dizeyinin dönüğü ile veri farkları dizeyinin çarpımına eşittir. Parametre düzeltme yöneyi ise Hessian dizeyinin tersi ile gradyen dizeyinin çarpımından elde edilebilir. Bu işlem Newton ters-çözüm yöntemi olarak adlandırılır ve birkaç yineleme ile çözüme ulaşmayı amaçlar. Ancak, ön-kestirim çözüme oldukça yakınsa ve problemi çözüm civarında doğrusallaştırmakta ise yakınsama elde etmek olanaklıdır. Diğer durumlarda, algoritmanın duraylılığını sağlamak amacı ile Hessian veya sadece Q için bir yaklaşımda bulunmak gerekebilir. Bu makale Hessian dizeyi için yapılan yaklaşımlar ışığında çeşitli türev tabanlı parametre kestirim yöntemlerini tartışmaktadır.

Abstract

In the inversion theory, an estimate for the error energy that corresponds to the solution of the problem can be made by a Taylor expansion for an initial parameter set in the neighbourhood of the solution. This provides the representation of the error energy in terms of Hessian matrix and the gradient vector. The square and symmetric Hessian matrix contains the second derivatives while the gradient vector consists of the derivatives of the error energy with respect to initial guess parameters. The Hessian and gradient matrices represent the curvature and gradient information, respectively. In the parameter estimation problems the Hessian and gradient matrices should be defined in terms of the theoretical model responses. The Hessian can be given by the sum of $A^T$ A and Q matrices. A is a matrix whose columns contains the derivative of model response with respect to initial guess parameters and is referred to as the Jacobian matrix. Q consists of the second derivatives of the model responses with respect to the initial guess parameters and becomes equal to zero for the linear problems. The gradient vector equals to the multiplication of transpose of the Jacobian by the data differences vector. Then the parameter correction vector is calculated by the multiplication of the inverse of Hessian matrix with the gradient vector. This process is referred as the Newton inversion method. It requires a few numbers of iterations to reach the minimum of the error energy function. However, this is only possible if the initial guess is close to the solution and provides a linearized problem around the minimum of the error energy. For other cases, an approximation for the Hessian or only for Q is made to obtain stable inversion steps. This paper discusses a variety of derivative based parameter estimation methods in view of approximations made for the representation of Hessian matrix.