Topics in statistical inference for linear and nonlinear time series

Abstract

Η παρούσα διατριβή έχει δύο κυρίως στόχους. Ο πρώτος, να ασχοληθεί με το πρόβλημα της εκτίμησης του ανακλιμακώμενου συσσωρευτή τέταρτης τάξης rescaled fourth order cumulant) του μη παρατηρηθέντος λευκού θορύβου μιας γραμμικής στοχαστικής ανέλιξης, ο οποίος αποτελεί μία σημαντική παράμετρο στην στατιστική συμπερασματολογία χρονοσειρών. Ο δεύτερος στόχος είναι να προτείνει δύο τροποποιήσεις της αυτοπαλινδρομικής διαδικασίας bootstrap, οι οποίες επεκτείνουν σημαντικά το εύρος των εφαρμογών και της ασυμπτωτικής συνέπειας των αντίστοιχων μεθόδων. Όσον αφορά το πρώτο πρόβλημα εκτίμησης, μία υφιστάμενη μη παραμετρική εκτιμήτρια εξετάζεται και οι ασυμπωτικές ιδιότητες της ερευνούνται. Τα ασυμπτωτικά αποτελέσματα δείχνουν με ποιό τρόπο η αυτοσυσχέτιση της στοχαστικής ανέλιξης επηρεάζει την συμπεριφορά της εκτιμήτριας. Βασισμένοι σε αυτά τα ευρήματα και σε μια σημαντική ιδιότητα αναλλοίωτου της παραμέτρου που μας ενδιαφέρει ως προς τα γραμμικά φιλτραρίσματα της χρονοσειράς, προτείνεται μία καινούργια μη παραμετρική εκτιμήτρια η οποία βασίζεται σε μία λευκοθορυβοποίηση (pre-whitening) της υφιστάμενης χρονοσειράς. Η προαναφερθείσα ιδιότητα του αναλλοίωτου συνεπάγεται ότι η παράμετρος που μας ενδιαφέρει μπορεί να εκτιμηθεί χρησιμοποιώντας τα υπόλοιπα που προκύπτουν εφαρμόζοντας ένα γραμμικό φίλτρο μετασχηματισμού της χρονοσειράς και ότι δεν απαιτείται η χρήση οποιουδήποτε αντίστροφου μετασχηματισμού. Αν η φιλτραρισμένη χρονοσειρά είναι λιγότερο συσχετισμένη σε σχέση με την παρατηρηθείσα, τότε η νέα εκτιμήτρια έχει αρκετά πλεονεκτήματα συγκρινόμενη με την εκτιμήτρια που χρησιμοποιεί την αρχική χρονοσειρά. Οι ασυμπωτικές ιδιότητες της καινούργιας εκτιμήτριας βασισμένη σε ένα απλό αυτοπαλινδρομικό φίλτρο ερευνούνται και η ανωτερότητα της νέας εκτιμήτριας για μία μεγάλη κλάση στοχαστικών διαδικασιών αποδεικνύεται . Όπως προκύπτει για το συγκεκριμένο πρόβλημα εκτίμησης η λευκοθορυβοποίηση μπορεί να μειώσει σημαντικά όχι μόνο τη διασπορά αλλά και τη μεροληψία της εκτιμήτριας. Μέσω προσομοιώσεων διερευνούμε την συμπεριφορά των δύο εκτιμητριών σε δείγματα πεπερασμένου μεγέθους. Μεταξύ των εφαρμογών που έχει η καινούργια εκτιμήτρια είναι και μία απλή τροποποίηση της πολλαπλασιαστικής διαδικασίας bootstrap βασισμένης στη φασματική πυκνότητα η οποία και επεκτείνει σημαντικά το εύρος των εφαρμογών της. Επιπρόσθετα εξετάζουμε και το πρόβλημα ελέγχου υποθέσεων σχετικά με τον ανακλιμακώμενο συσσωρευτή τέταρτης τάξης. Στο πλαίσιο αυτό, προτείνεται ένα απλός έλεγχος κανονικότητας (Gaussianity) και παρουσιάζονται πολλές εφαρμογές σε πραγματικά δεδομένα. Οσον αφορά τις δύο τροποποιήσεις της αυτοπαλινδρομικής διαδικασίας bootstrap, η πρώτη αντικαθιστά το κλασσικό σχήμα αναδειγματολειψίας που αφορά σε ανεξάρτητες και ισόνομες τυχαίες μεταβλητές και εφαρμόζεται στα υπόλοιπα του αυτοπαλινδρομικού μοντέλου. Η νέα διαδικασία αναδειγματολειψίας βασίζεται στη δημιουργία ανεξάρτητων και ισόνομων άτακτων (wild) ψευδο-υπολοίπων τα οποία μιμούνται κατάλληλα την ροπή πρώτης και δεύτερης τάξης και τον ανακλιμακώμενο συσσωρευτή τέταρτης τάξης (rescaled fourth order cumulant) των ανεξάρτητων και ισόνομων τυχαίων μεταβλητών (innovations) που επισέρχονται στη δημιουργία της γραμμικής στοχαστικής ανέλιξης. Αυτή η τροποποίηση η οποία χρησιμοποιεί την εκτιμήτρια του ανακλιμακώμενου συσσωρευτή τέταρτης τάξης που παρουσιάστηκε στο πρώτο μέρος της διατριβής, επεκτείνει την εγκυρότητα της αυτοπαλινδρομικής διαδικασίας bootstrap, σε κλάσεις στατιστικών συναρτήσεων για τις οποίες η κλασσική αυτοπαλινδρομική διαδικασία bootstrap αποτυγχάνει. Στη δεύτερη τροποποίηση, προτείνεται μια αυτοπαλινδρομική διαδικασία bootstrap εφαρμοσμένη όχι στην χρονοσειρά που παρατηρείται, αλλά σε ένα κατάλληλο μετασχηματισμό της. Μαζί με τη δημιουργία εξαρτημένων-άτακτων (dependent-wild) ψευδο-υπολοίπων ορίζεται μία διαδικασία bootstrap η οποία είναι συνεπής για μία μεγάλη κλάση στατιστικών συναρτήσεων και για στοχαστικές διαδικασίες οι οποίες ικανοποιούν αρκετά γενικές ασθενείς συνθήκες εξάρτησης. Τέλος, προτείνεται μία διαδικασία αυτόματης επιλογής των παραμέτρων που εμφανίζονται στις δύο διαδικασίες bootstrap που προτείνουμε, ενώ εκτεταμένες προσομοιώσεις, περιλαμβανομένων συγκρίσεων με εναλλακτικές μεθόδους bootstrap, δείχνουν την καλή συμπεριφορά των νέων διαδικασιών bootstrap σε δείγματα πεπερασμένου μεγέθους.

The aim of this thesis is twofold. First, to investigate the problem of estimating the rescaled fourth order cumulant of the unobserved innovations of linear time series which is an important parameter for statistical inference. Second, to propose two modifications of the autoregressive-sieve respectively of the autoregressive bootstrap. For the first problem, an existing nonparametric estimator is first discussed and its asymptotic properties are derived. In particular, it is shown how the autocorrelation structure of the underlying process affects the behavior of the estimator. Based on these findings and on a discovered and important invariance property of the parameter of interest with respect to linear filtering, a pre-whitening based nonparametric estimator of the same parameter is proposed. The aforementioned invariance property implies that the parameter of interest can be estimated using the residuals obtained by applying the linear filter to the time series at hand and an inverse-transformation is not needed. It is shown that if the filter chosen to pre-whiten the time series is such that the filtered time series is less correlated than the original one, then the new estimator has several advantages. The asymptotic properties of the new estimator based on a simple autoregressive filter are investigated and its superiority is theoretically established for large classes of stochastic processes. It is shown that for the particular estimation problem considered, pre-whitening not only reduces the variance of the estimator but it can also lead to gains in terms of bias. The finite sample performance of the existing and of the new estimator is investigated and compared by means of several simulations. As an application, we show that the new estimator allows for a simple modification of the multiplicative frequency domain bootstrap which considerable extends its range of validity. Furthermore, the problem of testing hypotheses about the rescaled fourth order cumulant of the unobserved innovations is also considered. In this context, a simple test for Gaussianity is proposed and some real-life data applications are presented. Concerning the two modifications of the autoregressive-sieve respectively of the autoregressive bootstrap proposed, the first replaces the classical i.i.d. resampling scheme applied to the residuals of the autoregressive fit by a generation of i.i.d. wild pseudo-innovations that appropriately mimic the first and the second order moments as well as the rescaled fourth order cumulant of the true innovations driving the underlying linear process. This modification, uses the estimator of the fourth order cumulant presented in the first part of the thesis and extends the range of validity of the autoregressive-sieve bootstrap to classes of statistics for which the classical, residual-based autoregressive-sieve bootstrap, fails. The second modification, is a version of the autoregressive bootstrap which is applied to an appropriately transformed time series. This, together with a dependent-wild type generation of pseudo-innovations, delivers a bootstrap procedure which is valid for large classes of statistics and for stochastic processes that satisfy quite general weak dependence conditions. A fully data-driven selection of the tuning parameters involved in both bootstrap modifications is proposed, while extensive simulations, including comparisons with alternative bootstrap methods, show a good finite sample performance of the proposed bootstrap procedures.