Noise-robust classification using rank order kernels

Abstract

Η ανάγκη για την επεξεργασία και ταξινόμηση των σημάτων, συναντάται σε πολλές εφαρμογές. Τα σήματα είναι άφθονα στη φύση και μπορούν να προκύψουν από πολλές πηγές. Σε πολλές περιπτώσεις όμως, τα σήματα περιέχουν, επίσης, υψηλά επίπεδα θορύβου. Αυτό αποτελεί μια μοναδική πρόκληση κατά την επεξεργασία των σημάτων προκειμένου κάποιος να λάβει χρήσιμες πληροφορίες που απαιτούνται για την ταξινόμηση. Στην παρούσα εργασία, δείχνουμε ότι με τη χρήση ενός κατάλληλου μετασχηματισμού στην αναπαράσταση του σήματος και με πυρήνες (kernels), μπορούμε να ελαχιστοποιήσουμε την επίδραση του θορύβου. Περιγράφουμε ένα βιολογικά εμπνευσμένο σύστημα ταξινόμησης μέσα από το οποίο μπορούν να χαρακτηρισθούν διάφοροι τύποι σημάτων, χωρίς την ανάγκη για εκτεταμένη προ-επεξεργασία στο σήμα. Έχουμε εισαγάγει την έννοια των πυρήνων σειράς κατάταξης (rank order kernels) που χρησιμοποιούν κωδικοποίηση σειράς κατάταξης (rank order coding). H κωδικοποίηση σειράς κατάταξης είναι ένα είδος κωδικοποίησης που έχει προταθεί ως μια πιθανή εξήγηση για το πώς οι νευρώνες κωδικοποιούν πληροφορίες. Έχουμε διαμορφώσει ένα μέτρο με βάση τα τους πυρήνες και το χρησιμοποιούμε για ταξινόμηση. Εστιάζουμε την προσοχή μας στο πρόβλημα της αυτόματης αναγνώρισης ομιλίας, προκειμένου να αποδείξουμε την ικανότητα του συστήματος ταξινόμησης. Η αναγνώριση της ομιλίας είναι ένα σημαντικό στοιχείο στην επικοινωνία του ανθρώπου με τον υπολογιστή. Ένα από τα κύρια εμπόδια είναι το πρόβλημα του θορύβου. Με τη μεθοδολογία μας, έχουμε μετατρέψει τα σήματα ομιλίας σε δύο διαστάσεις. Δημιουργούμε αναπαραστάσεις χρόνου-συχνότητας και τις ταξινομούμε με τους πυρήνες. Στην προσπάθειά μας να δημιουργήσουμε το σύστημα αναγνώρισης ομιλίας βρήκαμε ότι ήταν επίσης αναγκαίο να αναπτυχθεί ένα σύστημα ανίχνευσης τελικών σημείων (endpoint detection). Στην παρούσα εργασία παρουσιάζεται ως εκ τούτου, επίσης, ένα σύστημα ανίχνευσης τελικών σημείων το οποίο χρησιμοποιεί φασματογράφημα της φωνής και πυρήνες διακύμανσης (variance kernels) προκειμένου να διαχωρίσει την ομιλία από την μη-ομιλία. Το σύστημα ανίχνευσης τελικών σημείων χρησιμοποιείται ως προ-επεξεργασία για την ομιλία στο σύστημα αναγνώρισης. Ο αλγόριθμος για την ανίχνευση τελικών σημείων και οι πυρήνες σειράς κατάταξης μπορούν επίσης να εφαρμοστούν και σε άλλα είδη σημάτων. Έχουμε δείξει πώς ο αλγόριθμος ανίχνευσης τελικών σημείων μπορεί να χρησιμοποιηθεί για υπερηχητικά σήματα, και οι πυρήνες σειράς κατάταξης μπορούν να χρησιμοποιηθούν για την ταξινόμηση φασμάτων Ράμαν (Raman).

The need to process and classify signals is encountered in many applications. Signals are abundant in nature and can arise from numerous sources. In many cases however, signals also contain high levels of noise. This poses a unique challenge when processing the signals in order to obtain useful information needed for classification. In this thesis, we show that by using an appropriate representation transformation of the signal and by kernel-based feature-extraction methods, we can mitigate the effect of noise. We describe a biologically-inspired classification system which can classify various types of noisy signals, without the need to perform extensive pre-processing on the signal. We introduce the concept of rank order kernels which employ rank order coding. Rank order coding is a type of temporal coding which has been proposed as a possible explanation of how neurons encode information. We formulate an image distance metric based on rank order kernels and use it for classification. We focus on the problem of Automatic Speech Recognition (ASR) in order to demonstrate the capability of our classification system. The accurate recognition of speech is a vital element in human-computer interfaces. One of the main obstacles to building robust ASR systems is the problem of noise. With our methodology, we transform speech signals to two-dimensional time-frequency image representations and classify them using the rank order kernel distance metric. In our attempt to create a noise-robust speech recognition system we found that it was also necessary to develop an endpoint detection system which was also robust to noise. This thesis therefore also presents an endpoint detection system which uses a spectrogram representation of speech and variance kernels in order to separate speech from non-speech. Our endpoint detection system is used as a pre-processing step to our speech recognition system. Our endpoint detection algorithm and rank order kernel method can also be applied to other types of signals. We show how the endpoint detection algorithm is used to detect the endpoints of micro-Doppler signatures in ultrasound signals, and how the rank order kernels can be used to classify Raman spectra obtained from bacterial samples. The classification system we develop in this thesis can be used on any type of signal by first converting the signal to an appropriate two-dimensional image representation and then performing classification using the rank order kernel distance metric.