Emulating Data-intensive IoT Applications across the Edge Continuum

Abstract

Edge Computing and 5th generation (5G) mobile networks are emerging as the dominating paradigms bridging the compute and connectivity gap between IoT sensing devices and latency-sensitive services. However, experimenting and evaluating IoT services is a daunting task involving the manual configuration and deployment of a mixture of geo-distributed physical and virtual infrastructure with different resource and network properties. This results in sub-optimal, costly, and error-prone deployments due to numerous unexpected overheads not initially envisioned in the design phase and underwhelming conditions not resembling the end environment.

In this PhD thesis, the landscape and challenges of IoT application evaluation are presented with emphasis given on depicting the key inhibitors preventing IoT developers, operators, and researchers from rapid IoT application development, testing, and experimentation. Next, the thesis provides a literature overview by introducing evaluation techniques for Edge Continuum deployments and outline the key limitations of their applicability. To tackle these challenges, an open-source emulation framework is introduced that offers: (i) modeling abstractions for the respective deployment paradigm comprising of heterogeneous Edge/Fog/Cloud compute resources, virtualized networks along their QoS criteria and VNFs, IoT application services, and data generators; (ii) primitives for 5G infrastructure components such as radio units, Edge servers, mobile user equipment, along with their geo-positions and trajectories; (iii) an execution environment with extensible and customizable interfaces that enables the deployment of model specification locally or on Cloud infrastructures. The system allocates resources as isolated containerized processes, provisions network connectivity among entities, configures the infrastructure based on the modeled description accordingly, and deploys enablers for runtime assessment, emulating the direct behavior of an actual Edge Continuum environment; (iv)~experimentation, monitoring, and evaluation methodology of the deployment by injecting faults, adapting the configuration at runtime, real-time updates of the radio network (i.e., signal strength) and respective network QoS to test different "what-if" scenarios that reveal the limitations of the emulated services.

Afterward, I provide implementation details and various evaluation studies about the proposed emulation framework. Specifically, Fogify is introduced, which provides the Fog Computing modeling abstractions and materializes the execution engine for the framework. Then, 5G-Slicer is presented, which is an extension that enriches the emulation capabilities toward 5G deployments. Specifically, the 5G-Slicer translates the positioning, mobility, and 5G network modeling abstractions into realistic 5G deployments on the underlying emulation framework. Finally, SparkEdgeEmu is proposed, an extension that helps data scientists to evaluate their queries on top of large-scale auto-generated emulated Edge deployments.

The evaluation highlights that the deviation between real and emulated Fog deployments is about 3-8%, while exploitation of real-world 5G data shows that the emulator presents, at most, an 11.7% deviation when comparing actual and emulated network QoS. Moreover, the framework's scalability is only bounded by the underlying resources reserved, and, when the resource pool expands, the emulation capabilities proportionally increase. Finally, various use-case studies are conducted, inspired by real-world datasets, such as profiling and dependability tests on intelligent transportation services, mobility and placement implications in 5G-enabled smart cities, and evaluation of big data analytics running on Edge Continuum.

Ο υπολογισμός άκρου (Edge Computing) και η πέμπτη γενιά κινητών δικτύων (5G) αναδεικνύονται ως οι κυρίαρχες τεχνολογικές υποδομές για τη βελτίωση της υπολογιστικής ικανότητας και της συνδεσιμότητας των συσκευών που απαρτίζουν το Διαδίκτυο των Πραγμάτων(IoT) και των εφαρμογών τους. Ωστόσο, ο πειραματισμός και η αξιολόγηση της αποδοτικότητας αυτών των υποδομών αποτελεί μία απαιτητική διαδικασία καθώς σε αυτή περιλαμβάνονται η παραμετροποίηση και εγκατάσταση γεω-κατανεμημένων φυσικών και εικονικών πόρων με ετερογενείς υπολογιστικές και δικτυακές ιδιότητες. Ως αποτέλεσμα, οι υποδομές αυτές οδηγούν σε μη-ικανοποιητικές, κοστοβόρες, και επιρρεπείς σε σφάλματα εγκαταστάσεις λόγω των ποικίλων ασταθών παραγόντων και των μη εξαρχής προβλέψιμων σφαλμάτων.

Η παρούσα διδακτορική διατριβή εστιάζει στο τοπίο και τις προκλήσεις των εφαρμογών του Διαδικτύου των Πραγμάτων με έμφαση στον εντοπισμό των εμποδίων και δυσκολιών που αντιμετωπίζουν οι προγραμματιστές, πάροχοι υποδομών, και ερευνητές στην ανάπτυξη, δοκιμή, και πειραματισμό των εν λόγω εφαρμογών. Περαιτέρω επιχειρείται μία επισκόπηση της βιβλιογραφίας αναφορικά με τεχνικές αξιολόγησης κατανεμημένων εφαρμογών εγκατεστημένων στο Edge Continuum και εντοπίζονται οι βασικοί περιορισμοι των εν λόγω τεχνικών. Προς αντιμετώπιση των προαναφερθέντων προκλήσεων, εισάγεται ένα ανοιχτού κώδικα σύστημα εξομοίωσης το οποίο προσφέρει: (α) στοιχεία μοντελοποίησης του Edge Continuum, όπως ετερογενείς υπολογιστικούς πόρους (Edge/Fog/Cloud), διαφορετικής ποιότητας δίκτυα με εικονικές λειτουργίες (SDNs, FNVs), εφαρμογές ΙοΤ και πηγές δεδομένων, (β) στοιχεία μοντελοποίησης υποδομών 5G, όπως σταθμούς βάσης, εξυπηρετητές (Edge Servers), κινητές συσκευές, καθώς και τις γεωγραφικές θέσεις και τις τροχιές τους, (γ) ένα επεκτάσιμο περιβάλλον το οποίο επιτρέπει την εκτέλεση της προσομοίωσης τοπικά ή σε υποδομές Cloud κατανέμοντας τους διαθέσιμους πόρους υπο την μορφή εγκιβωτισμένων διεργασιών (containers) και παρέχει συνδεσιμότητα μεταξύ τους, διαμορφώνει την υποδομή βάσει της ανάλογης μοντελοποίησης και προσφέρει λειτουργίες για πειραματισμό σε πραγματικό χρόνο, μιμούμενο τη συμπεριφορά ενός πραγματικού Edge Continuum περιβάλλοντος, (δ) μία μεθοδολογία πειραματισμού, εποπτείας και αξιολόγησης της προσομοιωμένης εγκατάστασης με δυνατότητα εφαρμογής σεναρίων σφαλμάτων, αλλαγής της υποδομής κατά τη διάρκεια της εκτέλεσης, αλλαγής της ποιότητας του προσομοιωμένου ασύρματου δικτύου (π.χ. ισχύς σήματος) σε πραγματικό χρόνο με δυνατότητα εντοπισμού των περιορισμών των εξεταζόμενων υπηρεσιών.

Στη συνέχεια, παρέχονται λεπτομερείς πληροφορίες όσον αφορά την υλοποίηση του συστήματος και διάφορες μελέτες αξιολόγησής του. Ειδικότερα, παρουσιάζεται το Fogify, το οποίο παρέχει τη μοντελοποίηση του Fog Computing και υλοποιεί τις βασικές λειτουργίες του συστήματος προσομοίωσης. Ακολούθως, εισάγεται το 5G-Slicer, μία επέκταση του συστήματος δυνάμει της οποίας παρέχονται δυνατότητες εξομοίωσης για 5G εγκαταστάσεις. Συγκεκριμένα, το 5G-Slicer μεταφράζει το μοντέλο των θέσεων, μετακινήσεων, και γενικά τη μοντελοποίηση του δικτύου σε ρεαλιστικές εξομοιωσεις 5G υποδομών. Επιπρόσθετα, προτείνεται το SparkEdgeEmu, μία επέκταση η οποία βοηθά τους επιστήμονες δεδομένων να αξιολογούν την επίδοση των ερωτημάτων τους σε εξομοιούμενες Edge Continuum υποδομές μεγάλης κλίμακας που δημιουργούνται αυτόματα.

Η αξιολόγηση των αποτελεσμάτων κατέδειξε ότι η απόκλιση μεταξύ πραγματικών και προσομοιωμένων Fog εγκαταστάσεων ανέρχεται σε ποσοστό 3-8% κατα προσέγγιση, ενώ η σύγκριση μετρήσεων παραγόμενων από πραγματικά 5G δίκτυα δείχνει ότι ο εξομοιωτής παρουσιάζει, το μέγιστο, μία απόκλιση 11,7% από τις πραγματικές μετρικές. Επιπλέον, η κλιµακωσιµότητα του συστήματος περιορίζεται μόνο από τους δεσμευμένους υποκείμενους πόρους και, όταν οι πόροι αυτοί αυξηθούν, αυξάνονται αναλογικά και οι δυνατότητες εξομοίωσης. Τέλος, διεξήχθησαν πολυάριθμες μελέτες περιπτώσεων χρήσης εμπνευσμένων από πραγματικά ΙοΤ δεδομένα, όπως: (α) δοκιμές παραμέτρων και τεστ αξιοπιστίας σε έξυπνες υπηρεσίες μαζικής μεταφοράς, (β) εφαρμογές διαφόρων προτύπων κινητικότητας σε έξυπνες πόλεις με δυνατότητα αξιοποίησης 5G υποδομών, και (γ) αξιολόγηση της αποδοτικότητας ερωτημάτων μεγάλου όγκου δεδομένων τα οποία εκτελούνται σε εξομοιούμενες Edge Continuum υποδομές.