12693nam 22008533u 450 991056825610332120250628110030.03-030-95860-4(CKB)5680000000039096EBL6986548(OCoLC)1319038749(AU-PeEL)EBL6986548(MiAaPQ)EBC6986548(oapen)https://directory.doabooks.org/handle/20.500.12854/84390(ODN)ODN0010073057(Au-PeEL)EBL6986548(oapen)doab84390(EXLCZ)99568000000003909620250630d2022 uy 0engur|n|---|||||txtrdacontentcrdamediacrrdacarrierRegularized System Identification Learning Dynamic Models from Data1st ed.Cham Springer International Publishing AG20221 online resource (394 p.)Communications and Control Engineering Description based upon print version of record.3-030-95859-0 Intro -- Preface -- Acknowledgements -- Contents -- Abbreviations and Notation -- Notation -- Abbreviations -- 1 Bias -- 1.1 The Stein Effect -- 1.1.1 The James-Stein Estimator -- 1.1.2 Extensions of the James-Stein Estimator -- 1.2 Ridge Regression -- 1.3 Further Topics and Advanced Reading -- 1.4 Appendix: Proof of Theorem 1.1 -- References -- 2 Classical System Identification -- 2.1 The State-of-the-Art Identification Setup -- 2.2 mathcalM: Model Structures -- 2.2.1 Linear Time-Invariant Models -- 2.2.2 Nonlinear Models -- 2.3 mathcalI: Identification Methods-Criteria -- 2.3.1 A Maximum Likelihood (ML) View -- 2.4 Asymptotic Properties of the Estimated Models -- 2.4.1 Bias and Variance -- 2.4.2 Properties of the PEM Estimate as Ntoinfty -- 2.4.3 Trade-Off Between Bias and Variance -- 2.5 X: Experiment Design -- 2.6 mathcalV: Model Validation -- 2.6.1 Falsifying Models: Residual Analysis -- 2.6.2 Comparing Different Models -- 2.6.3 Cross-Validation -- References -- 3 Regularization of Linear Regression Models -- 3.1 Linear Regression -- 3.2 The Least Squares Method -- 3.2.1 Fundamentals of the Least Squares Method -- 3.2.2 Mean Squared Error and Model Order Selection -- 3.3 Ill-Conditioning -- 3.3.1 Ill-Conditioned Least Squares Problems -- 3.3.2 Ill-Conditioning in System Identification -- 3.4 Regularized Least Squares with Quadratic Penalties -- 3.4.1 Making an Ill-Conditioned LS Problem Well Conditioned -- 3.4.2 Equivalent Degrees of Freedom -- 3.5 Regularization Tuning for Quadratic Penalties -- 3.5.1 Mean Squared Error and Expected Validation Error -- 3.5.2 Efficient Sample Reuse -- 3.5.3 Expected In-Sample Validation Error -- 3.6 Regularized Least Squares with Other Types of Regularizers -- 3.6.1 ell1-Norm Regularization -- 3.6.2 Nuclear Norm Regularization -- 3.7 Further Topics and Advanced Reading -- 3.8 Appendix.3.8.1 Fundamentals of Linear Algebra -- 3.8.2 Proof of Lemma 3.1 -- 3.8.3 Derivation of Predicted Residual Error Sum of Squares (PRESS) -- 3.8.4 Proof of Theorem 3.7 -- 3.8.5 A Variant of the Expected In-Sample Validation Error and Its Unbiased Estimator -- References -- 4 Bayesian Interpretation of Regularization -- 4.1 Preliminaries -- 4.2 Incorporating Prior Knowledge via Bayesian Estimation -- 4.2.1 Multivariate Gaussian Variables -- 4.2.2 The Gaussian Case -- 4.2.3 The Linear Gaussian Model -- 4.2.4 Hierarchical Bayes: Hyperparameters -- 4.3 Bayesian Interpretation of the James-Stein Estimator -- 4.4 Full and Empirical Bayes Approaches -- 4.5 Improper Priors and the Bias Space -- 4.6 Maximum Entropy Priors -- 4.7 Model Approximation via Optimal Projection -- 4.8 Equivalent Degrees of Freedom -- 4.9 Bayesian Function Reconstruction -- 4.10 Markov Chain Monte Carlo Estimation -- 4.11 Model Selection Using Bayes Factors -- 4.12 Further Topics and Advanced Reading -- 4.13 Appendix -- 4.13.1 Proof of Theorem 4.1 -- 4.13.2 Proof of Theorem 4.2 -- 4.13.3 Proof of Lemma 4.1 -- 4.13.4 Proof of Theorem 4.3 -- 4.13.5 Proof of Theorem 4.6 -- 4.13.6 Proof of Proposition 4.3 -- 4.13.7 Proof of Theorem 4.8 -- References -- 5 Regularization for Linear System Identification -- 5.1 Preliminaries -- 5.2 MSE and Regularization -- 5.3 Optimal Regularization for FIR Models -- 5.4 Bayesian Formulation and BIBO Stability -- 5.5 Smoothness and Contractivity: Time- and Frequency-Domain Interpretations -- 5.5.1 Maximum Entropy Priors for Smoothness and Stability: From Splines to Dynamical Systems -- 5.6 Regularization and Basis Expansion -- 5.7 Hankel Nuclear Norm Regularization -- 5.8 Historical Overview -- 5.8.1 The Distributed Lag Estimator: Prior Means and Smoothing -- 5.8.2 Frequency-Domain Smoothing and Stability.5.8.3 Exponential Stability and Stochastic Embedding -- 5.9 Further Topics and Advanced Reading -- 5.10 Appendix -- 5.10.1 Optimal Kernel -- 5.10.2 Proof of Lemma 5.1 -- 5.10.3 Proof of Theorem 5.5 -- 5.10.4 Proof of Corollary 5.1 -- 5.10.5 Proof of Lemma 5.2 -- 5.10.6 Proof of Theorem 5.6 -- 5.10.7 Proof of Lemma 5.5 -- 5.10.8 Forward Representations of Stable-Splines Kernels -- References -- 6 Regularization in Reproducing Kernel Hilbert Spaces -- 6.1 Preliminaries -- 6.2 Reproducing Kernel Hilbert Spaces -- 6.2.1 Reproducing Kernel Hilbert Spaces Induced by Operations on Kernels -- 6.3 Spectral Representations of Reproducing Kernel Hilbert Spaces -- 6.3.1 More General Spectral Representation -- 6.4 Kernel-Based Regularized Estimation -- 6.4.1 Regularization in Reproducing Kernel Hilbert Spaces and the Representer Theorem -- 6.4.2 Representer Theorem Using Linear and Bounded Functionals -- 6.5 Regularization Networks and Support Vector Machines -- 6.5.1 Regularization Networks -- 6.5.2 Robust Regression via Huber Loss -- 6.5.3 Support Vector Regression -- 6.5.4 Support Vector Classification -- 6.6 Kernels Examples -- 6.6.1 Linear Kernels, Regularized Linear Regression and System Identification -- 6.6.2 Kernels Given by a Finite Number of Basis Functions -- 6.6.3 Feature Map and Feature Space -- 6.6.4 Polynomial Kernels -- 6.6.5 Translation Invariant and Radial Basis Kernels -- 6.6.6 Spline Kernels -- 6.6.7 The Bias Space and the Spline Estimator -- 6.7 Asymptotic Properties -- 6.7.1 The Regression Function/Optimal Predictor -- 6.7.2 Regularization Networks: Statistical Consistency -- 6.7.3 Connection with Statistical Learning Theory -- 6.8 Further Topics and Advanced Reading -- 6.9 Appendix -- 6.9.1 Fundamentals of Functional Analysis -- 6.9.2 Proof of Theorem 6.1 -- 6.9.3 Proof of Theorem 6.10 -- 6.9.4 Proof of Theorem 6.13.6.9.5 Proofs of Theorems 6.15 and 6.16 -- 6.9.6 Proof of Theorem 6.21 -- References -- 7 Regularization in Reproducing Kernel Hilbert Spaces for Linear System Identification -- 7.1 Regularized Linear System Identification in Reproducing Kernel Hilbert Spaces -- 7.1.1 Discrete-Time Case -- 7.1.2 Continuous-Time Case -- 7.1.3 More General Use of the Representer Theorem for Linear System Identification -- 7.1.4 Connection with Bayesian Estimation of Gaussian Processes -- 7.1.5 A Numerical Example -- 7.2 Kernel Tuning -- 7.2.1 Marginal Likelihood Maximization -- 7.2.2 Stein's Unbiased Risk Estimator -- 7.2.3 Generalized Cross-Validation -- 7.3 Theory of Stable Reproducing Kernel Hilbert Spaces -- 7.3.1 Kernel Stability: Necessary and Sufficient Conditions -- 7.3.2 Inclusions of Reproducing Kernel Hilbert Spaces in More General Lebesque Spaces -- 7.4 Further Insights into Stable Reproducing Kernel Hilbert Spaces -- 7.4.1 Inclusions Between Notable Kernel Classes -- 7.4.2 Spectral Decomposition of Stable Kernels -- 7.4.3 Mercer Representations of Stable Reproducing Kernel Hilbert Spaces and of Regularized Estimators -- 7.4.4 Necessary and Sufficient Stability Condition Using Kernel Eigenvectors and Eigenvalues -- 7.5 Minimax Properties of the Stable Spline Estimator -- 7.5.1 Data Generator and Minimax Optimality -- 7.5.2 Stable Spline Estimator -- 7.5.3 Bounds on the Estimation Error and Minimax Properties -- 7.6 Further Topics and Advanced Reading -- 7.7 Appendix -- 7.7.1 Derivation of the First-Order Stable Spline Norm -- 7.7.2 Proof of Proposition 7.1 -- 7.7.3 Proof of Theorem 7.5 -- 7.7.4 Proof of Theorem 7.7 -- 7.7.5 Proof of Theorem 7.9 -- References -- 8 Regularization for Nonlinear System Identification -- 8.1 Nonlinear System Identification -- 8.2 Kernel-Based Nonlinear System Identification.8.2.1 Connection with Bayesian Estimation of Gaussian Random Fields -- 8.2.2 Kernel Tuning -- 8.3 Kernels for Nonlinear System Identification -- 8.3.1 A Numerical Example -- 8.3.2 Limitations of the Gaussian and Polynomial Kernel -- 8.3.3 Nonlinear Stable Spline Kernel -- 8.3.4 Numerical Example Revisited: Use of the Nonlinear Stable Spline Kernel -- 8.4 Explicit Regularization of Volterra Models -- 8.5 Other Examples of Regularization in Nonlinear System Identification -- 8.5.1 Neural Networks and Deep Learning Models -- 8.5.2 Static Nonlinearities and Gaussian Process (GP) -- 8.5.3 Block-Oriented Models -- 8.5.4 Hybrid Models -- 8.5.5 Sparsity and Variable Selection -- References -- 9 Numerical Experiments and Real World Cases -- 9.1 Identification of Discrete-Time Output Error Models -- 9.1.1 Monte Carlo Studies with a Fixed Output Error Model -- 9.1.2 Monte Carlo Studies with Different Output Error Models -- 9.1.3 Real Data: A Robot Arm -- 9.1.4 Real Data: A Hairdryer -- 9.2 Identification of ARMAX Models -- 9.2.1 Monte Carlo Experiment -- 9.2.2 Real Data: Temperature Prediction -- 9.3 Multi-task Learning and Population Approaches -- 9.3.1 Kernel-Based Multi-task Learning -- 9.3.2 Numerical Example: Real Pharmacokinetic Data -- References -- Appendix Index -- Index.This open access book provides a comprehensive treatment of recent developments in kernel-based identification that are of interest to anyone engaged in learning dynamic systems from data. The reader is led step by step into understanding of a novel paradigm that leverages the power of machine learning without losing sight of the system-theoretical principles of black-box identification. The authors’ reformulation of the identification problem in the light of regularization theory not only offers new insight on classical questions, but paves the way to new and powerful algorithms for a variety of linear and nonlinear problems. Regression methods such as regularization networks and support vector machines are the basis of techniques that extend the function-estimation problem to the estimation of dynamic models. Many examples, also from real-world applications, illustrate the comparative advantages of the new nonparametric approach with respect to classic parametric prediction error methods. The challenges it addresses lie at the intersection of several disciplines so Regularized System Identification will be of interest to a variety of researchers and practitioners in the areas of control systems, machine learning, statistics, and data science. This is an open access book.Communications and Control Engineering Machine learningbicsscAutomatic control engineeringbicsscStatistical physicsbicsscBayesian inferencebicsscProbability & statisticsbicsscCybernetics & systems theorybicsscSystem IdentificationMachine LearningLinear Dynamical SystemsNonlinear Dynamical SystemsKernel-based RegularizationBayesian Interpretation of RegularizationGaussian ProcessesReproducing Kernel Hilbert SpacesEstimation TheorySupport Vector MachinesRegularization NetworksMachine learningAutomatic control engineeringStatistical physicsBayesian inferenceProbability & statisticsCybernetics & systems theoryCOM004000MAT029000MAT029010SCI055000SCI064000TEC004000bisacshPillonetto Gianluigi1231715Chen Tianshi1236794Chiuso Alessandro1236795De Nicolao Giuseppe799498Ljung Lennart28309AU-PeELAU-PeELAU-PeELBOOK9910568256103321Regularized System Identification2871538UNINA10525oam 2200889 c 450 991039395520332120260302090207.09783846764602384676460410.30965/9783846764602(CKB)4920000000126300(nllekb)BRILL9783846764602(Brill | Fink)9783846764602(oapen)https://directory.doabooks.org/handle/20.500.12854/37138(MiAaPQ)EBC31219401(Au-PeEL)EBL31219401(OCoLC)1427664047(oapen)doab37138(EXLCZ)99492000000012630020260302d2020 uy 0gerurun####uuuuatxtrdacontentcrdamediardacarrierUpdate!Film- und Mediengeschichte im Zeitalter der digitalen ReproduzierbarkeitFranziska Heller1st ed.PaderbornBrill | Fink20201 online resource9783770564606 377056460X Intro -- Inhalt -- Dank -- KAPITEL 1 Einleitung -- 1.1 „Why do they keep updating the historic movies that are part of our soul?" Aufriss des Problemfeldes -- 1.2 Methodik und Konzepte -- 1.3 Aufbau und Vorgehen -- 1.4 Gliederungsprinzip und Korpus -- Perspektiven und Methoden -- KAPITEL 2 Digitalisierung als kulturelle Praxis und ästhetisches Phänomen -- Begriffe und Konzepte -- 2.1 Die Ästhetik digitaler Bilder als Interpretationsvorgang -- 2.2 Die Relation analog/digital als Bedingung der Erscheinungsform digitaler Bilder -- 2.3 Zwischenfazit: Images, Mythen und Versprechen neuer Medien -- 2.4 Film im Zeichen von Digitalisierung -- 2.5 Digitalisierung als methodologische und medienhistoriografischeHerausforderung -- Digitalisierung, Gesellschaft, Ästhetik und Geschichte -- 2.6 Welt- und Wahrnehmungskonzepte im Zeichen des Digitalen. Quantisierung, Vergleichbarkeit und Effizienz -- 2.7 Postmoderne Strukturen und der Verlust des Historischen -- 2.8 Historisches Fallbeispiel: Memopolitik im Zeichen von Computertechnologien und Medienwechseln. Die Colorization-Debatte der 1980er Jahre -- 2.9 Colorized und remastered. Geschichtsbilder im Apparatus TV -- 2.10 Populärkultur und Digitalisierung in der Funktion als Textual Shifter -- 2.11 Fallbeispiel aus dem Jahr 2012: Die TV-Serie Weltenbrand -- KAPITEL 3 Mediale Geschichtsbildmodellierungen -- 3.1 Vorbemerkung: Das Label remastered als historiografisch wirksamer Shifter -- 3.2 Phänomene der Digitalisierung als historische Konfigurationen.Archäologie in wirkungsästhetischer Dimension -- 3.3 Geschichtsmodellierung angesichts des präsentischen Eindrucks des Films -- 3.4 Posthistoire, Popularisierung, dispositivische Konfigurationen zeitlicher Verhältnisse.3.5 Barbara Klingers Fallbeispiele: Der TV-Sender America Movie Channel und Heimkinotechnologien als nostalgisch-ideologisch wirkende personal mass culture -- 3.6 Bewegtbilder im Archivdispositiv und im historisierenden Lektüremodus. Zum Begriff audiovisuelle Geschichtsbildmodellierung -- 3.7 Exkurs: (Fiktionale) Geschichtsfilme, Ästhetik und Historiografie -- 3.8 Medien, Zeit und Erfahrungsdimensionen. Gedächtnis und Erinnerung -- 3.9 Zwischenfazit -- 3.9.1 Bewegtbilder als präsentische Passagen des Vergangenen -- 3.9.2 Ausblick: Digitale Reprisen als Cluster -- Aspekte medienhistoriografisch wirksamer Erfahrungsbildung -- KAPITEL 4 Fetischisierung des Filmerlebnisses und der Kinogeschichte (Cluster I) -- 4.1 Ästhetische Strategien der historiografisch wirksamen Erfahrungsbildung. Zeitliche Differenzerfahrung und wechselseitige Bilder -- 4.2 Medienhistoriografisch wirksame Erfahrungsbildung im Format Werbeclip. Wirkungsästhetische Verfahren in einem warenästhetischen Horizont -- 4.3 Medienphänomenologische Prozesse. Warenfetischismus von ästhetischen Objekten -- 4.4 Restaurierungsdiskurs und Fetischisierung. Der Werbeclip Restoring the Classics (2012) -- 4.5 Fetischisierung phantastischer Erinnerungs-Bilder. Werbeclip zur Platinum Edition (2007) von Disneys Peter Pan (1953) -- 4.6 Fetischisierung des Neuen -- 4.7 Warenästhetik der neuen Technologien in Bewegtbildern. Werbeclip zur Blu-Ray-Disc von Universal (2010) -- 4.8 Fetischisierung des Neuen in der filmischen Erfahrung. Modellierung memophänomenaler Wahrnehmungsmodi -- KAPITEL 5 Aspekte digitaler Performance und der Zuschauer als Vollzugsinstanz. Erfahrungsmodi von frühem Kino heute (Cluster II) -- 5.1 Aspekte des Performativen im Kontext digitaler Reprisen. Theoretische Dimensionen -- 5.2 Zum phänomenologischen Subjektbegriff im Horizont von Geschichtsbildmodellierungen.5.3 Performance und Präsentation von frühem Kino heute. Methodische und theoretische Ansätze -- 5.4 Memophänomenal wirksames Clustering. Bridging the gap, marking the difference -- 5.5 Performance einer Restaurierung. Die Wiederentdeckung von The Soldier's Courtship (1896) -- 5.6 Wiederentdecken mit einer DVD (1998). The Brothers' Lumière First Films -- 5.7 Ein re-imaginierter Film zwischen Internet, DVD und Bühnenperformance. Too Much Johnson (1938) - heute -- 5.8 Aspekte aisthetischer Historiografie -- KAPITEL 6 Funktionalisierung des Imaginären in aisthetischer Historiografie. Praktiken der Konfiguration von Fakt und Fiktion (Cluster III) -- 6.1 Ansätze zu audiovisuellen Geschichtsbildmodellierungen. Tragweite, historiografische Funktionen -- 6.2 Hybridisierung von Fakt und Fiktion. Historisierende Lektüremodi -- 6.3 Filmhistorische Dokumentationen als Bonus. Überlegungen zur Enunziationsebene -- 6.4 Historiografie und Funktionen des Imaginären -- 6.5 Zwischenfazit I -- 6.6 Ästhetische Erfahrung und die Rolle des Imaginären im warenästhetischen Kontext. Erfahrungskonsum -- 6.7 Medien, Zeit und Erfahrungsdimensionen. Mediatisierte Erinnerung und prothetische Erinnerung -- 6.8 Spielfilme als Erinnerung -- 6.9 Exkurs: (Marktorientierte) Werterelationen des Ästhetischen im Feld des Filmerbes -- 6.10 „Ohne Méliès hätte es keine Mondlandung gegeben". Fakt und Fiktion in der digitalen (Film‑)Geschichtsschreibung. Die Re-Edition Le voyage dans la lune (2011) -- 6.11 Filmrestaurierung als phantastische Reise. The Restoration of Oz (2005) -- 6.12 Geschichte(n) im Zeichen von Münchhausen (1943). Der nationalsozialistische Mythos von Agfacolor im Jahr 2005 -- 6.13 Zwischenfazit II -- 6.14 Memopolitische Rituale. Ein Kultmärchen und seine Dispositive. Der Fall Drei Nüsse für Aschenbrödel (1973).KAPITEL 7 Mediale Zirkulation und Mise en Relation. Relationales Geschichtserleben: Do-it-yourself-History!? (Cluster IV) -- 7.1 Digitale Zirkulation. Kunstwert als ästhetischer und dispositivischer Effekt -- 7.2 Die Relativierung von Prestige und kultureller Autorität als Erfahrungsmodus -- 7.3 Mise en Relation als Verfahren der Konsekration -- 7.4 Konsekration des Vergleichs. Change the way to watch movies. Editor's guide (2012) -- 7.5 Voyeuristische Versprechen des Dispositivs. Fifty Shades of Grey (2015) und Dressed to Kill (1980) -- 7.6 „That is how it could have happened … but how about this". Möglichkeitsdimensionen eines Filmwerks. Clue (1985), Memento (2000) und Blade Runner (1982) -- 7.7 Sinnlicher Eindruck von Zensurprozessen. Alternativen deutscher Geschichte. Die DVD Die Schönste (1957-1959/2003) -- 7.8 Mise en Relation der Mythen I. Die Nibelungen (1924) und die Überlieferungsgeschichte in heutiger audiovisueller Perspektive -- 7.9 Mise en Relation der Mythen II. Metropolis (1927), ein mythischmodernes filmhistorisches Cluster -- 7.10 Körperlich-gestisch erlebte Mise en Relation. Split Screen und Do-it-yourself-(DIY‑)Restaurierungen -- 7.11 Exkurs: Theoretische Einordnung Split Screen. Vergleichendes Sehen -- 7.12 Erlebte Mise en Relation. Vergleichendes Hören. The Lodger (1927), Moroder's Metropolis (1984), Le voyage dans la lune (1902), Varieté (1925) -- 7.14 VoD und Versionenhaftigkeit. Das Boot (1981/1985) als amphibischer Film -- KAPITEL 8 Digitale Passagen und ihre Widersprüche. Ein Fazit -- Anhang -- KAPITEL 9 Glossar zu methodologisch relevanten Begriffen -- KAPITEL 10 Literaturverzeichnis -- 10.1 Verwendete Literatur -- 10.2 Weitere Quellen aus dem Internet (allgemein und zu spezifischen Fallstudien und Begriffen) -- 10.3 Hinweise auf eigene Vorarbeiten -- KAPITEL 11 Film‑, Editions- und Zugriffsverzeichnis.11.1 Besprochene Filme und Editionen -- 11.2 Weitere, im Internet zugängliche Filme und Clips -- 11.3 Sonstige erwähnte Filme und Serien -- KAPITEL 12 Abbildungsnachweise.Nie schien der Zugriff auf Filmgeschichte leichter als heute: Mit wenigen Klicks kann man »Klassiker« anschauen, sie kopieren und teilen – noch dazu digital remastered, »schöner als je zuvor«! In der jüngeren Medienkultur werden ehemals analoge Filme digitalisiert und durchlaufen ständige Transformationen, um in neuen Medienumgebungen sichtbar zu bleiben. Die Studie widmet sich den grundsätzlichen Fragen, in welcher Form die vermeintlich allgegenwärtig verfügbaren Bewegtbilder aus der Filmgeschichte überhaupt in die Zirkulation der digitalen Kultur gelangen und welche ästhetischen, theoretischen, soziokulturellen wie historiografischen Konsequenzen sich daraus ergeben.Film-ErbeErinnerungskulturHistoriographieDVDBlu-ray-DiscStreamingÄsthetikMedienarchäologieFilmrestaurierungRemasteringaudiovisual heritagemediated memoryhistoriographyaestheticmedia archeologyfilm restorationFilm-ErbeErinnerungskulturHistoriographieDVDBlu-ray-DiscStreamingÄsthetikMedienarchäologieFilmrestaurierungRemasteringaudiovisual heritagemediated memoryhistoriographyaestheticmedia archeologyfilm restoration302.2098Heller Franziskaaut928786NL-LeKBNL-LeKBBOOK9910393955203321Update2087372UNINA