Language
Country/Area
No result found
Keine Angst mehr vor Zahlen! Wissen Sie, was die probabilistische numerische Methode ist?
In der heutigen Welt der Mathematik und Computermathematik ziehen probabilistische numerische Methoden als interdisziplinäres Forschungsfeld zunehmend die Aufmerksamkeit der Menschen auf sich. Dieses Feld kombiniert angewandte Mathematik, Statistik und maschinelles Lernen und dreht sich um die Berechnung von Unsicherheit. Bei probabilistischen numerischen Methoden werden gängige numerische Analyseaufgaben wie numerische Integration, lineare Algebra, Optimierung, Simulation und das Lösen von Differentialgleichungen als statistische, probabilistische oder Bayessche Inferenzprobleme betrachtet.
Numerische Methoden sind Algorithmen, die zur Annäherung an Lösungen mathematischer Probleme verwendet werden, einschließlich der Lösung linearer Gleichungssysteme, der Berechnung von Integralen, der Lösung von Differentialgleichungen und der Minimierung von Funktionen mehrerer Variablen.
Herkömmliche numerische Algorithmen basieren auf deterministischen Methoden, während probabilistische numerische Algorithmen diesen Prozess als ein Schätz- oder Lernproblem betrachten und ihn im Rahmen der probabilistischen Inferenz implementieren. Das bedeutet, dass wir eine Vorverteilung verwenden können, um das Rechenproblem zu beschreiben, in dem wir uns befinden, und die Vorverteilung verwenden können, um die berechneten Zahlen (wie Matrix-Vektor-Produkte, Gradienten in der Optimierung, Integralfunktionswerte usw.) mit dem Ziel zu vergleichen. Menge. Die Beziehung wird angenommen und die Posterior-Verteilung wird als Ausgabe zurückgegeben.
Tatsächlich können viele klassische numerische Algorithmen in einem probabilistischen Rahmen neu interpretiert werden, wie etwa die Methode der konjugierten Gradienten, die Nordsieck-Methode, die Gaußsche Integrationsregel und die Quasi-Newton-Methode. Der Vorteil dieser Techniken besteht darin, dass sie nicht nur strukturierte Fehlerschätzungen liefern, sondern auch hierarchische Bayes-Inferenz verwenden, um interne Hyperparameter festzulegen und zu steuern.
Probabilistische numerische Methoden ermöglichen die Kombination von Daten aus mehreren Informationsquellen, wodurch verschachtelte Schleifen in den Berechnungen effektiv beseitigt werden.
Numerische Aufgaben
Integration
Im Bereich der numerischen Integration haben sich im Bereich der probabilistischen numerischen Methoden zahlreiche Techniken entwickelt, von denen die Bayes’sche Integrationsmethode die bekannteste ist. Bei diesem Verfahren wird der integrierte Wert einer Funktion durch die Auswertung an einer vorgegebenen Reihe von Punkten geschätzt. In diesem Fall ergibt die Wahl einer Priori-Verteilung und deren Konditionierung auf die beobachteten Daten die Posterior-Verteilung, die insbesondere für rechenintensive Funktionen nützlich ist.
Optimierung
In der mathematischen Optimierung wurden auch probabilistische numerische Methoden eingehend untersucht. Die Bayes-Optimierung ist eine allgemeine Methode, die auf der Bayes-Inferenz basiert. Diese Algorithmen helfen beim Auffinden von Minima oder Maxima, indem sie eine Wahrscheinlichkeitsüberzeugung hinsichtlich der Zielfunktion aufrechterhalten, um die nachfolgende Auswahl der Beobachtungen zu leiten.
Lokale Optimierung
Bei der stochastischen Optimierung im Rahmen von Deep Learning wurden probabilistische numerische Techniken eingesetzt, um viele wichtige Aspekte wie die Anpassung der Lernrate, die Auswahl von Mini-Batches usw. zu untersuchen, um durch die explizite Modellierung dieser Unsicherheiten eine automatische Entscheidungsfindung zu erreichen.
Lineare Algebra
Bei Anwendungen der linearen Algebra konzentrieren sich probabilistische numerische Algorithmen hauptsächlich auf das Lösen linearer Gleichungssysteme der Form A x = b. Solche Methoden sind normalerweise iterativer Natur und sammeln Informationen durch wiederholte Matrix-Vektor-Multiplikationen.
Gewöhnliche Differentialgleichungen
Für gewöhnliche Differentialgleichungen wurden verschiedene probabilistische numerische Methoden entwickelt, die in auf Randomisierung und Gaußscher Prozessregression basierende Methoden unterteilt werden können, mit denen Anfangswert- und Randwertprobleme effektiv behandelt werden können.
Partielle Differentialgleichungen
In ähnlicher Weise haben technologische Fortschritte zu Fortschritten bei probabilistischen numerischen Methoden für partielle Differentialgleichungen geführt, die die Eigenschaften der Gaußschen Prozessregression ausnutzen.
Historischer Hintergrund und verwandte Bereiche
Die Entwicklung probabilistischer numerischer Methoden geschah nicht über Nacht, sondern ist eng mit anderen Bereichen der Mathematik wie Informationskomplexität, Spieltheorie und statistischer Entscheidungstheorie verbunden. Vom späten 19. bis zum frühen 20. Jahrhundert erlangte die Schnittstelle zwischen Wahrscheinlichkeitsrechnung und numerischer Analyse zunehmende Aufmerksamkeit. Beiträge vieler Mathematiker, von Henri Poincaré über Albert Suldin bis Mike Larkin, ebneten den Weg für die Entwicklung dieses Fachgebiets.
Haben Sie bei komplexen Daten schon einmal daran gedacht, probabilistische numerische Methoden anzuwenden, um Ihre Rechenleistung zu verbessern?
