Language
Country/Area
No result found
Больше не боюсь цифр! Знаете ли вы, что такое вероятностный численный метод?
В современном мире математики и вычислительной математики вероятностные численные методы как междисциплинарная область исследований постепенно привлекают внимание людей. Эта область сочетает в себе прикладную математику, статистику и машинное обучение и вращается вокруг вычислительной неопределенности. В вероятностных численных методах общие задачи численного анализа, такие как численное интегрирование, линейная алгебра, оптимизация, моделирование и решение дифференциальных уравнений, рассматриваются как задачи статистического, вероятностного или байесовского вывода.
Численные методы — это алгоритмы, используемые для аппроксимации решения математических задач, включая решение систем линейных уравнений, вычисление интегралов, решение дифференциальных уравнений и минимизацию функций многих переменных.
Традиционные численные алгоритмы основаны на детерминистских методах, тогда как вероятностные численные алгоритмы рассматривают этот процесс как задачу оценки или обучения и реализуют его в рамках вероятностного вывода. Это означает, что априорное распределение можно использовать для описания вычислительной задачи и путем сравнения вычисленных чисел (таких как произведения матрицы-вектора, градиенты при оптимизации, значения интегральной функции и т. д.) делать предположения о взаимосвязи и возвращать апостериорное распределение. в качестве вывода.
Фактически, многие классические численные алгоритмы могут быть переосмыслены в рамках вероятностной концепции, такие как метод сопряженных градиентов, метод Нордсика, правило интегрирования Гаусса и метод квазиНьютона. Преимущество этих методов заключается в том, что они не только предоставляют структурированные оценки ошибок, но также используют иерархический байесовский вывод для установки и управления внутренними гиперпараметрами.
Вероятностные численные методы позволяют объединять данные из нескольких источников информации, эффективно устраняя вложенные циклы в расчетах.
Численные задачи
Интеграция
Что касается численного интегрирования, вероятностные численные методы разработали множество методов, наиболее известным из которых является метод байесовского интегрирования. В этом процессе интегрированное значение функции оценивается путем ее оценки в заданной серии точек. В этом случае выбор априорного распределения и обработка наблюдаемых данных приводит к апостериорному распределению, что особенно полезно для функций, требующих больших вычислительных затрат.
Оптимизация
Что касается математической оптимизации, вероятностные численные методы также были тщательно изучены. Байесова оптимизация — это общий метод, основанный на байесовском выводе. Эти алгоритмы помогают найти минимум или максимум, поддерживая вероятностные представления о целевой функции, чтобы направлять последующий выбор наблюдений.
Локальная оптимизация
При стохастической оптимизации в контексте глубокого обучения с помощью вероятностных численных методов были изучены многие важные вопросы, такие как регулировка скорости обучения, выбор мини-пакетов и т. д., и достигнуто автоматическое принятие решений путем явного моделирования этих неопределенностей.
Линейная алгебра
В приложениях линейной алгебры вероятностные численные алгоритмы сосредоточены на решении систем линейных уравнений формы A x = b. Такие методы обычно носят итеративный характер и собирают информацию посредством повторяющихся матрично-векторных умножений.
Обыкновенные дифференциальные уравнения
Для обыкновенных дифференциальных уравнений были разработаны различные вероятностные численные методы, которые можно разделить на методы, основанные на рандомизации и регрессии гауссовского процесса, которые позволяют эффективно решать начальные и краевые задачи.
Уравнения в частных производных
Аналогичным образом, по мере развития технологий, вероятностные численные методы для уравнений в частных производных также совершенствуются, и эти методы эффективно используют преимущества свойств регрессии гауссова процесса.
Историческая справка и связанные области
Разработка вероятностных численных методов не произошла в одночасье, а была тесно связана с другими областями математики, такими как сложность информации, теория игр и теория статистических решений. С конца 19 века до начала 20 века пересечение вероятности и численного анализа начало привлекать внимание. Вклад многих математиков, от Анри Пуанкаре до Альберта Сульдина и Майка Ларкина, проложил путь развитию этой области.
Когда мы сталкиваемся со сложными данными, задумывались ли вы когда-нибудь о применении вероятностных численных методов для повышения эффективности вычислений?
