Как избежать ошибки числового переполнения с экспоненциальными членами?

Question

Как избежать ошибки числового переполнения с экспоненциальными членами?

1

Работа с численными расчетами, имеющими экспоненциальные термины, часто становится болезненной, благодаря ошибкам переполнения. Например, предположим, что у вас плотность вероятности, P(x)=C*exp(f(x)/k), где k - очень малое число, например порядка 10^(-5).

Чтобы найти значение C, необходимо проинтегрировать P(x). Здесь возникает ошибка переполнения. Я знаю, что это также зависит от формы f(x). Но на этот момент предположим, что f(x)=sin(x).

Как бороться с такими проблемами?

Какие трюки мы можем использовать, чтобы избежать их?

Является ли серьезность таких проблем языковой зависимой? Если да, на каком языке следует писать свой код?

ddas 27 июль 2018, в 14:00

Источник

3

Разве обычный трюк не рассчитывается с логарифмами фактических значений и использует + вместо * ?
tobias_k 27 июль 2018, в 11:27
1

Это звучит как вопрос, гораздо лучше подходящий для scicomp.stackexchange.com. Особенно вопрос о том, какой язык программирования использовать здесь явно не по теме. Это также довольно широкий вопрос, спрашивайте здесь о конкретных и целенаправленных проблемах, а не о возможных уловках.
Vladimir F 27 июль 2018, в 11:45
0

Что касается последнего вопроса, в сыром python нет целочисленного переполнения (т. Е. До тех пор, пока вы не используете библиотеки, зависящие от C и т. Д.). Например, 2**500 returns 3273390607896141870013189696827599152216642046043064789483291368096133796404674554883270092325904157150886684127560071009217256545885393053328527589376L
isaacbernat 27 июль 2018, в 11:50
4

Шаг 1: Идите аналитически, насколько это возможно! В вашем случае следующий интеграл очень удобен Integral[exp(i*b*sin(x)) cos^(2n)(x),{x,-Pi/2,Pi/2}] = Sqrt(Pi) (2/b)^n Gamma(n+1/2) J_n(b) с b и n комплексными числами и J_n(x) функцией Бесселя первого рода. (См. Уравнение 3.915.3 в Градштейне и Рыжике)
kvantour 27 июль 2018, в 12:21
1

Для каких проблем нужны такие огромные оценки ??? Это выглядит патологически.
Yves Daoust 27 июль 2018, в 19:15
2

Еще один подход ... Если мы рассмотрим P (x) = D * exp (a * (sin (x) - 1)) (где D - нормализационная константа и a = 1 / k), то квадратура exp ( а * (грех (х) - 1)) может быть проще. Для общего f (x), возможно, рассмотрим P (x) = D * exp (a * (f (x) - c)) с c = max f (x) и т. Д.
roygvib 27 июль 2018, в 23:22
0

@YvesDaoust В неравновесной статистической механике решение уравнения Фоккера-Планка часто требует таких огромных оценок.
ddas 28 июль 2018, в 02:38
0

@tobias_k ты прав. Логарифмы могут помочь.
ddas 28 июль 2018, в 02:41
1

@ddas Поиск литературы по существующим подходам может быть полезным. Это выходит за рамки моей компетенции, но при минимальном поиске можно найти, например, следующее: Брайан Т. Парк и Ваге Петросян. «Уравнения стохастического ускорения Фоккера-Планка: исследование численных методов». Astrophysical Journal Supplement Series 103 (1996): 255.
njuffa 28 июль 2018, в 17:37
0

Мой ответ на подобный вопрос может быть полезным.
King 30 июль 2018, в 17:21

Показать ещё 8 комментариев

Теги:

python

fortran

numerical-methods

integer-overflow

exponential

2 ответа

Ещё вопросы

Разве обычный трюк не рассчитывается с логарифмами фактических значений и использует + вместо * ?
Это звучит как вопрос, гораздо лучше подходящий для scicomp.stackexchange.com. Особенно вопрос о том, какой язык программирования использовать здесь явно не по теме. Это также довольно широкий вопрос, спрашивайте здесь о конкретных и целенаправленных проблемах, а не о возможных уловках.
Что касается последнего вопроса, в сыром python нет целочисленного переполнения (т. Е. До тех пор, пока вы не используете библиотеки, зависящие от C и т. Д.). Например, 2**500 returns 3273390607896141870013189696827599152216642046043064789483291368096133796404674554883270092325904157150886684127560071009217256545885393053328527589376L
Шаг 1: Идите аналитически, насколько это возможно! В вашем случае следующий интеграл очень удобен Integral[exp(i*b*sin(x)) cos^(2n)(x),{x,-Pi/2,Pi/2}] = Sqrt(Pi) (2/b)^n Gamma(n+1/2) J_n(b) с b и n комплексными числами и J_n(x) функцией Бесселя первого рода. (См. Уравнение 3.915.3 в Градштейне и Рыжике)
Для каких проблем нужны такие огромные оценки ??? Это выглядит патологически.
Еще один подход ... Если мы рассмотрим P (x) = D * exp (a * (sin (x) - 1)) (где D - нормализационная константа и a = 1 / k), то квадратура exp ( а * (грех (х) - 1)) может быть проще. Для общего f (x), возможно, рассмотрим P (x) = D * exp (a * (f (x) - c)) с c = max f (x) и т. Д.
@YvesDaoust В неравновесной статистической механике решение уравнения Фоккера-Планка часто требует таких огромных оценок.
@tobias_k ты прав. Логарифмы могут помочь.
@ddas Поиск литературы по существующим подходам может быть полезным. Это выходит за рамки моей компетенции, но при минимальном поиске можно найти, например, следующее: Брайан Т. Парк и Ваге Петросян. «Уравнения стохастического ускорения Фоккера-Планка: исследование численных методов». Astrophysical Journal Supplement Series 103 (1996): 255.
Мой ответ на подобный вопрос может быть полезным.

kvantour · Answer 1 · 2018-07-30T09-15-00.000Z

Как я упоминал в комментариях, я настоятельно рекомендую использовать аналитические методы, насколько это возможно. Однако, если вы хотите вычислить интегралы вида

I=Integral[Exp[f(x)],{x,a,b}]

Где f (x) может потенциально переполнить экспоненту, тогда вы можете немного перенормировать систему следующим образом:

Предположим, что f (c) является максимумом f (x) в области [a, b], тогда вы можете написать:

I=Exp[f(c)] Integral[Exp[f(x)-f(c)],{x,a,b}]

Это уродливый трюк, но по крайней мере ваши экспоненты будут небольшими в интеграле.

примечание: только что понял, что это комментарий roygvib

@roygvib Не стесняйтесь написать это как ответ, и я удалю этот!
Привет без проблем Я попробовал немного численных экспериментов, и это работало с «не слишком большим» f (x). Но когда дело доходит до 10 ^ 5 и т. Д., Подынтегральная функция становится подобна дельта-функции, которая может быть проблематичной для числовой квадратуры (из-за слишком узкой ширины) ... Но в любом случае, некоторое (предварительное) масштабирование задачи может быть полезным , (В противном случае, я предполагаю, что может потребоваться более аккуратный подход (специфический для проблемы), такой как документ, показанный в комментариях.)

Vladimir · Answer 2 · 2018-08-19T14-42-00.000Z

Один из вариантов - использование научной библиотеки GSL - GNU (доступны оболочки python и fortran). Существует функция gsl_sf_exp_e10_e которая согласно документации

вычисляет экспоненту \exp (x) с помощью типа gsl_sf_result_e10, чтобы вернуть результат с расширенным диапазоном. Эта функция может быть полезна, если значение \exp (x) переполнит числовой диапазон double.

Однако я хотел бы отметить, что он замедляется из-за дополнительных проверок во время оценки.

PS Как было сказано ранее, лучше использовать аналитические решения там, где это возможно.