Оценка точности вычислений специальных функций при разработке компьютерных программ математического моделирования
 |
Вестник НТУ ХПИ, 2011
Оценка точности вычислений специальных функций при разработке компьютерных программ математического моделирования / Никонов О.Я., Мнущка О.В., Савченко В.Н.
Проведен анализ формата вещественных чисел IEEE-754 как составляющей дополнительной погрешности при вычислении специальных функций. Проведено сравнение и показано, что применение арифметики с произвольной точностью (mpfr_erf(), MPFR) и стандартной функции (erf(), C99) в программах на C/C++ снижает быстродействие на порядок при той же точности.
Раздел: Статьи
Опубликовано: 18.06.11 16:39
