Предел точности вычисления при обработке результатов измерений

Произведя числовую обработку результатов измерений, нецелесообразно вести вычисления дальше того предела точности, какой имел место в измерении. Поэтому точность вычислений нужно доводить до такой степени, чтобы погрешность выражалась последним знаком.

Например, при вычислении ускорения свободного падения по опытным данным получили результат g = 9,81671 м/с2, а Dg = 0,018 м/с2. Абсолютная ошибка показывает, в каком знаке содержится неточность. Поэтому абсолютную ошибку надо округлить до одной значащей цифры Dg = 0,02 м/с2. То есть ошибка содержится в сотых долях, поэтому результат вычисления нужно округлить g = 9,82 м/с2, а вероятное значение ускорения записать так:

g = (9,82 ± 0,02) м/с2.

Записывая результат опыта, принято ставить запятую после первой, отличной от нуля, значащей цифры, а полученное число умножить на соответствующую степень десяти. Например: 0,0348 = 3,48 ×10-2;

300000 = 3,000 ×105 (подчеркнутые нули - сомнительны). Если вычисления дали, например, результат ρ = (7820,5 ± 18) кг/м3, то его нужно записать так:

ρ = (7,82 ± 0,02) × 103 кг/м3.

«Волчьи ямы» округления.

Американский математик Уилкинсон исследовал уравнение (х - 1)(х - 2)(х - 3) …(х - 20) = х20 – 210 х19 +…+20! = 0.

Он заменил коэффициент – 210 на – (210 + 2-23), то есть увеличил его примерно на 10-7. Ни один из корней нового уравнения не был близок к корням 11, 13, 15 старого, причем среди них оказались и комплексные корни.

Этот пример убеждает, какую каверзную роль может сыграть в расчетах изменение даже далеких от запятой значащих цифр. А ведь таким риском нередко чреваты вычисления на микрокалькуляторе. Все, что лежит за пределами его восьмиразрядного индикатора, отсекается, и возникают ошибки округления. Опыт вычислений на бумаге не воспитывает в нас осторожности по отношению к ним: эффекты округления видны воочию; опасаясь ошибки, можно менять число удерживаемых разрядов. При счете на калькуляторе приходится доверяться машине, и может случиться так, что основную часть полученного ответа составят ошибки округления, отчего ответ окажется, весьма далеким от истинного.

Наиболее опасной в смысле потери точности операций является вычитание близких друг к другу чисел.

Попробуем вычислить на микрокалькуляторе е-10 согласно разложению

Вместо истинного результата 0,0000454 получается 0,0001112 – число, в 2,5 раза больше. Откуда же набежала погрешность? Покуда в слагаемых ряда рост факториала в знаменателе обгонит рост степени в числителе, они возрастают до десятого включительно, принимая значения, превосходящие 2000. А так как счет ведется только до восьми значащих цифр, то ответ получается с точностью лишь до 0,0001. Вот и набегают ошибки, значительно превосходящие искомый ответ. Чтобы получить верный результат, надо записать е-10 в виде , разложить знаменатель этой дроби в ряд



а затем от найденной суммы ряда взять обратную величину.

Разумеется, нет смысла считать е-10 на калькуляторе, имеющем клавишу ех. Но ведь иногда приходится вычислять значения и более экзотических функций, скажем, бесселевой или гипергеометрической, используя опять-таки степенные ряды, где подстерегают «волчьи ямы» округления.

Ошибки, вызванные вычитанием мало отличающихся друг от друга чисел, могут возникнуть и при такой простой операции, как нахождение корней квадратного уравнения: . Если значительно превосходит 4 ас, то в числителе формулы приходится вычитать именно такие числа. Например, решая на микрокалькуляторе уравнение , вместо одного из корней 0,0000100 мы получим нуль. Это уже никуда не годится.

Такие примеры напоминают: применение микрокалькулятора, как использование любого технического устройства, предъявляет свои требования к выбору методов работы и к ясности понимания того, что может и чего не может сделать данное устройство.

Н и Ж, № 12, 1985 г., с. 130


9012665245284388.html
9012702459047434.html

9012665245284388.html
9012702459047434.html
    PR.RU™