Таблица 2-1

s= 2,066о vik - 2,066. Для треугольного распределения Симпсона k =-. )/бе/2 2,02, для распределения Лапласа k = 1,93, для арксинусойдального распределения k = л/]/"8 = 1,11 и т. д.

Еще К. Шеннон показал, что максимальное возможное значение энтропийного коэффициента k = 2,066 имеет нормальное распределение. Поэтому для наиболее часто встречающихся на практике распределений энтропийное значение погрешности колеблется от Ag = l,llo у арксинусойдального распределения до Дд == 2,066о у нормального распределения и при известном законе распределения может быть найдено как Ад = ko.

Соотношение между энтропийным и доверительным значениями погрешностей. Как было видно из рис. 2-5, энтропийный интервал неопределенности d - 2Аэ охватывает лишь ту часть распределения, в которой сосредоточена основная часть возможных значений случайной погрешности, в то время как некоторая их доля остается за границами этого интервала. Поэтому для любого распределения может быть указано такое значение доверительной вероятности Р, при котором энтропийное и доверительное значения погрешности совпадают.

Впервые эта задача была поставлена и решена в общем виде В. Н. Ивановым [12]. В частном случае для класса экспоненциальных распределений и распределения Коши это соотношение может быть получено следующим образом. В табл. 2-1 приведены значения Р для этих распределений. Если эти значения Р нанести на график рис. 2-6 в функции от значений контрэксцесса к этих распределений, то они расположатся близко к некоторой плавной кривой, которую можно аппроксимировать формулой вида

Рэ = 0,899 -f 0,4818/8 л; 0,899 -f 5<5,5

(2-6)

и использовать для перевода энтропийных значений погрешности в доверительные. Погрешности такой аппроксимации указаны в табл. 2-1.

О единицах количества информации, энтропми и относительной и абсолютной погрешности. Абсолютные погрешности А, Ад,

о, Аэ выражаются в единицах изме- Щ ряемой величины. Если эти оценки o,S5 применяются для выражения отно-

сительных или приведенных погреш-

ностей, то при определении «у = А/х О 0,2 0,4 или б = о/х значения А или а и вна- Рис 2-6

чения X должны подставляться в одних и тех же единицах. Это правило остается в силе и при использовании соотношений теории информации.

Единицы энтропии и количества информации одни и те же, однако численное значение энтропии или информации зависит от основания используемых логарифмов. При теоретическом анализе, интегрировании и дифференцировании математических выражений наиболее удобно использовать натуральные логарифмы и тогда энтропии и количество информации получаются в так называемых натуральных единицах - нотах. При анализе цифровых машин и других устройств, работающих в двоичном коде, удобнее использовать двоичные логарифмы и тогда энтропия и количество информации получаются в двоичных единицах - би-тпх. И, наконец, при анализе измерительных устройств, работающих в подавляющем большинстве случаев в десятичном коде, удобнее использовать десятичные логарифмы и десятичные единицы энтропии и информации - диты.

Соотношения между этими единицами приближенно следующие: 1 дит = 2,3 них = 3,3 бит, 1 нит = 1,45 бит = 0,43 дит и 1 бит = 0,69 нит = 0,3 дит.

Количество информации в битах, дитах или нитах не зависит от единиц А и X, но они должны подставляться в соответствующие выражения для энтропии безразлично в каких, но обязательно в одних и тех же единицах. Действительно, I = Н (Х) - - Н (А) = Ig (Ха - Х) - Ig 2А = Ig ЦХ - Xi)/(2A) ], где X и А должны быть в одних и тех же единицах. В выражение для плотности распределения р (А) или в ее график единицы А входят по обеим осям, так как масштаб по оси абсцисс имеет единицу х, а по оси ординат - 1/х. Поэтому численное значение энтропии

Я (А) =- р (х) 1п р (х) dx или в простейшем случае Я (А) =

= In (2А) зависит от единиц А, совпадающих с единицами X. Энтропийное значение погрешности Ад = 0,5е(Д) автоматически получается в тех же единицах, в которых была отложена погрешность по оси А графика плотности распределения, согласно соотношению Ад = 0,5е(А) = 0,5е"2А - 0,5-гА = Д.

Сделанные замечания относятся не только к результатам измерений, но и к результатам счета. Если, например, сумма в 10 ООО руб. 00 коп. была сосчитана с точностью до 1 коп., то при определении количества информации, содержащейся в этом сообщении, обе величины должны быть выражены или в копейках

(тогда X т\ Д 1, Н{Х)% дит, Я (Д) О диге и / - 6 О 6 дит), или в рублях (тогда X = Ш\ А = Ю" Н (Х) = 4 дит, Я.(А) --2 дит и / = 4 (-2) = 6 дит). Отсюда также следует, что результаты измерения, нредставленные числами 999, 0,999 или 0,000999, несут равные количества информации, так как первый дан с интервалом неопределенности d = 1 (последующий, не указанный знак, мог бы иметь значение от О до 9), второй -- с Й == 10", а третий с d = 10"*. Поэтому количество информации в первом равно 3 - О == 3 дит, во втором О - (-3) = 3 дит и в третьем (-3) -- (--6) = 3 дит, т. е., попросту говоря, «три десятичных знака». Однако количество информации в результате, отсчитанном по цифровому вольтметру один раз в виде 999 ООО мкВ, а другой раз в виде ООО 999 мкВ, в первом случае равно 6 дит, а во втором 3 дит, так как указание вначащих нулей равносильно тому, что последний знак результата отличается от нуля менее чем на 1 мкВ.

2-4. АНАЛИТИЧЕСКИЕ МОДЕЛИ И ПАРАМЕТРЫ ЗАКОНОВ РАСПРЕДЕЛЕНИЯ ПОГРЕШНОСТЕЙ

Для исиЪльзования на практике вероятностного подхода к оценке погрешностей как средств, так и результатов измерений, прежде всего бывает необходимо установить для данной конкретной погрешности вид аналитической модели закона распределения. Распределения же достаточно разнообразны: одни ограничены, другие не ограничены, одни имеют плоскую вершину, другие круглук:», третьи острую, а иные и две круглых или острыж вершины.

Дж. Кендал и А. Стьюарт 1Ы, о. б41 предлагали классифицировать формы распределений на пять типов: 1) симметричные одномодальные, 2) симметричные двухмодальные, 3) косые, 4) крайне косые и 5) все остальные. Применительно к погрешностям достаточно рассмотреть лишь два первых типа распределений, но целесообразно подразделить их на более мелкие классы, а именно: трапецеидальные (т. е. плосковершинные), уплощенные (т. е. приближенно плосковершинные), семейство распределений Стьюдекта (включая распределение Коши), экспрненциальные, двухмодальные кругло- и островершинные распределения, выделив отдельно класс арксинусоидальных распределений.

Класс трапецеидальных распределений. Как было показано на рис. 2-2, а, трапецеидальное распределение образуется как композиция распределений при суммировании двух равномерно распределенных случайных величин. Поэтому равномерное распределение -~ это предельный случай трапецеидального, когда одна из суммируемых случайных величин исчезающе мала по сравнению с другой. Однако если ширина b меньшего из суммируемых распределений (см, рис. 2-2, а) даже в 5~-Ш раз меньше ширины а более широкого распределения и ее вес в дисперсии