и первое уравнение системы есть

п п п

Со" + oi S %1 + og S Хи = S дг. Производная по Cj

5 (ДАг] jdai = - 2 Д ( - «о - ain - йгХаОхц = О, и второе уравнение системы

п п п п

Он S Хц S + 02 S XiiX2i = S тгй

и т. д.

Полная система так называемых нормальных уравнений для расчета параметров модели будет!

ОбП + Ci S Хи + Й2 S Ааг = S gj;

йо2 л;1г + ai Zxu-\-аЪ ХцХ = ЪХцщ; (6-4)

йо S 2г + fli S АиХ2г + aZxli = SХггг-

Для решения этой системы ЭВМ по введенным экспериментальным данным: х, .... х„ и у, .... г/„ с учетом введенных подстановок, должна подготовить все коэффициенты этой системы, т. е.

подсчитать п, Ехи, 2х2£, 2хи, Sx, 2 Xu-X2£, 2i yt, liXuyi и Sx2£j/i, a затем произвести решение этой системы уравнений и вывести на печать полученные значения параметров модели Cq, fli и йг- (В программах современного математического обеспечения ЭВМ это делается с использованием специальных методов, не требующих решения системы.)

Линия, которая определяется МНК, называется линией ре-ерессии, а коэффициенты %, Og и т. д. называются коэффициентами .регрессии у по х, «/ по Xg и т. д.

Свойства МНК. Для наглядного уяснения свойств МНК полезно рассмотреть еще более простую линейную модель, когда # = Со + «lX.

Для нее система нормальных уравнений будет иметь вид!

йоп + % S Дг = S i; Оо S Х + % 2 х1 = S XiSi, (6-5)

11 1 ! 1

а ее решение

п п п п Т/Г" /" №

йо= Zx\Zyi-ZxiZxtyi / пЪх\-[Ъхг] Li 1 I I J/Li\i/J

jr п / п \2-

1\пЪ1~[Ъхг .

п п п

П S Xiyi ~ S X-J S У1 1 II

Если первое уравнение этой системы разделить на то получим

т. е. Go + aiJK = . (6-6)

Таким образом» первое уравнение системы уравнений МНК требует, чтобы линия регрессии проходила через точку G координатами {х и у), т. е. через центр тяжести поля экспериментальных т©чек (рис. 6-10). Это свойство МНК еще более наглядно выступает в том случае, если значение х принять ва нуль, т. е. перенести начало координат в точку х. При jc = G уравнение (6-6) дает = у.

Следовательно, можно утверждать, что первое уравнение системы МНК определяет средний уровень искомой линии регрессии.

Второе уравнение системы (6-5) при Jc = 2 Xj/n = О дает

% 2 4=3 ХгУи отсюда

п In

Ol = 2 Xty-i / 2 XiXi. I I I

(6-7)

Таким образом, второе уравнение системы (6-5) определяет коэффициент наклона искомой прямой относительно оси X. При большем числе независимых переменных Xi, х, Xi решение системы (6-4) нормальных уравнений МНК есть плоскость в многомерном пространстве. Первое уравнение этой системы определяет, как и выше, совмещение этой плоскости с центром тяжести поля экспериментальных точек, а остальные уравнения системы совместно определяют коэффициенты регрессии, т. е. коэффициенты наклона этой плоскости к осям х, х, Xj.

Если до проведения решения МНК все исходные данные центрировать, т. е. найти х и у и перенести начало системы координат в центр тяжести поля экспериментальных точек (в точку х, у на рис. 6-10), то в этих новых координатах будет jc = О и й = = щ = 0. В этом случае из полной системы нормальных уравнений МНК (6-4) опускаются как первое уравнение (оно уже оказывается удовлетворительным, т. е. обращается в тождество).

хак и первый столбец коэффициентов (благодаря щ - 0). В этом случае система нормальных уравнений получает вид

ai S Xii -f 02 S XiiXzi + из S ХцХз1 + . • . = S ХцУи

ai S X2iXu -\- «2 S + «3 S 2.f3i -b • - = 2 X2igi; gg

G! S хцхц +••• + S XX(i-i) g -I- oj S 4г = S нг.

Такой вид системы нормальных уравнений МНК, во-первых, является более общим, так как система вида (6-4) получается из (6-8), если положить все Хц = 1. Во-вторых, если §i = и Xji = X находятся заранее, то число определяемых коэффициентов уменьшается на единицу. Это имеет существенное практическое вначение, так как, решение МНК для трех искомых коэффициентов можно запрограммировать на настольных микрокалькуляторах (типов БЗ 34, МК-52 и др.), а для четырех и более коэффициентов ~ только на ЭВМ, обладающих большой емкостью памяти. И, в-третьих, система вида (6-8) удобна во всех тех случаях, когда заранее известно, что поверхность отклика должна проходить через какую-то определенную точку, например начало координат.

Особенность МНК состоит в том, что полученные этим методом решения необратимы. Это обусловлено тем, что, например, коэффициент Oi регрессии у по х, входящий в модель = г/о + определяется соотношением (6-7). Если же вычисляется обратная регрессия х по у, то коэффициент I/Og в модели i = Хо -f у/а

п in

S хгш 1 S 1 / 1

вычисляется согласно соотношению 11а=!= 2л Xitji ] лУгУи авио

уже другое, отличное от (6-7), соотношение.

Естественно, что афа, поэтому произведение с, Ща. Ф 1„ а равно величине

2) iVi z.

S4 Sf? 1 I

корень квадратный из которой и называется коэффициентом взаимной корреляции значений и j. Следствием этого является то, что линии регрессии по х, т. е, = + и х по у, т. е. - Jo + у1а%, не совпадают с осью эллипса рассеяния экспериментальных точек (см. рис. 6-10). Линия регрессии у по х проходит более полого (ближе к оси х), чем ось эллипса, а линия регрессии х по у проходит более круто (ближе к оси у) на ту же величину. Поэтому угловой коэффициент оси симметрии эллипса