Регрессионный анализ. 3 страница

Планируя эксперимент, на первом этапе мы стремимся получить линейную модель. Однако у нас нет гарантии, что в выбранных интервалах варьирования процесс описывается линейной моделью. Существуют способы проверки пригодности линейной модели (проверка адекватности). А если модель нелинейна, как количественно оценить нелинейность, пользуясь полным факторным экспериментом?

Один из часто встречающихся видов нелинейности связан с тем, что эффект одного фактора зависит от уровня, на котором находится другой фактор. В этом случае говорят, что имеет место эффект взаимодействия двух факторов. Полный факторный эксперимент позволяет количественно оценивать эффекты взаимодействия. Для этого надо, пользуясь правилом перемножения столбцов, получить столбец произведения двух факторов. При вычислении коэффициента, соответствующего эффекту взаимодействия, с новым вектор-столбцом можно обращаться так же, как с вектор-столбцом любого фактора. Для полного факторного эксперимента 2² матрица планирования с учетом эффекта взаимодействия будет иметь вид таблица 4.4.

Таблица 4.4 - Матрица планирования полного факторного эксперимента 2² с эффектом взаимодействия

Очень важно, что при добавлении столбцов эффектов взаимодействий все рассмотренные свойства матриц планирования сохраняются.

Теперь модель выглядит следующим образом:

. (4.26)

Коэффициент b₁₂ вычисляется обычным путем

, (4.27)

. (4.28)

Столбцы x₁ и x₂ задают планирование – по ним непосредственно определяются условия опытов, а столбцы x₀ и x₁x₂ служат только для расчета.

Обращаем ваше внимание на то, что при оптимизации мы стремимся сделать эффекты взаимодействия возможно меньшими. В задачах интерполяции, напротив, их выявление часто важно и интересно.

Коэффициенты уравнения регрессии можно рассчитать по методу Йетса, как показано в таблице 4.5.

Таблица 4.5 - Расчет коэффициентов регрессии по методу Йетса

Если теперь числа, оказавшиеся в третьем столбце разделить на число опытов, то получим значения коэффициентов.

Пример. В таблице приводятся результаты эксперимента и расчет коэффициентов.

Таблица 4.6 - Результаты эксперимента

Таблица 4.7 - Расчет коэффициентов регрессии по методу Йетса

4.7 Дробный факторный эксперимент

Количество опытов в полном факторном эксперименте значительно превосходит число определяемых коэффициентов линейной модели. Другими словами, полный факторный эксперимент обладает большой избыточностью опытов. Было бы заманчивым сократить их число за счет той информации, которая не очень существенна при построении линейных моделей. При этом нужно стремиться, чтобы матрица планирования не лишилась своих оптимальных свойств. Сделать это не так просто, но все же возможно. Итак, начнем поиск путей минимизации опытов.

4.7.1 Минимизация числа опытов.

Начнем с самого простого – полного факторного эксперимента 2². Напишем еще раз эту хорошо нам известную матрицу

Пользуясь таким планированием, можно вычислить четыре коэффициента и представить результаты эксперимента в виде неполного квадратного уравнения

у = b₀х₀ + b₁ x₁ + b₂ x₂ + b₁₂х₁х₂.

Если имеются основания считать, что в выбранных интервалах варьирования процесс может быть описан линейной моделью, то достаточно определить три коэффициента: b₀, b₁, b₂. Остается одна степень свободы. Употребим ее для минимизации числа опытов. При линейном приближении b₁₂→0 и вектор-столбец х₁х₂ можно использовать для нового фактора х₃. Поставим этот фактор в скобках над взаимодействием х₁х₂ и посмотрим, каковы будут оценки коэффициентов. Здесь уже не будет тех раздельных оценок, которые мы имели в полном факторном эксперименте 2^к. Оценки смешаются следующим образом:

- b₁→β₁+β₂₃;

- b₂→β₂+β₁₃;

- b₃→β₃+β₁₂.

Но нас это не должно огорчать. Ведь мы постулируем линейную модель, и, следовательно, все парные взаимодействия незначимы. Главное, мы нашли средство минимизировать число опытов: вместо восьми опытов для изучения трех факторов оказывается можно поставить четыре. При этом матрица планирования не теряет своих оптимальных свойств (ортогональность, ротатабельность и т.п.), в чем вы можете самостоятельно убедиться. Найденное правило можно сформулировать так: чтобы сократить число опытов, нужно новому фактору присвоить вектор-столбец матрицы, принадлежащий взаимодействию, которым можно пренебречь. Тогда значение нового фактора в условиях опытов определяется знаками этого столбца.

Посмотрите, пожалуйста, на три матрицы, приведенные ниже. Эти матрицы предлагаются взамен полного факторного эксперимента 2³, требующего, как вы знаете, восьми опытов.

Каким бы из них вы воспользовались?

Таблица 4.8 – Матрица 1

Таблица 4.9 – Матрица 2

Таблица 4.10 – Матрица 3

Проверим свойства матрицы № 1. Каждый вектор-столбец матрицы, кроме первого, содержит равное число +1 и –1. Это означает, что выполняется условие симметричности формула (4.14) _.

Теперь перемножим каждую пару вектор-столбцов и посмотрим, будет ли сумма произведений равна 0. К сожалению , т.е. совершена какая-то ошибка в выборе матрицы. Постараемся ее найти. Вектор-столбцы для х₁ и х₂ не вызывают сомнения. Ведь эта часть матрицы – полный факторный эксперимент 2². А как построен вектор-столбец для х₃? Элементы этого столбца обратны по знаку элементам соседнего столбца х₂. Два этих столбца оказались взаимосвязанными: х₃ = –х₂. При этом b₃→β₃–β₂ и b₂→β₂–β₃. В таком планировании не могут быть раздельно оценены основные эффекты. Значит, мы потеряли информацию о двух линейных коэффициентах нашей модели. Таким планированием воспользоваться невозможно.

Матрица № 2 содержит всего три опыта. Три опыта недостаточны для оценки четырех коэффициентов: b₀, b₁, b₂ и b₃. Кроме того, ни одно из свойств, присущих полному факторному эксперименту, здесь не выполняется, за исключением нормировки. Матрица № 3 сохраняет все свойства полного факторного эксперимента. Она дает возможность оценить свободный член b₀ и три коэффициента при линейных членах, потому что для х₃ использован вектор-столбец х₁х₂ полного факторного эксперимента 2².

Если мы в дополнение к столбцам матрицы № 3 вычислим еще столбцы для произведений х₁х₃ и х₂х₃, то увидим, что элементы столбца х₁х₃ совпадут с элементами столбца х₂ а элементы столбца х₂х₃ – с элементами столбца x₁. Найденные нами коэффициенты будут оценками для совместных эффектов b₁→β₁+β₂₃; b₂→β₂+β₁₃; b₃→β₃+β₁₂.

Такое планирование нас вполне устраивает. Мы смешали эффекты взаимодействия с основными эффектами. (Но все основные эффекты оцениваются раздельно друг от друга) Так как постулируется линейная модель, то предполагается, что эффекты взаимодействия близки к нулю, и поэтому b₁≈β₁; b₂≈β₂; b₃≈β₃.

Мы рассмотрели самый простой случай: матрицу из четырех опытов для трехфакторного планирования. С увеличением числа факторов вопрос о минимизации числа опытов превращается в довольно сложную задачу. Рассмотрим ее детально. При этом нам не обойтись без новых определений и понятий.

Поставив четыре опыта для оценки влияния трех факторов, мы воспользовались половиной полного факторного эксперимента 2³, или «полурепликой». Если бы мы х₃ приравняли к –х₁х₂, то получили бы вторую половину матрицы 2³. В этом случае: b₁→β₁–β₂₃; b₂→β₂–β₁₃; b₃→β₃–β₁₂. При реализации обеих полуреплик можно получить раздельные оценки для линейных эффектов и эффектов взаимодействия, как и в полном факторном эксперименте 2³.

Объединение этих двух полуреплик и есть полный факторный эксперимент 2³.

Матрица из восьми опытов для четырехфакторного планирования будет полурепликой от полного факторного эксперимента 2⁴, а для пятифакторного планирования – четверть-репликой от 2⁵. В последнем случае два линейных эффекта приравниваются к эффектам взаимодействия. Для обозначения дробных реплик, в которых р линейных эффектов приравнены к эффектам взаимодействия, удобно пользоваться условным обозначением 2^k–p. Так, полуреплика от 2⁶ запишется в виде 2^6–1, а четверть-реплика от 2⁵ – в виде 2^5–2.

4.7.2 Дробная реплика.

Поставив четыре опыта для оценки влияния трех факторов, мы воспользовались половиной полного факторного эксперимента 2³ или «полурепликой». Если бы мы х3 приравняли к –x1x2, то получили бы вторую половину матрицы 23. В этом случае, b₁→ β₁-β₂₃, b₂→ β₂-β₁₃, b₃→ β₃-β₁₂ .

При реализации обеих полуреплик можно получить раздельные оценки для линейных эффектов и эффектов взаимодействия, как и в полном факторном эксперименте 2³. Объединение этих двух полуреплик и есть полный факторный эксперимент 2³. Матрица из восьми опытов для четырех факторного планирования будет полурепликой от полного факторного эксперимента 2⁴, а для пятифакторного планирования – четверть-репликой от 2⁵. В последнем случае два линейных эффекта приравниваются к эффектам взаимодействия. Для обозначения дробных реплик, в которых p линейных эффектов приравнены к эффектам взаимодействия, удобно пользоваться условным обозначением 2^k-p. Так, полуреплика от 2³ запишется в виде 2^3-1 а четвертьреплика от 2⁵ – в виде 2^5-2.

Таблица 4.11 - Характеристика дробных реплик

4.7.3 Выбор полуреплик. Генерирующие соотношения и определяющие контрасты.

При построении полуреплики 2^3-1 существует всего две возможности: приравнять х₃ к +x₁x₂ или к – x₁x₂. Поэтому есть только две полуреплики 2^3-1.

Таблица 4.12 - Построение полуреплики 2^3-1

Для произведения трех столбцов матрицы I выполняется соотношение: +l=x₁x₂x₃, а матрицы II: –1= x₁x₂x₃. Вы видите, что все знаки столбцов произведений одинаковы и в первом случае равны плюс единице, а во втором – минус единице.

Символическое обозначение произведения столбцов, равного +1 или –1, называется определяющим контрастом. Контраст помогает определять смешанные эффекты. Чтобы определить, какой эффект смешан с данным, нужно помножить обе части определяющего контраста на столбец, соответствующий данному эффекту. Так, для первой полуреплики определяющий контраст 1=x₁x₂x₃, помогает вычислить генерирующие соотношения: x₁=x₁²x₂x₃, так как x_j²=1, получим x₁=x₂x₃, аналогично x₂= x₁x₂²x₃=x₁x₃ и x₃= x₁x₂x₃²=x₁x₂.

Для второй полуреплики с помощью определяющего контраста –1=x₁x₂x₃ будем иметь другие генерирующие соотношения: x₁=–x₁²x₂x₃=–x₂x₃; x₂=–x₁x₂²x₃=–x₁x₃; x₃=–x₁x₂x₃²=–x₁x₂.

Соотношение, показывающее, с каким из эффектов смешан данный эффект, называется генерирующим соотношением.

Полуреплики, в которых основные эффекты смешаны с двухфакторными взаимодействиями, носят название планов с разрешающей способностью III (по наибольшему числу факторов в определяющем контрасте). Такие планы принято обозначать: .

При выборе полуреплики 2^4–1 возможно восемь решений:

1. x₄= x₁x₂

2. x₄= –x₁x₂

3. x₄= x₂x₃

4. x₄= –x₂x₃

5. x₄= x₁x₃

6. x₄= –x₁x₃

7. x₄= x₁x₂x₃

8. x₄= –x₁x₂x₃

Разрешающая способность этих полуреплик различна. Так, реплики 1–6 имеют по три фактора в определяющем контрасте, а 7–8 по четыре. Реплики 7 и 8 имеют максимальную разрешающую способность и называются главными. Разрешающая способность задается системой смешивания данной реплики. Она будет максимальной, если линейные эффекты смешаны с эффектами взаимодействия наибольшего возможного порядка.

При отсутствии априорной информации об эффектах взаимодействия экспериментатор стремится выбрать реплику с наибольшей разрешающей способностью, так как тройные взаимодействия обычно менее важны, чем парные. Если существует информация об эффектах взаимодействия, то она должна использоваться при выборе реплики.

Реплики, в которых нет ни одного главного эффекта, смешанного с другим главным эффектом или парным взаимодействием, а все парные взаимодействия смешаны друг с другом, носят название планов с разрешающей способностью IV (по наибольшему числу факторов в определяющем контрасте). Они имеют обозначение . Полуреплика, заданная определяющим контрастом l=+x₁x₂x₃x₄, имеет только четные комбинации букв в каждой строке. Ее можно записать следующим образом, считая строку (1) четной:

(1), ad, bd, ab, ас, cd, bс, abсd.

А полуреплика, заданная 1 = – x₁x₂x₃x₄ имеет только нечетные комбинации а, b, с, d, abd, acd, abc, bcd.

Такие полуреплики называют главными полурепликами, так как они обладают наибольшей разрешающей способностью.

Пусть выбраны полуреплики, заданные определяющими контрастами l=+x₁x₂x₃x₄ и 1 = – x₁x₂x₃x₄. Совместные оценки здесь определяются соотношениями:

1. x₁= x₂x₃x₄ x₁= –x₂x₃x₄

2. x₂= x₁x₃x₄ x₂= –x₁x₃x₄

3. x₃= x₁x₂x₄ x₃= –x₁x₂x₄

4. x₄= x₁x₂x₃ x₄= –x₁x₂x₃

5. x₁x₂= x₃x₄ x₁x₂= –x₃x₄

6. x₁x₃= x₂x₄ x₁x₃= –x₂x₄

7. x₁x₄= x₂x₃ x₁x₄= –x₂x₃

Такой тип смешивания даст возможность оценивать линейные эффекты совместно с эффектами взаимодействий второго порядка, а взаимодействия первого порядка – совместно друг с другом.

Если полуреплики заданы генерирующими соотношениями x₄= x₁x₂ и x₄= –x₁x₂, то в этом случае определяющими контрастами являются 1=x₁x₂x₄ и 1 = – x₁x₂x₄, следовательно, мы получаем планы с разрешающей способностью III и некоторые основные эффекты смешиваем с парными взаимодействиями:

1. x₁= x₂x₄; x₁= –x₂x₄

2. x₂= x₁x₄; x₂= –x₁x₄

3. x₃= x₁x₂x₃x₄; x₃= –x₁x₂x₃x₄

4. x₄= x₁x₂; x₄= –x₁x₂

5. x₂x₃= x₁x₃x₄ ; x₂x₃= –x₁x₃x₄

6. x₁x₃= x₂x₃x₄ ; x₁x₃= –x₂x₃x₄

7. x₃x₄= x₁x₂x₃; x₃x₄= –x₁x₂x₃

Разрешающая способность этих полуреплик ниже, чем у планов с разрешающей способностью IV, с помощью которых линейные эффекты определяются независимо от парных взаимодействий.

Эти полуреплики имеют в каждой строке как четные, так и нечетные комбинации букв. Такие полуреплики не являются главными. Разумен выбор такой полуреплики, если имеется априорная информация о большей значимости тройных взаимодействий по сравнению с парными или о незначимости трех парных взаимодействий x₂x₄, x₁x₄, х₁х₂.

Как видите, выбор дробной реплики требует много терпенья и труда. Но другого пути нет. Применяя дробное планирование, нужно точно знать систему смешивания, четко представлять, какую информацию приходится терять.

Поговорим теперь о полурепляке 2^5–1.

При выборе полуреплики 2^5–1 в распоряжении экспериментатора имеется множество вариантов. Так, х₅ можно приравнять к одному из шести парных взаимодействий. В этом случае получим полуреплику с разрешающей способностью III. Очевидно, это будет не лучший выбор полуреплики. Далее, х₅ можно приравнять к одному из четырех тройных взаимодействий. Тогда получим план с разрешающей способностью IV, и все линейные эффекты будут смешаны с тройными взаимодействиями. И, наконец, полуреплика может быть задана генерирующими соотношениями x₅=+x₁x₂x₃x₄ или x₅=–x₁x₂x₃x₄. Определяющими контрастами в этом случае будут 1=+x₁x₂x₃x₄x₅ и 1=–x₁x₂x₃x₄x₅. Такие реплики носят название планов с разрешающей способностью V и обозначаются . В таких планах линейные эффекты смешаны со взаимодействиями третьего порядка, а взаимодействия первого порядка – с взаимодействиями второго порядка

4.7.4. Выбор 1/4-реплик.

При исследовании влияния пяти факторов можно поставить не 16 опытов, как в предыдущем примере, а только 8, т.е. воспользоваться репликой 2^5–2. Здесь возможны двенадцать решений, если x₄ приравнять парному взаимодействию, а х₅ – тройному:

1. x₄= x₁x₂ x₅= x₁x₂x₃

2. x₄= x₁x₂ x₅= –x₁x₂x₃

3. x₄= –x₁x₂ x₅= x₁x₂x₃

4. x₄= –x₁x₂ x₅= –x₁x₂x₃

5. x₄= x₁x₃ x₅= x₁x₂x₃

6. x₄= x₁x₃ x₅= –x₁x₂x₃

7. x₄= –x₁x₃ x₅= x₁x₂x₃

8. x₄= –x₁x₃ x₅= –x₁x₂x₃

9. x₄= x₂x₃ x₅= x₁x₂x₃

10. x₄= x₂x₃ x₅= –x₁x₂x₃

11. x₄= –x₂x₃ x₅= x₁x₂x₃