Методы экспертных оценок.

Изучению особенностей и возможностей применения экспертных оценок посвящено много работ. В них рассматриваются:

1) проблемы формирования экспертных групп, включая требования к экспертам, размеры группы, вопросы тренировки экспертов, оценки их компетентности;

2) формы экспертного опроса (анкетирование, интервью, смешанные формы опроса) и методики организации опроса ( в том числе, методики анкетирования, мозговая атака, деловые игры и т. п.);

3) подходы к оцениванию (ранжирование, нормирование, различные виды упорядочивания, в том числе, методы предпочтения, попарных сравнений и т. п.);

4) методы обработки экспертных оценок;

5) способы определения согласованности мнений экспертов, достоверности экспертных оценок и методы повышения согласованности оценок путем использования соответствующих способов обработки результатов экспертного опроса.

Разновидностью экспертного опроса являются социологические измерения. При их проведении обычно используют качественные шкалы разного рода, которым становятся в соответствие количественные оценки степени значимости ( “очень важно”, “ важно”, “скорее важно, чем нет” и т. д. ) или оценивается введённый в вопросе качественный признак (в форме “ полностью согласен”, “согласен”, “не согласен”, “категорически не согласен”, или “да”, “скорее да, чем нет”, “скорее нет, чем да”, “нет” и т. д.).

При этом могут применяться соответствующие методы обработки результатов; например, при использовании шкалы Лайкерта задаваемые вопросы оцениваются по пятибалльной шкале (5 – “полностью согласен”, 4 – “ согласен” и т. д.), а при обработке результатов опроса при этом используется метод суммарных оценок.

Выбор подходов и методов зависит от конкретных задач и условий проведения экспертизы. Однако существуют некоторые общие проблемы, которые необходимо понимать при проведении любых экспертных опросов.

Кратко охарактеризуем их.

Возможность использования экспертных оценок, обоснование их объективности обычно базируются на том, что неизвестная характеристика исследуемого явления трактуется как случайная величина, отражением закона распределения которой является индивидуальная оценка специалиста – эксперта о достоверности и значимости того или иного события.

При этом предполагается, что истинное значение исследуемой характеристики находится внутри диапазона экспертных оценок, получаемых от группы экспертов, и что обобщенное коллективное мнение является достоверным.

Однако не для любых опросов это справедливо.

Проблемы, для решения которых применяются экспертные оценки, можно разделить на два класса.

К первому классу относятся проблемы, которые достаточно хорошо обеспечены информацией и для которых можно использовать “принцип хорошего измерителя”, считая эксперта хранителем большого объема информации, а групповое мнение экспертов – близким к истинному.

Ко второму классу относятся проблемы, в отношении которых знаний для уверенности в справедливости названных предложений недостаточно, экспертов нельзя рассматривать как “хороших измерителей”, и необходимо осторожно подходить к обработке результатов экспертного опроса, поскольку в этом случае мнение одного (единичного) эксперта, больше внимания, чем другие, уделяющего исследованию малоизученной проблемы, может оказаться наиболее значимым, а при формальной обработке оно будет утрачено. В связи с этим к задачам второго класса, в основном, следует применять качественную обработку результатов. Использование методов усреднения (справедливых для “хороших измерителей”) в данном случае может привести к существенным ошибкам.

Задачи коллективного принятия решений по формированию целей, совершенствованию методов и форм управления обычно можно отнести к первому классу. При этом для повышения объективности результатов нужно при обработке оценок выявлять противоречивые и “редкие ” мнения и подвергать их более тщательному анализу.

Другая особенность, которую нужно иметь в виду при применении экспертных оценок, заключается в следующем: даже в случае решения проблем, относящихся к первому классу, нельзя забывать о том, что экспертные оценки несут в себе не только узкосубъективные черты, присущие отдельным экспертам, но и коллективносубъективные черты, которые не исчезают при обработке результатов опроса (а при применении характеризуемой ниже Дельфи–процедуры и методов повышения согласованности мнений экспертов даже могут усиливаться).

Один из способов устранения недостатков, связанных с рассматриваемой особенностью, – при применении экспертных опросов для принятия решений в организационных системах обращать особое внимание на формирование экспертной группы на методы обработки результатов опроса, особо выделяя и учитывая редкие и противоречивые мнения; а на получаемые усредненные оценки смотреть как на некоторую “общественную точку зрения”, зависящую от уровня знаний общества относительно предмета исследования, который может изменяться по мере развития системы и наших представлений о ней. Такой способ получения информации о сложной проблеме должен стать своего рода “ механизмом” в сложной системе, т. е. необходимо создавать регулярную систему работы с экспертами.

Есть ещё одна особенность, которую называют “эффектом Эдипа”. Она заключается в том , что эксперт – лидер при организации экспертного опроса в форме Дельфи – процедуры с устным обсуждением результатов оценки между турами опроса может постепенно “увести” группу экспертов в желаемом направлении.

Рассмотренные особенности экспертных оценок приводят к необходимости разработки методов организации сложных экспертиз, которые помогают, расчленяя большую неопределенность на части, вводя критерии оценки и применяя различные формы опроса, получать более объективные и достоверные оценки.

В качестве одного из методов повышения согласованности экспертных оценок применяют Дельфи–метод, или метод “дельфийского оракула”.

4.4 Методы типа “Дельфи”.

Метод “Дельфи” или метод “дельфийского оракула” первоначально был предложен Хелмером и его коллегами как итеративная процедура при проведении мозговой атаки, которая способствовала бы снижению влияния психологических факторов при проведении заседаний и повышению объективности результатов. Однако почти одновременно “Дельфи” – процедуры стали средством повышения объективности экспертных опросов с использованием количественных оценок при сравнительном анализе составляющих “деревьев целей” и при разработке “сценариев”.

Основные средства повышения объективности результатов при применении метода “Дельфи” – использование обратной связи, ознакомление экспертов с результатами предшествующего тура опроса и учет этих результатов при оценке значимости мнений экспертов.

В конкретных методиках, реализующих процедуру “Дельфи”, эта идея используется в разной степени.

Так, в упрощенном виде организуется последовательность итеративных циклов мозговой атаки. В более сложном варианте разрабатывается программа последовательных индивидуальных опросов с использованием методов анкетирования, исключающих контакты между экспертами, но предусматривающих ознакомление их с мнениями друг друга между турами.

В развитых вариантах Дельфи–процедура представляет собой программу последовательных индивидуальных опросов с использованием методов анкетирования. Вопросники от тура к туру уточняются. Экспертам присваиваются весовые коэффициенты значимости их мнений (коэффициенты компетентности), вычисляемые на основе предшествующих опросов, также уточняемые от тура к туру и учитываемые при получении обобщенных результатов опроса. Для снижения таких факторов, как внушение или приспособляемость к мнению большинства, иногда требуется, чтобы эксперты обосновывали свою точку зрения, но это не всегда приводит к желаемому результату, а напротив, может усилить эффект приспособляемости или рассматриваемый ниже эффект Эдипа.