Под экспертными оценками понимают комплекс логических и математических процедур, направленных на получение от специалистов информации, ее анализ и обобщение с целью подготовки и выработки рациональных решений.
Очень важную роль при этом играют факторы психологического характера. Прежде всего, эксперты должны быть освобождены от ответственности за результат экспертизы. Дело не только в том, что ЛПР не должно возлагать ответственность на других, но и в том, что сама ответственность накладывает психологические ограничения на характер выбора, а этого на стадии оценки альтернатив желательно избежать. Приходится также учитывать, что оценка, даваемая экспертом, может зависеть от межличностных отношений с другими экспертами и иногда от того, известна ли его оценка другим лицам. На ход экспертизы может повлиять и личная заинтересованность эксперта, т.е. его необъективность.
С другой стороны, сложность проблемы обычно выходит за рамки возможностей одного человека, а коллективная деятельность обычно открывает дополнительные возможности для взаимного стимулирования экспертов.
В разных случаях используют методики экспертиз, имеющие различные степень и характер взаимного влияния экспертов друг на друга: анонимные и открытые опросы и анкетирование, совещания, дискуссии, деловые игры, мозговой штурм и т.д.
Рассмотрим простейший вариант. Экспертам раздают анкеты с просьбой оценить предлагаемые альтернативы. Заполненные анкеты собирают, обрабатывают и полученную информацию в некотором обобщенном виде передают ЛПР.
Предположим, что эксперты оценивают альтернативы в числовых шкалах. Пусть Zj(Xi) – оценка i-й альтернативы j-м экспертом (i=1,…, n; j=1, …, m). Оценки Z1(Xi), … Zm(Xi) можно рассматривать как «измерения» искомой «истинной» характеристики Z(Xi). В качестве приближения можно использовать выборочное среднее
Сложнее обстоит дело, когда альтернативы нельзя оценить сразу одним числом и экспертам предлагается дать оценки отдельно по каждому показателю. Например, оценка качества электроэнергии складывается из оценок несимметричности фаз, несинусоидальности токов, отклонений частоты от номинальной. В таких случаях имеем набор чисел Zjk (Xi), где k – номер признака. Кроме этих чисел экспертов просят оценить степень важности λjk каждого показателя. Тогда
Естественно придать различные приоритеты («веса») мнениям экспертов, имеющих разную квалификацию. Определение коэффициента аi компетентности j-го эксперта можно поручить самим экспертам. Пусть каждый из них (l-й) оценивает компетентность других экспертов числами 0≤аlj≤1, при этом и свою собственную числом all .
Усреднение дает
где m – количество экспертов.
В результате получают итоговую оценку
В тех случаях, когда эксперты лишь упорядочивают альтернативы, т.е. используют только порядковую шкалу, необходимость арифметических операций отпадает.
Методы экспертных оценок можно разделить на две группы: методы коллективной работы экспертной группы и методы получения индивидуального мнения членов экспертной группы.
Методы коллективной работы экспертной группы предполагают получение общего мнения в ходе совместного обсуждения решаемой проблемы. Иногда эти методы называют методами прямого получения коллективного мнения. Основное преимущество этих методов заключается в возможности разностороннего анализа проблем. Недостатками методов является сложность процедуры получения информации, сложность формирования группового мнения по индивидуальным суждениям экспертов, возможность давления авторитетов в группе. Методы коллективной работы включают методы «мозговой атаки», «сценариев», «деловых игр», «совещаний» и «суда».
Методы получения индивидуального мнения членов экспертной группы основаны на предварительном получении информации от экспертов, опрашиваемых независимо друг от друга, с последующей обработкой полученных данных. К этим методам можно отнести методы анкетного опроса, интервью и методы «Делфи». Основные преимущества метода индивидуального экспертного оценивания состоят в их оперативности, возможности в полной мере использовать индивидуальные способности эксперта, отсутствии давления со стороны авторитетов и в низких затратах на экспертизу. Главным их недостатком является высокая степень субъективности получаемых оценок из-за ограниченности знаний одного эксперта.
Качественные методы системного анализа и принятия решений применяются, когда отсутствуют описания закономерностей систем в виде аналитических зависимостей.
Изучению возможностей и особенностей применения методов экспертных оценок посвящено много работ, в том числе имеется ряд обзоров. Термин «эксперт» происходит от латинского слова expert, означающий «опытный». Неизвестная характеристика исследуемого явления трактуется при этом обычно как случайная величина, отражением закона распределения которой является индивидуальная оценка специалиста-эксперта о достоверности и значимости того или иного события. Когда такие оценки получены от группы экспертов, предполагается, что истинное значение исследуемой характеристики находится внутри диапазона оценок и что обобщенное коллективное мнение является достоверным.
Применение классического частотного подхода к оценке вероятности при проведении экспертной оценки бывает затруднительным, а иногда и просто невозможным, так как исчисление вероятностей основано на законе больших чисел, выполнение которого предполагает массовый характер исследуемых явлений и наличия большого числа подтверждений в прошлом.
При использовании экспертных оценок обычно предполагается, что мнение группы экспертов надежнее, чем мнение отдельного эксперта. В некоторых теоретических исследованиях отмечается, что это предположение не является очевидным. Но одновременно со ссылкой на экспериментальные исследования утверждается, что при соблюдении определенных требований в большинстве случаев групповые оценки надежнее индивидуальных. К числу таких требований относится: распределение оценок, полученных от экспертов, должно быть «гладким»; две групповые оценки, данные двумя одинаковыми подгруппами, выбранными случайным образом, должны быть близки.
Все множество проблем, решаемых методами экспертных оценок, делится на два класса. К первому относятся такие, в отношении которых имеется достаточное обеспечение информацией.
При этом методы опроса и обработки основываются на использовании принципа «хорошего измерителя», т. е. эксперт – качественный источник информации; групповое мнение экспертов близко к истинному решению. Применяются формальные приемы обработки индивидуальных экспертных оценок. Ко второму классу относятся проблемы, в отношении которых знаний для уверенности в справедливости указанных гипотез недостаточно. В этом случае экспертов ухе нельзя рассматривать как «хороших измерителей» и необходимо осторожно подходить к обработке результатов экспертизы во избежание больших ошибок.