Формула Шеннона: Определение количества информации

Вопрос: Формула Шеннона, учитывающая вероятность \( p_i \) наступления \( i \)-го события из набора \( N \) событий \( I = -(p_1 \log_2 p_1 + p_2 \log_2 p_2 + \dots + p_N \log_2 p_N) \), используется для определения... Ответ: c. количества информации Запись в тетрадь: Формула Клода Шеннона используется для нахождения среднего количества информации, приходящегося на одно сообщение из набора возможных событий с различными вероятностями. В общем виде она записывается так: \[ I = -\sum_{i=1}^{N} p_i \log_2 p_i \] где \( p_i \) — вероятность \( i \)-го события, а \( N \) — общее количество возможных событий. Данная величина также называется информационной энтропией.