Величина X имеет экспоненциальное распределение с интенсивностью λ = 1.
Математика Университет Теория информации и статистика экспоненциальное распределение энтропия величины X интенсивность λ оптимальная стратегия среднее количество вопросов точность до 10⁻⁶ ошибка распределения математика статистика теоретическая вероятность
Для решения данной задачи начнем с определения энтропии случайной величины X, имеющей экспоненциальное распределение с интенсивностью λ = 1. Энтропия H(X) для непрерывной случайной величины определяется по формуле:
H(X) = - ∫ p(x) log(p(x)) dx
Где p(x) - это функция плотности вероятности. Для экспоненциального распределения с параметром λ, функция плотности вероятности выглядит следующим образом:
p(x) = λ * e^(-λx), x ≥ 0
В нашем случае λ = 1, поэтому:
p(x) = e^(-x), x ≥ 0
Теперь подставим p(x) в формулу для энтропии:
H(X) = - ∫ (e^(-x) log(e^(-x))) dx
Упрощая, получаем:
H(X) = - ∫ (e^(-x) * (-x)) dx = ∫ x * e^(-x) dx
Эта интегральная форма известна и равна 1 (это также можно показать, используя интегрирование по частям). Таким образом, энтропия величины X равна:
H(X) = 1
Теперь перейдем ко второй части вопроса: сколько в среднем вопросов нужно задать, чтобы угадать X с точностью до 10⁻⁶, при использовании оптимальной стратегии. Оптимальная стратегия заключается в том, чтобы задавать вопросы, которые делят оставшееся пространство возможных значений на равные части.
Для нахождения количества вопросов, необходимых для достижения заданной точности, мы можем использовать формулу:
N = log2(1/ε)
Где ε - это точность, в нашем случае ε = 10⁻⁶. Подставим это значение в формулу:
N = log2(1/10⁻⁶) = log2(10⁶) = 6 log2(10)
Приблизительно log2(10) ≈ 3.32193, поэтому:
N ≈ 6 * 3.32193 ≈ 19.93
Округляя, получаем, что в среднем нужно задать 20 вопросов.
Теперь рассмотрим третий вопрос: сколько в среднем вопросов потребуется, если ошибочно верить, что величина X распределена экспоненциально с интенсивностью λ = 2. В этом случае функция плотности вероятности будет:
p(x) = 2 * e^(-2x), x ≥ 0
Аналогично, мы можем найти количество вопросов по формуле:
N = log2(1/ε) + H(X)
Здесь H(X) будет другим, так как мы используем неверное распределение. Для λ = 2, энтропия будет:
H(X) = 1/λ = 1/2
Таким образом, общее количество вопросов будет:
N = log2(1/10⁻⁶) + 1/2
Приблизительно это будет равно:
N ≈ 19.93 + 0.5 ≈ 20.43
Округляя, получаем, что в среднем потребуется задать около 21 вопроса.
Итак, в итоге: