Фундаментальным понятием математической статистики является понятие случайного числа (случайной величины). Согласно определению, случайная величина принимает то или иное значение, но какое конкретно — зависит от принципиально непредсказуемых обстоятельств опыта и заранее точно предсказано быть не может. Можно лишь говорить о вероятности Р(хк) принятия случайной дискретной величиной того или иного значения
хk или о вероятности попадания непрерывной случайной величины в тот или иной числовой интервал
(х,х+Δх). Вероятность Р(хk)
или P(х)(Δх) соответственно может принимать значения от о (такое значение случайной величины совершенно невероятно) до
i (случайная величина заведомо примет значение от х до (х+Δх). Соотношение
Р(хk) называют законом распределения случайной величины, а зависимость
P(х) между возможными значениями непрерывной случайной величины и вероятностями попадания в их окрестность называется ее плотностью вероятности (probability density).