Пусть $A$ — конечное или счетное множество, а $I$ — бесконечное подмножество $\mathbb N$ или $\{0,1\}^*$. Тогда семейства $(\mathfrak X_i\,|\, i\in I)$ и $(\mathfrak Y_i\,|\, i\in I)$ распределений вероятностей на множестве $A$ называются статистически неотличимыми, если статистическое расстояние между распределениями вероятностей $\mathfrak X_i$ и $\mathfrak Y_i$ пренебрежимо мало как функция от $i\in I$.

Определение статистической неотличимости естественным образом переносится на семейства случайных величин $(\widetilde x_i\,|\, i\in I)$ и $(\widetilde y_i\,|\, i\in I)$, принимающих значения в $A$. А именно, указанные семейства случайных величин называются статистически неотличимыми, если статистически неотличимы семейства распределений вероятностей $(\mathfrak X_i\,|\, i\in I)$ и $(\mathfrak Y_i\,|\, i\in I)$, где $\mathfrak X_i$ и $\mathfrak Y_i$ — распределения вероятностей случайных величин $\widetilde x_i$ и $\widetilde y_i$ соответственно ($i\in I$). Другими словами, эти семейства случайных величин статистически неотличимы, если статистическое расстояние между случайными величинами $\widetilde x_i$ и $\widetilde y_i$ пренебрежимо мало как функция от $i\in I$.