21. 重尾分布#

21.1.1. 引言：轻尾分布#

大多数常用概率分布在经典统计学和自然科学中都具有“轻尾”。

为了解释这个概念，让我们先看一些例子。

我们可以通过绘制密度图和展示观测值的直方图来看到这一点，如下代码所示（假设 $\mu =0$ 和 $\sigma =1$）。

fig, ax = plt.subplots()
X = norm.rvs(size=1_000_000)
ax.hist(X, bins=40, alpha=0.4, label='直方图', density=True)
x_grid = np.linspace(-4, 4, 400)
ax.plot(x_grid, norm.pdf(x_grid), label='密度')
ax.legend()
plt.show()

从图中我们可以观察到两个重要特点：

• 密度函数在远离中心的区域迅速衰减

• 即使在100万个样本中，也很难观察到极端值

为了更直观地看到这一点，我们可以查看样本中的最大值和最小值：

X.min(), X.max()

(-4.386893397342701, 4.397464429432751)

下面是从同一分布中抽取的另一组样本：

n = 2000
fig, ax = plt.subplots()
data = norm.rvs(size=n)
ax.plot(list(range(n)), data, linestyle='', marker='o', alpha=0.5, ms=4)
ax.vlines(list(range(n)), 0, data, lw=0.2)
ax.set_ylim(-15, 15)
ax.set_xlabel('$i$')
ax.set_ylabel('$X_i$', rotation=0)
plt.show()

从图中可以看出，我们绘制了每个观测值 $X_i$ 随索引 $i$ 的变化情况。

注意到所有观测值都相对集中，没有特别极端的大值或小值。

这正是轻尾分布的典型特征——极端值出现的概率很低，大多数观测值都会聚集在均值附近。

简单来说，轻尾分布是那些极端事件罕见发生的分布。

（关于轻尾分布的严格数学定义，请参见下文。）

在实际应用中，许多统计学家和计量经济学家常用”超出均值四到五个标准差的观测值可以忽略不计”这样的经验法则。

然而，这种经验法则只适用于轻尾分布的情况。

21.1.2. 轻尾分布的应用场景#

轻尾分布在自然界和社会现象中非常普遍。

人类身高就是一个典型的轻尾分布例子。

虽然我们确实能见到一些特别高的人，但这种情况相对罕见。

• 例如，篮球运动员孙明明身高2.36米

但你肯定从未听说过有人身高达到20米、200米，更不用说2000米了，对吧？

这是为什么呢？全球有80亿人口，按理说极端情况应该会出现才对。

答案在于人类身高分布的性质——它具有非常轻的尾部，这意味着极端值出现的概率极低。实际上，人类身高几乎完美地遵循正态分布的钟形曲线。

21.1.3. 资产回报率分析#

那么，经济和金融数据是否也遵循同样的规律呢？

让我们先来分析一些金融市场数据。

下面我们将研究亚马逊（AMZN）股票从2015年1月1日到2022年7月1日期间的每日价格变动。

这些价格变动（不考虑股息的情况下）实际上就是投资者获得的每日回报率。

以下代码通过 yfinance 库使用雅虎财经数据生成所需的图表。

data = yf.download('AMZN', '2015-1-1', '2022-7-1', auto_adjust=False)

[*********************100%***********************]  1 of 1 completed

s = data['Adj Close']
r = s.pct_change()

fig, ax = plt.subplots()

ax.plot(r, linestyle='', marker='o', alpha=0.5, ms=4)
ax.vlines(r.index, 0, r.values, lw=0.2)
ax.set_ylabel('回报', fontsize=12)
ax.set_xlabel('日期', fontsize=12)

plt.show()

这些数据看起来与我们上面看到的正态分布的抽样有所不同。

有几个观测值非常极端。

如果我们查看其他资产，比如比特币，我们会得到类似的图像。

data = yf.download('BTC-USD', '2015-1-1', '2022-7-1', auto_adjust=False)

[*********************100%***********************]  1 of 1 completed

s = data['Adj Close']
r = s.pct_change()

fig, ax = plt.subplots()

ax.plot(r, linestyle='', marker='o', alpha=0.5, ms=4)
ax.vlines(r.index, 0, r.values, lw=0.2)
ax.set_ylabel('回报', fontsize=12)
ax.set_xlabel('日期', fontsize=12)

plt.show()

这个直方图也与正态分布的直方图不同:

r = np.random.standard_t(df=5, size=1000)

fig, ax = plt.subplots()
ax.hist(r, bins=60, alpha=0.4, label='比特币回报', density=True)

xmin, xmax = plt.xlim()
x = np.linspace(xmin, xmax, 100)
p = norm.pdf(x, np.mean(r), np.std(r))
ax.plot(x, p, linewidth=2, label='正态分布')

ax.set_xlabel('回报', fontsize=12)
ax.legend()

plt.show()

如果我们查看更高频率的回报数据（例如，逐笔交易），我们经常会看到更极端的观测。

例如，参见 [Mandelbrot, 1963] 或 [Rachev, 2003]。

21.1.4. 其他数据#

我们刚刚看到的数据被称为“重尾”。

在重尾分布中，极端结果相对频繁地发生。

在本讲座的后续部分，我们将深入探讨这些分布中的重尾现象。

21.1.5. 为什么重尾现象如此重要？#

重尾分布在经济数据中普遍存在，但我们可能会问：这种现象真的值得特别关注吗？

答案是毫无疑问的！

当我们面对重尾分布时，需要重新思考许多传统的分析方法，特别是在以下方面：

• 风险管理和投资组合多样化策略

• 经济预测和模型构建

• 税收政策设计（特别是针对高度不平等的收入分布），等等。

我们将在下面回到这些 应用。

21.2.1. 模拟#

下图显示了一次模拟。

上面两个子图各显示来自正态分布的120个独立样本，这是轻尾分布。

下面的子图显示来自柯西分布的120个独立样本，这是重尾分布。

n = 120
np.random.seed(11)

fig, axes = plt.subplots(3, 1, figsize=(6, 12))

for ax in axes:
    ax.set_ylim((-120, 120))

s_vals = 2, 12

for ax, s in zip(axes[:2], s_vals):
    data = np.random.randn(n) * s
    ax.plot(list(range(n)), data, linestyle='', marker='o', alpha=0.5, ms=4)
    ax.vlines(list(range(n)), 0, data, lw=0.2)
    ax.set_title(fr"从 $N(0, \sigma^2)$ 抽取，$\sigma = {s}$", fontsize=11)

ax = axes[2]
distribution = cauchy()
data = distribution.rvs(n)
ax.plot(list(range(n)), data, linestyle='', marker='o', alpha=0.5, ms=4)
ax.vlines(list(range(n)), 0, data, lw=0.2)
ax.set_title(f"来自柯西分布的样本", fontsize=11)

plt.subplots_adjust(hspace=0.25)

plt.show()

在顶部的子图中，正态分布的标准偏差为2，样本值围绕均值聚集。

在中间的子图中，标准偏差增加到12，如预期的那样，分散度增加。

底部的子图中，柯西的样本显示出一种不同的模式：大多数观察值紧密围绕均值聚集，但偶有几个从均值突然大偏差。

这是典型的重尾分布特征。

21.2.2. 非负分布#

现在让我们来比较几种只取非负值的分布。

其中一种是指数分布，我们在概率与分布讲座中已经详细讨论过。

指数分布是典型的轻尾分布。

下面展示了从指数分布中样本的一些随机样本。

n = 120
np.random.seed(11)

fig, ax = plt.subplots()
ax.set_ylim((0, 50))

data = np.random.exponential(size=n)
ax.plot(list(range(n)), data, linestyle='', marker='o', alpha=0.5, ms=4)
ax.vlines(list(range(n)), 0, data, lw=0.2)

plt.show()

另一个非负分布是帕累托分布。

对于服从帕累托分布的随机变量 $X$，存在两个正参数 $\overline{x}$ 和 $\alpha$，使得其分布函数满足

参数 $\alpha$ 被称为尾指数，而 $\overline{x}$ 则被称为最小值。

帕累托分布是典型的重尾分布。

生成帕累托分布的一种方法是对指数随机变量取指数。

具体来说，如果 $X$ 是一个服从参数为 $\alpha$ 的指数分布的随机变量，那么

是一个服从帕累托分布的随机变量，其最小值为 $\overline{x}$，尾指数为 $\alpha$。

下面展示了从帕累托分布中抽取的样本数据，其中尾指数 $\alpha =1$，最小值 $\overline{x}=1$。

n = 120
np.random.seed(11)

fig, ax = plt.subplots()
ax.set_ylim((0, 80))
exponential_data = np.random.exponential(size=n)
pareto_data = np.exp(exponential_data)
ax.plot(list(range(n)), pareto_data, linestyle='', marker='o', alpha=0.5, ms=4)
ax.vlines(list(range(n)), 0, pareto_data, lw=0.2)

plt.show()

注意在帕累托分布中，极端结果更常见。

21.2.3. 互补累积分布函数#

对于非负随机变量，视觉上区分轻尾和重尾的一种方法是查看互补累积分布函数（CCDF）。

对于一个具有CDF $F$ 的随机变量 $X$，CCDF定义为函数

（有些作者称$G$为“生存”函数。）

CCDF显示随着 $x\to \mathrm{\infty }$，上尾速度减少到零的快慢。

如果$X$是具有速率参数$\alpha$的指数分布，则其CCDF为

随着 $x$ 增大，这个函数相对快速地趋于零。

标准帕雷托分布，其中 $\beta x=1$，具有CCDF

这个函数在 $x\to \mathrm{\infty }$ 时趋于零，但比 $G_E$ 更慢。

这是一个图示，展示了$G_E$比$G_P$衰减得更快。

x = np.linspace(1.5, 100, 1000)
fig, ax = plt.subplots()
alpha = 1.0
ax.plot(x, np.exp(- alpha * x), label='指数分布', alpha=0.8)
ax.plot(x, x**(- alpha), label='帕累托分布', alpha=0.8)
ax.set_xlabel('X值')
ax.set_ylabel('CCDF')
ax.legend()
plt.show()

下面是同一函数的对数对数图，便于视觉比较。

fig, ax = plt.subplots()
alpha = 1.0
ax.loglog(x, np.exp(- alpha * x), label='指数分布', alpha=0.8)
ax.loglog(x, x**(- alpha), label='帕累托分布', alpha=0.8)
ax.set_xlabel('对数值')
ax.set_ylabel('对数概率')
ax.legend()
plt.show()

在对数对数图中，帕累托的互补累积分布函数是线性的，而指数的则是凹的。

这个观点常用于在视觉化中区分轻尾分布和重尾分布——我们下面会再次讨论这一点。

21.2.4. 经验 CCDFs#

从样本数据得到的 CCDF 函数被称为经验 CCDF。

给定一个样本 $x_1,\dots ,x_n$，经验 CCDF 定义为

因此，$\hat{G}(x)$ 显示样本中超过 $x$ 的比例。

def eccdf(x, data):
    "简单的经验 CCDF 函数。"
    return np.mean(data > x)

下面是一些从模拟数据得到的经验 CCDFs 的图。

# 参数和网格
x_grid = np.linspace(1, 1000, 1000)
sample_size = 1000
np.random.seed(13)
z = np.random.randn(sample_size)

# 生成样本数据
data_exp = np.random.exponential(size=sample_size)
data_logn = np.exp(z)
data_pareto = np.exp(np.random.exponential(size=sample_size))

data_list = [data_exp, data_logn, data_pareto]

# 构建图形
fig, axes = plt.subplots(3, 1, figsize=(6, 8))
axes = axes.flatten()
labels = ['指数分布', '对数正态分布', '帕累托分布']

for data, label, ax in zip(data_list, labels, axes):

    ax.loglog(x_grid, [eccdf(x, data) for x in x_grid], 
        'o', markersize=3.0, alpha=0.5, label=label)
    ax.set_xlabel("对数值")
    ax.set_ylabel("对数概率")
    
    ax.legend()
    
    
fig.subplots_adjust(hspace=0.4)

plt.show()

与 CCDF 一样，帕累托分布的经验 CCDF 在对数-对数图中大致呈线性。

我们将在下面使用这个想法 here 当我们查看真实数据时。

21.2.4.1. Q-Q图#

我们也可以使用Q-Q图来可视化比较两个概率分布。

statsmodels包提供了一个方便的qqplot函数，该函数默认将样本数据与正态分布的分位数进行比较。

如果数据来自正态分布，该图看起来会像：

data_normal = np.random.normal(size=sample_size)
sm.qqplot(data_normal, line='45')
plt.xlabel("理论分位数")
plt.ylabel("样本分位数")
plt.show()

我们现在可以将其与指数分布、对数正态分布和帕累托分布进行比较

# 构建图形
fig, axes = plt.subplots(1, 3, figsize=(12, 4))
axes = axes.flatten()
labels = ['指数分布', '对数正态分布', '帕累托分布']
for data, label, ax in zip(data_list, labels, axes):
    sm.qqplot(data, line='45', ax=ax)
    ax.set_title(label)
    ax.set_xlabel('理论分位数')
    ax.set_ylabel('样本分位数')
plt.tight_layout()
plt.show()

21.2.5. 幂律#

在经济和社会现象中，一类特定的重尾分布被反复发现：所谓的幂律。

若随机变量 $X$ 满足幂律，则存在某个 $\alpha >0$，

我们可以更数学化地写成

通常我们说具有这种性质的随机变量 $X$ 具有帕累托尾，其尾指数为 $\alpha$。

值得注意的是，所有尾指数为 $\alpha$ 的帕累托分布都具有帕累托尾，且尾指数也为 $\alpha$。

幂律可以被视为帕累托分布的一种泛化形式。这类分布在其右尾部分表现出与帕累托分布相似的特性。

另一种理解幂律的方式是将其看作一类具有特定类型重尾（通常是非常重的尾）的分布族。

21.3.1. 公司规模#

以下是2020年来自福布斯全球2000强的最大500家公司的公司规模分布图。

Show source Hide code cell source

df_fs = pd.read_csv('https://media.githubusercontent.com/media/QuantEcon/high_dim_data/main/cross_section/forbes-global2000.csv')
df_fs = df_fs[['Country', 'Sales', 'Profits', 'Assets', 'Market Value']]
fig, ax = plt.subplots(figsize=(6.4, 3.5))

label="公司规模（市值）"
top = 500 # 设置排名前500的切断点
d = df_fs.sort_values('Market Value', ascending=False)
empirical_ccdf(np.asarray(d['Market Value'])[:top], ax, label=label, add_reg_line=True)

plt.show()

21.3.2. 城市规模#

以下是2023年来自世界人口审查的美国和巴西城市规模分布图。

大小由人口衡量。

Show source Hide code cell source

# 导入2023年美国和2023年巴西城市的人口数据
df_cs_us = pd.read_csv('https://media.githubusercontent.com/media/QuantEcon/high_dim_data/main/cross_section/cities_us.csv')
df_cs_br = pd.read_csv('https://media.githubusercontent.com/media/QuantEcon/high_dim_data/main/cross_section/cities_brazil.csv')

fig, axes = plt.subplots(1, 2, figsize=(8.8, 3.6))

empirical_ccdf(np.asarray(df_cs_us["pop2023"]), axes[0], label="US", add_reg_line=True)
empirical_ccdf(np.asarray(df_cs_br['pop2023']), axes[1], label="Brazil", add_reg_line=True)

plt.show()

21.3.3. 财富#

这里是财富分布上尾部（前500名）的图表示。

数据来源于2020年的《福布斯亿万富翁》名单。

Show source Hide code cell source

df_w = pd.read_csv('https://media.githubusercontent.com/media/QuantEcon/high_dim_data/main/cross_section/forbes-billionaires.csv')
df_w = df_w[['country', 'realTimeWorth', 'realTimeRank']].dropna()
df_w = df_w.astype({'realTimeRank': int})
df_w = df_w.sort_values('realTimeRank', ascending=True).copy()
countries = ['United States', 'Japan', 'India', 'Italy']  
country_names = ['美国', '日本', '印度', '意大利']
N = len(countries)

fig, axs = plt.subplots(2, 2, figsize=(8, 6))
axs = axs.flatten()

for i, c in enumerate(countries):
    df_w_c = df_w[df_w['country'] == c].reset_index()
    z = np.asarray(df_w_c['realTimeWorth'])
    # 打印来自该国的全球前2000位富豪的人数
    top = 500           # 截止数：前500名
    if len(z) <= top:    
        z = z[:top]

    empirical_ccdf(z[:top], axs[i], label=country_names[i], xlabel='对数财富', add_reg_line=True)
    
fig.tight_layout()

plt.show()

21.3.4. GDP#

当然，并非所有的横截面分布都是重尾的。

这里我们展示的是各国人均GDP。

# 获取2021年所有地区和国家的GDP及人均GDP
variable_code = ['NY.GDP.MKTP.CD', 'NY.GDP.PCAP.CD']
variable_names = ['GDP', '人均GDP']

df_gdp1 = extract_wb(varlist=variable_code, 
                     c="all_countries", 
                     s="2021", 
                     e="2021", 
                     varnames=variable_names)
df_gdp1.dropna(inplace=True)

/tmp/ipykernel_7678/140199782.py:12: FutureWarning: errors='ignore' is deprecated and will raise in a future version. Use to_numeric without passing `errors` and catch exceptions explicitly instead
  df = wb.download(indicator=varlist, country=c, start=s, end=e).stack().unstack(0).reset_index()

Show source Hide code cell source

fig, axes = plt.subplots(1, 2, figsize=(8.8, 3.6))

for name, ax in zip(variable_names, axes):
    empirical_ccdf(np.asarray(df_gdp1[name]).astype("float64"), ax, add_reg_line=False, label=name)

plt.show()

从图中可以看出，这些曲线呈现出明显的凹形而非直线形态，表明这些分布具有轻尾特性。

这种现象的一个主要原因在于人均GDP是一个综合指标，它通过将国家总GDP除以人口数量得到，这一计算过程本质上就是一种平均处理。

当我们对数据进行平均处理时，往往会削弱或消除极端值的影响，使分布更加集中，从而导致轻尾分布的形成。

21.5.1. 分散化投资#

投资中一个最重要的概念是使用分散化来降低风险。

这是一个非常古老的想法——例如，考虑这个表达式“不要把所有的鸡蛋放在一个篮子里”。

为了说明这一点，设想一个拥有一美元财富的投资者，在$n$种资产中进行选择，这些资产的回报为$X_1,\dots ,X_n$。

假设不同资产的回报是独立的，每个回报有均值$\mu$和方差${\sigma }^2$。

如果投资者将所有财富投资在一个资产上，那么该投资组合的预期收益为$\mu$，方差为${\sigma }^2$。

如果投资者将她的财富均分到每一个资产上，即每个资产的份额为$1/n$，那么投资组合的收益为

试着计算均值和方差。

你会发现：

• 均值保持不变，依旧是$\mu$，

• 投资组合的方差降低到了${\sigma }^2/n$。

正如我们所预期的，分散化投资确实能够降低风险。

然而，这里隐藏着一个重要假设：资产回报的方差必须是有限的。

当我们面对重尾分布且方差无限的情况时，上述分散化逻辑就不再成立了。

以柯西分布为例，我们前面已经看到，如果每个$X_i$都服从柯西分布，那么它们的平均值$Y_n$仍然服从相同的柯西分布。

这就意味着，无论你将投资分散到多少资产中，风险水平都不会降低！

21.5.2. 财政政策#

财富和收入分配的尾部特性对制定有效的税收和再分配政策具有重要影响。

当社会中存在极端的财富集中现象时，传统的税收政策可能需要重新设计才能实现预期的社会效果。

例如，了解收入分配尾部的厚重程度能够帮助政策制定者更好地设计税收政策，使其既能促进公平又不过度抑制经济活力。

21.6.1. 轻尾和重尾#

一个在 ${\mathbb{R}}_{+}$ 上有密度 $f$ 的分布 $F$ 被称为重尾的，如果

我们说一个非负随机变量 $X$ 是重尾的，如果它的分布密度是重尾的。

这等价于说它的矩生成函数 $m(t):=\mathbb{E}\exp (tX)$ 对于所有 $t>0$ 都不存在（即无限）。

例如，对数正态分布是重尾的，因为它的矩生成函数在 $(0,\mathrm{\infty })$ 上无限。

帕累托分布也是重尾分布的一个例子。

直观地说，重尾分布的尾部衰减速度比指数分布慢，不受指数型界限的约束。

如果一个在 ${\mathbb{R}}_{+}$ 上的分布 $F$ 不是重尾的，我们就称它为轻尾分布。

相应地，一个非负随机变量 $X$ 是轻尾的，如果它的分布 $F$ 是轻尾的。

所有有界支撑的随机变量都是轻尾的（想一想为什么会这样）。

例如，所有有界支撑的随机变量都是轻尾的。（为什么？）

再举一个例子，如果 $X$ 有指数分布，累积分布函数 $F(x)=1-\exp (-\lambda x)$ 对某个 $\lambda >0$，则其矩生成函数为

特别地，只要 $t<\lambda$，$m(t)$ 就是有限的，因此 $X$ 是轻尾的。

可以证明，如果 $X$ 是轻尾的，那么它的所有矩都是有限的。

反过来说，如果某个矩是无限的，那么 $X$ 必定是重尾的。

但需要注意的是，重尾分布并不一定有无限矩。例如，对数正态分布是重尾的，但它的所有矩都是有限的。