Sheldon M. Ross "Stochastic Processes" 2nd Edition
随机过程(第二版)习题
# 2.2
由 Poisson 过程的第二定义推第一定义,还可以用下面这个流程.
- 证明 P0(t+s)=P0(t)P0(s).
- 进一步地,证明到达间隔时间序列 {Xn} 独立同分布,分布为速率为 λ 的指数随机变量.
- 再进一步地,证明 N(t) 按均值为 λt 的 Poisson 分布.
解:
(1) 令 Pn(t)=P(N(t)=n). 于是
P0(t+s)=P(N(t+s)=0)=P(N(t)=0,N(t+s)−N(t)=0)=P(N(t)=0)⋅P(N(t+s)−N(t)=0)(独立性)=P(N(t)=0)⋅P(N(s)=0)(平稳性)=P0(t)P0(s)
(2) 由 P0(s+t)=P0(s)P0(t) 得 P0 为指数函数。设 P0(t)=eαt.
由第二定义有,
P0(t)=P(N(t)=0)=1−P(N(t)=1)−P(N(t)⩾2)=1−λt+o(t)
将 P0 指数函数形式 Taylor 展开到 1 阶
P0(t)=eαt=1+αt+o(t)=1−λt+o(t)
于是 α=−λ,P0(t)=e−λt
故:
- P(X1>t)=P(N(t)=0)=e−λt
- P(X2>t∣X1=s)=P(在区间(s,s+t]上0个事件∣X1=t)=P(N(t)=0)(独立平稳)=e−λt
- 以此类推可得 P(Xi>t)=e−λt,即 X1,X2,⋯ 独立同分布,服从速率为 λ 的指数分布.
(3) 到达时间 Sn 服从参数为 k 与 λ 的 gamma 分布。于是
P(N(t)=k)=P(Sk+1>t)−P(Sk⩽t)=∫t+∞k!λe−λτ(λτ)kdτ−∫t+∞(k−1)!λe−λτ(λτ)k−1dτ=k!1∫λt+∞e−uukdu−(k−1)!1∫λt+∞e−uuk−1du=k!1(−e−uuk∣∣∣∣∣λt+∞+∫λt+∞e−ukuk−1du)−(k−1)!1∫λt+∞e−uuk−1du=k!e−λt(λt)k+减号后面的积分−减号后面的积分=k!e−λt(λt)k
即 N(t) 服从均值为 λt 的 Poisson 分布.
# 2.5
假设 {N1(t)} 和 {N2(t)} 是速率分别为 λ1 和 λ2 的独立 Poisson 过程,证明 {N1(t)+N2(t)} 是速率为 λ1+λ2 的 Poisson 过程。并且证明,这个联合过程的第一个事件来自 {N1(t)} 的概率为 λ1/(λ1+λ2),且独立于此事件发生的时刻.
解:
(1) 令 N(t)=N1(t)+N2(t). 使用第二定义证明 {N(t)} 是速率为 λ1+λ2 的 Poisson 过程.
- 条件一:N(0)=N1(0)+N2(0)=0,满足.
- 条件二:N(s+t)−N(s)=[N1(s+t)−N1(s)]+[N2(s+t)−N2(s)],由 {N1(t)} 和 {N2(t)} 的独立平稳增量可推得 N(t) 也具有独立平稳增量.
- 条件三:
P(N(h)=1)=P(N1(h)=1,N2(h)=0)+P(N1(h)=1,N2(h)=0)=(λ1h+o(h))(1−λ2h+o(h))+(λ2h+o(h))(1−λ1h+o(h))=λ1h−λ1λ2h2+λ2h−λ1λ2h2+o(h)=(λ1+λ2)h+o(h)
P(N(h)=0)P(N(h)⩾2)=P(N1(h)=0,N2(h)=0)=(1−λ1h+o(h))(1−λ1h+o(h))=1−(λ1+λ2)h+o(h)=1−P0−P1=o(h)
于是 {N(t)} 是速率 λ=λ1+λ2 的 Poisson 过程.
(2)
P(第一个事件来自{N1(t)})=P(N(t)=1)P(N1(t)=1,N2(t)=0)=e−λt(λt)e−λ1t(λ1t)⋅e−λ2t=λ1+λ2λ1
# 2.13
假设冲击按速率为 λ 的 Poisson 过程发生,并且单个冲击独立地以概率 p 引起某系统的失效。记使得系统失效的冲击数为 N、记失效的时间为 T. 求 P(N=n∣T=t).
解:
记原始冲击过程为 {N(t)}. 若一次冲击使得系统失效,则称该冲击是 Ⅰ 类的,否则称为 Ⅱ 类的。由分类定律有,Ⅰ 类冲击过程 {N1(t)} 是速率为 λp 的 Poisson 过程,Ⅱ 类冲击过程 {N2(t)} 是速率为 λ(1−p) 的 Poisson 过程.
P(N=n∣T=t)=P(T=t)P(N=n,T=t). 分母即 “Ⅰ 类冲击首次发生的时刻为 t”,分子即 “时刻 t 及以前共 n 次冲击,其中时刻 t 发生 Ⅰ 类冲击、其他 n−1 次为 Ⅱ 类冲击”.
使用到达时间刻画事件发生的时刻。记 Ⅰ 类冲击过程的到达时间序列为 {Sn(1)}. 则
P(N=n∣T=t)=P(T=t)P(N=n,T=t)=P(S1(1)=t)P(N2(t)=n−1,S1(1)=t)=P(S1(1)=t)P(N2(t)=n−1)⋅P(S1(1)=t)(N1N2两过程相独立)=P(N2(t)=n−1)=e−λt(1−p)(n−1)!(λt(1−p))n−1
# 2.15
考虑有 n 个面的骰子,每次投掷时以概率 Pi 出现面 i. 给定 n1,⋯,nr,以 Ni 记第 ni 次出现面 i 时的投掷数。令 N=minNi.
- 求 Ni 的分布
- 判断 Ni 之间是否独立
假设投掷按速率为 λ=1 的 Poisson 过程执行,以 Ti 记第 ni 次出现面 i 时的投掷数。令 T=minTi.
- 求 Ti 的分布
- 判断 Ti 之间是否独立
- 推导 E[Ti] 的一个表达式
- 进一步地,推导 E[N] 的一个表达式
解:
(1) 题目描述的就是负二项分布的定义,其所指的变量为 Bernoulli 试验中恰好成功 ni 次时的试验次数,其中试验成功的概率为 Pi.
(2) 不独立。假定只有 1 和 2 两面,投出 1 面的概率为 p,n1=n2=2. 由负二项分布或者直接推理,事件 N1=k 发生,iff 第 k 次投掷为面 1、前 k−1 次投掷中有一个面 1、其余都是面 2. 即
P(N1=k)=(1k−1)p2(1−p)k−2
而若给定 N2=k,事件 N1=k∣N2=k 不可能发生,因为第 k 次投掷结果只可能是 1 或 2 的其中一个,不可能恰好同时满足 N1=n1、N2=n2,必然有一个面是先达成所需次数 ni、而另一个面未达成。即
P(N1=k∣N2=k)=0=P(N1=k)
于是不独立.
(3) 假设投出面 i 的事件为第 i 类。由 {N(t)} 为 Poisson 过程可知,{Ni(t)} 是相互独立的、速率为 λPi=Pi 的 Poisson 过程。而 Ti 则是过程 {Ni(t)} 第 ni 个事件发生的到达时间,故 Ti 服从参数为 ni 和 Pi 的 gamma 分布.
(4) 独立。一方面,事件的归类是独立的;另一方面,Ti 的分布参数只与它自己的 ni 和 Pi 有关.
(5) 以 {Yi,1,Yi,2,⋯} 表示过程 {Ni(t)} 的到达间隔时间序列,可知 Yi,j 服从速率为 Pi 的指数分布,即 E[Yi,j]=Pi1. 于是
E[Ti]=E[j=1∑niYi,j]=j=1∑niE[Yi,j]=Pini
(6) 题目隐含了一个意思,即通过一个特殊的连续的投掷过程,可以得到 N 的期望。于是可以猜想 T 与 N 的期望存在某种直接关联.
于是首先计算 T 的期望. Ti 是参数为 ni 和 Pi 的 gamma 分布,其分布函数
F(t)=∫0tf(τ)dτ=∫0t(n−1)!Pie−Piτ(Piτ)n−1dτ
T 是 Ti 的最小值,故 T 的分布函数 G(t)=1−i=1∏r(1−F(t)). 于是
E[T]=∫0+∞P(T>t)dt=∫0+∞(1−G(t))dt=∫0+∞i=1∏r(1−F(t))dt=∫0+∞i=1∏r(∫t+∞(ni−1)!Pie−Piτ(Piτ)ni−1dτ)dt
由题意,投掷次数到达 N 的时刻为 t=T,于是 T=1∑NXi,其中 Xi 为投掷的到达间隔时间序列。对上式取期望得
E[T]=E[j=1∑NXi]
取条件于 N 的值,
E[T]=E[E[j=1∑NXi∣∣∣∣∣N]]=E[j=1∑NE[Xi]]=E[NE(Xi)]=E[Nλ](Xi∼E(λ))=E[N]
于是 E[N]=E[T]=∫0+∞i=1∏r(∫t+∞(ni−1)!Pie−Piτ(Piτ)ni−1dτ)dt
# 2.25
假设事件按速率为 λ 的 Poisson 过程发生,且独立于过去的情形。每个事件有一个随机的贡献,贡献值服从一依赖于时刻的分布 Fs(其中 s 为该事件发生的时刻). 证明:在时刻 t 前所有贡献的和 W 是一个复合 Poisson 随机变量 1∑NXi,并给出它的分量分布 F,以及 N 的均值
解:
用 Yi 表示第 i 个事件的贡献值。由题意,它的分布依赖于该事件发生的时间,即
P(Yi<y∣Si=s)=Fs(y)
故取条件于该事件发生的时间。记该事件发生的时间的 PDF 为 g,则贡献值的分布函数
P(Yi<y)=t∑P(Yi<y∣Si=s)P(Si=s)=∫0tP(Yi<y∣Si=s)g(s)ds
而当 N(t) 给定时,由均匀分布定律,Si∼U[0,t],故 g(s)=t1. 故贡献值的分布函数
P(Yi<y)=t1∫0tFs(y)ds
该式与 i 无关,于是各个 Yi 之间独立同分布。又 {N(t)} 为 Poisson 过程,故贡献和 W=i=1∑N(t)Yi 是一个复合 Poisson 变量,分量分布函数即 P(Yi<y)=t1∫0tFs(y)ds,均值即 N(t) 的均值 λt.
# 2.41
对于一个条件 Poisson 过程:
- 解释为什么条件 Poisson 过程有平稳增量而没有独立增量
- 已知该过程在 [0,t] 的历史 N(s),求 Λ 的条件分布,再证明它只通过依赖 N(t) 这个历史,并给出合理解释
- 计算在给定 N(t)=n 时,t 以后首个事件的时间的条件分布
- 计算 h→0limhP(N(h)⩾1)
- 记到达间隔时间为 X1,X2,⋯,判断它们是否独立、是否同分布
解:
(1) 取条件于 Λ 的分布 G,于是增量的分布为
P(N(t+s)−N(s)=n)=∫0+∞e−λtn!(λt)ndG(λ)
该式不含区间起点 s,说明相同长度 t 的时间区间上增量的分布一致,即该过程有平稳增量.
不满足独立性。考虑下面这一情形
P(N(2t)−N(t)=0)P(N(2t)−N(t)=0∣N(t)=0)=∫0+∞e−λtdG(λ)=P(N(2t)=0)=∫0+∞e−λ2tdG(λ)
对于一般的 G 均不能使得二者相等,故没有独立性.
(2) 已知历史,即已知 [0,t] 上所有事件的到达间隔时间。取条件于这些历史
P(Λ=λ∣X1=x1,X2=x2,⋯,XN(t)=xN(t))=P(X1=x1,X2=x2,⋯,XN(t)=xN(t))P(X1=x1,X2=x2,⋯,XN(t)=xN(t)∣Λ=λ)⋅P(Λ=λ)=分子对λ在0到∞积分∏1N(t)λe−λxi⋅dG(λ)=分子对λ在0到∞积分λN(t)e−λ∑xi⋅dG(λ)=分子对λ在0到∞积分λN(t)e−λt⋅dG(λ)
于是 Λ 的分布
P(Λ<λ∣X1=x1,X2=x2,⋯,XN(t)=xN(t))=∫0λ∫0+∞λN(t)e−λt⋅dG(λ)λN(t)e−λt⋅dG(λ)=∫0+∞λN(t)e−λt⋅dG(λ)∫0λλN(t)e−λt⋅dG(λ)
可以看到,Λ 基于历史的分布仅依赖于 N(t),与 N(s) (0<s<t) 无关。这是合理的,因为当 N(t) 已知时,由均匀分布定律,此前的到达时间序列为 [0,t] 上 n 个独立均匀分布的顺序统计量,这与 Λ 的取值无关.
(3) t 后首个事件即为第 n+1 个事件。设过了 s 发生这个事件,则其发生时间分布
P(Sn+1>t+s∣N(t)=n)=P(N(t)=n)P(N(t+s)=n,N(t)=n)=P(N(t)=n)P(N(t+s)−N(t)=0,N(t)=n)=P(N(t)=n)P(N(s)=0,N(t)=n)
对分子取条件于 Λ,这样可以利用独立性,有
P(N(s)=0,N(t)=n)=∫0+∞P(N(s)=0,N(t)=n∣Λ=λ)⋅dG(λ)=∫0+∞P(N(s)=0∣Λ=λ)⋅P(N(t)=n∣Λ=λ)⋅dG(λ)=∫0+∞e−λse−λtn!(λt)ndG(λ)
分母事实上是分子计算步骤的一部分
P(N(t)=n)=∫0+∞P(N(t)=n∣Λ=λ)⋅dG(λ)=∫0+∞e−λtn!(λt)ndG(λ)
代入表达式即可
P(Sn+1>t+s∣N(t)=n)=P(N(t)=n)P(N(s)=0,N(t)=n)=∫0+∞e−λtn!(λt)ndG(λ)∫0+∞e−λse−λtn!(λt)ndG(λ)=∫0+∞e−λtλndG(λ)∫0+∞e−λse−λtλndG(λ)
(4) 取条件于 Λ 的分布 G
h→0limhP(N(h)⩾1)=h→0limh∑λP(N(h)⩾1∣Λ=λ)⋅P(Λ=λ)=h→0limh∫0+∞(1−P(N(h)=0))⋅dG(λ)=h→0limh∫0+∞(1−e−λh)⋅dG(λ)=∫0+∞h→0limh(1−e−λh)⋅dG(λ)=∫0+∞λ⋅dG(λ)
(5) 取条件于 Λ 的值,计算 Xi 的分布
P(Xi<x)=∫0+∞P(Xi<x∣Λ=λ)⋅dG(λ)=∫0+∞(1−e=λx)dG(λ)
故它们同分布(因为在 Λ=λ 的条件下,到达间隔时间都服从 E(λ)).
而 Cov(Xi,Xj)=Cov(Xi,Xi)=Var(Xi)=λ21=0,说明 Xi 与 Xj 相关,即不独立.