标签归档:随机过程

关于概率论主干课程的训练

1. 引言

虽然外界不大能区分“概率论”和“统计学”的差别,但是在概率统计专业内的人士们看来,这两者无论从思维方式、课程学习还是学术训练角度来看,区别还是相当明显的。比如我了解的北大概率统计系的情况,概率论和数理统计分属不同的教研室,日常的学术活动也大相径庭。研究生除了第一年会一起上专业基础课之外,之后就少有交集。我当年的体会是,在统计专业同学们的眼中,“概率论跟基础数学没有什么区别”;而在概率专业的同学看来,“统计学不像是数学”。这些对彼此颇为玩味的看法至少表现出二者之间不小的差别,即便同在“概率统计专业”的屋檐下。当然,随着统计学在我国逐步确立为一级学科,概率和统计的这种“隔阂”也许会更加明朗化。

但不可否认的是,无论统计学的未来如何发展,其主干课程中必然少不了像概率论、随机过程这样的概率基础课程。以前我在科学网上针对概率论专业的同学如何选择和学习课程发表过一些建议,因此针对咱们COS读者的背景,我重新整理了一份关于概率课程学习的若干想法,希望能对大家有所帮助。

2. 概率论要怎么学?

都说概率论是研究“随机现象”的数学,那么相对于研究“非随机现象”的数学,概率论的学习有哪些特别之处呢?

小时候咱们学数学都是从数数开始。比如学习1+1的时候,老师们会拿出两个苹果,用实物演示“一个苹果加一个苹果等于两个苹果”。正是这种基于直截了当的“观测”,我们接受起“1+1=2”这件事来就略显自然。然而,如果要理解“质地均匀的硬币出现正反面的可能性都等于二分之一”这件事,就并非那么顺利了。即便主观上我们会认同这个结果,但从观测的角度却是一个永远无法回答的问题。我们能观测的只能是有限的样本以及永远都在变化着的频率,而这个“真实的可能性”,也即“概率”的确切值,却是无法观测的。因此,概率的定义本身就曾经是一个大难题。即便在早年研究赌博问题的时候,一些数学家即能根据排列组合的方法计算一些简单的离散概率(即大家熟知的古典概型),但那主要是基于人们对概率的一些朴素认识,离构建一套完整的数学理论还差得很远。

因此,大家在学习概率论的时候,最先遇到、也是最重要的一个问题就是“如何定量描述随机现象”,即如何给出概率的定义。随着二十世纪30年代苏联数学家柯尔莫哥洛夫(1903-1987) 运用分析学中的测度理论(measure theory)完成了概率论的公理化体系,概率论才算正式登上了现代数学的殿堂。事实上,柯尔莫哥洛夫的公理化体系并未直面“概率是什么”的问题,到现在人们对于概率在哲学层面的思辨仍然在进行,但是公理化的作用是将人们对于概率的一些朴素共识或者基本性质抽象出来,形成一套公理体系,然后依据这套体系逐步发展出一套概率理论。这种思维跟当年德国数学家希尔伯特(1862-1943)所倡导的公理化思想是相一致的。值得一提的是,自打柯尔莫哥洛夫的概率公理化提出以来,对其的质疑从来就没有停止过,也不断有新的概率理论被提出,但这套理论依旧成为了概率研究的绝对主流,我们这里所谈到的概率论的学习也是指以柯尔莫哥洛夫公理化体系为基础的概率理论。

然而,在本科阶段我们学习概率论课程的时候,却往往不是从介绍柯尔莫哥洛夫的公理化体系开始。这主要是因为,要用严格的数学充分阐释概率论的公理化体系,必须要有测度论的数学基础。而测度论的课程难度很大,基本要在研究生阶段或者本科的高年级阶段才能开设。那是否要等大家学完了测度论之后再学概率论的课程呢?当然不是,就我了解全世界没有哪个国家和地区的学校会这么做。普遍的做法是在大学二年级就会开设初等概率论的课程,所适用的教材也大多基于微积分和线性代数的先修知识。这又是为什么呢?在由美国概率学家Rick Durrett教授所著的研究生教材Probability: Theory and Examples的前言部分,他提到概率论有两只手,左手是基于测度论的严格数学,右手则是概率的思考方法,也可以理解成概率的物理直观。

虽然测度论是概率论的基本数学语言,但如果真把概率论就当做测度论的一部分去学习,就只抓住了概率论两只手中的一只,而忽略了另一只联系物理直观的右手。而这只右手恰恰是概率论在现代数学之林中最难能可贵的地方。一直以来,概率论都保持了与包括物理学在内的科学领域的亲近,几乎所有的概率研究课题背后都有实际背景问题的支撑:例如离散空间随机游动问题与理论计算机、化学高分子聚合物理论;大偏差理论、粒子系统与统计物理、复杂性科学等等之间的密切联系,都极大推动了概率论这门科学的不断发展。同时,概率论的发展也得到了来自社会科学领域的刺激,特别是以随机微分方程为代表的随机分析学已经成为了数理金融领域中的基本理论和工具之一。更有趣的是,借助概率论广泛联系物理直观的特点,很多数学家纷纷借助概率论的思想帮助解决了一系列传统数学中的很多重大问题,例如当年佩雷尔曼在解决庞加莱猜想的论证过程中即用到了概率论中条件期望的想法。

因此,为了尽早让大家了解概率论所联系的物理直观以及巨大的应用价值,学校会提早开设本科概率论的课程。本科课程会尽量回避测度论,用一些仅需用微积分和线性代数就讲明白的模型,引入概率论的基本概念,培养大家的概率直观,并熟悉一些基本运算。经过了这一阶段的训练,待到本科高年级或者研究生阶段,再借助测度论的基础,进一步明确概率论的数学理论,从而迈入现代概率论的门槛。

下面我们就来具体聊聊本科和研究生的课程学习:
继续阅读关于概率论主干课程的训练

精品课程系列:应用随机过程

一、课程简介

主讲教师:张波张景肖肖宇谷

指定教材:张波、张景肖《应用随机过程》,清华大学出版社

授课对象:中国人民大学统计学、精算专业大三学生

学分学时:3学分,共48学时

考核方式:闭卷考试

目的要求:针对专业特点和专业要求,力求以概率论的观点来讲述随机过程的理论,逐步培养学生利用随机过程的理论和技能解决应用概率问题。培养学生运用随机过程的方法分析问题、解决问题的能力。

二、课程讲义及历年考题

第1章 预备知识
第2章 随机过程的基本概念和类型
第3章 Poisson过程
第4章 更新过程
第5章 Markov链
第6章 鞅
第7章 Brown运动
第8章 随机积分
历年考题(200820092010

三、教学进度及内容

分15讲授课,每讲3个学时,第16次课程进行最终考核。内容安排如下:

第一讲 概述和泊松过程

  1. 随机过程的基本概念和基本类型
  2. 泊松过程的两个等价定义

第二讲 泊松过程

  1. 与泊松过程相联系的若干分布
  2. 泊松过程的推广:非齐次泊松过程、复合泊松过程、条件泊松过程

第三讲 更新过程

  1. 更新过程的定义
  2. 更新函数
  3. 更新方程
  4. 更新推理

第四讲 更新过程

  1. 更新定理:初等更新定理、布莱克威尔定理、关键更新定理
  2. 更新过程的推广:延迟更新定理、更新酬劳过程、交错更新过程

第五讲 Markov链

  1. Markov链和Markov性的定义,Markov链的特征及条件
  2. Markov链转移概率矩阵
  3. Chapman–Kolmogorov方程
  4. Markov链中相通、类、周期、常返态、瞬时态、正常返、零常返等概念

第六讲 Markov链

  1. 赌徒输光模型概率转移问题
  2. 极限定理

第七讲 Markov链

  1. 极限定理
  2. Markov链的不变分布
  3. 分支过程:单个个体开始的群体灭绝的概率求解问题

第八讲 Markov链

  1. 人口结构变化的Markov链模型
  2. 连续时间的Markov链
  3. 生灭过程
  4. Kolmogorov微分方程

第九讲 鞅

  1. 条件期望的概念和基本性质
  2. 上鞅、下鞅和鞅的概念
  3. 停时的概念

第十讲 鞅

  1. 停时定理
  2. 运用停时定理来解决赌徒模型中的问题
  3. 一致可积性的含义和判别条件
  4. 停时定理的应用

第十一讲 鞅

  1. 鞅收敛定理
  2. 利用鞅收敛定理来解决分支过程、随机游走以及Polya模型的问题
  3. 连续鞅的含义和性质
  4. 鞅在Lundberg-Cramer破产模型中的应用

第十二讲 布朗运动

  1. 布朗运动和随机游走的联系
  2. 布朗运动过程的定义
  3. 布朗运动路径的性质
  4. 布朗运动在[0, t]二次变差为t

第十三讲 布朗运动

  1. Gauss过程
  2. 布朗运动的鞅性质
  3. 布朗运动过程中的击中时和布朗运动的最大值变量

第十四讲 布朗运动

  1. 布朗桥
  2. 在一个值处被吸收的布朗运动
  3. 在原点反射的布朗运动
  4. 几何布朗运动
  5. 有漂移的布朗运动

第十五讲 伊藤积分和期权定价公式

  1. 伊藤积分
  2. BS期权定价公式

四、推荐书目

  • Ross, Stochastic Processes, 2nd edition, Wiley
  • Lawler, Introduction to Stochastic Process, 2nd edition, Chapman & Hall/CRC.
  • William Feller, An Introduction to Probability Theory and Its Applications, Vol. 1, 3rd Edition, Wiley.
  • William Feller, An Introduction to Probability Theory and Its Applications, Vol. 2, 2nd Edition, Wiley.

详情参见指定教材247页文献评注及参考文献。