随机过程数学

随机过程应该怎么学?

准确地来说,应该是“没有数学基础的人,如何快速入门并学习公理化随机过程?”

Colliot9/14/2019, 6:48:53 AM

首先需要理解一些基本概念,比如举出几个 $\sigma$-algebra 的例子。

或者,通过举个例子,引入它的公理化定义。

Colliot9/14/2019, 6:49:42 AM

我们需要一些基本的习题,来熟悉诸如 $\sigma$-algebra 这样的基本概念。

我们甚至要复习概率论的基础概念,比如随机变量/随机元。

Colliot9/15/2019, 6:13:52 AM

Lecture 1: Introduction and Review of Basic Concepts In Probability and Statistics

概率空间

请举出概率空间的例子。

Colliot9/15/2019, 6:38:25 AM

我们需要一些基本的习题,来熟悉诸如 $\sigma$-algebra 这样的基本概念。

我们甚至要复习概率论的基础概念,比如随机变量/随机元。

by Colliot

那么虎老师,什么是 σ-algebra, 什么是Borel σ-algebra。

Gagaxi9/15/2019, 2:48:46 PM

也许我们需要先来回顾一些集合论的概念

什么是一个集合呢?也许我们不需要了解得非常深刻。我们只需要确保自己能看到诸如 $A=\{1, 2, 3\}$ 或是 $B=\{ a, b, c, d, e \}$ 的简单记号——它们都是集合,$A$ 有三个「元素」或者叫「成员」,$B$ 有五个。

同时我们还需要看懂,$ 1 \in A $ 这样的记号。这表示 $1$ 「属于」 $A$。这应当都是不超过高中水平的直觉。

应当相信,可以有集合的集合,比如 $ C = \{A, B \} $ 就是集合的集合。展开 $A, B$,也可以把 $C$ 写作为 $\{ \{1, 2, 3\}, \{ a, b, c, d, e \} \}$

除了「属于」记号 $\in$,常用的还有「子集」记号 $\subset$,比如对 $D = \{1, 2\}$ 就有 $ D \subset A $。我们还没有解释这个记号,但你应当已经猜到了—— $D$ 的每一个元素同时也在 $A$ 中,所以 $D$$A$ 的「子集」。

下面请回答几个问题:

  1. $A \subset C$ 成立吗?为什么?
  2. $A \subset B$ 成立吗?为什么?
  3. $A$ 有哪些「子集」?(非必答)

对于集合 $A$,我们可以枚举它的所有子集:

  1. 0 个元素的,只有一个,是所谓「空集」,通常记作 $\emptyset$,它是唯一的,并且是所有集合的子集
  2. 1 个元素的,有三个——$\{1\}, \{2\}, \{3\}$
  3. 2 个元素的,有三个——$\{1, 2\}, \{2, 3\}, \{1, 3\}$
  4. 3 个元素的,有一个——$\{1, 2, 3\}$

以它们为元素,我们构成一个集合 $\mathcal{P}(A) = \{ \emptyset, \{1\}, \{2\}, \{3\}, \{1, 2\}, \{2, 3\}, \{1, 3\}, \{1, 2, 3\} \}$,这称为 $A$ 的幂集(power set)。

为什么叫它幂集呢?注意到 $A$ 有三个元素,而它的幂集有八个元素,$8 = 2 ^ 3$——幂集的元素个数,正好是以原集合元素个数为指数的 $2$ 的幂。这是有原因的,你能想明白吗?

请回答以下问题:

  1. 为什么幂集的元素个数满足这样的规律呢?
  2. 集合 $D$ 的幂集是什么?写出它的具体表示。
  3. 集合 $B$ 的幂集有多少个元素?
Colliot9/15/2019, 4:59:21 PM

首先需要理解一些基本概念,比如举出几个 $\sigma$-algebra 的例子。

或者,通过举个例子,引入它的公理化定义。

by Colliot

我感觉需要一点基本常识,比如

  1. 对无限集合的感觉
  2. 对不可数无限集合的感觉
  3. 当我们在谈论一个被定义出来的对象的时候,我们并不一定是要完全描绘出这个对象。我们可能只是谈论关于这个对象的某些命题,比如当我们在谈论集合 $A$ 的时候:
    1. 我们可能只想知道,对于给定的 $x$,是否有 $x \in A$——也许我们并不想,也不能枚举出 $A$ d 所有元素。
    2. 我们可能想知道,对于给定的 $x \in A, y \in A$,对 $x, y$ 进行某种操作之后得到的结果 $z$ 是否还属于 $A$
  4. 对满足某一性质的「最小」集合的存在性的感知。理论上这依赖 Zorn 引理,但直觉上这并不是很难接受的。

只有熟稔了这些常识,才可以知道 $\sigma$-代数是什么,或者,更本质地,就知道了我们为什么要定义 $\sigma$-代数、 $\sigma$-代数的定义为什么会是这样的。

尽管现代数学的定义粗看起来艰涩而反直觉,但它背后其实有着跟其他易懂的概念一样精妙的直觉——我们上面提到的这些常识,就是这些「直觉」和艰涩的「公理化定义」互相转换的关键。

Colliot9/15/2019, 5:09:04 PM

也许我们需要先来回顾一些集合论的概念

什么是一个集合呢?也许我们不需要了解得非常深刻。我们只需要确保自己能看到诸如 $A=\{1, 2, 3\}$ 或是 $B=\{ a, b, c, d, e \}$ 的简单记号——它们都是集合,$A$ 有三个「元素」或者叫「成员」,$B$ 有五个。

同时我们还需要看懂,$ 1 \in A $ 这样的记号。这表示 $1$ 「属于」 $A$。这应当都是不超过高中水平的直觉。

应当相信,可以有集合的集合,比如 $ C = \{A, B \} $ 就是集合的集合。展开 $A, B$,也可以把 $C$ 写作为 $\{ \{1, 2, 3\}, \{ a, b, c, d, e \} \}$

除了「属于」记号 $\in$,常用的还有「子集」记号 $\subset$,比如对 $D = \{1, 2\}$ 就有 $ D \subset A $。我们还没有解释这个记号,但你应当已经猜到了—— $D$ 的每一个元素同时也在 $A$ 中,所以 $D$$A$ 的「子集」。

下面请回答几个问题:

  1. $A \subset C$ 成立吗?为什么?
  2. $A \subset B$ 成立吗?为什么?
  3. $A$ 有哪些「子集」?(非必答)

对于集合 $A$,我们可以枚举它的所有子集:

  1. 0 个元素的,只有一个,是所谓「空集」,通常记作 $\emptyset$,它是唯一的,并且是所有集合的子集
  2. 1 个元素的,有三个——$\{1\}, \{2\}, \{3\}$
  3. 2 个元素的,有三个——$\{1, 2\}, \{2, 3\}, \{1, 3\}$
  4. 3 个元素的,有一个——$\{1, 2, 3\}$

以它们为元素,我们构成一个集合 $\mathcal{P}(A) = \{ \emptyset, \{1\}, \{2\}, \{3\}, \{1, 2\}, \{2, 3\}, \{1, 3\}, \{1, 2, 3\} \}$,这称为 $A$ 的幂集(power set)。

为什么叫它幂集呢?注意到 $A$ 有三个元素,而它的幂集有八个元素,$8 = 2 ^ 3$——幂集的元素个数,正好是以原集合元素个数为指数的 $2$ 的幂。这是有原因的,你能想明白吗?

请回答以下问题:

  1. 为什么幂集的元素个数满足这样的规律呢?
  2. 集合 $D$ 的幂集是什么?写出它的具体表示。
  3. 集合 $B$ 的幂集有多少个元素?
by Colliot

1.A⊂C 不成立 2.A⊂B 成立 3.A的子集:∅,{1},{2},{3},{1,2},{2,3},{1,3},{1,2,3}

Gagaxi9/15/2019, 5:11:48 PM

1.为为什么?qaq 2.P(D)={∅,{1},{2},{1,2}} 3.2^5 个

Gagaxi9/15/2019, 5:13:36 PM

1.A⊂C 不成立 2.A⊂B 成立 3.A的子集:∅,{1},{2},{3},{1,2},{2,3},{1,3},{1,2,3}

by Gagaxi
  1. $A \subset B$ 真的成立吗?为什么会觉得成立呢?$A$ 的元素 $1$ 也在 $B$ 中吗?
Colliot9/15/2019, 5:15:13 PM

1.为为什么?qaq 2.P(D)={∅,{1},{2},{1,2}} 3.2^5 个

by Gagaxi
  1. 一个有限集合的子集,就是从原集合中选取一些元素构成的。对于每一个元素,无非是选或不选两种可能。对于 $n$ 个元素,就是 $2^n$ 种可能,每种可能对应一个子集,所以一共有 $2^n$ 种。
Colliot9/15/2019, 5:17:24 PM

Preview:

Cancel

Elsewhere

Colliot replied to 如何让人入门理解抽象的数学语言?

这是一条被编辑掉的评论。

Colliot replied to 如何让人入门理解抽象的数学语言?

为什么有一些人轻而易举就理解了,有一些人则一直卡住呢?

Colliot replied to yarn 的 Building fresh packages 到底是在干啥呀?

通过阅读 yarn 的源码,发现这一步就是执行了各个安装了的包裹里的 postinstall 而已…… 而卡住的罪魁祸首是 node-sass 这个包。它默认会去 GitHub 的 release 上下 binary,而 GitHub 的 release 放在 S3 上,国内很多地方访问不畅。gist 上有方法修改它的下载地址为淘宝的镜像,但是现在似乎不太管用了。于是我阅读了它的源码: function getBinaryUrl() { var site = getArgument('--sass-binary-site') || process.env.SASS_BINARY_SITE || process.env.npm_config_sass_binary_site || (pkg.nodeSassConfig && pkg.nodeSassConfig.binarySite) || 'https://github.com/sass/node-sass/releases/download';

const result = [site, 'v' + pkg.version, getBinaryName()].join('/');

return result; 在我这里设置 yarn 配置似乎不管用,所以我干脆就设置环境变量 SASS_BINARY_SITE 了……确实非常管用,立马不卡。

Colliot replied to 我终于找到 CI fail 的原因了!

关于帖子主干中提到的问题,为什么 serve-static 并不是一个 @types 下的包,却依然发生了错误? 这是因为它有一个 @types/serve-static 的对应包,并且 yarn.lock 里 serve-static 的 integrity 被写成了 @types/serve-static 的,这样你怎么装都装不对了。

Colliot replied to 我终于找到 CI fail 的原因了!

现在还有两个疑点没解决: 没有 integrity 字段到底碍不碍事? 为啥读取 yarn 离线缓存报错之后停止安装了,但还是会发网络请求?

Colliot replied to 我终于找到 CI fail 的原因了!

那么它究竟是从哪里搞到这个 prop-types 的内容的呢?通过反复执行和调试,我终于发现,它在安装 @types/prop-types 时,竟然是在步骤 3 而不是步骤 4 出错的……也就是说,它的 Integrity check failed 的来源,是步骤 3 那个离线缓存文件……但是我去翻了那个目录,发现并没有这样的文件,这又是为什么呢? 这时候我看了那个文件的名字,终于发现了最后的答案——那个它试图读取的文件的名字,是 prop-types-15.7.2.tgz!!!!! 这个文件为什么会存在呢?是因为步骤 2——当我们先安装 prop-types 时,这个离线缓存会被先创造出来。当我们安装失败后,它又被回滚掉了,所以我们并看不见它。 现在的问题就来到了,为什么 yarn 在安装 @types/prop-types 时,却试图去读取 prop-types-15.7.2.tgz 呢?这已经非常容易了,我们只需要去看代码就行了。这一段代码在这里: const match = pathname.match(RE_URL_NAME_MATCH);

let packageFilename; if (match) { const [, scope, tarballBasename] = match; packageFilename = scope ? {scope}-{tarballBasename} : tarballBasename; } else { // fallback to base name packageFilename = path.basename(pathname); } 我们发现如果正则匹配失败,它就会取包的 basename,也就是没有 scope 的 name。那么为啥它会匹配失败呢?我们来看看这个正则: const RE_URL_NAME_MATCH = //(?:(@[^/]+)(?:/|%2f))?[^/]+/(?:-|_attachments)/(?:@[^/]+/)?([^/]+)/; 看起来非常复杂,但我们只要关心这个中缀 /(?:-|_attachments)/ 就行了。它是啥呢?npm 源会先返回一个包的 meta info,比如 @types/prop-types 的:https://registry.npmjs.org/@types/prop-types ,里面有每个版本的下载地址,比如 15.7.2 的就是 https://registry.npmjs.org/@types/prop-types/-/prop-types-15.7.2.tgz。这个中缀正则就是为了匹配 URL 里的 /-/ 这段。问题就出在这里——淘宝源 https://registry.npm.taobao.org/@types/prop-types 返回的 URL 是 https://registry.npm.taobao.org/@types/prop-types/download/@types/prop-types-15.7.2.tgz,中缀是 /download/,这显然并无法被匹配,所以就走到了 fallback 的分支,去读取 basename 也就是 prop-types 对应的缓存了…… 于是真相大白了。解决方案也很简单,只要给这个中缀正则加上 download 的情形即可。提了一个 pull request,前途未卜。

Colliot replied to 我终于找到 CI fail 的原因了!

这次终于彻彻底底搞明白原因了,我之前说的可能并不正确。当然现在这个新的理论似乎也无法解释前面 serve-static 包失败的原因——也许那还有待调查…… 这次我发现一些 @types scope 下的包频繁出现安装失败,以及另一种更有意思的现象——被装成了不带 @types 的那个包,比如 @types/prop-types 被装成了 prop-types。这会导致 TypeScript 编译的时候频繁报告一些奇怪的错误,比如 TypeScript error: Cannot find type definition file for 'prop-types'. TS2688,TypeScript error: Cannot find type definition file for 'retry'. TS2688,以及在净土本身的项目里似乎遇到过 TypeScript error: Cannot find type definition file for 'express'. TS2688,这个最后我发现也是因为@types/express 被装成了 express。 前几天我忍无可忍,去调试了 yarn 的源码,发现 yarn 第二步去 fetch 包的步骤是这样的: 试图在 yarn 的缓存目录(macOS 下是 ~/Library/Caches/Yarn/v4/)里寻找缓存,比如 @types/prop-types 的缓存可能叫~/Library/Caches/Yarn/v4/npm-@types-prop-types-15.7.2-0e58ae66773d7fd7c372a493aff740878ec9ceaa/。 如果这个缓存存在,那就使用这个缓存。如果启用了 yarn-offline-mirror,那么就把这个缓存移动到 offline mirror 里。(实际上这个缓存目录里的 node_modules/@types/prop-types 文件夹里除了存在包展开后的内容,还有一个压缩包 .yarn-tarball.tgz,它是直接拷贝过去的。 如果没有缓存,那就试图走离线缓存,即检查指定的 yarn-offline-mirror 目录里是否存在对应的压缩包。如果有,就用它。 如果啥都没有,那只能从网络上获取了,就是走指定的 npm/yarn 源下载咯。 在调试过程中,我还发现一些奇怪的现象,最终通过这些现象彻底搞清楚了问题在哪里(其实修法很简单,但真的是画一条线只值一美元,知道在哪里值 999999 美元……)。这些奇怪的现象有: 如果不用淘宝 npm 源,而用 npm 官方源或者 yarn 官方源,并把 yarn 缓存、yarn.lcok 和离线缓存清掉重装,就没有问题。 yarn.lock 里的 integrity 字段竟然是不带 @types 那个包的 把 yarn.lock 里带 @types 那个包的内容删掉(或者干脆整个文件都删掉)再装,不会出现 Integrity check failed,但是装上去的包还是错的 yarn 缓存里的包就是错的…… ~/Library/Caches/Yarn/v4/npm-@types-prop-types-15.7.2-0e58ae66773d7fd7c372a493aff740878ec9ceaa/ 里的包竟然是 prop-types-15.7.2,而不是@types-prop-types-15.7.2` 删掉 yarn 缓存里的这条缓存之后再装,这个缓存竟然又变成了 prop-types…… 把发网络请求那一段打出来,发现发的网络请求是对的。保存了网络请求的结果,发现结果也是对的(shasum 结果跟正确的压缩包相同)。那么 yarn 到底是从哪里搞到这个错误的包的内容的呢?yarn 试图装 prop-types 的时候,是从哪里搞到这个 prop-types 的内容的呢? 好了,高潮就要来了,咱们先歇会儿……

Colliot replied to "allowSyntheticDefaultImports" 的作用到底是啥?

这次还真遇到一个库因为没开这个选项导致使用失败的案例:fix(tsconfig): Allow default style import in the commonjs version build. 不过这个 pull request 似乎我也没完全搞定……

Colliot replied to 为什么非 root 用户在启用了 Gnome 的 socks5 代理后执行 `curl`,会报告 `curl: (7) Failed to receive SOCKS4 connect request ack.`?

经过叶子哥哥的提醒,发现是因为 GNOME 的 SOCKS5 代理仅仅是设置了一个环境变量而已……而 root 的环境变量并无法受到 GNOME 的影响,所以其实这个代理就是坏的,root 是因为没有设置代理所以是好的……

Colliot replied to 为什么用 `Obervable.create` 和 `observer.next` 简单创建的 `Observable`,在有多个订阅者的情况下只能生效一次?

这么写的: admin = Observable.create((observer) => { let value = true; observer.next(value);

this.toggleAdmin = () => { value = !value; console.log('changing to ', value) observer.next(value); } });