Entropy formula of multivariate normal distribution Assume \(x \sim N(\mu, \Sigma)\) and \(x\in R^p\), then the entropy is \[E_x(-\ln P(x; \mu, \Sigma))=\frac{1}{2}\ln|\Sigma| + \frac{p}{2}(1+\ln(2\pi)).\] For more details, please see https://math.stackexchange.com/questions/2029707/entropy-of-the-multivariate-gaussian . Decomposition of Matrix Cholskey decomposition, QR decomposition, LU decomposition, SVD decomposition and Jordan decomposition: see https://blog.csdn.net/mucai1/article/details/85242098 Matrix inverse trick: Assume \(A \in R^{p\times p}\) is invertible, we can speed up the computation by Cholskey decomposition, \[A = L L^T.\]

矩阵列空间 列空间、列空间，我们常常谈论矩阵列空间。顾名思义，它就是由矩阵的所有列张成的一个向量空间，数学定义如下： 假设\(A \in R^{n\times p}\)，则

再生核方法-第四章 算子的应用 一般非线性回归的变量选择 考虑模型 \[y_i = f^*(x_i) + \varepsilon_i,\] 其中\(x_i \in R^d\)，中\(f^*\)来自于一个对称正定核\(k

假设检验 闲居 考虑一个size水平为\(\alpha\)的假设检验，其中原假设为\(H_0:\theta \in \Theta_0 \subset \Theta~~vs~~ H_1:\theta \in \Theta_1=\Theta/\Theta_0\). 功效函数 在参数假设检验中

张量基础 闲居 2020年12月于西财 -预备知识 -几种运算符号 预备知识 我们在介绍张量之前，我们先来了解一些基础知识，其中包括矩阵的运算和张量的运

假设检验 闲居 2020年12月于武侯 置信集(Confidence set) 关于参数\(\phi(\theta)\)的水平为\(\beta\)的置信集\

再生核方法-第二章 无所不能的支持向量机 闲居 2020年11月于西财明辨园 线性支持超平面分类器 考虑\(D=(x_i, y_i)_{i=1}^n, x_i \in R^p, y_i \in \{-1, 1\}\)的分

再生核方法-第二章函数逼近及表示定理 闲居 2020年11月于西财明辨园 希尔伯特空间 定义.一个完备的内积空间称为希尔伯特空间。 定义.存在可数个基

再生核方法-第一章基本概念 闲居 2020年11月于西财宏远楼 再生核概述 在过去的二十年里，核方法相对其他方法（比如神经网络）快速流行起来，因为它

再生核方法-第零章 算子理论基础 闲居 2020年11月于西财明辨园 空间 线性（向量）空间 最基本的空间是线性空间，或者称为向量空间，它满足八条公理，

次高斯随机变量及其性质 1)次高斯随机变量是根据其中心化的矩母函数来定义的，即 \[E(e^{\lambda (X - \mu)})\leq e^{\lambda^2 \sigma^2 /2}\] 对任意\(\lambda \in R\)成立。其中\(\s