LectureNotes

Chapter 2 Didn’t follow up a textbook actually 转置运算性质：$(AB)^T=B^TA^T$ $AA^{-1} = I$ $\Rightarrow \left( AA^{-1} \right)^{T} = I^T$ $\Rightarrow(A^{-1})^{T}A^T=I$ $\Rightarrow(A^{-1})^T=(A^T)^{-1}$ 对于单个矩阵，转置和求逆可以交换顺序 $A=LU$ 置换矩阵（行交换），n阶矩阵的$P$有$n！$的种，且有性质：$P^{-1}=P^T \Leftrightarrow P^TP=I$ $R^TR$ is always symetric Chapter 3 空间 向量空间： ​ $R^2$ = 所有二维实向量 ​ $R^3$ = 所有三维实向量，比如$\begin{bmatrix} 2 \ 3 \ 0\end{bmatrix}$ 在$R^3$中，而非$R^2$中 子空间（subspace）：在某一向量空间内的一个范围，符合一些性质（比如，零向量在其中；封闭性：向量的任意线性组合在其中（其实封闭性的要求确定了零向量必在子空间中）），称为向量空间的一个子空间 列空间：列向量的所有线性组合构成的子空间 ​ 若有矩阵$A=\begin{bmatrix} 1 & 1 & 2 \ 2 & 1 & 3 \ 3 & 1 & 4 \ 4 & 1 & 5 \end{bmatrix}$,其列向量构成的子空间记为$C(A)$...

西方哲学史——邓晓芒、赵林 绪论 第一章 古希腊罗马哲学 第一节 概论 邓晓芒对中西、民族的角度一开始令人难以接受，其观点在于以笃定的民族性/修正性来引出西哲对现代中国的意义，虽不全然认同，不过还是不能做“我不认同”的无知者，应虚心学习之。 第二节 早期希腊哲学 早期希腊哲学各流派尽管对本原的理解互不相同，但是它们都致力于寻找本原，强调本原作为万物的开端或本质的重要意义。 本原=始基 带有朴素唯物主义色彩 米利都学派 泰勒斯(Thales) 水本原说 阿那克西曼德(Anaximander) 无定形者 阿派朗 阿那克西美尼(Anaximenes) 气本原说 否定之否定 早起希腊哲学两条线索，还原论：从米利都开始，寻找本原；形而上学：毕达哥拉斯学派开始，寻找事物的规则。 毕达哥拉斯学派 毕达哥拉斯(Pythagoras) 由“毕达哥拉斯定理”引发不可公约数危机——存在“形”(即等腰直角斜边)而其“数(本质)“却无法把握(数是不可公约的$\sqrt{2}\space$)——从而加强了数与形分离的观念，培养了形而上学的倾向，即把通过抽象思维把握到的对象当作最为真实、先于具体存在的本质。 赫拉克利特 赫拉克利特(Heraclitus) 火本原说 逻各斯 话语 辩证法的奠基人 第一、一切的事物均处于普遍的运动变化与相互转化之中 ”人不能两次踏入同一条河流“ 第二、说明运动变化的根据是对立面的冲突 第三、强调事物的相对性和不同评价标准，沉鱼落雁 辩证法和诡辩仅一步之遥，关键在于度的把握 赵林老师小典故：庄周描述的沉鱼落雁，美女如西施，鱼、鸟见之也想逃避，认为丑，是一种相对主义的观点。 爱利亚学派 克赛诺芬尼(Xenophanes) ”一“和神 归谬法诡辩，开创了一种逻辑论证(可以称之为朴素的形式逻辑，尽管此时形式逻辑尚未诞生)的方式 对巴门尼德(Parmenides)的评价：早期希腊哲学向鼎盛希腊哲学的重要转折 芝诺 麦里梭 第三节 鼎盛时期的希腊哲学

This notes mainly according to zh.d2l.ai textbook. Video based notes referred to [here](Rush to Nerf.md). 1.前言 1.2关键组件 1.2.1数据 与传统机器学习方法相比，深度学习的一个主要优势是可以处理不同长度的数据。 1.2.2模型 深度学习(deep learning)与经典方法区别在于，关注功能强大的模型，这些模型由神经网络错综复杂的交织在一起，包含层层数据转化。 1.2.3目标函数 目标函数 损失函数 平方误差 训练集(training set)测试集(test set) 过拟合(overfitting) 1.2.4优化算法 梯度下降(gradient descent) 2.预备知识 chapter_preliminaries 2.1数据操作 ndarray 索引和切片 遵循左闭右开原则，如：[0:9]等价于数学中的[0,9) 如果我们想[为多个元素赋值相同的值，我们只需要索引所有元素，然后为它们赋值。] 例如，[0:2, :]访问第1行和第2行的全部元素 2.3线性代数 范数： 在线性代数中，向量范数是将向量映射到标量的函数$f$。 给定任意向量$\mathbf{x}$，向量范数要满足一些属性。 第一个性质是：如果我们按常数因子$\alpha$缩放向量的所有元素， 其范数也会按相同常数因子的绝对值缩放： $$ f(\alpha \mathbf{x}) = |\alpha| f(\mathbf{x}) $$ 第二个性质是我们熟悉的三角不等式: $$ f(\mathbf{x} + \mathbf{y}) \leq f(\mathbf{x}) + f(\mathbf{y}). $$ 第三个性质简单地说范数必须是非负的: $$ f(\mathbf{x}) \geq 0. $$ 这是有道理的。因为在大多数情况下，任何东西的最小的大小是0。 最后一个性质要求范数最小为0，当且仅当向量全由0组成。 $$ \forall i, [\mathbf{x}]_i = 0 \Leftrightarrow f(\mathbf{x})=0....

Lecture 1 Intro Lecture 2 Function 函数签名Function signature 函数体Function body Frame scope-作用域 frame-栈帧 表示程序运行时函数调用栈 Lecture 3 Control & Iteration lamda 匿名函数 另一种条件句形式 函数print的返回值是None Lecture 4 Higher-Order Functions Higher-Order Functions 高阶函数 currying 柯里化 把多参数函数化为单一参数高阶函数 Lecture 5 Environments Decorator 装饰器 Midterm This expression/Evaluates to/Interactive Output def delay(arg) print('delayed') def g(): return arg return g delay(delay)()(6)() """">>> delayed delayed 6 """ Lecture 6 Recurion Verifying Recurion Function Verify the base case Treat fact as a functional abstration Assume that fact(n-1) is correct Verify that fact(n) is correct, assuming that fact(n-1) is correct Mutual Recurion 相互递归...