Mac Sync

hw3/report/main.tex

@@ -20,21 +20,21 @@
 \begin{document}
 \courseheader
 % 请在YOUR NAME处填写自己的姓名
-\name{YOUR NAME}
+\name{高艺轩}
 \vspace{3mm}
 \centerline{\textbf{\Large{理论部分}}}
 
 \section{单选题（15分）}
 % 请在？处填写答案
-\subsection{\underline{?}}
+\subsection{\underline{D}}
 
-\subsection{\underline{?}}
+\subsection{\underline{C}}
 
-\subsection{\underline{?}}
+\subsection{\underline{D}}
 
-\subsection{\underline{?}}
+\subsection{\underline{D}}
 
-\subsection{\underline{?}}
+\subsection{\underline{B}}
 
 \section{计算题（15 分）}
 
@@ -47,17 +47,117 @@
 试利用LDA，将样本特征维数压缩为一维。
 }
 
+\begin{proof}[解]
+    首先计算$\mu_1 = (3, 2), \mu_2 = (0, 2), \mu = (1.5, 2)$。因此
+    \[S_1 = \frac{1}{4}
+    \left(
+        \begin{bmatrix}
+            0 & 0\\
+            0 & 1
+        \end{bmatrix}
+        +
+        \begin{bmatrix}
+            1 & 0\\
+            0 & 0
+        \end{bmatrix}
+        +
+        \begin{bmatrix}
+            1 & 1\\
+            1 & 1
+        \end{bmatrix}
+        +
+        \begin{bmatrix}
+            0 & 0\\
+            0 & 0
+        \end{bmatrix}
+    \right)
+    =
+    \begin{bmatrix}
+        0.5 & 0.25\\
+        0.25 & 0.5
+    \end{bmatrix}\]
+    \[S_2 = \frac{1}{4}
+    \left(
+        \begin{bmatrix}
+            0 & 0\\
+            0 & 1
+        \end{bmatrix}
+        +
+        \begin{bmatrix}
+            1 & 0\\
+            0 & 0
+        \end{bmatrix}
+        +
+        \begin{bmatrix}
+            1 & 1\\
+            1 & 1
+        \end{bmatrix}
+        +
+        \begin{bmatrix}
+            1 & 0\\
+            0 & 0
+        \end{bmatrix}
+    \right)
+    =
+    \begin{bmatrix}
+        0.75 & 0.25\\
+        0.25 & 0.5
+    \end{bmatrix}\]
+    进一步地，
+    \[S_w = \frac{1}{2} (S_1 + S_2) = 
+    \begin{bmatrix}
+        0.625 & 0.25\\
+        0.25 & 0.5
+    \end{bmatrix}\]
+    \[S_b = \frac{1}{2} \left(
+        \begin{bmatrix}
+            2.25 & 0\\
+            0 & 0
+        \end{bmatrix}
+        +
+        \begin{bmatrix}
+            2.25 & 0\\
+            0 & 0
+        \end{bmatrix}
+    \right)
+    =
+    \begin{bmatrix}
+        2.25 & 0\\
+        0 & 0
+    \end{bmatrix}\]
+    广义特征值分解得到$\lambda = 4.5$，$v = (0.8944, -0.4472)$。投影后的样本为
+    \[\omega_1: \left\{2.2360, 0.8944, 2.2360, 1.7888\right\}\]
+    \[\omega_2: \left\{-0.4472, 0, -1.3416, -1.7888\right\}\]
+\end{proof}
+
 
 
 \vspace{3mm}
 \subsection{模型训练通常需要大量的数据，假设某采集的数据集包含80\%的有效数据和20\%的无效数据。采用一种算法判断数据是否有效，其中无效数据被成功判别为无效数据的概率为90\%，而有效数据被误判为无效数据的概率为5\%。如果某条数据经过该算法被判别为无效数据，则根据贝叶斯定理，这条数据是无效数据的概率是多少？(提示：全概率公式$P(Y)=\sum^{N}_{i=1}P(Y|X_i)P(X_i)$)\\}
 
+\begin{proof}[解]
+    \begin{align*}
+        & P(\text{无效数据} \mid \text{判定无效})\\
+        = & \frac{p(\text{判定无效} \mid \text{无效数据})p(\text{无效数据})}{p(\text{判定无效} \mid \text{无效数据})p(\text{无效数据}) + p(\text{判定无效} \mid \text{有效数据})p(\text{有效数据})}\\
+        = & \frac{0.9 \times 0.2}{0.9 \times 0.2 + 0.05 \times 0.8}\\
+        = & \frac{0.18}{0.18 + 0.04}\\
+        = & \frac{9}{11} 
+    \end{align*}
+\end{proof}
+
 \vspace{3mm}
 \subsection{设有两类正态分布的样本集，第一类均值为$\mu_1=[2,-1]^T$，第二类均值为$\mu_2=[1,1]^T$。两类样本集的协方差矩阵和出现的先验概率都相等：$\Sigma_1=\Sigma_2=\Sigma=\left[ \begin{array}{cc}
     4 & 2 \\
     2 & \frac{4}{3}
 \end{array} \right]$，$p(\omega_1)=p(\omega_2)$。试计算分类界面，并对特征向量$x=[6,2]^T$分类。}
 
+\begin{proof}[解]
+    \[g_1(\boldsymbol{x}) = -\frac{1}{2}(\boldsymbol{x} - \boldsymbol{\mu}_1)^\mathrm{T} \Sigma^{-1} (\boldsymbol{x} - \boldsymbol{\mu}_1) + \ln p(\omega_1)\]
+    \[g_2(\boldsymbol{x}) = -\frac{1}{2}(\boldsymbol{x} - \boldsymbol{\mu}_2)^\mathrm{T} \Sigma^{-1} (\boldsymbol{x} - \boldsymbol{\mu}_2) + \ln p(\omega_2)\]
+    决策方程
+    \[\]
+\end{proof}
+
 \vspace{3mm}
 \subsection{给定异或的样本集$D=\left\{\left((0,0)^T,-1\right),\left((0,1)^T,1\right),\left((1,0)^T,1\right),\left((1,1)^T,-1\right)\right\}$该样本集是线性不可分的，可采用如下所示的多项式函数$\phi(\mathbf{x})$将样本$D=\left\{(\mathbf{x}_n,y_n)\right\}$映射为$D_\phi=\left\{(\phi(\mathbf{x}_n),y_n)\right\}$，其中$\phi(\mathbf{x})$满足
 \begin{equation*}

j.ps1

@@ -1 +1 @@
-cd ./hw2/code
+cd ./hw3/code