前馈神经网络和反向传播算法的一个简单实例
问题描述
Github地址
12345678910110.8 0.8 00.6 0.6 00.4 0.4 0.........0.2 0.2 0.........1.0 0.8 11.0 0.6 10.12 0.23 1.........0.89 0.99 1
这是一个数据集, 它的第一项和第二项是输入x1,x2x_1,x_2x1,x2, 第三项是输出yyy, 构建一个前馈神经网路模型并采用反向传播算法训练它的参数.
前馈神经网路的数学描述
激活函数
f(x)=11+e−xf(x) = \frac{1}{1+e^{-x}}
f(x)=1+e−x1
f′(x)=e−x(1+e−x)2=(11+e−x)(1−11+e−x)=f(x)(1−f(x))\begin{split}
f'(x) &= \frac{e^{-x}}{(1+e^{-x})^2} \\
& = (\frac{1}{1+e^{-x}})(1-\frac{1}{1+e^{-x}}) \\
& = f(x)(1-f(x))
\end{split}
f′(x)=(1+e−x)2e− ...
Tensorflow2.0使用教程
课程简介
课程链接: https://www.bilibili.com/video/BV1B7411L7Qt
主讲老师: 北京大学软件与微电子学院曹健老师
源代码: https://pan.baidu.com/s/19XC28Hz_TwnSQeuVifg1UQ 提取码:mocm
0. 开篇----Tensorflow2.1.0 安装及测试
Tensorflow2.1.0安装
12345678910111213141516conda create --name TF2.1 python=3.7# 创建虚拟环境,指定python版本3.7conda activate TF2.1# 激活TF2.1环境conda install cudatoolkit=10.1# 安装英伟达的SDK10.1版本(如果你的电脑有英伟达的显卡,否则跳过)conda install cudnn=7.6# 安装英伟达深度学习软件包7.6版本(如果你的电脑有英伟达的显卡,否则跳过)pip install tensorflow==2.1# 安装tensorflow2.1版本python# 进入python>> ...
Conda&Pip
下载安装
windows
Latest Miniconda installer links | Miniconda
miniconda清华源下载地址
安装完成后执行conda --version, 如果没有输出, 添加环境变量
123D:\...\Miniconda3D:\...\Miniconda3\Library\binD:\...\Miniconda3\Scripts
linux
Quick command line install | Miniconda
12345mkdir -p ~/miniconda3wget https://repo.anaconda.com/miniconda/Miniconda3-latest-Linux-x86_64.sh -O ~/miniconda3/miniconda.sh# wget https://mirrors.tuna.tsinghua.edu.cn/anaconda/miniconda/Miniconda3-latest-Linux-x86_64.sh -O ~/miniconda3/miniconda.shbash ~/minic ...
实矩阵的共轭复特征值
题目 设矩阵A∈R3×3A \in \mathbb{R}^{3\times3}A∈R3×3 的特征值为a+bi,a−bi,ca+bi,a-bi,ca+bi,a−bi,c, 其中a,b,c∈R,b≠0,ia,b,c\in \mathbb{R},b\ne0,ia,b,c∈R,b=0,i是虚数单位.
证明: 存在实可逆矩阵QQQ使得
Q−1AQ=(c000ab0−ba)Q^{-1}AQ=
\begin{pmatrix}
c & 0 & 0 \\
0 & a & b \\
0 &-b & a
\end{pmatrix}
Q−1AQ=c000a−b0ba
证明:
对于矩阵AAA的一对共轭复根λ=a+bi,λˉ=a−bi\lambda = a+bi,\bar{\lambda} = a-biλ=a+bi,λˉ=a−bi, 存在一对共轭复特征向量满足
Aη=λη,⇔Aηˉ=λˉηˉA\eta = \lambda\eta,\qquad\Leftrightarrow\qquad A\bar{\eta} = \bar{\lambda}\bar ...
矩阵对角化
定义 nnn阶矩阵AAA和BBB是相似的, 如果存在nnn阶可逆矩阵PPP使得P−1AP=BP^{-1}AP = BP−1AP=B, 记作A∼BA\sim BA∼B
定理1 nnn阶矩阵AAA相似于一个对角矩阵, 充分必要条件是AAA有nnn个线性无关的特征向量.
证明:
$\Rightarrow: $ 设A∼ΛA\sim \LambdaA∼Λ, Λ=diag{λ1,⋯ ,λn}\Lambda=diag\{\lambda_1,\cdots,\lambda_n\}Λ=diag{λ1,⋯,λn}, 即存在nnn阶可逆矩阵P={p1,⋯ ,pn}P = \{p_1,\cdots,p_n\}P={p1,⋯,pn}, 使得P−1AP=ΛP^{-1}AP = \LambdaP−1AP=Λ. 得到AP=PΛAP = P\LambdaAP=PΛ, 即Api=λipi,i=1,⋯ ,nAp_i = \lambda_i p_i, i=1,\cdots,nApi=λipi,i=1,⋯,n, 所以p1,⋯ ,pnp_1,\cdots,p_np1,⋯,pn是AAA的特征向量, 其对应的 ...
Beta函数和Gamma函数在积分中的应用
∫0π2cosnxdx=∫0π2sinnxdx={(n−1)!!(n)!!⋅π2,n为偶数;(n−1)!!(n)!!,n为奇数;={(n−1n)⋅(n−3n−2)⋯(34)⋅(12)⋅(π2),n为偶数(n−1n)⋅(n−3n−2)⋯(45)⋅(23)⋅(1),n为奇数\begin{split}
&\int_0^{\frac{\pi}{2}}\cos^nxdx
= \int_0^{\frac{\pi}{2}}\sin^nxdx \\
& =
\begin{cases}
\frac{(n-1)!!}{(n)!!}\cdot\frac{\pi}{2},& n为偶数;
\\
\frac{(n-1)!!}{(n)!!},& n为奇数;
\end{cases} \\
& =
\begin{cases}
(\frac{n-1}{n})\cdot(\frac{n-3}{n-2})\cdots(\frac{3}{4})\cdot(\frac{1}{2})\cdot(\frac{\pi}{2}),& n为偶数 \\
(\frac{n-1}{n}) ...
Git的基本使用
参考
Bilibili 视频教程
这可能是B站讲的最好的Git教程, 3h打通Git全套教程丨2021最新IDEA版(涵盖GitHub\Gitee码云\GitLab)
英文教材 Git Pro
Pro Git
参考手册
Reference Manual
常用指令
GitHub Cheat Sheet 简体中文
其它
Visual Git Cheat Sheet
git-tutorial | 菜鸟教程
安装配置Git
安装git
Git官网, 下载最新版并安装
通过git --version命令可以查看git的版本, 用于检查git是否安装和环境变量配置成功
1git --version
安装按完成后, 在任意目录下鼠标右键选择Git shell Here, 进入git的命令行操作界面
配置git
通过git config 可以配置git的用户名和邮箱
12git config --global user.name "your_username"git config --global user.email your_emai ...
LaTeX 基础使用
参考
在 CMD 中输入下面的命令可以打开《一份不太简短的latex介绍》
1texdoc lshort-zh
访问 lshort | github 可以获取这篇文章的 LaTex 源代码。
参考视频: latex中文教程-15集从入门到精通包含各种latex操作
视频由西北农林科技大学信息工程学院耿楠老师于2016年录制
LaTeX环境配置
安装 Texlive
使用 tex --version 命令查看环境变量是否配置成功, 如果没有则在环境变量中添加 D:\texlive\2021\bin\win32
安装 TeXstudio (可选)
Option -> Configure TeXstudio -> Build -> Default Compiler 中设置 TeXstudio 默认编译方式为 Xelatex
安装 VSCode + LaTex Workshop (可选, 推荐)
LaTeX源文件的基本结构
1234567891011121314%导言区\documentclass{article} %选择文本模式 ...
Hexo+Gitee博客搭建
配置git
下载并安装git
git官网: git
通过git --version命令可以查看git的版本以及查看git是否安装并配置成功
1git --version
配置git
通过git config 可以配置git的用户名和邮箱
12git config --global user.name "your_username"git config --global user.email your_email@domain.com
通过git config --list可以查看所有配置
1git config --list
如果用了 –global 选项,那么更改的配置文件就是位于你用户主目录下的.gitconfig文件,以后你所有的项目都会默认使用这里配置的用户信息。
如果要在某个特定的项目中使用其他名字或者电邮,只要去掉 --global 选项重新配置即可,新的设定保存在当前项目的 .git/config 文件里。
配置的git 的用户名和邮箱将用于记录和跟踪谁对项目作了修改
配置gitee
1.注册并登陆gitee账号 ...
C++笔记
课程简介
课程链接:C++教程 | c3程序员
老师主页:C3程序猿
参考教材:c++ primer plus by Stephen Prata
C++官方文档:C++ reference
VSCode环境搭建
C/C++ for Visual Studio Code
在VSCode搭建C/C++环境
下载MinGW安装并配置根目录下的bin文件夹路径D:\MinGW\bin到环境变量
1g++ --verison //用于检查是否安装配置成功
VSCode安装插件
Code Runner
C/C++
File>Preference>Settings>搜索
Run In Terminal: √Code-runner: Run In Terminal
Save File Before Run: √Code-runner: Save File Before Run
Auto Guess Encoding: √Files: Auto Guess Encoding
中文乱码
Code-runner: Language ID To File Ext ...