神经网络在监督学习中发挥很大作用
规模一直推动深度学习的发展。
大型神经网络、算法创新 以及海量数据
深度学习的 “ 端到端模型(end-to-end learning)”
一个神经网络训练过程
X.shape = (NX,M)
Y.shape = (1,M)
M为训练集的个数 ,N 为X的特征量个数
逻辑回归
w
b称为拦截器
α 步长或者学习率
在深度学习过程中,能不显式使用for循环就不用。尽量向量化,并行处理。
tips: 并行是同时处理,并发是同一时间间隔内处理
向量化逻辑回归
python中的广播机制
在python中使用numpy进行按位运算的时候,broadcasting,广播机制:如果你有一个m*n的矩阵,让它加减乘除一个1*n的矩阵,它会被复制m次,成为一个m*n的矩阵,然后再逐元素地进行加减乘除操作。同样地对m*1的矩阵成立
python编程注意事项
1.不用秩为1的数组,而是用对应的行向量或列向量
2.使用assert()来检查矩阵维数
3.不要害怕使用reshape()