C语言网(Dotcpp.com)奉行“学练同步，知行合一”的学习理念，希望大家都能理论与动手一起加强！拒绝理论派！
每月月赛，最后一个周六晚八点开始，请提前预约参赛，参与排名！
混一天和努力一天，一天看不出任何差别，三天看不到任何变化，七天也看不到任何距离……
但是一个月后会看到话题不同，三个月后会看到气场不同，半年后会看到距离不同，一年后会看到人生道路截然不同。
请坚信你所喜爱的事物！
举办比赛权限已经完全开放，支持老师、个人随时抽题创建校内赛等比赛，达到P2级即可
因比赛为公共资源，比赛名称建议包含学校/组织名称具有辨识度，比赛名称、公告不文雅、灌水将被删除比赛并取消权限！
世界上有10种人，一种是懂二进制的，另一种是不懂二进制的~
题库的题不仅仅支持C语言C++、java，Python和php也可以提交
编程小组功能上线！欢迎各位老师、社团协会小组负责人申请创建，方便教学、训练！
学习交流 QQ1群156740915、4群 364137421、 211300176、博主群487133400 Python小组群 783851273 验证信息备注网站昵称！

jimore

用户名：uq_30465888842

访问量：2391

签　名：

Don't let the dream just be a dream!!!

等　　级
排　　名	167
经　　验	5776
参赛次数	28
文章发表	64
年　　龄	0
在职情况	学生
学　　校	四川农业大学
专　　业	计算机科学与技术

　　自我简介：

目标院校：上海交通大学

TA的其他文章

二分答案（简单理解）
浏览：93

求一个很大的数的所有质因子（新方法）
浏览：36

佩尔方程——模板题
浏览：22

你可能喜欢

C语言程序设计教程（第三版）课后习题10.1 （C语言代码）

深度学习——反向传播

　　作者: jimore　　　　发表时间：2022-07-31 20:23:36 浏览：36　|　评论：0　

## BP
> BP（Back-Propagation），即反向传播算法，常用于深度学习的优化参数的方法

#### 1.引例
有一个一元一次方程：$$y=wx+b$$，给定一个$$x=1.5$$和$$y_t=0.8$$，求$$w$$和$$b$$取什么值的时候，能让$$wx+b=y_t$$？
#### 2.求解方法
###### 2.1.假定初值
随便给$$w$$和$$b$$设定初值，假定$$w=0.8$$，$$b=0.2$$，带入方程算得$$y=0.8*1.5+0.2=1.4$$
###### 2.2.反向传播更新w,b
1.先定义损失函数$$L=1/2*(y-y_t)^2$$
2.求出$$w$$和$$b$$的梯度
```math
w_{gradient}=\frac{ \partial L }{ \partial w }=\frac{ \partial L }{ \partial y }\frac{ \partial y }{ \partial w }=(y-y_t)x
```
```math
b_{gradient}=\frac{ \partial L }{ \partial b }=\frac{ \partial L }{ \partial y }\frac{ \partial y }{ \partial b }=y-y_t
```
3.定义学习率$$\varepsilon$$
这里令$$\varepsilon=0.1$$
4.更新$$w$$和$$b$$
```math
w=w-w_{gradient}\varepsilon
```
```math
b=b-b_{gradient}\varepsilon
```
5.用更新好的$$w$$和$$b$$继续求$$y$$的值
**重复以上步骤，即可获得比较好的$$w$$，$$b$$**
#### 3.代码
```python
import sympy

x=1.5 # 设置x的初始值
w=0.8 # 设置w的初始值
b=0.2 # 设置b的初始值

def f(x): # 定义y和x的映射关系
    return w*x+b

y=f(x) # 设置y的初始值
y_t=0.8 # 设置y_ture的初始值

def loss(y):
    return 1/2*(y-yt)**2

lr=0.1 # 设置学习率

def BP():
    global w,b
    w_gradient=(y-y_t)*x # 求w的偏导
    b_gradient=y-y_t # 求b的偏导
    
    w=w-lr*w_gradient # 反向更新w
    b=b-lr*b_gradient # 反向更新b
    
epoch=5 # 设置训练次数

for i in range(1,epoch+1): # 开始训练
    y=f(x) # 求此时y的值
    BP() # 反向传播
    print(str(i)+"time:")
    print("w: ",w,"b: ",b)
    print("y: ",y)
    print("y_t: ",y_t)
    print("..........................")
```
结果：
```txt
1time:
w:  0.71 b:  0.14
y:  1.4000000000000001
y_t:  0.8
..........................
2time:
w:  0.64925 b:  0.0995
y:  1.205
y_t:  0.8
..........................
3time:
w:  0.60824375 b:  0.07216250000000002
y:  1.073375
y_t:  0.8
..........................
4time:
w:  0.58056453125 b:  0.05370968750000002
y:  0.984528125
y_t:  0.8
..........................
5time:
w:  0.5618810585937499 b:  0.04125403906250002
y:  0.924556484375
y_t:  0.8
..........................
```

0.0分

2 人评分

C语言网提供「C语言、C++、算法竞赛、真题百练、Python课程」在线课程，全部由资深研发工程师或ACM金牌大佬亲授课，更科学、全面的课程体系，以在线视频+在线评测的学习模式学习，学练同步，拒绝理论派，真正学会编程！还有奖学金等增值福利等你！

jimore

TA的其他文章

你可能喜欢

C语言程序设计教程（第三版）课后习题10.1 （C语言代码）

C二级辅导-阶乘数列（C语言代码）

C语言训练-排序问题<1> （C语言代码）

C语言程序设计教程（第三版）课后习题5.7 （C语言代码）

C语言训练-排序问题<2> （C++代码）

深度学习——反向传播

评论区

精彩推荐

C语言训练-立方和不等式（C语言代码）

A+B for Input-Output Practice (V) （C++代码）

妹子杀手的故事（C语言代码）

C语言程序设计教程（第三版）课后习题1.5 （C语言代码）

C语言程序设计教程（第三版）课后习题10.7 （C语言代码）

C语言程序设计教程（第三版）课后习题5.7 （C语言代码）

大家好，我是验题君

简单的a+b （C语言代码）

C语言程序设计教程（第三版）课后习题9.6 （C语言代码）

C二级辅导-阶乘数列（C语言代码）

jimore

TA的其他文章

你可能喜欢

C语言程序设计教程（第三版）课后习题10.1 （C语言代码）

C二级辅导-阶乘数列 （C语言代码）

C语言训练-排序问题<1> （C语言代码）

C语言程序设计教程（第三版）课后习题5.7 （C语言代码）

C语言训练-排序问题<2> （C++代码）

深度学习——反向传播

评论区

精彩推荐

C语言训练-立方和不等式 （C语言代码）

A+B for Input-Output Practice (V) （C++代码）

妹子杀手的故事 （C语言代码）

C语言程序设计教程（第三版）课后习题1.5 （C语言代码）

C语言程序设计教程（第三版）课后习题10.7 （C语言代码）

C语言程序设计教程（第三版）课后习题5.7 （C语言代码）

大家好，我是验题君

简单的a+b （C语言代码）

C语言程序设计教程（第三版）课后习题9.6 （C语言代码）

C二级辅导-阶乘数列 （C语言代码）

C二级辅导-阶乘数列（C语言代码）

　　评论区

C语言训练-立方和不等式（C语言代码）

妹子杀手的故事（C语言代码）

C二级辅导-阶乘数列（C语言代码）