bp函数python pbi python

BP神经网络的原理的BP什么意思

人工神经网络有很多模型bp函数python，但是日前应用最广、基本思想最直观、最容易被理解的是多层前馈神经网络及误差逆传播学习算法（Error Back-Prooaeation）bp函数python，简称为BP网络。

在1986年以Rumelhart和McCelland为首的科学家出版的《Parallel Distributed Processing》一书中，完整地提出了误差逆传播学习算法，并被广泛接受。多层感知网络是一种具有三层或三层以上的阶层型神经网络。典型的多层感知网络是三层、前馈的阶层网络（图4.1），即：输入层、隐含层（也称中间层）、输出层，具体如下：

图4.1 三层BP网络结构

（1）输入层

输入层是网络与外部交互的接口。一般输入层只是输入矢量的存储层，它并不对输入矢量作任何加工和处理。输入层的神经元数目可以根据需要求解的问题和数据表示的方式来确定。一般而言，如果输入矢量为图像，则输入层的神经元数目可以为图像的像素数，也可以是经过处理后的图像特征数。

（2）隐含层

1989年，Robert Hecht Nielsno证明了对于任何在闭区间内的一个连续函数都可以用一个隐层的BP网络来逼近，因而一个三层的BP网络可以完成任意的n维到m维的映射。增加隐含层数虽然可以更进一步的降低误差、提高精度，但是也使网络复杂化，从而增加了网络权值的训练时间。误差精度的提高也可以通过增加隐含层中的神经元数目来实现，其训练效果也比增加隐含层数更容易观察和调整，所以一般情况应优先考虑增加隐含层的神经元个数，再根据具体情况选择合适的隐含层数。

（3）输出层

输出层输出网络训练的结果矢量，输出矢量的维数应根据具体的应用要求来设计，在设计时，应尽可能减少系统的规模，使系统的复杂性减少。如果网络用作识别器，则识别的类别神经元接近1，而其它神经元输出接近0。

以上三层网络的相邻层之间的各神经元实现全连接，即下一层的每一个神经元与上一层的每个神经元都实现全连接，而且每层各神经元之间无连接，连接强度构成网络的权值矩阵W。

BP网络是以一种有教师示教的方式进行学习的。首先由教师对每一种输入模式设定一个期望输出值。然后对网络输入实际的学习记忆模式，并由输入层经中间层向输出层传播（称为“模式顺传播”）。实际输出与期望输出的差即是误差。按照误差平方最小这一规则，由输出层往中间层逐层修正连接权值，此过程称为“误差逆传播”（陈正昌，2005）。所以误差逆传播神经网络也简称BP（Back Propagation）网。随着“模式顺传播”和“误差逆传播”过程的交替反复进行。网络的实际输出逐渐向各自所对应的期望输出逼近，网络对输入模式的响应的正确率也不断上升。通过此学习过程，确定下各层间的连接权值后。典型三层BP神经网络学习及程序运行过程如下（标志渊，2006）：

（1）首先，对各符号的形式及意义进行说明：

网络输入向量Pk=（a1，a2，...，an）bp函数python；

网络目标向量Tk=（y1，y2，...，yn）bp函数python；

中间层单元输入向量Sk=（s1，s2，...，sp），输出向量Bk=（b1，b2，...，bp）bp函数python；

输出层单元输入向量Lk=（l1，l2，...，lq），输出向量Ck=（c1，c2，...，cq）；

输入层至中间层的连接权wij，i=1，2，...，n，j=1，2，...p；

中间层至输出层的连接权vjt，j=1，2，...，p，t=1，2，...，p；

中间层各单元的输出阈值θj，j=1，2，...，p；

输出层各单元的输出阈值γj，j=1，2，...，p；

参数k=1，2，...，m。

（2）初始化。给每个连接权值wij、vjt、阈值θj与γj赋予区间（-1，1）内的随机值。

（3）随机选取一组输入和目标样本

提供给网络。

（4）用输入样本

、连接权wij和阈值θj计算中间层各单元的输入sj，然后用sj通过传递函数计算中间层各单元的输出bj。

基坑降水工程的环境效应与评价方法

bj=f（sj） j=1，2，...，p （4.5）

（5）利用中间层的输出bj、连接权vjt和阈值γt计算输出层各单元的输出Lt，然后通过传递函数计算输出层各单元的响应Ct。

基坑降水工程的环境效应与评价方法

Ct=f（Lt） t=1，2，...，q （4.7）

（6）利用网络目标向量

，网络的实际输出Ct，计算输出层的各单元一般化误差

。

基坑降水工程的环境效应与评价方法

（7）利用连接权vjt、输出层的一般化误差dt和中间层的输出bj计算中间层各单元的一般化误差

。

基坑降水工程的环境效应与评价方法

（8）利用输出层各单元的一般化误差

与中间层各单元的输出bj来修正连接权vjt和阈值γt。

基坑降水工程的环境效应与评价方法

（9）利用中间层各单元的一般化误差

，输入层各单元的输入Pk=（a1，a2，...，an）来修正连接权wij和阈值θj。

基坑降水工程的环境效应与评价方法

（10）随机选取下一个学习样本向量提供给网络，返回到步骤（3），直到m个训练样本训练完毕。

（11）重新从m个学习样本中随机选取一组输入和目标样本，返回步骤（3），直到网路全局误差E小于预先设定的一个极小值，即网络收敛。如果学习次数大于预先设定的值，网络就无法收敛。

（12）学习结束。

可以看出，在以上学习步骤中，（8）、（9）步为网络误差的“逆传播过程”，（10）、（11）步则用于完成训练和收敛过程。

通常，经过训练的网络还应该进行性能测试。测试的方法就是选择测试样本向量，将其提供给网络，检验网络对其分类的正确性。测试样本向量中应该包含今后网络应用过程中可能遇到的主要典型模式（宋大奇，2006）。这些样本可以直接测取得到，也可以通过仿真得到，在样本数据较少或者较难得到时，也可以通过对学习样本加上适当的噪声或按照一定规则插值得到。为了更好地验证网络的泛化能力，一个良好的测试样本集中不应该包含和学习样本完全相同的模式（董军，2007）。

相关问答

Q1: 如何用pdb进行python调试

　本文章讲述bp函数python了如何用pdb进行python调试讲解.

当手边

没有IDE,面对着python调试犯愁时,你就可以参考下本文;(pdb 命令调试)

和 (pdb)help

用pdb进行python调试,用法基本和gdb差不多,

先看一个简单的例子:

epdb1.py .# epdb1.py -- experiment with the Python debugger, pdb

a = "aaa"

b = "bbb"

c = "ccc"

final = a + b + c

print final

比如要对这个程序进行调试:

1:在文件前面加上这一句,引入调试的模块。

import pdb

2:在要开始调试的一行加上pdb.set_trace()文件变成:

# epdb1.py -- experiment with the Python debugger, pdb

import pdb

a = "aaa"

pdb.set_trace()

b = "bbb"

c = "ccc"

final = a + b + c

print final 可以运行这个程序,到断点出会停下来,和gdb类似,

可以执行命令:

直接回车是重复前一条命令!

p(print) 查看一个变量值

n(next) 下一步

s(step) 单步,可进入函数

c(continue)继续前进

l(list)看源代码

用pdb调试有多种方式可选:

1.命令行启动目标程序,加上-m参数,这样调用myscript.py的话断点就是程序的执行第一行之前

python -m pdb myscript.py

2. 在Python交互环境中启用调试

import pdb

import mymodule

pdb.run('mymodule.test()')

3.比较常用的,就是在程序中间插入一段程序,相对于在一般IDE里面打上断点然后启动debug,不过这种方式是hardcode的 if __name__ == "__main__" :

a = 1

importpdb

pdb .set_trace()

b = 2

c = a + b

print( c)

然后正常运行脚本,到了pdb.set_trace()那就会定下来,就可以看到调试的提示符(Pdb)了

常用的调试命令 h(elp),会打印当前版本Pdb可用的命令,如果要查询某个命令,可以输入 h [command],例如:"h l" - 查看list命令

l(ist),可以列出当前将要运行的代码块

(Pdb) l

497 pdb.set_trace()

498 base_data = {}

499 new_data = {}

500 try:

501 execfile(base_file_name,{},base_data)

502 - execfile(new_file_name,{},new_data)

503 except:

504 logger.writeLog("error! load result log error!")

505 print "load cmp logs error!"

506 raise Exception, "load cmp logs error!"

507断点设置

(Pdb)b10 #断点设置在本py的第10行

或(Pdb)bots.py:20 #断点设置到 ots.py第20行

删除断点(Pdb)b #查看断点编号

(Pdb)cl 2 #删除第2个断点

运行

(Pdb)n #单步运行

(Pdb)s #细点运行 也就是会下到,方法

(Pdb)c #跳到下个断点

查看

(Pdb)p param #查看当前 变量值

(Pdb)l #查看运行到某处代码

(Pdb)a #查看全部栈内变量 b(reak), 设置断点,例如 "b 77″,就是在当前脚本的77行打上断点,还能输入函数名作为参数,断点就打到具体的函数入口,如果只敲b,会显示现有的全部断点

(Pdb) b 504

Breakpoint 4 at /home/jchen/regression/regressionLogCMP.py:504 condition bpnumber [condition],设置条件断点,下面语句就是对第4个断点加上条件"a==3"

(Pdb) condition 4 a==3

(Pdb) b

Num Type Disp Enb Where

4 breakpoint keep yes at /home/jchen/regression/regressionLogCMP.py:504

stop only if a==3 cl(ear),如果后面带有参数,就是清除指定的断点(bp函数python我在Python2.4上从来没成功过!!!);如果不带参数就是清除所有的断点

(Pdb) cl

Clear all breaks? y disable/enable,禁用/激活断点

(Pdb) disable 3

(Pdb) b

Num Type Disp Enb Where

3 breakpoint keep no at /home/jchen/regression/regressionLogCMP.py:505 n(ext),让程序运行下一行,如果当前语句有一个函数调用,用n是不会进入被调用的函数体中的

s(tep),跟n相似,但是如果当前有一个函数调用,那么s会进入被调用的函数体中

c(ont(inue)),让程序正常运行,直到遇到断点

j(ump),让程序跳转到指定的行数

(Pdb) j 497

/home/jchen/regression/regressionLogCMP.py(497)com pareLog()

- pdb.set_trace() a(rgs),打印当前函数的参数

(Pdb) a

_logger =

_base = ./base/MRM-8137.log

_new = ./new/MRM-8137.log

_caseid = 5550001

_toStepNum = 10

_cmpMap = {'_bcmpbinarylog': 'True', '_bcmpLog': 'True', '_bcmpresp': 'True'} p,最有用的命令之一,打印某个变量

(Pdb) p _new

u'./new/MRM-8137.log' !,感叹号后面跟着语句,可以直接改变某个变量

q(uit),退出调试

==============================================================================================

在python中使用pdb模块可以进行调试

import pdb

pdb.set_trace()

也可以使用python -m pdb mysqcript.py这样的方式

(Pdb) 会自动停在第一行，等待调试,这时你可以看看 帮助

(Pdb) h

说明下这几个关键 命令

断点设置

(Pdb)b 10 #断点设置在本py的第10行

或(Pdb)b ots.py:20 #断点设置到 ots.py第20行

删除断点（Pdb）b #查看断点编号

(Pdb)cl 2 #删除第2个断点

运行

(Pdb)n #单步运行

(Pdb)s #细点运行 也就是会下到，方法

(Pdb)c #跳到下个断点

查看

(Pdb)p param #查看当前 变量值

(Pdb)l #查看运行到某处代码

(Pdb)a #查看全部栈内变量

(Pdb)w 列出目前call stack 中的所在层。

(Pdb)d 在call stack中往下移一层

(Pdb)u 在call stack中往上移一层。如果在上移一层之后按下 n ,则会在上移之后的一层执行下一个叙述,之前的 function call 就自动返回。

(Pdb)cl 清除指定的断点。如果没有带参数,则清除所有断点。

(Pdb)disable 取消所有断点的功能,但仍然保留这些断点。

(Pdb)enable 恢复断点的功能。

(Pdb)ignore 设定断点的忽略次数。如果没指定 count,其初始 为 0。当 count 为 0 时,断点会正常动作。若有指定 count,则每次执行到该中断, count 就少 1,直到 count 数为 0。

(Pdb)condition bpnumber [condition]

(Pdb)j(ump) lineNo. 跳到某行执行。只有在 call stack 的最底部才能作用。

(Pdb)l 列出目前所在档案中的位置。连续地 l 命令会一直列到档案结尾,可以使用指定行数或范围来打印。

(Pdb)pp 和 p 命令类似,但是使用 pprint module(没用过 pprint,详情请参考 Python Library Reference)。

(Pdb)alias 以一个"别名"代替"一群除错命令",有点类似 c/c 的 macro(详情请参考 Python Library Reference)。

(Pdb)unalias 取消某个 alias。

(Pdb)[!]statement 在目前的环境(context)中执行叙述。

Q2: BP神经网络——Python简单实现三层神经网络（Numpy）

我们将在Python中创建一个NeuralNetwork类，以训练神经元以给出准确的预测。该课程还将具有其他帮助程序功能。

1. 应用Sigmoid函数

我们将使用 Sigmoid函数 （它绘制一条“ S”形曲线）作为神经网络的激活函数。

2. 训练模型

这是我们将教神经网络做出准确预测的阶段。每个输入将具有权重（正或负）。

这意味着具有大量正权重或大量负权重的输入将对结果输出产生更大的影响。

我们最初是将每个权重分配给一个随机数。

本文参考翻译于此网站 —— 原文

Q3: python做BP神经网络，进行数据预测，训练的输入和输出值都存在负数，为什么预测值永远为正数？

因为sigmoid就是预测0到1之间的连续值。通常当二分类预测使用，你的问题是否复合二分类如果可以就把类别换成0和1就可以了，如果是做回归那就不行了，要换其他损失函数

Q4: 有没有用python实现的遗传算法优化BP神经网络的代码

下面是函数实现的代码部分：

clc

clear all

close all

%% 加载神经网络的训练样本 测试样本每列一个样本 输入P 输出T，T是标签

%样本数据就是前面问题描述中列出的数据

%epochs是计算时根据输出误差返回调整神经元权值和阀值的次数

load data

% 初始隐层神经元个数

hiddennum=31;

% 输入向量的最大值和最小值

threshold=[0 1;0 1;0 1;0 1;0 1;0 1;0 1;0 1;0 1;0 1;0 1;0 1;0 1;0 1;0 1];

inputnum=size(P,1); % 输入层神经元个数

outputnum=size(T,1); % 输出层神经元个数

w1num=inputnum*hiddennum; % 输入层到隐层的权值个数

w2num=outputnum*hiddennum;% 隐层到输出层的权值个数

N=w1num+hiddennum+w2num+outputnum; %待优化的变量的个数

%% 定义遗传算法参数

NIND=40; %个体数目

MAXGEN=50; %最大遗传代数

PRECI=10; %变量的二进制位数

GGAP=0.95; %代沟

px=0.7; %交叉概率

pm=0.01; %变异概率

trace=zeros(N+1,MAXGEN); %寻优结果的初始值

FieldD=[repmat(PRECI,1,N);repmat([-0.5;0.5],1,N);repmat([1;0;1;1],1,N)]; %区域描述器

Chrom=crtbp(NIND,PRECI*N); %初始种群

%% 优化

gen=0; %代计数器

X=bs2rv(Chrom,FieldD); %计算初始种群的十进制转换

ObjV=Objfun(X,P,T,hiddennum,P_test,T_test); %计算目标函数值

while gen

Q5: BP神经网络函数选择

神经网络不同的网络有这不同的训练函数，BP神经网络有两种训练函数，trainbp（），利用BP算法训练前向神经网络。trainbpx（），利用快速BP算法训练前向神经网络，即采用了动量或自适应学习，可减少训练时间，tansig函数是神经元的传递函数，与训练函数无关，在trainbp（）函数中含有要训练神经元的函数。

求采纳为满意回答。

bp函数python的介绍就聊到这里吧，感谢你花时间阅读本站内容，更多关于pbi python、bp函数python的信息别忘了在本站进行查找喔。