神经网络在应用科学和工程中的应用:从基本原理到复杂的模式识别
出版时间:2010年版
丛编项: 国际电气工程先进技术译丛
内容简介
《神经网络在应用科学和工程中的应用:从基本原理到复杂的模式识别》是研究神经网络对科学数据进行模式识别的一种探索,主要介绍了神经网络的基本概念,并以图示的形式用大量的实例和个案研究结合计算机仿真对神经网络用于模式识别的各种方法进行阐述与对比。《神经网络在应用科学和工程中的应用:从基本原理到复杂的模式识别》所涉及的学科领域包括生物学、经济学、应用科学、工程、计算和商业等,研究了神经网络在线性和非线性预报、分类、聚类和预测方面的应用,并对模型开发的所有阶段和结果进行了阐述,包括数据预处理、数据维数约简、输人选择、模型开发和验证、模型不确定性评估以及对输入、误差和模型参数的灵敏度分析。《神经网络在应用科学和工程中的应用:从基本原理到复杂的模式识别》内容清晰明了,并结合了大量实例使得全书更加容易理解。《神经网络在应用科学和工程中的应用:从基本原理到复杂的模式识别》适合作为高等院校相关专业的大学生、研究生的教材及有关研究人员的参考用书。
目录
译者序
前言
致谢
作者简介
第1章 从数据到模型:理解生物学、生态学和自然系统的复杂性和挑战
1.1 概述
1.2 本书安排
参考文献
第2章 神经网络基础和线性数据分析模型
2.1 概述
2.2 神经网络及其能力
2.3 生物学的启示
2.4 神经元信息处理的建模
2.5 神经元模型和学习策略
2.5.1 作为一个简单分类器的阈值神经元
2.5.2 神经元和神经集合的学习模型
2.5.2.1 Hebbian学习
2.5.2.2 无监督学习或竞争学习
2.5.2.3 有监督学习
2.5.3 作为分类器的有监督学习的感知器
2.5.3.1 感知器学习算法
2.5.3.2 基于大量现实数据集的感知器实例:根据测定的成长年轮直径辨识鱼的起源
2.5.3.3 统计学中带有线性判别函数分析的感知器比较
2.5.3.4 多种类分类中的多输出感知器
2.5.3.5 使用感知器的高维分类
2.5.3.6 感知器小结
2.5.4 用于线性分类和预报的线性神经元
2.5.4.1 利用delta规则的学习
2.5.4.2 作为分类器的线性神经元
2.5.4.3 作为预报能力子集的线性神经元的分类属性
2.5.4.4 实例:作为预报器的线性神经元
2.5.4.5 线性预报的实例:预报一个家庭的热流
2.5.4.6 线性神经元模型与线性回归的比较
2.5.4.7 实例:多输入线性神经元模型——提高一个家庭的热流预报精确度
2.5.4.8 一个多输入线性神经元与多重线性回归的比较
2.5.4.9 多线性神经元模型
2.5.4.10 多重线性神经网络与正则相关性分析的比较
2.5.4.11 线性神经元和线性网络小结
2.6 小结
习题
参考文献
第3章 用于非线性模式识别的神经网络
3.1 概述
3.2 非线性神经元
3.2.1 神经元激励函数
3.2.1.1 S形函数
3.2.1.2 高斯函数
3.2.2 实例:利用非线性神经元对人口增长建模
3.2.3 非线性神经元与非线性回归分析的比较
3.3 单输入多层非线性网络
3.3.1 用单一非线性隐含层神经元处理
3.3.2 实例:用多非线性神经元建立循环现象模型
3.3.2.1 实例1:逼近一个方波
3.3.2.2 实例2:为物种的季节性迁移建立模型
3.4 两输入的多层感知器网络
3.4.1 用非线性神经元处理二维输入
3.4.2 网络输出
3.4.3 实例:二维预报和分类
3.4.3.1 实例1:二维非线性函数逼近
3.4.3.2 实例2:二维非线性分类模型
3.5 用非线性多层感知器网络为多维数据建模
3.6 小结
习题
参考文献
第4章 神经网络对非线性模式的学习
4.1 概述
4.2 非线性模式识别中网络的监督训练
4.3 梯度下降法和误差最小化
4.4 BP学习
4.4.1 实例:BP训练——手工计算
4.4.1.1 关于输出神经元权值的误差梯度
4.4.1.2 关于隐含神经元权值的误差梯度
4.4.1.3 梯度下降法在BP学习中的应用
4.4.1.4 批量学习:
4.4.1.5 学习率和权值更新
4.4.1.6 遍历(在线)学习
4.4.1.7 动量法
4.4.2 实例:BP学习的计算实验
4.4.3 具有多隐含神经元的单输入单输出网络
4.4.4 多输入、多隐含神经元和单输出网络
4.4.5 多输入、多隐含神经元多输出网络
4.4.6 实例:BP学习个案学习——解决一个复杂的分类问题
4.5 delta-bar-delta学习方法
4.5.1 实例:用delta-bar-delta的网络训练一手工计算
4.5.2 实例:带有动量的delta-bar-delta方法——手工计算
4.5.3 delta-bar-delta的网络训练——计算机实验
4.5.4 delta-bar-delta方法和BP方法的比较
4.5.5 实例:用delta-bar-delta方法的网络训练——一个案例研究
4.6 最速下降法
4.6.1 实例:用最速下降法的网络训练——手工计算
4.6.2 实例:用最速下降法的网络训练——计算机实验
4.7 误差最小和权值最优的二阶方法
4.7.1 QuickProp
4.7.1.1 实例:QuiekProp的网络训练——手工计算
4.7.1.2 实例:QuickProp的网络训练——计算机实验
4.7.1.3 QuiekProp与最速下降法、delta-bar-delta和BP方法的比较
4.7.2 误差最小的二阶方法的基本概念
4.7.3 高斯.牛顿方法
4.7.3.1 采用高斯-牛顿方法的网络训练——手工计算
4.7.3.2 实例:采用高斯-牛顿方法的网络训练——计算机实验
4.7.4 LM方法
4.7.4.1 实例:用LM方法的网络训练——手工计算
4.7.4.2 用LM方法的网络训练——计算机实验
4.7.5 一阶和二阶方法在使误差最小效果上的比较
4.7.6 一阶和二阶学习方法收敛性的比较
4.7.6.1 BP方法
4.7.6.2 最速下降法
4.7.6.3 高斯-牛顿方法
4.7.6.4 LM方法
4.8 小结
习题
参考文献
第5章 从数据中抽取可靠模式的神经网络模型的实现
5.1 概述
5.2 偏差-方差折中
5.3 改善神经网络的泛化
5.3.1 及早停止法的说明
5.3.1.1 任意初始权值的影响
5.3.1.2 训练好网络的权值结构
5.3.1.3 随机采样的影响
5.3.1.4 模型复杂性的影响:隐含神经元的数目
5.3.1.5 及早停止法小结
5.3.2 正规化法
5.4 通过修剪减小网络结构的复杂性
5.4.1 最优脑部损伤(OBD)
5.4.2 基于网络灵敏度方差的网络修剪
5.4.2.1 修剪权值的方差无效性应用的阐述
5.4.2.2 基于灵敏度的方差无效性修剪隐含神经元
5.5 网络对权值扰动的鲁棒性
5.6 小结
习题
参考文献
第6章 数据探测、维数约简和特征提取
6.1 概述
6.1.1 实例:关于相关输入数据的木头的热导率
6.2 数据可视化
6.2.1 散点图和柱状图的相关性
6.2.2 并行可视化
6.2.3 多维数据到二维平面的映射
6.3 变量间的相关性与协方差
6.4 数据的规范化
6.4.1 标准化
6.4.2 简单值域调整
6.4.3 白化——多维相关数据的规范化
6.5 选择相关输入
6.5.1 用于变量选择的统计手段
6.5.1.1 偏相关
6..5.1.2 多元回归与最优子集回归
……
第7章 使用贝叶斯统计的神经网络模型的不确定性评估
第8章 应用自组织映射的方法发现数据中的未知聚类
第9章 神经网络在时间序列预测中的应用
附录