【MechineLearning】笔记:神经网络中常用函数总结_()函数-程序员宅基地

技术标签: 机器学习  深度学习  神经网络  

常用激活函数 

TensorFlow 激活函数

  • .()tf.sigmoid(x) :标准的 sigmoid 函数;
  • .ℎ()tf.tanh(x) :双曲正切函数;
  • ..()tf.nn.relu(x) :修正线性函数;

TensorFlow 中其他的函数

TensorFlow 中损失优化方法

  • ..(_,_,)tf.train.GradientDescentOptimizer(learning_rate,use_locking,name) :原始梯度下降方法,唯一参数就是学习率。
  • ..tf.train.AdagradOptimizer :自适应调整学习率,累加历史梯度的平方,作为分母,防止有些方向的梯度值过大,提高优化效率,善于处理稀疏梯度。
  • ..tf.train.AdadeltaOptimizer :扩展 AdaGrad 优化方法,只累加最近的梯度值,而不对整个历史上的梯度值进行累加。
  • .....(,1,2,, ,)tf.train.AdamOptimizertf.train.AdamOptimizer.(learningrate,beta1,beta2,epsilon,use locking,name) :梯度的一阶矩估计和二阶矩估计动态调整每个参数的学习率。 Adam 是自适应矩估计(   Adaptive Moment Estimation )的首字母缩写。

scikit-learn 预处理函数

scikit−learn 数据预处理函数:

  • .()preprocessing.StandardScaler() :数据正规化( Normalization )是机器学习估计的一个常见要求,为了模型能更好地收敛,我们通常会将数据集预处理到一个零均值单位方差的高斯状分布。通常,我们会将数据的各个维度都减去它的均值,然后乘上一个非零的数。这个非零的数就是数据集的标准差。对于该任务,我们直接使用 StandardScaler ,它已经实现了我们上面提到的操作。它也保留了变换操作,让我们可以直接用在测试集上。
  • ._()StandardScaler.fit_transform() :将数据调整到所需要的形式。 StandardScaler 对象会存储数据变化的变量,这样我们可以把数据解正规化到原先的格式。
  • _.__cross_validation.train_test_split :该方法能够将数据集分割成训练集和测试集。我们只需要提供两者的比例,该方法能够自动帮我们处理。

 

版权声明:本文为博主原创文章,遵循 CC 4.0 BY-SA 版权协议,转载请附上原文出处链接和本声明。
本文链接:https://blog.csdn.net/weixin_44566432/article/details/111539773

智能推荐

操作系统 第二章【记录型信号量机制、独木桥问题】【MOOC答案】_简述生产者消费者问题的解决方案,并说明用记录型信号量机制解决生产者消费者-程序员宅基地

文章浏览阅读5.2k次,点赞3次,收藏23次。操作系统 第二章【记录型信号量机制、独木桥问题】【MOOC答案】_简述生产者消费者问题的解决方案,并说明用记录型信号量机制解决生产者消费者

Android Studio某些编译错误处理_only jar-type local dependencies are supported-程序员宅基地

文章浏览阅读4k次。Studio 有时候真的很奇怪,明明项目几天前都运行好好的,某天等你再次打开运行,就会出现特殊错误。现总结一些错误现象,减少开发人员不必要的时间浪费。第一个错误:Error:Failed to resolve: annotationProcessor如果你百度,你会发现大家说和butterknife 或者是apt等有问题,然后叫你更新google仓库。这种方案我试验过,但是往往都不凑效,请仔..._only jar-type local dependencies are supported

Cargo invocation has failed: Error: exit code: 101.解决办法_spurious network error-程序员宅基地

文章浏览阅读4.5k次。Rust语言在VS Code中编辑Rust “ Thebook ” 中第二章 “ 猜猜看 ”游戏代码时,尝试在cargo.toml 中添加rand依赖项,即cargo.toml[dependencies]rand = "0.7.3"在命令行键入$cargo build之后,发现了Cargo invocation has failed: Error: exit code: 101.这样一条弹窗提醒,提示crate启用失败。OUTPUT窗口提示如下:Running `cargo buil_spurious network error

制作一个广告字幕滚动效果的网页的心路历程_网页的滚动广告-程序员宅基地

文章浏览阅读823次。先看效果刚开始的需求是,制作一个类似电视广告字幕的效果,我没什么思路,后来看了字幕的实现方式,就是用css动画的移动实现,于是我开始了对这段动画的驾驭。我们写一个外面的块,宽度是100%,再写一个里面的块,再里面的块里放置内容。内容部分暂且不管,我主要讲实现思路。<body> <div id="app"> <template> <div class="marquee-outer-wrapper"&g._网页的滚动广告

RBF径向基神经网络多输入单输出的MATLAB实现_rbfs-程序员宅基地

文章浏览阅读161次。通过选择合适的径向基函数和调节相关参数,我们可以构建一个有效的神经网络模型,并利用其进行预测和函数逼近。输入层用于接收输入数据,隐藏层包含一组径向基函数,用于进行特征映射,输出层用于产生最终的预测结果。首先,我们需要准备训练数据。其中,P是输入数据,T是输出数据,goal是目标训练误差,spread是径向基函数的宽度参数,MN是隐藏层神经元的最小和最大数量,DF是隐藏层神经元扩展的步长。函数创建了一个RBF神经网络,设置了目标训练误差为0.1,径向基函数的宽度参数为1,隐藏层神经元的数量范围为10到15。_rbfs

燕大通勤车-程序员宅基地

文章浏览阅读50次。一,每一辆成功的燕大通勤车上,都有一个玩命的司机。二,燕大通勤车的空间就像海绵,挤挤总会有的。三,挤是一个客观发展的必然过程,比如说你在一二组团之间等车觉得车挤,往回走一站上车,到了大坡下站牌还得挤。四,大三学生:我的理想就是在我离校之前能挤上一次通勤车。五,先上车被踩,后上者踩其上。六,不是看谁先上车,坐到最后的才是赢家。七,上了燕大通勤车,把孟婆汤一喝,今生今世所有的痛苦都忘了。八,“阴间怎么...

随便推点

NoSQL数据库简介-程序员宅基地

文章浏览阅读1.7k次。在当前大数据时代,传统的关系型数据库已经无法满足日益增长的数据存储和查询需求。为了应对这一挑战,NoSQL(Not Only SQL)数据库应运而生。NoSQL数据库是一种非关系型数据库,它具有高度可扩展性、灵活的数据模型和出色的性能表现。本博客将深入探讨NoSQL数据库的概念、设计原则、常见分类以及主要优缺点,帮助你更好地理解和应用NoSQL数据库技术。NoSQL数据库是一类非关系型的、分布式的、非结构化或半结构化的数据存储系统。_nosql数据库

2. SDK与链码实现-程序员宅基地

文章浏览阅读2.4k次。2.1 创建 config.yaml 文件确认 Hyperledger Fabric 基础网络环境运行没有问题后,现在我们通过创建一个新的 config.yaml 配置文件给应用程序所使用的 Fabric-SDK-Go 配置相关参数及 Fabric 组件的通信地址进入项目的根目录中创建一个 config.yaml 文件并编辑$ cd $GOPATH/src/github.com/kongyi...

多元预测|开普勒算法优化注意力机制卷积神经网络结合双向门控循环单元KOA-Attention-CNN-biGRU实现光伏预测附matlab代码-程序员宅基地

文章浏览阅读1.4k次,点赞9次,收藏10次。光伏预测是光伏发电系统稳定运行和电网安全的重要保障。本文提出了一种基于开普勒算法优化注意力机制卷积神经网络结合双向门控循环单元(KOA-Attention-CNN-biGRU)的光伏预测模型。该模型通过开普勒算法优化注意力机制,增强了模型对光伏时间序列数据的局部特征提取能力;同时,结合双向门控循环单元,充分利用了光伏时间序列数据的长期依赖关系,提高了预测精度。在北神山光伏电站实际数据上的实验结果表明,所提出的模型在预测精度和鲁棒性方面均优于传统的光伏预测模型。引言。

2016,自律又惊喜的一年-程序员宅基地

文章浏览阅读143次。2016年度目标完成情况跑步,完成一次半程马拉松(已完成)练成六块腹肌(未完成,只有一块腹肌,应该是七分吃,三分练)趁早效率手册、三只青蛙、番茄工作法、践行GTD、100小时定律(践行效率不高,但基本都在做)敢于表达自我,专注于演讲技能 ,10次演讲 (8/10)英语能力提升,练习口语和阅读(上半年是以英语单词打卡为主,下半年是以英语每日一句,英语麦克风打卡,听的用开言英语,阅读是...

Pandas基础介绍-程序员宅基地

文章浏览阅读945次,点赞19次,收藏20次。Pandas 是一个开源的数据分析和数据处理库,它是基于 Python 编程语言的。Pandas 提供了易于使用的数据结构和数据分析工具,特别适用于处理结构化数据,如表格型数据(类似于Excel表格)。Pandas 是数据科学和分析领域中常用的工具之一,它使得用户能够轻松地从各种数据源中导入数据,并对数据进行高效的操作和分析。Pandas官网地址Pandas文档。_pandas

mac webrtc android,WebRTC 开发(五)编译与运行 Mac 工程-程序员宅基地

文章浏览阅读151次。Last login: Fri Oct 18 20:59:20 on ttys000The default interactive shell is now zsh.To update your account to use zsh, please run `chsh -s /bin/zsh`.For more details, please visit https://support.apple..._ardexternalsamplecapturer