目录

引言

在进行深度学习实验的时候,可能经常会发现,虽然输入的数据都是一样的,但是输出的结果总是会有不同的波动,这主要是由于在神经网络中,很多网络层参数的初始化会涉及到随机,这个就会导致最终的结果会有一些差距,因此如果我们想要固定某一个结果,并复现这个结果,我们就需要提前设置固定的随机种子

设置

一般来说,我们可以通过对每一层的网络层设置固定的随机种子,保持结果可复现,但是显然这是比较麻烦的一件事,所以我们可以通过 tf.random.set_seed() 来全局固定CPU上的随机性,但是当我们使用GPU训练时,则无法起作用,需要通过 tensorflow-determinism库来实现在GPU上固定随机性


# pip install tensorflow-determinism
# tensorflow-determinism = 0.3.0
# tensorflow = 2.9.1

import random
import numpy as np
import tensorflow as tf 

random_seed = 42 
random.seed(random_seed )  # set random seed for python
np.random.seed(random_seed )  # set random seed for numpy
tf.random.set_seed(random_seed )  # set random seed for tensorflow-cpu
os.environ['TF_DETERMINISTIC_OPS'] = '1' # set random seed for tensorflow-gpu

原文地址:http://www.cnblogs.com/lovefisho/p/16865087.html

1. 本站所有资源来源于用户上传和网络,如有侵权请邮件联系站长! 2. 分享目的仅供大家学习和交流,请务用于商业用途! 3. 如果你也有好源码或者教程,可以到用户中心发布,分享有积分奖励和额外收入! 4. 本站提供的源码、模板、插件等等其他资源,都不包含技术服务请大家谅解! 5. 如有链接无法下载、失效或广告,请联系管理员处理! 6. 本站资源售价只是赞助,收取费用仅维持本站的日常运营所需! 7. 如遇到加密压缩包,默认解压密码为"gltf",如遇到无法解压的请联系管理员! 8. 因为资源和程序源码均为可复制品,所以不支持任何理由的退款兑现,请斟酌后支付下载 声明:如果标题没有注明"已测试"或者"测试可用"等字样的资源源码均未经过站长测试.特别注意没有标注的源码不保证任何可用性