在keras中model如何实现固定部分layer,训练部分layer操作(keras,model,开发技术)

时间:2024-05-10 10:16:06 作者 : 石家庄SEO 分类 : 开发技术
  • TAG :

    %E5%9C%A8keras%E4%B8%ADmodel%E5%A6%82%E4%BD%95%E5%AE%9E%E7%8E%B0%E5%9B%BA%E5%AE%9A%E9%83%A8%E5%88%86layer%2C%E8%AE%AD%E7%BB%83%E9%83%A8%E5%88%86layer%E6%93%8D%E4%BD%9C

需求:Resnet50做调优训练,将最后分类数目由1000改为500。

问题:网上下载了resnet50_weights_tf_dim_ordering_tf_kernels_notop.h6,更改了Resnet50后,由于所有层均参加训练,导致训练速度慢。实际上只需要训练最后3层,前面的层都不需要训练。

解决办法:

①将模型拆分为两个模型,一个为前面的notop部分,一个为最后三层,然后利用model的trainable属性设置只有后一个model训练,最后将两个模型合并起来。

②不用拆分,遍历模型的所有层,将前面层的trainable设置为False即可。代码如下:

注意事项:

①尽量不要这样:

layers.Conv2D(filters1, (1, 1), trainable=False)(input_tensor)

因为容易出错。。。

②加载notop参数时注意by_name=True.

补充知识:Keras关于训练冻结部分层

设置冻结层有两种方式。

(不推荐)是在搭建网络时,直接将某层的trainable设置为false,例如:

layers.Conv2D(filters1, (1, 1), trainable=False)(input_tensor)

在网络搭建完成时,遍历model.layer,然后将layer.trainable设置为False:

也可以根据layer.name来确定哪些层需要冻结,例如冻结最后一层和RNN层:

可以在实例化之后将网络层的 trainable 属性设置为 True 或 False。为了使之生效,在修改 trainable 属性之后,需要在模型上调用 compile()。

这是一个例子

在网络搭建时,可以考虑最后一个分类层命名和分类数量关联,这样当费雷数量方式变化时,model.load_weight(“weight.h6”,by_name=True)不会加载最后一层

本文:在keras中model如何实现固定部分layer,训练部分layer操作的详细内容,希望对您有所帮助,信息来源于网络。
上一篇:如何在wind10 idea中搭建go开发环境下一篇:

5 人围观 / 0 条评论 ↓快速评论↓

(必须)

(必须,保密)

阿狸1 阿狸2 阿狸3 阿狸4 阿狸5 阿狸6 阿狸7 阿狸8 阿狸9 阿狸10 阿狸11 阿狸12 阿狸13 阿狸14 阿狸15 阿狸16 阿狸17 阿狸18