迁移学习与微调

import numpy as np
import keras
from keras import layers
import tensorflow_datasets as tfds
import matplotlib.pyplot as plt

layer = keras.layers.Dense(3)
layer.build((None, 4))  # 创建权重

print("weights:", len(layer.weights))
print("trainable_weights:", len(layer.trainable_weights))
print("non_trainable_weights:", len(layer.non_trainable_weights))

layer = keras.layers.BatchNormalization()
layer.build((None, 4))  # 创建权重

print("weights:", len(layer.weights))
print("trainable_weights:", len(layer.trainable_weights))
print("non_trainable_weights:", len(layer.non_trainable_weights))

layer = keras.layers.Dense(3)
layer.build((None, 4))  # 创建权重
layer.trainable = False  # 冻结层

print("weights:", len(layer.weights))
print("trainable_weights:", len(layer.trainable_weights))
print("non_trainable_weights:", len(layer.non_trainable_weights))

# 创建一个包含2层的模型
layer1 = keras.layers.Dense(3, activation="relu")
layer2 = keras.layers.Dense(3, activation="sigmoid")
model = keras.Sequential([keras.Input(shape=(3,)), layer1, layer2])

# 冻结第一层
layer1.trainable = False

# 保留layer1权重的副本以便后续参考
initial_layer1_weights_values = layer1.get_weights()

# 训练模型
model.compile(optimizer="adam", loss="mse")
model.fit(np.random.random((2, 3)), np.random.random((2, 3)))

# 检查layer1的权重在训练期间是否未改变
final_layer1_weights_values = layer1.get_weights()
np.testing.assert_allclose(
    initial_layer1_weights_values[0], final_layer1_weights_values[0]
)
np.testing.assert_allclose(
    initial_layer1_weights_values[1], final_layer1_weights_values[1]
)

inner_model = keras.Sequential(
    [
        keras.Input(shape=(3,)),
        keras.layers.Dense(3, activation="relu"),
        keras.layers.Dense(3, activation="relu"),
    ]
)

model = keras.Sequential(
    [
        keras.Input(shape=(3,)),
        inner_model,
        keras.layers.Dense(3, activation="sigmoid"),
    ]
)

model.trainable = False  # 冻结外层模型

assert inner_model.trainable == False  # `model`中的所有层现在都被冻结
assert inner_model.layers[0].trainable == False  # `trainable`是递归传播的

base_model = keras.applications.Xception(
    weights='imagenet',  # 加载在ImageNet上预训练的权重。
    input_shape=(150, 150, 3),
    include_top=False)  # 不包含顶部的ImageNet分类器。

base_model.trainable = False

inputs = keras.Input(shape=(150, 150, 3))
# 我们确保基本模型在这里以推理模式运行，
# 通过传递`training=False`。这对于微调很重要，正如您将在接下来的段落中学习到的。
x = base_model(inputs, training=False)
# 将形状为`base_model.output_shape[1:]`的特征转换为向量
x = keras.layers.GlobalAveragePooling2D()(x)
# 一个带有单个单元的Dense分类器（二分类）
outputs = keras.layers.Dense(1)(x)
model = keras.Model(inputs, outputs)

model.compile(optimizer=keras.optimizers.Adam(),
              loss=keras.losses.BinaryCrossentropy(from_logits=True),
              metrics=[keras.metrics.BinaryAccuracy()])
model.fit(new_dataset, epochs=20, callbacks=..., validation_data=...)

# 解冻基础模型
base_model.trainable = True

# 在您对任何内部层的 `trainable` 属性进行任何更改后重新编译模型很重要，以便您的更改
# 能够被考虑到
model.compile(optimizer=keras.optimizers.Adam(1e-5),  # 非常低的学习率
              loss=keras.losses.BinaryCrossentropy(from_logits=True),
              metrics=[keras.metrics.BinaryAccuracy()])

# 端到端训练。小心在过拟合之前停止！
model.fit(new_dataset, epochs=10, callbacks=..., validation_data=...)

tfds.disable_progress_bar()

train_ds, validation_ds, test_ds = tfds.load(
    "cats_vs_dogs",
    # 保留 10% 用于验证和 10% 用于测试
    split=["train[:40%]", "train[40%:50%]", "train[50%:60%]"],
    as_supervised=True,  # 包含标签
)

print(f"训练样本数量: {train_ds.cardinality()}")
print(f"验证样本数量: {validation_ds.cardinality()}")
print(f"测试样本数量: {test_ds.cardinality()}")

 下载数据集 786.68 MiB (下载: 786.68 MiB, 生成: 未知大小, 总计: 786.68 MiB) 到 /home/mattdangerw/tensorflow_datasets/cats_vs_dogs/4.0.0...

警告:absl:1738 张图片已损坏并被跳过

 数据集 cats_vs_dogs 已下载并准备好在 /home/mattdangerw/tensorflow_datasets/cats_vs_dogs/4.0.0. 后续调用将重用此数据。
训练样本数量: 9305
验证样本数量: 2326
测试样本数量: 2326