Keras Tuner& Transfer Learning

Posted on In Word count in article: 248 Reading time ≈ 1 mins.

看起来这个东西可以让我炼丹更快一点

Keras Tuner

这个东西需要独立安装，python3.6+和tensorflow2.0+

1
pip install keras-tuner --upgrade

一个快速上手的例子

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
from tensorflow import keras
from tensorflow.keras import layers


def build_model(hp):
    model = keras.Sequential()
    model.add(layers.Flatten())
    model.add(
        layers.Dense(
            # Define the hyperparameter.
            units=hp.Int("units", min_value=32, max_value=512, step=32),
            activation="relu",
        )
    )
    model.add(layers.Dense(10, activation="softmax"))
    model.compile(
        optimizer="adam", loss="categorical_crossentropy", metrics=["accuracy"],
    )
    return model

接着定义一个tuner

1
2
3
4
tuner = kt.RandomSearch(
    build_model,
    objective='val_loss',
    max_trials=5)

接着开始就行

1
2
tuner.search(x_train, y_train, epochs=5, validation_data=(x_val, y_val))
best_model = tuner.get_best_models()[0]

来康康细节

实际上上面那个和我要做的并不太一样

我要做的是调节模型参数，而不是超参数

如果不需要超参数的话，那要做的可能就是重新fit，也就是常说的transfer learning了

#　Transfer Learning

在上一篇里已经写了一点

然后我重新看了下发现真的非常简单

只要把需要训练的参数固定好，然后重新调用fit就行了