DAY 13 Tensorflow 自制数据集 数据加强 断点续训

自制数据集代码如下：

1. import tensorflow as tf
2. from PIL import Image
3. import numpy as np
4. import os
6. train_path = './mnist_image_label/mnist_train_jpg_60000/'
7. train_txt = './mnist_image_label/mnist_train_jpg_60000.txt'
8. x_train_savepath = './mnist_image_label/mnist_x_train.npy'
9. y_train_savepath = './mnist_image_label/mnist_y_train.npy'
11. test_path = './mnist_image_label/mnist_test_jpg_10000/'
12. test_txt = './mnist_image_label/mnist_test_jpg_10000.txt'
13. x_test_savepath = './mnist_image_label/mnist_x_test.npy'
14. y_test_savepath = './mnist_image_label/mnist_y_test.npy'
17. def generateds(path, txt):
18.     f = open(txt, 'r')  # 以只读形式打开txt文件
19.     contents = f.readlines()  # 读取文件中所有行
20.     f.close()  # 关闭txt文件
21.     x, y_ = [], []  # 建立空列表
22.     for content in contents:  # 逐行取出
23.         value = content.split()  # 以空格分开，图片路径为value[0] , 标签为value[1] , 存入列表
24.         img_path = path + value[0]  # 拼出图片路径和文件名
25.         img = Image.open(img_path)  # 读入图片
26.         img = np.array(img.convert('L'))  # 图片变为8位宽灰度值的np.array格式
27.         img = img / 255.  # 数据归一化 （实现预处理）
28.         x.append(img)  # 归一化后的数据，贴到列表x
29.         y_.append(value[1])  # 标签贴到列表y_
30.         print('loading : ' + content)  # 打印状态提示
32.     x = np.array(x)  # 变为np.array格式
33.     y_ = np.array(y_)  # 变为np.array格式
34.     y_ = y_.astype(np.int64)  # 变为64位整型
35.     return x, y_  # 返回输入特征x，返回标签y_
38. if os.path.exists(x_train_savepath) and os.path.exists(y_train_savepath) and os.path.exists(
39.         x_test_savepath) and os.path.exists(y_test_savepath):
40.     print('-------------Load Datasets-----------------')
41.     x_train_save = np.load(x_train_savepath)
42.     y_train = np.load(y_train_savepath)
43.     x_test_save = np.load(x_test_savepath)
44.     y_test = np.load(y_test_savepath)
45.     x_train = np.reshape(x_train_save, (len(x_train_save), 28, 28))
46.     x_test = np.reshape(x_test_save, (len(x_test_save), 28, 28))
47. else:
48.     print('-------------Generate Datasets-----------------')
49.     x_train, y_train = generateds(train_path, train_txt)
50.     x_test, y_test = generateds(test_path, test_txt)
52.     print('-------------Save Datasets-----------------')
53.     x_train_save = np.reshape(x_train, (len(x_train), -1))
54.     x_test_save = np.reshape(x_test, (len(x_test), -1))
55.     np.save(x_train_savepath, x_train_save)
56.     np.save(y_train_savepath, y_train)
57.     np.save(x_test_savepath, x_test_save)
58.     np.save(y_test_savepath, y_test)
60. model = tf.keras.models.Sequential([
61.     tf.keras.layers.Flatten(),
62.     tf.keras.layers.Dense(128, activation='relu'),
63.     tf.keras.layers.Dense(10, activation='softmax')
64. ])
66. model.compile(optimizer='adam',
67.               loss=tf.keras.losses.SparseCategoricalCrossentropy(from_logits=False),
68.               metrics=['sparse_categorical_accuracy'])
70. model.fit(x_train, y_train, batch_size=32, epochs=5, validation_data=(x_test, y_test), validation_freq=1)
71. model.summary()

复制代码

第一次运行时，由于没有进行数据集的训练，以是会先实行generateds函数，然后生成.npy格式的数据集。第二次运行时，由于第一次运行已经生成了数据集，体系会检测到数据集，进而实行数据的训练。
数据加强：
我们可能会因为拍照角度，阴影的种种原因导致数据的效果并不是那么好，以是可以引入数据加强。

image_gen_train.fit(x_train)   这里的fit须要输入一个四位数据，以是须要对x.train进行reshape处理。处理后可以把6万张，28行28列的数据 新增加一个通道为1的数据。这里的通道1指的是灰度值，之后就按照batch打包送入model.fit实行训练过程。
代码：

1. import tensorflow as tf
2. from tensorflow.keras.preprocessing.image import ImageDataGenerator
4. mnist = tf.keras.datasets.mnist
5. (x_train, y_train), (x_test, y_test) = mnist.load_data()
6. x_train, x_test = x_train / 255.0, x_test / 255.0
7. x_train = x_train.reshape(x_train.shape[0], 28, 28, 1)  # 给数据增加一个维度,从(60000, 28, 28)reshape为(60000, 28, 28, 1)
9. image_gen_train = ImageDataGenerator(
10.     rescale=1. / 1.,  # 如为图像，分母为255时，可归至0～1
11.     rotation_range=45,  # 随机45度旋转
12.     width_shift_range=.15,  # 宽度偏移
13.     height_shift_range=.15,  # 高度偏移
14.     horizontal_flip=False,  # 水平翻转
15.     zoom_range=0.5  # 将图像随机缩放阈量50％
16. )
17. image_gen_train.fit(x_train)
19. model = tf.keras.models.Sequential([
20.     tf.keras.layers.Flatten(),
21.     tf.keras.layers.Dense(128, activation='relu'),
22.     tf.keras.layers.Dense(10, activation='softmax')
23. ])
25. model.compile(optimizer='adam',
26.               loss=tf.keras.losses.SparseCategoricalCrossentropy(from_logits=False),
27.               metrics=['sparse_categorical_accuracy'])
29. model.fit(image_gen_train.flow(x_train, y_train, batch_size=32), epochs=5, validation_data=(x_test, y_test),
30.           validation_freq=1)
31. model.summary()

复制代码

断点续训很简单，就是可以生存训练的结果，使你在下次预测的时候不须要重新训练数据集，直接利用存放在本地的训练结果进行预测就行。

1. import tensorflow as tf
2. import os
4. mnist = tf.keras.datasets.mnist
5. (x_train, y_train), (x_test, y_test) = mnist.load_data()
6. x_train, x_test = x_train / 255.0, x_test / 255.0
8. model = tf.keras.models.Sequential([
9.     tf.keras.layers.Flatten(),
10.     tf.keras.layers.Dense(128, activation='relu'),
11.     tf.keras.layers.Dense(10, activation='softmax')
12. ])
14. model.compile(optimizer='adam',
15.               loss=tf.keras.losses.SparseCategoricalCrossentropy(from_logits=False),
16.               metrics=['sparse_categorical_accuracy'])
18. checkpoint_save_path = "./checkpoint/mnist.ckpt"
19. if os.path.exists(checkpoint_save_path + '.index'):
20.     print('-------------load the model-----------------')
21.     model.load_weights(checkpoint_save_path)
23. cp_callback = tf.keras.callbacks.ModelCheckpoint(filepath=checkpoint_save_path,
24.                                                  save_weights_only=True,
25.                                                  save_best_only=True)
27. history = model.fit(x_train, y_train, batch_size=32, epochs=5, validation_data=(x_test, y_test), validation_freq=1,
28.                     callbacks=[cp_callback])
29. model.summary()

复制代码

save_weights_only   只生存模型参数
save_best_only 只生存最优模型
fit中加入callback，返回给history





免责声明：如果侵犯了您的权益，请联系站长，我们会及时删除侵权内容，谢谢合作！更多信息从访问主页：qidao123.com:ToB企服之家，中国第一个企服评测及商务社交产业平台。