マイコン君　機械学習のメモ

（第１回）ＭＮＩＳＴについて

Ｇ検定でも勉強したＭＮＩＳＴ。名前はしっているが、実際に動作させるとどうなるのか？実際にやってみよう！ということで機械学習メモ１回目は「ＭＮＩＳＴやってみた」です。

検索するとやり方はかなりでてるので、それらを参考にして、実際にやってみます。

まずはチュートリアルをやってみる

TensorFlowでチュートリアルを検索すると「入門者向けクイックスタート」がＭＮＩＳＴなんですよね・・・。これができないと機械学習が始まらない的な感じ。

＜使う環境＞

ａ．IDLE (Python 3.10 64-bit)　Pythonの基本ソフトでやってます。

b．ライブラリ関連　以下のバージョンを利用

tensorflow 2.8.0

numpy 1.22.2

keras 2.8.0

matplotlib 3.5.1

０.準備（１回目だけ）

MNISTのデータセットをダウンロードする必要があります。IDLEを使ってダウンロード進捗表示がおかしいので、ダウンロードが終わらないので「Python 3.10 (64-bit)」を開いてから次のコマンドを１個づつ適用します。

from tensorflow import keras

import tensorflow as tf

mnist = tf.keras.datasets.mnist

mnist.load_data()

C:\Users\＜ユーザーローカル＞\.keras\datasets

上のフォルダに「mnist.npz」が保存されます。これがMNISTのデータセットです。

ダウンロードの様子

1.プログラム

以下のコードをPythonで実行する。IDLEで実行すると機械学習中の進捗表示がおかしいので、コールバックを別に準備する必要がありました。これをやらないといくら待っても学習が終わりません。

mnist = tf.keras.datasets.mnist
import tensorflow as tf
import numpy as np
import matplotlib.pyplot as plt
from tensorflow import keras
#################################
#https://tensorflow.classcat.com/2021/10/28/keras-2-guide-writing-your-own-callbacks/
class CustomCallback(keras.callbacks.Callback):
    def on_train_begin(self, logs=None):
        keys = list(logs.keys())
        print("Starting training; got log keys: {}".format(keys))

    def on_train_end(self, logs=None):
        keys = list(logs.keys())
        print("Stop training; got log keys: {}".format(keys))

    def on_epoch_begin(self, epoch, logs=None):
        keys = list(logs.keys())
        print("Start epoch {} of training; got log keys: {}".format(epoch, keys))

    def on_epoch_end(self, epoch, logs=None):
        keys = list(logs.keys())
        print("End epoch {} of training; got log keys: {}".format(epoch, keys))

    def on_test_begin(self, logs=None):
        keys = list(logs.keys())
        print("Start testing; got log keys: {}".format(keys))

    def on_test_end(self, logs=None):
        keys = list(logs.keys())
        print("Stop testing; got log keys: {}".format(keys))

    def on_predict_begin(self, logs=None):
        keys = list(logs.keys())
        print("Start predicting; got log keys: {}".format(keys))

    def on_predict_end(self, logs=None):
        keys = list(logs.keys())
        print("Stop predicting; got log keys: {}".format(keys))

    #def on_train_batch_begin(self, batch, logs=None):
    #    keys = list(logs.keys())
    #    print("...Training: start of batch {}; got log keys: {}".format(batch, keys))

    #def on_train_batch_end(self, batch, logs=None):
    #    keys = list(logs.keys())
    #    print("...Training: end of batch {}; got log keys: {}".format(batch, keys))

    def on_test_batch_begin(self, batch, logs=None):
        keys = list(logs.keys())
        print("...Evaluating: start of batch {}; got log keys: {}".format(batch, keys))

    def on_test_batch_end(self, batch, logs=None):
        keys = list(logs.keys())
        print("...Evaluating: end of batch {}; got log keys: {}".format(batch, keys))

    def on_predict_batch_begin(self, batch, logs=None):
        keys = list(logs.keys())
        print("...Predicting: start of batch {}; got log keys: {}".format(batch, keys))

    def on_predict_batch_end(self, batch, logs=None):
        keys = list(logs.keys())
        print("...Predicting: end of batch {}; got log keys: {}".format(batch, keys))
#################################

#データセットの読み込み
mnist = tf.keras.datasets.mnist
#サンプルを整数から浮動小数点数に変換
(x_train, y_train), (x_test, y_test) = mnist.load_data()
x_train, x_test = x_train / 255.0, x_test / 255.0
#モデルの作成
model = tf.keras.models.Sequential([
  tf.keras.layers.Flatten(input_shape=(28, 28)),
  tf.keras.layers.Dense(128, activation='relu'),
  tf.keras.layers.Dropout(0.2),
  tf.keras.layers.Dense(10)
])
#学習前のモデルで予測
predictions = model(x_train[:1]).numpy()
predictions

#tf.nn.softmax 関数はクラスごとにこれらのロジットを "確率" に変換します。
tf.nn.softmax(predictions).numpy()

#損失関数
loss_fn = tf.keras.losses.SparseCategoricalCrossentropy(from_logits=True)
x=loss_fn(y_train[:1], predictions).numpy()
print(x)

model.compile(optimizer='adam',
              loss=loss_fn,
              metrics=['accuracy'])

#Model.fit メソッドは損失を最小化するようにモデルのパラメータを調整します。
model.fit(x_train, y_train, epochs=5,verbose=0, callbacks=[CustomCallback()])
#Model.evaluate メソッドはモデルの性能を検査
model.evaluate(x_test,  y_test, verbose=2)

#作成したモデルを開く
json_string=model.to_json()
open('mnist_cnn.json',"w").write(json_string)
model.save_weights('mnist_cnn.h5')

#テストデータの手書きファイルを表示する
test_data = x_test[0]
plt.imshow(test_data)
plt.show()

print(test_data.shape)
print(test_data[np.newaxis].shape)

#テストデータをモデルに入れて戻り値を表示する
pred = model.predict(test_data[np.newaxis])
x=np.argmax(pred)
print(x)

#自分の手書きファイルを表示する
from PIL import Image
img = Image.open('C:/My_Python/Tensorflow/test.png').convert('L')#アドレスは変更してください
img.thumbnail((28, 28)) # 28*28に変換
img = np.array(img) # numpy arrayに変換
test_data[np.newaxis].shape 
plt.imshow(img)
plt.show()
#自分の手書きファイルをモデルに入れて戻り値を表示する
pred = model.predict(img[np.newaxis])
x=np.argmax(pred)
print(x)
print("End")

実行すると以下の感じで実行される

Python 3.10.4 (tags/v3.10.4:9d38120, Mar 23 2022, 23:13:41) [MSC v.1929 64 bit (AMD64)] on win32
Type "help", "copyright", "credits" or "license()" for more information.

=============== RESTART: C:\My_Python\Tensorflow\Tensorflow001.py ==============
2.6929176
Starting training; got log keys: []
Start epoch 0 of training; got log keys: []
End epoch 0 of training; got log keys: ['loss', 'accuracy']
Start epoch 1 of training; got log keys: []
End epoch 1 of training; got log keys: ['loss', 'accuracy']
Start epoch 2 of training; got log keys: []
End epoch 2 of training; got log keys: ['loss', 'accuracy']
Start epoch 3 of training; got log keys: []
End epoch 3 of training; got log keys: ['loss', 'accuracy']
Start epoch 4 of training; got log keys: []
End epoch 4 of training; got log keys: ['loss', 'accuracy']
Stop training; got log keys: ['loss', 'accuracy']
313/313 - 1s - loss: 0.0771 - accuracy: 0.9774 - 706ms/epoch - 2ms/step
(28, 28)
(1, 28, 28)
7　<---これがテスト用の画像の結果
4　<---これが手書きの画像の結果

End

これがテスト用の画像ファイルです。　ちゃんと戻り値が７となっています。

これが手書きの画像ファイルです。　ちゃんと戻り値が４となっています。ペイントブラシで手書きを作成する場合は、下地が黒、数字が白で作成します。（５６ｘ５６ピクセルで作成）

Pythonの環境構築など準備する方が大変で、実際にプログラムが動けば、簡単でした。

－－－－－－－－－－－－－