Semantic Segmentationにおける再現性の確保

現在以下のurlを参考に自分で用意したデータセットを使用して解析を行っています．

https://jp.mathworks.com/help/releases/R2018a/vision/examples/semantic-segmentation-using-deep-learning.html

このとき，全く同じ条件で解析を行っても値の微小変化が生じます．

どのようにすれば，実験の再現性を確保することができるのでしょうか？

Answer 1

[Kenta]

毎回結果が微妙にちがうのは乱数が原因だと思います。例えば、semantic segmentationのネットワークの初期値や各エポックでのサンプルのシャッフルの具合など複数のランダムな行程が含まれます。また、フォルダの画像全体を訓練（・検証）・テストに分けているのなら、その別れ具合でも変化が生じます。こちらは、あらかじめフォルダわけしておき、そのほかの要因は

rngをうまく使えば制御できるかもしれません。しかし、実行ごとの差が小さいのであれば、それはそれでしかたのないのかもしれません。何かすべての実行において固定されるべき内容などがあるのでしょうか？内容によってはほかの工夫で解決できるかもしれません。

https://jp.mathworks.com/help/matlab/ref/rng.html#d120e1008095

[Kodai Sato]

各エポックのシャッフルをなしにして実行してみましたがやはり値はわずかに変動しました．

また，トレーニングデータとテストデータに無作為に分ける際，何度やり直しても同じ画像が分類されることを確認しました．

[Kenta]

ネットワークの初期値はどうなってますか？

[Kodai Sato]

申し訳ありません．

どこで確認することができますか？

[Kenta]

https://jp.mathworks.com/matlabcentral/answers/383761-how-can-i-modify-weights-in-a-seriesnetwork-of-a-cnn-model#answer_306330

https://jp.mathworks.com/matlabcentral/answers/412549-correct-weight-initialization-in-cnn

https://jp.mathworks.com/help/deeplearning/ref/nnet.cnn.layer.fullyconnectedlayer.html

上などをみてみてください、deep network designerでも確認できます

[Kenta]

こぢら、deep network designerで見たときの例です。weight initializerがheになっているので、これはheの初期値methodで重みの初期値が生成されていることを意味します。このように、ネットワークの重みは一定のルールのもとでランダムに生成されるのでこれが毎回結果が少し違う原因の1つと思われます

[Kodai Sato]

返信が遅れて申し訳ありません

丁寧なご返信ありがとうございます