"BOKU"のITな日常

還暦越えの文系システムエンジニアの”BOKU”は新しいことが大好きです。

AI-ニューラルネットワークコンソール

1.4.0から使えるエラー(誤分類)解析と推論結果のソート/Neural Network Consoleの使い方

Neural Network Console1.4.0の追加機能で、前から何でないのかなと思ってたものがあったので、試してみました。

EXCELで分類に失敗したデータの一覧表を作って確認する方法/Neural Network Consoleの使い方

Neural Network Consoleは、評価結果の明細が「output_result.csv」に出力します。これをうまく使うと、正しく評価できなかったデータとそうでないデータを振り分けて、原因調査や改善検討にやくだつ情報を得ることができます。

レイヤーの出力を眼で見て確認(Convolution/Max Pooling)/Neural Network Consoleの使い方

SONYのNeural Network ConsoleでSquaredErrorを使い、Max Epoch 0で学習・評価実行します。今回はCNN関連レイヤーの加工結果のモニタをやってみます。

レイヤーの出力を眼で見て確認(Affine、Sigmoid、Tanh、ReLu)/Neural Network Consoleの使い方

SONYのNeural Network Consoleの少し裏技っぽい使い方です。SquaredErrorを使い、Max Epoch 0で学習・評価実行すると加工結果のモニタができるので、ちょっとそれで遊んでみます。

Ver1.20から追加された「ユニット機能」を使ってみる/Neural Network Consoleの使い方

Neural Network Consoleの新機能「ユニット機能」を使ってみました。

学習済パラメータを引き継ぎ追加学習する2つの方法を試す/Neural Network Consoleの使い方

Neural Network Consoleで自動的に試行錯誤してくれた結果を引き継いで、発展させていく2つの方法を試してみます。

過学習抑制「Weight Decay」はSGDと相性が良く、Adamと良くない?/Neural Network Consoleの使い方

Neural Network Consoleで、Weight Decayを使った過学習抑制と、Optimizerとの相性の検証をざっくりやってみます。

ネットワーク構造自動最適化機能を試してみる(その2)/Neural Network Consoleの使い方

Neural Network Consoleの自動最適化機能をちゃんと使ってみました。なかなか、興味深かったです。

ネットワーク構造の自動最適化機能を試してみる(その1)/Neural Network Consoleの使い方

Neural Network Consoleの自動最適化機能をとりあえず使ってみて、わかったことあれこれ。

日別売上の予測っぽい事に再チャレンジ。CNNでやってみた/Neural Network Consoleの使い方

Neural Network Consoleで「予測っぽいことをやってみる」の前回のアプローチが問題ありだったので、今回はリベンジです。

学習時のレイヤー毎の処理時間計測機能(Profile)を試す/Neural Network Consoleの使い方

Neural Network Consoleのprofile機能を使ってみました。

少ない学習データと複雑で深いモデルの組合せは最悪!を体験/Neural Network Consoleの使い方

学習データの量が十分でなくて精度があがらない時、複雑なモデルを使ってなんとかしようとしたら、余計ひどい目にあう。今回は、常識的に言われていることを、実際にやって体感してみました。

CNNの認識精度向上に学習データ(画像)の水増しは効果あり/Neural Network Consoleの使い方

今回は、少ない(1カテゴリあたり40枚~60枚しかない)カラー画像データを、水増しして、前回71%と散々だった学習精度向上にチャレンジしてみます。

CNNで3カテゴリ分類(モノクロ画像とカラー画像の違い)/Neural Network Consoleの使い方

久しぶりに画像分類に戻ります。今回は、カルフォルニア工科大学が機械学習用に配布してくれている「Computational Vision At CALTECH」のカラー画像データを使います。

LSTMで売上の予測っぽいことを試みる時の失敗例。(;^_^A。/Neural Network Consoleの使い方

LSTMユニットを使って、もう少し予測っぽいこと・・例えば未来の売上予測みたいな・・ができないか?を試してみることにします。

LSTM(Long Short-Term Memory)ユニットでSINカーブトレース/Neural Network Consoleの使い方

LSTM(Long Short-Term Memory)ユニットを使ったRNNで、予測みたいなことをやってみます。シンプルRNNとの差がどの程度あるか?を試します。

シンプルRNN「elman_net」でSINカーブトレースをやってみる/Neural Network Consoleの使い方

シンプルRNN(Recurrent Neural Network)のサンプル「elman_net.sdcprj」をちょっと変更して、回帰問題・・予測っぽいこと・・をやってみます。

RNNの種類/サンプルでシンプルRNNの「elman_net」を体験する/Neural Network Consoleの使い方

RNNの概要とニューラルネットワークコンソールでSimpleRNNのサンプルを動かしてみます。

CNNにBatchNormalizationを適用して認識精度向上効果を試す/Neural Network Consoleの使い方

BatchNormalization(ニューラルネットワークコンソール)で、BatchNormalizationで学習精度が向上するかを試してみます。

CNN(Convolutional Neural Network)の原型「LeNet」を体験する/Neural Network Consoleの使い方

ニューラルネットワークコンソール(Neural Network Console)で、CNNを発明したLuCun先生のLeNetを試してみます。

サンプルでオートエンコーダ(AUTO_ENCODER)を体験する/Neural Network Consoleの使い方

Neural Network Console(ニューラルネットワークコンソール)で、特徴量を自己学習して補正するAUTO_ENCODERを試します。

MeanSubtractionレイヤーのCNNの認識精度向上効果を試す/Neural Network Consoleの使い方

Neural Network Console(ニューラルネットワークコンソール)で、画像を前処理してから学習させて、学習精度が本当にあがるのかを確認してみます。

ImageAugmentationレイヤーで画像を加工した結果を確認する/Neural Network Consoleの使い方

Neural Network Console(ニューラルネットワークコンソール)で、画像データ・セットを加工して、出力の変化を遊んでみたいと思います。

オリジナル画像で新規データ・セットを追加する/Neural Network Consoleの使い方

Neural Network Console(ニューラルネットワークコンソール)で、オリジナルの画像を使って、新規データ・セットを作成します。

過学習をわざと発生させて問題点の確認と改善手段を試す/Neural Network Consoleの使い方

Neural Network Console(ニューラルネットワークコンソール)で、「過学習」がどういう状態なのかと、それを抑制する技術について試します

Epoch数とミニバッチサイズの解説と、変化させた時の精度の変化/Neural Network Consoleの使い方

Neural Network Console(ニューラルネットワークコンソール)で、学習回数や学習単位を変えることで、学習精度が変わっていくのを体験します。

重み(Wait)の初期値の種類と使い分け及び「Optimizer」の種類/Neural Network Consoleの使い方

Neural Network Console(ニューラルネットワークコンソール)で、重み(W)の初期値の与え方と、Optimizerの違いで学習精度が変わるのを試します。

シンプルなCNN(Convolutional Neural Network)を組んでみる/Neural Network Consoleの使い方

Neural Network Console(ニューラルネットワークコンソール)で、同じレイヤーでも組み方で学習精度が変化するのを体験してみます。

レイヤーの層を単純に深くしても、精度は向上しないことを確認する/Neural Network Consoleの使い方

Neural Network Console(ニューラルネットワークコンソール)で、ニューラルネットワークの階層を単純に深くした時に学習精度の変化を試します。

オリジナルテキストデータで新規プロジェクト追加/Neural Network Consoleの使い方

Neural Network Console(ニューラルネットワークコンソール)で、オリジナルのテキストデータ(CSV)を新規データ・セットとして登録してみます。