Python OptunaでValueError: CategoricalDistribution does not support dynamic value space.
OptunaでTensorflow/Kerasのハイパーパラメータを探索している時に表題のエラー。 traial.suggest_categoricalのパラメータを少し変えて再実行したが、optuna.create_studyの引数sto...
2021-03
Python 
Python Optunaで枝刈りしながら複数GPUでKerasをチューニング
ニューラルネットを構築する際、ハイパーパラメータの選択をする場面が多々ある。 人力やグリッドサーチでは取りこぼしがあるかもしれないので、ベイズ最適化を使ったライブラリ optuna でハイパーパラメータチューニングを行いたい。 並列で最適化...
Deep Learning Tensorflow/KerasでCNNのChannel AttentionとSpatial Attention
CNNに使えるAttentionとして、Convolutional Block Attention Moduleがある。 チャンネル方向のアテンションと空間方向のアテンションを組み合わせることで重み付き特徴マップを作成し、CNNの認識精度を...
Deep Learning KerasでカスタムAUC、カスタムAccuracyを実装する
10クラスの画像分類をするモデルを構築していた時、精度改善のために拡張して11クラス分類のモデルを構築した。 しかし、評価は元々の10クラスで行いたかったので、custom metricsのクラスを実装した。 例えばカスタムAUCだと以下の...