Deep Learning

Deep Learning

Tensorflowのif文でusing a `tf.Tensor` as a Python `bool` is not allowed:

tf.kerasでcustom layerを書いていた時、ある確率でランダムに水増しを行う関数を書いていた。 model.fitを実行した際に表題のエラーが発生。 OperatorNotAllowedInGraphEr...
Deep Learning

keras.layers.GaussianNoiseでノイズが追加されない

Jupyter Notebookでkeras.layers.GaussianNoiseを使ってみた所、なんのnoiseも付与されなかったので調べてみた。 まずは公式ドキュメント。 Call argume...
Deep Learning

回帰分析でStratifiedKFoldの交差検証を行う

機械学習を行う際、交差検証(Cross Validation, CV)に基づいてモデルの良し悪しを判断することが多い。 クラス分類であればStratifiedKFoldがそのまま使えるが、回帰の場合は工夫が必要になる。 ...
Deep Learning

TensorflowでOperatorNotAllowedInGraphError: using a `tf.Tensor` as a Python `bool` is not allowed in Graph execution. Use Eager execution or decorate this function with @tf.function.

tf.data.TFRecordDatasetでmapを使った時に表題のエラー。 mapしたい処理内容を単純化すると以下のような内容。 import tensorflow.experimental.numpy as t...
2021.09.07
Deep Learning

TPUでTensorflow Hubの重みを使おうとしたらUnsuccessful TensorSliceReader constructor: Failed to get matching files on /tmp/tfhub_modules/

ColabのTPUでTensorflow Hubの重みを使おうとしたら表題のエラー hub.KerasLayer(' Unsuccessful TensorSliceReader constructor: Fa...
Deep Learning

Kaggle Indoor Location & Navigation 15位 解法

KaggleのIndoorコンペにチームで参加し、1170チーム中の15位で上位2%の銀メダルをゲット出来ました。 振り返りも兼ねて解法をまとめようと思います。 チームメイト ...
2021.05.28
Deep Learning

StyleGAN2-adaでValueError: not enough image data

以下のリポジトリのStyleGAN2-ada でグレースケール画像を学習した重みを使って generate.py を実行した時に表題のエラー generate.py の最後の方にPILを使った...
Deep Learning

DockerでPyTorchを実行するとRuntimeError: NCCL error unhandled system error, NCCL version 2.8.3

DockerでPyTorchを動かした際に表題のエラー。 ベースイメージはこれ。 FROM nvcr.io/nvidia/pytorch:20.12-py3 エラーログを見てみると nccl...
Deep Learning

PyTorchでCUDA error: no kernel image is available for execution on the device

CUDAを11.1に更新した後にPyTorchを実行した際に表題のエラー。 CUDA10だと通常の pip install torch torchvision torchaudio で良いようだが、11.1はバージョ...
Deep Learning

Tensorflow/KerasでCNNのChannel AttentionとSpatial Attention

CNNに使えるAttentionとして、Convolutional Block Attention Moduleがある。 チャンネル方向のアテンションと空間方向のアテンションを組み合わせることで重み付き特徴マップを作成し、C...
2021.03.18
タイトルとURLをコピーしました