Deep LearningKerasでBERTの最終4層のhidden stateをconcatする BERTのfine tuningをする際、最終4層のembeddingを使うと精度が向上する可能性がある。 サンプルコードはPytorchのばかりだったので、Tensorflow/Kerasでも再現し...2022.05.09Deep Learning
Deep LearningTensorflowでコサイン類似度のレイヤーを作る Sentence Transformerの勉強をしている時、テキストの類似度を図る指標としてコサイン類似度が出てきた。 Tensorflowにはコサイン類似度を計算するlossやmetricsはあるが、Lay...2022.05.02Deep Learning
Pythonplt.gca()を使ってpandasのplotを複数並べて楽にsubplotする pandasでdf.plot()をすると、matplotlibを使わなくても簡単にグラフを作ることが出来る。 しかし、複数のグラフを作りたくてsubplotsしようとすると途端に面倒になり、df.plot()の引数やmatp...2022.04.07Python
Deep LearningKerasのmodel.fit()で出力されるlossやmetricをloggingする kerasでmodel.fit()すると、ターミナルに出力されるエポック毎のlossやmetricをPythonでloggingしたい。 Epoch 00001: LearningRateScheduler setting ...2022.04.01Deep Learning
Deep LearningKerasのmodel.summary()をloggingする Pythonのloggingを使ってきた時、kerasのmode.summary()をログに保存したくなった。 しかし、そのままloggerの引数に与えてもNoneが帰ってきてログに記録されなかった。 import l...2022.03.31Deep Learning
Deep LearningTensorflowで DeBERTaを使おうとしたらTokenizer class DebertaV2Tokenizer does not exist or is not currently imported HuggingfaceからDeBERTaを使おうとしたら表題のエラー。 ValueError:Tokenizer class DebertaV2Tokenizer does not exist or is not curre...2022.03.29Deep Learning
LeetCode1155. Number of Dice Rolls With Target Sum k面のサイコロをn個振った時、合計値がtargetになる組み合わせの数を求める問題。 全探索する場合、1~kのどれが出るかという試行がn回繰り返され、O(K^N)となり間に合わない。 ここで、サイコロの出目を1...2022.03.16LeetCode
LeetCode貪欲法とDPで 1029. Two City Scheduling 問題はこちら。 2N人をA,Bの2つのグループ分け、均等に振り分けるために必要なコストを最小化する問題。 Aに振り分けるコスト、Bに振り分けるコストが与えられる。 貪欲法 Aに行きやすい人はAに行か...2022.03.09LeetCode
AtCoderAtCoder Beginner Contest 240の感想 リアルタイムで参加しました。 A - Edge Checker 線で結ばれていれば隣り合っているはずなので、差が1になる組み合わせが答え。 そのまま差を取ると両端の場合がコーナーケースになるので、場合分けを追加。...2022.03.04AtCoder
AtCoder再帰を使わないオイラーツアーをスタックで実装する思考過程 AtCoderをしていた時、解法でオイラーツアーという単語が出てきた。 初めて聞いた単語だったため、以下のサイトを参考に実装して思考過程を整理してみた。 深さ優先探索(DFS)を行い、訪れた頂点の順番と...2022.02.24AtCoder