Deep LearningKerasでBERTの最終4層のhidden stateをconcatする
BERTのfine tuningをする際、最終4層のembeddingを使うと精度が向上する可能性がある。 サンプルコードはPytorchのばかりだったので、Tensorflow/Kerasでも再現し...
Deep Learning
Deep LearningTensorflowでコサイン類似度のレイヤーを作る
Sentence Transformerの勉強をしている時、テキストの類似度を図る指標としてコサイン類似度が出てきた。 Tensorflowにはコサイン類似度を計算するlossやmetricsはあるが、Lay...
Pythonplt.gca()を使ってpandasのplotを複数並べて楽にsubplotする
pandasでdf.plot()をすると、matplotlibを使わなくても簡単にグラフを作ることが出来る。 しかし、複数のグラフを作りたくてsubplotsしようとすると途端に面倒になり、df.plot()の引数やmatp...
Deep LearningKerasのmodel.fit()で出力されるlossやmetricをloggingする
kerasでmodel.fit()すると、ターミナルに出力されるエポック毎のlossやmetricをPythonでloggingしたい。 Epoch 00001: LearningRateScheduler setting ...
Deep LearningKerasのmodel.summary()をloggingする
Pythonのloggingを使ってきた時、kerasのmode.summary()をログに保存したくなった。 しかし、そのままloggerの引数に与えてもNoneが帰ってきてログに記録されなかった。 import l...
Deep LearningTensorflowで DeBERTaを使おうとしたらTokenizer class DebertaV2Tokenizer does not exist or is not currently imported
HuggingfaceからDeBERTaを使おうとしたら表題のエラー。 ValueError:Tokenizer class DebertaV2Tokenizer does not exist or is not curre...
LeetCode1155. Number of Dice Rolls With Target Sum
k面のサイコロをn個振った時、合計値がtargetになる組み合わせの数を求める問題。 全探索する場合、1~kのどれが出るかという試行がn回繰り返され、O(K^N)となり間に合わない。 ここで、サイコロの出目を1...
LeetCode貪欲法とDPで 1029. Two City Scheduling
問題はこちら。 2N人をA,Bの2つのグループ分け、均等に振り分けるために必要なコストを最小化する問題。 Aに振り分けるコスト、Bに振り分けるコストが与えられる。 貪欲法 Aに行きやすい人はAに行か...
AtCoderAtCoder Beginner Contest 240の感想
リアルタイムで参加しました。 A - Edge Checker 線で結ばれていれば隣り合っているはずなので、差が１になる組み合わせが答え。 そのまま差を取ると両端の場合がコーナーケースになるので、場合分けを追加。...
AtCoder再帰を使わないオイラーツアーをスタックで実装する思考過程
AtCoderをしていた時、解法でオイラーツアーという単語が出てきた。 初めて聞いた単語だったため、以下のサイトを参考に実装して思考過程を整理してみた。 深さ優先探索（DFS）を行い、訪れた頂点の順番と...