Python Pythonでmath.floor()とmath.ceil()の誤差を回避する
Pythonでは割り算をすると返り値はfloatとなる。 floatの精度は倍精度の64bitで、16桁ほどしか精度が担保されない。 一方で整数型は精度の上限がなく、何桁でも精度が保たれる。 整数には精度の制限がありません。浮動小数点型はた...
Python
Linux
その他
その他
Linux
Deep Learning
その他
Python
AtCoder
Python