ハイパーパラメータスイープが0.001、0.003、0.006、0.01などを超える論文を時々見かけます。多くのハイパーパラメータは、負の積分log2でより適切に表されます。学習率などの小さな値と、1-2**valのEMA係数やTDラムダ/ガンマのように1に近い値。 興味深いのは、2倍または半減に比較的鈍感で、結果を確実に動かすためにより大きな変更が必要なパラメータがどれだけあるかということです。