Manchmal sehe ich Arbeiten mit Hyperparameter-Sweeps über 0,001, 0,003, 0,006, 0,01 usw. Viele Hyperparameter lassen sich besser in negativen ganzzahligen Log2-Werten ausdrücken. Kleine Werte wie Lernraten direkt und Werte nahe 1 wie EMA-Faktoren und TD-Lambda / Gamma mit 1-2**val. Es ist interessant, wie viele Parameter relativ unempfindlich auf Verdopplungen oder Halbierungen reagieren und größere Änderungen benötigen, um die Ergebnisse zuverlässig zu beeinflussen.