Slide 47
Slide 47 text
47
● パラメータを関数の⼊出⼒としてあつかうという設計もあり得る
○ JAX の例
パラメータをグローバル変数にする必要はあるのか?
● しかしパラメータは⾮常に⼤きい場合に、実⾏時のオーバーヘッドが⼤
きくなるのでグローバル変数にしている
@jit
def update(i, opt_state, batch):
params = get_params(opt_state)
return opt_update(i, grad(loss)(params, batch), opt_state)
_, init_params = init_random_params(rng, (-1, 28 * 28))
opt_state = opt_init(init_params)