Python

[Python] optimizer와 scheduler 변경

shvtr159 2022. 11. 26. 16:01

학습에 optimzier와 scheduler를 사용하다 특정 학습 시점부터 재시작할 때 learning rate나 gamma를 곱해주는 시점을 바꾸고 싶을 때가 있습니다.

이럴 때는 각각 변수명이 optimizer, scheduler라고 하면 아래와 같이 변경해주면 됩니다.

learning rete 변경

optimizer.param_groups[0]['lr'] = 0.01

gamma를 곱해주는 시점(milestones) 변경

scheduler의 milestones이 Counter 타입이기 때문에 Counter를 import 해주시고 아래와 같이 원하는 값으로 바꿔주시면 됩니다. 

from collections import Counter

scheduler.milestones = Counter([10, 20, 30, 40, 50])