[Pytorch] Optimizer learning rate 가져오기

다음과 같이 lr_shceduler에서 lr을 가져올 수 있다.

optimizer.step()
lr_scheduler.step()

# get learning rate
lr = lr_scheduler.get_last_lr()
# or
lr = lr_scheduler.optimizer.param_groups[0]['lr']

하위 버전에서는 lr_scheduler.get_lr() 도 실행되지만 상위 버전에서는 get_lr()이 deprecated될거라고 warning이 뜬다.

[ref]

https://stackoverflow.com/questions/52660985/pytorch-how-to-get-learning-rate-during-training/52671057