train 한스텝 할때마다 (not 에폭)
gradient_stop 에서 loss값을 계산하기 위한 expected latency를 구해야한다.
실제로 latency를 측정한다면 cost가 많이 들것이므로 이부분을 예측하는 모델을 설계
acsys01/02.yonsei.ac.kr
CPU: AMD Ryzen 7 3700X 8-core Processor * 16
GPU: GeForce RTX 2060 SUPER * 2
lscpu
nvidia-smi -q
CPU: Intel(R) Xeon(R) Silver 4214 CPU @ 2.20GHz * 48