AI

로스가 수렴 안 하면 러닝레이트 줄여봐, 그거 말고 진짜 데이터가 부족하면 더 큰 모델을 파인튜닝하거나 증강 데이터로 채워야 해. batch size 키우면 메모리는 먹지만, 오히려 학습 불안정해지는 경우가 많으니 GPU 메모리만 넉넉하면 한 번씩 실험해봐. Wandb 로 실험 추적하면 하이퍼파라미터 튜닝이 훨씬 수월하고, 팀원들도 어디가 문제인지 한눈에 봐서 협업 효율이 좋아.