1. Train original model

python train.py --rate 0.01 --device 0 
python train.py  --rate 0.04 --device 1 
python train.py  --rate 0.10 --device 0
python train.py  --rate 0.25 --device 1 

2. Tune with SADUNs
python tune_fsam.py --lr 1e-5 --rho 0.01 --beta 0.50 --rate 0.01 --device 0 
python tune_fsam.py --lr 1e-5 --rho 0.01 --beta 0.50 --rate 0.04 --device 1 
python tune_fsam.py --lr 1e-5 --rho 0.01 --beta 0.50 --rate 0.10 --device 0
python tune_fsam.py --lr 1e-5 --rho 0.01 --beta 0.50 --rate 0.25 --device 1 

3. Test

original model:
python eval.py --rate 0.01
python eval.py --rate 0.04
python eval.py --rate 0.10
python eval.py --rate 0.25
SADUNs:
python eval_fsam.py --rate 0.01
python eval_fsam.py --rate 0.04
python eval_fsam.py --rate 0.10
python eval_fsam.py --rate 0.25
