CUDA_VISIBLE_DEVICES=0 lm_eval --model hf \
    --model_args pretrained="" \
    --tasks wikitext,openbookqa,arc_easy,winogrande,hellaswag,arc_challenge,piqa,boolq,social_iqa,lambada_openai \
    --device cuda \
    --routing       \
    --trust_remote_code \
    --use_cache None \