mkdir -p results/apps



MODEL_TYPE=llama-3.1
MODEL_SIZE=70b-ins



with_keywords=1



python generate.py \
    --model_type $MODEL_TYPE \
    --model_size $MODEL_SIZE \
    --greedy \
    --root outputs \
    --dataset $TASK \
    --backend vllm \
    --tp 4\
    --evalperf_type instruct \
    --with_keywords 1
