lora_alpha: 256
lora_bias: none
lora_dropout: 0.05
lora_r: 128
lora_weight_path: ''
q_lora: false
use_lora: true
use_vision_lora: false
vision_lora_alpha: 16
vision_lora_r: 16