随着大语言模型（LLMs）规模扩展至数百亿参数，微调LLMs的成本也在不断增加，即使是参数高效的微调方法如LoRA也依然需要大量资源。作者提出了LowRA，这是第一个能够实现每参数低于2比特的LoRA微调且性能损失最小的框架。LowRA优